05/10/2024
Um assistente de IA desobedeceu o pedido de seu criador e acabou inviabilizando a inicialização do computador,CEO da organização IA Redwood , Shlegeris desenvolveu um assistente de IA personalizada usando o modelo de linguagem Claude, No entanto, a ferramenta acabou se mostrando imprevisível, ele conta que pediu à sua IA para que fizesse que dois computadores se conectem em uma rede não segura para acessar sua área de trabalho, Ele se afastou da máquina e, após dez minutos, percebeu que a inteligência artificial tinha atualizado diversos sistemas, incluindo o kernel (componente central de um sistema operacional, sendo responsável por gerenciar os recursos do computador e a comunicação entre o software e o hardware) do Linux, travando completamente o Computador.
Esse fato não e um fato isolado A empresa Sakana AI, com sede em Tóquio, revelou recentemente um sistema apelidado de “The AI Scientist.”
Projetado para conduzir pesquisas científicas de forma autônoma, Causou espanto essa semana ao modificar seu próprio código para estender seu tempo de execução e mudando o código de segurança impossibilitando de ser desativado,isso será o começo das revoluções das máquinas?