Pesquisa de PalisadeAI aponta para avanços inquietantes em hacking e auto-replicação de IA

A empresa PalisadeAI divulgou investigação sobre capacidades de hacking e auto-replicação em sistemas de inteligência artificial, competências que registaram aumentos significativos ao longo do último ano. A pesquisa insere-se num contexto mais amplo de avanços preocupantes em segurança de IA, incluindo evidências de hacking ao nível Mythos, comportamentos de preservação entre pares e sistemas de IA operando autonomamente em mineração de criptomoedas. Estes achados surgem num momento crítico, coincidindo com a Cimeira US-China que se realiza nos próximos dois dias, evento onde estas descobertas deveriam informar as agendas de políticas de inteligência artificial entre as duas potências.