Especialistas avaliam os riscos da IA: ameaças nucleares e preocupações com a governança dominam o debate sobre segurança

Uma pesquisa com dez especialistas em segurança da IA revelou ampla preocupação com os perigos potenciais, com poucos adotando uma visão excessivamente otimista. Os principais riscos destacados incluem a integração de IA com erros em operações nucleares, o que um especialista considerou extremamente urgente, e o potencial para ataques biológicos habilitados por IA, que poderiam reduzir drasticamente o tempo necessário para produzir patógenos. Os painelistas expressaram ceticismo em relação a uma pausa no desenvolvimento da IA, observando que as grandes corporações estão intimamente ligadas a estruturas capitalistas. Embora algumas fontes acreditassem que os governos seriam muito lentos para regular, o cientista da computação Yoshua Bengio instou o público a pressionar os políticos. As preocupações também se concentraram na concentração de poder na corrida EUA-China e no perigo de 'democratizar a IA' sem uma governança correspondente. Riscos específicos mencionados incluem vulnerabilidades de cibersegurança, com um especialista observando que a infraestrutura não adotou novas defesas nos últimos anos, e o perigo de vazamentos de laboratório, onde os assistentes de IA poderiam reduzir as barreiras para experimentos perigosos. Por outro lado, um engenheiro de segurança rejeitou a noção de extinção humana como um risco exagerado, insistindo que as alegações devem ser falsificáveis e verificáveis, contrastando isso com os rigorosos padrões desenvolvidos durante o Projeto Manhattan.