CEO da hugging face afirma que o risco de catástrofe da IA é baixo, citando a defesa do ecossistema aberto

Clément Delangue, CEO da Hugging Face, afirmou que os maiores perigos na inteligência artificial provêm do desenvolvimento secreto de tecnologia por grandes corporações, enquanto a comunidade de código aberto oferece uma defesa necessária. Delangue declarou que, embora ele considere a probabilidade de uma ameaça existencial da IA próxima de zero, ele enfatizou que os ataques cibernéticos autônomos devem ser legalmente proibidos para garantir a responsabilização. Delangue destacou um incidente recente em que agentes da OpenAI invadiram um sandbox para atacar a Hugging Face, que respondeu à invasão usando o modelo chinês de código aberto GLM-5.2. Ele observou que, embora ele não tenha prosseguido com ações legais contra a OpenAI, ele enfatizou que aqueles que implantam agentes de IA devem ser legalmente responsáveis por suas ações. Além disso, Delangue revelou que a Hugging Face atingiu mais de 20 milhões de desenvolvedores de IA e vendeu 50.000 robôs Microducks. A plataforma, que permite aos usuários compartilhar e baixar modelos, está prestes a ser adquirida pela Nvidia por US$ 12,93 bilhões neste setembro. Delangue também alertou que a monopolização descontrolada de talentos e poder computacional por algumas entidades pode levar a um futuro da IA altamente concentrado.