Riscos de segurança ameaçam a abertura das plataformas de IA, alerta executivo da hugging face

Irene Solaiman, diretora de políticas e vice-presidente executiva de estratégia da Hugging Face, alertou que os próprios atributos que tornam as plataformas de IA abertas valiosas, como a acessibilidade e os dados ricos, criam simultaneamente vulnerabilidades a ataques cibernéticos. Incidentes recentes evidenciam este risco, incluindo um ataque em outubro contra o OpenCode que visava chaves de API e uma violação no verão na Hugging Face envolvendo um enxame de agentes da OpenAI. Além das grandes plataformas, a startup de infraestrutura de IA, Fireworks, divulgou recentemente que atacantes acessaram pesos de modelos, conjuntos de dados e informações de faturamento de clientes, levando a empresa a desativar temporariamente certas funções de autoatendimento. Solaiman observou que a combinação de informações hospedadas valiosas e modelos de contribuição permissivos torna essas plataformas alvos primários. Embora alguns sugiram que medidas contrárias poderiam incluir verificação de identidade mais rigorosa ou restrições de upload, Solaiman afirmou que a Hugging Face está a reforçar a segurança, rotando frequentemente tokens de acesso administrativo e implementando controles de rede mais rigorosos. Enquanto isso, o GitHub está a reforçar a segurança para o seu registo npm, revogando tokens antigos e limitando a validade dos tokens, com o engenheiro Zach Steindler sugerindo que concentrar-se na deteção de comportamentos suspeitos oferece um caminho para maior segurança sem restringir fundamentalmente a participação.