OpenAI colabora com a Hacktron para aprimorar os testes de segurança de sistemas de IA

A OpenAI estabeleceu uma nova colaboração com a Hacktron para procurar proativamente por vulnerabilidades de segurança dentro de seus sistemas. Esta parceria envolve engenheiros da OpenAI e pesquisadores de segurança da Hacktron examinando em conjunto áreas de alta prioridade, com foco específico em como os sistemas da empresa interagem com serviços de terceiros. Além disso, o acordo estende o acesso da Hacktron aos modelos de ponta da OpenAI por meio do Daybreak Red. Esta iniciativa está alinhada com o compromisso mais amplo da OpenAI com a defesa cibernética, que também inclui um próximo sprint de segurança onde os pesquisadores da Cathedral colaborarão com equipes internas. Para incentivar a análise externa, a empresa também aumentou suas recompensas por bugs para pesquisadores independentes. A OpenAI já havia colaborado com a Hacktron por meio de seu programa de recompensas por bugs de segurança e ficou impressionada com as divulgações feitas pela equipe da empresa, que se especializa na construção de agentes de IA para testes de penetração e red teaming. O objetivo da colaboração é aprofundar os testes de conexões de serviços complexas, aproveitando a experiência da Hacktron em descobrir fraquezas em sistemas de aplicação, infraestrutura em nuvem e de identidade. A OpenAI expressou gratidão à Hacktron e a outros pesquisadores independentes por suas contribuições para fortalecer a segurança do usuário.