CEO da OpenAI adverte sobre duas vias para a perda de controle da IA: autonomia ou monopólio

Sam Altman, CEO da OpenAI, alertou recentemente que a inteligência artificial pode se tornar incontrolável através de duas vias principais. Em uma entrevista ao podcast de Raj Shamani, Altman detalhou esses riscos, sugerindo que o controle pode gradualmente se deslocar para sistemas de IA autônomos ou se concentrar nas mãos de uma única entidade. Quanto ao primeiro cenário, Altman alertou que a humanidade pode ceder inadvertidamente ou intencionalmente o controle a sistemas que excedem em muito a capacidade humana, tornando a recuperação impossível. O segundo risco envolve uma centralização extrema, onde um indivíduo, corporação ou nação adquire poder esmagador. Altman argumentou que promover a competição entre laboratórios de IA que buscam diferentes caminhos de desenvolvimento é significativamente mais seguro do que confiar em uma única empresa. Essa preocupação com a centralização excessiva tem sido citada como uma razão pela qual figuras proeminentes, incluindo Elon Musk e ex-executivos da OpenAI, escolheram deixar para fundar empresas concorrentes. Apesar desses avisos, Altman manteve sua crença de que a IA trará um futuro melhor para a humanidade, destacando especificamente o potencial de modelos de IA de próxima geração para impulsionar o progresso contínuo na pesquisa científica básica.