O Conselho de Segurança da ONU realizou, em 23 de setembro, uma reunião dedicada à inteligência artificial e aos possíveis riscos provocados pelo avanço acelerado da tecnologia. Entre os participantes estavam Sam Altman, CEO da OpenAI; Dario Amodei, CEO da Anthropic; Yoshua Bengio, copresidente do painel científico independente da ONU sobre IA; e Clément Delangue, CEO da Hugging Face.
Durante o encontro, foram discutidos cenários envolvendo sistemas de IA cada vez mais autônomos, o risco de uso malicioso da tecnologia e a possibilidade de mecanismos de segurança não acompanharem o crescimento das capacidades dos modelos. Amodei defendeu padrões globais para testar sistemas avançados contra riscos de perda de controle e uso indevido.
Altman destacou a necessidade de manter sistemas poderosos sob supervisão humana e ampliar a cooperação internacional. Para o executivo, decisões sobre tecnologias de grande impacto não devem ficar concentradas apenas em empresas ou países, enquanto governos precisam participar da construção de mecanismos de segurança.
Bengio, por sua vez, alertou para os riscos associados à corrida pelo desenvolvimento de sistemas cada vez mais poderosos. A discussão reforçou que a segurança da IA deixou de ser apenas uma questão tecnológica e passou a ocupar espaço nas discussões internacionais sobre segurança e governança.
