A criação de inspeções internacionais para acompanhar as capacidades dos modelos de inteligência artificial (IA) foi uma das propostas apresentadas por Dario Amodei, fundador da Anthropic, ao Conselho de Segurança da Organização das Nações Unidas (ONU). Ele também defendeu testes mundiais para riscos de perda de controle e um sistema unificado de notificação de incidentes relevantes para a segurança internacional.
A reunião marcou a primeira vez que questões de segurança da tecnologia foram levadas diretamente ao conselho. Para Amodei, a governança da IA é o problema de segurança global mais urgente da atualidade. Ele pediu que os países deixem de lado divergências geopolíticas e afirmou que nenhum líder, empresa ou nação consegue administrar o tema sozinho.
Entre as medidas sugeridas pelo executivo está um acordo universal para proibir o uso de IA no desenvolvimento ou na produção de armas biológicas. As inspeções, segundo ele, permitiriam aos Estados verificar as capacidades dos modelos de fronteira e os compromissos assumidos entre as nações.
Sam Altman, fundador da OpenAI, concentrou sua fala em dois riscos: a perda de controle sobre os sistemas e a concentração de poder. Ele afirmou que modelos podem avançar em velocidade suficiente para dificultar o acompanhamento, a supervisão e a intervenção humanas. Uma das preocupações citadas é o autoaperfeiçoamento recursivo, pelo qual sistemas criariam autonomamente novas gerações de modelos mais poderosos. Essa capacidade ainda não é possível, mas preocupa especialistas.
Altman também alertou para a possibilidade de uma pessoa, empresa ou nação usar os modelos mais avançados para impor sua visão de mundo à sociedade. Para ele, decisões estratégicas não devem ser tomadas isoladamente em laboratórios. O executivo propôs padrões nacionais e internacionais complementares para medir capacidades, avaliar riscos, verificar salvaguardas e preservar uma supervisão humana significativa à medida que os sistemas se tornem mais autônomos.
Antes dos dois executivos, Yoshua Bengio, copresidente do Painel Científico Independente da ONU sobre IA, disse que as empresas reconhecem riscos catastróficos em seus produtos, mas ainda não apresentam soluções técnicas convincentes. Para ele, a disputa comercial por modelos mais potentes resulta de escolhas das próprias companhias.
Apesar da defesa de cooperação global, OpenAI e Anthropic já afirmaram que os Estados Unidos devem liderar o tema. A OpenAI publicou propostas de governança e defendeu a colaboração internacional para criar padrões técnicos globais. Amodei, ao apresentar suas propostas, disse concordar que uma liderança chinesa em IA representaria perigo para os Estados Unidos e para o mundo. Entre suas sugestões estão o bloqueio de chips para a China, a fiscalização da técnica de destilação e o combate ao roubo de configurações de modelos.
Os dois executivos se comprometeram a desacelerar unilateralmente o desenvolvimento da tecnologia. Ainda assim, OpenAI e Anthropic lançaram novos modelos na terça (22): o GPT-6 Luna e o GPT-6 Sol, da OpenAI, e o Claude Opus 5.5, da Anthropic. Altman rejeitou a ideia de que as empresas estejam presas a uma corrida incapaz de ser desacelerada.
