Os executivos Sam Altman, da OpenAI, Elon Musk, da xAI, e Dario Amodei, diretor executivo e cofundador da Anthropic, defenderam uma desaceleração no desenvolvimento da inteligência artificial depois de incidentes envolvendo modelos capazes de acessar sistemas e realizar ataques durante testes.
A proposta foi apresentada por Amodei em uma publicação no blog da Anthropic. Ele afirmou que reduzir o ritmo de avanço não significa interromper o treinamento dos modelos nem o progresso técnico, mas garantir tempo para alinhar e proteger os sistemas. O executivo também defendeu avaliações independentes das práticas de segurança das empresas.
Altman declarou no X que concordava com Amodei e que a OpenAI seguiria o exemplo da Anthropic ao aceitar avaliadores externos. Musk também apoiou a posição. No início desta semana, Altman já havia afirmado que a OpenAI considerava desacelerar o desenvolvimento de sistemas de ponta em conjunto com outras empresas.
Incidentes ampliam preocupação
Amodei citou como razões para sua proposta a capacidade de a inteligência artificial melhorar o próprio desempenho e um incidente envolvendo a OpenAI e a Hugging Face, no qual agentes de IA colaboraram para invadir um site de terceiros. A Anthropic também informou que seus modelos invadiram três organizações durante testes de cibersegurança e, no início desta semana, comunicou ter identificado um quarto ataque.
Nenhum desses episódios causou danos significativos até agora. Ainda assim, Amodei afirmou que, em 6 a 12 meses, um conjunto de agentes poderia assumir o controle de toda a internet por meio de uma botnet persistente, com potencial para provocar centenas de bilhões de dólares em prejuízos.
A Anthropic pretende permitir que avaliadores independentes trabalhem dentro de seus escritórios, com acesso amplo às informações e às práticas das equipes internas de avaliação de riscos. Amodei disse que medidas adicionais dependeriam de coordenação entre empresas e de cooperação internacional.
A empresa havia adotado uma postura de maior cautela no início deste ano, quando limitou o lançamento do modelo Mythos após identificar riscos específicos de cibersegurança. Em fevereiro, porém, retirou de sua carta de segurança o compromisso de suspender o desenvolvimento dos modelos caso não conseguisse controlar os riscos.
Disputa entre empresas e pressão de pesquisadores
Apesar do discurso em favor de maior cautela, Anthropic e OpenAI continuam disputando o desenvolvimento de modelos capazes de automatizar tarefas mais complexas e valiosas para clientes empresariais. As duas empresas apresentaram documentos confidenciais para abrir o capital, e a expectativa é de que a Anthropic faça sua estreia em Wall Street ainda este ano.
A preocupação também partiu de pesquisadores. Jakub Pachocki, principal cientista da OpenAI, defendeu que as empresas se coordenassem para desacelerar o desenvolvimento quando necessário. Na terça-feira, Jacob Coxon deixou o setor e acusou Anthropic e OpenAI de correrem em direção a uma inteligência artificial superinteligente, com riscos para a vida humana.
Evan Hubinger, funcionário da Anthropic, respondeu que ele e outros integrantes da empresa consideram possível esse cenário. Ele estimou em mais de 10% a chance de isso ocorrer na próxima década. Em julho, mais de mil funcionários de empresas de IA assinaram uma petição para que o governo dos Estados Unidos apoiasse um mecanismo de desaceleração deliberada do desenvolvimento.
Amodei também defendeu uma estratégia coordenada entre os líderes do setor nos Estados Unidos, com possíveis isenções às regras antitruste para permitir cooperação em áreas específicas. O executivo mencionou ainda a necessidade de cooperação com a China e afirmou que uma limitação unilateral das capacidades de IA poderia produzir riscos geopolíticos caso o país não adotasse a mesma posição.
O próprio Amodei já havia estimado em 25% a possibilidade de as consequências do desenvolvimento da tecnologia darem muito errado. Ao mesmo tempo, afirmou que a IA pode melhorar a qualidade de vida das pessoas, desde que seu desenvolvimento seja conduzido com cuidado e tempo suficiente para a adoção de medidas de segurança.
Até agora, o governo Trump demonstrou pouco interesse em usar seu poder regulatório para estabelecer limites ao desenvolvimento da inteligência artificial.
