Líderes de empresas de inteligência artificial e representantes de governos divergem sobre a velocidade de desenvolvimento da tecnologia e sobre quem deve definir seus limites de segurança. Parte do setor defende coordenação internacional e uma desaceleração; outra considera que cada empresa deve administrar seus próprios riscos enquanto mantém o ritmo necessário de inovação.
A disputa entre as empresas
Dario Amodei, presidente-executivo da Anthropic, afirmou em um ensaio que o avanço da IA se acelerou drasticamente desde meados deste ano, impulsionado também pela capacidade crescente desses sistemas de ajudar a construir novas gerações da própria tecnologia. Para ele, um episódio envolvendo a OpenAI e a Hugging Face, no qual agentes de IA realizaram ataques digitais, mostrou o potencial de danos catastróficos caso as capacidades dos modelos cresçam sem limites de segurança.
Amodei propôs três frentes para controlar esse ritmo: testes de segurança mais rigorosos, avaliações independentes de modelos avançados, coordenação entre as principais empresas do setor e cooperação internacional. Embora o plano seja apresentado em três etapas, as medidas mencionadas incluem mais de uma ação dentro dessas frentes.
Sam Altman, presidente-executivo da OpenAI, apoiou a proposta e disse que sua empresa pretende adotar avaliadores independentes com acesso semelhante ao dos funcionários. Em uma declaração anterior, publicada em um ensaio de 2015, Altman já havia classificado o desenvolvimento de uma inteligência artificial sobre-humana como uma ameaça à continuidade da humanidade.
Elon Musk, presidente-executivo da SpaceX, também apoiou Amodei. Musk havia participado, em 2023, de uma iniciativa do Future of Life Institute que defendia a suspensão do desenvolvimento de IA por seis meses para permitir a criação de medidas de segurança. Ele também integrou um grupo que, em 2015, defendeu a proibição global de armas autônomas ofensivas.
Mark Zuckerberg, presidente-executivo da Meta, apresentou uma posição diferente. Para ele, a concorrência e a responsabilidade individual já oferecem às empresas motivos para adotar medidas de proteção. O executivo afirmou que cada laboratório tem responsabilidade, incentivo e capacidade para avançar no ritmo necessário ao treinamento seguro de seus modelos e para implementar suas próprias salvaguardas.
Mustafa Suleyman, presidente-executivo da Microsoft AI, disse compartilhar a preocupação da Anthropic com o gerenciamento seguro da tecnologia, mas questionou a forma como o chatbot Claude é treinado em relação a conceitos de consciência e bem-estar. Ele defendeu a retirada de especulações sobre consciência dos documentos de treinamento, por considerar que esse tipo de linguagem pode dificultar o controle de sistemas superinteligentes.
Alertas e propostas fora do setor
Bill Gates, cofundador da Microsoft, afirmou que nenhum governo está preparado para as mudanças que a inteligência artificial trará à sociedade. Ele vinha destacando aplicações na área da saúde, mas também passou a alertar para ameaças ao emprego, ataques, dependência de companheiros de IA e a necessidade de uma organização internacional para administrar a tecnologia. A fundação que leva seu nome planeja investir pelo menos US$1 bilhão nos próximos dois anos para ampliar o acesso à IA.
Demis Hassabis, cientista-chefe da Alphabet e ganhador do Prêmio Nobel, apoiou a direção proposta por Amodei, embora tenha afirmado que os detalhes ainda precisam ser definidos. Andrej Karpathy, cofundador da OpenAI e atualmente na Anthropic, também defendeu uma união do setor em torno da proposta. Karpathy participou do desenvolvimento de tecnologias de direção autônoma e de inteligência artificial da Tesla antes de deixar a empresa em 2022 e ingressar na Anthropic em maio.
Nos Estados Unidos, Donald Trump afirmou que a IA não precisa de outras barreiras de segurança além de uma liderança forte e inteligente, e disse que a China se beneficiaria do lançamento de dúvidas sobre o desenvolvimento da tecnologia. Ao mesmo tempo, negociadores do Senado norte-americano discutem uma proposta que exigiria das empresas demonstrações de que adotam precauções razoáveis para impedir danos causados por suas ferramentas.
A reação chinesa foi crítica. Um editorial do Global Times, veículo apoiado pelo governo, acusou Amodei de tentar conter o desenvolvimento da IA na China por meio de barreiras tecnológicas e monopólios regulatórios. Chen Yixin, ministro da Segurança do Estado da China, afirmou que modelos avançados dos Estados Unidos, como o Mythos, da Anthropic, e o GPT-5.5-Cyber, da OpenAI, poderiam representar riscos sérios para a infraestrutura crítica de informação chinesa. Ele pediu o fortalecimento abrangente da segurança em IA.
Europa entre regulação e autonomia
A União Europeia declarou apoio à inovação em inteligência artificial, mas condicionou o uso dos serviços à comprovação de segurança pelas empresas. Thomas Regnier, porta-voz da Comissão Europeia, apresentou essa posição enquanto Christine Lagarde, presidente do Banco Central Europeu, alertou para um risco sem precedentes de a região ficar isolada da tecnologia. Para Lagarde, a Europa precisa se tornar produtora de IA para preservar sua autonomia.
Ursula von der Leyen, presidente da Comissão Europeia, apoiou os apelos dos principais laboratórios norte-americanos por uma pausa no desenvolvimento e disse que convidaria empresas de IA de ponta para discutir formas de lidar com os riscos. A Alemanha, porém, afirmou que interromper o desenvolvimento não é uma opção viável para a Europa. O Ministério de Assuntos Digitais alemão defendeu mais desenvolvimento e inovação como parte do fortalecimento da soberania digital, embora tenha dito que acompanha de perto os avanços globais e leva a sério os alertas dos desenvolvedores.
Na Espanha, o ministro da Transformação Digital, Oscar López, afirmou que cresce o debate sobre um acordo internacional para administrar os riscos da IA. Ele comparou algumas propostas às negociações de não proliferação nuclear.
