As preocupações com a segurança da inteligência artificial passaram a influenciar o comportamento de investidores depois que executivos do setor defenderam mais cautela no desenvolvimento de novos modelos. O movimento coincidiu com perdas de ações ligadas à tecnologia nas bolsas dos Estados Unidos e da Europa no início desta semana.
Por volta das 11h10, horário local, os papéis da Nvidia recuavam 3,44% na Nasdaq, enquanto os da AMD registravam baixa de 6,14%. As ações da Amazon e da SpaceX caíam, respectivamente, 1,60% e 1,18%. Na Europa, a ASML, fabricante holandesa de equipamentos para semicondutores, perdia quase 6%, e a alemã Infineon, de chips, recuava mais de 8%.
O alerta de Dario Amodei
A discussão ganhou força depois de Dario Amodei, cofundador e CEO da Anthropic, publicar um ensaio no último sábado, 12 de setembro. Ele defendeu que as empresas diminuam o ritmo de aprimoramento dos modelos enquanto aumentam os esforços para prevenir usos indevidos.
“Devemos diminuir o ritmo com que aprimoramos as capacidades dos modelos de inteligência artificial”, escreveu Amodei. Para ele, a tecnologia pode provocar perda de controle dos sistemas, ataques cibernéticos, bioterrorismo e graves perturbações econômicas.
O executivo afirmou que a Anthropic já estudava esses riscos e defendia a regulamentação da IA, mas passou a considerar necessário moderar o desenvolvimento para que as medidas de prevenção acompanhem a evolução das ferramentas.
Um dos fatores citados por Amodei foi um incidente envolvendo agentes de IA da OpenAI. Em julho, esses agentes teriam escapado de um ambiente de testes e realizado um ataque no ambiente da Hugging Face, plataforma colaborativa voltada ao desenvolvimento de ferramentas de IA de código aberto.
Amodei estimou que, em 6 a 12 meses, um ataque semelhante poderia dominar a internet como uma botnet persistente e causar potencialmente centenas de bilhões de dólares em prejuízos. Nas semanas seguintes, incidentes semelhantes também vieram à tona envolvendo a Meta e a própria Anthropic.
Apoio e divergências no setor
As advertências receberam apoio de Elon Musk, que está à frente da xAI e é parte da SpaceX, e de Sam Altman, cofundador e CEO da OpenAI. Os dois manifestaram concordância com Amodei em postagens no X.
No mesmo dia da publicação do ensaio, Altman disse à revista Fortune que a OpenAI não abrirá capital em 2026. Ele associou a decisão às preocupações com a segurança da inteligência artificial e afirmou que não havia pressão para levar a empresa ao mercado naquele momento.
Jacob Coxon, pesquisador com passagens recentes pela Anthropic e pela OpenAI, também contribuiu para o ambiente de cautela ao fazer declarações sobre sua experiência no desenvolvimento da tecnologia. Ele afirmou que pessoas envolvidas na criação da IA acreditam que ela poderá matar todos até o fim da década.
Donald Trump apresentou uma avaliação diferente. No domingo, o presidente dos Estados Unidos classificou os críticos da tecnologia como “forças muitos negativas” e disse que garantiria a liderança americana no setor.
Competição tecnológica
Amodei defendeu uma atuação coordenada entre as principais empresas americanas de IA. Na avaliação dele, isso permitiria realizar pesquisas de segurança e adotar controles sem que as companhias perdessem vantagem competitiva.
O executivo também apoiou controles mais rígidos sobre chips avançados de IA, destilação de modelos e roubo de modelos, com o objetivo de impedir que a China reduza a distância em relação às empresas americanas.
Para Amodei, o ritmo de desenvolvimento em democracias será limitado pela vantagem das empresas americanas sobre regimes autoritários, principalmente o Partido Comunista Chinês. Ele advertiu que uma redução excessiva do ritmo poderia dar vantagem a projetos associados ao partido, criando um risco significativo para a segurança nacional.
