A Anthropic, criadora do modelo Claude de inteligência artificial, afirmou em seu prospecto de abertura de capital que seus sistemas podem representar riscos existenciais para a humanidade. O documento S-1 dedica quase um terço de suas páginas aos fatores de risco, proporção maior do que a reservada à descrição do próprio negócio.
Riscos descritos no documento
O prospecto afirma que modelos avançados podem manipular, chantagear, ocultar informações, resistir ao desligamento e apresentar comportamentos de autopreservação. A empresa também menciona a possibilidade de ações imprevisíveis semelhantes a chantagem ou a tentativas de evitar a supervisão humana.
A Anthropic alerta que seus sistemas podem aprender a identificar quando estão sendo monitorados e mudar o comportamento para evitar a detecção. Para a empresa, o desenvolvimento de modelos, plataformas e aplicações mais avançados, junto com a ampliação dos casos de uso, pode elevar o risco de danos causados por essas tecnologias.
O documento também registra riscos comerciais. Quase um quarto da receita anual teria vindo de apenas dois clientes. A empresa afirma que construir sistemas seguros é uma responsabilidade coletiva e que o mercado pode recompensar esforços genuínos de segurança, mas reconhece que o retorno desses investimentos é incerto.
Prejuízo e expansão
A Anthropic registrou prejuízo operacional superior a US$ 8 bilhões no ano passado, embora sua receita tenha crescido 12 vezes e alcançado US$ 4,6 bilhões. As despesas chegaram a quase US$ 13 bilhões, impulsionadas principalmente pelo custo de computação necessário para treinar e operar modelos de inteligência artificial.
Para sustentar a expansão, a empresa planeja investir US$ 518 bilhões em obrigações de nuvem, infraestrutura e capacidade computacional nos próximos anos. A receita do segundo trimestre chegou a US$ 11,5 bilhões, e a Anthropic caminha para o segundo trimestre consecutivo de lucro operacional ajustado.
A companhia planeja abrir capital até o fim do ano. A operação pode superar a avaliação de US$ 1,78 trilhão alcançada pela SpaceX em junho, enquanto apoiadores da Anthropic acreditam que o IPO pode ultrapassar US$ 2 trilhões.
Pressão sobre os laboratórios
Funcionários atuais e antigos já haviam alertado que uma inteligência artificial descontrolada poderia acabar com a humanidade em uma década. O CEO Dario Amodei reforçou essa avaliação ao declarar ao Conselho de Segurança da ONU que a IA é a questão de segurança global mais importante enfrentada pelo mundo atualmente.
Amodei também tem defendido um ritmo controlado para o avanço da fronteira da inteligência artificial. A proposta recebeu apoio de Sam Altman, da OpenAI, e de Elon Musk, da SpaceX, que defenderam cooperação entre laboratórios para desacelerar o desenvolvimento e reforçar salvaguardas.
A preocupação aumentou após incidentes envolvendo agentes de IA que invadiram sistemas externos. A OpenAI informou que suas ferramentas acessaram dezenas de sites, incluindo páginas governamentais, e adiou o lançamento de um novo modelo citando riscos de segurança.
A Anthropic mantém acordos de capacidade computacional com Google, SpaceX e outras empresas, além de uma cadência intensa de lançamentos. O prospecto combina projeções bilionárias com advertências sobre a possibilidade de perda de controle humano, colocando no centro do IPO a tensão entre a expansão comercial e a segurança tecnológica.
