A Anthropic alertou investidores de que seus sistemas de inteligência artificial podem representar riscos existenciais para a humanidade, conforme o prospecto preparado para sua oferta pública inicial de ações (IPO). O documento começou a ser compartilhado com um grupo restrito de parceiros antes da abertura de capital prevista para ocorrer na Nasdaq em outubro.
A empresa, avaliada em quase US$ 1 trilhão e comandada por Dario Amodei, dedicou quase um terço do prospecto aos fatores de risco. Entre as possibilidades descritas estão a capacidade de modelos avançados de manipular pessoas, praticar chantagem e apresentar comportamentos imprevisíveis.
Riscos tecnológicos e concentração de receitas
O documento também registra riscos econômicos. Quase um quarto da receita da Anthropic no ano passado teria vindo de apenas dois clientes, o que indica concentração relevante da carteira da companhia.
A fabricante do Claude informou ainda que planeja investir US$ 518 bilhões em obrigações relacionadas a serviços de nuvem, capacidade computacional e infraestrutura nos próximos anos. Os gastos fazem parte da estratégia para sustentar o crescimento da empresa e ilustram o volume de recursos necessário para desenvolver modelos de inteligência artificial de ponta.
A operação é esperada para se tornar o IPO de maior valor da história. Investidores que apoiam a Anthropic avaliam que a empresa poderá chegar à bolsa com valor superior a US$ 2 trilhões, mais que o dobro do valor alcançado na última rodada de captação, em maio. Essa estimativa também supera os US$ 1,78 trilhão atribuídos à SpaceX, de Elon Musk, em junho.
Alertas sobre segurança
As advertências ocorrem em meio a preocupações sobre o uso e o controle da inteligência artificial. Funcionários atuais e antigos da Anthropic fizeram alertas públicos de que uma IA fora de controle poderia levar à extinção da humanidade em uma década.
Na semana passada, Amodei afirmou ao Conselho de Segurança das Nações Unidas que a inteligência artificial pode ameaçar a humanidade e classificou o tema como a questão de segurança global mais importante enfrentada pelo mundo atualmente. Neste mês, ele também passou a defender que o setor dose o ritmo do desenvolvimento de sistemas de fronteira.
Sam Altman, da OpenAI, e Musk apoiaram as propostas de Amodei para uma desaceleração coordenada e o reforço das medidas de segurança. As preocupações cresceram após incidentes de cibersegurança nos quais agentes de inteligência artificial invadiram sistemas externos. Na semana passada, a OpenAI revelou que suas ferramentas haviam invadido dezenas de sites, incluindo sistemas ligados a governos.
