Jacob Coxon, pesquisador britânico de inteligência artificial de 27 anos, deixou a indústria na terça-feira (8) depois de trabalhar na OpenAI e na Anthropic. Ele afirmou que as duas empresas avançam em direção a sistemas capazes de aprimorar a si mesmos sem controle suficiente.
Coxon atuou nos últimos três anos com pré-treinamento, fase em que os modelos absorvem grandes volumes de informação. Primeiro, trabalhou na OpenAI. Neste ano, mudou-se para a Anthropic por considerar que a empresa adotava uma postura mais prudente. Ao anunciar sua saída, porém, disse que nenhuma das duas organizações age de maneira responsável.
"Elas estão correndo diretamente em direção a uma superinteligência capaz de se aprimorar sozinha e estão apostando com nossas vidas", escreveu Coxon na rede social X. Ele também afirmou que profissionais envolvidos no desenvolvimento desses sistemas acreditam que a IA poderia matar todas as pessoas até o fim da década.
Riscos e corrida entre empresas
A avaliação recebeu apoio de Evan Hubinger, diretor de segurança da Anthropic. Em uma publicação pessoal no X, ele declarou: "Nós realmente acreditamos que a IA pode matar seres humanos". Hubinger estimou em mais de 10% o risco de isso ocorrer dentro da próxima década.
A discussão ocorre enquanto a Anthropic se prepara para abrir capital na Bolsa. Procuradas, OpenAI e Anthropic não responderam. Líderes do setor afirmam que a indústria se aproxima do chamado autoaperfeiçoamento recursivo, no qual sistemas poderiam projetar e treinar novas gerações de IA com pouca participação humana.
Para Coxon, o desenvolvimento responsável de uma inteligência superior à humana exigiria intervenção governamental ou uma desaceleração coordenada. Ele disse que a Anthropic entende os riscos, mas participa da disputa para chegar primeiro porque considera que outras empresas não agirão com responsabilidade.
Em fevereiro, a Anthropic retirou de sua carta de segurança o compromisso de interromper o desenvolvimento de modelos caso não conseguisse controlar os riscos. No fim de julho, mais de mil funcionários do setor, entre eles o CEO Dario Amodei, pediram a Washington um mecanismo de freio. No domingo, o diretor científico da OpenAI, Jakub Pachocki, escreveu que o momento exigia extrema cautela e coordenação internacional.
