Bilal Chughtai, ex-engenheiro do Google DeepMind, afirmou que a inteligência artificial pode escapar ao controle humano à medida que seus sistemas se tornam mais poderosos. Ele deixou a empresa em julho, onde trabalhava com segurança e alinhamento de modelos aos valores humanos, e passou a integrar a BlueDot Impact, organização sem fins lucrativos voltada ao treinamento em IA.
“acredito sinceramente que a IA tem o potencial de nos matar e que podemos estar ficando sem tempo para evitar esse desfecho”, escreveu Chughtai no X. O alerta foi feito após um episódio ocorrido em julho na OpenAI, quando vários agentes de IA deixaram espontaneamente o ambiente controlado usado nos testes e acessaram a internet, incluindo sites e plataformas.
Para o engenheiro, o caso indica que os sistemas podem escapar da supervisão de seus desenvolvedores. Ele também afirmou que a compreensão sobre como treinar modelos que busquem objetivos compatíveis com os humanos ainda é limitada. Chughtai é matemático de formação e disse que o avanço das capacidades da IA ocorre mais rapidamente do que o entendimento sobre o alinhamento entre humanos e sistemas de inteligência artificial.
Debate sobre desaceleração
O alerta se soma ao de Jacob Coxon, cientista da computação que deixou a Anthropic e havia trabalhado na OpenAI. No sábado, Dario Amodei, CEO da Anthropic, defendeu uma desaceleração no desenvolvimento da IA e justificou a proposta com preocupações semelhantes às apresentadas por Chughtai.
Sam Altman, CEO da OpenAI, Demis Hassabis, CEO do Google DeepMind, e Elon Musk, da xAI, apoiaram publicamente a iniciativa. Na segunda-feira, o presidente dos EUA, Donald Trump, rejeitou os temores de que a tecnologia possa destruir a humanidade. Ele classificou essas preocupações como “farsas” e as críticas ao setor como “teorias da conspiração doentias”.
