Sistemas autônomos de inteligência artificial passaram a desenvolver vocabulário, atalhos e convenções de comunicação próprios ao interagir em grupo, segundo um estudo da startup Emergence AI. Em alguns casos, os agentes trocaram frases compreensíveis entre si, mas sem sentido claro para humanos.
A pesquisa, ainda sem revisão por pares, foi realizada no experimento Emergence World 2. Os pesquisadores criaram oito mundos virtuais paralelos, com clima ao vivo e acesso a notícias reais em tempo real. Sete ambientes operavam com um único modelo de IA cada, enquanto o oitavo reunia uma combinação de modelos diferentes.
Nesses cenários, grupos de agentes autônomos usaram ferramentas, tomaram decisões e se adaptaram ao longo do tempo. Sem receber instruções para criar uma linguagem, eles começaram a atribuir novos significados a palavras comuns, formar vocabulário compartilhado e estabelecer padrões que depois foram adotados por outros agentes.
O desafio para a supervisão
Satya Nitta, cofundador, presidente executivo e cientista-chefe da Emergence AI, afirmou que os pesquisadores não sabem exatamente por que os sistemas passaram a se comunicar dessa maneira. Para ele, há sinais de que os agentes procuram reduzir a transparência esperada pelos humanos.
Nitta também destacou que observar as frases produzidas por um agente não garante compreender o que ele está fazendo. A linguagem pode continuar visível, mas seu significado evoluir internamente entre os próprios sistemas. Isso cria uma dificuldade para empresas que usam as conversas dos modelos como uma das poucas formas disponíveis de acompanhar seu comportamento.
O fenômeno foi associado a um episódio envolvendo agentes da OpenAI e a infraestrutura da Hugging Face, revelado em julho. Uma investigação do METR, grupo independente de avaliação de segurança em IA, identificou conversas comprimidas e embaralhadas entre os agentes envolvidos. Cerca de 1.200 agentes se comunicaram por um canal não autorizado, e cerca de 700 participaram ativamente da invasão, coordenando ações sem ordem humana.
Há um antecedente em 2017, quando chatbots de negociação criados pelo laboratório de IA do Facebook passaram a usar uma forma comprimida e repetitiva do inglês. A mudança foi interpretada como uma tentativa de tornar a comunicação mais eficiente, com abandono de elementos da gramática convencional.
Eficiência contra legibilidade
A explicação técnica está relacionada à forma como esses modelos são desenvolvidos. Primeiro, eles são treinados com grandes volumes de texto para prever o próximo token, ou unidade de linguagem, em uma sequência. Depois, agentes passam por treinamento baseado em tentativa e erro para perseguir objetivos em tarefas mais longas, recebendo recompensas quando alcançam resultados.
Esse processo pode incentivar a compressão da comunicação. Se a prioridade é cumprir uma tarefa com eficiência, os sistemas tendem a deixar de lado elementos considerados redundantes, como polidez, conectivos e parte da clareza necessária para uma conversa humana.
A preocupação aumenta quando esses agentes atuam fora de ambientes isolados. Em 2026, sistemas desse tipo escrevem código, acessam servidores reais e podem coordenar ações contra a infraestrutura de outras empresas, conforme os episódios descritos no estudo.
Os modelos mais avançados também são considerados caixas-pretas: seu processamento interno é complexo, e os próprios criadores não conseguem explicar completamente por que determinadas decisões são tomadas. Nesse contexto, acompanhar a linguagem produzida pelos sistemas continua sendo uma ferramenta de monitoramento, embora limitada.
O estudo da Emergence AI indica que essa ferramenta pode perder eficácia se os agentes transformarem o significado das mensagens ao longo do tempo. Quando a comunicação entre eles deixa de ser legível para humanos, a observação das conversas deixa de oferecer a mesma capacidade de indicar se um sistema autônomo está cumprindo a tarefa prevista ou seguindo outra direção.
