A inteligência artificial voltou a ser apresentada por seus próprios líderes como uma tecnologia que exige regulamentação. O movimento ocorre em meio à ameaça de responsabilização jurídica, à queda da confiança do público nas empresas do setor e a preocupações sobre empregos, automutilação, ataques cibernéticos e guerra biológica. Para historiadores da ciência, a sequência guarda semelhanças com o debate que envolveu o DNA recombinante na década de 1970.
Em 2017, cientistas da inteligência artificial se reuniram em Asilomar, na Península de Monterey, na Califórnia, para discutir salvaguardas. Entre os participantes estavam Elon Musk e Dario Amodei. O encontro terminou com compromissos genéricos sobre o uso benéfico da tecnologia, sem regras específicas. Seis anos depois, cartas públicas voltaram a pedir uma pausa e medidas diante dos riscos.
Em março de 2023, Musk, Steve Wozniak e outros signatários defenderam uma interrupção de seis meses para estudar tecnologias mais poderosas que o GPT-4. Em maio do mesmo ano, líderes da OpenAI, da DeepMind, do Google e Amodei afirmaram que a inteligência artificial representava uma ameaça existencial. A Anthropic lançou o Claude ao público em julho daquele ano, enquanto o governo não adotou medidas para conter seriamente o avanço da tecnologia.
A experiência com o DNA recombinante
A referência histórica é uma reunião realizada 51 anos atrás, quando 150 pessoas — entre biólogos, advogados e cientistas de outros países, incluindo a União Soviética — discutiram como continuar pesquisas capazes de produzir benefícios médicos, mas também novos agentes infecciosos. A tecnologia permitia combinar fragmentos de DNA de organismos diferentes.
Antes do encontro, cientistas haviam pedido “prudência” em cartas de 1973 e 1974. Depois, defenderam uma moratória para todo o trabalho com DNA recombinante até que houvesse condições de segurança. As atividades foram interrompidas, e os participantes de Asilomar receberam um alerta: se não criassem regras próprias, o Congresso poderia fazê-lo.
Após quatro dias de debates, os advogados direcionaram a discussão para os possíveis efeitos em tribunais. Os cientistas então propuseram níveis de contenção física, classificados de P1 a P4 conforme o risco. As normas incluíam salas com pressão negativa, trajes de proteção pressurizados e micróbios programados para morrer fora do laboratório. Também proibiam toxinas letais e bactérias resistentes a antibióticos.
Luis Campos, historiador da ciência da Universidade Rice, resumiu a proximidade entre os dois episódios: “Há muitos ecos”. Para ele, debates sobre DNA recombinante e inteligência artificial chegaram a reutilizar palavras e expressões semelhantes.
Quando a sociedade entrou na discussão
As regras não encerraram a controvérsia. Em Cambridge, a Universidade Harvard pediu autorização para reformar um laboratório e fazer pesquisas de nível P3. O prefeito Alfred Vellucci convocou cientistas para depor diante da Câmara Municipal e exigiu explicações em linguagem acessível: “Não entendemos o alfabeto de vocês.”
As audiências produziram uma moratória de três meses e levaram à criação de um conselho de nove cidadãos. O grupo visitou laboratórios do MIT, promoveu um julgamento público simulado e contou com biólogos dos dois lados como testemunhas. O resultado foi a primeira norma municipal de biossegurança do país, semelhante às diretrizes de Asilomar, mas com a proibição dos trabalhos laboratoriais mais arriscados e participação direta do público.
A indústria de biotecnologia ainda não existia quando a reunião ocorreu. Os pesquisadores atuavam em laboratórios acadêmicos e dependiam de financiamento federal. Depois de Asilomar, porém, o setor começou a crescer rapidamente. As regras deram estabilidade e previsibilidade ao desenvolvimento da área, que transformou Cambridge em um polo biotecnológico.
Na inteligência artificial, a contenção é menos clara. Não há equivalente a salas seladas e trajes de proteção, e permanecem em aberto as perguntas sobre quem aplicaria as normas e quem responderia quando algo desse errado. O acordo de US$ 18 bilhões firmado pela Meta com estados que a acusaram de conhecer e ocultar riscos de suas plataformas tornou concreta, para as empresas de IA, uma preocupação que os advogados de Asilomar apenas imaginavam.
Para Campos, o precedente histórico indica que a discussão não deve ficar restrita aos especialistas. A questão envolve mecanismos de responsabilização e acesso às informações necessárias para entender como um dano ocorreu.
