A Anthropic informou nesta quinta-feira (10) ter encerrado operações de vigilância patrocinadas por Estados que usavam seus modelos de inteligência artificial. As ações foram identificadas e interrompidas entre janeiro e julho, com origens na China, no Irã e na África Ocidental.
De acordo com o relatório da empresa, os alvos eram comunidades da diáspora e dissidentes perseguidos historicamente por esses regimes. Entre os grupos mencionados estão ativistas pró-democracia de Hong Kong, comunidades tibetanas e minorias e opositores do governo iraniano que vivem fora do país.
Em um dos episódios, pessoas no Irã desenvolveram um método para identificar indivíduos a partir de suas contas em redes sociais. Em outro, um contratado ligado às autoridades de segurança nacional do Mali usou o Claude para projetar o software que possibilitou a coleta de inteligência.
A empresa também bloqueou tentativas de desenvolver armas, conduzir pesquisas biológicas consideradas problemáticas e criar golpes românticos na internet. A Anthropic, sediada em São Francisco, acusou desenvolvedores chineses de usar o Claude de maneira enganosa: o sistema gerava respostas para consultas de usuários enquanto os dados eram destilados para aprimorar modelos próprios.
Pesquisas biológicas
No setor de inteligência artificial, destilação descreve o uso de um modelo para treinar outro. Desenvolvedores chineses já haviam sido acusados de empregar esse processo sem autorização.
A Anthropic não identificou os envolvidos nas pesquisas biológicas bloqueadas. O relatório afirma que eles eram cientistas e que não havia conclusão sobre uma intenção de causar danos. A empresa também disse que revelar suas identidades ou os laboratórios poderia colocá-los em risco.
Os trabalhos envolviam o vírus chikungunya, transmitido por mosquitos; uma cepa descrita como “altamente patogênica” de gripe aviária; uma família de vírus que inclui a varíola e o mpox; além de venenos e outras toxinas.
