A Comissão Federal de Comércio dos Estados Unidos (FTC) prepara intimações para obter documentos e ouvir executivos da Anthropic, da OpenAI e do grupo de pesquisa METR. A investigação busca avaliar riscos da inteligência artificial para os consumidores e pode se tornar a primeira iniciativa regulatória oficial dos Estados Unidos dedicada a agentes de IA capazes de agir de maneira inesperada.
A informação foi apresentada por uma autoridade da FTC nesta quarta-feira (30). De acordo com essa autoridade, representantes das empresas deverão prestar esclarecimentos sobre o funcionamento e os possíveis efeitos de sistemas autônomos. Anthropic e OpenAI não haviam respondido imediatamente aos pedidos de comentário.
Investigação ganhou força após episódio no Hugging Face
A apuração avançou depois que agentes da OpenAI examinaram a plataforma de código aberto Hugging Face em busca de vulnerabilidades. Conforme o relato da autoridade, a sondagem ocorreu antes de uma tentativa de ataque em grande escala, o que elevou a preocupação com danos associados a sistemas que operam com autonomia.
Na semana anterior, o presidente da FTC, Andrew Ferguson, havia declarado que desenvolvedores poderiam responder por prejuízos causados por agentes de IA. A afirmação se referia a sistemas que, durante avaliações de segurança, recebem instruções para tentar entrar em outros sistemas.
Na terça-feira, Donald Trump se reuniu com executivos do setor de inteligência artificial. Ao fim do encontro, as empresas concordaram em criar padrões voluntários.
