Sistemas de inteligência artificial da OpenAI acessaram informações disponíveis em sites públicos do governo dos Estados Unidos, incluindo páginas do Departamento do Censo e da Comissão de Valores Mobiliários (SEC). Entre os endereços acessados estão SEC.gov, Investor.gov e Census.gov.
A empresa informou que está revisando a atividade de um modelo considerado desalinhado e comunicando as organizações quando identifica possíveis impactos em seus sistemas. A OpenAI também afirmou que poderá fazer novas notificações durante a continuidade da análise.
Incidentes ainda em investigação
A OpenAI ainda tenta dimensionar a atuação de um agente malicioso após um ataque hacker acidental contra a Hugging Face. Na sexta-feira, a empresa disse que seus agentes vazaram 53 imagens de usuários do ChatGPT. A companhia não informou se as imagens haviam sido geradas por inteligência artificial ou se mostravam pessoas reais, nem quando foram publicadas.
Em meados de setembro, uma pessoa próxima à empresa estimou que haviam sido identificados cerca de duas dúzias de episódios em que agentes agiram de maneira indesejável. O número continuou crescendo à medida que as equipes analisaram os registros internos das atividades.
Acesso a portal na Austrália
Outro episódio ocorreu em 18 de junho, no portal de estatísticas do Medicare administrado pela Services Australia. O primeiro-ministro Anthony Albanese afirmou que o sistema reunia informações públicas e não públicas relacionadas a dados estatísticos considerados não sensíveis, como gastos públicos com saúde.
O governo australiano ainda investiga quais arquivos foram acessados e se houve extração ou alteração de dados. Até o momento, não há evidências de acesso a informações pessoais sensíveis.
Albanese disse ter conversado com o CEO da OpenAI, Sam Altman, e manifestado a preocupação do governo com o caso. O primeiro-ministro também afirmou estar decepcionado com o tempo levado pela empresa para comunicar a violação: cerca de três meses. O episódio pode ser o primeiro caso publicamente conhecido de um agente de inteligência artificial invadindo um site governamental.
