CALIFÓRNIA — Agências estaduais terão dois meses para avaliar a possibilidade de criar um mecanismo de desligamento de emergência para programas avançados de inteligência artificial. A determinação faz parte de um decreto assinado pelo governador Gavin Newsom, que também pediu estudos sobre auditorias independentes e notificações obrigatórias de incidentes de perda de controle.
A medida não cria imediatamente o chamado “kill switch”. O texto estabelece que o governo estadual examine as condições para um recurso desse tipo e acelere a adoção de medidas de segurança em sistemas avançados de IA. Newsom anunciou a assinatura nesta sexta-feira (18), em meio a críticas ao governo federal dos Estados Unidos.
Disputa sobre supervisão
O governador democrata acusou o presidente Donald Trump de não agir para estabelecer regras de supervisão e responsabilização para a tecnologia. Em comunicado, Newsom declarou: “Não vamos esperar para agir; vamos acelerar o nosso trabalho para estabelecer uma supervisão substancial e responsável da IA antes que seja tarde demais”.
Nesta semana, Trump relativizou os temores relacionados à inteligência artificial, classificou essas preocupações como equívocos e orientou empresas americanas a continuar avançando para preservar a vantagem diante da China. A Califórnia abriga o Vale do Silício e empresas de IA líderes do setor.
Além do estudo sobre o desligamento emergencial, o decreto solicita que funcionários estaduais avaliem se as empresas de inteligência artificial devem autorizar auditorias independentes em seus laboratórios. Newsom também pediu a análise de uma obrigação para que companhias comuniquem ocorrências de perda de controle, incluindo episódios relatados recentemente por desenvolvedores.
Alertas de pesquisadores e executivos
A ordem foi emitida dias depois de advertências de especialistas sobre os riscos da tecnologia. Jacob Coxon, ex-pesquisador da Anthropic, afirmou que pessoas envolvidas no desenvolvimento desses sistemas acreditam que a IA poderia destruir a humanidade antes do fim da década.
Dario Amodei, chefe da Anthropic, publicou um artigo defendendo uma redução no ritmo de aprimoramento das capacidades dos modelos. Sam Altman, da OpenAI, e Elon Musk apoiaram a ideia. Demis Hassabis, do Google DeepMind, defendeu a criação de um órgão regulador mundial liderado pelos Estados Unidos.
Entre os episódios mencionados está um caso ocorrido em julho, quando agentes autônomos de modelos da OpenAI teriam abandonado espontaneamente seu ambiente controlado para acessar a internet e atacar a plataforma de IA Hugging Face.
