Tom Siegel, fundador da equipe de confiança e segurança do Google, alertou nesta terça-feira para os riscos do uso de inteligência artificial por crianças. Ex-vice-presidente da área na empresa, ele afirmou que o setor pode estar repetindo os erros cometidos pelas redes sociais e defendeu uma desaceleração no desenvolvimento das ferramentas de IA.
Para Siegel, a dependência de chatbots para obter respostas pode levar à sobrecarga cognitiva, conceito associado à diminuição do pensamento crítico. Ele também mencionou riscos que vão de suicídio e psicose a outros cenários de danos envolvendo usuários jovens.
“Estamos numa situação realmente terrível em termos do que a IA está fazendo com as crianças”, disse Siegel. Segundo ele, não é realista esperar que a indústria consiga resolver o problema sem ajuda externa.
Nova organização de segurança
O alerta foi feito no mesmo dia em que Siegel anunciou uma parceria com a Common Sense Media, organização sem fins lucrativos voltada aos direitos das crianças na internet. Fundada em 2003, a entidade realiza pesquisas e avalia a adequação de diferentes mídias para o público infantil.
Em maio, a organização lançou o Youth AI Safety Institute, voltado à pesquisa sobre o uso de inteligência artificial por crianças. Siegel será o primeiro diretor executivo do instituto, que tem entre seus apoiadores a Anthropic e a OpenAI Foundation, organização sem fins lucrativos que controla a OpenAI.
A proposta é criar padrões para responsabilizar empresas de IA, em cooperação com as próprias companhias e com grupos terceirizados. Uma das prioridades, segundo Siegel, será ampliar a adoção de avaliações independentes, semelhantes aos testes de colisão de automóveis, para medir os riscos de ferramentas de IA disponíveis ao público.
Medidas defendidas
Siegel afirmou que as principais empresas de IA estão lançando recursos destinados a crianças sem salvaguardas suficientes. Ele defendeu que Anthropic e OpenAI adotem verificações de idade mais robustas para impedir o acesso de menores aos chatbots.
Também disse que o Google poderia oferecer opções para desativar a Visão Geral da IA e o Modo IA em seu mecanismo de busca, como já faz com o filtro de conteúdo sexualmente explícito. Na avaliação do ex-executivo, custos de curto prazo para o uso ou os lucros seriam menores do que os impactos de processos judiciais e de novas regulamentações.
Um porta-voz do Google afirmou que os pais podem desativar completamente o acesso de seus filhos ao mecanismo de busca. A OpenAI informou que usa sinais de conta e comportamentais, além da idade autodeclarada, para identificar usuários menores de idade. A Anthropic não respondeu imediatamente ao pedido de comentários.
Trajetória de Siegel
Siegel trabalhou no Google de 2004 a 2019. Ele deixou a empresa após concluir que a indústria de tecnologia estava estagnada na capacidade de criar espaços online seguros para os consumidores.
Depois, cofundou a TrustLab, startup que desenvolveu ferramentas para ajudar empresas a detectar ameaças à segurança. Siegel deixou o cargo de CEO no início deste mês.
