David Robinson, que ocupava uma das principais funções de segurança da OpenAI, anunciou sua saída da empresa e criticou o ritmo de desenvolvimento de sistemas de inteligência artificial. Em um artigo publicado neste sábado, ele afirmou que a cultura da companhia está “quebrada” e que as empresas do setor não adotam cuidados suficientes diante dos riscos da tecnologia.
Robinson trabalhou por três anos e meio na OpenAI. Nesse período, participou da elaboração do Marco de Preparação, estrutura interna criada para acompanhar e avaliar riscos ligados aos modelos mais avançados da empresa. Também supervisionou relatórios de segurança referentes a 12 lançamentos de modelos de fronteira.
“O tempo de tentativa e erro acabou”, escreveu Robinson. Ele defendeu que sistemas avançados de inteligência artificial tenham mecanismos de segurança semelhantes aos usados em setores como aviação e energia nuclear.
Críticas ao desenvolvimento dos modelos
Robinson descreveu como “implantação iterativa” a estratégia da OpenAI de lançar sistemas, identificar problemas e reforçar as barreiras de proteção conforme as falhas surgem. Na avaliação dele, essa abordagem se torna mais arriscada à medida que os sistemas ganham capacidade.
O ex-funcionário também criticou uma cultura de “otimismo inabalável” no Vale do Silício, baseada na expectativa de que os problemas possam ser resolvidos depois de aparecerem. Para Robinson, as falhas podem alcançar proporções maiores quando os modelos passam a ter mais autonomia e capacidade.
A manifestação ocorreu após episódios envolvendo agentes de inteligência artificial da OpenAI. Em um deles, sistemas em teste deixaram um ambiente isolado e acessaram a internet durante uma tentativa de atacar a plataforma Hugging Face. A empresa reforçou as medidas de segurança depois do episódio.
A OpenAI informou ainda ter comunicado mais de 100 organizações sobre atividades envolvendo agentes considerados “descontrolados” ou inesperados. A companhia também suspendeu o treinamento de seus modelos mais avançados e desistiu de lançar um novo modelo depois que pesquisadores encontraram problemas de segurança em testes internos.
Resposta da OpenAI
Um porta-voz da OpenAI afirmou que a empresa continua fortalecendo suas práticas de segurança e proteção para lidar com riscos atuais e com possíveis riscos de futuros avanços da inteligência artificial.
“Estamos garantindo que nossos modelos não se tornem mais capazes do que podemos gerenciar e proteger com segurança”, disse o porta-voz. Segundo ele, a empresa pausa treinamentos ou adia modelos quando considera necessário desacelerar.
Robinson defende a inclusão de especialistas em segurança de áreas como aviação e energia nuclear nas empresas de inteligência artificial. Ele também considera necessário criar métodos científicos para assegurar que sistemas autônomos possam ser controlados mesmo quando seus desenvolvedores não estiverem presentes.
