A Anthropic e a Accenture anunciaram neste sábado (19) que investirão pelo menos US$ 1 bilhão cada, ao longo de cinco anos, em iniciativas voltadas à segurança de sistemas de inteligência artificial (IA). As empresas também firmaram uma parceria para criar uma equipe de avaliadores integrados, que atuará junto às equipes internas e aos parceiros de segurança da Anthropic.
O grupo será responsável por examinar modelos de IA, conduzir testes de red teaming — simulações de ataques — e avaliações de alinhamento. Também deverá verificar os mecanismos de segurança incorporados aos modelos. A proposta combina a atuação da Accenture em IA e segurança com a experiência da Anthropic no desenvolvimento e na avaliação de seus sistemas.
A presidente do conselho e CEO da Accenture, Julie Sweet, afirmou que a empresa está reunindo uma equipe dedicada, com conhecimento em IA, segurança e diferentes setores, para trabalhar com a Anthropic. Segundo ela, a avaliação integrada ainda é uma área emergente e deverá ter papel relevante no cenário de segurança da IA.
Como parte da parceria, a Accenture informou que pretende aproveitar sua experiência acumulada em IA e segurança por meio da aquisição da Faculty, empresa de IA aplicada. A Faculty trabalha com testes e avaliação de modelos para laboratórios de IA e desenvolve sistemas voltados aos setores governamental, de defesa, de saúde e de infraestrutura.
Marc Warner, diretor de Tecnologia da Accenture e CEO da Faculty, disse que a empresa defende que a segurança seja incorporada à IA desde a concepção. Para ele, a união com a Anthropic corresponde ao tipo de trabalho para o qual a Faculty foi criada e permitirá realizar essas avaliações em escala dentro da Accenture.
