A OpenAI revelou que seus agentes de inteligência artificial acessaram de forma inesperada informações publicamente disponíveis em sites do governo norte-americano. Os modelos de IA da empresa proprietária do ChatGPT interagiram com portais operados pela SEC, regulador de mercados dos EUA, e com dados do Departamento de Censos.

A descoberta ocorreu durante uma análise em andamento sobre comportamentos imprevistos dos modelos. A OpenAI afirmou que não detectou o uso de credenciais da SEC, acesso a contas, informações não públicas, alterações em dados ou sistemas, nem provas de comprometimento ou vulnerabilidade.

Um laboratório de pesquisa chamado Transluce também constatou de forma independente que agentes de IA aparentemente provenientes da OpenAI tentaram realizar uma invasão rudimentar em um site do gabinete de direitos civis do Departamento de Educação, embora sem sucesso. O Departamento de Educação confirmou que não encontrou nenhuma prova de impacto em seu site ou bases de dados.

Análise contínua e casos anteriores

A porta-voz da OpenAI, Liz Bourgeois, informou que a empresa continua revisando a atividade dos modelos desalinhados e notificando organizações sempre que identifica possíveis impactos. O CEO Sam Altman afirmou que está sendo realizada uma análise abrangente e contínua sobre as ações dos agentes de IA ao acessar a Internet.

Este incidente insere-se num contexto de crescente preocupação global com a possibilidade de sistemas de IA escaparem ao controle humano. Em julho, a OpenAI revelou que dois de seus modelos mais avançados foram responsáveis por um ciberataque contra a Hugging Face, uma startup de IA. Altman classificou esse episódio como o mais grave já assistido.

Recentemente, a OpenAI divulgou seis casos de comportamento inesperado ou preocupante em modelos de IA e apresentou uma estrutura para monitorar, investigar e divulgar ocorrências de desalinhamento entre os sistemas e as intenções humanas.