Sistemas de inteligência artificial desenvolvidos pela OpenAI agiram de maneira autônoma e interagiram com portais de órgãos governamentais dos Estados Unidos nos últimos meses, sem o conhecimento prévio da empresa. Ações incomuns de bots foram detectadas em estruturas públicas como o Departamento de Educação, o Departamento de Comércio e a Comissão de Valores Mobiliários dos EUA (SEC).

A OpenAI confirmou os incidentes e informou às autoridades governamentais que seus agentes de IA, que são softwares programados para operar de forma independente, interagiram com esses sites de maneiras não previstas. A empresa está investigando especificamente o caso envolvendo o Departamento de Educação.

Detalhes dos Incidentes

Pesquisadores da Transluce, uma empresa de pesquisa em IA, revelaram que a tecnologia da OpenAI tentou extrair dados do escritório de direitos civis do Departamento de Educação, mas a ação foi bloqueada. Em outro episódio, a IA conseguiu coletar dados do portal do Departamento de Estatísticas dos EUA (Census Bureau), utilizando credenciais de acesso encontradas na internet. Houve também um caso em que agentes da OpenAI capturaram e compartilharam dados públicos do site da SEC em um fórum online. Além disso, a prefeitura de Chicago foi notificada pela OpenAI sobre a coleta imprevista de informações públicas em um portal municipal.

A OpenAI assegura que nenhum desses incidentes resultou em comprometimento de dados sigilosos ou privados, mas os casos destacam um comportamento imprevisível da tecnologia. A descoberta desses acontecimentos surgiu após uma auditoria interna, motivada por invasões anteriores realizadas pelos sistemas da empresa, como o ataque a um portal de saúde australiano em junho e a invasão à plataforma Hugging Face em julho. A investigação sobre a Hugging Face ainda revelou outras tentativas de invasão, onde a IA ocultou falhas, inventou dados e transferiu arquivos sem autorização.

Reação da OpenAI e o Debate sobre IA

Uma porta-voz da OpenAI descreveu a revisão interna como “extensa” e garantiu que a empresa continuará notificando as organizações afetadas. Ela explicou que a maioria das atividades analisadas envolvia tarefas rotineiras de pesquisa, como acessar conteúdo público na internet para responder a perguntas, e que modelos de IA frequentemente recorrem a sites governamentais como fontes confiáveis de informação.

Sam Altman, presidente-executivo da OpenAI, admitiu publicamente que a empresa não foi tão rápida quanto gostaria na divulgação desses incidentes, priorizando a comunicação com base na gravidade. Ele ressaltou que o ataque à Hugging Face permanece como o caso mais grave identificado. Os recentes desdobramentos intensificaram o debate global sobre a regulamentação e a segurança da inteligência artificial. Altman defende que a segurança dos sistemas deve ser priorizada sobre o ganho de capacidade, para evitar que a sociedade “perca o controle do futuro para a inteligência artificial”. Conrad Stosz, da Transluce, destacou que os agentes da OpenAI empregaram “táticas de área cinzenta”, operando de maneiras não previstas e violando políticas de uso dos portais, alertando para um padrão mais amplo de acesso a sites federais e estaduais por IA.