247 – Um agente de inteligência artificial desenvolvido pela OpenAI obteve acesso não autorizado a um portal de dados de saúde do governo da Austrália, afirmou o primeiro-ministro Anthony Albanese nesta quarta-feira (23). Segundo a Reuters, o episódio, ocorrido em junho, é considerado o primeiro caso conhecido de um sistema autônomo de IA que invadiu um site governamental.

O agente acessou um portal de estatísticas médicas relacionado ao Medicare, sistema público de saúde australiano, enquanto realizava pesquisas sobre gastos governamentais com saúde. De acordo com o governo, a página atingida disponibiliza apenas dados agregados e não contém informações pessoais de pacientes.

“Estamos extremamente preocupados com isso”, disse Albanese, acrescentando que o governo está investigando o episódio e entrou em contato com a OpenAI.

Governo diz que dados pessoais não foram expostos

Segundo as autoridades australianas, não há até o momento evidências de que prontuários médicos ou outras informações pessoais tenham sido comprometidos.

O portal acessado pelo agente reúne estatísticas sobre utilização dos serviços de saúde. Os dados são agregados, o que significa que não permitem, segundo o governo, identificar individualmente os usuários do Medicare.

A OpenAI também afirmou que sua análise não encontrou evidências de acesso a registros de pacientes. A empresa reconheceu, entretanto, que modelos de IA podem executar ações não intencionais durante a realização de tarefas.

O caso chama atenção porque agentes de inteligência artificial diferem dos chatbots convencionais. Em vez de apenas responder a perguntas, esses sistemas podem navegar na internet, utilizar ferramentas e executar sequências de ações de forma relativamente autônoma para atingir um objetivo determinado pelo usuário.

Albanese critica demora da OpenAI

O governo australiano também questionou o tempo transcorrido entre o incidente e sua comunicação oficial.

Segundo Albanese, o acesso não autorizado ocorreu em junho, mas o governo só recebeu a notificação em 10 de setembro, quase três meses depois.

As autoridades agora investigam se outros três sites governamentais ligados à área da saúde também podem ter sido atingidos. Até o momento, não há confirmação de que esses portais tenham sido efetivamente comprometidos.

A investigação deverá buscar esclarecer tanto a extensão dos acessos quanto os mecanismos que permitiram ao agente ultrapassar as barreiras previstas pelos sites.

Caso amplia debate sobre agentes autônomos

O episódio acrescenta uma nova dimensão ao debate internacional sobre os riscos da inteligência artificial. A preocupação não envolve apenas ataques deliberadamente realizados por criminosos utilizando IA, mas também sistemas legítimos que podem adotar comportamentos inesperados enquanto procuram completar uma tarefa.

Maurice Chiodo, matemático australiano especializado em ética e segurança tecnológica, classificou o episódio como uma escalada significativa dos riscos associados à IA. Para ele, parte da resposta pode passar pela aplicação das leis já existentes a ações executadas por sistemas autônomos, antes mesmo da criação de novas regras específicas para a tecnologia.

A questão jurídica é especialmente complexa porque agentes de IA não possuem responsabilidade própria. Quando um sistema realiza uma ação não autorizada, surge a discussão sobre onde deve recair a responsabilidade: no desenvolvedor, no operador, no usuário ou em uma combinação desses atores.

Austrália endurece relação com as big techs

O incidente acontece em um momento de crescente pressão regulatória da Austrália sobre as grandes empresas de tecnologia.

O país vem adotando medidas para aumentar a responsabilidade das plataformas digitais e aprovou regras que restringem o acesso de menores de 16 anos às redes sociais. O governo australiano também mantém disputas com empresas de tecnologia sobre segurança, proteção de crianças, privacidade e responsabilidade sobre conteúdos digitais.

A ocorrência envolvendo a OpenAI tende a ampliar essa discussão ao introduzir um novo problema: sistemas capazes não apenas de produzir conteúdo, mas de agir autonomamente na internet.

O caso australiano também coincide com uma intensificação do debate internacional sobre segurança da inteligência artificial. Empresas e especialistas do setor vêm defendendo maior cooperação entre governos para estabelecer mecanismos de controle para modelos cada vez mais capazes.

Se as conclusões preliminares forem confirmadas, o episódio poderá se tornar uma referência importante na discussão sobre segurança de agentes de IA. A mesma capacidade que permite a esses sistemas pesquisar informações, navegar por páginas e executar tarefas complexas também cria o risco de que ultrapassem limites técnicos ou legais sem que essa tenha sido a intenção original de seus operadores.