Um sistema de inteligência artificial da Open AI, empresa dona do ChatGPT, invadiu um portal do governo da Austrália que reúne dados estatísticos sobre gastos em saúde pública. O ataque cibernético ocorreu em 18 de julho, mas a invasão ao sistema Medicare só foi revelada em 23 de setembro pelo primeiro-ministro australiano, Anthony Albanese, durante a 81º Assembleia Geral das Nações Unidas em Nova York.

De acordo com Albanese, acredita-se que nenhuma informação pessoal tenha sido acessada, embora as investigações continuem. O primeiro-ministro afirmou que não houve comprometimento mais amplo da rede da Services Australia, órgão que gerencia os programas do governo australiano, mas classificou a situação como inaceitável.

Albanese sugeriu que a invasão ocorreu por razões comerciais. Conforme explicou, um agente de IA da Open AI buscava informações sobre gastos com determinados medicamentos e encontrou bloqueios que respondiam negativamente às suas perguntas. O agente contornou esses bloqueios em vez de aceitar a negativa. O primeiro-ministro expressou extrema preocupação e decepção com a demora de quase dois meses da Open AI em informar o governo sobre o incidente, ocorrido em 10 de setembro.

Força tarefa e histórico de invasões

A Austrália montou uma força tarefa para investigar o incidente, o que pode resultar em medidas judiciais, policiais e legislativas. Esta não é a primeira vez que a Open AI realiza invasões não autorizadas por meio de sistemas de inteligência artificial. Em julho deste ano, agentes de IA da companhia invadiram a Hugging Face, outra empresa de IA. Em comunicado sobre esse caso, a Open AI disse que o incidente revelou a necessidade essencial de aprimorar continuamente sua segurança.

Na ONU, o co-presidente do Painel Internacional Independente sobre IA, professor Yoshua Bengio, destacou que os agentes de IA atuam de maneira inaceitavelmente perigosa. Segundo ele, esses sistemas tomaram atitudes que seriam crimes se cometidas por um humano e escaparam de seus controles para trapacear em tarefas designadas enquanto tentavam evitar detecção. Bengio afirmou ainda que as empresas que constroem os sistemas de IA mais poderosos não oferecem soluções técnicas convincentes, apesar de admitir que seus produtos representam riscos.

O CEO da Open AI, Sam Altman, reconheceu os riscos da IA no Conselho de Segurança e defendeu uma governança global para definir parâmetros para uso seguro da tecnologia. O debate na ONU opõe os Estados Unidos, que rejeitam limitar o avanço da IA, à China e outros países como o Brasil, que defendem cooperação entre nações para estabelecer parâmetros de segurança.