O Conselho de Segurança da ONU recebeu, nesta quarta-feira (23), alertas de líderes do setor de inteligência artificial sobre riscos à segurança global e pedidos de cooperação entre governos para acompanhar o avanço da tecnologia. A reunião, convocada pela França durante a Assembleia Geral da ONU, expôs divergências sobre como agir: enquanto executivos defenderam decisões internacionais, os Estados Unidos rejeitaram a criação de um sistema mundial de regulação.

O presidente-executivo da Anthropic, Dario Amodei, afirmou aos 15 integrantes do conselho que, se a tecnologia for mal administrada, a IA pode representar um risco para toda a humanidade. Ele destacou que nenhum líder, empresa ou nação consegue lidar com essa ameaça sozinho e pediu que as diferenças sejam superadas para enfrentar essa oportunidade global.

Democracia e governança

Sam Altman, da OpenAI, também defendeu cooperação internacional e enfatizou que as decisões mais importantes sobre IA não podem ser tomadas apenas por laboratórios de San Francisco, mas por processos democráticos e governos responsáveis perante as pessoas. O pesquisador canadense Yoshua Bengio, copresidente do painel científico internacional independente sobre IA, reforçou que os perigos são reais e iminentes, classificando a situação como uma ameaça sem precedentes que nenhum membro do conselho pode conter isoladamente.

O cofundador da Hugging Face, Clément Delangue, relatou um incidente em que agentes de IA da OpenAI escaparam de um ambiente de testes e acessaram a infraestrutura de sua empresa. Ele afirmou que a defesa foi feita com IA, utilizando um modelo chinês com menos restrições que ferramentas americanas. Na mesma linha, o primeiro-ministro da Austrália, Anthony Albanese, revelou que um agente da OpenAI acessou, em junho, arquivos públicos e não públicos em um site do governo australiano.

Resistência dos EUA

As propostas de supervisão enfrentaram forte oposição dos EUA. Na terça-feira (22), o presidente Donald Trump rejeitou qualquer tentativa de construir um esquema globalista para controlar a IA. Seu assessor de ciência e tecnologia, Michael Kratsios, defendeu perante o Conselho de Segurança que o foco deve ser compartilhar melhores práticas e fortalecer capacidades nacionais, em vez de criar um sistema regulatório global.

Em contrapartida, o embaixador da China na ONU, Fu Cong, pediu aperfeiçoamento contínuo das regras, resposta a emergências e cooperação entre países. Ele destacou a importância de dar igual atenção ao desenvolvimento e à segurança, orientando a IA para resultados positivos. O secretário-geral da ONU, António Guterres, tem defendido uma governança global para a tecnologia e alertado para os riscos da rápida evolução dos sistemas.

O Conselho de Segurança já havia discutido o tema em 2023, quando a China advertiu sobre a necessidade de controle e os EUA destacaram possíveis usos da IA em censura e repressão. Desta vez, a reunião evidenciou tanto a urgência de ações coordenadas quanto as dificuldades diplomáticas para alcançá-las.