247 – A OpenAI defendeu a formação de uma coalizão internacional liderada pelos Estados Unidos para estabelecer padrões comuns de avaliação e segurança de sistemas avançados de inteligência artificial, num momento em que empresas e pesquisadores ampliam os alertas sobre riscos associados à rápida evolução da tecnologia.

As propostas foram apresentadas nesta segunda-feira (21), segundo reportagem da Folha de S.Paulo, e antecedem a participação do presidente-executivo da companhia, Sam Altman, no Conselho de Segurança das Nações Unidas, prevista para esta quarta-feira (23).

A empresa responsável pelo ChatGPT sustenta que países precisam coordenar critérios para medir capacidades e riscos de modelos de IA, sobretudo diante do avanço de sistemas capazes de participar do treinamento e aperfeiçoamento de outros modelos.

A iniciativa aproxima a OpenAI de posições defendidas por concorrentes como Anthropic e Google DeepMind, que também têm pedido maior cooperação internacional e parâmetros técnicos compartilhados para tecnologias consideradas de fronteira.

Diálogo entre Estados Unidos e China

Entre as propostas apresentadas, a OpenAI defendeu a criação de canais seguros de comunicação entre Estados Unidos e China, os dois principais polos da corrida global pela inteligência artificial.

“O diálogo entre Estados Unidos e China sobre segurança e proteção da IA seria um passo positivo”, afirmou a empresa.

A manifestação ocorre após o secretário do Tesouro dos Estados Unidos, Scott Bessent, afirmar ao Financial Times que Washington e Pequim concordaram em estabelecer um diálogo sobre inteligência artificial depois de negociações com o vice-premiê chinês He Lifeng, em Nova York.

Altman deverá participar ainda nesta semana de um jantar de Estado na Casa Branca com o presidente estadunidense, Donald Trump, e o presidente da China, Xi Jinping.

A defesa de mecanismos de cooperação ocorre paralelamente ao aumento das disputas tecnológicas entre os dois países e à preocupação das empresas com sistemas de IA cada vez mais capazes de executar tarefas complexas de maneira autônoma.

Empresas alertam para riscos de modelos avançados

OpenAI e Anthropic já relataram episódios nos quais modelos conseguiram acessar sistemas externos durante testes controlados, aumentando as discussões sobre segurança conforme as capacidades dessas ferramentas avançam.

Pesquisadores e executivos do setor também passaram a advertir publicamente sobre riscos extremos caso sistemas muito mais poderosos sejam desenvolvidos sem mecanismos adequados de supervisão.

Neste mês, Altman, o presidente-executivo da Anthropic, Dario Amodei, e Elon Musk, presidente-executivo da SpaceX, defenderam uma redução do ritmo de desenvolvimento da inteligência artificial.

Donald Trump rejeitou a proposta, citando a disputa tecnológica com a China. “Quem vencer a IA, vence”, afirmou o presidente estadunidense.

David Sacks, assessor de Trump para temas relacionados à inteligência artificial, também criticou a tentativa de vincular o desenvolvimento de sistemas mais avançados à adoção de um determinado modelo regulatório.

“A maneira mais fácil de não construir uma superinteligência é concordar em não construí-la. Exigir seu modelo regulatório preferido como condição para isso parecerá chantagem contra o público e o sistema político”, escreveu Sacks nas redes sociais.

Modelo inspirado em aviação e sistema financeiro

A OpenAI propôs que os padrões internacionais de avaliação sejam estruturados a partir da atual rede de institutos nacionais dedicados à segurança em inteligência artificial.

“Essa abordagem pode aproveitar lições de áreas como aviação e estabilidade financeira, nas quais os países desenvolveram padrões técnicos comuns e canais confiáveis de cooperação sem abrir mão da autoridade nacional”, afirmou a companhia.

A ideia se aproxima de uma proposta apresentada em julho por Demis Hassabis, cofundador e presidente do Google DeepMind. Na ocasião, ele afirmou que uma iniciativa liderada pelos Estados Unidos poderia servir como base para padrões internacionais compartilhados destinados aos modelos mais avançados.

Hassabis sugeriu a criação de um organismo público-privado semelhante à Autoridade Reguladora do Setor Financeiro dos Estados Unidos, a Finra, com participação de especialistas independentes e representantes de projetos de código aberto.

Para o executivo, uma estrutura semelhante ao sistema internacional de regulação financeira seria necessária diante de uma tecnologia cujo impacto poderia ser “talvez 10 vezes maior que o da Revolução Industrial, a uma velocidade 10 vezes maior”.

Autoaperfeiçoamento preocupa OpenAI

Um dos pontos centrais da proposta da OpenAI é o chamado autoaperfeiçoamento recursivo, processo no qual sistemas de inteligência artificial assumem uma parcela crescente do trabalho necessário para desenvolver e treinar novos modelos.

Segundo a empresa, esse avanço exigiria mecanismos internacionais capazes de acompanhar a evolução dos sistemas e identificar riscos antes que determinadas capacidades se tornem difíceis de supervisionar.

“Se realizado sem o devido cuidado e cautela, o RSI pode fazer com que os seres humanos percam o controle prático sobre o desenvolvimento da IA, ficando incapazes de supervisionar processos de pesquisa que já não compreendem”, afirmou a OpenAI.

A empresa argumenta que padrões técnicos compartilhados poderiam permitir que diferentes países cooperassem na identificação de ameaças sem transferir para uma instituição internacional a autoridade de cada governo sobre sua própria política de inteligência artificial.

A discussão deve ganhar novo impulso com a participação de Altman no Conselho de Segurança da ONU, onde o executivo deverá defender mecanismos de coordenação internacional para o desenvolvimento e a supervisão dos sistemas mais avançados de IA.