247 – O CEO da OpenAI, Sam Altman, falará na próxima semana ao Conselho de Segurança das Nações Unidas sobre os riscos da inteligência artificial e a necessidade de coordenação internacional para o desenvolvimento seguro da tecnologia. A informação foi confirmada pela OpenAI à Reuters nesta sexta-feira (18).

A participação ocorrerá durante a semana de alto nível da Assembleia Geral da ONU, em Nova York. O Conselho de Segurança, formado por 15 países, realizará na quarta-feira (23) uma reunião aberta dedicada à inteligência artificial e à segurança internacional.

“Sam Altman fará pessoalmente uma apresentação em uma reunião aberta do Conselho de Segurança da ONU na próxima semana”, informou um porta-voz da OpenAI à Reuters.

A expectativa é que Altman apresente as medidas adotadas pela OpenAI para aumentar a segurança de seus sistemas e discuta maneiras de fazer com que os benefícios da inteligência artificial sejam distribuídos globalmente.

O executivo também deverá defender maior coordenação internacional e a criação de padrões compartilhados de segurança para o desenvolvimento dos modelos mais avançados de IA.

França convoca reunião

A reunião foi convocada pela França, que ocupa a presidência do Conselho de Segurança durante o mês de setembro, e será presidida pelo ministro francês da Europa e das Relações Exteriores, Jean-Noël Barrot.

Em uma nota conceitual distribuída aos integrantes do Conselho e consultada pela Reuters, a França destaca a possibilidade de utilização maliciosa da inteligência artificial e defende uma reação internacional.

O documento aponta a urgência de medidas destinadas a promover um desenvolvimento “seguro e responsável” da IA em benefício da comunidade internacional.

A reunião também deverá discutir riscos relacionados à eventual perda de controle sobre sistemas avançados e à utilização dos modelos mais recentes para desenvolver ou facilitar ações capazes de afetar a paz e a segurança internacionais.

Anthropic também poderá participar

Diplomatas ouvidos pela Reuters disseram esperar também uma representação de alto nível da Anthropic, uma das principais concorrentes da OpenAI e desenvolvedora do Claude.

A participação da empresa, entretanto, ainda não havia sido confirmada.

A reunião acontece em meio a uma intensificação do debate internacional sobre os riscos associados aos sistemas mais poderosos de inteligência artificial. Nas últimas semanas, dirigentes do setor voltaram a defender ações coordenadas diante da possibilidade de que futuros sistemas desenvolvam capacidades difíceis de controlar.

Conselho discutiu IA pela primeira vez em 2023

Esta não será a primeira vez que o Conselho de Segurança aborda diretamente os riscos da inteligência artificial.

Em 2023, o órgão realizou sua primeira reunião dedicada ao assunto. Na ocasião, a China advertiu que a tecnologia não deveria se transformar em um sistema fora de controle, enquanto os Estados Unidos chamaram atenção para o risco de utilização da IA como instrumento de censura e repressão.

A entrada definitiva do tema na agenda do Conselho de Segurança reflete uma mudança na dimensão política da inteligência artificial. O debate deixou de estar restrito à inovação tecnológica e à economia e passou a envolver diretamente questões de defesa, segurança internacional, armas, ciberataques, desinformação e estabilidade política.

Altman alerta para riscos desde 2015

Embora tenha se tornado um dos principais responsáveis pela atual revolução da inteligência artificial, Altman alerta há mais de uma década para os riscos de sistemas superinteligentes.

Em um ensaio publicado em 2015, muito antes do lançamento do ChatGPT, o empresário apontou o desenvolvimento de uma inteligência artificial superior à humana como uma potencial ameaça existencial.

A posição de Altman tornou-se particularmente relevante à medida que os modelos desenvolvidos pela própria OpenAI e por concorrentes como Anthropic e Google passaram a apresentar capacidades cada vez mais avançadas.

Sua presença no Conselho de Segurança coloca agora esse debate no centro de uma das principais instituições multilaterais do mundo.

A questão que estará diante dos integrantes do órgão na próxima quarta-feira será como permitir que a inteligência artificial continue avançando e produzindo benefícios econômicos, científicos e sociais sem que sua evolução crie riscos capazes de ameaçar a segurança internacional.