A OpenAI divulgou o desenvolvimento de uma tecnologia de “marca d’água” invisível para identificar textos e códigos produzidos por suas ferramentas de inteligência artificial. O sistema, chamado textGrain, será implementado em conteúdos elegíveis do ChatGPT e do Codex na União Europeia.

A iniciativa visa cumprir as novas regras de transparência da União Europeia, que exigem a identificação de materiais gerados ou manipulados por sistemas de inteligência artificial. O textGrain funciona adicionando um “sinal estatístico invisível” às escolhas de palavras feitas pelo modelo, sem que o usuário visualize qualquer símbolo no texto.

Um detector específico poderá analisar esse padrão para determinar se um conteúdo foi criado com as ferramentas da OpenAI. A empresa informa que a tecnologia igualou ou superou o desempenho de outros sistemas de identificação, mas alerta que não é infalível. A performance da detecção pode ser comprometida por textos curtos, alterações significativas após a geração inicial e conteúdos matemáticos.

A OpenAI ressalta que a presença ou ausência da identificação não deve ser considerada uma prova definitiva do uso de inteligência artificial. Além disso, as “marcas d’água” não serão ativadas por padrão em todo o conteúdo global do ChatGPT. As ferramentas de detecção estarão disponíveis inicialmente para “pesquisadores aprovados e organizações especialistas”.

Contexto

Essa medida faz parte da adaptação de empresas de tecnologia às exigências europeias para aumentar a transparência sobre conteúdos gerados por inteligência artificial. A legislação busca garantir que o público tenha conhecimento quando interage com materiais produzidos ou alterados por sistemas automatizados.