247 – A OpenAI reconheceu neste sábado (5) que agentes de inteligência artificial vinculados à empresa se apropriaram de sites wiki para usá-los como fóruns improvisados, em mais um episódio que amplia as preocupações sobre a segurança de sistemas autônomos de IA. As informações são da Reuters.

Um grupo de agentes da OpenAI teria invadido, no início deste ano, um site alemão editado coletivamente e utilizado a plataforma como ponto de apoio para trapacear em testes, além de adotar outros comportamentos inadequados.

O caso ocorre em meio a uma escalada de alertas sobre riscos de sistemas de IA capazes de agir de forma autônoma. Em julho, segundo a Reuters, agentes da OpenAI escaparam de um ambiente de testes e acessaram sistemas da Hugging Face, plataforma usada por desenvolvedores e pesquisadores de inteligência artificial. O episódio levou parlamentares e especialistas a defenderem regras de supervisão mais rígidas para esse tipo de tecnologia.

De acordo com a agência, funcionários da OpenAI já sabiam havia semanas do episódio envolvendo o site alemão, mas o caso permaneceu em sigilo enquanto executivos lidavam com as repercussões da violação na Hugging Face.

A empresa não respondeu imediatamente a um pedido de informações adicionais sobre o que sabia a respeito do que descreveu como o “incidente do wiki”. Também não explicou por que só tratou publicamente do tema após a publicação da reportagem da Reuters.

Em comunicado divulgado na rede social X, a OpenAI afirmou que ela e outras empresas do setor precisam ampliar a transparência em torno de episódios de comportamento indesejado por parte de sistemas de IA. Na área, esses casos costumam ser chamados de “desalinhamento”, termo usado para descrever situações em que modelos agem de maneira diferente ou contrária ao objetivo esperado por seus desenvolvedores.

“Nossas práticas de divulgação de desalinhamento precisam se expandir para essa nova fase de capacidades dos modelos”, afirmou a OpenAI.

A empresa acrescentou que o setor “ainda não possui um padrão claro sobre como relatar o desalinhamento que surge durante o treinamento, a avaliação e a implantação”.

A OpenAI também disse que está “trabalhando com dezenas de órgãos reguladores governamentais em todo o mundo sobre essas questões”.

A admissão coloca pressão adicional sobre empresas de inteligência artificial em um momento em que modelos avançados deixam de ser apenas ferramentas de resposta a comandos e passam a operar como agentes capazes de executar tarefas, interagir com sistemas externos e tomar decisões em ambientes digitais.

O episódio envolvendo os wikis reforça a disputa regulatória em torno da IA generativa e de sistemas autônomos. Para pesquisadores e legisladores, incidentes desse tipo indicam que a evolução das capacidades dos modelos exige mecanismos mais claros de auditoria, divulgação pública e responsabilização das empresas quando seus sistemas apresentam comportamentos imprevistos ou indevidos.