A Anthropic, empresa de inteligência artificial, concedeu acesso interno a uma equipe da organização sem fins lucrativos METR para auditar seus modelos de IA e práticas de segurança. Seis membros da equipe da METR receberam equipamentos da empresa, espaço de escritório e acesso a ferramentas internas, o que a Anthropic afirma ser semelhante ao acesso de suas próprias equipes de risco.

Dados de clientes, informações protegidas por sigilo profissional e detalhes sobre a arquitetura do modelo permanecem confidenciais. A METR publicará suas descobertas de forma independente. A Anthropic pode solicitar edições em categorias predefinidas, mas a METR tem a liberdade de expressar publicamente se considera as edições justificadas.

A empresa argumenta que nem todas as informações relacionadas à segurança podem ser divulgadas publicamente, seja para evitar auxiliar ataques ou por serem comercialmente sensíveis. Este acordo com a METR oferece um nível de acesso mais amplo do que o concedido a outros revisores externos, como SecureBio, Accenture e Faculty, que tiveram acesso mais limitado e restrições de publicação mais rígidas. A Anthropic também iniciou discussões preliminares com a Hugging Face.

A iniciativa segue a assinatura do White House Accord on Super Intelligence pela Anthropic, que inclui o compromisso de colaborar com revisores externos.