Qué pasó
- Anthropic publicó el 15 de octubre de 2026, a las 17:20 UTC, «An update on independent evaluators». El texto se modificó esa misma noche, a las 23:35 UTC, para aclarar los términos de un proyecto de SecureBio.
- Un equipo de 6 empleados de METR, organización sin fines de lucro que evalúa modelos de frontera, recibió acceso similar al de un empleado: equipos de la compañía, oficina y herramientas internas comparables a las de sus propios equipos de evaluación de riesgos.
- METR publicará sus hallazgos. Anthropic no puede vetarlos, pero sí exigir redacciones en categorías previamente definidas, como datos de usuarios, información legal reservada y detalles de la arquitectura del modelo. METR puede decir públicamente si considera justificada cada redacción.
- SecureBio revisa el capítulo de armas químicas y biológicas del informe de riesgos de agosto de 2026. Accenture, con Faculty, busca una alianza más amplia: evaluación de modelos, pruebas adversarias, evaluaciones de alineamiento y pruebas de salvaguardas. Hay conversaciones iniciales con otras organizaciones, entre ellas Hugging Face.
Por qué importa
- La compañía describe tres niveles de acceso. En el primero, investigaciones acotadas, Anthropic controla el acceso y aprueba la publicación. En los otros dos, la publicación no requiere aprobación, aunque admite redacciones. Quien lea un informe de evaluador debe saber en qué nivel se hizo.
- Entre las categorías redactables figura la arquitectura del modelo. Es justo lo que un tercero necesitaría para explicar por qué un modelo falla. La salvaguarda de que METR pueda opinar sobre cada redacción es lo que hace verificable el límite.
- Para una empresa chilena que contrata modelos de Anthropic, el cambio es de evidencia: habrá informes de terceros con acceso real que se podrán citar en una evaluación de proveedores, en lugar de depender solo de las pruebas internas del fabricante. Los criterios de independencia (sin participación accionaria ni dependencia financiera u operativa) los declara la misma compañía.
El dato
6: los empleados de METR con acceso similar al de un empleado de Anthropic.
Contexto
La publicación cita el compromiso de Anthropic, del mes anterior, de reforzar la evaluación independiente, y su adhesión al Acuerdo de la Casa Blanca sobre Superinteligencia. OpenAI también fijó su postura: OpenAI publica principios para auditorías externas. Sobre los fallos que la compañía ya documentó, ver Anthropic detalló 4 accesos indebidos de Claude.
Qué viene
- Los informes de METR y de SecureBio, sin fecha de publicación.
- La alianza con Accenture y Faculty, en negociación, sin plazo.
- Conversaciones con otras organizaciones, entre ellas Hugging Face, sin plazo.
Cierre
Anthropic sostiene que todas las compañías de frontera deberían hacer lo mismo. Hasta ahora, OpenAI publicó principios y Anthropic publicó un acceso.
Fuentes
- An update on independent evaluators, Anthropic, 15 de octubre de 2026.
Editado por Rodrigo Cornejo · Quiénes escriben en Mamífero
