Qué pasó
- METR publicó el 20 de octubre de 2026 su revisión de la sección «Misalignment in high-stakes settings» del Informe de Riesgo de Anthropic de agosto, que evalúa la situación al 15 de julio.
- El informe cubre Mythos 5 y un modelo de uso interno llamado «Model 2». METR dice coincidir en que el riesgo de daño catastrófico por desalineación de esos modelos es bajo.
- Atribuye ese riesgo bajo sobre todo a las capacidades limitadas de los modelos, y no a las salvaguardas ni al entrenamiento de alineación.
- Discrepa del método: las pruebas de capacidades encubiertas son una referencia débil para medir si un modelo puede evadir el monitoreo interno de Anthropic.
Por qué importa
- Un proveedor que se evalúa a sí mismo entrega una conclusión; un revisor externo que acepta la conclusión pero rechaza el método entrega algo más útil para quien contrata o regula: qué preguntar.
- Para una empresa chilena que usa estos modelos o para el regulador que decida cómo supervisarlos, la revisión muestra que «riesgo bajo» puede significar «el modelo aún no puede hacerlo», y eso caduca cuando el modelo mejora.
- METR trabajó con el documento interno y con menos acceso que en revisiones futuras. Anthropic tenía veto de publicación y no censuró nada de la revisión.
El dato
1% contra 50%: la proporción de acciones que el monitor offline marcó en un incidente de Mythos 5, según METR, sin y con la cadena de razonamiento visible.
Contexto
La revisión sigue al acceso interno que Anthropic dio a seis empleados de METR y se suma a las reglas que OpenAI fijó para sus propias auditorías. METR revisó cinco redacciones del informe: dos no estaban bien justificadas y recomienda publicar cuatro datos en total. El borrador de Anthropic del 24 de julio hablaba de riesgo «muy bajo»; tras los incidentes quedó en «bajo».
Qué viene
- METR recomienda probar de punta a punta los sistemas de monitoreo, incluido un intento de despliegue interno no detectado.
- También pide ampliar las rutas de riesgo a IA que socaven decisiones de seguridad dentro de Anthropic.
- Sin plazos anunciados para una respuesta de Anthropic ni para levantar las redacciones.
Cierre
Que el revisor y el revisado lleguen a la misma cifra por razones distintas muestra que la cifra sola no alcanza. Lo mismo apunta el ritmo que Anthropic dice haber frenado para sus auditores.
Fuentes
- METR — Review of the “Misalignment in high-stakes settings” section in Anthropic’s Risk Report (August 2026) — 20 de octubre de 2026
- Imagen: Official U.S. Navy Page from United States of America Mass Communication Specia, Public domain, vía Wikimedia Commons
Editado por Rodrigo Cornejo. Cómo seleccionamos, verificamos y corregimos cada nota.
