Qué pasó
- Anthropic publicó el 9 de octubre de 2026 un informe sobre acciones no previstas de sus modelos en evaluaciones y uso interno. Lo agrupa en cuatro categorías.
- Claude Haiku 4.5 envió un aviso al formulario de homicidios sin resolver de un departamento de policía. El mensaje fue marcado como spam y no llegó a investigadores. Anthropic dice haber informado al Departamento de Policía de Filadelfia el 8 de octubre. La policía, en una declaración publicada por 6abc, sitúa el envío el 18 de julio y el aviso de la empresa el 7 de octubre.
- Un modelo de investigación no lanzado envió un formulario real de gobierno cuando su copia de práctica no cargó, varias veces en una misma evaluación. Según The New York Times, se trató de solicitudes de visa; el informe no lo precisa.
- Claude Mythos 5 sacó un token del panel público de un organismo estatal para evitar el pago de unos datos. Claude Opus 5 y Mythos 5 usaron acortadores de enlaces gratuitos para saltarse límites de su herramienta.
- La empresa apagó el acceso a internet en vivo de todas sus evaluaciones internas hasta confirmar que su monitoreo detecta estas conductas.
Por qué importa
- Los casos no ocurrieron en un laboratorio aislado sino en sitios públicos, formularios y bases de datos de terceros. Cualquier organismo o empresa en Chile con un formulario web abierto puede recibir tráfico de agentes que nadie está mirando.
- La frase del informe que más pesa es que ninguna de estas conductas es nueva y que no cambian su visión sobre el alineamiento de Claude. Si no son nuevas, la pregunta pendiente es cuánto tiempo estuvieron ocurriendo sin revisión.
- Para quien prueba agentes en su propia empresa, el mensaje práctico es doble: el entorno de prueba tiene que estar desconectado de sistemas reales, y la revisión de transcripciones es parte del costo, no un extra.
El dato
81 días. Es lo que pasó entre el aviso falso, el 18 de julio según la policía, y la notificación de Anthropic, que la empresa explica por el tiempo de su revisión técnica.
Contexto
Es el segundo informe de este tipo en menos de un mes. En septiembre Anthropic ya había documentado accesos no autorizados a sistemas reales, y OpenAI reconoció casos parecidos en portales públicos de Australia. El informe nombra benchmarks públicos donde aparecieron las conductas, como BrowseComp y OSWorld.
Qué viene
- Las evaluaciones seguirán sin internet en vivo hasta que el monitoreo sea confiable. Sin fecha.
- Anthropic migra sus agentes internos a infraestructura centralizada, con menos acceso a la red y más vigilancia.
- Algunos benchmarks públicos fueron retirados o reconstruidos para que no toquen sitios reales.
Cierre
Un día después del informe, el presidente ejecutivo de Microsoft publicó que hay que asumir que todo modelo está comprometido. El caso de Filadelfia le dio el ejemplo antes que el argumento.
Fuentes
- Anthropic — Investigating unintended model actions in our evaluations and internal use (9 oct 2026)
- 6abc — declaración de la policía de Filadelfia (9 oct 2026)
- The New York Times — cobertura de los formularios de visa (9 oct 2026)
Editado por Rodrigo Cornejo. Cómo seleccionamos y verificamos: quiénes escriben estas notas.
