Qué pasó
- Anthropic publicó en su sitio de investigación un informe sobre “inferencia demostrable” para modelos de lenguaje. El texto figura con fecha 2 de noviembre de 2026 y TechCrunch lo informó el 3 de noviembre.
- El trabajo presenta FlashProve, un sistema que permite a quien opera un modelo comprometerse con él y luego demostrar, con una prueba criptográfica, que cada respuesta fue producida por ese modelo.
- La técnica pertenece a la familia de pruebas conocidas como zkSNARK, que según los autores calzan con el problema porque ocultan información y son eficientes de verificar.
- Firman el informe ocho personas de Anthropic, la EPFL, StarkWare, el MIT, RESI y Succinct. El código, las demostraciones formales escritas en Lean y la documentación se publicaron con licencia Apache 2.0.
- Los autores aclaran que se trata de un avance intermedio y no de una agenda terminada. Según TechCrunch, no hay planes de desplegarlo en Anthropic ni en otro laboratorio.
Por qué importa
- Hoy quien consulta un modelo no puede comprobar que la respuesta vino del modelo que eligió. Juzgar por la calidad del texto no sirve, advierten los autores.
- El informe da tres casos. Los evaluadores independientes necesitan saber que prueban el mismo modelo que se sirve al público. Quien usa un modelo a través de un servicio intermediario quiere saber que no le cambiaron el modelo por uno más barato. Y si un atacante altera el flujo de texto haciéndose pasar por un modelo, el usuario no tiene cómo notarlo.
- La dificultad es que los pesos de los modelos de frontera son privados y comprobar una respuesta exigiría volver a correr el modelo. Una prueba criptográfica separa las dos cosas: el laboratorio publica una huella del modelo que no revela los pesos y cualquiera puede verificar la prueba.
El dato
8. Son los autores del informe, repartidos entre Anthropic y cinco instituciones académicas y empresas de criptografía.
Contexto
TechCrunch compara el sistema con las firmas que permiten comprobar que un correo viene del remitente que dice. La diferencia es que FlashProve también protege contra el propio laboratorio: impediría que una empresa cambie en silencio un modelo por otro más barato para ahorrar costos, o por uno más caro para inflar resultados. Los autores agregan que estas pruebas podrían servir para verificar el cumplimiento de compromisos sobre el ritmo de desarrollo de la IA.
Mamífero sigue los esfuerzos por probar el origen de lo que produce la IA. Contamos que Anthropic publicó un verificador de credenciales C2PA que confirma su marca y que Google empezó a marcar su contenido con SynthID y sumó a OpenAI. En evaluación externa, METR coincidió con Anthropic en que el riesgo es bajo y discutió cómo se midió. En comercio, Visa, Mastercard y Ant empezaron a verificar agentes de IA en común.
Qué viene
- Para que el sistema funcione, cada laboratorio tendría que publicar la huella de los modelos que lanza. Ninguno se ha comprometido a hacerlo.
- La investigación sigue abierta y los autores invitan a terceros a tomar el código y mejorarlo.
- Según TechCrunch, la verificación está pensada para ser liviana y poder hacerse en un dispositivo local.
Cierre
FlashProve no cambia lo que hacen los modelos, cambia lo que se puede comprobar sobre ellos. Si los laboratorios publican sus huellas, un evaluador, una empresa o un usuario podrían exigir una prueba en vez de confiar en una etiqueta. Por ahora es código abierto a la espera de quien lo adopte.
Fuentes
- Rinberg, R., Allain, A., Chiesa, A. y otros, “Progress on provable inference for large language models”, Anthropic, 2 de noviembre de 2026, anthropic.com/research/provable-inference
- Código de FlashProve en GitHub
- Brandom, R., “Anthropic is working on a system to prove AI models’ identity”, TechCrunch, 3 de noviembre de 2026, techcrunch.com
- Imagen de portada: D. Sharon Pruitt, CC BY 2.0, vía Wikimedia Commons
Editado por Rodrigo Cornejo. Quiénes escriben las notas
