Qué pasó
- OpenAI publicó el 22 de septiembre un documento con sus prioridades y principios para evaluaciones de terceros sobre modelos de frontera, según el texto alojado en su sitio.
- Compromete «niveles profundos de acceso a lo largo del entrenamiento, la evaluación y el despliegue» y ordena el trabajo en cuatro frentes: revisión de casos de seguridad, evaluación de salvaguardas críticas con pruebas adversarias, evaluaciones de capacidad en riesgos químicos, biológicos, de ciberseguridad y de automejora, e investigación de incidentes de desalineamiento.
- Los principios incluyen alcance acordado de antemano, acceso proporcional dentro de límites legales y de seguridad, metodología transparente, evaluadores con conflictos de interés declarados, y hallazgos entregados con tiempo de remediación antes de publicarse.
- El documento no nombra a ninguna organización evaluadora. Dice estar en conversación con múltiples terceros del sector privado y sin fines de lucro.
Por qué importa
- Para cualquier equipo que esté por firmar con un proveedor de modelos y necesite justificar la decisión ante un directorio o ante una contraparte regulada, este documento es lo más cercano a una política de auditoría que existe hoy. También conviene leer lo que no dice.
- Tres de los principios —alcance acordado, acceso proporcional, tiempo de remediación antes de publicar— dejan en manos del auditado qué se revisa, hasta dónde se mira y cuándo se cuenta. Es una diferencia de fondo con los regímenes de auditoría financiera, donde el alcance lo fija la norma.
- Consecuencia que el texto no explicita: mientras los evaluadores sigan sin nombre público, ninguna organización en la región puede verificar si el auditor que respalda a su proveedor tiene experiencia comprobable en el riesgo que a ella le importa.
El dato
4 Son los frentes de evaluación que OpenAI declara abrir a terceros, sin una sola organización evaluadora identificada.
Contexto
El anuncio aterriza mientras California levanta un registro obligatorio de auditores de IA y después de que Dario Amodei describiera el ritmo al que los auditores logran seguir a los laboratorios. La pregunta abierta sigue siendo la misma: quién acredita al acreditador.
Qué viene
- Sin plazos anunciados. El documento no fija fecha para nombrar evaluadores ni para publicar la primera revisión bajo estos principios.
- Las obligaciones de evaluación independiente del reglamento europeo de IA y el registro californiano avanzan en paralelo y con calendarios propios.
Cierre
Publicar los principios de una auditoría antes de nombrar a los auditores invierte el orden habitual. Primero se sabe cómo se va a mirar; después, si alguien miró.
Fuentes
Editado por Rodrigo Cornejo. Cómo seleccionamos, verificamos y corregimos cada nota.
