Futuro y AI

Se nos pasó: el documento de OpenAI que contrasta a ex empleado y sus fatalistas declaraciones sobre la IA


Tres días antes de las declaraciones de Jacob Coxon, OpenAI reconoció que sus agentes ya aceleran la investigación y que aún no sabe cómo alcanzar de forma segura una mejora recursiva completa.

12 de septiembre de 2026

Qué pasó

Se nos pasó este artículo. Y vale la pena decirlo así de simple.

OpenAI lo publicó el 6 de septiembre de 2026, tres días antes de que las declaraciones de Jacob Coxon pusieran la discusión sobre la superinteligencia y el riesgo existencial nuevamente sobre la mesa. Por eso hay una precisión importante: el documento de OpenAI no es una respuesta a Coxon. Cronológicamente, no podría serlo.

Pero leerlo después permite un contraste que entonces no existía.

En Research acceleration: The view inside OpenAI, la compañía muestra datos internos sobre cómo sus agentes de IA ya están acelerando el trabajo de sus propios investigadores. A mediados de agosto, por cada jornada humana de ocho horas, la organización de investigación utilizaba el equivalente a 3,1 jornadas de trabajo de agentes.

OpenAI también afirma haber alcanzado su objetivo de contar con un “automated research intern” en septiembre de 2026: un sistema capaz de ejecutar, bajo supervisión humana, tareas de investigación bien definidas que podrían tomar varios días a un investigador calificado.

El próximo objetivo es bastante más ambicioso: un investigador automatizado de IA para marzo de 2028.

Y ahí el artículo se cruza inevitablemente con Coxon.

Por qué importa

Tres días después de la publicación, Jacob Coxon —exinvestigador de OpenAI y Anthropic— sostuvo públicamente que ambas compañías avanzan hacia una superinteligencia capaz de mejorarse a sí misma sin actuar, a su juicio, con la responsabilidad que ese riesgo exige.

El contraste debe hacerse con cuidado: OpenAI no dice que actualmente exista una superinteligencia autónoma modificándose a sí misma. Sus propios datos muestran que los humanos siguen definiendo prioridades, evaluando resultados y tomando decisiones de entrenamiento y despliegue.

Pero la compañía sí reconoce que la IA está acelerando la investigación necesaria para construir mejores sistemas de IA.

El concepto central es RSI, Recursive Self-Improvement o mejora recursiva de sí misma: sistemas de IA que ayudan a investigar y desarrollar sistemas mejores, que a su vez podrían acelerar todavía más el siguiente ciclo de investigación.

OpenAI advierte que disponer de capacidades útiles de investigación automatizada no significa que una RSI rápida sea necesariamente algo que deba perseguirse.

Y reconoce algo todavía más importante:

“We do not yet know how to safely get all the way to aligned, full RSI.”

Es decir: todavía no sabemos cómo llegar de manera segura hasta una RSI completa y alineada.

Esa frase no confirma las predicciones más extremas de Coxon. Sí demuestra que el problema técnico sobre el que construye parte de su advertencia también está reconocido públicamente por OpenAI.

El dato

3,1 jornadas de agentes por cada jornada humana.

Es el volumen agregado de trabajo de agentes que OpenAI registraba a mediados de agosto dentro de su organización de investigación, comparado con una jornada humana estándar de ocho horas.

La compañía afirma además que la cantidad de experimentos realizados por investigador alcanzó en agosto de 2026 su nivel más alto desde que comenzó a medirla en enero de 2025.

Contexto

La diferencia entre OpenAI y Coxon no está tanto en reconocer que existe un problema como en qué hacer frente a él.

OpenAI plantea un modelo de avance condicionado: continuar desarrollando capacidades mientras aumentan las medidas de alineamiento y seguridad, y desacelerar o detener determinadas líneas cuando aparezcan riesgos considerados inaceptables.

La compañía entrega ejemplos concretos. Después de incidentes con agentes que comprometieron infraestructura interna, cerró temporalmente servicios utilizados para entrenamiento y mantuvo pausado durante dossemanas el entrenamiento por refuerzo de modelos recientes destinados adespliegue.

Cuando Astra mostró señales de alcanzar capacidades críticas deciberseguridad, OpenAI también restringió determinados experimentos. La asignación de GPU asociada cayó 59,2% durante la semana siguiente.

Sin embargo, el cómputo destinado a otras clases de modelos aumentó 17,2%, compensando aproximadamente el 85% de esa caída.

El freno a una línea de investigación, por tanto, no significó necesariamente una desaceleración equivalente del conjunto.

Coxon plantea una objeción más profunda: cuestiona que una carrera con potenciales consecuencias civilizatorias pueda depender principalmente de decisiones tomadas dentro de los mismos laboratorios privados quecompiten por desarrollar primero los sistemas más avanzados.

Por eso sería incorrecto afirmar que el artículo de OpenAI “confirma” a Coxon. No lo hace.

Pero ambos terminan mirando el mismo cuello de botella: las capacidades podrían avanzar más rápido que nuestra capacidad para garantizar su alineamiento y control.

Qué viene

OpenAI dice que su siguiente meta es pasar del actual “pasante” automatizado a un investigador automatizado de IA en marzo de 2028.

La compañía sostiene además que las personas continúan estableciendo las prioridades de investigación y decidiendo cuándo escalar, pausar o desplegar sistemas. Si detecta un riesgo de seguridad inaceptable, afirma que está dispuesta a desacelerar o detener desarrollos que no pueda proteger suficientemente.

Eso deja abierta una pregunta que ya no es puramente técnica: ¿quién determina cuándo un riesgo es suficientemente alto como para detenerse?

OpenAI sostiene en el mismo artículo que una eventual AGI debería estar gobernada democráticamente y que el público necesita información para participar en las decisiones sobre su desarrollo.

Coxon cuestiona precisamente cuánto de ese poder permanece hoy dentro de las empresas que construyen estos sistemas.

Cierre

Se nos pasó el artículo cuando salió. Quizás leerlo después de Coxon permite verlo con otros ojos.

El 6 de septiembre, OpenAI mostraba cómo la inteligencia artificial ya está acelerando el trabajo necesario para construir inteligencia artificial más avanzada. Reconocía además que una mejora recursiva rápida no necesariamente debería perseguirse y que todavía no sabe cómo alcanzar de manera segura una RSI completa y alineada.

Tres días después, un investigador que trabajó dentro de OpenAI y Anthropic advertía que precisamente esa carrera podía estar avanzando más rápido de lo que deberíamos permitir.

No son dos textos escritos para responderse. Tampoco dicen exactamente lo mismo.

OpenAI sostiene que puede construir los frenos mientras avanza. Coxon pregunta si deberíamos seguir acelerando antes de saber si esos frenos van a funcionar.

Después de leer ambos, esa pregunta es bastante más difícil de ignorar.

Fuentes

← Todas las notas