Qué pasó
- Un trabajo publicado el 24 de septiembre en arXiv presenta PrivDrift, una prueba para medir si un dato sensible revelado a un asistente sigue siendo recuperable después de que la conversación cambió de tema.
- El conjunto tiene 1.000 diálogos de varios turnos, con secretos sembrados, turnos de desvío cargados de contenido y sondas de extracción estandarizadas.
- Sobre tres modelos con ventana de contexto extendida, la fuga a nivel de diálogo va de 38,7% a 54,6%, con variación fuerte según el modelo, el tipo de secreto y la intensidad de la persuasión usada para sacarlo.
- El hallazgo central, según el texto: seguir cambiando de tema no reduce la fuga de forma confiable dentro de la ventana probada.
- El autor concluye que esto debe evaluarse como una falla de comportamiento persistente, no como memorización de datos de entrenamiento ni como una fuga puntual por evasión de filtros.
Por qué importa
- Toca de lleno a cualquier organización que haya abierto un asistente compartido a su equipo. Si dos personas usan la misma sesión, o si una sesión larga pasa por varios asuntos, un dato entregado al principio sigue disponible para quien sepa preguntar.
- En Chile esto cae directo sobre la Ley 21.719: el dato revelado en una conversación de trabajo es dato personal si identifica a alguien, y quien administra la herramienta es responsable de su tratamiento. Cerrar la pestaña no es una medida de borrado.
- Hay una consecuencia que el paper no aborda: la mayoría de los controles corporativos revisa el mensaje de entrada y la respuesta final. Ninguno audita si el contexto acumulado sigue conteniendo material que ya debió descartarse, porque no existe un registro de qué se dijo hace veinte turnos.
El dato
54,6% es el techo de fuga medido a nivel de diálogo entre los tres modelos evaluados.
Contexto
Es la tercera pieza del mes sobre el mismo punto ciego. La nota sobre la tríada letal en ChatGPT para trabajo describía el riesgo en la combinación de datos privados, contenido externo y capacidad de enviar. PrivDrift muestra que basta el primero de los tres.
Qué viene
- Sin plazos anunciados para publicar el conjunto de diálogos ni para ampliar la evaluación a más modelos.
- El trabajo está en versión 1 y no declara revisión por pares.
Cierre
La discusión pública en Chile sobre postergar la ley de datos se dio en términos de plazos de cumplimiento. El problema que mide este trabajo no espera el plazo: ya está en la ventana de contexto de las sesiones que se abrieron hoy.
Esta nota describe un hallazgo técnico y no constituye asesoría jurídica.
Fuentes
Editado por Rodrigo Cornejo. Cómo seleccionamos y verificamos: quiénes escriben estas notas.
