Qué pasó
- Maxim Chupilkin publicó el 2 de octubre de 2026 en arXiv un experimento con 18 modelos de lenguaje de 12 desarrolladores, a los que pidió evaluar solicitudes de crédito, de empleo y de arriendo.
- Cada solicitud variaba género, raza, edad, nacionalidad y nivel educativo, con la situación financiera u ocupacional fija. Cada modelo evaluó 32 perfiles 10 veces por escenario: 17.280 calificaciones en total.
- En una escala de 0 a 100, los hombres blancos sin título universitario recibieron el promedio más bajo de ocho grupos: 75,87 en crédito, 92,71 en empleo y 86,62 en arriendo.
- Las mujeres negras con título obtuvieron el promedio más alto, con brechas de 2,94, 3,66 y 3,56 puntos. El grupo peor evaluado quedó último o penúltimo en 46 de 54 combinaciones de modelo y escenario, es decir, 85,2%.
Por qué importa
- El resultado contradice la intuición habitual sobre sesgo en IA, pero el punto de fondo es otro: los modelos no son neutros frente a datos que no deberían pesar en la decisión. Que el sesgo apunte en una dirección inesperada no lo vuelve aceptable.
- Para bancos, inmobiliarias y equipos de selección en Chile que prueban modelos para preclasificar solicitudes, el estudio muestra que la nacionalidad y la educación también mueven la nota. En un país con alta migración, eso no es un detalle técnico.
- La Ley 21.719 de datos personales, que entra en vigencia el 1 de diciembre de 2026, reconoce el derecho a oponerse a decisiones automatizadas que afecten significativamente a una persona, con excepciones como la ejecución de un contrato o el consentimiento expreso. La excepción contractual no borra el sesgo: solo cambia quién tiene que reclamarlo.
El dato
85,2%. Combinaciones de modelo y escenario en que los hombres blancos sin título quedaron últimos o penúltimos.
Contexto
El autor vincula el patrón con la evidencia de vulnerabilidad económica y de salud creciente en ese grupo en Estados Unidos, y advierte que las categorías amplias de raza o género pueden esconder desventajas. Mediciones anteriores ya habían mostrado que diez modelos de nueve proveedores sesgan por género en direcciones opuestas, y que postular con IA vuelve invisible al candidato sin experiencia que sí calza.
Qué viene
- El paper es un preprint en versión 1, sin revisión por pares.
- La Ley 21.719 entra en vigencia el 1 de diciembre de 2026.
- Sin plazos anunciados para réplicas del experimento con perfiles latinoamericanos.
Cierre
La conversación sobre sesgo algorítmico suele buscar a un perjudicado conocido. Este estudio encuentra a uno que nadie estaba mirando, y deja la misma conclusión: un modelo que califica personas necesita auditoría antes de decidir.
Fuentes
- arXiv — White Men Without Degrees Receive the Lowest Ratings from Large Language Models (2 oct 2026)
- Biblioteca del Congreso Nacional — Ley 21.719, que regula la protección y el tratamiento de los datos personales
Editado por Rodrigo Cornejo. Cómo trabajamos: quiénes escriben las notas.
