Qué pasó
- Edoardo Bolzoni y Valerio Capraro publicaron el 29 de septiembre de 2026 en arXiv un estudio sobre sesgos de género en diez modelos de lenguaje, lanzados entre abril de 2025 y junio de 2026 por nueve proveedores.
- El primer experimento pidió atribuir frases con estereotipos de género a una autora o a un autor. Dos modelos atribuyeron frases de estereotipo masculino a escritoras más seguido que al revés, y tres mostraron el patrón inverso.
- El segundo experimento presentó un juicio moral: dañar a una mujer o a un hombre para evitar una catástrofe. Varios modelos convergieron en una asimetría que desfavorece al hombre, en línea con una tendencia humana documentada de proteger a objetivos femeninos. Otros tres modelos no variaron entre condiciones.
Por qué importa
- El resultado no es que “los modelos sesgan hacia un lado”. Es que lo hacen hacia lados distintos. Una política interna que diga “usamos el modelo X, ya fue revisado” no sirve si se cambia de proveedor o de versión, porque el sesgo no se traslada.
- Para un área de recursos humanos en Chile que use un modelo para filtrar postulaciones o redactar evaluaciones, el riesgo se mide por modelo y por tarea. Un sesgo favorable a un género en un modelo puede ser contrario en otro, y el estudio lo muestra entre proveedores.
- Las pruebas del estudio son artificiales, con frases cortas y dilemas morales. Sirven para comparar modelos, no para predecir qué pasará con una persona concreta en un proceso de selección.
El dato
10 modelos, 9 proveedores. Los autores concluyen que el sesgo de género es común y muy heterogéneo entre ellos.
Contexto
Las investigaciones sobre sesgos se habían concentrado en pocos modelos, lo que dejaba abierta la pregunta de cuánto se repiten los patrones entre proveedores. El trabajo responde con una muestra ancha de lanzamientos de los últimos catorce meses. Los usos donde el sesgo pesa ya existen: la postulación asistida por IA deja invisible al candidato sin experiencia que sí calza, y dos motores de IA nombran la misma marca en proporciones muy distintas, una muestra de que cada motor responde distinto a la misma consulta.
Qué viene
- Los autores recomiendan tratar la auditoría de sesgos como un proceso continuo y de varios proveedores, no como una evaluación única.
- El paper es un preprint en versión 1.
- Sin plazos anunciados para repetir el estudio con modelos posteriores a junio de 2026.
Cierre
Un modelo auditado no dice nada sobre el de otro proveedor. La regularidad que encontraron los autores es que no hay regularidad entre proveedores, y eso desplaza la auditoría desde el modelo hacia el proceso que la repite.
Fuentes
Editado por Rodrigo Cornejo. Cómo trabajamos: quiénes escriben las notas.
