Definición
Son diferencias sistemáticas en el rendimiento o en las decisiones de un sistema según el origen, el género, la lengua, la situación económica u otras características del alumnado. Pueden venir de los datos con los que se entrenó, de lo que se decidió medir o de cómo se usa el sistema en la práctica.
Un caso que hizo historia
En 2020, con los exámenes suspendidos por la pandemia, el Reino Unido asignó las notas finales de bachillerato con un algoritmo que tenía en cuenta los resultados históricos de cada centro. Rebajó sobre todo a estudiantes brillantes de centros con peores resultados. Tras las protestas, el Gobierno retiró las notas del algoritmo.
La lección es que un sistema puede ser técnicamente correcto y, aun así, injusto con personas concretas.
Por qué importa en la universidad
- Daña a quien más lo necesita. Un predictor sesgado puede señalar mal justo a los más vulnerables.
- No se ve a simple vista. Hay que buscarlo comparando resultados por grupos.
- Responsabilidad institucional. Quien adopta un sistema debe preguntar cómo se ha comprobado.
Ejemplos en el aula
Preguntar al proveedor
Pedir datos de rendimiento del sistema por grupos de estudiantes.
Revisar avisos
Comprobar a quién señala el sistema antes de actuar.
Correcciones automáticas
Mirar si penaliza variantes del español o a quien escribe en segunda lengua.
Para saber más
Lecturas recomendadas
- Baker, R. S., y Hawn, A. (2022). Algorithmic bias in education. International Journal of Artificial Intelligence in Education, 32(4), 1052-1092.