Definición
Es el diseño de sistemas de IA cuyas recomendaciones y decisiones pueden entender y cuestionar docentes y estudiantes: qué datos usan, qué pesa más en el resultado y con qué seguridad lo afirman. En educación importa por partida doble, porque una buena explicación además enseña.
Qué debería poder explicar
Ante cualquier sistema que tome o sugiera decisiones sobre estudiantes, conviene poder responder:
- Qué datos usa
- Y cuáles no, para saber qué se le escapa.
- Por qué este resultado
- Qué factores han pesado más en esta recomendación concreta.
- Con qué seguridad
- Si la predicción es firme o apenas mejor que el azar.
- Cómo se corrige
- Qué puede hacer el docente o el estudiante si no está de acuerdo.
Por qué importa en la universidad
- Poder revisar. Sin explicación no se puede revisar una decisión que afecta a una nota.
- Confiar lo justo. Saber por qué recomienda algo ayuda a no fiarse de más.
- Aprender del sistema. Una buena explicación también enseña al estudiante.
Ejemplos en el aula
Aviso de riesgo
Que el aviso diga qué datos lo han activado.
Recomendación de ejercicios
Que explique por qué propone esa actividad y no otra.
Corrección automática
Que señale qué parte del texto ha motivado cada comentario.
Para saber más
Lecturas recomendadas
- Khosravi, H., et al. (2022). Explainable Artificial Intelligence in education. Computers and Education: Artificial Intelligence, 3, 100074.