Saltar al contenido

Glosario · IA en educación

Sistema de alto riesgo en educación

Los usos de la IA en educación que el Reglamento europeo regula con más exigencia.

  • Reglamento europeo
  • Supervisión humana
  • Obligaciones

Definición

El Reglamento europeo de inteligencia artificial clasifica los sistemas según su riesgo. En educación considera de alto riesgo los que deciden el acceso o la admisión, evalúan resultados de aprendizaje, asignan el nivel educativo al que puede acceder una persona o vigilan conductas prohibidas durante los exámenes. Estos sistemas tienen que cumplir requisitos de gestión de riesgos, calidad de los datos, documentación, transparencia y supervisión humana.

Los cuatro niveles de riesgo del Reglamento europeo de IA en educaciónPirámide de cuatro niveles. Arriba, riesgo inaceptable, prohibido, como reconocer emociones del alumnado. Debajo, alto riesgo: admisión, evaluación, asignación de nivel y vigilancia de exámenes. Después, riesgo limitado, con obligación de transparencia. En la base, riesgo mínimo, sin obligaciones específicas.InaceptableProhibido.Ej.: reconocer las emociones del alumnadoAlto riesgoAdmisión, evaluación, asignación de nively vigilancia de exámenesLimitadoTransparencia: avisar de quese está hablando con una IAMínimoSin obligaciones específicas.Ej.: preparar materiales de clase

Desliza el esquema para verlo entero.

Reglamento (UE) 2024/1689. La mayoría de usos de clase están en la base. Los que deciden sobre personas suben de nivel.

Qué queda fuera

No todo uso de IA en clase es de alto riesgo. Usar un asistente para preparar materiales, dar ideas o comentar borradores sin efecto en la nota no entra en esta categoría. Lo decisivo es que el sistema influya en decisiones importantes sobre las personas: entrar, aprobar, avanzar o ser sancionado.

Para todos los usos rige además la obligación de alfabetización en IA del personal y, cuando alguien conversa con un sistema, el deber de avisarle de que habla con una máquina.

Por qué importa en la universidad

  • Saber qué está regulado. Marca qué usos tienen obligaciones legales y cuáles no.
  • Supervisión humana. En estos usos una persona tiene que poder revisar y corregir.
  • Antes de comprar. Permite pedir al proveedor la documentación que exige la ley.

Un poco de historia

Cómo se ha llegado hasta aquí

El calendario de la primera ley integral de IA del mundo.

  1. 2021

    Propuesta de la Comisión

    La Comisión Europea propone el Reglamento de IA con un enfoque basado en el riesgo.

  2. Jul. 2024

    Publicación

    El Reglamento (UE) 2024/1689 se publica en el Diario Oficial y entra en vigor el 1 de agosto de 2024.

  3. Feb. 2025

    Primeras obligaciones

    Se aplican las prohibiciones y el deber de alfabetización en IA.

  4. Ago. 2026

    Alto riesgo

    Fecha prevista en el Reglamento para las obligaciones de los sistemas de alto riesgo del anexo III. La Comisión propuso en 2025 aplazar parte de ellas: conviene comprobar el calendario vigente.

Ejemplos en el aula

  1. Corrección automática de exámenes

    Evaluar resultados de aprendizaje entra en la categoría.

  2. Vigilancia en exámenes

    Los sistemas de supervisión de pruebas en línea también.

  3. Admisiones

    Cualquier sistema que ordene o filtre solicitudes de acceso.

Para saber más

Lecturas recomendadas

  • Parlamento Europeo y Consejo de la Unión Europea (2024). Reglamento (UE) 2024/1689, por el que se establecen normas armonizadas en materia de inteligencia artificial. Diario Oficial de la Unión Europea, L 2024/1689 (anexo III, punto 3).