Saltar al contenido

Glosario · IA en educación

Detección de textos generados por IA

Herramientas que intentan distinguir si un texto lo ha escrito una persona o una IA.

  • Integridad académica
  • Falsos positivos
  • Desde 2023

Definición

Son programas que estiman la probabilidad de que un texto haya sido generado por un modelo de lenguaje. Se basan en lo previsible que es el texto: la IA tiende a elegir las palabras más probables. Los estudios independientes muestran que fallan a menudo, en los dos sentidos, y que se engañan con facilidad si el texto se parafrasea.

Por qué un detector no sirve como pruebaCien trabajos representados como cuadrados, todos escritos por estudiantes. Ocho aparecen señalados por error como generados por IA.Trabajo escrito porel estudianteSeñalado como IApor error

Desliza el esquema para verlo entero.

Ilustración, no un dato: si un detector se equivoca en un pequeño porcentaje, en cien trabajos auténticos acusa a varios estudiantes que no han hecho nada.

Por qué no sirven como prueba

Un detector da una probabilidad, no una certeza. Si se aplica a cientos de trabajos, incluso un porcentaje pequeño de falsos positivos señala a estudiantes que no han hecho nada.

Además, perjudican más a quien escribe en una lengua que no es la suya: sus textos son más previsibles y el detector los confunde con los de una máquina.

Por qué importa en la universidad

  • No sirven como prueba. Una acusación basada solo en un detector no se sostiene.
  • Perjudican a algunos. Señalan más a menudo a quien escribe en una lengua que no es la suya.
  • Mejor rediseñar. Cambiar la tarea protege más la integridad que vigilar el resultado.

Un poco de historia

Cómo se ha llegado hasta aquí

Una carrera que empezó con ChatGPT y que los detectores van perdiendo.

  1. Nov. 2022

    Llega ChatGPT

    Las universidades buscan de inmediato una forma de saber quién lo usa.

  2. Ene. 2023

    Primeros detectores

    Aparecen herramientas específicas y los servicios antiplagio añaden la detección de IA.

  3. Jul. 2023

    OpenAI retira el suyo

    La propia empresa creadora de ChatGPT retira su detector por su baja precisión.

  4. 2023

    Estudios independientes

    Weber-Wulff y su equipo comprueban que ninguna herramienta es fiable, y Liang y su equipo muestran el sesgo contra quien escribe en una segunda lengua.

Ejemplos en el aula

  1. Evaluar el proceso

    Pedir borradores, notas y versiones, no solo el texto final.

  2. Defensa oral

    Una conversación breve sobre el trabajo entregado.

  3. Declarar el uso

    Pedir que el estudiante cuente cómo y para qué usó la IA.

Para saber más

Lecturas recomendadas

  • Weber-Wulff, D., et al. (2023). Testing of detection tools for AI-generated text. International Journal for Educational Integrity, 19, 26.
  • Liang, W., Yuksekgonul, M., Mao, Y., Wu, E., y Zou, J. (2023). GPT detectors are biased against non-native English writers. Patterns, 4(7), 100779.