¿Son fiables los detectores de IA? Lo que conviene saber antes de confiar en el resultado
Respuesta corta: son útiles, pero no siempre aciertan. Quien los usa como única prueba se arriesga a culpar a alguien que no hizo nada malo.
¿Qué mide realmente un detector?
Un detector no sabe quién escribió un texto. Mira el texto en sí y se pregunta: ¿se parece a lo que suelen producir los modelos de lenguaje? Mide lo uniformes que son las frases, lo previsible que es el vocabulario y cuántas veces vuelven las expresiones hechas. El resultado es una estimación basada en patrones, no una prueba de quién sostenía el bolígrafo.
¿Por qué se equivoca?
- Textos cortos. Unas pocas frases no bastan para medir un patrón. Cuanto más corto es el texto, menos fiable es el resultado.
- Escritura formal. Los informes, los trabajos académicos y los textos jurídicos son regulares por naturaleza y pueden parecer generados.
- Segunda lengua. Quien no escribe en su lengua materna elige expresiones seguras y previsibles, y es señalado más veces de lo que sería justo.
- Texto editado. Un texto generado y después reescrito por una persona queda a medio camino, y los detectores lo juzgan de forma distinta.
- El idioma. La mayor parte de la investigación y de las herramientas parte del inglés. Los resultados en español son menos fiables.
Errores en los dos sentidos
Un texto humano puede marcarse como generado, y un texto generado puede pasar inadvertido. Como los detectores trabajan de maneras diferentes, dos herramientas pueden dar cifras muy distintas para el mismo texto. Eso no significa que una esté estropeada. Significa que la pregunta misma es incierta.
Cómo leer un resultado
Fíjate en tres cosas: el porcentaje, el nivel de confianza y las frases que han destacado. Una cifra alta con poca confianza dice poco. Pregúntate también si la explicación coincide con lo que ves en el texto.
Si eres docente
Deja que el resultado abra una conversación. Pregunta al estudiante por su proceso, sus borradores y sus fuentes, y pídele que explique de palabra una idea del texto. No bases una nota ni una sanción en la cifra de un detector.
Si eres estudiante
Guarda tus borradores y apuntes. Son la mejor prueba de que el trabajo es tuyo. Si tu texto se marca por error, pide con calma revisarlo con tu profesor y enséñale cómo trabajaste.