Agranovsky, Nathan. 2026. “AI Detectors Are Failing Our Students.” The AI School Librarian (Substack), 13 de abril de 2026. https://aischoollibrarian.substack.com/p/ai-detectors-are-failing-our-students

El artículo analiza críticamente el uso creciente de detectores de inteligencia artificial en entornos educativos y sostiene que estas herramientas, lejos de resolver el problema del uso indebido de la IA, están generando nuevos efectos adversos en el aprendizaje y la evaluación.

Un estudio reciente, AI Writing Detectors Are Ineffective, Unreliable, and Harmful de Louie Giray, reúne evidencias crecientes y plantea una idea clara: los detectores de escritura con IA no son lo bastante fiables para ser usados en la toma de decisiones educativas, y utilizarlos así puede causar un daño real al alumnado.

En particular, se señala que los estudiantes no nativos de inglés son desproporcionadamente afectados por estas herramientas, ya que sus producciones escritas tienden a ser más estructuradas o menos idiomáticas, lo que los algoritmos interpretan erróneamente como patrones artificiales. Este fenómeno no constituye un simple margen de error aceptable, sino un problema estructural que compromete la equidad del sistema de evaluación.

En primer lugar, se argumenta que los detectores de IA no identifican realmente la autoría del texto, sino que funcionan mediante métricas probabilísticas como la perplejidad y la variabilidad de las frases, lo que los hace incapaces de distinguir de forma fiable entre un texto humano bien estructurado y uno generado por IA. Esto provoca un alto riesgo de falsos positivos, especialmente en estudiantes que escriben con estilo académico, siguen rúbricas estrictas o pertenecen a contextos multilingües.

Otro aspecto crítico que se aborda es la facilidad con la que estos sistemas pueden ser eludidos. El artículo señala que no se requieren conocimientos técnicos avanzados para modificar un texto generado por IA de forma que evite ser detectado. Cambios mínimos en la redacción, ajustes de tono o la combinación parcial de escritura humana y artificial pueden alterar significativamente los resultados del detector. Esto genera una situación paradójica: mientras algunos estudiantes pueden ser falsamente acusados sin haber utilizado IA, otros pueden emplearla de manera estratégica sin ser detectados, lo que introduce una profunda desigualdad en el sistema de evaluación.

Se dedica una parte importante al problema del sesgo, destacando que los detectores tienden a perjudicar especialmente a estudiantes multilingües o a aquellos que utilizan un lenguaje más simple o estructurado. Esta situación agrava desigualdades ya existentes en el sistema educativo, ya que estudiantes que están en proceso de adquisición de una lengua o que provienen de contextos educativos diversos tienen más probabilidades de ser señalados erróneamente. De este modo, la herramienta no solo falla en su precisión técnica, sino que también introduce un componente de injusticia sistemática.

El texto también señala que estas herramientas están alterando el comportamiento de los estudiantes, que empiezan a escribir “para el detector” en lugar de escribir para comunicar ideas. Esto conduce a una degradación del estilo, una mayor homogeneización del lenguaje y, en algunos casos, al uso defensivo de la IA para evitar ser penalizados injustamente.

Otro eje central del artículo es la dimensión ética y pedagógica: el uso de detectores desplaza la confianza del profesorado hacia sistemas opacos que no pueden demostrar autoría ni intención. Incluso los propios desarrolladores de estas herramientas reconocen su falta de fiabilidad, lo que cuestiona su uso como base para sanciones académicas.

A partir de ejemplos concretos, el artículo ilustra la situación habitual en muchas aulas: un estudiante entrega un trabajo, el sistema lo marca como generado en gran parte por IA, y el docente debe decidir si confiar en la herramienta o en la palabra del estudiante, especialmente cuando no existen borradores u ուրիշ trazas del proceso de escritura. Este tipo de dilemas refleja una tensión creciente en la educación contemporánea, donde la autoridad del algoritmo compite con la evidencia humana sin que exista un criterio claro para resolver el conflicto.

Finalmente, el autor propone un cambio de enfoque: en lugar de depender de la detección, las instituciones deberían centrarse en la alfabetización en IA, la evaluación del proceso de escritura y la adaptación de las metodologías docentes a un entorno donde la IA ya forma parte del ecosistema de aprendizaje.