Kumar, Himanshu. 2025. “How Do AI Detectors Work? (And What They Miss).” Medium, 14 de mayo de 2025. https://medium.com/illumination/how-do-ai-detectors-work-2d7341891f0a

Más sobre  Detectores

Un detector de IA es una herramienta diseñada para estimar si un texto ha sido redactado por un ser humano o generado por una IA. Estas herramientas se utilizan comúnmente por docentes y plataformas de contenido para verificar la autenticidad de textos y prevenir el uso indebido de tecnologías de generación automática.

Estas herramientas se han popularizado en entornos educativos, profesionales y editoriales para tratar de identificar cuándo un texto ha sido escrito por una IA como ChatGPT, lo que genera un nuevo panorama en la evaluación de contenidos.

Los detectores de IA funcionan, principalmente, mediante el análisis estadístico y lingüístico de los textos. Una de las técnicas más comunes es la medición de la “perplejidad”, que evalúa cuán predecibles son las palabras en una oración. Los textos generados por IA tienden a tener una perplejidad baja porque siguen patrones muy estructurados. Otra métrica importante es la “variabilidad” (o “burstiness”), que analiza la mezcla de oraciones largas y cortas: los humanos suelen escribir con más variedad, mientras que los sistemas de IA producen frases de longitud más constante.

Además de estos métodos, algunos detectores se basan en clasificadores entrenados mediante aprendizaje automático. Estos modelos se alimentan con grandes cantidades de texto humano y de IA para aprender a reconocer patrones distintivos. También se recurre al análisis semántico para detectar inconsistencias lógicas en los textos generados por IA, y a la estilometría, que intenta encontrar “marcas de agua” ocultas o señales características que puedan revelar su origen artificial.

Grammarly, en particular, cuenta con herramientas que van más allá del simple análisis estadístico, como Grammarly Authorship, que analiza el estilo personal del usuario para verificar si un texto coincide con su forma habitual de escribir. También utiliza detección de plagio para identificar si partes del texto coinciden con fuentes existentes, lo que puede ayudar a descubrir fragmentos generados artificialmente que han sido copiados de la web.

Sin embargo, estas herramientas no son infalibles. Una de sus principales limitaciones es la presencia de falsos positivos: textos auténticamente humanos, especialmente aquellos escritos en un estilo formal o por hablantes no nativos, pueden ser identificados erróneamente como escritos por IA. Del mismo modo, pueden producirse falsos negativos si el texto generado por IA ha sido modificado o editado, lo que complica su detección.

Entre las herramientas más populares de detección de IA se encuentran GPTZero, diseñada específicamente para el ámbito educativo; Originality.AI, utilizada en marketing y contenido web; Turnitin, que ha incorporado capacidades de detección de IA junto con el análisis de plagio; Writer AI Detector, que es gratuito pero variable en precisión; y Copyleaks, que ofrece informes detallados especialmente en contextos académicos.

Si bien las herramientas de detección de textos generados por IA han mejorado en precisión, aún enfrentan desafíos significativos, especialmente en la identificación de textos modificados y en la equidad hacia diversos grupos de usuarios. Es esencial utilizar estas herramientas como apoyo y no como única fuente de verificación, complementándolas con el juicio humano y considerando el contexto de cada caso.