Sparks, Sarah D. 2026. “AI Changes Its Feedback on Students’ Writing When It Knows Their Race, Gender.” Education Week, June 18, 2026. https://www.edweek.org/technology/ai-changes-its-feedback-on-students-writing-when-it-knows-their-race-gender/2026/06.

Un estudio reciente analiza cómo los sistemas de inteligencia artificial utilizados como “coaches” de escritura modifican su retroalimentación cuando reciben información sobre características personales de los estudiantes, como su raza, género, nivel académico o condición de aprendizaje. Los investigadores descubrieron que la misma redacción puede recibir comentarios muy distintos dependiendo de esos datos contextuales.

Cuando la IA “cree” que el estudiante es de alto rendimiento, tiende a ofrecer sugerencias más profundas, como ampliar argumentos o considerar contraargumentos. En cambio, cuando se le atribuyen perfiles de bajo rendimiento o dificultades de aprendizaje, la retroalimentación se vuelve más superficial, centrada en correcciones básicas como ortografía o frases confusas. Esto ocurre incluso cuando el texto original es idéntico.

El estudio, realizado con modelos como GPT-4o y Llama, sugiere que estos sesgos no son accidentales sino consecuencia de cómo los modelos interpretan la información contextual: toda característica añadida al prompt es tratada como relevante, aunque no tenga relación con la calidad del escrito. Esto puede generar estereotipos educativos, ya que el sistema adapta su “expectativa” del estudiante según su perfil.

Los autores advierten que la personalización mediante IA en educación puede tener efectos contraproducentes si no se controla adecuadamente, ya que podría reforzar desigualdades en lugar de mejorar el aprendizaje. Subrayan la necesidad de supervisión docente y criterios pedagógicos claros para evitar que los sistemas automáticos sustituyan el juicio educativo humano.