«Will ChatGPT Give Us a Lesson in Education?» Accedido 9 de octubre de 2023. https://www.nature.com/articles/d42473-023-00083-y.

Puede que haya una curva de aprendizaje a medida que se popularizan las herramientas de IA, pero esta tecnología ofrece a los profesores la oportunidad de ayudar a los alumnos a adquirir nuevas habilidades en la formulación de preguntas y en el pensamiento crítico.

Después de que chatbots superpotentes como ChatGPT-4 empezaran a estar ampliamente disponibles este año, los administradores escolares de todo el mundo se movilizaron para prohibir la tecnología en la educación en las aulas. Casi media docena de distritos estadounidenses bloquearon el acceso a la IA y otros modelos multimodales de lenguaje de gran tamaño (MLLM) en los dispositivos y redes escolares, y algunas escuelas australianas recurrieron a los exámenes de lápiz y papel después de que los estudiantes fueran sorprendidos utilizando chatbots para escribir ensayos.

La resistencia de los profesores alcanzó su punto álgido cuando se lanzó ChatGPT-4 en marzo de 2023. Desarrollada por OpenAI, con sede en San Francisco, esta IA generativa puede escribir poesía y canciones, y aprobó el examen de abogacía de EE.UU. en el percentil 90. Las MLLM pueden procesar imágenes y texto, y responden a consultas buscando patrones en datos en línea.

Cuando se le preguntó por qué las escuelas de Seattle habían restringido el uso de ChatGPT-4 en los dispositivos del distrito, Tim Robinson, portavoz del distrito, respondió: «La IA generativa hace posible la producción de trabajo no original, y el distrito escolar requiere trabajo y pensamiento original por parte de los estudiantes».

Sin embargo, ante el crecimiento aparentemente inevitable de la IA, muchas escuelas están dando marcha atrás, aunque con cuidado. «Todavía existe el temor de que los estudiantes utilicen grandes modelos lingüísticos como atajos en lugar de practicar para ser mejores escritores», afirma Tamara Tate, científica de proyectos del Laboratorio de Aprendizaje Digital de la Universidad de California en Irvine. Añade que si la IA ha llegado para quedarse, los estudiantes podrían beneficiarse de estrategias educativas que promuevan usos creativos de la tecnología. «Estas herramientas pueden proporcionar a los estudiantes compañeros de aprendizaje en el momento sobre una enorme variedad de temas».

En opinión de Tate y otros expertos, las MLLM pueden desempeñar varias funciones educativas positivas, como animar a los estudiantes a evaluar las respuestas en lugar de aceptarlas automáticamente. Sin embargo, es necesario reflexionar detenidamente para garantizar que se aprovechan estas posibles ventajas y mitigar los posibles inconvenientes. ¿Cómo podría desarrollarse la educación asistida por IA?

Ganancias y pérdidas en el aula

Los defensores del uso educativo de la inteligencia artificial generativa señalan varias ventajas. En primer lugar, ChatGPT-4 tiene un extraordinario dominio de la estructura gramatical adecuada, lo que Tate afirma que podría ser especialmente útil para hablantes no nativos que buscan comprender cómo incorporar correctamente palabras y frases en situaciones del mundo real.

Xiaoming Zhai, un profesor visitante que estudia aplicaciones de aprendizaje automático en la educación científica en la Universidad de Georgia en Atenas, cree que los profesores también pueden beneficiarse al utilizar modelos como ChatGPT como herramientas de enseñanza. Estos modelos pueden generar planes de lecciones personalizados y otros recursos adaptados a las necesidades de los estudiantes individuales, al tiempo que ayudan con la calificación y otras tareas mundanas. En la opinión de Zhai, esa capacidad libera tiempo para que los profesores puedan ofrecer a los estudiantes un feedback más personalizado. Al automatizar de manera eficiente tareas básicas como buscar literatura y materiales relevantes y resumir contenido, los modelos permiten a estudiantes y profesores «centrarse más en el pensamiento creativo».

El pensamiento creativo ayudará a las personas a aprovechar al máximo los MLLM (modelos de lenguaje y aprendizaje automático a gran escala). «Los modelos de lenguaje grandes son como motores de búsqueda: basura entra, basura sale», escribió Tate en un artículo reciente.

Los profesores pueden ayudar a sus estudiantes a desarrollar estrategias expertas de solicitud y optimización de búsqueda para generar el contenido más útil. «Para utilizar la tecnología de manera efectiva, los estudiantes deben centrarse en el trabajo de revisión», dice Tate. «ChatGPT-4 puede generar una respuesta fluida en el primer borrador, pero no mucho contenido profundo. Las respuestas pueden ser vagas y a menudo incorrectas».

Mientras investigábamos este artículo, le pedimos a ChatGPT-4 que nos dijera, en sus propias palabras, por qué sería una herramienta útil para la educación. Segundos después, el modelo proporcionó una respuesta detallada en la que afirmaba tener acceso a vastas cantidades de conocimiento y poder responder instantáneamente a preguntas en varios idiomas en cualquier momento. Pero el modelo también fue sincero acerca de sus limitaciones, señalando que si ChatGPT-4 no comprende los matices de una pregunta en particular, podría proporcionar información incompleta o errónea que podría ser problemática para los estudiantes que dependen exclusivamente del modelo para obtener respuestas.

Dado que los MLLM pueden no respaldar sus afirmaciones con razones o evidencia, esto brinda a los profesores la oportunidad de demostrar la necesidad de un razonamiento crítico. «Los estudiantes deben pensar en quién dijo qué y por qué en una respuesta dada», dice Tate.

Lea Bishop, profesora de derecho en la Facultad de Derecho Robert H. McKinney de la Universidad de Indiana en Indianápolis, está de acuerdo en que las posibles inexactitudes requerirán que los estudiantes examinen minuciosamente la salida del modelo. «Debes desarrollar el hábito de cuestionar todo lo que ves», dice. «Eso significa hacer preguntas detalladas de seguimiento y triangular con otras fuentes de conocimiento para ver qué coincide. Necesito que me demuestres que eres mejor que la computadora».

Lidiando con el engaño y el secreto

Algunos expertos se preocupan de que, para estudiantes menos motivados, estos tipos de modelos proporcionen una tentadora fuente de contenido preelaborado que disminuye las habilidades de pensamiento crítico. Los predecesores de ChatGPT-4 demostraron ser capaces de generar ensayos y respuestas a preguntas de respuesta corta y exámenes de opción múltiple. «Ya tenemos muchos problemas con estudiantes que sienten que aprender equivale a buscar, copiar y pegar», dice Paulo Blikstein, profesor asociado de comunicación, medios y tecnologías de aprendizaje en la Universidad de Columbia, en Nueva York. «Con la IA, tenemos un riesgo aún mayor de que algunos elijan el camino más corto y fácil e incorporen esas heurísticas y métodos como modo predeterminado».

Los profesores pueden intentar identificar contenido generado por IA con paquetes de software llamados detectores de resultados. Pero estos paquetes tienen una fiabilidad cuestionable, y en julio de 2023, OpenAI discontinuó su propio detector de resultados citando preocupaciones sobre la baja precisión. Los expertos se preocupan de que modelos como ChatGPT-4 pongan cada vez más a los profesores en el indeseado papel de tener que vigilar a los estudiantes que infringen las reglas con contenido generado por IA.

Tales preocupaciones son válidas y contribuyeron a las respuestas iniciales negativas. Blikstein dice que las restricciones escolares tempranas pueden verse como una «reacción impulsiva contra algo que todavía es muy difícil de entender».

Y aunque estas prohibiciones se están levantando gradualmente, ChatGPT todavía no está libre de preocupaciones: su funcionamiento sigue siendo opaco, incluso para los expertos. Entre sus entradas y respuestas hay miles de millones de cálculos en una ‘caja negra’. Se dice que ChatGPT es el lanzamiento más secreto de OpenAI hasta ahora. La empresa no ha revelado nada sobre cómo se entrenó el modelo, y sistemas propietarios desarrollados por empresas competidoras están impulsando una «carrera armamentista» de IA, avanzando a una velocidad asombrosa.

Definiendo habilidades fundamentales

¿Significa el auge de los MLLM que la escritura en sí misma seguirá el camino de habilidades más antiguas, de manera similar a cómo la competencia matemática básica fue prácticamente obsoleta debido a las calculadoras? Los expertos ofrecen una variedad de opiniones. Adoptando una postura optimista, Bishop argumenta que habilidades funcionales de escritura como ortografía, gramática y conocimiento de cómo organizar un ensayo estándar «serán totalmente obsoletas dentro de dos años». Otros ven la necesidad de precaución. «Sin práctica escribiendo su propio contenido, será difícil para los estudiantes prever dónde y cómo se cometen errores de escritura, y luego detectarlos en el contenido generado por IA», dice Tate.

Desde la perspectiva de Blikstein, esta zona gris subraya la necesidad de proceder con precaución. «Las apuestas son altas con el lenguaje», dice, agregando que la IA generativa puede ser una poderosa aliada para mejorar, no reemplazar, la cognición de un estudiante. Pero quedan preguntas importantes. «Por ejemplo, no tenemos un buen modelo para la autoría en el ámbito del contenido generado por IA», dice. «El texto aparece de la nada, y no tenemos idea de dónde proviene». Para profesionales experimentados, utilizar la IA para mejorar las habilidades de escritura puede no plantear mucho problema. «Pero eso no es cierto para las personas más jóvenes que no entienden el oficio de escribir desde el principio», agrega.

Blikstein también se preocupa de que la IA pueda perpetuar desigualdades educativas. Los distritos escolares más ricos tienen recursos para aplicar la tecnología con énfasis en la interacción humana y el aprendizaje basado en proyectos, mientras que las escuelas más pobres podrían optar cada vez más por la automatización para ahorrar dinero. «Si te conformas con algo barato, puede tomar el control de todo tu sistema», dice. «Luego, cinco años después, se convierte en la nueva normalidad», agrega.

En última instancia, la IA podría ofrecer una evolución en las normas educativas que haga que los educadores vuelvan a lo básico. «Tenemos que identificar las competencias fundamentales que queremos que nuestros estudiantes tengan», dice Zhao. «¿Cómo vamos a incorporar modelos como ChatGPT en el proceso de aprendizaje? Estamos preparando a futuros ciudadanos, y si la IA estará disponible, entonces debemos pensar en cómo construir competencia en la educación para que los estudiantes puedan tener éxito».