Attewell, Sue. «Student Concerns around Generative AI». Artificial Intelligence (blog), 28 de marzo de 2024. https://nationalcentreforai.jiscinvolve.org/wp/2024/03/28/student-concerns-around-generative-ai/.

Tras la publicación del informe inicial sobre las Percepciones Estudiantiles sobre la Inteligencia Artificial Generativa el año pasado, se reconoció la necesidad de continuar la discusión con los estudiantes a medida que la tecnología sigue evolucionando.

Durante el pasado invierno, se llevaron a cabo una serie de nueve foros de discusión en persona con estudiantes, con la participación de más de 200 alumnos de universidades y colegios, con el fin de revisitar las percepciones estudiantiles sobre la inteligencia artificial generativa. El objetivo fue comprender si y cómo han cambiado las opiniones sobre la IA generativa, identificar los usos y preocupaciones emergentes, y explorar el papel en desarrollo que los estudiantes quieren que estas herramientas jueguen en su experiencia educativa.

Mientras las instituciones luchan por desarrollar políticas y orientaciones, y los cambios pedagógicos complejos, captar la voz auténtica del estudiante sigue siendo crucial para informar una integración responsable de la IA que empodere a los estudiantes y mantenga la integridad académica.

Se enfocarán ahora en las preocupaciones que los estudiantes que asistieron a los foros plantearon sobre la IA generativa:

Alfabetización Informacional y Educación

Se planteó el aumento de la desinformación creada junto con la capacidad de la IA generativa para crear falsedades plausibles. Los estudiantes quieren poder distinguir fácilmente entre información confiable y no confiable, y comprenden que la capacidad de filtrar información generada por IA es tan crucial como cualquier habilidad académica tradicional.

Hubo una diversidad de opiniones en torno a la alfabetización informacional, con algunos estudiantes reportando que sentían que tenían las habilidades relevantes para evaluar críticamente los resultados y otros queriendo que sus instituciones los apoyen para desarrollar esta habilidad vital.

Plagio y Detección de IA

Los estudiantes con los que se habló entienden la necesidad de distinguir entre aquellos que hacen trampa y aquellos que no. Sin embargo, hubo un fuerte sentimiento de que la falta de orientación clara sobre cómo deberían usar de manera responsable y ética la IA generativa podría llevar a un aumento en el mal uso debido a errores de interpretación. Hubo una fuerte solicitud de orientación clara que fuera justa para todos.

Los estudiantes manifestaron su preocupación por el sesgo conocido en las herramientas de detección contra hablantes no nativos de inglés y sintieron que las instituciones que utilizan detectores necesitaban responder a esto y tomar medidas concretas para mitigar este sesgo. También sintieron que se necesitaba una forma de impugnar las decisiones, cuando sienten que han sido perjudicados.

Dependencia y Originalidad

Los estudiantes mencionaron una variedad de preocupaciones, como el riesgo de volverse dependientes de la IA generativa para producir contenido escrito y perder la capacidad de crear desde cero. También estaban preocupados de que el uso de estas herramientas para investigar nuevas áreas pudiera llevar a una falta de habilidad para evaluar críticamente los recursos.

Las preocupaciones sobre la dependencia excesiva de la IA para tareas como escribir ensayos y/o producir investigaciones, etc., podrían potencialmente llevar a una disminución en las habilidades de pensamiento crítico. Los estudiantes afirmaron claramente la necesidad de asegurar que no perderían su desarrollo intelectual utilizando herramientas de IA generativa de manera inapropiada o excesiva.

Los estudiantes expresaron la necesidad de mantener su individualidad y voces únicas, y articularon el temor de cómo esto se vería afectado a medida que aumentara el uso de herramientas de IA generativa.

Ética y Sesgo

Los estudiantes plantearon el problema de ‘¿Se considera trampa cualquier uso de IA generativa en la educación?’ ya que da una ventaja sobre aquellos que no usan la tecnología. Hubo una variedad de opiniones al respecto, con algunos afirmando que no usaban IA generativa para ningún propósito educativo y otros evitando su uso en evaluaciones, debido a la falta de claridad sobre este punto.

Los estudiantes reconocieron que existen sesgos inherentes en los sistemas de IA generativa, a menudo reflejando disparidades en raza, género y nivel socioeconómico. Estaban preocupados de que los sesgos se exacerbaran con el aumento del uso de la IA por parte de los empleadores para cribar candidatos. Los estudiantes sintieron bastante fuerte la necesidad de una revisión crítica del contenido generado por IA para evitar perpetuar estereotipos.

Los estudiantes sintieron bastante fuertemente que cuando el enfoque de las instituciones hacia la IA generativa no es consistente, perjudicará a algunos estudiantes; desean un enfoque universal justo. También plantearon el problema del aumento de la inequidad digital, con aquellos que tienen la capacidad de pagar teniendo acceso a mejores herramientas.

Datos, Privacidad y Derechos de Autor

Los estudiantes con los que se habló, en su mayoría, eran conscientes de los riesgos de que los sistemas de IA contengan o expongan datos personales, pero los niveles de preocupación al respecto variaban tremendamente, con muchos asumiendo que estaban cubiertos cuando usaban estas herramientas por el GDPR y/o las políticas de sus instituciones.

Los estudiantes discutieron el equilibrio entre privacidad y eficiencia al usar la IA generativa, con algunos expresando resignación sobre la pérdida de privacidad de datos personales, mientras que otros eran más optimistas sobre el intercambio, particularmente aquellos estudiantes creativos que querían desarrollar una audiencia para su trabajo.

El copyright fue planteado como una preocupación desde dos ángulos: ‘¿Quién posee el trabajo co-creado con herramientas de IA generativa?’ y ‘¿Cómo puedo asegurarme de no estar plagiando inadvertidamente el trabajo de alguien más, sin dar crédito o pagarles, cuando co-creo usando IA generativa?’.

Habilidades de IA y Empleabilidad

Los estudiantes en los foros de discusión estaban preocupados por adquirir las habilidades de IA generativa necesarias para los lugares de trabajo futuros debido a posibles prohibiciones o restricciones en estas herramientas por parte de sus instituciones.

Plantearon el problema de cómo pueden mantenerse al día con el desarrollo de la IA generativa y cómo estas serían abrazadas e incorporadas en las políticas actuales y prácticas de enseñanza por parte de