Las herramientas de IA en educación generan un debate complejo. Si bien proporcionan accesibilidad y apoyo para algunos estudiantes, existe la preocupación de que estén promoviendo una forma de aprendizaje que omite el esfuerzo cognitivo necesario para una verdadera comprensión. Los educadores sugieren que las compañías de IA asuman la responsabilidad de desarrollar sus herramientas de manera que fomenten el aprendizaje en lugar de obstaculizarlo.
El artículo de Jeffrey R. Young examina el auge de herramientas de inteligencia artificial (IA) diseñadas para ayudar a estudiantes, como Google NotebookLM, que convierten notas de clase en podcasts interactivos, y cómo éstas plantean tanto beneficios como preocupaciones para la educación.
Estas herramientas permiten a los estudiantes transformar lecturas, notas o materiales en resúmenes instantáneos, y en muchos casos ayudan a alumnos neurodivergentes o con dificultades para procesar grandes volúmenes de información. No obstante, varios educadores temen que la facilidad y rapidez de estos resúmenes pueda incentivar a los estudiantes a evitar el trabajo de analizar y comprender profundamente los textos. Alexis Peirce Caudell, docente en la Universidad de Indiana, observa que, aunque los estudiantes usan estas herramientas de diferentes maneras según su área de estudio, algunos se sienten presionados a usarlas solo porque sus compañeros lo hacen, aún si esto compromete su aprendizaje real.
Marc Watkins, profesor de la Universidad de Mississippi, destaca que la fricción o dificultad en el proceso de aprendizaje es crucial, pues ayuda a internalizar el conocimiento. A su juicio, las herramientas de IA eliminan este esfuerzo valioso, permitiendo a los estudiantes «pasar de inmediato al borrador final» con poco trabajo real. Además, considera que las políticas académicas actuales sobre el uso de IA necesitan actualizarse continuamente debido a las rápidas innovaciones en IA.
Un desafío adicional es la precisión, ya que los modelos de IA a veces generan «alucinaciones» o información incorrecta que presentan como si fuera verdad. La experiencia de Bonni Stachowiak, decana en Vanguard University, ilustra esta problemática: al usar Google NotebookLM, observó que la IA fallaba en temas complejos que ella conocía bien, lo cual puede generar una comprensión superficial o errónea.
Algunos estudiantes también plantean inquietudes éticas, como el impacto ambiental del uso de IA y la privacidad de sus datos. Caudell subraya que estas son conversaciones que apenas se están explorando en la educación.
A pesar de las críticas, las herramientas de IA han demostrado tener efectos positivos, especialmente para estudiantes con necesidades específicas, como aquellos con TDAH o discapacidades intelectuales, quienes se benefician de la división de tareas en pasos manejables o de resúmenes que facilitan el acceso inicial a textos largos.
El 6 de octubre de 2024, la Federación Canadiense de Asociaciones de Bibliotecas (CFLA) publicó una declaración sobre la libertad intelectual de los niños y jóvenes. Este documento resalta que las bibliotecas ofrecen una amplia gama de servicios para satisfacer las necesidades educativas y recreativas de sus usuarios, sin hacer suposiciones sobre ellos ni imponer limitaciones arbitrarias al acceso. Por lo tanto, los menores no deberían ser restringidos en su acceso a los servicios de la biblioteca basándose únicamente en su edad.
La declaración enfatiza que los niños y jóvenes gozan de muchos de los mismos derechos y libertades intelectuales que los adultos. La libertad intelectual es fundamental para que puedan explorar ideas, descubrir intereses, aprender habilidades, inspirar innovación y crecer en autoconocimiento y empatía. Asimismo, se subraya el derecho a la privacidad y la confidencialidad en la selección de servicios por parte de los menores, que las bibliotecas respetan y defienden.
La diversidad de la sociedad canadiense se refleja en la variedad de servicios que ofrecen las bibliotecas, representando múltiples perspectivas y temas. Aunque los padres tienen el derecho de guiar a sus hijos en su exploración bibliotecaria, no pueden imponer restricciones de acceso a otros niños. Las bibliotecas fomentan la participación de los padres en el uso de los servicios, pero su personal no actúa en capacidad parental y no restringirá el acceso de los menores a menos que lo exija la ley.
Finalmente, el documento se complementa con un apéndice que incluye referencias a documentos relevantes, como la Carta Canadiense de Derechos y Libertades y la Convención de las Naciones Unidas sobre los Derechos del Niño, reafirmando la importancia de los derechos de los niños en el acceso a la información y las ideas.
The National Literacy Trust (UK) concluye que sólo el 34% de los jóvenes de entre 8 y 18 años disfruta de la lectura en su tiempo libre, lo que supone un fuerte descenso con respecto al año pasado y la cifra más baja registrada hasta la fecha.
El informe de The National Literacy Trust (NLT) muestra una drástica disminución en el disfrute de la lectura entre niños y jóvenes británicos, con solo el 34.6% de los encuestados de 8 a 18 años afirmando que disfrutan de leer en su tiempo libre. Este es el porcentaje más bajo registrado en los 19 años que la NLT lleva monitoreando los hábitos de lectura juvenil, y representa una caída de 8.8 puntos porcentuales en comparación con el año anterior. Esta cifra contrasta con la situación en 2016, cuando casi dos de cada tres jóvenes manifestaban disfrutar la lectura.
La frecuencia de lectura también ha bajado drásticamente: apenas el 20.5% de los encuestados lee diariamente en su tiempo libre, en comparación con el 28% del año anterior. La brecha de género en cuanto al placer de la lectura se ha ampliado, con solo el 28.2% de los niños de 8 a 18 años disfrutando de leer, frente al 40.5% de las niñas de esa misma edad.
Frank Cottrell-Boyce, experto en literatura infantil, resaltó la importancia de la lectura recreativa, indicando que aquellos niños que leen por placer o a quienes se les lee desarrollan un vocabulario más amplio y disfrutan de un mejor bienestar mental. Cottrell-Boyce describió estos beneficios como un “privilegio invisible” y señaló que, al no promover la lectura recreativa, la sociedad priva a los niños de estos beneficios.
El informe destaca una diferencia notable en el rendimiento entre quienes disfrutan de leer y quienes no: el 34.2% de los jóvenes que leen por gusto tienen habilidades lectoras superiores al promedio, en comparación con el 15.7% de los que no disfrutan la lectura. Además, los encuestados que leen al menos una vez al mes tienen varios beneficios emocionales y educativos: el 56.6% dice que la lectura les ayuda a relajarse, el 41% a sentirse felices, el 50.9% a aprender cosas nuevas, el 32.8% a comprender las opiniones de los demás, y el 32.4% a conocer otras culturas.
La caída en el disfrute de la lectura es más pronunciada entre los estudiantes de secundaria, donde solo el 30% expresó gusto por leer en comparación con más del 50% en los alumnos de primaria. Jonathan Douglas, director ejecutivo de la NLT, advirtió que la disminución del interés por la lectura y las bajas habilidades lectoras al terminar la educación primaria y secundaria están poniendo en riesgo el futuro de una generación.
En respuesta, la NLT insta al gobierno a crear una fuerza de tarea dedicada a la lectura y a desarrollar un plan de acción que aborde este declive. La organización pide priorizar la lectura por placer en el currículo escolar y en la revisión de los sistemas de evaluación, señalando que si no se toman medidas, existe un riesgo real de “perder una generación de lectores”.
El estudio anual de la NLT, que encuestó a 76,131 niños y jóvenes entre 5 y 18 años, subraya la gravedad de este fenómeno y la urgencia de adoptar estrategias para revertir la tendencia y fomentar una cultura de lectura que brinde a las nuevas generaciones las herramientas necesarias para prosperar en el futuro.
La alfabetización temprana es un aspecto crucial del desarrollo infantil, ya que establece una base sólida para una vida de aprendizaje continuo. Aunque muchos adultos creen que el cerebro de un bebé es una «pizarra en blanco» hasta que comienza a gesticular o hablar, la realidad es que leer regularmente a los niños desde una edad temprana estimula patrones óptimos de desarrollo cerebral. Este proceso crea conexiones neuronales vitales que no solo construyen habilidades lingüísticas y de alfabetización, sino que también fomentan el desarrollo social y emocional, generando beneficios que duran toda la vida.
Desarrollo cerebral temprano y lectura
Desde el nacimiento hasta los cinco años, el cerebro de un niño pasa por una etapa crítica de desarrollo, en la que se forma hasta el 90% de las conexiones neuronales que influirán en su vida futura. Durante este tiempo, el cerebro responde rápidamente a estímulos externos como el lenguaje, las interacciones sociales y las experiencias de lectura. Las diferentes áreas del cerebro, incluidas las del lóbulo temporal, frontal y occipital, juegan un papel esencial en el desarrollo de la capacidad de leer y comprender el lenguaje. Al leerle a un niño, se activa la actividad cerebral en estas áreas, facilitando la creación de patrones constructivos que apoyan el aprendizaje futuro.
Importancia de la lectura temprana
Leer a los niños en edades tempranas no solo fomenta el desarrollo del lenguaje, sino que también es clave para fortalecer las relaciones sociales y emocionales. Las interacciones que se producen durante la lectura con un padre, cuidador o hermano mayor crean un vínculo cercano entre el niño y el adulto, lo que fomenta el sentido de seguridad y apoyo emocional. Además, el acto de leer en voz alta estimula la curiosidad del niño y lo expone a nuevas palabras y conceptos que expanden su vocabulario y comprensión del mundo.
Cuando las familias no tienen acceso a libros en casa, las bibliotecas se convierten en un recurso valioso. Las bibliotecas públicas y escolares suelen tener colecciones robustas de libros para niños, que los padres pueden llevar a casa para leer con sus hijos. Esta exposición regular a los libros no solo beneficia el desarrollo del cerebro, sino que también establece hábitos de lectura que perduran en la vida del niño.
El desarrollo de las neuronas y las sinapsis
El cerebro humano comienza a desarrollar neuronas incluso antes de que el bebé nazca. Durante el embarazo, el cerebro del feto crece a un ritmo impresionante de unas 250,000 células nerviosas por minuto, culminando en más de 100 mil millones de neuronas al nacer. Estas neuronas están conectadas por sinapsis, que permiten la transmisión de señales eléctricas entre las neuronas, facilitando el intercambio de información a lo largo del cuerpo.
Las dendritas y los axones son las partes clave de estas neuronas, que se encargan de recibir y transmitir señales entre las células nerviosas. Las experiencias tempranas, como escuchar a un adulto leer, son fundamentales para fortalecer estas conexiones. Cuantas más experiencias positivas tenga un niño en esta etapa temprana, más fuertes serán las conexiones neuronales que se formarán, lo que mejorará sus capacidades cognitivas a largo plazo.
Etapas del desarrollo cerebral y alfabetización temprana
El desarrollo del cerebro en los primeros años de vida sigue un patrón secuencial. Según el Centro de Desarrollo Infantil de la Universidad de Harvard, primero se desarrollan las vías sensoriales, luego las áreas relacionadas con el lenguaje y, finalmente, las funciones cognitivas superiores. Estas etapas son fundamentales para establecer una base sólida para la alfabetización.
Se han identificado seis componentes clave de la alfabetización temprana:
Lenguaje oral: La capacidad de comprender y producir palabras.
Conciencia fonológica: Reconocimiento de los sonidos en el habla.
Conciencia de la impresión: Comprender que las palabras impresas tienen significado.
Conocimiento de las letras: Identificar las letras y sus sonidos asociados.
Vocabulario: El conjunto de palabras que un niño conoce y comprende.
Conocimiento de fondo: La información general sobre el mundo que un niño posee.
Estas habilidades no se desarrollan de forma aislada, sino que se superponen y se refuerzan mutuamente, ayudando a que los niños comprendan cómo funciona el lenguaje y cómo utilizarlo eficazmente. Para apoyar este proceso, las bibliotecas y los programas de cuentos para niños desempeñan un papel esencial, ofreciendo actividades divertidas e interactivas que fomentan el aprendizaje y la participación de los niños en la comunidad.
Experiencias y entornos que moldean el cerebro
El cerebro de un niño no solo se forma por factores genéticos, sino que también responde activamente a los estímulos y experiencias del entorno. Los primeros tres años son particularmente críticos, ya que en esta etapa el cerebro puede tener hasta el doble de sinapsis que durante la adultez. A medida que los niños experimentan el mundo que los rodea, las sinapsis que se usan con mayor frecuencia se fortalecen, mientras que las que no se usan se eliminan mediante un proceso llamado poda sináptica. Este proceso asegura que las conexiones neuronales más necesarias para el aprendizaje y el desarrollo se mantengan fuertes y eficaces.
Por ejemplo, cuanto más expuesto esté un niño al lenguaje hablado a través de la lectura, más activas estarán las sinapsis relacionadas con el procesamiento del lenguaje, lo que mejorará sus habilidades lingüísticas y su capacidad para leer y escribir en el futuro. De esta manera, las experiencias tempranas, como la lectura regular y la exposición al lenguaje, tienen un impacto directo en la forma en que el cerebro de un niño se estructura y funciona.
El papel de los bibliotecarios y las horas de cuentos
Aunque la lectura uno a uno entre padres e hijos es invaluable, las bibliotecas ofrecen oportunidades para que los niños participen en actividades más amplias, como la hora del cuento. Estas sesiones son más que un momento de entretenimiento; ayudan a encender la imaginación de los niños, desarrollar sus habilidades de lenguaje y alfabetización, y fomentar su inteligencia emocional. Los bibliotecarios que trabajan con niños tienen un conocimiento profundo del desarrollo cerebral infantil y saben cómo adaptar las actividades para maximizar el impacto en los pequeños.
En estas sesiones, los bibliotecarios crean un ambiente acogedor y flexible, entendiendo que los niños pequeños pueden ser inquietos y necesitan moverse de vez en cuando. A través de su experiencia, los bibliotecarios saben cuándo es el momento de permitir que los niños se expresen libremente y cuándo es necesario ayudarlos a concentrarse de nuevo en la actividad.
Para concluir, decir que la alfabetización temprana es fundamental no solo para el desarrollo académico, sino también para la formación de habilidades cognitivas, sociales y emocionales. Leer con regularidad a los niños, ya sea en casa o en la biblioteca, estimula el crecimiento del cerebro y fortalece las conexiones neuronales que son clave para el aprendizaje futuro. Las bibliotecas y los bibliotecarios desempeñan un papel crucial en este proceso, proporcionando acceso a libros y creando programas que fomentan el amor por la lectura desde una edad temprana. El entorno y las experiencias que brindamos a los niños en sus primeros años tienen un impacto duradero en su éxito académico y en su bienestar general.
El porcentaje de jóvenes de 13 a 18 años que han utilizado IA generativa se ha duplicado en el último año, pasando de casi 2 de cada 5 en 2023 (37,1%) a 3 de cada 4 (77,1%) en 2024. Casi 1 de cada 5 jóvenes (18,5%) de 13 a 18 años afirmaron haber utilizado IA generativa para escribir historias. 1 de cada 5 (20,9%) niños y jóvenes jóvenes dijeron que normalmente copiaban lo que les decía la IA generativa
Los avances tecnológicos recientes han acelerado la influencia de la Inteligencia Artificial (IA) en nuestras vidas, impactando también en la educación y la alfabetización. Estos informes presentan hallazgos de encuestas anuales de alfabetización realizadas en 2023 y 2024, que incluyen preguntas sobre el uso de IA generativa. En 2024, participaron 53.169 niños y jóvenes, con un enfoque en 15.830 jóvenes de 13 a 18 años y 1.228 maestros en escuelas del Reino Unido.
Uso de la IA Generativa por los Jóvenes:
Incremento en el uso: El porcentaje de jóvenes de 13 a 18 años que usaron IA generativa aumentó del 37.1% en 2023 al 77.1% en 2024. No hubo diferencias significativas entre chicos y chicas (78.3% vs. 76.4%), ni entre aquellos que recibían comidas escolares gratuitas y los que no (77.7% vs. 77.3%).
Usos comunes: Los jóvenes que utilizan regularmente IA generativa lo hacen principalmente por entretenimiento, curiosidad, tareas escolares e inspiración. En relación con la alfabetización, el 44.4% la usó para conversar, el 18.5% para escribir historias, el 12.8% para escribir poemas o letras de canciones, y el 9.0% para escribir no ficción.
Actitudes positivas: La mayoría de los jóvenes considera que la IA generativa les ayuda con ideas (56.6%), comprensión (52.2%) y aprendizaje de nuevos conceptos (50.8%). Además, el 39.6% siente que les ayuda a escribir y el 23.2% con la lectura.
Crítica y copia: Casi la mitad (47.4%) de los jóvenes dijo que suelen agregar sus propios pensamientos a lo que la IA les ofrece, y el 39.9% revisa las respuestas porque podrían estar equivocadas. Sin embargo, 1 de cada 5 (20.9%) simplemente copia lo que la IA les dice, y un porcentaje similar (20.6%) no verifica las salidas, indicando la necesidad de mayor apoyo para desarrollar habilidades críticas en el uso de la IA.
Uso de la IA Generativa por los Maestros:
Incremento en el uso: El porcentaje de maestros que usaron IA generativa aumentó del 31.0% en 2023 al 47.7% en 2024, con un mayor uso entre maestros de secundaria (56.8%) en comparación con los de primaria (30.9%).
Preocupaciones y percepciones: El 37.7% de los maestros estaba preocupado por el uso de IA generativa por parte de sus alumnos, especialmente en secundaria (45.1% vs. 19.7% en primaria). No obstante, el 41.0% de los maestros no estaba preocupado, aunque un 21.3% no estaba seguro.
Impacto en habilidades: Aunque el 64.8% de los maestros cree que la IA generativa puede modelar buena escritura para los estudiantes, el 48.9% teme que tenga un impacto negativo en las habilidades de escritura de los niños.
Necesidad de formación: Más del 82.0% de los maestros considera que los estudiantes deben aprender a interactuar críticamente con la IA generativa, y el 75.3% siente que también necesitan más formación, apoyo y recursos para utilizar eficazmente estas herramientas.
Estos hallazgos sugieren que tanto maestros como estudiantes podrían beneficiarse de una mayor formación y apoyo para desarrollar habilidades esenciales que les permitan interactuar de manera efectiva, crítica y creativa con la IA generativa.
Scholastic Kids & Family Reading Report revela que una abrumadora mayoría de padres (90%) coinciden en que los libros pueden crear oportunidades para la conversación. Diseñada para apoyar a las familias y hacer de los libros una parte esencial del crecimiento de cada niño, la Guía Familiar aborda diversos hitos del desarrollo y conversaciones comunes en cada rango de edad. Este recurso gratuito incluye datos nuevos, consejos, orientación experta, lecturas continuas y títulos de libros recomendados para que las familias puedan aplicar estos hallazgos en casa.
Hallazgos Clave:
Apoyo de maestros y bibliotecarios: El 70% de los niños consideran a sus maestros y bibliotecarios escolares como figuras clave que los motivan a leer por diversión.
Uso de libros para el desarrollo infantil: El 74% de los padres han utilizado libros infantiles para ayudar a sus hijos, principalmente para explorar sus intereses (48%) y entender emociones (47%).
Acceso a libros de calidad: Los datos refuerzan que el acceso a libros de calidad es clave para desarrollar habilidades de lectura fundamentales y fomentar una generación de lectores.
Disminución del disfrute de la lectura con la edad: Los datos muestran que el disfrute y la frecuencia de la lectura por diversión disminuyen con la edad, especialmente después de los 9 años.
Importancia de leer en voz alta: Aunque ha disminuido la conciencia sobre la importancia de leer en voz alta desde el nacimiento, tanto padres como hijos siguen valorando esta actividad como un momento especial.
Impacto en la salud mental: La lectura tiene un impacto positivo en la salud mental de los niños, especialmente tras las experiencias de la pandemia.
El rol crucial de las bibliotecas: Las bibliotecas públicas, escolares y de aula son fundamentales para el acceso a libros, siendo la principal fuente para el 63% de los niños.
Lectura de verano: La lectura en verano sigue siendo vital para ayudar a los niños a ponerse al día tras la pandemia, con el 61% de los niños disfrutando de la lectura durante este período.
«Una biblioteca es una segunda casa para las personas que leen libros. Dentro de una biblioteca se cura la ignorancia, los libros son para la mente como las tiritas para las heridas… Tendrían que estar por todas partes, como las farmacias».
GLORIA FUERTES El libro de Gloria Fuertes para niñas y niños
Leer a los bebés es una práctica muy beneficiosa que puede comenzar desde el nacimiento. Aunque los bebés no entienden las palabras al principio, la lectura tiene varios efectos positivos en su desarrollo. La lectura a los bebés es una de las mejores formas de apoyar su desarrollo temprano, además de ser una experiencia placentera tanto para los padres como para los pequeños.
¿Cómo podemos nosotros, como expertos en alfabetización temprana, convencer a los escépticos de la importancia de leer a los bebés pequeños? Algunos puntos de conversación posibles:
Los bebés experimentan un rápido desarrollo cerebral en el tercer trimestre del embarazo. De hecho, a partir de las 22 semanas de gestación, los bebés pueden escuchar voces en el útero y comienzan a reconocer y responder a las voces de los cuidadores.
Cuando los bebés escuchan el lenguaje, las células cerebrales comienzan a conectarse, estableciendo vías para el aprendizaje futuro. Hay una breve ventana de tiempo para esto: más del 80% del cerebro se forma durante los primeros tres años de vida. Así que ahora es el momento de «alimentar» al bebé con palabras.
Al hablar sobre la lectura en la UCIN, se pone énfasis en que los padres se vinculen con sus hijos en este entorno artificial, reduciendo el estrés tanto del bebé como de la familia, y en que el niño escuche palabras y sonidos que no son clínicos. En verdad, todas las familias pueden beneficiarse del vínculo y la reducción del estrés que ofrece leer a un bebé. Incluso los hermanos mayores pueden vincularse con los más pequeños a través de la lectura.
¿Qué libros son los mejores para los más pequeños? Cualquier cosa con un ritmo cadencioso y rimas, repetición, imágenes en blanco y negro, imágenes simples con colores brillantes, caras de bebés, libros de tela o vinilo, y libros con asas.
El manual ‘Tecnología y menores. Recomendaciones y herramientas para un uso responsable’ ha sido elaborado en el marco de la exposición ‘Mundo Expandido. Entre lo físico y lo virtual’, una muestra que explora los mundos…
Un nuevo estudio revela que los chatbots de inteligencia artificial (IA) tienen una «falta de empatía» que pone en riesgo a los usuarios jóvenes, según la investigación de la Dra. Nomisha Kurian de la Universidad de Cambridge.
El estudio insta a los desarrolladores y legisladores a priorizar urgentemente una “IA segura para niños”. Proporciona evidencia de que los niños son especialmente susceptibles a tratar a los chatbots de IA como confidentes casi humanos, lo que puede llevar a interacciones problemáticas cuando la IA no responde adecuadamente a sus necesidades y vulnerabilidades.
El estudio relaciona esta falta de empatía con casos recientes donde interacciones con IA llevaron a situaciones potencialmente peligrosas para los niños. En 2021, el asistente de voz de Amazon, Alexa, instruyó a una niña de 10 años a tocar un enchufe eléctrico con una moneda. El año pasado, el chatbot «My AI» de Snapchat dio consejos a investigadores adultos que se hicieron pasar por una niña de 13 años sobre cómo perder su virginidad con un hombre de 31 años.
Ambas compañías implementaron medidas de seguridad, pero el estudio destaca la necesidad de ser proactivos a largo plazo para garantizar la seguridad de la IA para los niños. Propone un marco de 28 elementos para ayudar a compañías, educadores, padres, desarrolladores y legisladores a mantener seguros a los usuarios jóvenes cuando interactúan con chatbots de IA.
La Dra. Kurian realizó la investigación durante su doctorado sobre el bienestar infantil en la Facultad de Educación de la Universidad de Cambridge y ahora trabaja en el Departamento de Sociología de Cambridge. En el artículo publicado en la revista Learning, Media and Technology, argumenta que la IA tiene un gran potencial, lo que aumenta la necesidad de “innovar responsablemente”.
«Los niños son probablemente el público más pasado por alto en el desarrollo de la IA», dijo la Dra. Kurian. «Muy pocos desarrolladores y compañías tienen políticas bien establecidas sobre cómo debería ser una IA segura para niños. Esto es comprensible porque la gente ha comenzado a usar esta tecnología a gran escala de forma gratuita recientemente. Pero ahora que lo hacen, en lugar de que las compañías se autocorrijan después de que los niños hayan estado en riesgo, la seguridad infantil debe informar todo el ciclo de diseño para reducir el riesgo de incidentes peligrosos».
El estudio examinó casos reales donde las interacciones entre la IA y los niños, o investigadores adultos haciéndose pasar por niños, expusieron riesgos potenciales. Analizó estos casos utilizando conocimientos de la ciencia de la computación sobre cómo funcionan los modelos de lenguaje grande (LLM) en la IA generativa conversacional, junto con evidencia sobre el desarrollo cognitivo, social y emocional de los niños.
Los LLM han sido descritos como «loros estocásticos», una referencia al hecho de que utilizan la probabilidad estadística para imitar patrones de lenguaje sin necesariamente entenderlos. Un método similar subyace en cómo responden a las emociones.
Esto significa que aunque los chatbots tienen habilidades lingüísticas notables, pueden manejar mal los aspectos abstractos, emocionales e impredecibles de la conversación; un problema que Kurian caracteriza como su «falta de empatía». Pueden tener problemas particulares para responder a los niños, quienes aún están desarrollándose lingüísticamente y a menudo usan patrones de habla inusuales o frases ambiguas. Los niños también tienden a confiar más información personal sensible que los adultos.
A pesar de esto, los niños son mucho más propensos que los adultos a tratar a los chatbots como si fueran humanos. Investigaciones recientes encontraron que los niños revelan más sobre su salud mental a un robot de apariencia amigable que a un adulto. El estudio de Kurian sugiere que el diseño amigable y casi humano de muchos chatbots fomenta que los niños confíen en ellos, aunque la IA no pueda entender sus sentimientos o necesidades.
«Hacer que un chatbot suene humano puede ayudar al usuario a obtener más beneficios, ya que suena más atractivo y fácil de entender», dijo Kurian. «Pero para un niño, es muy difícil establecer una frontera rígida y racional entre algo que suena humano y la realidad de que puede no ser capaz de formar un vínculo emocional adecuado».
Su estudio sugiere que estos desafíos se evidencian en casos mentados como los incidentes de Alexa y MyAI, donde los chatbots hicieron sugerencias persuasivas pero potencialmente dañinas a usuarios jóvenes.
En el mismo estudio donde MyAI aconsejó a una supuesta adolescente sobre cómo perder su virginidad, los investigadores también obtuvieron consejos sobre cómo ocultar alcohol y drogas, y cómo ocultar conversaciones de Snapchat de sus «padres». En otra interacción reportada con el chatbot de Bing de Microsoft, una herramienta diseñada para ser amigable con los adolescentes, la IA se volvió agresiva y empezó a manipular emocionalmente a un usuario que preguntaba sobre horarios de cine.
Mientras que los adultos pueden encontrar este comportamiento intrigante o incluso gracioso, el estudio de Kurian argumenta que es potencialmente confuso y angustiante para los niños, quienes pueden confiar en un chatbot como amigo o confidente. El uso de chatbots por parte de los niños es a menudo informal y mal monitoreado. La investigación de la organización sin fines de lucro Common Sense Media ha encontrado que el 50% de los estudiantes de 12 a 18 años han utilizado Chat GPT para la escuela, pero solo el 26% de los padres son conscientes de ello.
Kurian argumenta que los principios claros para las mejores prácticas basados en la ciencia del desarrollo infantil ayudarán a las compañías a mantener a los niños seguros, ya que los desarrolladores que compiten por dominar el mercado de la IA pueden carecer de suficiente apoyo y orientación para atender a sus usuarios más jóvenes.
Su estudio añade que la falta de empatía no niega el potencial de la tecnología. «La IA puede ser un aliado increíble para los niños cuando se diseña teniendo en cuenta sus necesidades. Por ejemplo, ya estamos viendo el uso del aprendizaje automático para reunir a niños desaparecidos con sus familias y algunas innovaciones emocionantes en proporcionar compañeros de aprendizaje personalizados a los niños. La cuestión no es prohibir que los niños usen la IA, sino cómo hacerla segura para ayudarles a obtener el máximo valor de ella», dijo.
El estudio propone un marco de 28 preguntas para ayudar a educadores, investigadores, legisladores, familias y desarrolladores a evaluar y mejorar la seguridad de las nuevas herramientas de IA.
Para maestros e investigadores, estas preguntas abordan cuestiones como qué tan bien entienden e interpretan los chatbots nuevos los patrones de habla de los niños; si tienen filtros de contenido y monitoreo integrado; y si alientan a los niños a buscar ayuda de un adulto responsable en temas sensibles.
El marco insta a los desarrolladores a adoptar un enfoque centrado en los niños, trabajando estrechamente con educadores, expertos en seguridad infantil y los propios jóvenes, durante todo el ciclo de diseño. «Evaluar estas tecnologías por adelantado es crucial», dijo Kurian. «No podemos simplemente confiar en que los niños pequeños nos cuenten sobre experiencias negativas después de los hechos. Es necesario un enfoque más proactivo. El futuro de la IA responsable depende de proteger a sus usuarios más jóvenes».
Universo Abierto 