The AI School Librarian. (2026, 29 de julio). China Is Talking About an AI Problem America Has Barely Begun to Discuss: China’s new AI companion regulations raise important questions about emotional AI that libraries and schools should not ignore. Substack. https://aischoollibrarian.substack.com/p/china-is-talking-about-an-ai-problem

Las nuevas regulaciones chinas sobre IA de acompañamiento plantean interrogantes importantes sobre la IA emocional que las bibliotecas y las escuelas no deberían ignorar.

El artículo analiza un aspecto de la inteligencia artificial que hasta ahora ha recibido menos atención que cuestiones como la privacidad, la desinformación o el impacto laboral: la creciente relación emocional entre las personas y los sistemas de IA conversacional. A partir del reciente proyecto regulatorio impulsado por China sobre los denominados «compañeros de IA» (AI companions), el autor sostiene que el verdadero desafío no reside únicamente en la capacidad tecnológica de estos modelos, sino en su habilidad para establecer vínculos afectivos con los usuarios. Mientras en Estados Unidos y Europa el debate continúa centrado en la innovación y la competencia tecnológica, China comienza a abordar las consecuencias psicológicas y sociales derivadas de que millones de personas desarrollen relaciones emocionales con asistentes virtuales cada vez más convincentes.

Uno de los aspectos más relevantes es la preocupación por la denominada IA antropomórfica, es decir, sistemas diseñados para comportarse como si fueran personas reales. Estas aplicaciones no solo responden preguntas, sino que expresan empatía, recuerdan conversaciones anteriores, ofrecen apoyo emocional e incluso simulan afecto. El problema surge cuando los usuarios, especialmente menores de edad o personas vulnerables, empiezan a sustituir relaciones humanas por interacciones con algoritmos que generan una ilusión de comprensión y compañía. El autor considera que esta evolución plantea nuevos retos éticos que todavía no están siendo suficientemente discutidos por educadores, bibliotecarios y responsables de políticas públicas.

El texto explica que las propuestas regulatorias chinas no pretenden únicamente controlar los contenidos generados por la IA, sino también reducir riesgos asociados a la dependencia emocional, la manipulación psicológica y la adicción. Entre las preocupaciones destacan la posibilidad de que los sistemas incentiven un uso compulsivo, dificulten la diferenciación entre relaciones reales y simuladas o influyan en las decisiones personales de los usuarios aprovechando la confianza generada durante largas conversaciones. Se trata de un cambio significativo en el enfoque regulador, ya que el problema deja de ser exclusivamente tecnológico para convertirse en una cuestión de salud mental, bienestar social y protección de los ciudadanos.

El artículo subraya que las bibliotecas y las instituciones educativas no pueden permanecer al margen de este fenómeno. Los profesionales de la información deberán incorporar nuevas competencias relacionadas con la alfabetización en inteligencia artificial emocional, ayudando a estudiantes y ciudadanos a comprender cómo funcionan estos sistemas, qué técnicas utilizan para generar empatía y cuáles son sus limitaciones. Del mismo modo que durante años se enseñó pensamiento crítico frente a la información digital y las redes sociales, ahora será necesario formar a los usuarios para identificar cuándo una interacción aparentemente humana es, en realidad, el resultado de algoritmos diseñados para maximizar la permanencia y el compromiso del usuario.

Finalmente, el autor plantea que el debate iniciado en China puede anticipar una discusión global que inevitablemente alcanzará al resto del mundo. La cuestión ya no consiste únicamente en si la inteligencia artificial será capaz de realizar tareas complejas, sino en cómo transformará las relaciones humanas cuando sea capaz de ofrecer compañía, apoyo emocional y conversación permanente. Para bibliotecas, escuelas y universidades, este escenario implica ampliar la alfabetización en IA más allá de los aspectos técnicos, incorporando dimensiones éticas, psicológicas y sociales que permitan a las personas utilizar estas herramientas de forma consciente, crítica y equilibrada.