Archivo de la etiqueta: Inteligencia artificial

Cómo detectar las alucinaciones de la IA como un bibliotecario de referencia

Librarian helping a visitor at reference desk with open books and laptop

Goldin, Hana Lee. How to Spot AI Hallucinations Like a Reference Librarian. LLRX, 30 de diciembre de 2025

El artículo de Hana Lee Goldin propone trasladar al uso cotidiano de la inteligencia artificial las habilidades que durante décadas han caracterizado el trabajo de los bibliotecarios de referencia. Frente a la creciente proliferación de respuestas generadas por modelos de lenguaje que incluyen datos falsos, citas inventadas o afirmaciones plausibles pero incorrectas, la autora sostiene que la mejor defensa no es desconfiar de la IA, sino aplicar un método sistemático de verificación. En este sentido, reivindica el papel de la alfabetización informacional y de la experiencia bibliotecaria como competencias esenciales en la era de la IA generativa.

Goldin explica que una de las señales más frecuentes de una alucinación es la presencia de referencias «demasiado perfectas»: artículos que parecen ajustarse exactamente a la pregunta formulada, con títulos excesivamente descriptivos, autores desconocidos o combinaciones de datos bibliográficos que resultan convincentes, pero que no existen realmente. Los modelos de IA pueden mezclar nombres de autores, revistas, fechas y títulos de publicaciones auténticas para crear referencias ficticias con apariencia de legitimidad. Por ello, recomienda desconfiar especialmente de aquellas citas que parecen confirmar exactamente la hipótesis del usuario sin dejar espacio para la complejidad o el desacuerdo propio de la investigación científica.

La autora propone una estrategia de verificación en varias capas inspirada en el trabajo de los bibliotecarios de referencia. En primer lugar, aconseja comprobar la existencia real de la publicación mediante catálogos, bases de datos académicas y buscadores especializados. En segundo lugar, verificar que los autores, el DOI, la revista y el año de publicación coincidan entre sí. Finalmente, recomienda leer el documento original siempre que sea posible, ya que incluso cuando una referencia es auténtica, la IA puede atribuirle conclusiones o citas que nunca aparecen en el texto. La comprobación directa continúa siendo el método más fiable para evitar errores de interpretación.

Otro aspecto destacado es que la evaluación crítica debe centrarse tanto en la información como en el contexto. Los bibliotecarios no se limitan a localizar documentos; también analizan la autoridad de las fuentes, su actualidad, el propósito con el que fueron elaboradas y las posibles limitaciones de la evidencia. Goldin sostiene que estas habilidades resultan ahora más necesarias que nunca, ya que la IA puede producir respuestas muy convincentes desde el punto de vista lingüístico, aunque carezcan de fundamento documental.

El artículo concluye defendiendo que la inteligencia artificial debe entenderse como una herramienta de exploración y no como una autoridad definitiva. La autora resume esta idea en una recomendación que sintetiza el papel complementario de la IA y las bibliotecas: utilizar la IA para descubrir posibilidades, recurrir a las bibliotecas y sus recursos para verificar la información, y aplicar siempre el juicio crítico humano antes de aceptar cualquier respuesta como verdadera. En este nuevo ecosistema informativo, las competencias tradicionales de los bibliotecarios de referencia se convierten en una guía especialmente valiosa para combatir las alucinaciones de la IA y preservar la calidad de la información.

La verdadera alfabetización en IA no consiste en saber escribir prompts, sino en desarrollar criterio

Jarboe, Greg. AI Literacy Is Not Prompt Literacy. Ann Handley Says It’s Judgment Literacy. Search Engine Journal, 5 de junio de 2026. Disponible en: Search Engine Journal

El artículo parte de una idea formulada por la reconocida experta en marketing digital Ann Handley: la alfabetización en inteligencia artificial no debe reducirse al dominio de los prompts o instrucciones que se proporcionan a los modelos generativos. En su opinión, la verdadera competencia en IA es la «alfabetización en el juicio» (judgment literacy), es decir, la capacidad de decidir cuándo conviene utilizar la inteligencia artificial y, sobre todo, cuándo es preferible no hacerlo. Esta perspectiva desplaza el foco desde el conocimiento técnico hacia una competencia mucho más profunda: el discernimiento profesional.

El autor explica que aprender a redactar buenos prompts es relativamente sencillo y puede adquirirse en poco tiempo mediante cursos o práctica. En cambio, desarrollar criterio requiere experiencia, reflexión y comprensión de los procesos de aprendizaje humano. La IA puede acelerar numerosas tareas, pero también puede eliminar aquellas dificultades cognitivas que precisamente permiten construir conocimiento sólido. En muchos casos, el esfuerzo de investigar, escribir, equivocarse y corregir constituye una parte esencial del aprendizaje que no debería ser sustituida automáticamente por una herramienta generativa.

Uno de los aspectos más relevantes del artículo es la crítica a la proliferación de cursos centrados exclusivamente en enseñar a utilizar herramientas de IA. Según Handley, casi todos los programas formativos explican qué puede hacer la inteligencia artificial o cómo obtener mejores resultados mediante técnicas de prompt engineering, pero muy pocos enseñan a identificar las situaciones en las que delegar una tarea en la IA supone renunciar al aprendizaje, a la creatividad o al pensamiento crítico. La cuestión central ya no es cómo usar la IA, sino reconocer cuándo su utilización puede empobrecer el proceso intelectual.

Handley sostiene además que esta competencia difícilmente puede adquirirse únicamente mediante formación reglada. En lugar de nuevos cursos, propone construir una cultura organizativa donde directivos, profesores y responsables de equipos expliquen abiertamente por qué en determinadas circunstancias deciden no utilizar IA. La alfabetización en el juicio se transmite mediante el ejemplo y la práctica cotidiana, creando entornos donde la rapidez no sea siempre el principal objetivo y donde se valore el aprendizaje derivado del trabajo realizado por las personas.

El artículo también plantea un modelo práctico para integrar la IA en los flujos de trabajo. La inteligencia artificial puede encargarse de generar borradores, organizar información o acelerar tareas repetitivas, pero la revisión crítica, la verificación de fuentes, la interpretación del contexto y la toma de decisiones deben permanecer bajo responsabilidad humana. Se propone una regla orientativa en la que la IA contribuye a producir aproximadamente el 75 % del trabajo inicial, mientras que el valor diferencial reside en el 25 % restante, aportado por el conocimiento experto, la comprobación de hechos y el juicio profesional.

Eel artículo defiende una visión madura de la alfabetización en IA. Frente a la obsesión por dominar nuevas herramientas o perfeccionar técnicas de prompting, propone entender que la competencia más importante seguirá siendo humana: la capacidad para evaluar críticamente los resultados, decidir cuándo confiar en la inteligencia artificial y cuándo el aprendizaje exige recorrer el camino más lento. En este enfoque, la alfabetización en IA deja de ser una cuestión técnica para convertirse en una forma de pensamiento crítico, responsabilidad profesional y toma de decisiones fundamentadas.

La paradoja del progreso de la inteligencia artificial: cuanto más poderosa es, mayor es la necesidad de hacerla segura

Erkers, Beatrice. The Paradox at the Heart of AI Progress. Big Think, 31 de marzo de 2026. Disponible en: https://bigthink.com/science-tech/the-paradox-at-the-heart-of-ai-progress/

Se analiza una de las contradicciones fundamentales que acompañan al desarrollo de la inteligencia artificial: los mismos avances que permiten resolver algunos de los mayores desafíos de la humanidad también incrementan los riesgos asociados a su uso. La autora sostiene que la IA está acelerando descubrimientos científicos, reduciendo costes de investigación y democratizando el acceso a herramientas avanzadas capaces de diseñar proteínas, desarrollar nuevos medicamentos o mejorar la educación. Sin embargo, esa misma capacidad puede utilizarse para fines perjudiciales, como facilitar el diseño de agentes biológicos peligrosos, automatizar ciberataques o concentrar un enorme poder tecnológico en muy pocas organizaciones. El progreso, por tanto, no elimina los riesgos, sino que amplifica simultáneamente las oportunidades y las amenazas.

Para explicar este dilema, el texto recuerda que la humanidad ya ha afrontado situaciones similares con tecnologías como la edición genética mediante CRISPR o las investigaciones sobre modificación de patógenos. En todos estos casos, los beneficios científicos y médicos convivían con posibilidades de uso indebido. La diferencia con la inteligencia artificial radica en la velocidad con la que evoluciona y en la facilidad con la que sus capacidades pueden difundirse a escala global. Cuanto más accesibles son estas herramientas, mayor es la probabilidad de que errores, accidentes o acciones maliciosas tengan consecuencias amplificadas. Esto convierte la resiliencia tecnológica en un requisito imprescindible para que la innovación continúe siendo beneficiosa para la sociedad.

Frente a la tradicional oposición entre quienes defienden acelerar sin restricciones el desarrollo tecnológico y quienes proponen frenarlo mediante el principio de precaución, la autora presenta el enfoque denominado d/acc (decentralized and democratic differential defensive acceleration), promovido por Vitalik Buterin. Esta filosofía plantea que no todas las innovaciones deben impulsarse al mismo ritmo. La prioridad debería centrarse en acelerar aquellas tecnologías que fortalecen la seguridad, la protección, la resiliencia institucional y el control humano, mientras que deberían desarrollarse con mayor cautela aquellas que incrementan los riesgos sistémicos. El objetivo no consiste en ralentizar el progreso, sino en dirigirlo hacia aplicaciones que aumenten el bienestar colectivo sin comprometer la estabilidad social.

El artículo también incorpora las reflexiones del economista Glen Weyl, quien argumenta que el verdadero debate no debería centrarse en la velocidad de la innovación, sino en su dirección. Desde esta perspectiva, una tecnología puede avanzar muy rápidamente siempre que esté diseñada con mecanismos de supervisión, transparencia y capacidad de corrección. La velocidad deja de ser el problema cuando los sistemas incorporan suficientes salvaguardas para absorber errores, resistir ataques y recuperarse de fallos sin provocar daños generalizados.

Otro aspecto destacado es la crítica al creciente interés por desarrollar sistemas de IA cada vez más autónomos. El texto defiende que una estrategia más segura consistiría en potenciar modelos de colaboración entre humanos e inteligencia artificial, donde las personas mantengan el control efectivo sobre las decisiones relevantes. En lugar de perseguir agentes completamente independientes, sería preferible invertir en herramientas de aumento de capacidades humanas, interfaces cerebro-computadora, sistemas abiertos y mecanismos de responsabilidad jurídica que obliguen tanto a desarrolladores como a usuarios y empresas a responder por los daños derivados de estas tecnologías.

Como conclusión, la autora sostiene que el auténtico desafío de la inteligencia artificial no es decidir entre acelerar o detener su desarrollo, sino construir un ecosistema capaz de soportar sus inevitables riesgos. La innovación tecnológica seguirá avanzando, pero su éxito dependerá de la existencia de capas de protección —seguridad informática, auditorías, gobernanza, financiación de bienes públicos y supervisión humana— que permitan aprovechar sus enormes beneficios sin convertirla en una fuente de vulnerabilidad global. El verdadero progreso, concluye el artículo, consiste en desarrollar tecnologías cada vez más poderosas al mismo tiempo que se fortalecen las instituciones y mecanismos que garantizan su uso seguro y responsable.

Ciencia Abierta 2.0: Construyendo comprensión en un mundo mediado por la IA

Ghildiyal, Ashutosh. Open Science 2.0: Building Understanding in an AI-Mediated World. The Scholarly Kitchen, 14 de julio de 2026. Disponible en: The Scholarly Kitchen – Open Science 2.0: Building Understanding in an AI-Mediated World

El artículo plantea que la ciencia abierta se encuentra en un punto de inflexión provocado por la rápida incorporación de la inteligencia artificial en los procesos de búsqueda, análisis e interpretación del conocimiento científico. Durante las dos últimas décadas, el movimiento de Ciencia Abierta ha centrado sus esfuerzos en eliminar las barreras de acceso mediante políticas de acceso abierto, repositorios institucionales, datos abiertos y licencias que facilitan la reutilización de la información. Sin embargo, el autor sostiene que este paradigma resulta insuficiente en un escenario donde los investigadores, estudiantes y ciudadanos ya no acceden directamente a los artículos científicos, sino que interactúan con asistentes inteligentes capaces de sintetizar, reinterpretar y responder preguntas a partir de millones de documentos. En consecuencia, la prioridad deja de ser únicamente garantizar el acceso al conocimiento para asegurar también que dicho conocimiento pueda ser comprendido, contextualizado e interpretado correctamente.

La propuesta de «Open Science 2.0» representa una evolución conceptual de la ciencia abierta tradicional. En este nuevo enfoque, la apertura continúa siendo un requisito imprescindible, pero ya no constituye el objetivo final. El verdadero desafío consiste en construir un ecosistema científico donde la información sea inteligible tanto para las personas como para las inteligencias artificiales, preservando al mismo tiempo el significado, la procedencia, la calidad y la confianza. Según el autor, la IA está modificando profundamente la forma en que se descubre y consume la investigación científica: los usuarios consultan modelos conversacionales que sintetizan cientos de artículos en segundos, lo que implica que gran parte del proceso de lectura crítica puede quedar oculto tras respuestas aparentemente simples. Esto obliga a replantear las infraestructuras de comunicación científica para incorporar mecanismos que permitan verificar las fuentes, comprender el contexto y mantener la trazabilidad de la información utilizada por los sistemas inteligentes.

Otro aspecto fundamental del artículo es la importancia creciente de la confianza. El autor advierte que, en un entorno mediado por IA, la calidad científica ya no dependerá únicamente de que un artículo haya superado la revisión por pares, sino también de la capacidad de demostrar el origen de los datos, la transparencia de los modelos empleados, la integridad de las evidencias y la posibilidad de rastrear cómo una inteligencia artificial ha construido una determinada respuesta. La confianza pasa a convertirse en un elemento estructural de la comunicación académica, exigiendo nuevos estándares de metadatos, sistemas de atribución más completos y mecanismos que permitan identificar con claridad las fuentes originales utilizadas por las plataformas de IA.

El texto también subraya que la comunicación científica debe abandonar un modelo centrado exclusivamente en la publicación para orientarse hacia la construcción de comprensión. Publicar artículos de libre acceso sigue siendo importante, pero resulta insuficiente si esos contenidos no pueden ser interpretados correctamente por comunidades científicas, responsables políticos, periodistas, educadores o ciudadanos. En este contexto, adquieren especial relevancia las explicaciones accesibles, los resúmenes estructurados, los datos enriquecidos semánticamente, las visualizaciones, las ontologías y otras herramientas que permitan convertir la información científica en conocimiento útil y reutilizable. La IA puede facilitar este proceso, pero solo si dispone de contenidos bien estructurados y acompañados de suficiente contexto para evitar interpretaciones erróneas o simplificaciones excesivas.

El artículo concluye que la próxima etapa de la ciencia abierta exige una colaboración mucho más estrecha entre investigadores, bibliotecas, universidades, editores científicos, desarrolladores de inteligencia artificial y responsables de políticas públicas. La misión ya no consiste únicamente en liberar artículos del pago por suscripción, sino en diseñar un ecosistema donde el conocimiento conserve su significado, pueda verificarse, genere confianza y sea comprensible tanto para las personas como para las máquinas. En esta visión, la Ciencia Abierta 2.0 no sustituye los principios tradicionales de apertura, sino que los amplía incorporando dimensiones como la interpretación, el aprendizaje, la comunicación efectiva y la gobernanza de la información en una realidad donde la inteligencia artificial se ha convertido en el principal intermediario entre la producción científica y sus usuarios.

La inteligencia artificial redefine la educación superior: herramientas, competencias y buenas prácticas para la docencia universitaria

Barra Arias, Enrique; López Fernández, Daniel; Conde Díaz, Javier; Dueñas Lerín, Jorge; Martínez Ruiz de Arcaute, Gonzalo; Ortega Requena, Fernando; Lara Cabrera, Raúl. Inteligencia Artificial en la Educación Superior 2025: Transformaciones Docentes, Herramientas y Buenas Prácticas. Madrid: Universidad Politécnica de Madrid, Servicio de Innovación Educativa, octubre de 2025. DOI: 10.20868/UPM.book.91489.

Descargar libro

La segunda edición del informe Inteligencia Artificial en la Educación Superior 2025 constituye una de las revisiones más completas en lengua española sobre el impacto de la inteligencia artificial generativa en la enseñanza universitaria.

Elaborado por investigadores y docentes de la Universidad Politécnica de Madrid, el documento ofrece una visión práctica y rigurosa dirigida al profesorado, con el propósito de facilitar la incorporación de la IA en la actividad docente de manera ética, responsable y pedagógicamente fundamentada. Más que presentar una posición institucional cerrada, el informe reúne experiencias reales, casos de estudio, recomendaciones metodológicas y un amplio catálogo de herramientas que permiten comprender cómo la IA está modificando los procesos de enseñanza, aprendizaje y evaluación en la universidad.

Uno de los aspectos más relevantes del informe es su análisis del momento histórico que vive la inteligencia artificial. Los autores plantean el debate sobre si la IA generativa atraviesa actualmente la denominada «curva de la desilusión» descrita por Gartner o si, por el contrario, se encuentra avanzando hacia la Inteligencia Artificial General (IAG). Para ello confrontan dos visiones complementarias: una más crítica, que alerta sobre problemas como la deuda cognitiva, las alucinaciones, el elevado coste económico y energético, el exceso de expectativas y la escasa rentabilidad de numerosos proyectos; y otra más optimista, basada en los extraordinarios avances recientes en razonamiento, programación, matemáticas y ciencias alcanzados por modelos como GPT-5, Gemini, Claude, DeepSeek o LLaMA. El informe concluye que ambas perspectivas no son incompatibles, sino que reflejan el proceso natural de maduración de una tecnología con enorme potencial transformador.

El documento dedica una parte sustancial a explicar el funcionamiento de la inteligencia artificial generativa y su evolución tecnológica. A partir de una introducción accesible sobre los grandes modelos de lenguaje (LLM), las redes neuronales y los procesos de entrenamiento e inferencia, analiza cómo estas tecnologías están cambiando profundamente la creación de contenidos, la evaluación del aprendizaje, la personalización educativa, los sistemas de tutoría inteligente y la asistencia al estudiante. La IA deja de entenderse únicamente como una herramienta de automatización para convertirse en un verdadero asistente cognitivo capaz de colaborar con docentes y estudiantes durante todo el proceso formativo.

Especial interés tiene el análisis de experiencias reales desarrolladas en la Universidad Politécnica de Madrid y en otras instituciones de educación superior. El informe presenta numerosos casos de estudio donde la IA ya forma parte de la práctica docente cotidiana: utilización de ChatGPT como apoyo en trabajos prácticos, asistentes virtuales integrados en escape rooms educativos, sistemas generadores de cuestionarios adaptativos y múltiples aplicaciones destinadas a facilitar la evaluación, la preparación de materiales o la atención personalizada del alumnado. Estos ejemplos no se presentan como modelos universales, sino como experiencias inspiradoras que muestran diferentes formas de integrar la IA respetando los objetivos pedagógicos y las características específicas de cada asignatura.

Otro de los grandes aportes del informe es la revisión sistemática de las herramientas de inteligencia artificial actualmente disponibles para el profesorado universitario. Además de analizar asistentes conversacionales como ChatGPT, Copilot, Gemini, Claude o Perplexity, incorpora aplicaciones para la generación de imágenes, presentaciones, vídeos, infografías, cuestionarios, análisis documental, programación mediante IA y creación de agentes inteligentes. Cada herramienta es descrita desde una perspectiva práctica, mostrando sus posibilidades educativas, sus limitaciones y los escenarios donde puede aportar mayor valor añadido. Esta orientación convierte al documento en una auténtica guía de referencia para quienes desean comenzar o profundizar en el uso de estas tecnologías en la universidad.

Los autores insisten especialmente en que el verdadero reto no consiste únicamente en aprender a utilizar herramientas de IA, sino en desarrollar competencias docentes adaptadas a este nuevo contexto. Proponen un perfil profesional basado en cuatro grandes dimensiones: comprender los fundamentos de la inteligencia artificial, conocer sus implicaciones éticas y sociales, integrarla estratégicamente en la práctica docente y diseñar actividades que permitan al alumnado utilizar estas tecnologías de forma crítica, ética y responsable. En este sentido, el informe adopta el concepto de «humano potenciado por la IA», entendido como aquel profesional capaz de aumentar sus capacidades intelectuales mediante una colaboración inteligente con estas herramientas, sin sustituir el juicio crítico ni la creatividad humana.

La obra dedica asimismo un amplio espacio a examinar los riesgos asociados al uso intensivo de la inteligencia artificial. Entre ellos destacan el plagio académico, la pérdida de habilidades de razonamiento y escritura, la dependencia tecnológica, las brechas digitales, la desinformación, los sesgos algorítmicos y los problemas relacionados con la privacidad y la protección de datos. Los autores subrayan que la integración responsable de la IA exige revisar los sistemas tradicionales de evaluación, fortalecer la alfabetización digital y desarrollar nuevas estrategias pedagógicas que fomenten el pensamiento crítico en lugar de limitarse a prohibir el uso de estas herramientas.

Finalmente, el informe aborda el marco regulatorio y competencial que comienza a consolidarse tanto en Europa como en organismos internacionales como la UNESCO. La obra concluye que la IA representa una transformación estructural comparable a la llegada de Internet, por lo que las universidades deben asumir un papel protagonista en la formación de docentes y estudiantes. En lugar de contemplar la inteligencia artificial como una amenaza, propone aprovecharla como una oportunidad para redefinir el papel del profesorado, personalizar el aprendizaje, impulsar la innovación educativa y preparar a los futuros profesionales para convivir con sistemas inteligentes cada vez más avanzados. La clave del éxito residirá en combinar las capacidades de la IA con las competencias exclusivamente humanas —creatividad, pensamiento crítico, juicio ético y capacidad de decisión— para construir una educación superior más eficaz, inclusiva y preparada para los desafíos del futuro

La evaluación en la era de la inteligencia artificial: el próximo gran cambio que necesita la educación

Richards-Hill, Jaye. Assessment in the Age of AI: The Next Great Education Reform. LinkedIn, 2026.

La irrupción de la inteligencia artificial generativa está obligando a replantear uno de los pilares fundamentales del sistema educativo: la evaluación. En su reflexión, Jaye Richards-Hill sostiene que el verdadero desafío no consiste en impedir que el alumnado utilice herramientas como ChatGPT, Claude o Gemini, sino en reconocer que los métodos tradicionales de evaluación han dejado de ser suficientes para medir el aprendizaje auténtico.

La facilidad con la que la IA puede producir ensayos, resolver problemas o generar proyectos cuestiona la validez de pruebas diseñadas para evaluar únicamente el producto final, impulsando una transformación profunda del modo en que se certifican los conocimientos y las competencias.

El artículo plantea que la educación debe abandonar un modelo centrado en la reproducción de contenidos y avanzar hacia evaluaciones que valoren procesos cognitivos complejos. En este nuevo escenario adquieren especial relevancia competencias difícilmente automatizables, como el pensamiento crítico, la creatividad, la capacidad de argumentación, el juicio ético, la resolución de problemas abiertos, la comunicación y la reflexión metacognitiva. Más que comprobar si un estudiante puede producir un texto, el objetivo pasa a ser comprender cómo llega a sus conclusiones, cómo utiliza la IA de manera responsable y qué valor intelectual aporta al resultado final.

Richards-Hill también subraya que esta transformación exige un cambio cultural dentro de las instituciones educativas. Los docentes deberán diseñar experiencias de aprendizaje más auténticas, incorporar evaluaciones continuas, presentaciones orales, proyectos colaborativos, portafolios digitales y actividades que hagan visible el proceso de aprendizaje. En lugar de perseguir un imposible «examen a prueba de IA», la propuesta consiste en integrar estas tecnologías de forma transparente, estableciendo normas claras sobre su uso y evaluando la capacidad del alumnado para trabajar conjuntamente con ellas de manera crítica y ética.

Finalmente, el autor defiende que la inteligencia artificial representa una oportunidad histórica para impulsar la mayor reforma educativa de las últimas décadas. Igual que en otros momentos la llegada de Internet o de las tecnologías digitales obligó a redefinir la enseñanza, la IA invita ahora a revisar los fundamentos de la evaluación. El éxito de esta transición dependerá de que universidades y centros educativos dejen de considerar la IA únicamente como un riesgo para la integridad académica y comiencen a utilizarla como catalizador para construir modelos de evaluación más relevantes, flexibles y alineados con las competencias que demandará la sociedad del conocimiento en el futuro.

La ALA publica una guía para un uso ético, transparente y centrado en las personas de la inteligencia artificial en las bibliotecas

American Library Association. *Guidance on the Use of Artificial Intelligence in Libraries*. American Library Association (ALA), 2026. Documento aprobado por el Consejo de la ALA el 16 de julio de 2026 como marco de referencia para el desarrollo de políticas institucionales sobre inteligencia artificial en bibliotecas.

DESCARGAR Inglés

Español

El documento ofrece orientación para que las bibliotecas desarrollen o revisen políticas locales sobre IA (generativa, agéntica, sistemas predictivos, de recomendación, decisiones automatizadas y funciones de IA integradas en productos de proveedores). Se aplica tanto a herramientas de IA independientes como a funciones de IA incorporadas en catálogos, sistemas de descubrimiento, plataformas escolares, universitarias, municipales o consorciales.

La IA puede apoyar la instrucción, las operaciones, la accesibilidad y la educación pública siempre que exista un propósito claro de servicio público, se hayan evaluado beneficios y riesgos, se preserve el juicio humano y existan salvaguardas adecuadas. La IA no debe sustituir el juicio ni la responsabilidad del personal.

Cada evaluación de un sistema de IA debe considerar el propósito de servicio, beneficios, riesgos, salvaguardas necesarias, capacidad del personal, efectos comunitarios y alternativas. El resultado puede ser: adopción, uso limitado, prueba piloto, aplazamiento, pausa, no adopción, eliminación o suspensión. Decidir no usar una herramienta de IA es una decisión profesional legítima, no un fracaso.

Valores bibliotecarios y la IA

1. Bien público — La IA debe usarse solo con fines documentados de servicio público. Debe complementar, no sustituir, el razonamiento humano; el personal debe conservar autoridad para cuestionar o anular recomendaciones algorítmicas. Los usuarios tienen derecho a una explicación cuando la IA afecte una decisión que les concierne. La IA no debe justificar recortes de personal. Se recomienda alfabetización en IA con enfoque de reducción de daños, sin estigmatizar a quienes la usan, la evitan o son escépticos. En colecciones, se debe evaluar cuidadosamente el material generado por IA antes de adquirirlo.

2. Libertad intelectual — La IA puede amenazar la libertad intelectual si oculta cómo se clasifica la información o prioriza el «enganche» del usuario sobre la reflexión. Se recomienda documentación clara sobre el funcionamiento de sistemas automatizados, opciones de exclusión («opt-out»), y alternativas sin IA. Debe auditarse regularmente si las funciones de descubrimiento o recomendación distorsionan la visibilidad de ciertos temas, autores o comunidades.

3. Privacidad — El personal debe entender cómo la IA maneja datos personales. Se debe evaluar a los proveedores sobre qué datos recopilan, si se usan para entrenar modelos, dónde se almacenan y cómo pueden eliminarse. Se prohíbe introducir información de identificación personal, historiales de préstamo o lectura, o datos de referencia en sistemas de IA no aprobados formalmente.

4. Sostenibilidad — Las bibliotecas deben preferir herramientas de IA con menor impacto ambiental documentado (modelos más pequeños o específicos por tarea), exigir a los proveedores que divulguen huella de carbono y uso de agua, y considerar el ciclo de vida completo del hardware (fabricación, consumo energético, residuos electrónicos).

5. Diversidad, equidad, inclusión y acceso (DEIA) — Se debe evaluar el sesgo en conjuntos de datos y algoritmos antes y durante el uso. Se debe garantizar acceso equitativo a comunidades marginadas y apoyar herramientas de código abierto que reduzcan el sesgo.

6. Trabajo (labor) — La IA no debe sustituir servicios de referencia, asesoría de lectura, instrucción o apoyo comunitario. El personal debe participar en las decisiones sobre qué tareas pueden automatizarse. Se debe evaluar a los proveedores sobre las condiciones laborales de quienes etiquetan datos o moderan contenido, y usar las ganancias de eficiencia para mejorar condiciones laborales, no para justificar despidos.

Orientación general

Usar la IA solo cuando tenga un propósito claro centrado en el usuario; divulgar su uso de forma clara y accesible; obtener consentimiento informado; tratar las salidas de la IA como borradores que requieren revisión humana, no como respuestas autorizadas; y ofrecer siempre una vía de asistencia humana y, cuando sea posible, una opción sin IA.

Conclusión

La guía es un punto de partida basado en valores, destinado a evolucionar junto con la tecnología y las necesidades de las bibliotecas.

Apéndice — Marco ético de IA (basado en Luciano Floridi)

Seis principios:

1) el bien común de la humanidad y el planeta;

2) el principio de no dañar, privacidad y protección;

3) dignidad humana;

4) responsabilidad y explicabilidad;

5) democracia; 6) equidad, justicia social y un mejor futuro.

Tres enfoques para medir y gestionar el retorno de la inversión (ROI) en inteligencia artificial

Ruokonen, M., & Ritala, P. (2026, 23 de junio). Three Approaches to Measuring and Managing AI ROI. MIT Sloan Management Review. https://sloanreview.mit.edu/article/three-approaches-to-measuring-and-managing-ai-roi/

Tras varios años de experimentación con inteligencia artificial, muchas organizaciones siguen enfrentándose a una cuestión fundamental: cómo demostrar que las inversiones realizadas realmente generan valor para el negocio.

El artículo de Mika Ruokonen y Paavo Ritala sostiene que la mayoría de las empresas continúan evaluando la IA de forma intuitiva o mediante indicadores parciales, sin aplicar el mismo rigor financiero que utilizarían para valorar una nueva planta de producción o una gran inversión tecnológica. Además, los autores subrayan que la naturaleza de la IA, especialmente de la IA generativa, hace que el retorno de la inversión (ROI) sea más difícil de cuantificar, ya que sus beneficios suelen manifestarse en mejoras de productividad, calidad, creatividad o velocidad que deben traducirse posteriormente en resultados económicos verificables.

El primer enfoque identificado es el centrado en funciones específicas (function-focused approach). Está orientado a organizaciones que se encuentran en las primeras fases de adopción de la IA y necesitan demostrar beneficios concretos antes de ampliar su despliegue. En este modelo, la inteligencia artificial se implementa en áreas determinadas —como atención al cliente, recursos humanos, marketing o producción— y el retorno se evalúa mediante indicadores directamente relacionados con esas actividades. Este planteamiento facilita obtener casos de éxito medibles y construir evidencia que justifique futuras inversiones, aunque su principal limitación es que el impacto permanece restringido a departamentos concretos y no refleja el valor estratégico que la IA puede aportar al conjunto de la organización.

El segundo modelo corresponde al enfoque empresarial o corporativo (enterprise approach), característico de organizaciones con un mayor grado de madurez digital. En este caso, la IA deja de concebirse como una herramienta aislada para convertirse en un activo estratégico que transforma procesos transversales y contribuye a objetivos globales del negocio. La evaluación del ROI incorpora métricas financieras tradicionales junto con indicadores relacionados con la innovación, la competitividad, la experiencia del cliente, la eficiencia operativa y la capacidad de generar nuevas oportunidades de negocio. Los autores destacan que este enfoque requiere liderazgo ejecutivo, una gobernanza sólida y una visión compartida de cómo la IA contribuye a la estrategia corporativa.

El tercer planteamiento es el enfoque coordinado (coordinated approach), considerado el más avanzado. Combina la flexibilidad de las iniciativas locales con una coordinación estratégica a nivel organizacional. Cada unidad de negocio puede desarrollar proyectos adaptados a sus necesidades, pero todos comparten criterios homogéneos para medir resultados, traducir beneficios a valor económico y facilitar comparaciones entre iniciativas. De este modo, la organización construye un marco común para evaluar el impacto de la IA sin limitar la innovación. Los autores consideran que este modelo permite escalar las inversiones con mayor eficacia y favorece el aprendizaje continuo a medida que la empresa acumula experiencia en el uso de la inteligencia artificial.

El artículo también destaca que el tipo de inteligencia artificial condiciona la forma de medir el retorno. Mientras que los sistemas de IA analítica suelen producir beneficios económicos relativamente fáciles de atribuir —como la optimización de procesos o la mejora de las predicciones—, la IA generativa genera efectos más difusos, relacionados con la calidad del trabajo, la creatividad, la rapidez en la producción de contenidos o el apoyo a la toma de decisiones. Por ello, medir únicamente el ahorro de tiempo o el número de tareas automatizadas resulta insuficiente para comprender el verdadero impacto de estas tecnologías. La creación de valor exige transformar esas mejoras operativas en indicadores financieros y estratégicos comprensibles para la dirección de la organización.

Como conclusión, Ruokonen y Ritala defienden que las empresas evolucionarán progresivamente desde modelos de medición limitados hacia sistemas integrales de evaluación del ROI de la IA. Recomiendan priorizar casos de uso de alto impacto, establecer mecanismos de liderazgo y seguimiento continuos y aceptar que tanto la organización como la propia tecnología seguirán cambiando. El verdadero objetivo no consiste únicamente en desplegar inteligencia artificial, sino en convertir la actividad relacionada con la IA en resultados empresariales verificables, sostenibles y alineados con la estrategia corporativa.

China abre el debate sobre un problema de la IA que Occidente apenas empieza a reconocer: los riesgos de la inteligencia artificial emocional

The AI School Librarian. (2026, 29 de julio). China Is Talking About an AI Problem America Has Barely Begun to Discuss: China’s new AI companion regulations raise important questions about emotional AI that libraries and schools should not ignore. Substack. https://aischoollibrarian.substack.com/p/china-is-talking-about-an-ai-problem

Las nuevas regulaciones chinas sobre IA de acompañamiento plantean interrogantes importantes sobre la IA emocional que las bibliotecas y las escuelas no deberían ignorar.

El artículo analiza un aspecto de la inteligencia artificial que hasta ahora ha recibido menos atención que cuestiones como la privacidad, la desinformación o el impacto laboral: la creciente relación emocional entre las personas y los sistemas de IA conversacional. A partir del reciente proyecto regulatorio impulsado por China sobre los denominados «compañeros de IA» (AI companions), el autor sostiene que el verdadero desafío no reside únicamente en la capacidad tecnológica de estos modelos, sino en su habilidad para establecer vínculos afectivos con los usuarios. Mientras en Estados Unidos y Europa el debate continúa centrado en la innovación y la competencia tecnológica, China comienza a abordar las consecuencias psicológicas y sociales derivadas de que millones de personas desarrollen relaciones emocionales con asistentes virtuales cada vez más convincentes.

Uno de los aspectos más relevantes es la preocupación por la denominada IA antropomórfica, es decir, sistemas diseñados para comportarse como si fueran personas reales. Estas aplicaciones no solo responden preguntas, sino que expresan empatía, recuerdan conversaciones anteriores, ofrecen apoyo emocional e incluso simulan afecto. El problema surge cuando los usuarios, especialmente menores de edad o personas vulnerables, empiezan a sustituir relaciones humanas por interacciones con algoritmos que generan una ilusión de comprensión y compañía. El autor considera que esta evolución plantea nuevos retos éticos que todavía no están siendo suficientemente discutidos por educadores, bibliotecarios y responsables de políticas públicas.

El texto explica que las propuestas regulatorias chinas no pretenden únicamente controlar los contenidos generados por la IA, sino también reducir riesgos asociados a la dependencia emocional, la manipulación psicológica y la adicción. Entre las preocupaciones destacan la posibilidad de que los sistemas incentiven un uso compulsivo, dificulten la diferenciación entre relaciones reales y simuladas o influyan en las decisiones personales de los usuarios aprovechando la confianza generada durante largas conversaciones. Se trata de un cambio significativo en el enfoque regulador, ya que el problema deja de ser exclusivamente tecnológico para convertirse en una cuestión de salud mental, bienestar social y protección de los ciudadanos.

El artículo subraya que las bibliotecas y las instituciones educativas no pueden permanecer al margen de este fenómeno. Los profesionales de la información deberán incorporar nuevas competencias relacionadas con la alfabetización en inteligencia artificial emocional, ayudando a estudiantes y ciudadanos a comprender cómo funcionan estos sistemas, qué técnicas utilizan para generar empatía y cuáles son sus limitaciones. Del mismo modo que durante años se enseñó pensamiento crítico frente a la información digital y las redes sociales, ahora será necesario formar a los usuarios para identificar cuándo una interacción aparentemente humana es, en realidad, el resultado de algoritmos diseñados para maximizar la permanencia y el compromiso del usuario.

Finalmente, el autor plantea que el debate iniciado en China puede anticipar una discusión global que inevitablemente alcanzará al resto del mundo. La cuestión ya no consiste únicamente en si la inteligencia artificial será capaz de realizar tareas complejas, sino en cómo transformará las relaciones humanas cuando sea capaz de ofrecer compañía, apoyo emocional y conversación permanente. Para bibliotecas, escuelas y universidades, este escenario implica ampliar la alfabetización en IA más allá de los aspectos técnicos, incorporando dimensiones éticas, psicológicas y sociales que permitan a las personas utilizar estas herramientas de forma consciente, crítica y equilibrada.

La inteligencia artificial acelera su adopción en el trabajo: uno de cada dos empleados estadounidenses ya la utiliza (Gallup 2026)

Gallup. (2026, 28 de julio). Front Page: The voice of the world in numbers (Newsletter, 28 July 2026). Gallup.

Ver noticia

Gallup, presenta una panorámica de la evolución del uso de la inteligencia artificial en el entorno laboral estadounidense y su relación con la productividad, el compromiso de los empleados y la gestión organizacional. A través de cinco indicadores principales, Gallup muestra cómo la IA ha dejado de ser una tecnología emergente para convertirse en una herramienta de trabajo cotidiana para una parte creciente de la población activa. Los datos evidencian que la adopción continúa acelerándose y que las organizaciones se enfrentan ahora al desafío de integrar estas herramientas de manera estratégica, acompañando su implantación con liderazgo, formación y una comunicación clara.

Uno de los datos más destacados es que el 15 % de los trabajadores estadounidenses utiliza inteligencia artificial todos los días en el desempeño de sus funciones. La cifra representa un crecimiento muy significativo respecto al segundo trimestre de 2023, cuando únicamente el 4 % declaraba un uso diario. Más revelador aún es que más de la mitad de los empleados (52 %) ya emplea herramientas de IA en alguna medida dentro de su trabajo, lo que confirma que estas tecnologías han alcanzado una difusión generalizada. Paralelamente, la integración organizativa también avanza: el porcentaje de empleados que considera que su empresa incorpora la IA como parte de su estrategia para alcanzar objetivos corporativos ha aumentado del 41 % al 47 %, señalando que la adopción ya no depende únicamente de iniciativas individuales, sino que empieza a formar parte de la planificación empresarial.

El informe también identifica los principales usos que los trabajadores hacen de estas herramientas. Las aplicaciones más frecuentes son la redacción y edición de textos (51 %), la búsqueda y análisis de información (49 %) y la asistencia general para resolver problemas (39 %). Estos resultados indican que la IA se utiliza principalmente para apoyar tareas cognitivas y de gestión del conocimiento, más que para procesos altamente especializados. Sin embargo, Gallup observa que los mayores incrementos de productividad son percibidos por quienes emplean la IA para programación informática, creación de presentaciones y automatización de procesos, ámbitos donde las herramientas permiten reducir considerablemente el tiempo dedicado a tareas repetitivas y aumentar la eficiencia operativa.

En contraste con el rápido crecimiento del uso de la IA, el estudio muestra que el compromiso laboral permanece prácticamente estancado. Solo el 31 % de los trabajadores estadounidenses se considera comprometido con su trabajo, mientras que el 17 % manifiesta un nivel de desafección activa, porcentajes que apenas han variado durante los dos últimos trimestres. Gallup recuerda que su conocido índice de compromiso se basa en doce factores relacionados con la implicación psicológica y el rendimiento laboral. Entre ellos destaca una ligera recuperación en la claridad de las expectativas laborales, que aumenta dos puntos porcentuales hasta alcanzar el 49 %, después de haber experimentado uno de los descensos más pronunciados de los últimos cinco años.

Uno de los hallazgos más relevantes del boletín es que la forma en que las organizaciones gestionan la inteligencia artificial tiene una influencia directa sobre el compromiso de los empleados. En aquellas empresas que disponen de un plan claro de integración de la IA, cuyos responsables apoyan activamente su utilización y donde los trabajadores utilizan estas herramientas al menos semanalmente, el nivel de compromiso alcanza el 53 %, una cifra muy superior a la media nacional. Asimismo, los empleados cuyos directivos fomentan el uso de la IA presentan un compromiso del 48 %, frente al 30 % registrado entre quienes no perciben ese apoyo. Gallup interpreta estos resultados como una evidencia de que el liderazgo desempeña un papel decisivo para convertir la adopción tecnológica en una oportunidad de mejora organizativa y no en una fuente de incertidumbre o resistencia al cambio.

Finalmente, el boletín incorpora una perspectiva histórica mediante la recuperación de un estudio realizado en 1999, cuando Gallup preguntó por el impacto de tecnologías entonces emergentes —como el correo electrónico, Internet, los ordenadores personales, los faxes o el buzón de voz— sobre las relaciones entre compañeros de trabajo. En aquel momento, el 55 % de los trabajadores consideraba que esas tecnologías apenas influían en sus relaciones laborales, mientras que un 26 % afirmaba sentirse más cercano a sus compañeros gracias a ellas, el doble del porcentaje que decía sentirse más aislado (13 %). La comparación invita a reflexionar sobre los paralelismos entre las transformaciones tecnológicas del pasado y la actual expansión de la inteligencia artificial, sugiriendo que el impacto de estas innovaciones depende menos de la tecnología en sí que de la forma en que las organizaciones la incorporan a sus procesos, su cultura y sus modelos de liderazgo.