Archivo de la categoría: Noticias

La manipulación de chatbots puede multiplicar por 12 la exposición de información privada

Zhan, Xiao; Carrillo, Juan-Carlos; Seymour, William; y Such, José. 2025. “Malicious LLM-Based Conversational AI Makes Users Reveal Personal Information.” En Proceedings of the 34th USENIX Security Symposium, USENIX Association.

Texto completo

Un estudio reciente de King’s College London ha puesto de relieve la vulnerabilidad de los chatbots de inteligencia artificial (IA) con apariencia conversacional humana, utilizados por millones de personas en su vida diaria. La investigación demuestra que estos sistemas pueden ser manipulados con relativa facilidad para conseguir que los usuarios revelen mucha más información personal de la que compartirían en un contexto habitual.

Los resultados son especialmente llamativos: cuando los chatbots son diseñados o modificados con intenciones maliciosas, los usuarios llegan a proporcionar hasta 12,5 veces más datos privados que en interacciones normales. Este incremento se logra mediante la combinación de técnicas de ingeniería de prompts —instrucciones específicas que orientan el comportamiento del modelo— y estrategias psicológicas bien conocidas, como la creación de confianza, la apelación emocional o el uso de preguntas aparentemente inocentes que llevan a respuestas más profundas de lo esperado.

El estudio recalca además que no es necesario poseer una alta especialización técnica para lograr esta manipulación. Dado que muchas compañías permiten el acceso a los modelos base que sustentan a sus chatbots, cualquier persona con conocimientos mínimos puede ajustar parámetros y configuraciones para orientar la conversación hacia la obtención de datos sensibles, lo que multiplica el riesgo de un uso indebido.

Las implicaciones son serias. El trabajo de King’s College London alerta sobre la fragilidad de la privacidad en entornos digitales donde la interacción con chatbots se percibe como inofensiva y rutinaria. En contextos como la atención al cliente, el asesoramiento médico o financiero, o incluso el acompañamiento emocional, la posibilidad de que un chatbot manipulado extraiga información confidencial plantea amenazas directas a la seguridad de las personas y a la protección de sus datos.

Ante este escenario, los investigadores subrayan la urgente necesidad de reforzar las medidas de seguridad y protección de datos en los sistemas de IA conversacional. Proponen, entre otras acciones:

  • Desarrollar protocolos de verificación más estrictos sobre el acceso y modificación de modelos base.
  • Implementar mecanismos de detección de manipulación en los propios chatbots.
  • Fomentar la educación digital de los usuarios, para que reconozcan patrones de conversación sospechosos.
  • Establecer regulaciones claras y exigentes que limiten el mal uso de estos sistemas.

En definitiva, el estudio concluye que, aunque los chatbots de IA tienen un enorme potencial para mejorar la interacción humano-máquina, su diseño y despliegue deben ir acompañados de fuertes garantías éticas y técnicas, de lo contrario podrían convertirse en herramientas de explotación de la privacidad a gran escala.

La biblioteca de cabecera de Eduardo Halfon

No hace mucho murió un amigo de Brooklyn, un norteamericano radicado en Guatemala desde los años setenta, llamado Bruno Sanders. Era un viejo bestial, en todo sentido. Vivía al límite. Fumaba sin parar (Salem mentolados), bebía demasiado (Stolichnaya con hielo), tartamudeaba con elocuencia y solo cuando le convenía. Y, claro: devoraba libros.

Su casa de madera, tipo cabaña, estaba en Santa Cruz, un pueblo pintoresco a orillas del lago Atitlán. La primera vez que lo visité, me había invitado a desayunar. Salí muy temprano de la capital, dejé mi coche en Panajachel (la carretera no llega hasta Santa Cruz) y tomé una lancha pública que, tras cruzar medio lago y veinte minutos de viaje, me dejó en el viejo muelle frente a su cabaña.

Recuerdo que preparó café, pan tostado, huevos revueltos con cebolla caramelizada y queso gruyer. Fumamos. Sanders me habló de su infancia en Brooklyn, de su hija y de sus dos pintores favoritos. Degas, dijo, solía comprar sus propios cuadros para seguir trabajándolos. Bonnard, contó, una vez entró con un amigo al Museo de Luxemburgo y le pidió que distrajera al guardia unos minutos, mientras él sacaba crayones y retocaba un lienzo suyo que llevaba años colgado allí.

Luego, sonriendo, me preguntó si quería conocer su biblioteca. Salimos de la cocina.

Aunque inmensa, su biblioteca se parecía a cualquier otra. En un dormitorio, la literatura en lengua germana; en otro, más grande, la de lengua española; en las paredes alrededor del comedor, la francesa; en la sala, mezcladas, la norteamericana, inglesa e irlandesa; a lo largo de un pasillo, la eslava; en otro, más breve, la italiana; y en una estantería del baño de visitas, frente al inodoro, su colección de haikú y bunraku japonés. Todo más o menos normal —aunque, como decía Borges, el orden de una biblioteca es una manera silenciosa de ejercer el arte de la crítica—, hasta que llegamos a su dormitorio.

Detrás de la cama, sobre una especie de mesa larga que también hacía de cabecera, vi una fila de libros idénticos, encuadernados en cuero marrón con finas letras doradas. Pensé que eran tomos de una enciclopedia. Pero al acercarme leí que el primero era de un autor cuyo nombre me resultaba lejanamente familiar: Launcelot Canning. El título también me sonaba: El loco Tryst. Le pedí a Sanders que me dejara verlo (ya estaba casi encima de su cama) y él, con una mirada brillosa que debió advertirme, me dijo que adelante.

En las manos, el libro parecía nuevo, intacto, recién encuadernado. Pero al abrirlo descubrí que el primer centenar de páginas estaba escrito a mano, en una caligrafía negra, perfecta y simétrica. Avancé hasta que, hacia la mitad, la tinta se detenía. El resto de las hojas estaba en blanco, como si fuera un libro abandonado o en proceso. No entendí. Murmuré algo, pero Sanders solo sonrió, incitándome a seguir.

Dejé el libro y tomé el siguiente: El monitor de los bípedos, de Cósimo Piovasco de Rondò. Otra vez el nombre me resultaba familiar. Otra vez, todas las páginas estaban escritas a mano con la misma caligrafía negra. Al final, también a mano, un índice: «El canto del mirlo», «El picamadero que llama», «Los diálogos de los búhos», «La gaceta de las urracas».

Lo miré, buscando una explicación, pero él estaba distraído, mirando hacia el lago, tal vez siguiendo con la vista a un anciano que, a lo lejos, pescaba de pie en un cayuco de madera.

Tomé otro tomo: Caminatas matutinas de un sinólogo, de Peter Kien. Y entonces, como si alguien hubiera encendido un candil, empecé a comprender. Un cuarto libro confirmó mi sospecha: Abril marzo, de Herbert Quain, con sus trece capítulos, nuevamente escritos a mano y en la misma tinta negra.

Herbert Quain es un personaje de Borges, autor, según él, de la «novela regresiva, ramificada» Abril marzo. Peter Kien, protagonista de Auto de fe, de Canetti, escribía un libro que recogía su «colección de estupideces humanas» durante sus caminatas matutinas, y pensaba titularlo Caminatas matutinas de un sinólogo. Cósimo Piovasco de Rondò, más conocido como «el barón rampante» de Italo Calvino, escribió —siempre según Calvino— un libro compuesto en un «período de demencia» vivido entre ramas de árboles, titulado El monitor de los bípedos. Launcelot Canning es personaje de La caída de la casa Usher, de Poe, y, según ese cuento, autor de El loco Tryst.

Si la memoria no me falla, en esa misma fila había otros tomos —empezados, por empezar o tal vez ya concluidos— firmados por Ceferino Piriz, Kilgore Trout, Eusebius Chubb o Clare Quilty.

Bruno Sanders estaba escribiendo los libros inexistentes de autores ficticios. Estaba, en definitiva, construyendo él mismo su biblioteca de cabecera.

Halfon, Eduardo. Biblioteca bizarra. Editado por Andrea Naranjo. Ecuador: USFO especificada], 2021. ISBN 978-9978-68-193-0

Cambios en el uso de materiales de la Biblioteca Pública de San Francisco (2012–2021): una transformación cultural y tecnológica

Fracassa, Dominic. 2021. “How the Pandemic Transformed San Francisco’s Public Libraries.” San Francisco Chronicle, November 28, 2021. https://www.sfchronicle.com/sf/article/How-the-pandemic-transformed-San-Francisco-s-16667414.php

El gráfico que representa la circulación de materiales físicos y digitales en la Biblioteca Pública de San Francisco (SFPL) entre 2012 y 2021 no solo muestra una curva de préstamo, sino también una historia más amplia sobre cómo evolucionan las bibliotecas ante los cambios tecnológicos, sociales y sanitarios.

Caída sostenida de los materiales físicos

En 2012, la circulación de materiales físicos (libros impresos, revistas, DVDs, CDs, vinilos, etc.) era dominante, alcanzando casi 10 millones de préstamos anuales. Esta cifra es reflejo del modelo tradicional de biblioteca, donde el contacto físico con los documentos era el centro de la experiencia bibliotecaria.

Sin embargo, con el paso de los años se observa una tendencia descendente progresiva en este tipo de circulación. Aunque algunos factores pueden estar relacionados con la preferencia por medios digitales, también influyen los cambios en los hábitos culturales: menor consumo de soportes físicos como CDs o DVDs, y mayor acceso a contenidos desde dispositivos personales.

El punto más dramático se produce en el año fiscal 2020–2021, cuando el número de préstamos físicos cae casi a cero. Este descenso no se debe solo a una preferencia voluntaria del usuario, sino al cierre temporal de bibliotecas y restricciones sanitarias derivadas de la pandemia de COVID-19, que impidieron el acceso físico a las colecciones.

Ascenso sostenido de los materiales digitales

En contraste, en 2012 el préstamo de materiales digitales era aún marginal. Aun así, desde entonces la SFPL comenzó a invertir en plataformas digitales, ampliando su colección de ebooks, revistas electrónicas, periódicos digitales y contenidos en streaming (como películas, audiolibros y cursos).

Con el paso de los años, estos servicios fueron ganando adeptos, especialmente entre públicos jóvenes o tecnológicamente familiarizados. En 2021, los préstamos digitales alcanzaron los 4 millones, superando por primera vez a los materiales físicos.

Esta transición se aceleró durante la pandemia, cuando los servicios digitales se convirtieron en la única vía de acceso a la biblioteca para miles de usuarios. El crecimiento repentino sugiere que muchos usuarios adoptaron estos formatos no solo por necesidad, sino también por comodidad y eficiencia.

La pandemia como catalizador

El periodo 2020–2021 fue decisivo. Las restricciones sanitarias obligaron a cerrar sucursales, suspender eventos presenciales y repensar los servicios de la biblioteca. Esto forzó a instituciones como la SFPL a reconfigurar su oferta digital, expandiendo licencias, aumentando el presupuesto para contenidos electrónicos y formando a su personal y usuarios en el uso de nuevas plataformas.

Para muchos usuarios, esto significó su primer contacto serio con libros digitales o plataformas de streaming educativo o cultural.

Reflexión sobre tendencias

La evolución observada en San Francisco no es un caso aislado. Bibliotecas de todo el mundo han experimentado presiones similares. Sin embargo, la SFPL destaca por haber ofrecido una infraestructura digital robusta que permitió sostener el acceso al conocimiento durante la emergencia sanitaria.

Este cambio apunta a un modelo híbrido, en el que la presencia física seguirá siendo fundamental para la comunidad (especialmente para grupos sin acceso digital), pero donde los recursos digitales ocuparán un espacio cada vez más central en la estrategia bibliotecaria.

La transición no está exenta de desafíos: brechas digitales, derechos de autor en licencias digitales, costes de suscripción, y la necesidad de mantener colecciones físicas vivas y atractivas.

ChatGPT-5, presenta una reducción significativa en las llamadas “alucinaciones”

Baden, Matthew. «Tests Reveal That ChatGPT-5 Hallucinates Less Than GPT-4o Did — and Grok Is Still the King of Making Stuff UpTechRadar, August 8, 2025. https://www.techradar.com/ai-platforms-assistants/tests-reveal-that-chatgpt-5-hallucinates-less-than-gpt-4o-did-and-grok-is-still-the-king-of-making-stuff-up?utm_source=flipboard&utm_content=other

Recientes pruebas comparativas entre modelos avanzados de inteligencia artificial han revelado que ChatGPT-5, la versión más reciente del popular asistente de OpenAI, presenta una reducción significativa en las llamadas “alucinaciones” — es decir, respuestas erróneas, inventadas o sin fundamento — en comparación con su predecesor, GPT-4o.

Esta mejora en la precisión representa un paso importante hacia una IA más confiable y útil para aplicaciones que requieren datos exactos y consistencia en la información proporcionada.

A pesar de estos avances, otro competidor en el ámbito de los asistentes IA, Grok, desarrollado por Anthropic, continúa siendo la IA que más tiende a generar datos incorrectos o inventados, lo que se denomina coloquialmente como “hacer stuff up”. Aunque Grok es reconocido por su velocidad de respuesta y su habilidad para mantener conversaciones naturales y fluidas, sufre limitaciones en la exactitud de sus respuestas, lo que puede resultar problemático en contextos que demandan alta precisión.

El análisis destaca que la reducción de alucinaciones en ChatGPT-5 no implica que esté completamente libre de errores, por lo que la verificación y validación de la información siguen siendo cruciales cuando se emplea esta tecnología, especialmente en ámbitos profesionales, académicos o científicos. Además, el artículo subraya la importancia de que los desarrolladores sigan trabajando para equilibrar la velocidad, la fluidez y la precisión de las IA, para optimizar su desempeño sin sacrificar la confiabilidad.

Este tipo de evaluaciones es fundamental para usuarios, desarrolladores y empresas que dependen de modelos de lenguaje para tareas complejas, y también refleja cómo la competencia en el desarrollo de IA impulsa mejoras constantes y la necesidad de transparencia sobre las limitaciones actuales.

Biblioteca Pública de Boston y Harvard impulsan el acceso a archivos históricos mediante inteligencia artificial

NPR. “Boston Public Library Aims to Increase Access to a Vast Historic Archive Using AI. NPR, 11 de agosto de 2025. Consultado el 11 de agosto de 2025.

La Biblioteca Pública de Boston (BPL) ha lanzado este verano una innovadora colaboración con la Biblioteca de Derecho de Harvard y OpenAI. Su objetivo es digitalizar extensos archivos históricos y hacerlos plenamente accesibles y buscables mediante inteligencia artificial. De este modo, el patrimonio documental se vuelve más utilizable tanto para investigadores como para el público general

Esta iniciativa no solo impulsa la preservación, sino que también busca modernizar los metadatos y procesos digitales existentes con apoyo del Harvard Law School’s Library Innovation Lab (a través de su Institutional Data Initiative, o IDI). El propósito es equilibrar el poder de la IA con la experiencia curatoría, beneficiando tanto a académicos como a usuarios habituales, incluidos quienes buscan explorar historia local y patrimonio cultural.

Por su parte, Harvard ha liberado casi un millón de libros de dominio público (del proyecto Google Books), en múltiples idiomas y épocas, como parte del “Institutional Books 1.0”. Este conjunto, que abarca textos desde el siglo XV y contiene millones de páginas, está siendo puesto a disposición de desarrolladores de IA y plataformas como Hugging Face.

El uso de datos de dominio público minimiza las polémicas legales relacionadas con derechos de autor, mientras que estas colecciones históricas —religiosas, literarias, jurídicas y científicas— enriquecerán los modelos de IA con información fundamentada y diversa. Sin embargo, también existe el riesgo de reproducir contenido desfasado o dañino, como narrativas racistas o teorías científicas obsoletas. Por ello, se está fomentando un uso informado y responsable del material.

Este enfoque representa un cambio en la forma en que las bibliotecas públicas y universitarias participan en el desarrollo de la IA. Al democratizar el acceso a estas fuentes y al involucrar a las bibliotecas como custodios éticos de datos, se busca devolver parte del control a estas instituciones, con beneficios tanto para la comunidad como para el ecosistema tecnológico.

La inteligencia artificial en la publicación académica: un estudio sobre las directrices y políticas de las revistas de Biblioteconomía y Documentación


Gao, W., Liu, G., Huang, M. B., & Yao, H. (2025). AI in Scholarly Publishing: A Study on LIS Journals’ Guidelines and PoliciesInternational Journal of Librarianship10(2), 85–100. https://doi.org/10.23974/ijol.2025.vol10.2.419

Se investiga el panorama actual de las directrices y políticas relacionadas con el uso de inteligencia artificial generativa en revistas del ámbito de la Bibliotecología y Ciencias de la Información (LIS).

En un contexto en el que herramientas como ChatGPT se han popularizado para realizar tareas como corrección gramatical, análisis estadístico o redacción de manuscritos, los autores destacan preocupaciones éticas sobre autoría, derecho de autor, reproducibilidad y transparencia en la investigación

Mediante un enfoque metodológico descriptivo, se revisaron las normas editoriales de un conjunto de revistas LIS seleccionadas a partir de la lista de Nixon y se aplicaron estadísticas básicas para comparar revistas con y sin políticas explícitas sobre IA generativa.

Los resultados revelan que, de las 45 revistas estudiadas, 31 (69 %) incluyen algún tipo de declaración sobre el uso de IA en sus directrices. La mayoría exige a los autores declarar el uso de estas herramientas, y algunas (16) extienden regulaciones también a editores y revisores, incluyendo prohibiciones como el uso de manuscritos en sistemas de IA externos.

Además, se observa una carencia notable de tales políticas en revistas de acceso abierto, lo que plantea riesgos en cuanto a la calidad editorial y la proliferación de prácticas predatorias. Los autores concluyen subrayando la necesidad de estandarizar las declaraciones sobre el uso de IA generativa para fortalecer la integridad del proceso de publicación académica.

Aprendiendo a investigar desde las bibliotecas de Bogotá

Mejía Pulido, Juan David, y Biblioteca Aldea de Pensadores; con Laura Acero (corrección de texto y preparación). Aprendiendo a investigar desde las bibliotecas de Bogotá. Proyecto Bibliotecario Común «Bibliotecas que aprenden e investigan». Bogotá: Red Distrital de Bibliotecas Públicas (BibloRed), 2024

Texto completo

El informe, de unas 20 páginas, se centra en la sistematización de experiencias de aprendizaje e investigación desarrolladas por las bibliotecas participantes. Describe procesos de formación metodológica que incluyen el desarrollo de competencias investigativas, la construcción colectiva de saberes comunitarios y la documentación de prácticas locales y culturales. Se ofrece una mirada sobre cómo las bibliotecas pueden convertirse en espacios de generación de conocimiento … y también de diálogo con la realidad social de sus barrios.

El contenido explora tanto el diseño del proyecto como los resultados alcanzados. Se detallan etapas como la identificación de temas pertinentes para la comunidad, la planificación de actividades, la recolección de datos cualitativos y la elaboración de relatos y reflexiones compartidas. A su vez, se presentan testimonios y narrativas que dan cuenta del impacto social de los procesos: fortalecimiento del capital cultural local, apropiación de la biblioteca como espacio comunitario, y empoderamiento de mediadores comunitarios

Entrevista a Manolo Sola autor de «La extraña muerte de un bibliotecario accidental». Planeta Biblioteca 2025/08/01

Entrevista a Manolo Sola autor de «La extraña muerte de un bibliotecario accidental».

Planeta Biblioteca 2025/08/01

ESCUCHAR

Descargar

Manolo Sola, bibliotecario en Purchena desde 1989, cuenta cómo La extraña muerte de un bibliotecario accidental nació de una idea que fue tomando forma alimentada por su experiencia profesional. El protagonista es un bibliotecario peculiar, introspectivo y algo marginado, que se convierte en figura central de una historia dividida en “estanterías” y “estantes”, siguiendo una estructura inspirada en el mundo bibliotecario. La frase “así que sí es posible” abre un misterio que recorre toda la obra. Sola reconoce que el relato está lleno de guiños personales y que la biblioteca no es solo un escenario, sino el alma simbólica del libro. Con humor e ironía, refleja tanto el aislamiento como la riqueza humana de su entorno rural. La novela, que mezcla lo literario y lo real, busca dejar en el lector una reflexión sobre el papel invisible —pero fundamental— de los bibliotecarios.

La ética es la ventaja: el futuro de la IA en la educación superior

Georgieva, Maya y John Stuart. 2025. “ Ethics Is the Edge: The Future of AI in Higher Education ”. EDUCAUSE Review , 24 de junio de 2025. Consultado el 28 de julio de 2025. https://er.educause.edu/articles/2025/6/ethics-is-the-edge-the-future-of-ai-in-higher-education

El informe aborda el papel transformador de la inteligencia artificial (IA) en el ámbito universitario, señalando que su adopción ya no es el futuro, sino una realidad actual que impulsa cambios en la enseñanza, la investigación, la evaluación y los procesos institucionales

Los autores presentan un marco fundamental basado en ocho principios éticos (inspirados en los valores del Belmont Report de 1979) destinados a guiar la implementación responsable de IA en la educación superior. Este marco subraya la necesidad de gobernanza institucional, transparencia, equidad, responsabilidad y alineación con los valores académicos fundamentales

Asimismo, advierten sobre la adopción reactiva y fragmentada de tecnologías impulsada por presiones del mercado, lo que puede resultar en decisiones automatizadas sesgadas, falta de rendición de cuentas y erosión de relaciones educativas. Por eso instan a las universidades a asumir un liderazgo ético desde el diseño y no desde la mera oferta tecnológica.

Finalmente, el texto sostiene que la innovación genuina no depende únicamente de funcionalidades técnicas, sino del compromiso institucional con valores académicos, que deben reflejarse en políticas claras y estructuras de gobernanza que promuevan confianza, equidad y efectividad en el uso de la IA

Base de datos de Prompts de Rebiun

base de datos de Prompts

La página «Prompts» del Observatorio de Inteligencia Artificial de REBIUN (Red de Bibliotecas Universitarias) ofrece una recopilación estructurada de ejemplos de Prompts —instrucciones o preguntas— que permiten interactuar eficazmente con herramientas de inteligencia artificial generativa, como ChatGPT o Copilot. Estos recursos están pensados especialmente para su aplicación en el ámbito bibliotecario y educativo, con el fin de fomentar el uso ético, eficiente y estratégico de la IA en el entorno universitario.

El contenido se organiza en distintas categorías temáticas: desde tareas de apoyo a la docencia e investigación, pasando por la creación de contenidos, la búsqueda y análisis de información, hasta la automatización de procesos administrativos. Cada prompt incluye una descripción breve de su finalidad y una sugerencia de redacción para que el usuario pueda adaptarla a sus propias necesidades.

Además, se destacan recomendaciones para formular prompts de manera efectiva, como ser claro, proporcionar contexto y definir el formato de la respuesta esperada. En conjunto, esta herramienta busca empoderar a los profesionales de las bibliotecas universitarias para que aprovechen el potencial de la IA generativa como un aliado en sus funciones clave. La iniciativa se enmarca dentro del compromiso de REBIUN con la innovación responsable en el ámbito académico.