Los riesgos de usar modelos de lenguaje (LLM) para la redacción académica, especialmente al generar referencias científicas

Li, Ning, Jingran Zhang, y Justin Cui. 2025. «ArXivBench: When You Should Avoid Using ChatGPT for Academic Writing.» arXiv, abril 22. https://arxiv.org/abs/2504.10496v2.

Los autores advierten que, aunque los LLM muestran gran capacidad de razonamiento y respuesta, presentan un problema crítico: con frecuencia producen enlaces de arXiv incorrectos o referencias a artículos inexistentes. Esto no solo afecta la precisión, sino que compromete la atribución correcta de los trabajos a sus verdaderos autores, lo que supone un riesgo importante en entornos académicos.

Para evaluar este fenómeno, desarrollan ArXivBench, un banco de pruebas que mide el rendimiento de modelos (tanto propietarios como de código abierto) en la generación de artículos relevantes con enlaces correctos a arXiv. La evaluación abarca ocho grandes áreas temáticas y cinco subcampos de informática, siendo la inteligencia artificial el más popular.

arXivBench, el primer banco de pruebas para evaluar la precisión de los modelos de lenguaje grande (LLM) en la generación de artículos de investigación relevantes con enlaces precisos a arXiv. La evaluación de 15 modelos revela una variabilidad significativa en el rendimiento según las materias, destacando Claude-3.5 Sonnet por sus sólidos resultados en diversos dominios. Identificamos limitaciones críticas para el uso académico: la generación de artículos inexistentes y enlaces incorrectos a arXiv que impiden la atribución adecuada de las contribuciones de investigación a los autores reales.

En conclusión, el estudio pone en evidencia que, pese a los avances significativos, los modelos de lenguaje como ChatGPT no son todavía totalmente confiables para la generación automática de contenidos académicos, especialmente cuando se requiere una alta precisión en citas y referencias. La implementación de arXivBench representa un paso importante para medir y mejorar esta precisión, y los autores animan a la comunidad científica a seguir desarrollando y utilizando estas herramientas de evaluación. De esta manera, se podrá asegurar que el uso de LLMs en el ámbito académico no comprometa la integridad y calidad de la investigación.

Google Académico podría desaparecer en menos de 5 años

Shelley, Hannah. 2025. “Google Scholar Is Doomed.” Hannah’s Web log (blog), 13 de agosto, 2025. https://hannahshelley.neocities.org/blog/2025_08_13_GoogleScholar

Google Scholar, una herramienta clave en el ámbito académico, podría estar en riesgo de desaparecer, al igual que otros productos de Google que desaparido, como Google Reader o Google+

¿Alguna vez has recorrido el cementerio de Google? Es un lugar sobrecogedor. Fila tras fila de lápidas digitales marcan productos de los que millones de personas dependieron a diario. Google Reader (2005–2013), adorado por internautas de todo el mundo como el mejor servicio de suscripción de feeds RSS/Atom. Google Notebook (2006–2011), la primera herramienta de organización para la investigación. Al momento de esta publicación, 297 productos descansan en este cementerio, cada uno representando un flujo de trabajo esencial que, simplemente… dejó de funcionar de un día para otro.

Google ha demostrado que no tiene reparos en eliminar productos con una base de usuarios fiel, si estos no encajan con su dirección estratégica. Google Reader tenía millones de usuarios activos cuando lo cerraron. Hubo incluso una petición en change.org con 100.000 firmas protestando contra su cancelación.

Google Play Music (2011–2020) fue un reproductor y almacén musical que yo misma usé hasta su último día. Poco después le siguió la aplicación Google Podcasts (2018–2024). Los usuarios de ambas fueron forzados a migrar a YouTube Music, una aplicación con una experiencia totalmente distinta. (Aunque encontré alternativas de código abierto, así que no te preocupes por mí).

Google también probó suerte con redes sociales y apps de mensajería como Google Talk (2005–2013), Google+ (2011–2019) y Google Hangouts (2013–2022). No lograron imponerse frente al gigante Facebook, pero sin duda interrumpieron valiosas conexiones sociales entre usuarios que las utilizaban.

La academia depende de Google Scholar para gran parte de sus actividades. Más allá de la búsqueda de documentos, son los perfiles de autor y las métricas bibliométricas lo que mantiene atados a los académicos. Hemos construido infraestructuras enteras alrededor de este servicio gratuito. Universidades usan sus métricas para evaluar a su profesorado, decidir tenencias y otorgar subvenciones. Los programas de formación bibliotecaria lo enseñan. Los comités de promoción lo consultan. Los repositorios internacionales se integran con él. Lo tratamos como si fuera eterno, pero una visita al cementerio de Google debería hacernos reflexionar.

Google Scholar genera exactamente cero ingresos. No cobra, no ofrece planes premium ni muestra publicidad. Atiende a un público pequeño y especializado que no alimenta el negocio central de Google. En términos corporativos, es un “centro de costes”.

Google obtiene la mayor parte de sus ingresos de la publicidad en su buscador principal. Pero ese buscador está en declive. La empresa que prometió “organizar la información del mundo y hacerla universalmente accesible y útil” hoy entrega lo que expertos en SEO llaman “los peores resultados en 14 años”.

Los AI Overviews de Google están inundados de spam: estafadores manipulan fácilmente el sistema con rankings falsos de “los mejores” y contenido autopromocional que termina citado en resúmenes generados por IA. La cuota de mercado global de Google en búsquedas cayó por debajo del 90 % durante tres meses consecutivos a fines de 2024 (89,34 % en octubre, 89,99 % en noviembre, 89,73 % en diciembre), la primera caída sostenida bajo ese umbral desde 2015, mientras tendencias anecdóticas sugieren que cada vez más usuarios recurren a Reddit, ChatGPT e incluso TikTok como buscadores.

Si Google no puede mantener la calidad en su producto estrella —el que genera 175.000 millones de dólares anuales—, eso sugiere que está:

  • perdiendo su ventaja en búsqueda,
  • priorizando la IA sobre la calidad del buscador tradicional,
  • o ambas.

En cualquier caso, son malas noticias para Scholar. El declive del buscador expone la vulnerabilidad de este servicio.

Mientras los usuarios de Google Scholar siguen elaborando consultas booleanas como en 1995, todos sabemos que los estudiantes hoy recurren a la IA para tareas de investigación. Y algunas de estas herramientas ofrecen funciones impresionantes: buscan, sintetizan hallazgos, sugieren artículos relacionados y explican conceptos complejos. Su precisión y calidad pueden discutirse, pero si eres estudiante con una mentalidad de “aprobar es suficiente” y una entrega a medianoche, ¿por qué lidiar con la interfaz anticuada de Scholar cuando una IA puede ofrecerte artículos y un resumen curado?

Google ve claramente esta tendencia y sabe que Scholar se está volviendo infraestructura redundante. Scholar fue estratégico cuando evitaba que competidores dominaran la búsqueda académica, pero esos días, probablemente, ya pasaron.

La transformación estratégica de Google en una compañía AI-first choca frontalmente con mantener servicios académicos de nicho como Scholar. La empresa ha unificado todos sus esfuerzos en torno a Gemini, con el CEO Sundar Pichai afirmando que están “repensando todos los productos para un futuro impulsado por la IA”.

Un buen ejemplo: Microsoft Academic fue un buscador académico que alguna vez se presentó como alternativa a Scholar. A diferencia de este, abrió su base de datos de autores, instituciones, palabras clave y revistas como datos abiertos. Eso lo convirtió en un recurso muy valioso que apoyaba herramientas como VOSviewer, Unsub, Litmaps y Semantic Scholar. Aun así, Microsoft lo cerró en 2021.

La reacción académica mostró una falta de preparación sistémica. Pese a ser el segundo motor de búsqueda académica más grande, no existían planes de respaldo adecuados. OpenAlex y The Lens surgieron como reemplazos, pero expertos advirtieron que tardarían años en igualar la calidad y cobertura del servicio discontinuado. La interrupción afectó a empresas y herramientas académicas en todo el mundo. La lección: incluso infraestructuras académicas exitosas y ampliamente usadas pueden desaparecer si dejan de ser estratégicas para las compañías.

Si Scholar está tan condenado, ¿por qué ha sobrevivido tanto tiempo? Porque hay razones reales para mantenerlo, al menos de momento.

Aunque no genera beneficios directos, Scholar aporta valor a Google. Las instituciones académicas obligan de facto a los investigadores a usarlo, al hacer visibles sus métricas de citas y perfiles para ascensos y financiación. Pero esa participación requiere que los académicos creen cuentas de Google y acepten sus políticas de recopilación y procesamiento de datos. Así, Scholar encaja en el modelo de negocio de Google basado en vigilancia, información y publicidad conductual.

Google disfruta de un enorme poder en la comunidad académica, y Scholar ejerce un papel de gatekeeper, habiendo “convertido su sistema de conteo de citas en una herramienta que coordina la economía académica”.

Scholar es un ejemplo exitoso de capitalismo de plataforma aplicado a la infraestructura académica: aporta valor a los investigadores mientras refuerza los intereses estratégicos de Google mediante datos, marca y control del ecosistema. Esta es la razón de su supervivencia.

En 2024, Google celebró el 20 aniversario de Scholar con simpáticas entradas de blog y algunas funciones menores de IA. Pero ¿qué no proporcionó? Compromisos concretos de financiación, prioridad estratégica o sostenibilidad a largo plazo.

Así que aquí estamos: Google tiene un historial probado de cerrar herramientas académicas, Scholar no genera ingresos en una empresa obsesionada con prioridades multimillonarias, la IA está revolucionando la búsqueda de información, y la academia ha construido infraestructura crítica alrededor de un servicio gratuito y comercial que no ofrece garantías.

Según opinión de la autora Scholar desaparecerá en menos de cinco años. Google lo anunciará con doce meses de preaviso, habrá un colapso colectivo en Bluesky, las universidades se apresurarán a buscar alternativas y los flujos de trabajo de investigación estarán en caos durante años.

No digas que no lo advertí. Cuando Scholar se una a Google Reader en el cementerio digital, recuerda este momento.

¿Está la IA generativa transformando las prácticas académicas a nivel mundial?

Mohammadi, Ehsan, Mike Thelwall, Yizhou Cai, Taylor Collier, Iman Tahamtan, and Azar Eftekhar. 2025. “Is Generative AI Reshaping Academic Practices Worldwide? A Survey of Adoption, Benefits, and Concerns.” Information Processing & Management. https://doi.org/10.1016/j.ipm.2025.104350.

Descarga infografía

Se analiza el impacto de la IA generativa (Gen AI) en la investigación y la enseñanza a través de una encuesta en 20 países dirigida a académicos con publicaciones.

La inteligencia artificial generativa (Gen AI) está transformando la investigación y la enseñanza universitaria a nivel global. Para ello, se llevó a cabo una encuesta en 20 países, dirigida a académicos con publicaciones en revistas indexadas, con el objetivo de identificar niveles de adopción, beneficios percibidos y preocupaciones.

Los resultados muestran una alta conciencia y uso de estas herramientas: un 73 % de los participantes declaró estar muy familiarizado con ellas y más de la mitad indicó utilizarlas al menos una vez al mes. No obstante, se observaron diferencias significativas según el rol académico, la disciplina, el género y el país de origen. Los doctorandos y jóvenes investigadores son los usuarios más frecuentes, mientras que los profesores con mayor antigüedad hacen un uso más limitado. A nivel disciplinar, las ciencias sociales y las humanidades presentan mayor adopción que la medicina o las ciencias puras. En cuanto a la distribución geográfica, países de Asia y Oriente Medio (como Taiwán, Corea del Sur, India o Irán) presentan tasas de uso superiores a las de Estados Unidos, Reino Unido o Rusia, lo que se explica en parte por la necesidad de traducción al inglés para la publicación académica.

En el ámbito de la investigación, las aplicaciones más comunes son la traducción de textos, la corrección y edición de borradores, la redacción preliminar de textos académicos y el apoyo en revisiones bibliográficas. En cambio, el uso para análisis de datos sigue siendo minoritario. En la docencia, las herramientas de IA generativa se emplean sobre todo para crear materiales y contenidos educativos (30 %), apoyar el aprendizaje y la enseñanza de conceptos (22 %), y diseñar tareas o ejercicios (16 %). También se utilizan, aunque en menor medida, para elaborar programas de asignaturas y dar retroalimentación a estudiantes.

Los beneficios más señalados por los encuestados incluyen la posibilidad de ofrecer tutoría personalizada, mejorar la resolución de problemas y potenciar el aprendizaje de los estudiantes. Sin embargo, las opiniones se dividen respecto a la capacidad de la IA para fomentar la creatividad o generar contenidos consistentes y fiables. Solo una quinta parte de los académicos confía plenamente en la precisión de los textos generados por IA.

Las preocupaciones son generalizadas y constituyen una parte central del estudio. Entre las más destacadas figuran la información inexacta o “alucinaciones” (67,8 %), el plagio (65 %), la reducción de las habilidades de pensamiento crítico (61,7 %), la falta de transparencia y explicabilidad de los procesos, los riesgos sobre la propiedad intelectual (52,2 %) y la privacidad de los datos (49 %). Estas inquietudes reflejan una tensión constante entre el aprovechamiento de la tecnología y la preservación de la integridad académica.

El estudio también detecta una brecha de género: las mujeres son un 10 % menos propensas que los hombres a usar IA generativa con frecuencia (uso diario o semanal) en investigación, lo que podría ampliar desigualdades ya existentes en la academia.

En conclusión, los autores sostienen que la IA generativa se ha integrado de manera significativa en la vida académica, aunque de forma desigual entre regiones, disciplinas y grupos sociales. Mientras ofrece beneficios claros en escritura, traducción y apoyo docente, persisten serias dudas sobre su precisión, ética y efectos en la creatividad y el pensamiento crítico. Por ello, recomiendan que las instituciones y responsables políticos fomenten un uso responsable y equitativo de estas herramientas, con especial atención a los grupos y países en riesgo de quedar rezagados en esta transición tecnológica.

Principales resultados:

  • Conciencia y uso: el 73 % de los académicos conoce ampliamente estas herramientas y más de la mitad las usa al menos una vez al mes. La adopción varía según disciplina, género, país y rol académico.
  • Diferencias por rol: los doctorandos y jóvenes investigadores son los principales usuarios, mientras que los profesores titulares y sénior muestran menor frecuencia.
  • Disciplinas y regiones: mayor uso en ciencias sociales y humanidades; más extendido en países de Asia y Oriente Medio que en EE. UU. o Reino Unido, en parte por la necesidad de traducción al inglés.
  • Usos en investigación: principalmente para traducción de textos, corrección, redacción preliminar y revisiones bibliográficas; menos frecuente en análisis de datos.
  • Usos en docencia: creación de contenidos y materiales (30 %), apoyo al aprendizaje y enseñanza de conceptos (22 %), y diseño de tareas (16 %).
  • Beneficios percibidos: tutoría personalizada, apoyo a la resolución de problemas y mejora del aprendizaje.
  • Preocupaciones principales:
    • Información inexacta (67,8 %).
    • Plagio (65 %).
    • Disminución del pensamiento crítico (61,7 %).
    • Falta de transparencia, problemas de propiedad intelectual y riesgos de privacidad de datos.
  • Brecha de género: las mujeres son un 10 % menos propensas a usar IA frecuentemente en investigación, lo que puede agravar desigualdades.

¿Qué hace que una biblioteca sea vibrante en un sistema universitario?

WizLibrarian. “The Soul of the Library, From Chaos to Clarity: What Makes a Vibrant Library in a University System?” Blogspot, 17 de julio de 2025. https://wizlibrarian.blogspot.com/2025/07/the-soul-of-library-from-chaos-to.html

Una biblioteca vibrante en el contexto universitario no se define únicamente por el número de volúmenes que alberga o por la sofisticación de sus infraestructuras tecnológicas. Su vitalidad se manifiesta, ante todo, en su capacidad de responder a las necesidades académicas, investigadoras y humanas de la comunidad que sirve.

La esencia de la biblioteca, como señala WizLibrarian, está en ser una institución centrada en las personas, un organismo vivo que acompaña la evolución de la civilización y que requiere reglas claras para evitar el caos en su funcionamiento cotidiano.

  1. Biblioteca como institución orientada a las personas

El artículo enfatiza que una biblioteca es una institución centrada en las personas y que evoluciona a la par con la civilización. Para evitar el caos y funcionar correctamente, necesita políticas claras y actualizadas.

2. Importancia de documentar las políticas

Uno de los pilares de esa vitalidad es la existencia de políticas bibliotecarias bien definidas. No se trata de documentos meramente administrativos, sino de guías prácticas que orientan cada acción de la institución. En muchas bibliotecas del Sur Global, estas políticas existen solo de manera oral, lo cual las vuelve frágiles y pasajeras. Al registrarlas por escrito, aunque sean breves y redactadas por un pequeño comité, la biblioteca gana en estabilidad y proyección. Además, al ser revisadas y actualizadas periódicamente, permiten que la institución se adapte a un entorno cambiante sin perder coherencia en su misión.

3. Adaptabilidad institucional

La adaptabilidad es otro rasgo clave. Una biblioteca no necesita ser enorme ni disponer de recursos ilimitados para ser vibrante; lo esencial es contar con políticas que reflejen su identidad, sus prioridades y su contexto particular. Las necesidades de una biblioteca universitaria en un entorno urbano con gran producción científica no son las mismas que las de una institución en una región rural con limitaciones presupuestarias. En ambos casos, sin embargo, el contar con normas escritas —ya sea sobre adquisición de materiales, acceso a la información digital o ética profesional— marca la diferencia entre el orden y la confusión.

4. Políticas esenciales para bibliotecas modernas

Entre las políticas que definen a una biblioteca progresista se encuentran la de desarrollo y gestión de colecciones, la de repositorio institucional y acceso abierto, la de uso de recursos electrónicos, la de servicios de referencia, la de ética y plagio, y, más recientemente, la de inteligencia artificial. Cada una de ellas, aunque pueda solaparse con otras, cumple una función esencial. La política de desarrollo de colecciones, por ejemplo, no solo establece los criterios de compra, donación o descarte de materiales, sino que también asegura que las adquisiciones estén alineadas con los objetivos de la universidad y con las demandas reales de docentes, investigadores y estudiantes. Este nivel de planificación otorga coherencia y sentido al crecimiento de la colección, evitando tanto la acumulación caótica como la carencia de recursos estratégicos.

El artículo señala varias políticas que toda biblioteca moderna y progresista debería considerar:

  • Desarrollo o adquisición de colecciones (incluyendo suscripciones, donaciones, y descarte)
  • Catalogación
  • Repositorio institucional
  • Acceso abierto
  • Recursos electrónicos
  • Investigación
  • Plagio
  • Ética bibliotecaria
  • Normas de uso
  • Servicios de referencia
  • Políticas sobre inteligencia artificial

Finalmente, una biblioteca universitaria vibrante es aquella que logra un equilibrio entre tradición y modernidad. Mantiene sus funciones históricas como garante de memoria y preservación documental, pero a la vez innova en servicios digitales, acceso remoto y nuevas metodologías de enseñanza-aprendizaje. Es, en palabras del artículo, el paso “del caos a la claridad”: un espacio en el que la comunidad universitaria encuentra organización, apoyo y acompañamiento intelectual, guiado por políticas sólidas que dotan de coherencia a cada decisión.

Apertura de la IA: una guía para los responsables de políticas

OCDE (Organisation for Economic Co-operation and Development). 2025. AI Openness: A Primer for Policymakers. OECD Artificial Intelligence Papers, no. 44. París: OECD Publishing. https://doi.org/10.1787/02f73362-en

El informe aborda el concepto de apertura en la inteligencia artificial (IA), detallando la terminología clave y los diferentes grados de apertura existenciales

Señala que la expresión “código abierto”, asociada tradicionalmente al software, no captura plenamente las complejidades propias del ámbito de la IA. Además, el documento analiza tendencias actuales en modelos fundacionales de IA cuyos pesos están disponibles abiertamente, utilizando datos experimentales para ilustrar tanto sus beneficios (como impulsar la innovación) como los riesgos que conllevan

Se introduce la noción de marginalidad para enriquecer el análisis y considerar contextos o aplicaciones menos dominantes que permiten matizar el debate sobre apertura y gobernanza

El propósito esencial del informe es brindar a los responsables de formular políticas una herramienta clara y concisa para equilibrar la apertura de los modelos generativos de IA con una gobernanza responsable, fomentando debates informados en torno al diseño e implementación de marcos regulatorios adecuados

La biblioteca en llamas de Eduardo Halfon

Me contó que había visto en Łódź una hoguera de libros.

Llovía una tarde, y bebíamos whisky con mi abuelo polaco. Me dijo que, una noche, en Łódź, en el 39, había visto a un grupo de soldados alemanes quemando libros.

No recuerdo a mi abuelo jamás leyendo un libro. Creo que no tenía ninguno, salvo un siddur, claro, el libro de rezos judíos. Acaso no le importaban los libros.

Pero aquella tarde lluviosa, bebiendo whisky y escuchando su relato sobre los soldados alemanes que quemaban libros en una calle oscura de Łódź, él estaba conmovido, o al menos parecía estarlo.

Quizás por el whisky. O quizás por la imagen tenebrosa y encendida de las llamas en la noche polaca. O tal vez porque entendía que aquellos soldados alemanes estaban quemando mucho más que una biblioteca.

Halfon, Eduardo. Biblioteca bizarra. Editado por Andrea Naranjo. Ecuador: USFO especificada], 2021. ISBN 978-9978-68-193-0

Un 65 % de los encuestados reconoce el nombre de ChatGPT, pero solo un 37 % afirma haberlo usado

Northeastern University. “Half of U.S. Adults Now Use AI — but Views on How to Regulate the Technology Vary Widely by State, New Research Shows.” Northeastern Global News, August 12, 2025. https://news.northeastern.edu/2025/08/12/generative-ai-chatgpt-northeastern-survey/.

Un estudio reciente de la Northeastern University revela que la mitad de los adultos en Estados Unidos ya utiliza herramientas de inteligencia artificial generativa, aunque con diferencias notables en términos de frecuencia, demografía y contexto geográfico.

Según los datos, un 65 % de los encuestados reconoce el nombre de ChatGPT, pero solo un 37 % afirma haberlo usado. Otras plataformas como Gemini (26 %) o Microsoft Copilot (18 %) también se mencionan, aunque con un alcance significativamente menor.

La investigación subraya que el uso de la IA está marcado por la edad, el nivel educativo y los ingresos: los adultos jóvenes, con estudios universitarios y rentas más altas, son quienes más la adoptan, mientras que los adultos mayores y habitantes de áreas rurales muestran un uso mucho más limitado. Esta brecha refleja una desigual incorporación de la tecnología en función de las oportunidades y el acceso digital.

Otro hallazgo relevante es que las percepciones sobre la regulación de la IA varían ampliamente según el estado y no responden a la tradicional división política entre “rojos” y “azules”. En Missouri y Washington predomina la preocupación por la ausencia de regulación, mientras que en Nueva York y Tennessee el temor principal es un exceso de intervención gubernamental. Estos contrastes sugieren que los estados pueden convertirse en laboratorios de políticas públicas en torno a la IA, con marcos regulatorios adaptados a realidades locales.

En cuanto al impacto laboral, la mayoría de los participantes prevé que la IA afectará a sus empleos en los próximos cinco años, especialmente en regiones con fuerte presencia tecnológica, como California, Massachusetts, Texas o Georgia. En cambio, en el Midwest industrial y en áreas rurales, la percepción de riesgo inmediato es menor, lo que indica diferencias en la expectativa de transformación económica según el territorio.

Este trabajo forma parte del proyecto Civic Health and Institutions Project (CHIP50), una colaboración entre varias universidades que busca comprender cómo la ciudadanía estadounidense interactúa con la IA y qué espera de sus instituciones en relación con esta tecnología. Los investigadores destacan que se trata del primer estudio que ofrece un panorama comparativo a nivel estatal sobre uso, regulación y percepciones hacia la inteligencia artificial.

La manipulación de chatbots puede multiplicar por 12 la exposición de información privada

Zhan, Xiao; Carrillo, Juan-Carlos; Seymour, William; y Such, José. 2025. “Malicious LLM-Based Conversational AI Makes Users Reveal Personal Information.” En Proceedings of the 34th USENIX Security Symposium, USENIX Association.

Texto completo

Un estudio reciente de King’s College London ha puesto de relieve la vulnerabilidad de los chatbots de inteligencia artificial (IA) con apariencia conversacional humana, utilizados por millones de personas en su vida diaria. La investigación demuestra que estos sistemas pueden ser manipulados con relativa facilidad para conseguir que los usuarios revelen mucha más información personal de la que compartirían en un contexto habitual.

Los resultados son especialmente llamativos: cuando los chatbots son diseñados o modificados con intenciones maliciosas, los usuarios llegan a proporcionar hasta 12,5 veces más datos privados que en interacciones normales. Este incremento se logra mediante la combinación de técnicas de ingeniería de prompts —instrucciones específicas que orientan el comportamiento del modelo— y estrategias psicológicas bien conocidas, como la creación de confianza, la apelación emocional o el uso de preguntas aparentemente inocentes que llevan a respuestas más profundas de lo esperado.

El estudio recalca además que no es necesario poseer una alta especialización técnica para lograr esta manipulación. Dado que muchas compañías permiten el acceso a los modelos base que sustentan a sus chatbots, cualquier persona con conocimientos mínimos puede ajustar parámetros y configuraciones para orientar la conversación hacia la obtención de datos sensibles, lo que multiplica el riesgo de un uso indebido.

Las implicaciones son serias. El trabajo de King’s College London alerta sobre la fragilidad de la privacidad en entornos digitales donde la interacción con chatbots se percibe como inofensiva y rutinaria. En contextos como la atención al cliente, el asesoramiento médico o financiero, o incluso el acompañamiento emocional, la posibilidad de que un chatbot manipulado extraiga información confidencial plantea amenazas directas a la seguridad de las personas y a la protección de sus datos.

Ante este escenario, los investigadores subrayan la urgente necesidad de reforzar las medidas de seguridad y protección de datos en los sistemas de IA conversacional. Proponen, entre otras acciones:

  • Desarrollar protocolos de verificación más estrictos sobre el acceso y modificación de modelos base.
  • Implementar mecanismos de detección de manipulación en los propios chatbots.
  • Fomentar la educación digital de los usuarios, para que reconozcan patrones de conversación sospechosos.
  • Establecer regulaciones claras y exigentes que limiten el mal uso de estos sistemas.

En definitiva, el estudio concluye que, aunque los chatbots de IA tienen un enorme potencial para mejorar la interacción humano-máquina, su diseño y despliegue deben ir acompañados de fuertes garantías éticas y técnicas, de lo contrario podrían convertirse en herramientas de explotación de la privacidad a gran escala.

La biblioteca de cabecera de Eduardo Halfon

No hace mucho murió un amigo de Brooklyn, un norteamericano radicado en Guatemala desde los años setenta, llamado Bruno Sanders. Era un viejo bestial, en todo sentido. Vivía al límite. Fumaba sin parar (Salem mentolados), bebía demasiado (Stolichnaya con hielo), tartamudeaba con elocuencia y solo cuando le convenía. Y, claro: devoraba libros.

Su casa de madera, tipo cabaña, estaba en Santa Cruz, un pueblo pintoresco a orillas del lago Atitlán. La primera vez que lo visité, me había invitado a desayunar. Salí muy temprano de la capital, dejé mi coche en Panajachel (la carretera no llega hasta Santa Cruz) y tomé una lancha pública que, tras cruzar medio lago y veinte minutos de viaje, me dejó en el viejo muelle frente a su cabaña.

Recuerdo que preparó café, pan tostado, huevos revueltos con cebolla caramelizada y queso gruyer. Fumamos. Sanders me habló de su infancia en Brooklyn, de su hija y de sus dos pintores favoritos. Degas, dijo, solía comprar sus propios cuadros para seguir trabajándolos. Bonnard, contó, una vez entró con un amigo al Museo de Luxemburgo y le pidió que distrajera al guardia unos minutos, mientras él sacaba crayones y retocaba un lienzo suyo que llevaba años colgado allí.

Luego, sonriendo, me preguntó si quería conocer su biblioteca. Salimos de la cocina.

Aunque inmensa, su biblioteca se parecía a cualquier otra. En un dormitorio, la literatura en lengua germana; en otro, más grande, la de lengua española; en las paredes alrededor del comedor, la francesa; en la sala, mezcladas, la norteamericana, inglesa e irlandesa; a lo largo de un pasillo, la eslava; en otro, más breve, la italiana; y en una estantería del baño de visitas, frente al inodoro, su colección de haikú y bunraku japonés. Todo más o menos normal —aunque, como decía Borges, el orden de una biblioteca es una manera silenciosa de ejercer el arte de la crítica—, hasta que llegamos a su dormitorio.

Detrás de la cama, sobre una especie de mesa larga que también hacía de cabecera, vi una fila de libros idénticos, encuadernados en cuero marrón con finas letras doradas. Pensé que eran tomos de una enciclopedia. Pero al acercarme leí que el primero era de un autor cuyo nombre me resultaba lejanamente familiar: Launcelot Canning. El título también me sonaba: El loco Tryst. Le pedí a Sanders que me dejara verlo (ya estaba casi encima de su cama) y él, con una mirada brillosa que debió advertirme, me dijo que adelante.

En las manos, el libro parecía nuevo, intacto, recién encuadernado. Pero al abrirlo descubrí que el primer centenar de páginas estaba escrito a mano, en una caligrafía negra, perfecta y simétrica. Avancé hasta que, hacia la mitad, la tinta se detenía. El resto de las hojas estaba en blanco, como si fuera un libro abandonado o en proceso. No entendí. Murmuré algo, pero Sanders solo sonrió, incitándome a seguir.

Dejé el libro y tomé el siguiente: El monitor de los bípedos, de Cósimo Piovasco de Rondò. Otra vez el nombre me resultaba familiar. Otra vez, todas las páginas estaban escritas a mano con la misma caligrafía negra. Al final, también a mano, un índice: «El canto del mirlo», «El picamadero que llama», «Los diálogos de los búhos», «La gaceta de las urracas».

Lo miré, buscando una explicación, pero él estaba distraído, mirando hacia el lago, tal vez siguiendo con la vista a un anciano que, a lo lejos, pescaba de pie en un cayuco de madera.

Tomé otro tomo: Caminatas matutinas de un sinólogo, de Peter Kien. Y entonces, como si alguien hubiera encendido un candil, empecé a comprender. Un cuarto libro confirmó mi sospecha: Abril marzo, de Herbert Quain, con sus trece capítulos, nuevamente escritos a mano y en la misma tinta negra.

Herbert Quain es un personaje de Borges, autor, según él, de la «novela regresiva, ramificada» Abril marzo. Peter Kien, protagonista de Auto de fe, de Canetti, escribía un libro que recogía su «colección de estupideces humanas» durante sus caminatas matutinas, y pensaba titularlo Caminatas matutinas de un sinólogo. Cósimo Piovasco de Rondò, más conocido como «el barón rampante» de Italo Calvino, escribió —siempre según Calvino— un libro compuesto en un «período de demencia» vivido entre ramas de árboles, titulado El monitor de los bípedos. Launcelot Canning es personaje de La caída de la casa Usher, de Poe, y, según ese cuento, autor de El loco Tryst.

Si la memoria no me falla, en esa misma fila había otros tomos —empezados, por empezar o tal vez ya concluidos— firmados por Ceferino Piriz, Kilgore Trout, Eusebius Chubb o Clare Quilty.

Bruno Sanders estaba escribiendo los libros inexistentes de autores ficticios. Estaba, en definitiva, construyendo él mismo su biblioteca de cabecera.

Halfon, Eduardo. Biblioteca bizarra. Editado por Andrea Naranjo. Ecuador: USFO especificada], 2021. ISBN 978-9978-68-193-0

La biblioteca felina de Eduardo Halfon

En el prefacio que escribió para el libro A Passion for Books, Ray Bradbury cuenta que los egipcios, al llegar la hora de su muerte, con frecuencia pedían embalsamar a sus gatos favoritos para, durante ese próximo y eterno viaje, poder abrigar un poco sus pies.

Bradbury, entonces, imagina su propio equipaje para la eternidad: pide que, dentro de su ataúd, le coloquen una breve biblioteca para acompañarlo y guiarlo en el viaje. Shakespeare como almohada, Pope bajo un codo, Yeats bajo el otro y Shaw para calentarle los dedos de los pies.

Buena compañía, dice Bradbury, para los viajes largos.

De: Halfon, Eduardo. Biblioteca bizarra. Editado por Andrea Naranjo. Ecuador: USFO especificada], 2021. ISBN 978-9978-68-193-0