LorcanDempsey.net. «Generative AI and Libraries: 7 Contexts», 12 de noviembre de 2023. Ver completo https://www.lorcandempsey.net/generative-ai-and-libraries-7-contexts/.

Las bibliotecas utilizan la IA en su labor educativa, política y de servicios. En este artículo se analizan siete contextos en los que se lleva a cabo esta labor.

A medida que la IA se generaliza, los bibliotecarios tienen que tomar cada vez más decisiones cotidianas sobre adopción, asesoramiento y políticas. Sus comunidades de interesados se encontrarán en diversos estados de entusiasmo o resistencia, interés o apatía, conocimiento o aprendizaje. Cuando los responsables de las bibliotecas intenten posicionarlas como fuente de asesoramiento y experiencia, cuando tomen decisiones sobre adquisiciones, cuando planifiquen el futuro y cuando se comuniquen y trabajen con sus colegas, habrá que entender y sopesar lo constructivo y lo problemático.

Se está invirtiendo mucho y se está extendiendo por los campos de la ciencia y la ingeniería, la sanidad, el derecho y las aplicaciones empresariales en general. Al mismo tiempo, las herramientas y técnicas de IA se están generalizando en los ciclos de investigación y aprendizaje, acompañadas de mucho debate y cautela. Aunque gran parte de este desarrollo se considera productivo, también hay intensos debates y una apreciación más clara de la problemática

El trabajo bibliotecario y los trabajadores

Debate y el despliegue de la IA, la conversación en las bibliotecas se está orientando hacia un compromiso cualificado y una cautela informada. Sin embargo, esto no significa dejar de lado las consecuencias humanas muy reales en términos de incertidumbre sobre el futuro, posibles cambios en los requisitos del trabajo, la necesidad de aprender nuevas habilidades o de hacer frente a las nuevas demandas.

A todos nos interesa estar informados. Sin embargo, es casi imposible estar al tanto de todo lo que ocurre, y mucho menos comprender las implicaciones. Muchas bibliotecas han creado grupos de trabajo u otros mecanismos para seguir la evolución, hacer recomendaciones sobre la adopción, etcétera.

Asesoramiento y experiencia: las nuevas competencias de investigación

Dado que la biblioteca se posiciona como fuente de asesoramiento y conocimientos especializados sobre el uso de herramientas de IA en tareas relacionadas con la información y los datos, es importante desarrollar la comprensión de cómo funcionan los LLM y las herramientas asociadas, de qué herramientas se dispone, para qué sirven y cuáles son sus límites.

Cliente/consumidor informado

La biblioteca interactuará con muchos proveedores que pretenden tener funciones de IA, éstas variarán enormemente en función del proveedor, el grado de desarrollo y la aplicación. Las bibliotecas tendrán que informarse sobre las afirmaciones relativas a la IA, la funcionalidad y la singularidad, al igual que en otros ámbitos de la contratación. ¿El componente de IA es una capa fina sobre una API ChatGPT o hay algo más? ¿Cómo se utiliza la generación aumentada de recuperación (una técnica para conectar el LLM a recursos de datos externos, que probablemente se utilice mucho en contextos bibliotecarios, culturales y académicos)? Y así sucesivamente. Es posible que algunas bibliotecas también deseen adoptar una postura por motivos éticos, por ejemplo, en lo que se refiere a qué LLM se utilizan, lo que a su vez puede informar las decisiones de concesión de licencias o la defensa ante los proveedores. Las listas de control, como la mencionada anteriormente, serán de gran utilidad.

Defensa y política

Las posturas y decisiones políticas son importantes en todos los niveles, ya sea en términos de política nacional o de toma de decisiones institucionales a nivel universitario o municipal. Las bibliotecas pueden desempeñar un papel importante en la elaboración de políticas institucionales sobre la IA, aportando al debate aspectos éticos, de uso y de política de la información. Este reciente artículo analiza las posibles funciones y contribuciones de las bibliotecas a la formulación de políticas institucionales.

Principios

Varias organizaciones están elaborando principios o directrices de IA para ayudar a dirigir su enfoque responsable de la IA. Por ejemplo, estos son los principios adoptados por Elsevier. De hecho, Gartner aconseja a todas las organizaciones que desarrollen lo que denomina principios «faro» en este ámbito. Al revisar las políticas nacionales sobre IA, el decano de bibliotecas Leo Lo hace algunas recomendaciones para que las bibliotecas individuales respondan. Entre ellas, la creación de un comité de ética de la IA y el desarrollo de buenas prácticas para su uso. Tiene sentido que las bibliotecas analicen algunas de estas cuestiones y establezcan algunos marcos éticos y políticos explícitos, así como un mecanismo para revisarlos. Por supuesto, también es importante que las asociaciones se ocupen de este tema y proporcionen plantillas u orientaciones a las bibliotecas que realicen este trabajo. Sobre todo, teniendo en cuenta la variedad de capacidades disponibles en cada biblioteca. Me interesó ver este trabajo de la Asociación Mundial de Editores de Noticias como ejemplo. Abarca «la propiedad intelectual, la transparencia, la responsabilidad, la calidad y la integridad, la equidad, la seguridad, el diseño y el desarrollo sostenible».

Derechos de autor y creadores.

Ya se ha mencionado el asesoramiento a los creadores. En términos más generales, la biblioteca, y las asociaciones que agrupan la voz y la influencia de las bibliotecas, tienen un papel que desempeñar en la defensa de los intereses de sus miembros, equilibrando sus intereses como creadores con sus intereses como investigadores.

Validez y capacidad de investigación.

Como también se ha señalado anteriormente, hay una serie de cuestiones relacionadas con este tema que pertenecen a la nueva categoría de capacidades de investigación. Y aquí también hay herramientas específicas, aunque entendemos que faltan mecanismos de detección existentes, y todavía no están en juego las marcas de agua y otros enfoques. Será un espacio complejo durante un tiempo y aún no sabemos en qué se asentará.

El registro cultural.

Esta amplia tendencia plantea cuestiones fundamentales a quienes trabajan en los ámbitos académico y cultural, donde la transparencia, la equidad y el respeto por la particularidad y la expresión culturales son importantes. Las bibliotecas nacionales se enfrentan a interesantes cuestiones sobre qué recopilar, al igual que los archivos institucionales. En términos más generales, la erosión de la confianza social en la comunicación, la autoría y la creación complica la labor de bibliotecas y archivos, encargados como están de conservar conocimientos, pruebas y recuerdos validados. Este debate no ha hecho más que empezar.

Conclusión

Así pues, la IA se está generalizando, de forma desigual, y es a la vez productiva y problemática. Se está introduciendo en productos y servicios de diferentes maneras. Los usuarios de las bibliotecas se están familiarizando con las herramientas y técnicas de la IA, también de forma muy desigual.

Esto significa que el debate bibliotecario se dirige necesariamente hacia formas de compromiso, con cautela, a medida que surgen preguntas en términos de apoyo y concienciación de los usuarios, adquisición, preparación del personal y planificación a medio plazo.

Team, PressReader. «Practical, Responsible and Human-Centered: The Future of AI in Libraries». Accedido 7 de noviembre de 2023. https://blog.pressreader.com/libraries-institutions/practical-responsible-and-human-centered-the-future-of-ai-in-libraries.

Las bibliotecas pueden incorporar tecnologías de IA para mejorar sus servicios. Estas tecnologías emergentes, como la inteligencia artificial, el aprendizaje automático y el procesamiento del lenguaje natural, se volverán aún más ubicuas y se integrarán en nuestra vida diaria, por lo que los sistemas de bibliotecas públicas y bibliotecas universitarias deben prepararse para esta nueva realidad.

En un entorno de biblioteca, la IA puede ser útil para respaldar la investigación académica, optimizar el desarrollo de colecciones y facilitar la toma de decisiones basada en datos, entre otras aplicaciones.

En un informe Urban Libraries Council señaló que busca posicionar la biblioteca como un recurso para la aplicación práctica y responsable de la IA generativa. Gran parte del discurso actual sobre la inteligencia artificial gira en torno a los peligros de su uso irresponsable, los posibles riesgos de seguridad de datos planteados por el uso de ChatGPT y las formas en que la IA puede contribuir a la propagación de la desinformación en línea.

A continuación, se ofrece un breve repaso de algunas de las posibles aplicaciones de la inteligencia artificial, especialmente la automatización basada en IA, en el entorno de la biblioteca:

• Desarrollo de colecciones: Las bibliotecas pueden automatizar el proceso de agregar libros, recursos digitales y otros materiales al catálogo de la biblioteca. Esto incluye la importación de metadatos, la generación de números de clasificación y la actualización de registros.
• Gestión de reservas y solicitudes: El proceso de realizar y gestionar reservas de libros y otros materiales puede ser automatizado. Los usuarios pueden reservar artículos en línea, y el sistema les notificará cuando los artículos estén disponibles.
• Solicitudes de préstamo entre bibliotecas: Las bibliotecas pueden utilizar un sistema automatizado para solicitar y recibir materiales de otras bibliotecas. Esto puede agilizar el proceso de préstamo de elementos que no están disponibles en la colección de la biblioteca.
• Gestión de cuentas de usuario: Los usuarios pueden gestionar sus propias cuentas de biblioteca en línea, incluyendo la actualización de la información de contacto, el cambio de contraseñas y la renovación de materiales.
• Análisis de datos y recomendaciones de visitantes: La automatización en las bibliotecas puede recopilar y analizar datos de los usuarios para comprender mejor los patrones de uso y las preferencias, lo que puede informar el desarrollo de colecciones y la planificación de programas, optimizando la gestión de recursos. Los sistemas de recomendación automatizados también pueden sugerir libros y materiales relevantes a los usuarios según sus preferencias y su historial de préstamos.

Los bibliotecarios se enfrentan al desafío De hecho, la mayoría de las bibliotecas han utilizado aplicaciones de IA durante años. Como señala la Asociación de Bibliotecas Universitarias e Investigación (ACRL) en la introducción a su reciente publicación «The Rise of AI«:

«Los bibliotecarios están en una posición única para enfrentar el desafío que la IA presenta en su campo. Las bibliotecas y otras instituciones similares han existido durante milenios; evolucionan con la sociedad, modificando y adaptando sus servicios para satisfacer las necesidades de información de sus comunidades. Las bibliotecas universitarias de hoy en día han ampliado considerablemente sus ofertas digitales, no solo incluyendo libros electrónicos o artículos de revistas, sino también apoyando el descubrimiento y uso de aplicaciones de software. Algunos bibliotecarios universitarios pueden decir que carecen de conocimientos básicos sobre la IA o que no están preparados para hablar sobre el tema, y sin embargo, es probable que hayan estado interactuando con la IA a través de los diferentes tipos de aplicaciones de software que respaldan. Como mínimo, han encontrado y dominado el arte del algoritmo de búsqueda.»

La IA permite a las bibliotecas liderar La ACRL se refiere específicamente a las bibliotecas universitarias, pero Brooks Rainwater, presidente y CEO del Urban Libraries Council, afirma que las bibliotecas públicas también están bien posicionadas para impulsar la innovación.

«A medida que las herramientas de IA generativa se vuelven más accesibles, efectivas y menos costosas, surgen nuevas oportunidades para que las bibliotecas lideren», dice Rainwater. «Si bien existen preocupaciones persistentes que deben abordarse en relación con el uso de la IA para la desinformación, las oportunidades que tenemos frente a nosotros son múltiples. Esto incluye aplicaciones responsables que mejoran la eficiencia, aceleran la comunicación y sirven como una herramienta útil para mostrar y validar los servicios y recursos de la biblioteca.»

¿Por qué la privacidad es una preocupación? Todo se reduce a los datos masivos.

Chris Chiancone, Director de Información de la Ciudad de Carrollton, Texas, señaló en una publicación reciente en LinkedIn que, para funcionar de manera efectiva, los sistemas de IA a menudo dependen de grandes cantidades de datos, datos que pueden incluir información sensible sobre los usuarios. Esto, según Chiancone, plantea preocupaciones válidas sobre la privacidad del usuario y la seguridad de los datos, y las bibliotecas no son inmunes.

«Las bibliotecas tienen la responsabilidad de proteger la información de sus usuarios, y el uso de tecnologías de IA puede complicar esta tarea», escribe. «Por ejemplo, si se utiliza un sistema de IA para recomendar libros a los usuarios de la biblioteca, requeriría acceso a los hábitos de lectura y las preferencias de los usuarios, lo que podría considerarse información sensible.»

Regulación de datos y protección de la privacidad

Las tecnologías de IA están sujetas a las regulaciones existentes de protección de datos y privacidad, que incluyen lo siguiente:

Reglamento General de Protección de Datos (GDPR): Un reglamento integral para las organizaciones que operan dentro de la Unión Europea (UE) y manejan los datos personales de los residentes de la UE. Se centra principalmente en la protección de datos, la privacidad y los derechos de datos personales.

Ley de Privacidad del Consumidor de California (CCPA): Una regulación de privacidad de datos en California que otorga derechos específicos a los consumidores en lo que respecta a su información personal. Requiere que las empresas divulguen sus prácticas de recopilación y compartición de datos, lo que permite a los consumidores optar por no compartir su información personal.

Otras regulaciones regionales: Otros países y regiones también han implementado leyes de protección de datos y privacidad para sistemas de IA como ChatGPT. Por ejemplo, la Ley de Protección de Datos Personales (PDPA) en Singapur y la Lei Geral de Proteção de Dados (LGPD) en Brasil.

Una ley integral de IA Para el momento en que leas estas palabras, es probable que los estados miembros de la UE, el Parlamento Europeo y la Comisión Europea hayan llegado a un acuerdo sobre el texto final de la Ley de IA, promocionada como la primera ley integral de IA del mundo.

La legislación propuesta clasificará las herramientas de IA en función de sus niveles de riesgo, desde mínimo hasta inaceptable. También aborda preocupaciones como la vigilancia biométrica, la desinformación y el uso de lenguaje discriminatorio. Si bien las herramientas de alto riesgo no estarán prohibidas, su uso requerirá una transparencia significativa.

La prioridad del Parlamento para la Ley de IA, que podría convertirse en ley a principios del próximo año, es asegurarse de que los sistemas de IA utilizados en la UE sean «seguros, transparentes, rastreables, no discriminatorios y respetuosos con el medio ambiente. Los sistemas de IA deben ser supervisados por personas, en lugar de por la automatización, para prevenir resultados perjudiciales».

Un enfoque centrado en el ser humano Souvick Ghosh, profesor asistente en la Escuela de Información de la Universidad Estatal de San José, también aboga por un enfoque liderado por las personas en la implementación de la inteligencia artificial en bibliotecas y otras instituciones.

«Las bibliotecas necesitan evolucionar y abrazar la revolución de la IA para que la IA y los sistemas de conversación sean más accesibles y centrados en el ser humano», escribió Ghosh en 2021. «Los chatbots ya se utilizan en varios sitios web para responder preguntas de los usuarios, ofrecer consejos direccionales y guiar a los usuarios hacia recursos relevantes. La implementación de sistemas de conversación en bibliotecas y museos ayudará a los usuarios con sus consultas y aumentará la accesibilidad.»

Asegurar un beneficio para la comunidad ¿Qué prácticas recomendables pueden seguir los profesionales de la información al decidir cómo incorporar estas tecnologías emergentes en las operaciones de la biblioteca? El informe de liderazgo del Urban Libraries Council que mencionamos anteriormente incluye las siguientes cinco sugerencias:

• Pasar de informar a poner en práctica, como aprovechar las herramientas de IA para mejorar el rendimiento en las sucursales y el diseño de programas.
• Aprovechar las habilidades de ingeniería de la sugerencia de profesionales de bibliotecas que ya están capacitados para encontrar cuerpos de información utilizando palabras clave o frases.
• Fomentar la alfabetización en información del personal y los usuarios a través del uso práctico de la IA, como talleres en los que los participantes aprenden a generar cuentos cortos y poesía con IA.
• Crear una red de inclusión digital centrada en la IA para garantizar un acceso equitativo a los beneficios económicos de las nuevas tecnologías impulsadas por la IA.
• Abogar por el uso responsable de la IA para asegurarse de que estos avances beneficien a la comunidad en general y que se preserven los estándares fundamentales de educación, innovación y acceso a la información.

Los profesionales de la biblioteca tomarán las riendas La inteligencia artificial y el aprendizaje automático seguirán avanzando, pero los bibliotecarios son tan importantes como siempre, incluso si su papel está evolucionando junto con las herramientas de alta tecnología.

En el sitio web de American Journal Experts, Charla Viera resumió acertadamente esta evolución continua:

«Así como los profesionales de las bibliotecas tomaron las riendas en el desarrollo de los motores de búsqueda y las estrategias necesarias para maniobrar a través de sistemas de catalogación intrincados, también participarán en el diseño de herramientas de descubrimiento de conocimiento impulsadas por la inteligencia artificial. Luego, tomarán la iniciativa para educar al público sobre cómo localizar e interactuar con estas herramientas de IA.»

El futurista Ray Kurzweil alguna vez describió al bibliotecario como «el líder natural de la era de la información que se está desarrollando». En marzo de 1993 (hace más de 30 años), Kurzweil escribió una columna para Library Journal llamada «La Biblioteca Cambiante». En ella, habló sobre cómo podría ser la biblioteca del futuro.

«Por qué siempre necesitaremos bibliotecarios», escribió Kurzweil. «Con libros en forma virtual, transmitidos fácilmente a través del éter de las comunicaciones, la biblioteca virtual emergente no necesitará estar alojada en un edificio», escribió Kurzweil. «Las computadoras seguirán facilitando la eficiencia de la gestión, pero esta función dirigida por humanos no desaparecerá.

«Las dos últimas categorías de servicio de la biblioteca: encontrar conocimiento y pedagogía, se convertirán en el enfoque principal del bibliotecario. Aunque las computadoras competirán en estos roles, hasta que las computadoras sean capaces de igualar nuestra inteligencia, el papel de los humanos en el proceso de gestionar e impartir conocimiento seguirá siendo fundamental».