Dempsey, Lorcan. «Predicting the Unpredictable.» American Libraries Magazine, 4 de marzo de 2024. https://americanlibrariesmagazine.org/blogs/the-scoop/predicting-the-unpredictable/.

En «Prediciendo lo Impredecible», Lorcan Dempsey aborda el omnipresente impacto de la inteligencia artificial (IA) y su compleja interacción con la toma de decisiones en las bibliotecas. Dempsey destaca que, si bien la IA ofrece oportunidades constructivas, también plantea desafíos significativos en términos de privacidad, reutilización de datos y cuestiones éticas.

En enero, Microsoft anunció el primer cambio en 30 años de su teclado de Windows, añadiendo un nuevo botón para su chatbot de inteligencia artificial (IA), Copilot. No es sorprendente, pero sí sintomático. La IA está en todas partes.

Los académicos Michael Barrett y Wanda Orlikowski señalan en un artículo de marzo de 2021 que las tecnologías desplegadas a gran escala tienen resultados tanto constructivos como problemáticos. A medida que los responsables de la toma de decisiones de las bibliotecas posicionan a la biblioteca como una fuente de asesoramiento y experiencia, a medida que determinan los productos y servicios en los que invertir, y a medida que consideran el bienestar de sus propios colegas, habrá que comprender y sopesar tanto los elementos constructivos como los problemáticos.

Mientras nos sometemos a este proceso, debemos reconocer que el desarrollo es imprevisible. A modo de comparación, pensemos en cómo la invención del teléfono móvil ha cambiado nuestros comportamientos de un modo que no podíamos prever. ¿Quién imaginaba la importancia de algo tan aparentemente sencillo como el selfie y el papel que tendría en los viajes y en el propio bienestar mental?

«Las grandes elecciones que se celebrarán en todo el mundo en 2024 serán las primeras en las que los poderes sintéticos de la IA generativa estén ampliamente disponibles».

Aunque los efectos de la IA pueden parecer mágicos, también es importante recordar que son personas reales las que toman decisiones reales sobre productos y servicios. Existen cuestiones reales sobre la privacidad, la reutilización de datos, la reproducción de materiales protegidos por derechos de autor, etcétera. Se trata de prácticas sobre las que se puede influir, ya sea a través de la compra o de medidas políticas, y las bibliotecas pueden marcarse el rumbo que les gustaría seguir.

A las bibliotecas no les queda más remedio que aceptar esta confusa situación intermedia, trabajando en condiciones de incertidumbre y cambio, defendiendo los intereses tanto de los consumidores como de los creadores.

¿Qué significa esto en la práctica?

La experiencia importa. La experiencia ayuda a comprender. Sin utilizar diferentes servicios de IA, es difícil entender el debate sobre el impacto de los diferentes enfoques de incitación, la generación aumentada por recuperación (que probablemente se desplegará en muchos productos informativos y editoriales), la alucinación (presentar información falsa como si fuera verdadera), etcétera.

Transparencia, concienciación y empatía. Dadas las tensiones acumuladas en los últimos años y la incertidumbre sobre la evolución social y técnica, la empatía, la educación y una transparencia adecuada sobre la planificación y la dirección son ahora aún más críticas en el lugar de trabajo.

Capacidades de investigación. Las grandes elecciones que se celebrarán en todo el mundo en 2024 serán las primeras en las que los poderes sintéticos de la IA generativa estén ampliamente disponibles. La falsificación alcanza nuevos niveles con noticias, imágenes y vídeos sintetizados que circulan libremente. Los casos judiciales sobre derechos de autor y memorización son cada vez más numerosos. Al mismo tiempo, las empresas de IA están haciendo tratos para alimentar con materiales de alta calidad el entrenamiento de sus herramientas. La IA se está integrando cada vez más en las aplicaciones de flujo de trabajo, escritura y entretenimiento. Todos los cuadros de búsqueda estarán habilitados para la IA. Las habilidades de investigación que los profesionales de las bibliotecas necesitan -y enseñarán- seguirán ampliándose.

Ética. La capacidad de recopilar y procesar datos, establecer nuevas conexiones, propagar datos engañosos o perjudiciales y utilizar productos desarrollados de forma incompatible con los valores de una biblioteca crean la necesidad de una atención cuidadosa e informada. Los educadores se plantean qué está en consonancia con las mejores prácticas y los valores establecidos en la investigación y el aprendizaje, y las organizaciones se plantean hacer más explícitos los marcos éticos.

Las bibliotecas individuales tienen una influencia limitada en este entorno. Organizaciones como ALA, IFLA, la Organización Nacional de Normas de Información y el Consejo de Bibliotecas Urbanas ofrecen un lugar para el desarrollo de políticas, normas y prácticas para agregar y ampliar la influencia de las bibliotecas. Deberían coordinar su trabajo en áreas clave, entre las que se incluyen:

Defensa y política. Las bibliotecas representan los intereses públicos, académicos y culturales. Están comprometidas con los principios del aprendizaje abierto y la equidad. Las organizaciones bibliotecarias deben defender estos intereses y principios en las políticas y propuestas gubernamentales e industriales pertinentes.

Compras y convocatorias. A medida que los proveedores de bibliotecas implementan variedades de IA, surgen nuevas cuestiones relacionadas con las adquisiciones. ¿Qué gran modelo lingüístico se utiliza? ¿Existen medidas adicionales para mitigar comportamientos indeseables? ¿Qué datos se recopilan y cómo se utilizan? Sería bueno disponer de directrices, consejos y sesiones informativas que abordaran estos temas. Yendo más allá, ¿tiene sentido convocar a grupos del sector para desarrollar puntos de vista compartidos sobre enfoques técnicos o políticas?

Acceso abierto. Ahora es posible resumir y sintetizar los resultados de modelos entrenados en grandes conjuntos de literatura académica, así como en ricos datos de perfiles de expertos, análisis de investigación, servicios de flujo de trabajo, etc. Varias empresas están bien situadas para ofrecer servicios en este ámbito, pero ¿a quién y en qué condiciones? ¿Surgirá una nueva fase de promoción abierta para explorar el acceso equitativo a estos recursos?

Datos bibliotecarios y formación. ¿Qué papel desempeñan los datos estructurados de las bibliotecas, fruto de años de inversión intelectual y profesional, como las ayudas para la búsqueda o las LibGuides, que pueden ser aprovechados por quienes elaboran grandes modelos lingüísticos? También cabe imaginar que estos materiales se utilicen para entrenar modelos comunitarios, que podrían emplearse en servicios personalizados.

Estas y otras cuestiones son lo suficientemente amplias como para justificar la atención y la acción concertadas de las bibliotecas. Las organizaciones que he mencionado tienen capacidad e influencia para la comunidad bibliotecaria. Es hora de que se pongan de acuerdo y ayuden a determinar qué tipo de futuro queremos crear.

En este contexto, subraya la importancia de la experiencia práctica con diversos servicios de IA para comprender mejor su impacto y promueve la transparencia, la conciencia y la empatía como valores fundamentales en el lugar de trabajo. Además, enfatiza la necesidad de desarrollar habilidades de investigación y ética para abordar los desafíos emergentes, como la proliferación de información falsa y el uso ético de la tecnología. Dempsey también aboga por una mayor coordinación y acción a nivel organizacional, instando a asociaciones bibliotecarias clave a liderar iniciativas en áreas como la defensa de políticas, la adquisición responsable y el acceso abierto a recursos bibliotecarios. En última instancia, resalta la importancia de colaborar para dar forma a un futuro en el que la IA y las bibliotecas coexistan de manera ética y beneficiosa para la sociedad.

Udell, Emily. The World of AI. How libraries are integrating and navigating this powerful technology. American Libraries, By | March 1, 2024

Ver noticia completa

La biblioteconomía, con su compromiso con la privacidad y el suministro de información precisa e imparcial, resultará esencial. Este es el próximo capítulo de la alfabetización informacional. La IA representa un enorme reto y una gran oportunidad para las bibliotecas, y se confía en que estarán a la altura de las circunstancias.

El pasado octubre, el presidente Joe Biden emitió una orden ejecutiva detallando pautas para varios aspectos de la inteligencia artificial (IA), con el objetivo de impulsar la investigación, regulaciones y políticas en torno a las herramientas actuales y emergentes.

Un tema candente en muchas industrias, la inteligencia artificial generativa (IA generativa) ha ocupado cada vez más nuestra conciencia cultural desde que el gran modelo de lenguaje ChatGPT debutó para uso público en noviembre de 2022. Algunas bibliotecas están desempeñando un papel único en trazar un camino a través de este nuevo territorio tecnológico a medida que los límites de los usos e impactos de la IA continúan cambiando.

«Los bibliotecarios se preguntan si la IA nos volverá obsoletos, pero no lo hará», dice Nick Tanzi, consultor de tecnología de bibliotecas, autor y director adjunto de la Biblioteca Pública de South Huntington en Huntington Station, Nueva York. «Somos profesionales de la información, y nuestro panorama de información acaba de crecer en complejidad».

Los críticos de la IA han lanzado la alarma sobre la tendencia de los modelos a reforzar y amplificar cualquier sesgo encontrado en los datos en los que se entrenan. Otros han planteado preocupaciones sobre información falsa y privacidad, así como plagio y derechos de autor, problemas de particular preocupación para bibliotecas universitarias y escolares. ¿Cómo pueden estar seguros los usuarios de que la información generada por las herramientas de IA es legal, ética y precisa?

«Hay un viejo dicho: ‘Basura entra, basura sale'», dice Elissa Malespina, bibliotecaria-educadora en la Escuela Secundaria Union (N.J.), quien escribe el Boletín de Bibliotecarios Escolares de IA. «En el mundo de la IA, es una cuestión de ‘datos entran, datos salen’. Asegúrese de tener una clara idea no solo de cómo opera la IA, sino también de dónde obtiene su conocimiento. Todo se trata de ser un usuario informado».

American Libraries habló con cinco expertos en tecnología, educadores y bibliotecarios que están pionerando el uso de la IA generativa en sus instituciones. Discuten cómo se está utilizando en bibliotecas, qué preocupaciones éticas han surgido y cómo los bibliotecarios pueden educar a sus comunidades sobre la navegación de estas poderosas tecnologías.

La Universidad George Mason ha creado una serie de salones sobre IA para discutir su uso en la investigación y el aula, así como una Comunidad de Práctica y un Grupo de Trabajo sobre IA. También han utilizado herramientas de IA como ChatGPT y Bard en la enseñanza y la investigación.

En la Escuela Secundaria Union, Elissa Malespina utiliza la IA para ayudar en la edición y redacción de contenido para redes sociales y presentaciones. También la emplea para generar títulos y propuestas de conferencias.

En las Bibliotecas de la Universidad de Arizona, se ha recibido retroalimentación sobre el uso de IA en la escritura académica. Se ha trabajado en colaboración con profesores para abordar preocupaciones sobre la integridad académica y los derechos de autor.

En general, se reconocen los beneficios potenciales de la IA, como la mejora de la experiencia del usuario y la eficiencia en la búsqueda de información. Sin embargo, también se plantean preocupaciones éticas, como el sesgo algorítmico y la privacidad de los usuarios.

La creación de políticas y estándares éticos para el uso de IA en las bibliotecas es un tema importante. Los bibliotecarios están trabajando para educar a sus comunidades sobre cómo utilizar la IA de manera ética y responsable.