Dempsey, Lorcan. «Predicting the Unpredictable.» American Libraries Magazine, 4 de marzo de 2024. https://americanlibrariesmagazine.org/blogs/the-scoop/predicting-the-unpredictable/.
En «Prediciendo lo Impredecible», Lorcan Dempsey aborda el omnipresente impacto de la inteligencia artificial (IA) y su compleja interacción con la toma de decisiones en las bibliotecas. Dempsey destaca que, si bien la IA ofrece oportunidades constructivas, también plantea desafíos significativos en términos de privacidad, reutilización de datos y cuestiones éticas.
En enero, Microsoft anunció el primer cambio en 30 años de su teclado de Windows, añadiendo un nuevo botón para su chatbot de inteligencia artificial (IA), Copilot. No es sorprendente, pero sí sintomático. La IA está en todas partes.
Los académicos Michael Barrett y Wanda Orlikowski señalan en un artículo de marzo de 2021 que las tecnologías desplegadas a gran escala tienen resultados tanto constructivos como problemáticos. A medida que los responsables de la toma de decisiones de las bibliotecas posicionan a la biblioteca como una fuente de asesoramiento y experiencia, a medida que determinan los productos y servicios en los que invertir, y a medida que consideran el bienestar de sus propios colegas, habrá que comprender y sopesar tanto los elementos constructivos como los problemáticos.
Mientras nos sometemos a este proceso, debemos reconocer que el desarrollo es imprevisible. A modo de comparación, pensemos en cómo la invención del teléfono móvil ha cambiado nuestros comportamientos de un modo que no podíamos prever. ¿Quién imaginaba la importancia de algo tan aparentemente sencillo como el selfie y el papel que tendría en los viajes y en el propio bienestar mental?
«Las grandes elecciones que se celebrarán en todo el mundo en 2024 serán las primeras en las que los poderes sintéticos de la IA generativa estén ampliamente disponibles».
Aunque los efectos de la IA pueden parecer mágicos, también es importante recordar que son personas reales las que toman decisiones reales sobre productos y servicios. Existen cuestiones reales sobre la privacidad, la reutilización de datos, la reproducción de materiales protegidos por derechos de autor, etcétera. Se trata de prácticas sobre las que se puede influir, ya sea a través de la compra o de medidas políticas, y las bibliotecas pueden marcarse el rumbo que les gustaría seguir.
A las bibliotecas no les queda más remedio que aceptar esta confusa situación intermedia, trabajando en condiciones de incertidumbre y cambio, defendiendo los intereses tanto de los consumidores como de los creadores.
¿Qué significa esto en la práctica?
La experiencia importa. La experiencia ayuda a comprender. Sin utilizar diferentes servicios de IA, es difícil entender el debate sobre el impacto de los diferentes enfoques de incitación, la generación aumentada por recuperación (que probablemente se desplegará en muchos productos informativos y editoriales), la alucinación (presentar información falsa como si fuera verdadera), etcétera.
Transparencia, concienciación y empatía. Dadas las tensiones acumuladas en los últimos años y la incertidumbre sobre la evolución social y técnica, la empatía, la educación y una transparencia adecuada sobre la planificación y la dirección son ahora aún más críticas en el lugar de trabajo.
Capacidades de investigación. Las grandes elecciones que se celebrarán en todo el mundo en 2024 serán las primeras en las que los poderes sintéticos de la IA generativa estén ampliamente disponibles. La falsificación alcanza nuevos niveles con noticias, imágenes y vídeos sintetizados que circulan libremente. Los casos judiciales sobre derechos de autor y memorización son cada vez más numerosos. Al mismo tiempo, las empresas de IA están haciendo tratos para alimentar con materiales de alta calidad el entrenamiento de sus herramientas. La IA se está integrando cada vez más en las aplicaciones de flujo de trabajo, escritura y entretenimiento. Todos los cuadros de búsqueda estarán habilitados para la IA. Las habilidades de investigación que los profesionales de las bibliotecas necesitan -y enseñarán- seguirán ampliándose.
Ética. La capacidad de recopilar y procesar datos, establecer nuevas conexiones, propagar datos engañosos o perjudiciales y utilizar productos desarrollados de forma incompatible con los valores de una biblioteca crean la necesidad de una atención cuidadosa e informada. Los educadores se plantean qué está en consonancia con las mejores prácticas y los valores establecidos en la investigación y el aprendizaje, y las organizaciones se plantean hacer más explícitos los marcos éticos.
Las bibliotecas individuales tienen una influencia limitada en este entorno. Organizaciones como ALA, IFLA, la Organización Nacional de Normas de Información y el Consejo de Bibliotecas Urbanas ofrecen un lugar para el desarrollo de políticas, normas y prácticas para agregar y ampliar la influencia de las bibliotecas. Deberían coordinar su trabajo en áreas clave, entre las que se incluyen:
Defensa y política. Las bibliotecas representan los intereses públicos, académicos y culturales. Están comprometidas con los principios del aprendizaje abierto y la equidad. Las organizaciones bibliotecarias deben defender estos intereses y principios en las políticas y propuestas gubernamentales e industriales pertinentes.
Compras y convocatorias. A medida que los proveedores de bibliotecas implementan variedades de IA, surgen nuevas cuestiones relacionadas con las adquisiciones. ¿Qué gran modelo lingüístico se utiliza? ¿Existen medidas adicionales para mitigar comportamientos indeseables? ¿Qué datos se recopilan y cómo se utilizan? Sería bueno disponer de directrices, consejos y sesiones informativas que abordaran estos temas. Yendo más allá, ¿tiene sentido convocar a grupos del sector para desarrollar puntos de vista compartidos sobre enfoques técnicos o políticas?
Acceso abierto. Ahora es posible resumir y sintetizar los resultados de modelos entrenados en grandes conjuntos de literatura académica, así como en ricos datos de perfiles de expertos, análisis de investigación, servicios de flujo de trabajo, etc. Varias empresas están bien situadas para ofrecer servicios en este ámbito, pero ¿a quién y en qué condiciones? ¿Surgirá una nueva fase de promoción abierta para explorar el acceso equitativo a estos recursos?
Datos bibliotecarios y formación. ¿Qué papel desempeñan los datos estructurados de las bibliotecas, fruto de años de inversión intelectual y profesional, como las ayudas para la búsqueda o las LibGuides, que pueden ser aprovechados por quienes elaboran grandes modelos lingüísticos? También cabe imaginar que estos materiales se utilicen para entrenar modelos comunitarios, que podrían emplearse en servicios personalizados.
Estas y otras cuestiones son lo suficientemente amplias como para justificar la atención y la acción concertadas de las bibliotecas. Las organizaciones que he mencionado tienen capacidad e influencia para la comunidad bibliotecaria. Es hora de que se pongan de acuerdo y ayuden a determinar qué tipo de futuro queremos crear.
En este contexto, subraya la importancia de la experiencia práctica con diversos servicios de IA para comprender mejor su impacto y promueve la transparencia, la conciencia y la empatía como valores fundamentales en el lugar de trabajo. Además, enfatiza la necesidad de desarrollar habilidades de investigación y ética para abordar los desafíos emergentes, como la proliferación de información falsa y el uso ético de la tecnología. Dempsey también aboga por una mayor coordinación y acción a nivel organizacional, instando a asociaciones bibliotecarias clave a liderar iniciativas en áreas como la defensa de políticas, la adquisición responsable y el acceso abierto a recursos bibliotecarios. En última instancia, resalta la importancia de colaborar para dar forma a un futuro en el que la IA y las bibliotecas coexistan de manera ética y beneficiosa para la sociedad.
Universo Abierto 