Guzman, Dani. «Human at the Center, AI in the Loop: The Role of Librarians in Shaping Academic AI.» Katina Magazine, 2024. https://katinamagazine.org/content/article/sponsored/2024/human-at-the-center-ai-in-the-loop-clarivate.

A medida que la IA se ha ido desplegando en diversos sectores, las bibliotecas, en particular las universitarias, se encuentran en una posición clave para integrar estas tecnologías de manera que potencien su misión educativa, en lugar de reemplazar la labor humana. Según el artículo, la clave está en equilibrar la automatización con la experiencia humana, utilizando la IA como una herramienta de apoyo en lugar de como un sustituto de las habilidades de los bibliotecarios.

La rápida expansión de la inteligencia artificial (IA) ha generado una variedad de opiniones sobre su impacto en el trabajo, especialmente en campos del conocimiento que requieren habilidades especializadas, como las bibliotecas universitarias. Mientras que algunos temen que la IA pueda reemplazar a los humanos, otros la ven como una oportunidad para mejorar y transformar la manera en que se lleva a cabo el trabajo intelectual. Entre estas posturas, muchos, incluidos los bibliotecarios, consideran que la IA abre nuevas posibilidades para optimizar los servicios y mejorar la eficiencia.

Una de las primeras consideraciones que aborda es cómo las bibliotecas deben identificar los casos de uso adecuados de la IA, como la mejora en la productividad, la investigación y el apoyo a los estudiantes. Los bibliotecarios tienen un papel fundamental en priorizar estas aplicaciones, ayudando a asegurar que la implementación de la IA se alinee con los objetivos estratégicos y operativos de las bibliotecas. La IA ya está siendo utilizada para tareas como el descubrimiento de investigación, la mejora en la búsqueda de literatura y la gestión de metadatos, lo que permite a los bibliotecarios centrarse en tareas más estratégicas.

El primer paso en la implementación de IA es identificar áreas donde la tecnología pueda agregar valor sin afectar la misión principal de las bibliotecas, que incluye el descubrimiento de investigaciones, el apoyo a los estudiantes y la mejora de la productividad interna. Los bibliotecarios, con su experiencia en gestionar información y procesos, tienen un papel crucial en determinar los casos de uso más efectivos de la IA, ayudando a priorizar las herramientas que pueden tener el mayor impacto.

El artículo también aborda cómo la IA puede transformar los servicios bibliotecarios. Por ejemplo, la implementación de herramientas basadas en IA puede simplificar tareas complejas como las revisiones de literatura o el análisis de datos, mejorando la experiencia de los estudiantes y de los investigadores. Además, la IA tiene el potencial de crear nuevos servicios, como sistemas de análisis de datos que permiten descubrir patrones y tendencias en la información, lo que puede ser útil tanto para la investigación académica como para la enseñanza. Pero sobre todo se destaca la importancia de que los bibliotecarios mantengan un control humano en el uso de estas herramientas para asegurar la integridad académica.

Otro aspecto importante que se menciona es la relación entre la IA y los principios éticos y de transparencia. Las bibliotecas deben garantizar que las herramientas de IA que utilicen estén basadas en fuentes académicas confiables y que ofrezcan a los usuarios acceso a la información utilizada. Esto es esencial para mantener la confianza en los sistemas impulsados por IA. Además, la ética en la implementación de la IA es crucial para evitar problemas como la desinformación o los sesgos. En este sentido, la seguridad y la protección de los datos de los usuarios también deben ser una prioridad, especialmente dado el entorno regulatorio en constante cambio en torno a la privacidad de los datos.

A medida que la IA se integra más en los servicios bibliotecarios, es crucial establecer un equilibrio adecuado entre la autonomía de las máquinas y el juicio humano. La transparencia, la ética y la seguridad son tres áreas clave donde los bibliotecarios deben intervenir para garantizar que la IA se utilice de manera responsable.

1. Transparencia: Los bibliotecarios deben asegurarse de que las herramientas de IA sean transparentes sobre las fuentes de información que utilizan. Esto es fundamental para mantener la confianza de los usuarios en los resultados generados por la IA. Asegurarse de que las fuentes sean académicamente válidas y accesibles es una prioridad para preservar la integridad de la información.
2. Ética: Los sistemas de IA deben diseñarse para evitar la desinformación, los sesgos y otros problemas éticos, como las «alucinaciones» (información incorrecta generada por IA). Los bibliotecarios desempeñan un papel esencial en la evaluación de la ética de las herramientas de IA, asegurando que los usuarios reciban información precisa y confiable.
3. Seguridad: La privacidad de los datos de los usuarios es una prioridad. Los bibliotecarios deben asegurarse de que las herramientas de IA cumplan con los estándares de seguridad y las regulaciones globales de privacidad, protegiendo los datos sensibles mientras se brindan servicios personalizados a los usuarios.

Por último, se resalta que el futuro de las bibliotecas universitarias dependerá de cómo logren integrar la IA de manera efectiva, preservando la experiencia humana y el juicio profesional. A través de la promoción de la alfabetización digital y la colaboración con otras instituciones académicas y proveedores de tecnología, los bibliotecarios podrán asegurar que la IA se utilice de manera ética y efectiva, contribuyendo al desarrollo de la investigación y la enseñanza sin perder de vista los valores fundamentales de las bibliotecas.