Mannheimer, S., Bond, N., Young, S. W. H., Kettler, H. S., Marcus, A., Slipher, S. K., … Sheehey, B. (2024). Responsible AI Practice in Libraries and Archives: A Review of the Literature. Information Technology and Libraries, 43(3). https://doi.org/10.5860/ital.v43i3.17245

Texto completo

Se analiza la implementación de la inteligencia artificial (IA) en bibliotecas y archivos, enfocándose en dos preguntas clave: ¿Cómo se está utilizando la IA en estas instituciones? y ¿Qué preocupaciones éticas están surgiendo y siendo abordadas durante la implementación de la IA?

El estudio revela que el uso de la IA está creciendo, especialmente en grandes bibliotecas universitarias, con aplicaciones comunes en la extracción de metadatos y servicios de referencia. La mayoría de los proyectos utiliza textos e imágenes digitalizados, así como otros materiales como archivos web y mapas. Si bien más de la mitad de los artículos revisados mencionan cuestiones éticas, solo un tercio aborda preocupaciones más allá de la precisión técnica.

El artículo destaca que, aunque el uso de la IA ofrece beneficios claros, también plantea una serie de preocupaciones éticas. Solo poco más de la mitad de los estudios revisados mencionan temas éticos en relación con la implementación de la IA, y solo un tercio profundiza en problemas éticos más allá de cuestiones técnicas, como la precisión y la participación humana en el proceso.

Entre los temas éticos identificados, los más importantes incluyen:

• Transparencia en el uso de algoritmos y toma de decisiones.
• Fiabilidad de los sistemas de IA y su capacidad de ofrecer resultados precisos.
• Impacto de los costos asociados a la implementación de estas tecnologías.
• Sesgos algorítmicos y su potencial para perpetuar desigualdades.
• Justicia social y el impacto de la IA en comunidades vulnerables.
• Privacidad y consentimiento, particularmente en el uso de datos personales.
• Accesibilidad y equidad en el acceso a los recursos que gestionan las bibliotecas y archivos.

El estudio también resalta que a medida que las bibliotecas y archivos adopten más ampliamente la IA, será crucial que las instituciones no solo consideren estos aspectos éticos a nivel local, sino que también los discuten de manera pública a través de publicaciones y documentación compartida. El artículo sugiere que las bibliotecas deberían desarrollar políticas claras y directrices que rijan el uso de la IA, fomentando una práctica transparente y ética.

Se espera que las discusiones sobre ética y valores en la implementación de la IA continúen en áreas como costos, transparencia, sesgos, justicia social, privacidad y accesibilidad. El artículo subraya la importancia de discutir estas preocupaciones de manera pública y documentada a medida que la IA se vuelva más común en bibliotecas y archivos.