Archivo de la etiqueta: Inteligencia artificial

¿Podrían los propietarios de un software de inteligencia artificial percibir derechos de autor?

Cynthia Murrell. «Can Smart Software Get Copyright? Wrong?», Beyond Search, 15 de septiembre de 2023. https://arnoldit.com/wordpress/2023/09/15/can-smart-software-get-copyright-wrong/.

Es oficial: Solamente las personas pueden beneficiarse de los derechos de autor, no las máquinas. JD Supra nos pone al día sobre la inteligencia artificial y las pautas oficiales de derechos de autor cunado dice  “Using AI to Create a Work – Copyright Protection and Infringement” El principio básico funciona en ambas direcciones. Los creadores no pueden obtener derechos de autor sobre material generado por IA a menos que lo hayan modificado lo suficiente como para convertirlo en una obra creativa. Por otro lado, es una violación de la ley publicar contenido generado por IA que se asemeje a una obra protegida por derechos de autor. En cuanto a alimentar algoritmos con medios creados por humanos, eso todavía no está oficialmente en contra de las reglas. Aún.

Así lo expresa:

«Para obtener protección de derechos de autor para una obra que contenga material generado por IA, la obra debe tener suficiente aporte humano, como una modificación suficiente de la aportación de la IA o la selección o disposición humana del contenido de la IA. Sin embargo, la protección de derechos de autor se limitaría a las obras ‘hechos por humanos’. Las solicitudes de derechos de autor pasadas, pendientes y futuras deben identificar explícitamente el elemento humano y renunciar al contenido creado por la IA si es más que menor. Para registros existentes, puede ser necesario un registro complementario. Las obras creadas con IA están sujetas al mismo análisis de infracción de derechos de autor aplicable a cualquier obra. El problema con el uso de IA para crear obras es que las fuentes de las obras originales pueden no estar identificadas, por lo que no se puede llevar a cabo un análisis de infracción hasta que se reciba la carta de cesación y desistimiento. Ningún tribunal ha adoptado aún la teoría de que simplemente el uso de una base de datos de IA significa que la obra resultante sea automáticamente una obra derivada infractora si no es sustancialmente similar a los elementos protegibles en la obra con derechos de autor».

El artículo cita Copyright Registration Guidance: Works Containing Material Generated by Artificial Intelligence, 88 Fed. Reg. 16,190 (March 16, 2023).. Señala que estas pautas se basaron en una decisión emitida en febrero, Zarya contra Dawn, que involucró un cómic con contenido generado por IA. La Oficina de Derechos de Autor analizó minuciosamente los elementos, especificando lo siguiente:

«… La selección y disposición de las imágenes y el texto fueron el resultado de la autoría humana y, por lo tanto, son protegibles por derechos de autor, pero las imágenes generadas por IA como resultado de las indicaciones humanas no lo son. Las indicaciones ‘influyeron’, pero no ‘dictaron’, la imagen resultante, por lo que el solicitante no fue el ‘cerebro’ y, por lo tanto, no es el autor de las imágenes. Además, las ediciones realizadas por el solicitante a las imágenes fueron demasiado menores para considerarse protegibles por derechos de autor».

En cuanto a las bases de datos de entrenamiento fundamentalmente basadas en contenido protegido, el artículo señala demandas pendientes de artistas contra empresas como Stability AI, MidJourney y Deviant Art. Se nos dice que esas demandas pueden ser desestimadas por motivos técnicos, pero se nos recomienda estar atentos a casos similares en el futuro.

Cynthia Murrell, 15 de septiembre de 2023.

«Mentiras» en textos generados por Inteligencia Artificial: alucinaciones y omisiones.

Kees van Deemter «“Lying” in Computer-Generated Texts: Hallucinations and Omissions». Library Journal. Accedido 13 de septiembre de 2023. https://www.libraryjournal.com/story/academiclibraries/lying-in-computer-generated-texts-hallucinations-and-omissions-lj230901.

Existe una gran interés en torno a ChatGPT y otros grandes modelos generativos de lenguaje que producen textos fluidos y parecidos a los escritos por humanos en inglés y otros idiomas. Pero estos modelos tienen una gran desventaja, que es que sus textos pueden ser incorrectos en términos de hechos (alucinaciones) y también omitir información clave (omisiones).

Las omisiones son inevitables porque un sistema informático no puede incluir toda la información posiblemente relevante en un texto lo suficientemente corto como para ser leído realmente. En el contexto de resumir información médica para médicos, por ejemplo, el sistema informático tiene acceso a una gran cantidad de datos de pacientes, pero no sabe (y podría argumentarse que no puede saber) qué será más relevante para los médicos.

Las alucinaciones son inevitables debido a fallos en los sistemas informáticos, independientemente del tipo de sistema. Los sistemas que están programados explícitamente sufrirán errores de software (como todos los sistemas de software). Los sistemas que se entrenan con datos, como ChatGPT y otros sistemas en la tradición del Aprendizaje Profundo, «alucinan» aún más. Esto ocurre por una variedad de razones. Quizás lo más obvio es que estos sistemas se retroalimentan con de datos defectuosos (por ejemplo, cualquier sistema que aprenda de Internet estará expuesto a mucha información falsa sobre vacunas, teorías de conspiración, etc.). Y aun si un sistema orientado a los datos pudiera ser entrenado únicamente con textos legítimos que no contengan falsedades, su dependencia de métodos probabilísticos hará que combinaciones de palabras que son muy comunes en Internet también puedan ser producidas en situaciones donde resulten en información falsa.

Supongamos, por ejemplo, que en Internet, la palabra «tos» a menudo va seguida de «… y estornudos». Entonces, un paciente podría ser descrito de manera falsa por un sistema orientado a los datos como «tos y estornudos» en situaciones en las que tose sin estornudar. Problemas de este tipo son un enfoque importante para los investigadores que trabajan en modelos generativos de lenguaje. A dónde nos llevará esta investigación aún es incierto; lo mejor que se puede decir es que podemos intentar reducir el impacto de estos problemas, pero no sabemos cómo eliminarlos por completo.

Lo expuesto anteriormente se centra en problemas no intencionales pero inevitables. También existen casos en los que un sistema informático podría argumentarse que debe alucinar u omitir información. Un ejemplo evidente es la generación de material de marketing, donde se espera omitir información negativa sobre un producto. Un ejemplo más sutil, que hemos visto en nuestro propio trabajo, es cuando la información puede ser perjudicial y es de interés de los usuarios ocultarla o distorsionarla. Por ejemplo, si un sistema informático está resumiendo información sobre bebés enfermos para amigos y familiares, probablemente no debería decirle a una abuela anciana con una afección cardíaca que el bebé puede morir, ya que esto podría desencadenar un ataque al corazón.

Ahora que la precisión factual del texto generado por computadora atrae tanta atención de la sociedad en su conjunto, la comunidad de investigación está comenzando a darse cuenta más claramente que antes de que solo tenemos una comprensión limitada de lo que significa decir la verdad. En particular, no sabemos cómo medir la extensión de la (in)veracidad en un texto dado.

Para comprender lo que se quiere decir, supongamos que dos modelos de lenguaje diferentes responden a la pregunta de un usuario de dos maneras diferentes, generando dos textos de respuesta diferentes. Para comparar el rendimiento de estos sistemas, necesitaríamos una «tarjeta de puntuación» que nos permitiera puntuar objetivamente los dos textos en cuanto a su corrección factual, utilizando una variedad de criterios. Dicha tarjeta de puntuación nos permitiría registrar con qué frecuencia ocurre cada tipo de error en un texto dado y agregar el resultado en una puntuación global de veracidad para ese texto. De particular importancia sería la ponderación de los errores: los errores grandes (por ejemplo, una lectura de temperatura que está muy lejos de la temperatura real) deberían pesar más que los pequeños, los hechos clave deberían pesar más que los asuntos secundarios, y los errores que son realmente engañosos deberían pesar más que las erratas que los lectores pueden corregir por sí mismos. Básicamente, la tarjeta de puntuación funcionaría como un profesor de escuela justo que califica los trabajos de los alumnos.

Se han desarrollado protocolos para que los evaluadores humanos encuentren errores factuales en los textos generados, al igual que otros investigadores, pero aún no es posible crear una tarjeta de puntuación como se describe anteriormente porque no se puede evaluar el impacto de errores individuales.

Lo que se necesita, creemos, es una nueva línea de investigación informada lingüísticamente, que identifique todos los diferentes parámetros de «mentir» de una manera que pueda informar a las tarjetas de puntuación mencionadas anteriormente y que algún día pueda implementarse en un protocolo o algoritmo de verificación de hechos confiable. Hasta ese momento, aquellos de nosotros que intentamos evaluar la veracidad de ChatGPT estaremos avanzando a ciegas.

Stable Diffusion permite que cualquiera pueda generar casi cualquier realidad visual que pueda imaginar con Inteligencia Artificial

Stable Diffusion

La generación de imágenes mediante inteligencia artificial ha alcanzado un nivel impresionante. Gracias a un modelo de síntesis de imágenes de código abierto llamado «Stable Diffusion», prácticamente cualquier persona con un ordenador personal y una GPU competente puede materializar casi cualquier imagen visual que pueda concebir. Este modelo tiene la habilidad de emular una amplia gama de estilos visuales y, al proporcionar una simple descripción, los resultados parecen surgir en la pantalla como por arte de magia.

Esta innovación ha suscitado diversas reacciones entre los artistas, algunos de los cuales están entusiasmados con las posibilidades que ofrece, mientras que otros se sienten preocupados. La sociedad en general todavía no es plenamente consciente de la revolución tecnológica que se está gestando en las comunidades de Twitter, Discord y Github. Podría argumentarse que la síntesis de imágenes posee implicaciones tan trascendentales como la invención de la cámara fotográfica, o incluso la creación misma de las artes visuales. Incluso nuestra comprensión de la historia podría verse afectada por el curso que tomen estos acontecimientos. En cualquier caso, Stable Diffusion lidera una nueva ola de herramientas creativas basadas en el aprendizaje profundo que están a punto de transformar la creación de contenido visual de manera significativa.

Inteligencia Artificial y Biblioteconomía

Frické Martin. «Artificial Intelligence and Librarianship», Open Textbook Library, 2023.

Texto completo

Los cursos sobre Inteligencia Artificial (IA) y Biblioteconomía en las titulaciones de Máster en Biblioteconomía e Información (MLIS) acreditadas por la ALA son escasos. A todos nos han sorprendido ChatGPT y otros modelos similares de «lenguajes extensos». La IA generativa es una nueva área importante para la biblioteconomía. Su desarrollo es tan rápido que nadie puede seguirle el ritmo. Aquellos que intentan producir cursos de IA para el grado MLIS necesitan toda la ayuda que puedan conseguir. Este libro es un gesto de apoyo. Consta de unas 95.000 palabras sobre el tema, con una bibliografía de 3.400 artículos.

Regulación de la inteligencia Inteligencia Artificial en el mundo

Regulation of Artificial Intelligence Around the World
August 2023. The Law Library of Congress, Global Legal Research Directorate, Agosto 2023

Texto completo

Este informe, preparado por el equipo de investigación de la Biblioteca Jurídica del Congreso, presenta una compilación de jurisdicciones a nivel mundial que han implementado o propuesto legislación relacionada específicamente con la inteligencia artificial (IA) o los sistemas que la emplean. Estos investigadores han examinado exhaustivamente todas las jurisdicciones en sus áreas de estudio en busca de este tipo de legislación, y los hallazgos se han registrado en la lista adjunta. Dicha lista se acompaña de citas y breves descripciones de la legislación pertinente.

En el caso de jurisdicciones nacionales, subnacionales y de la Unión Europea (UE), solo se han incluido los instrumentos adoptados o propuestos que tienen un alcance legal efectivo, excluyendo aquellos que no poseen dicho efecto jurídico.

La UNESCO publica orientaciones sobre la IA generativa en la educación y la investigación

Guidance for Generative AI in education and research. Paris: Unesco, 2023

Uno de los componentes de la hoja de ruta de la UNESCO para dirigir el uso centrado en el ser humano de la IA Generativa en la educación, es el desarrollo de una Guía para la IA Generativa en la educación y la investigación, dentro del marco de su iniciativa sobre la IA y los Futuros del Aprendizaje.

Objetivos

La Guía presenta las principales tecnologías de IA generativa y los diversos modelos disponibles en la actualidad. También propone recomendaciones políticas para regular las cuestiones éticas y promover la inclusión y la equidad, así como casos de uso para aprovechar los beneficios de la IA Generativa para el pensamiento de orden superior y la creatividad en la educación y la investigación, al tiempo que se mitigan los riesgos.

La publicación abarca los siguientes elementos

  • Una definición de la IA Generativa
  • Cómo funcionan las distintas categorías de IA Generativa y una lista de diversos modelos de IA Generativa
  • Controversias en torno a la IA Generativa
  • Una hoja de ruta para regular la IA Generativa y elementos clave recomendados para las políticas nacionales sobre IA Generativa en la educación.
  • Co-diseño de los usos de la IA Generativa en la investigación, la enseñanza y el aprendizaje
  • Nuevos modelos de preentrenamiento generativo específicos para la educación (EduGPT) y sus implicaciones.
  • Reflexión sobre las implicaciones a largo plazo de la IA Generativa para la educación y la investigación.

¿Es legal y justo el uso de contenidos protegidos por derechos de autor en modelos de IA

Los modelos de inteligencia artificial se basan en gran medida en contenidos de alta calidad creados por seres humanos, a menudo sujetos a protección por derechos de autor. Sin estos recursos, el rendimiento del modelo sería deficiente. Surge la pregunta de si es legal utilizar obras protegidas por derechos de autor durante la fase de entrenamiento en el desarrollo de un modelo de inteligencia artificial.

Los modelos de IA de gran envergadura, como el GPT-4 de OpenAI, el PaLM 2 de Google y el Llama 2 de Meta, se han construido en parte utilizando una amplia gama de fuentes, que incluyen millones de libros, artículos, conversaciones y otros contenidos disponibles en Internet. Esta práctica ha generado disputas legales por parte de algunos creadores de estos contenidos, quienes argumentan violaciones de derechos de autor, mientras que otros buscan ser compensados por sus contribuciones.

Sin embargo, surge la pregunta de cómo se puede evaluar el valor de un dato específico cuando un modelo de IA ha absorbido una gran parte de lo que ha sido publicado en Internet durante la última década o incluso más. Benedict Evans, analista tecnológico, resalta este desafío en un reciente artículo sobre IA al señalar que el modelo no distingue entre un libro o sitio web en particular, sino que requiere acceso a «todos» los libros y «todos» los sitios web. Esto plantea un dilema, ya que el retiro de contenidos por parte de una empresa no solucionaría el problema si todas lo hicieran.

El concepto de «apalancamiento de datos», como lo describe el profesor Vincent, destaca la importancia de que las comunidades comprendan el valor de sus datos para los modelos de IA, lo que les permitiría negociar de manera más efectiva la compensación por su contribución. Si se puede determinar que el conjunto de todos los libros, por ejemplo, es responsable de una parte significativa del rendimiento de un modelo de IA como ChatGPT, entonces es posible asignar un valor adecuado a esa contribución.

En este contexto, se presenta SILO, un nuevo modelo lingüístico desarrollado por investigadores de instituciones como la Universidad de Washington en Seattle, la UC Berkeley y el Allen Institute for AI. SILO se creó con el objetivo general de minimizar riesgos legales al eliminar datos sensibles, pero también se ha desarrollado una metodología para evaluar la contribución específica de datos a los resultados de un modelo de IA. Esto podría abrir la puerta para que los propietarios de datos reciban el reconocimiento adecuado, o incluso una compensación directa, cada vez que sus datos contribuyan a las predicciones de un modelo. Como se demuestra, el rendimiento de los modelos se ve afectado significativamente si se entrenan solo con texto de bajo riesgo, como libros o documentos gubernamentales sin derechos de autor, debido a las limitaciones en tamaño y cobertura de dominio.

Basado en: Barr, Alistair. «“Data Leverage” and the Harry Potter Test: How Much Is a Single Book Worth to a Giant AI Model?» Business Insider. Accedido 4 de septiembre de 2023. https://www.businessinsider.com/data-leverage-harry-potter-test-putting-value-data-ai-models-2023-8.

El modelo de IA Gemini de Google parece estar listo para superar al modelo de IA de OpenAI al disponer de mucha más potencia de cálculo.

Gemini es un modelo de IA multimodal de nueva generación en el que están trabajando los investigadores de DeepMind, la división de IA de Google, y que se espera que vea la luz a finales de 2023. Es el esfuerzo más serio del gigante de las búsquedas para competir con el GPT-4 de OpenAI. Google Gemini multiplica por 5 la GPT-4, la GPU-Poors

Gemini pretende desafiar el dominio de ChatGPT en el espacio de la IA generativa. Este movimiento subraya el compromiso de Google con la innovación en IA y la competencia en el mercado de la IA generativa, en rápido crecimiento y con un valor previsto de 1,3 billones de dólares para 2032.

¿Qué es Google Gemini?

Gemini es un conjunto de grandes modelos lingüísticos (LLM) que combinan GPT-4 con técnicas de entrenamiento tomadas de AlphaGo, como el aprendizaje por refuerzo y la búsqueda, que tiene el potencial de desbancar a ChatGPT como la solución de IA generativa más dominante del planeta.

La noticia llega pocos meses después de que Google combinara sus laboratorios de IA Brain y DeepMind para crear un nuevo equipo de investigación llamado Google DeepMind, y pocos meses después del lanzamiento de Bard y su LLM PaLM 2 de nueva generación.

Teniendo en cuenta que los investigadores prevén que el mercado de la IA generativa alcanzará un valor de 1,3 billones de dólares en 2032, está claro que Google va a invertir en este campo para mantener su posición de líder en el desarrollo de la IA.

A primera vista, la capacidad de Gemini para generar texto e imágenes le da una seria ventaja sobre GPT4 en cuanto a la gama de contenidos que puede producir. El artículo, escrito por Dylan Patel y Daniel Nishball, de la empresa de investigación SemiAnalysis, sostiene que el modelo de IA Gemini de Google parece estar listo para superar al modelo de IA de OpenAI al disponer de mucha más potencia de cálculo.

Gran parte del análisis, que según Patel se basa en datos obtenidos de un proveedor de Google, se reduce a que Google tiene acceso a infinitamente más chips de primer nivel y a que su modelo supera a GPT-4 en una medida de rendimiento relacionada con los cálculos informáticos conocida como FLOPS.

Este modelo requería más de 14 veces los FLOPS de GPT-2 para entrenarse, pero esto era en gran medida irrelevante porque sólo unos meses más tarde OpenAI lanzó GPT-3, que tenía >65x más parámetros y >60x el recuento de tokens, >4.000x más FLOPS. La diferencia de rendimiento entre estos dos modelos era enorme.

Inteligencia Artificial, aprendizaje automático y WorldCat: mejora de los registros para catalogación e identificación

Proffitt, Merrilee. «Machine Learning and WorldCat: Improving Records for Cataloging and Discovery Hanging Together». Hanging Together (blog), 14 de agosto de 2023. https://hangingtogether.org/machine-learning-and-worldcat-improving-records-for-cataloging-and-discovery/.

Cualquier sistema que agregue datos de miles de fuentes necesita procesos sofisticados que mitiguen la duplicación* y garanticen que permanezcan los datos correctos. WorldCat es uno de estos sistemas, que recibe miles de registros bibliográficos de bibliotecas de todo el mundo todos los días. Ya sea en forma manual o automatizada, se ha realizado algún tipo de de duplicación en los registros bibliográficos desde principios de la década de 1980. Si bien el personal de OCLC y los trabajadores bibliotecarios de las instituciones que participan en el Member Merge Program realizan diariamente algunas revisiones manuales de datos, la mayoría de los registros de WorldCat dependen de programas automatizados de de duplicación. Los procesos automatizados introducidos en la década de 1990, conocidos como Duplicate Detection and Resolution (DDR) han madurado. Actualmente, se elimina un promedio de 11.000 registros manualmente y 1 millón mediante la automatización por mes. Además, todos los meses fusionamos millones de registros recién ingresados con registros existentes de WorldCat, lo que significa que también trabajamos para mitigar los registros duplicados antes de su creación.

Las reglas e instrucciones de catalogación han evolucionado muchas veces a lo largo de las décadas. Esto significa que las reglas que tratan la duplicación deben evolucionar continuamente para mantenerse al día con lo último y lo mejor. A lo largo de la vida de nuestros procesos de fusión, el personal de OCLC ha revisado cuidadosamente los resultados para mejorar los procesos, especialmente con fusiones inapropiadas o fallidas, y ha actualizado el sistema basado en reglas en consecuencia. Si bien esto funciona bien en muchos casos, los registros duplicados siguen llegando a WorldCat, lo que afecta a los catalogadores, los investigadores y los flujos de trabajo del personal bibliotecario.

Afortunadamente, la tecnología sigue avanzando y podemos incorporar nuevas tecnologías a los procesos automatizados. En los últimos años, el aprendizaje automático (Machine Learning, ML) se ha hecho un hueco en la corriente dominante, después de haber existido durante varias décadas. Una excelente definición de ML es «…algoritmos [que] construyen un modelo basado en datos de muestra, conocidos como datos de entrenamiento, con el fin de hacer predicciones o tomar decisiones sin ser explícitamente programados para ello».

Se investigaron diferentes algoritmos de ML, pero el obstáculo más importante era reunir un conjunto de datos de entrenamiento para ejecutar el algoritmo elegido. El equipo de Ciencia de Datos se puso en contacto con el equipo de Calidad de Datos para encontrar conjuntos de datos. Calidad de Datos pudo proporcionar información para los conjuntos iniciales de revisiones.

A mediados de 2022, se perfeccionó el modelo ML con análisis continuos y aportaciones del equipo de Calidad de Datos. También se construyó y probó una interfaz de usuario para el ejercicio de etiquetado de datos. La interfaz permitía a los usuarios recuperar un par de registros bibliográficos que fueran posibles duplicados. Los usuarios podían generar el par seleccionando valores para la lengua de catalogación, el tipo de material y la antigüedad del registro

En noviembre, se presentó la herramienta a los participantes del Programa de fusión de miembros, que se implementó para todos los miembros de OCLC a principios de diciembre. La herramienta estuvo abierta hasta mediados de abril de 2023. Para entonces, se habían evaluado poco más de 34.000 pares de posibles registros duplicados. Si bien no se realizaron tres revisiones de cada par, se recopilaron muchos datos para entrenar el modelo ML. Descubrimos que más del 95% de los pares que recibieron varias revisiones no presentaban desacuerdos entre los revisores. Esto demostró que el modelo estaba a la par con los humanos en la identificación de duplicados. Estos datos se utilizaron para perfeccionar el modelo, y el equipo de Calidad de Datos revisó los nuevos resultados para comprobar su precisión.

A partir de fines de agosto de 2023, se procesará una serie inicial de un (1) millón de registros -500.000 pares- a través del algoritmo de aprendizaje automático. Como resultado, se fusionarán 500 000 registros duplicados en WorldCat, lo que mejorará y agilizará las experiencias de catalogación, identificación y préstamo interbibliotecario tanto para el personal de la biblioteca como para los usuarios finales.

Políticas de IA en todo el mundo: Implicaciones y recomendaciones para las bibliotecas

Lo, Leo S. «AI Policies across the Globe: Implications and Recommendations for Libraries». IFLA Journal, 27 de agosto de 2023, 03400352231196172. https://doi.org/10.1177/03400352231196172.

Este artículo analiza las políticas sobre inteligencia artificial propuestas en EE.UU., Reino Unido, Unión Europea, Canadá y China, y sus implicaciones para las bibliotecas. A medida que la inteligencia artificial revoluciona el funcionamiento de las bibliotecas, plantea retos complejos, como dilemas éticos, problemas de privacidad de los datos y cuestiones de acceso equitativo. El artículo destaca temas clave de estas políticas, como la ética, la transparencia, el equilibrio entre innovación y regulación y la privacidad de los datos. También identifica áreas de mejora, como la necesidad de directrices específicas sobre la mitigación de sesgos en los sistemas de inteligencia artificial y la navegación por las cuestiones de privacidad de datos. El artículo ofrece además recomendaciones prácticas para que las bibliotecas se comprometan con estas políticas y desarrollen mejores prácticas para el uso de la inteligencia artificial. El estudio subraya la necesidad de que las bibliotecas no sólo se adapten a estas políticas, sino que se comprometan activamente con ellas, contribuyendo al desarrollo de una gobernanza de la inteligencia artificial más completa y eficaz.

Introduction

La inteligencia artificial (IA) está revolucionando el funcionamiento de las bibliotecas, ofreciendo nuevas vías para las recomendaciones personalizadas, la investigación avanzada y la eficiencia operativa. Sin embargo, el rápido avance de la IA también plantea retos complejos, como dilemas éticos, problemas de privacidad de los datos y cuestiones de acceso equitativo. Por ello, las políticas y normativas sobre IA propuestas por EE.UU., Reino Unido, la Unión Europea, Canadá y China no sólo proporcionan un marco crucial para afrontar estos retos, sino que también revelan áreas de crítica que deben abordarse.

El «Blueprint for an AI bill of rights» de EE.UU.  (Office of Science and Technology Policy, 2022), Reino Unido “A pro-innovation approach to AI regulation” (Secretary of State for Science, Innovation and Technology, 2023), Ley de Inteligencia Artificial de la Unión Europea (European Commission, 2021), a Ley de Inteligencia Artificial y Datos de Canadá (Government of Canada, 2023), y las «Medidas para la gestión de los servicios de inteligencia artificial generativa» de China (Webster, 2023) representan cada una un paso significativo para abordar las implicaciones éticas de la IA y garantizar un acceso equitativo a las oportunidades. Estas políticas ponen de relieve temas clave, como la ética, la transparencia, el equilibrio entre innovación y regulación, la privacidad de los datos y la naturaleza del panorama normativo. Sin embargo, también revelan áreas de crítica que deben abordarse, incluida la necesidad de directrices específicas sobre la mitigación de los sesgos en los sistemas de IA, la navegación por las cuestiones de privacidad de datos y la determinación del nivel de riesgo asociado con un sistema de IA en particular.

Aunque muchos otros países también han desarrollado o están desarrollando sus propias políticas u hojas de ruta en materia de IA (OCDE.AI, s.f.), se seleccionaron estas cinco políticas propuestas por varias razones:

  • Influencia mundial: EE.UU., Reino Unido, la Unión Europea, Canadá y China son actores importantes en el panorama mundial de la IA. Es probable que sus políticas tengan un impacto sustancial en las normas y prácticas mundiales de IA, influyendo en la dirección del desarrollo y la regulación de la IA en todo el mundo.
  • Diversidad de enfoques: las políticas seleccionadas representan una variedad de enfoques de la regulación de la IA, desde el enfoque más laissez-faire y centrado en la innovación del Reino Unido hasta el enfoque exhaustivo y basado en el riesgo de la Unión Europea. Esta diversidad permite una comparación y un análisis más sólidos de las distintas estrategias reguladoras.
  • Relevancia para las bibliotecas: cada una de estas políticas tiene implicaciones significativas para las bibliotecas, un aspecto clave de este artículo. Al examinar estas políticas, podemos hacernos una idea de los posibles retos y oportunidades a los que pueden enfrentarse las bibliotecas en la era de la IA.

A medida que las bibliotecas aprovechan progresivamente el poder de la IA para aumentar sus servicios y operaciones -incluido el uso de chatbots para los servicios de referencia  (Ehrenpreis and DeLooper, 2022), la indexación y clasificación automatizada de materias (National Library of Finland, n.d.) y los repositorios institucionales mejorados con aprendizaje automático (Yelton, n.d.)-, es imperativo que no solo se adapten a las políticas de IA imperantes, sino que también se comprometan proactivamente con ellas. Este compromiso implica la participación activa en el discurso en curso en torno a la gobernanza de la IA, la defensa de políticas que aborden de manera integral sus necesidades y desafíos únicos, y el desarrollo de mejores prácticas para la utilización de la IA que estén en consonancia con su misión y valores. A medida que el panorama de la IA evoluciona rápidamente, las políticas y prácticas de las bibliotecas deben adaptarse y evolucionar al mismo tiempo.

Estas políticas subrayan temas clave, como la ética, la transparencia, el equilibrio entre innovación y regulación, la privacidad de los datos y la naturaleza del panorama normativo. Sin embargo, también exponen áreas que deben seguir explorándose y mejorándose, incluida la necesidad de directrices explícitas sobre la mitigación de los sesgos en los sistemas de IA, el tratamiento de las preocupaciones sobre la privacidad de los datos y la evaluación del nivel de riesgo asociado a sistemas específicos de IA.

Es crucial reconocer que estas cinco políticas de IA, en el momento de redactar este documento, se encuentran en fase de propuesta y desarrollo, y aún no se han codificado como ley. Sus versiones finales pueden desviarse significativamente de sus formas actuales, lo que pone de relieve la naturaleza dinámica del panorama político de la IA. Esta fluidez exige que las bibliotecas permanezcan vigilantes y receptivas a estos desarrollos en evolución. A medida que estas políticas maduren y puedan convertirse en leyes, las bibliotecas tendrán que ajustar sus prácticas para garantizar el cumplimiento de las normativas más recientes, sin dejar de utilizar la IA para aumentar sus servicios y operaciones.

Más allá de estas recomendaciones, las bibliotecas también deberían contemplar el papel de la alfabetización en IA dentro de sus servicios. Las bibliotecas pueden desempeñar un papel fundamental en el fomento de la alfabetización en IA entre el público en general, promoviendo la transparencia, creando una demanda de responsabilidad y fomentando un compromiso crítico con las decisiones sobre IA. Las bibliotecas también pueden implementar medidas para salvaguardar los datos de los usuarios en el contexto de la IA, como garantizar que cualquier experimento con aplicaciones de IA que modifiquen o impulsen el comportamiento de los usuarios de la biblioteca se lleve a cabo sobre una base de consentimiento informado, o revisar meticulosamente las opciones de la biblioteca de aplicaciones de IA de terceros para evaluar su impacto en la privacidad de los usuarios (IFLA, 2020)..