Archivo de la etiqueta: Inteligencia artificial

Posición del Comité Consultivo de Derecho de Autor y otros Asuntos Jurídicos de IFLA sobre la Inteligencia Artificial

Levine, Melissa, y Advisory Committee on Copyright and other Legal Matters (CLM). 2024. «Advisory Committee on Copyright and Other Legal Matters Position on Artificial Intelligence», octubre.

Texto completo

Este documento está diseñado para ayudar a las bibliotecas miembros de IFLA a navegar los problemas de derechos de autor relacionados con el uso de la IA y a apoyar el desarrollo de programas y servicios bibliotecarios relevantes. También respalda el trabajo del Grupo de Interés Especial de IFLA sobre Inteligencia Artificial, alineándose con el Manifiesto y el plan de Comunicación y Outreach de IFLA.

Consideraciones:

  • La aparición de tecnologías de IA plantea múltiples consideraciones para las bibliotecas, incluida la forma en que se utiliza el contenido y quién lo utiliza. Las bibliotecas están en una posición única para liderar en este ámbito, afirmando su papel como innovadoras, desde la inclusión de contenido generado por IA en sus colecciones hasta la mejora y eficiencia en la entrega de servicios de referencia y préstamo interbibliotecario.
  • En muchos países, las leyes de derechos de autor (tanto derechos económicos como morales) han evolucionado para adaptarse a tecnologías innovadoras y son adecuadas para abordar las preocupaciones legítimas de los creadores, incluidas las bibliotecas en su rol como creadoras de procesos y servicios basados en IA.
  • La legislación relacionada con la IA a menudo también existe fuera del ámbito del derecho de autor. Para temas no relacionados con los derechos de autor, como salud, seguridad, privacidad y cuestiones éticas, se debe acudir a la fuente de información política más adecuada. Las bibliotecas deben considerar las herramientas de IA desde un enfoque basado en valores, asegurándose de que no comprometan la libertad de expresión, la privacidad ni otras áreas de preocupación.

Recomendaciones:

  • Las bibliotecas deben ofrecer capacitación y desarrollo esenciales sobre tecnologías en evolución, incluida la IA, para apoyar a empleados, investigadores y otros usuarios de la biblioteca.
  • En jurisdicciones donde la ley de derechos de autor no respalda los usos típicos y en evolución de la IA por parte de las bibliotecas, se debe abogar para informar a los tomadores de decisiones sobre los beneficios de expandir las limitaciones y excepciones existentes para permitir usos como la minería de texto y datos (TDM).
  • Las convenciones de derechos humanos existentes deberían guiar el desarrollo de trabajos normativos relacionados con la IA. Se deben apoyar los esfuerzos de las bibliotecas para desarrollar prácticas éticas en respuesta a las preocupaciones relacionadas con las herramientas de IA.
  • Los contratos para recursos bibliotecarios licenciados no deben incluir cláusulas que obstaculicen o restrinjan indebidamente el uso de la IA por parte de los usuarios de la biblioteca ni que impidan el uso de excepciones aplicables en la ley de derechos de autor.
  • Las bibliotecas se comprometen a abordar los sesgos mientras navegan por los desafíos de derechos de autor. El acceso limitado a datos y recursos puede conducir a sesgos en los sistemas de IA, por lo que abogamos por el monitoreo continuo de los servicios de IA en las bibliotecas para garantizar la diversidad y el acceso equitativo a la información.

Las gafas Ray-Ban Meta pueden usarse para reconocer a personas y acceder a información personal como dirección, número de teléfono y familiares a través del reconocimiento facial.

Matt Binder, «Ray-Ban Meta Glasses Can Be Used to Dox Strangers via Facial Recognition, According to Harvard Students. Here’s How to Protect Yourself.», Mashable, 3 de octubre de 2024, https://mashable.com/article/ray-ban-meta-smart-glasses-students-facial-recognition-dox-strangers.

Dos estudiantes de Harvard han transformado las Meta Ray-Ban Smart Glasses en una poderosa herramienta de reconocimiento facial que puede identificar a cualquier persona y revelar detalles personales como su dirección, número de teléfono y familiares. Lo lograron desarrollando una plataforma de inteligencia artificial llamada I-XRAY, que convierte las gafas inteligentes en un dispositivo de vigilancia personal. Aunque estas gafas están diseñadas para captar fotos y videos de manera más inmersiva, los estudiantes las han llevado un paso más allá al integrar un motor de búsqueda facial.

El proceso de I-XRAY tiene tres etapas clave. Primero, las gafas capturan el rostro de una persona a través de la cámara incorporada. Luego, el motor de búsqueda facial de I-XRAY identifica el rostro y le asigna un nombre. En segundo lugar, una vez que el sistema identifica el nombre, realiza búsquedas en varias bases de datos públicas y privadas para encontrar información adicional sobre la persona. Por último, I-XRAY organiza los datos recolectados —nombre, dirección, teléfono, familiares y más— en un solo documento.

En un video demostrativo, los estudiantes muestran cómo se acercan a personas en la calle y, con las gafas puestas, acceden instantáneamente a datos personales. Al hacer preguntas como «¿Asististe a tal escuela?», revelan que la información es exacta y de fácil acceso, lo que genera preocupación sobre las capacidades invasivas de esta tecnología. Este experimento no solo demuestra el potencial de la inteligencia artificial para la vigilancia, sino que pone en alerta sobre cómo este tipo de herramientas podría ser mal utilizada. Aunque los estudiantes aseguran que su intención no es violar la privacidad, sino iniciar un debate sobre los riesgos de los dispositivos inteligentes, el hecho de que cualquiera pueda acceder a información tan sensible plantea preguntas sobre la regulación de estas tecnologías.

Este dilema recuerda los primeros días del iPhone, cuando los usuarios intentaban «liberar» sus dispositivos, lo que generaba preocupaciones de seguridad. Los estudiantes de Harvard sostienen que, al igual que en aquellos días, estamos en un momento crítico donde debemos aprender a protegernos contra las amenazas antes de que sea demasiado tarde. Aunque no se puede prevenir completamente el uso de herramientas como I-XRAY, existen medidas que las personas pueden tomar para protegerse de la exposición a la vigilancia mediante tecnologías emergentes.

Entre estas medidas, se recomienda limitar la cantidad de información personal disponible públicamente en redes sociales y otras plataformas, utilizar configuraciones de privacidad más restrictivas y abogar por la regulación y supervisión del uso de tecnologías de reconocimiento facial y dispositivos inteligentes. Este caso demuestra lo rápido que la tecnología puede evolucionar y cambiar las dinámicas de privacidad en la vida cotidiana. La conversación sobre las gafas inteligentes de Meta y plataformas como I-XRAY está apenas comenzando, y es probable que continúe a medida que más tecnologías de este tipo lleguen al mercado.

Principios de la Alianza de Derechos de Autor de Bibliotecas para el Copyright y la Inteligencia Artificial

Library Copyright Alliance Principles for Copyright and Artificial Intelligence. Library Copyright Alliance, ALA, ACRL, 2023

Texto completo

La Ley de Derechos de Autor de EE. UU. existente, tal como es aplicada e interpretada por la Oficina de Derechos de Autor y los tribunales, es plenamente capaz en este momento de abordar la intersección entre derechos de autor e IA sin necesidad de enmiendas.

  • Basado en precedentes bien establecidos, la incorporación de obras protegidas por derechos de autor para crear modelos de lenguaje grandes (LLM) u otras bases de datos de entrenamiento de IA generalmente se considera un uso justo.
  • Dado que decenas, si no cientos, de millones de obras son incorporadas para crear un LLM, la contribución de cualquier obra individual al funcionamiento del LLM es de minimis; por lo tanto, la remuneración por la incorporación no es ni apropiada ni factible.
  • Además, los propietarios de derechos de autor pueden emplear medios técnicos, como el Protocolo de Exclusión de Robots, para evitar que sus obras sean utilizadas para entrenar a las IA.
  • Si una IA produce una obra que es sustancialmente similar en expresión protegida a una obra que fue incorporada por la IA, esa nueva obra infringe el copyright de la obra original.
  • Si la obra original fue registrada antes de la infracción, el propietario de los derechos de autor de la obra original puede presentar una acción por infracción de derechos de autor para obtener daños estatutarios contra el proveedor de la IA y el usuario que solicitó a la IA producir la obra sustancialmente similar.
  • Aplicando principios tradicionales de autoría humana, una obra generada por una IA podría ser susceptible de derechos de autor si los prompts proporcionados por el usuario controlaban suficientemente a la IA de tal manera que la obra resultante en su conjunto constituyera una obra original de autoría humana.

La IA tiene el potencial de interrumpir muchas profesiones, no solo a los creadores individuales. La respuesta a esta interrupción (por ejemplo, el apoyo a la re-capacitación laboral a través de instituciones como colegios comunitarios y bibliotecas públicas) debería desarrollarse de manera integral en la economía, y la ley de derechos de autor no debería ser tratada como un medio para abordar estos desafíos sociales más amplios.

Además, la IA también tiene el potencial de servir como una herramienta poderosa en manos de los artistas, permitiéndoles expresar su creatividad de maneras nuevas y eficientes, promoviendo así los objetivos del sistema de derechos de autor.

10 de julio de 2023.

Nuevas directrices sobre IA para ayudar a las bibliotecas de investigación

Lauren Coffey, «New AI Guidelines Aim to Help Research Libraries», Inside Higher Ed, accedido 8 de octubre de 2024, https://www.insidehighered.com/news/tech-innovation/libraries/2024/05/01/new-ai-guidelines-aim-help-research-librarians.

The Association of Research Libraries (ARL) ha publicado nuevas directrices sobre inteligencia artificial (IA) para ayudar a los bibliotecarios a afrontar el aumento de consultas relacionadas con esta tecnología emergente. Desde el lanzamiento de ChatGPT hace dos años, los bibliotecarios han asumido un papel clave en la investigación y el desarrollo de la IA, abordando inquietudes sobre derechos de autor y citaciones.

Las siete directrices se centran en el desarrollo y despliegue de la IA generativa, como los modelos de lenguaje de OpenAI, y buscan promover prácticas éticas y transparentes, así como construir confianza entre los interesados en el entorno de la investigación. Una encuesta reciente reveló que más del 75% de los bibliotecarios consideran urgente abordar las preocupaciones éticas y de privacidad relacionadas con la IA, tales como la violación de la privacidad y el uso indebido de datos.

Las directrices incluyen:

  1. Fomentar la alfabetización digital: Educar a los usuarios de la biblioteca sobre la IA.
  2. Entender y concienciar sobre el sesgo en la IA: Ayudar a los usuarios a evaluar la información generada por la IA.
  3. Abogar por la apertura y la transparencia: Centrándose en los algoritmos y datos utilizados para crear la IA.
  4. Reconocer la importancia de los humanos en la IA: Asegurar que la ética y la accesibilidad sean consideradas en su uso.
  5. Priorizar la seguridad y privacidad: Abogar por leyes que protejan la información personal de los usuarios.
  6. Continuar con la aplicación de la ley de derechos de autor: Proteger los derechos de las bibliotecas para fines de investigación y educación.
  7. Promover la equidad en la información digital: Garantizar que las leyes de derechos de autor no sean superadas por contratos con empresas privadas.

Las líderes de ARL, Katherine Klosek y Cynthia Hudson Vitale, destacaron que estas directrices son un punto de referencia para abordar preocupaciones relacionadas con la IA y que están abiertas a futuras discusiones a medida que la tecnología y sus implicaciones evolucionan.

Problemas legales y de propiedad en torno a los productos generados por la inteligencia artificial (IA)

«Who Owns AI’s Output? – Communications of the ACM», 4 de octubre de 2024, https://cacm.acm.org/news/who-owns-ais-output/.

El artículo “Who Owns AI’s Output?” de Logan Kugler, explora los problemas legales y de propiedad en torno a los productos generados por la inteligencia artificial (IA). En un contexto en el que la IA generativa ha avanzado rápidamente en los últimos años, surgen preguntas sobre quién posee los derechos de autor o patentes de las creaciones de IA, como textos, imágenes, videos, audio y código.

Los diferentes países abordan de manera distinta la cuestión de la propiedad de las obras generadas por IA. En los Estados Unidos, la ley es estricta y no permite otorgar derechos de autor o patentes a obras creadas únicamente por IA. Se requiere la intervención significativa de un ser humano para que se otorgue protección a través de estos mecanismos legales. Sin embargo, otros países como el Reino Unido y Sudáfrica tienen leyes más flexibles que permiten, en algunos casos, la protección de obras generadas por IA.

Otro problema destacado en el artículo es el uso de datos protegidos por derechos de autor para entrenar a los modelos de IA. La mayoría de los sistemas de IA se entrenan utilizando grandes volúmenes de datos, a menudo sin el consentimiento del creador original. Esto ha generado múltiples demandas, como la presentada por el New York Times contra OpenAI, acusando a la compañía de usar su contenido sin permiso para entrenar ChatGPT.

En respuesta a estos desafíos, algunos países, como la Unión Europea, han implementado regulaciones más estrictas para controlar cómo se utilizan los datos protegidos en el entrenamiento de IA. Por otro lado, Japón ha adoptado un enfoque más permisivo, permitiendo el uso de materiales protegidos para el entrenamiento de IA bajo excepciones amplias a la ley de derechos de autor.

El artículo concluye que las regulaciones sobre IA están evolucionando rápidamente, pero presentan grandes retos para los legisladores debido a la velocidad con la que avanza la tecnología. A medida que los países tratan de equilibrar la protección de los derechos de autor y fomentar la innovación tecnológica, es probable que se vean más cambios en las leyes y normativas sobre la propiedad de los productos generados por IA.

Cómo la IA gestionó 1,8 millones de documentos en 42 días para un banco líder de EE.UU.

«Information Futures Summit Closes with Launch of Brisbane Declaration», IFLA (blog), accedido 7 de octubre de 2024, https://www.ifla.org/news/information-futures-summit-closes-with-launch-of-brisbane-declaration/.


Cómo la IA gestionó 1,8 millones de documentos en 42 días para un banco líder de EE.UU.

Un importante banco estadounidense se enfrentaba a una tarea de enormes proporciones: Unificar los procesos de 6 bancos adquiridos y fusionar 1,8 millones de documentos en un único sistema.

¿La respuesta? El sistema basado en IA de Datamatics.

En sólo 42 días, se digitalizaron, clasificaron y convirtieron en buscables 35 millones de páginas. El tiempo de recuperación de documentos se redujo de 48 horas a minutos, y la precisión de la clasificación mejoró en un 87%.

Los bibliotecarios quieren adoptar la IA, pero alegan falta de conocimientos

Coffey, Lauren. «AI Adoption Top Concern for Librarians Next Year.» Inside Higher Ed, September 10, 2024. https://www.insidehighered.com/news/quick-takes/2024/09/10/ai-adoption-top-concern-librarians-next-year.

A medida que la inteligencia artificial (IA) continúa evolucionando, un informe reciente de Clarivate revela que, aunque solo un pequeño porcentaje de bibliotecas universitarias en todo el mundo ha comenzado a implementar herramientas de IA, se anticipa que esta tendencia cambiará en el próximo año.

Actualmente, solo el 7 % de las bibliotecas universitarias están utilizando herramientas de IA, pero casi la mitad de los encuestados (47 %) planea incorporarlas en su operación durante el próximo año. Este ritmo de adopción supera las expectativas para la mejora de otras tecnologías bibliotecarias, como sistemas de gestión, conservación digital y desarrollo de colecciones.

La encuesta, realizada entre abril y junio de este año, recibió aproximadamente 1,500 respuestas de profesionales relacionados con las bibliotecas, incluidos decanos y directores de IT, con un 80 % de los encuestados trabajando en bibliotecas universitarias, principalmente en Estados Unidos. La mayoría de las bibliotecas que planean implementar herramientas de IA lo hacen con el objetivo de apoyar el aprendizaje estudiantil (52 %) y fomentar la excelencia en la investigación (47 %), además de aumentar la «descubribilidad» del contenido (45 %).

A pesar del creciente interés en la adopción de IA, las bibliotecas enfrentan varios desafíos. Más de la mitad de los encuestados (53 %) identificaron la falta de conocimientos en IA como el principal obstáculo para su implementación. En particular, el 32 % de los encuestados mencionó que no hay formación en IA disponible en sus universidades, y esta cifra aumenta al 43 % entre los encuestados de EE. UU. Esto sugiere que, aunque hay un deseo de adoptar estas tecnologías, la falta de preparación puede limitar su eficacia.

Desde el lanzamiento de ChatGPT en noviembre de 2022, ha habido un aumento en las discusiones sobre cómo las bibliotecas pueden implementar la IA de manera ética. Algunas bibliotecas han tomado la iniciativa en la creación de directrices para el uso de IA, mientras que otras han expresado la necesidad urgente de abordar preocupaciones éticas y de privacidad. En abril, la Asociación de Bibliotecas de Investigación publicó un conjunto de pautas destinadas a ayudar a las bibliotecas universitarias en el desarrollo y despliegue ético de estas tecnologías.

Además de las preocupaciones sobre la falta de experiencia, los bibliotecarios también mencionaron las limitaciones presupuestarias como una de sus principales preocupaciones. El 47 % de los encuestados citó los recortes presupuestarios como un desafío significativo, incluso más preocupante que cuestiones relacionadas con la privacidad, la integridad de la investigación y las infracciones de derechos de autor.

En cuanto a las implicaciones del uso de IA en el personal de las bibliotecas, solo el 10 % de los encuestados no creen que la IA tendrá un impacto significativo en los roles y empleos del personal. Más de la mitad anticipa que será necesario un esfuerzo considerable para capacitar y actualizar las habilidades del personal existente. Un tercio de los encuestados expresó su preocupación por la posible pérdida de empleos, siendo esta preocupación más pronunciada entre los encuestados de EE. UU.

El informe también aborda otros temas que no están directamente relacionados con la IA. Más de la mitad de las bibliotecas (55 %) indicaron que tienen estrategias de diversidad, mientras que el 45 % cuenta con estrategias de sostenibilidad. Sin embargo, los recortes presupuestarios generales fueron citados como la principal preocupación de los bibliotecarios, seguidos por el impacto de la tecnología en los servicios bibliotecarios y las cambiantes necesidades de los usuarios.

En conclusión, el informe de Clarivate destaca un interés creciente en la adopción de IA en bibliotecas universitarias, pero también resalta la necesidad de capacitación y recursos para abordar los desafíos que esto conlleva. La combinación de preocupaciones sobre el presupuesto y la falta de experiencia en IA subraya la importancia de una planificación cuidadosa y el desarrollo de estrategias efectivas para integrar estas herramientas en el futuro de los servicios bibliotecarios.

El papel de las bibliotecas en la era de la inteligencia artificial (IA)


Alonso-Arévalo, Julio; Quinde-Cordero, Marlene. El papel de las bibliotecas en la era de la inteligencia artificial (IA). Boletín de la Asociación Andaluza de Bibliotecarios (AAB), N° 127, Enero-Junio 2024, pp. 27-37

Texto completo


La incorporación de la inteligencia artificial (IA) en las bibliotecas representa una evolución hacia lo que se conoce como “bibliotecas inteligentes”, adaptadas a las necesidades tecnológicas y educativas actuales. Estas instituciones están utilizando la IA para enriquecer la experiencia del usuario, brindando desde recomendaciones personalizadas hasta servicios de búsqueda avanzada y gestión eficiente de datos. No obstante, este avance también conlleva desafíos, como la privacidad de los datos y la fiabilidad de la información generada por la IA. Las bibliotecas están a la vanguardia de la alfabetización en IA, capacitando a sus usuarios para interactuar de manera responsable con esta tecnología y preparándolos para el mercado laboral digital del futuro. En este sentido, las bibliotecas siguen siendo esenciales como espacios de aprendizaje continuo y acceso equitativo al conocimiento en una sociedad cada vez más influenciada por la IA.

Mapeo de la investigación en inteligencia artificial en Europa

European Commission: European Research Council Executive Agency, Mapping ERC frontier research artificial intelligence, Publications Office of the European Union, 2024, https://data.europa.eu/doi/10.2828/163337

El Consejo Europeo de Investigación (ERC) es la principal organización de financiación en Europa para la investigación de frontera. Desde su creación en 2007, ha sido un pilar de los programas de financiación de investigación e innovación de la UE, otorgando a sus beneficiarios la libertad de desarrollar proyectos ambiciosos en las fronteras del conocimiento. Estos proyectos, que abarcan todas las áreas de la ciencia, no siguen prioridades académicas o políticas predefinidas y pueden tener un impacto significativo más allá del ámbito científico, contribuyendo a resolver desafíos sociales y a informar sobre las políticas de la UE.

Este informe destaca cómo los proyectos financiados por el ERC están desarrollando o utilizando inteligencia artificial (IA) en sus procesos científicos, y cómo estos avances pueden ayudar a definir e implementar políticas relacionadas con la IA y sus aplicaciones transversales. Es el primer análisis integral del portafolio de IA del ERC, y está estructurado en los siguientes capítulos:

  1. Capítulo uno: Proporciona una visión general de los proyectos financiados por el ERC que desarrollan o usan IA en la ciencia.
  2. Capítulo dos: Ofrece un análisis detallado de la evolución y distribución de estos proyectos en los dominios científicos y disciplinas del ERC.
  3. Capítulo tres: Examina el paisaje político, vinculando los proyectos a áreas políticas específicas de la UE relacionadas con la IA.
  4. Capítulo cuatro: Analiza un subconjunto de proyectos que plantean preguntas éticas, legales y sociales urgentes en torno al desarrollo o uso de la IA.

Retos de la UE en materia de inteligencia artificial: Una gobernanza más sólida y una inversión mayor y más centrada

European Court of Auditors, EU Artificial Intelligence Ambition: Stronger Governance and Increased, More Focused Investment Essential Going Forward. Special Report,08, 2024 (Publications Office of the European Union, 2024), https://data.europa.eu/doi/10.2865/923687.

El futuro desarrollo económico de la UE probablemente dependerá de su capacidad para adoptar la tecnología de inteligencia artificial (IA). En 2018, la Comisión Europea aprobó un plan coordinado con los estados miembros para aumentar la inversión en IA y adaptar el entorno regulatorio, actualizado en 2021. Se evaluó la efectividad de la implementación de este marco, y aunque las acciones de la Comisión cubrieron aspectos clave para desarrollar un ecosistema de IA en la UE, los resultados fueron limitados y no lograron acelerar la inversión en IA al nivel de los líderes globales.

La falta de coordinación efectiva entre la Comisión y las medidas nacionales, junto con la ausencia de herramientas de gobernanza adecuadas, obstaculizó el progreso. El informe recomienda que la Comisión reevalúe el objetivo de inversión en IA de la UE, evalúe la necesidad de un instrumento de apoyo financiero más enfocado en IA, refuerce la coordinación y monitoreo, y aumente el apoyo para la explotación de los resultados obtenidos en la UE.