Archivo de la etiqueta: Legislación

El préstamo digital controlado en España. Bibliotecas y límites en el contexto digital

Xalabarder, Raquel Bibliotecas y límites en el contexto digital. El préstamo digital controlado en España. Madrid: FESABID, 2023

Texto completo

El Préstamo Digital Controlado, en adelante PDC, ha sido objeto de análisis en los últimos años. Consiste en la práctica de prestar bajo ciertas condiciones un ejemplar digitalizado de una obra literaria, artística o científica que se encuentra en los fondos de la institución. Este servicio contribuye a cumplir la misión de las bibliotecas de apoyar a la investigación, la educación y la participación cultural, teniendo en cuenta los límites de las leyes existentes en propiedad intelectual.

Para facilitar el conocimiento de los condicionantes jurídicos que hacen viable este servicio, FESABID ha publicado el informe “Bibliotecas y límites en el contexto digital. El préstamo digital controlado en España”, obra de Raquel Xalabarder, catedrática de Propiedad Intelectual en la Universitat Oberta de Catalunya (UOC) y una reconocida experta internacional en materia de propiedad intelectual; con amplio conocimiento sobre los límites a la propiedad intelectual, que facilitan las actividades de bibliotecas, archivos y museos. En la actualidad es presidenta del grupo español Asociación Literaria y Artística para la Defensa del Derecho del Autor, de la ALAI, la Sociedad Europea de Derechos de Autor y de la Asociación Literaria y Artística Internacional. Recientemente ha sido nombrada directora de la Patent Academy, de la European Patent Office.

Sobre la IA: ¿Qué debemos regular?

«Regulatory Framework Proposal on Artificial Intelligence | Shaping Europe’s Digital Future», 30 de junio de 2023. https://digital-strategy.ec.europa.eu/en/policies/regulatory-framework-ai.

La Comisión Europea propuesto el primer marco legal sobre inteligencia artificial (IA) que aborda los riesgos de la IA y coloca a Europa en una posición líder a nivel mundial.

La propuesta regulatoria tiene como objetivo proporcionar a los desarrolladores, implementadores y usuarios de IA requisitos y obligaciones claras con respecto a usos específicos de la IA. Al mismo tiempo, la propuesta busca reducir las cargas administrativas y financieras para las empresas, en particular las pequeñas y medianas empresas (PYMEs).

La propuesta forma parte de un paquete más amplio sobre IA, que también incluye el Plan Coordinado actualizado sobre IA. Juntos, el marco regulatorio y el Plan Coordinado garantizarán la seguridad y los derechos fundamentales de las personas y las empresas en lo que respecta a la IA. Además, fortalecerán la adopción, inversión e innovación en IA en toda la Unión Europea.

¿Por qué necesitamos normas sobre la inteligencia artificial (IA)?

La regulación propuesta sobre la IA garantiza que los europeos puedan confiar en lo que la IA tiene para ofrecer. Si bien la mayoría de los sistemas de IA presentan un riesgo limitado o nulo y pueden contribuir a resolver muchos desafíos sociales, ciertos sistemas de IA crean riesgos que debemos abordar para evitar resultados indeseables.

Por ejemplo, a menudo no es posible averiguar por qué un sistema de IA ha tomado una decisión o predicción y ha tomado una acción particular. Por lo tanto, puede resultar difícil evaluar si alguien ha sido perjudicado injustamente, como en una decisión de contratación o en una solicitud para un programa de beneficios públicos.

Aunque la legislación existente proporciona cierta protección, no es suficiente para abordar los desafíos específicos que pueden plantear los sistemas de IA.

Las normas propuestas:

  • Abordar los riesgos creados específicamente por las aplicaciones de IA.
  • Proponer una lista de aplicaciones de alto riesgo.
  • Establecer requisitos claros para los sistemas de IA en aplicaciones de alto riesgo.
  • Definir obligaciones específicas para los usuarios de IA y los proveedores de aplicaciones de alto riesgo.
  • Proponner una evaluación de conformidad antes de que el sistema de IA se ponga en servicio o se coloque en el mercado.
  • Proponer la aplicación después de que dicho sistema de IA se haya colocado en el mercado.
  • Proponer una estructura de gobernanza a nivel europeo y nacional.

El Marco Regulatorio define 4 niveles de riesgo en la inteligencia artificial (IA):

  1. Riesgo inaceptable
  2. Riesgo alto
  3. Riesgo limitado
  4. Riesgo mínimo o nulo

Riesgo inaceptable

Todos los sistemas de inteligencia artificial (IA) considerados una amenaza evidente para la seguridad, los medios de vida y los derechos de las personas serán prohibidos, desde la calificación social por parte de los gobiernos hasta los juguetes que utilizan asistentes de voz que fomentan un comportamiento peligroso.

Riesgo alto

Los sistemas de IA identificados como de alto riesgo incluyen la tecnología de IA utilizada en:

  • Infraestructuras críticas (por ejemplo, transporte), que podrían poner en riesgo la vida y la salud de los ciudadanos.
  • Educación o formación profesional, que pueden determinar el acceso a la educación y la carrera profesional de alguien (por ejemplo, calificación de exámenes).
  • Componentes de seguridad de productos (por ejemplo, aplicaciones de IA en cirugía asistida por robots).
  • Empleo, gestión de trabajadores y acceso al trabajo por cuenta propia (por ejemplo, software de clasificación de CV para procedimientos de contratación).
  • Servicios privados y públicos esenciales (por ejemplo, calificación crediticia que niega a los ciudadanos la oportunidad de obtener un préstamo).
  • Aplicación de la ley que puede interferir con los derechos fundamentales de las personas (por ejemplo, evaluación de la fiabilidad de la evidencia).
  • Gestión de migración, asilo y control fronterizo (por ejemplo, verificación de la autenticidad de documentos de viaje).
  • Administración de justicia y procesos democráticos (por ejemplo, aplicación de la ley a un conjunto concreto de hechos).

Los sistemas de IA de alto riesgo estarán sujetos a estrictas obligaciones antes de que puedan ser puestos en el mercado:

  • Sistemas adecuados de evaluación y mitigación de riesgos.
  • Alta calidad de los conjuntos de datos que alimentan el sistema para minimizar riesgos y resultados discriminatorios.
  • Registro de la actividad para garantizar la trazabilidad de los resultados.
  • Documentación detallada que proporcione toda la información necesaria sobre el sistema y su propósito para que las autoridades evalúen su cumplimiento.
  • Información clara y adecuada para el usuario.
  • Medidas apropiadas de supervisión humana para minimizar el riesgo.
  • Alto nivel de robustez, seguridad y precisión.

Todos los sistemas de identificación biométrica remota se consideran de alto riesgo y están sujetos a requisitos estrictos. El uso de la identificación biométrica remota en espacios de acceso público con fines de aplicación de la ley está, en principio, prohibido.

Se definen y regulan estrictamente excepciones limitadas, como cuando sea necesario buscar a un niño desaparecido, prevenir una amenaza terrorista específica e inminente o detectar, localizar, identificar o procesar a un autor o sospechoso de un delito grave.

Dicho uso está sujeto a autorización por parte de un órgano judicial u otro organismo independiente y a límites adecuados en cuanto a tiempo, alcance geográfico y bases de datos consultadas.

Riesgo limitado

El riesgo limitado se refiere a los sistemas de IA con obligaciones específicas de transparencia. Cuando se utilizan sistemas de IA como chatbots, los usuarios deben estar conscientes de que están interactuando con una máquina para que puedan tomar una decisión informada sobre si continúan o retroceden.

Riesgo mínimo o nulo

La propuesta permite el uso gratuito de la IA de riesgo mínimo. Esto incluye aplicaciones como videojuegos habilitados para la IA o filtros de correo no deseado. La gran mayoría de los sistemas de IA actualmente utilizados en la Unión Europea entran en esta categoría.

¿Qué son Los derechos de publicación secundarios?

Los derechos de publicación secundarios, también conocidos como «secondary rights» en inglés, se refieren a los derechos de un autor o creador que se derivan de la explotación secundaria de su obra después de la publicación inicial o su uso principal. Estos derechos pueden involucrar la reproducción, distribución y adaptación de la obra en diferentes formatos o para diferentes propósitos. Aquí hay algunas aclaraciones sobre los derechos de publicación secundarios:

  • Derechos de reproducción: Esto incluye el derecho de permitir que la obra se reproduzca en diferentes formatos o medios, como impresiones posteriores de libros, reediciones, versiones electrónicas o incluso adaptaciones cinematográficas.
  • Derechos de traducción: Los autores pueden otorgar derechos para que su obra sea traducida a diferentes idiomas y publicada en mercados internacionales.
  • Derechos de adaptación: Esto se refiere a la posibilidad de que la obra sea adaptada a otros medios, como películas, series de televisión, obras de teatro, videojuegos o cualquier otra forma de entretenimiento.
  • Derechos de distribución: Los derechos de distribución pueden incluir acuerdos para que la obra se distribuya en diferentes territorios geográficos o en diversos canales de venta, como librerías, tiendas en línea, bibliotecas, etc.
  • Derechos de sincronización: En el ámbito musical, los derechos de sincronización permiten que una canción sea utilizada en películas, programas de televisión, anuncios, videojuegos y otros medios audiovisuales.
  • Derechos de representación y actuación: En el teatro y las artes escénicas, los derechos de representación y actuación permiten la representación pública de una obra, ya sea en un teatro o en otro lugar.
  • Derechos de impresión de arte: En el caso de los artistas visuales, los derechos de impresión de arte pueden permitir la reproducción de su obra en forma de impresiones, carteles, tarjetas, etc.

En resumen, los derechos de publicación secundarios son una parte importante de la propiedad intelectual de un autor o creador y pueden generar ingresos adicionales a lo largo del tiempo a medida que su obra se utiliza de diversas formas o se difunde en diferentes mercados. Estos derechos se negocian generalmente a través de contratos y acuerdos entre el autor o creador y las partes interesadas, como editoriales, productoras de cine, agentes literarios, entre otros.

Los derechos de publicación secundarios pueden mejorar el acceso público a la investigación científica

Selman, Brianne, y Mark Swartz. «Secondary Publishing Rights Can Improve Public Access to Academic Research». The Conversation, 25 de julio de 2023. http://theconversation.com/secondary-publishing-rights-can-improve-public-access-to-academic-research-209761.

Tradicionalmente, los autores académicos ceden sus derechos de autor a editoriales privadas o no retienen suficientes derechos que les permitan a ellos o a sus financiadores volver a publicar o reutilizar su propio trabajo, o no conservan suficientes derechos que les permitan a ellos o a sus financiadores volver a publicar o reutilizar su propio trabajo. Esta práctica se opone al objetivo de la educación y la investigación: maximizar el impacto de la investigación compartiéndola lo más ampliamente posible y en el menor tiempo posible. impacto de la investigación compartiéndola lo más ampliamente posible en el momento oportuno.

Las agencias federales canadienses que conceden ayudas a la investigación anunciaron recientemente una revisión de la Política de Acceso Abierto a las Publicaciones de la Tri-Agencia, con el objetivo de exigir el acceso abierto y gratuito inmediato a todas las publicaciones académicas generadas a través de la investigación apoyada por la Tri-Agencia para 2025.

Para cumplir este requisito, el gobierno canadiense debería capacitar a los autores académicos mediante la adopción de derechos de publicación secundarios. Estos derechos garantizarían que los autores puedan «volver a publicar inmediatamente la investigación financiada con fondos públicos tras su primer depósito en un repositorio de acceso abierto o en cualquier otro lugar», incluso en los casos en que los editores lo prohíban.

Modificar la Ley de Propiedad Intelectual para incluir estos derechos daría a los autores académicos la posibilidad de poner a disposición del público artículos de revistas financiados por los contribuyentes a través del acceso abierto tras su publicación.

Permitir que la investigación canadiense sea accesible abiertamente sin barreras contribuirá al bien público, ayudando a fomentar la innovación y el descubrimiento.

La investigación encerrada tras muros de pago es un impedimento para la ciencia, la innovación y el progreso cultural. En el pasado, la mayoría de los trabajos de investigación sólo eran accesibles para las personas que pagaban por acceder a ellos o que trabajaban o estudiaban en universidades dispuestas a pagar por el acceso. Este modelo está cambiando, y muchas publicaciones están ahora a disposición del público en abierto. Sin embargo, cada vez se exige más a los autores que paguen a los editores para poder publicar en acceso abierto.

La actual Política de Acceso Abierto a las Publicaciones de la Agencia Tripartita exige que los autores pongan a disposición del público en línea copias de los artículos de revistas financiadas, pero permite un periodo de embargo de 12 meses en el que los editores obtienen derechos exclusivos sobre el contenido y pueden mantenerlo bloqueado tras un muro de pago. Esto puede suponer importantes retrasos en el libre acceso a investigaciones vitales.

Los datos de OA.Report muestran que las publicaciones financiadas por el Consejo de Investigación de Ciencias Sociales y Humanidades de Canadá solo cumplían la política en un 52% en 2023 hasta la fecha. El resultado es que gran parte de la investigación financiada con fondos públicos sigue sin estar a disposición del público.

Las APC son tasas que pagan los autores académicos por publicar en revistas de acceso abierto. Los autores pueden pagar entre 1.000 y 13.000 dólares. Las revistas dependen cada vez más de los APC, lo que hace que el coste de la publicación en acceso abierto sea prohibitivo para muchos autores. Las estimaciones indican que los autores académicos canadienses gastaron al menos 27,6 millones de dólares en gastos de procesamiento de 2015 a 2018, a pesar de la preponderancia de las revistas de acceso abierto gratuitas.

Los autores no siempre tienen fondos para cubrir estas tarifas, y descargarlas a las bibliotecas universitarias a través de fondos de acceso abierto o acuerdos transformadores no es sostenible y conduce a oportunidades de publicación desiguales entre instituciones grandes y pequeñas. Además, los académicos del Sur Global han llamado la atención sobre la naturaleza desigual de la publicación basada en APC, mientras que otros modelos de financiación de revistas de acceso abierto se están eliminando.

Existen vías claras que permiten un acceso más abierto. Mientras que la publicación de revistas académicas es extremadamente rentable para las editoriales, los autores, editores y revisores que forman la columna vertebral del sistema rara vez son compensados por su trabajo y se enfrentan a dificultades para negociar acuerdos de publicación justos.

La Federación Canadiense de Asociaciones de Bibliotecarios y Bibliotecas ha propuesto recientemente una solución parcial: ofrecer derechos de publicación secundarios a los autores académicos en Canadá. La propuesta cuenta también con el respaldo de la Asociación Canadiense de Bibliotecas de Investigación.

Los derechos de publicación secundarios ya se han implantado en múltiples países europeos, siendo quizás el ejemplo más notable la Enmienda Taverne en los Países Bajos, que ha visto cómo la tasa de acceso abierto superaba el 80%.

La aplicación de estos derechos en los países europeos incluye actualmente periodos de embargo. Sin embargo, la Asociación Europea de Bibliotecas de Investigación ha publicado un borrador de redacción de derechos secundarios sin periodo de embargo que permitiría el «autoarchivo legal en repositorios abiertos, públicos y sin ánimo de lucro«.

Si Canadá adoptara una ley similar junto con la revisión de la política de la Triple Agencia, se podría convertir en un líder mundial en publicaciones académicas de acceso abierto.

En última instancia, un acceso abierto más inmediato y a menor coste significaría que todos tendríamos un mejor acceso a la información que podría ayudarnos a comprender mejor el mundo que nos rodea, ya se trate de información médica, innovaciones en ingeniería o nuevas exploraciones de la cultura y la historia.

Políticas de IA en todo el mundo: Implicaciones y recomendaciones para las bibliotecas

Lo, Leo S. «AI Policies across the Globe: Implications and Recommendations for Libraries». IFLA Journal, 27 de agosto de 2023, 03400352231196172. https://doi.org/10.1177/03400352231196172.

Este artículo analiza las políticas sobre inteligencia artificial propuestas en EE.UU., Reino Unido, Unión Europea, Canadá y China, y sus implicaciones para las bibliotecas. A medida que la inteligencia artificial revoluciona el funcionamiento de las bibliotecas, plantea retos complejos, como dilemas éticos, problemas de privacidad de los datos y cuestiones de acceso equitativo. El artículo destaca temas clave de estas políticas, como la ética, la transparencia, el equilibrio entre innovación y regulación y la privacidad de los datos. También identifica áreas de mejora, como la necesidad de directrices específicas sobre la mitigación de sesgos en los sistemas de inteligencia artificial y la navegación por las cuestiones de privacidad de datos. El artículo ofrece además recomendaciones prácticas para que las bibliotecas se comprometan con estas políticas y desarrollen mejores prácticas para el uso de la inteligencia artificial. El estudio subraya la necesidad de que las bibliotecas no sólo se adapten a estas políticas, sino que se comprometan activamente con ellas, contribuyendo al desarrollo de una gobernanza de la inteligencia artificial más completa y eficaz.

Introduction

La inteligencia artificial (IA) está revolucionando el funcionamiento de las bibliotecas, ofreciendo nuevas vías para las recomendaciones personalizadas, la investigación avanzada y la eficiencia operativa. Sin embargo, el rápido avance de la IA también plantea retos complejos, como dilemas éticos, problemas de privacidad de los datos y cuestiones de acceso equitativo. Por ello, las políticas y normativas sobre IA propuestas por EE.UU., Reino Unido, la Unión Europea, Canadá y China no sólo proporcionan un marco crucial para afrontar estos retos, sino que también revelan áreas de crítica que deben abordarse.

El «Blueprint for an AI bill of rights» de EE.UU.  (Office of Science and Technology Policy, 2022), Reino Unido “A pro-innovation approach to AI regulation” (Secretary of State for Science, Innovation and Technology, 2023), Ley de Inteligencia Artificial de la Unión Europea (European Commission, 2021), a Ley de Inteligencia Artificial y Datos de Canadá (Government of Canada, 2023), y las «Medidas para la gestión de los servicios de inteligencia artificial generativa» de China (Webster, 2023) representan cada una un paso significativo para abordar las implicaciones éticas de la IA y garantizar un acceso equitativo a las oportunidades. Estas políticas ponen de relieve temas clave, como la ética, la transparencia, el equilibrio entre innovación y regulación, la privacidad de los datos y la naturaleza del panorama normativo. Sin embargo, también revelan áreas de crítica que deben abordarse, incluida la necesidad de directrices específicas sobre la mitigación de los sesgos en los sistemas de IA, la navegación por las cuestiones de privacidad de datos y la determinación del nivel de riesgo asociado con un sistema de IA en particular.

Aunque muchos otros países también han desarrollado o están desarrollando sus propias políticas u hojas de ruta en materia de IA (OCDE.AI, s.f.), se seleccionaron estas cinco políticas propuestas por varias razones:

  • Influencia mundial: EE.UU., Reino Unido, la Unión Europea, Canadá y China son actores importantes en el panorama mundial de la IA. Es probable que sus políticas tengan un impacto sustancial en las normas y prácticas mundiales de IA, influyendo en la dirección del desarrollo y la regulación de la IA en todo el mundo.
  • Diversidad de enfoques: las políticas seleccionadas representan una variedad de enfoques de la regulación de la IA, desde el enfoque más laissez-faire y centrado en la innovación del Reino Unido hasta el enfoque exhaustivo y basado en el riesgo de la Unión Europea. Esta diversidad permite una comparación y un análisis más sólidos de las distintas estrategias reguladoras.
  • Relevancia para las bibliotecas: cada una de estas políticas tiene implicaciones significativas para las bibliotecas, un aspecto clave de este artículo. Al examinar estas políticas, podemos hacernos una idea de los posibles retos y oportunidades a los que pueden enfrentarse las bibliotecas en la era de la IA.

A medida que las bibliotecas aprovechan progresivamente el poder de la IA para aumentar sus servicios y operaciones -incluido el uso de chatbots para los servicios de referencia  (Ehrenpreis and DeLooper, 2022), la indexación y clasificación automatizada de materias (National Library of Finland, n.d.) y los repositorios institucionales mejorados con aprendizaje automático (Yelton, n.d.)-, es imperativo que no solo se adapten a las políticas de IA imperantes, sino que también se comprometan proactivamente con ellas. Este compromiso implica la participación activa en el discurso en curso en torno a la gobernanza de la IA, la defensa de políticas que aborden de manera integral sus necesidades y desafíos únicos, y el desarrollo de mejores prácticas para la utilización de la IA que estén en consonancia con su misión y valores. A medida que el panorama de la IA evoluciona rápidamente, las políticas y prácticas de las bibliotecas deben adaptarse y evolucionar al mismo tiempo.

Estas políticas subrayan temas clave, como la ética, la transparencia, el equilibrio entre innovación y regulación, la privacidad de los datos y la naturaleza del panorama normativo. Sin embargo, también exponen áreas que deben seguir explorándose y mejorándose, incluida la necesidad de directrices explícitas sobre la mitigación de los sesgos en los sistemas de IA, el tratamiento de las preocupaciones sobre la privacidad de los datos y la evaluación del nivel de riesgo asociado a sistemas específicos de IA.

Es crucial reconocer que estas cinco políticas de IA, en el momento de redactar este documento, se encuentran en fase de propuesta y desarrollo, y aún no se han codificado como ley. Sus versiones finales pueden desviarse significativamente de sus formas actuales, lo que pone de relieve la naturaleza dinámica del panorama político de la IA. Esta fluidez exige que las bibliotecas permanezcan vigilantes y receptivas a estos desarrollos en evolución. A medida que estas políticas maduren y puedan convertirse en leyes, las bibliotecas tendrán que ajustar sus prácticas para garantizar el cumplimiento de las normativas más recientes, sin dejar de utilizar la IA para aumentar sus servicios y operaciones.

Más allá de estas recomendaciones, las bibliotecas también deberían contemplar el papel de la alfabetización en IA dentro de sus servicios. Las bibliotecas pueden desempeñar un papel fundamental en el fomento de la alfabetización en IA entre el público en general, promoviendo la transparencia, creando una demanda de responsabilidad y fomentando un compromiso crítico con las decisiones sobre IA. Las bibliotecas también pueden implementar medidas para salvaguardar los datos de los usuarios en el contexto de la IA, como garantizar que cualquier experimento con aplicaciones de IA que modifiquen o impulsen el comportamiento de los usuarios de la biblioteca se lleve a cabo sobre una base de consentimiento informado, o revisar meticulosamente las opciones de la biblioteca de aplicaciones de IA de terceros para evaluar su impacto en la privacidad de los usuarios (IFLA, 2020)..

OpenAI se esta enfrentando a varias demandas que alegan que la compañía utilizó conjuntos de datos con información personal y materiales bajo derechos de autor para entrenar a ChatGPT

OpenAI ha enfrentado múltiples demandas en las últimas semanas debido al uso de conjuntos de datos que contienen información personal y materiales con derechos de autor en el entrenamiento de sus modelos de IA, como ChatGPT. Estas demandas plantean preocupaciones sobre presuntas infracciones de derechos de autor y el uso indebido de datos sensibles, como registros médicos y conversaciones privadas, sin el consentimiento apropiado.


OpenAI se ha enfrentado a varias demandas presentadas en las últimas semanas. Estas demandas han planteado preocupaciones sobre el uso de conjuntos de datos que contienen información personal y materiales con derechos de autor para entrenar a sus modelos de IA, como ChatGPT. Algunas de las demandas alegan infracciones de derechos de autor, mientras que otras afirman que OpenAI utilizó datos sensibles, como conversaciones privadas y registros médicos, sin el consentimiento adecuado.

Entre las demandas más destacadas se encuentra una demanda presentada por 16 demandantes no identificados que afirman que OpenAI utilizó datos sensibles en el entrenamiento de sus modelos de IA. Además, la comediante y autora Sarah Silverman, junto con los autores Christopher Golden y Richard Kadrey, han presentado demandas por infracción de derechos de autor contra OpenAI y Meta en un tribunal de distrito de Estados Unidos. Las demandas alegan, entre otras cosas, que los modelos ChatGPT de OpenAI y LLaMA de Meta fueron entrenados utilizando conjuntos de datos adquiridos ilegalmente que contenían sus obras, las cuales afirman haber sido obtenidas de sitios web de «bibliotecas piratas» como Bibliotik, Library Genesis, Z-Library y otros, mencionando que los libros están «disponibles en masa a través de sistemas de torrents». En la demanda contra OpenAI, los creadores presenta pruebas que demuestran que cuando se le solicita, ChatGPT resume sus libros, infringiendo sus derechos de autor. En las pruebas se muestra que el primer libro resumido por ChatGPT es Bedwetter de Silverman, mientras que también se utiliza como ejemplo el libro Ararat de Golden y el libro Sandman Slim de Kadrey. La demanda afirma que el chatbot no se preocupó por «reproducir ninguna de las informaciones de gestión de derechos de autor que los demandantes incluyeron en sus obras publicadas».

Una demanda presentada en un tribunal federal en San Francisco alega que OpenAI copió texto de libros ilegalmente al no obtener el consentimiento de los titulares de los derechos de autor, darles crédito ni compensarlos. La demanda, Tremblay v. OpenAI Inc, afirma que ChatGPT puede resumir de manera precisa los libros de ciencia ficción y terror de los autores. Esto sugiere que el chatbot ha leído y absorbido sus obras. Los autores alegan que ChatGPT violó la ley de derechos de autor al eliminar los avisos de derechos de autor de estos libros.

Otra demanda alega que los modelos de aprendizaje automático de OpenAI, incluyendo ChatGPT y DALL-E, recopilan ilegalmente la información personal de las personas en Internet, violando diversas leyes de privacidad. La demanda, conocida como PM v. OpenAI LP, afirma que OpenAI obtiene información privada de las personas directamente a través de sus sistemas de IA y otras aplicaciones que incorporan ChatGPT. La demanda alega que OpenAI ha incorporado sus sistemas en varias plataformas como Snapchat, Spotify, Stripe, Slack y Microsoft Teams. Afirma que OpenAI recopiló clandestinamente imágenes, ubicaciones, preferencias musicales, información financiera y comunicaciones privadas de los usuarios a través de estas integraciones. Además, la denuncia argumenta que esta recopilación y uso de datos violaron las leyes de privacidad, especialmente en lo que respecta a los datos de los niños.

Estas demandas han generado un debate sobre la ética y las prácticas de recopilación de datos utilizadas en el desarrollo de modelos de IA. OpenAI aún no ha hecho comentarios públicos específicos sobre las demandas y se espera que el proceso legal siga su curso para determinar los resultados. Las acusaciones resaltan la importancia de abordar de manera ética y legal la recopilación y el uso de datos en el desarrollo de la inteligencia artificial. El proceso legal determinará los resultados de estas demandas y puede tener implicaciones significativas para la industria, y la regulación en el campo de la IA.

La economía anti-propiedad de los libros electrónicos: cómo los editores y las plataformas han transformado la forma en que leemos en la era digital

The Anti-Ownership Ebook Economy: How Publishers and Platforms Have Reshaped the Way We Read in the Digital Age. Engelberg Center on Innovation Law and Policy en NYU Law, 2023

Texto completo

El informe examina los aspectos económicos, legales y sociales de las licencias y la propiedad de los libros electrónicos, y presenta pruebas que respaldan la idea de que los editores han formado asociaciones con plataformas de licencias de libros electrónicos que dificultan la posesión de libros digitales.

El Engelberg Center on Innovation Law and Policy en NYU Law ha publicado un nuevo e innovador libro blanco, «The Anti-Ownership Ebook Economy How Publishers and Platforms Have Reshaped the Way We Read in the Digital Age «.

El documento examina la dinámica económica, legal y social de la concesión de licencias y la propiedad de libros electrónicos, y encuentra pruebas que respaldan la idea de que los editores han formado asociaciones con plataformas de concesión de licencias de libros electrónicos que hacen que la capacidad de poseer libros digitales sea casi imposible.

“Comprender por qué los libros electrónicos se venden tan raramente requiere conocer las prioridades, motivaciones y limitaciones de una amplia gama de partes interesadas en los libros electrónicos”, dijo Michael Weinberg, director ejecutivo del Centro Engelberg. “Este documento saca a la luz esas dinámicas, sirviendo como referencia para futuras investigaciones sobre este tema crítico”.

El libro blanco ha estado en desarrollo durante más de un año y fue coescrito por Weinberg, el profesor de la Facultad de Derecho de la NYU Jason Schultz, la profesora de derecho de la CUNY y becaria del Centro Engelberg Sarah Lamdan, y la becaria del Centro Engelberg Claire Woodcock.

“Creo que gran parte de la oposición sobre cómo accedemos a los libros electrónicos pinta a diferentes partes como villanos”, dijo Sarah Lamdan. “Pero, ¿estas percepciones se basan en la realidad? ¿O las divisiones entre editores y bibliotecas son menos blanco y negro? ¿Hay simplemente desacuerdos de buena fe sobre cómo debería funcionar la venta y el préstamo de libros en línea?

Claire Woodcock, periodista independiente y recién graduada del programa de Maestría en Artes en Medios y Compromiso Público de CU Boulder, se unió al proyecto el otoño pasado como becaria digital del Centro Engelberg para ayudar a descubrir respuestas a algunas de las preguntas restantes que Weinberg, Schultz y Lamdan tenían sobre los flujos de trabajo de los editores y las plataformas, los sistemas de creencias sobre los modelos de licencias y hasta qué punto se utilizan los datos de los consumidores para sostener el mercado.

“Todavía hay mucho que no sabemos sobre el impacto que tiene el préstamo de libros en bibliotecas digitales en ese mercado”, dijo Claire Woodcock. “Dicho esto, creo que los conocimientos que hemos obtenido de esta conversación con las partes interesadas de toda la industria nos brindan una comprensión mucho más completa de cómo surgió la relación editor-plataforma y qué significa eso para los consumidores institucionales como las bibliotecas”.

“La economía del libro electrónico contra la propiedad: cómo los editores y las plataformas han reformado la forma en que leemos en la era digital” se presenta cuando los tribunales están navegando por la ley de derechos de autor en la era posdigital.

“Los tribunales están luchando por comprender los problemas legales que rodean a los libros electrónicos, especialmente cómo se puede aplicar el uso justo a la posesión o préstamo de ellos”, dijo Jason Schultz. “Este libro blanco ayuda a aclarar dónde estamos y hacia dónde debe ir la ley para preservar la propiedad digital, especialmente para las bibliotecas que dependen de la propiedad de sus libros para que los usuarios puedan tomarlos prestados sin cargo”.

¿Cómo sería la regulación de la IA?

Anjana Susarla, The. «What Would AI Regulation Look Like?» Gizmodo, 4 de junio de 2023. https://gizmodo.com/chatgpt-ai-what-would-ai-regulation-look-like-altman-1850501332.

Durante su testimonio en el Senado el 16 de mayo de 2023, el CEO de OpenAI, Sam Altman, hizo un llamado a los legisladores para considerar la regulación de la inteligencia artificial (IA). Altman propuso la creación de una agencia reguladora de la IA y la implementación de licencias para las empresas que trabajan en este campo. Estas propuestas son interesantes, pero es igualmente importante tener en cuenta las recomendaciones de otros expertos que participaron en el mismo panel.

Entre las sugerencias de los expertos se destaca la necesidad de exigir transparencia en relación con los datos de entrenamiento utilizados en los sistemas de IA, así como establecer marcos claros para abordar los riesgos asociados con esta tecnología. Estos aspectos son cruciales para garantizar la responsabilidad y la ética en el desarrollo y despliegue de la IA.

Además, se plantea la preocupación de que el sector de la IA pueda estar presenciando la aparición de un nuevo tipo de monopolio tecnológico, dada la naturaleza económica de la creación de modelos de IA a gran escala. Este aspecto debe ser considerado en cualquier esfuerzo de regulación, ya que el poder económico y la influencia política de las empresas en este campo pueden tener un impacto significativo.

Si bien las sugerencias de Altman y las discusiones sobre la regulación de la IA son importantes, es necesario profundizar en los detalles sobre cómo se implementaría la regulación y qué formas específicas tomarían las licencias. Además, cualquier enfoque regulatorio debe tener en cuenta las complejidades del poder económico y la influencia política de las empresas de IA.

En este sentido es crucial abordar estas cuestiones importantes, pero también es necesario llevar a cabo un debate amplio y colaborativo para encontrar respuestas efectivas. La regulación de la IA puede ser útil para proteger los intereses públicos y garantizar la seguridad y la equidad, pero su implementación requerirá un enfoque cuidadoso y una consideración detallada de los diversos aspectos involucrados.


Los legisladores y líderes políticos de todo el mundo han comenzado a abordar las cuestiones planteadas en el testimonio de Sam Altman. En la Unión Europea, se ha implementado la Ley de IA, la cual se basa en un modelo de riesgo que clasifica las aplicaciones de IA en tres categorías: inaceptable, alto riesgo y riesgo bajo o mínimo. Esta clasificación reconoce que las herramientas de puntuación social utilizadas por los gobiernos y las herramientas automatizadas de contratación plantean riesgos diferentes a los asociados con el uso de la IA en filtros de spam, por ejemplo.


En lugar de establecer una nueva agencia que pueda verse influenciada por la industria tecnológica que debe regular, el Congreso puede considerar respaldar la adopción tanto en el ámbito privado como público del marco de gestión de riesgos del Instituto Nacional de Normas y Tecnología (NIST, por sus siglas en inglés) y aprobar proyectos de ley como la Algorithmic Accountability Act. Estas acciones tendrían el efecto de imponer la rendición de cuentas, de manera similar a cómo la Ley Sarbanes-Oxley y otras regulaciones transformaron los requisitos de información para las empresas. Además, el Congreso puede aprobar leyes integrales en relación a la privacidad de los datos.

La regulación de la IA debe implicar la colaboración entre el ámbito académico, la industria, los expertos políticos y las agencias internacionales. Se ha comparado este enfoque con organizaciones internacionales como el CERN (Organización Europea para la Investigación Nuclear) y el Grupo Intergubernamental de Expertos sobre el Cambio Climático, que han logrado éxitos significativos en sus respectivos campos. En el ámbito de Internet, se ha adoptado un enfoque similar a través de organismos no gubernamentales que involucran a organizaciones sin ánimo de lucro, la sociedad civil, la industria y los responsables políticos. Ejemplos notables incluyen la Corporación de Internet para la Asignación de Nombres y Números y la Asamblea Mundial de Normalización de las Telecomunicaciones. Estos ejemplos pueden servir como modelos para la industria y los responsables políticos al abordar la regulación de la IA.

Aunque Sam Altman de OpenAI planteó la posibilidad de otorgar licencias a empresas para el despliegue de tecnologías de inteligencia artificial (IA), es importante destacar que se refería específicamente a la inteligencia artificial general, es decir, sistemas de IA futuros con un nivel de inteligencia similar al humano que podrían plantear riesgos para la humanidad. Este enfoque sería similar a la concesión de licencias para el manejo de otras tecnologías potencialmente peligrosas, como la energía nuclear. Sin embargo, la concesión de licencias podría desempeñar un papel mucho antes de que se llegue a ese escenario futurista.

La auditoría algorítmica requeriría credenciales, estándares de práctica y una formación extensa. La exigencia de responsabilidades no se limita únicamente a otorgar licencias a individuos, sino que también implica establecer estándares y prácticas en toda la empresa.

Los expertos en imparcialidad de la IA argumentan que las cuestiones de parcialidad e imparcialidad en la IA no pueden abordarse únicamente mediante métodos técnicos, sino que requieren prácticas más amplias de mitigación de riesgos, como la adopción de juntas de revisión institucional para la IA. Un ejemplo de esto se encuentra en el ámbito médico, donde las juntas de revisión institucional ayudan a salvaguardar los derechos individuales de los pacientes.

Además, los organismos académicos y las sociedades profesionales han desarrollado normas para el uso responsable de la IA, ya sea en términos de atribución en textos generados por IA o en el intercambio de datos en el ámbito de la medicina a través de los pacientes. Estas normas buscan promover prácticas éticas y mitigar los riesgos asociados con el uso de la IA en diversas áreas.

El testimonio de Altman también omitió abordar la cuestión de los posibles monopolios en el campo de la IA. Una observación importante es la significativa inversión necesaria para entrenar modelos de IA a gran escala, como GPT-4, que es uno de los fundamentos de ChatGPT, o el generador de texto a imagen Stable Diffusion. Estos modelos son desarrollados principalmente por un reducido número de empresas, como Google, Meta, Amazon y Microsoft.

La falta de transparencia en los datos de entrenamiento utilizados por estas empresas ha sido motivo de preocupación. Expertos en ética de la IA, como Timnit Gebru, Emily Bender y otros, han advertido que la adopción generalizada de estas tecnologías sin una supervisión adecuada puede amplificar el sesgo de las máquinas a una escala social.

Además, es importante reconocer que los datos de entrenamiento de herramientas como ChatGPT incluyen el trabajo intelectual de numerosas personas, como colaboradores de Wikipedia, blogueros y autores de libros digitalizados. Sin embargo, los beneficios económicos derivados de estas herramientas recaen únicamente en las empresas tecnológicas.

Legislación de 2023 de interés para las bibliotecas estadounidenses

«Unpacking 2023 Legislation of Concern for Libraries«, EveryLibrary, 2023

Texto completo

EveryLibrary publica un informe exhaustivo sobre la legislación estatal de 2023 que afecta a las bibliotecas. El informe, «Unpacking 2023 Legislation of Concern for Libraries», está diseñado para apoyar y ayudar a las asociaciones de bibliotecas estatales en futuras campañas de promoción legislativa.

La reciente oleada de legislación estatal que afecta a las bibliotecas de todo Estados Unidos ha sido en gran medida negativa, y se ha centrado en restringir el acceso a determinados materiales, en particular los considerados nocivos o inapropiados para los menores. Hasta el 17 de junio de 2023, se han aprobado veinticuatro proyectos de ley en las legislaturas estatales. Dos fueron vetados, y 22 se encuentran en diversas fases de promulgación. Estos proyectos de ley se han promulgado en catorce estados: Arkansas, Florida, Iowa, Indiana, Kentucky, Luisiana, Maine, Mississippi, Montana, Dakota del Norte, Oklahoma, Tennessee, Texas y Utah. Los proyectos de ley abarcan varios temas recurrentes que plantean posibles retos para el funcionamiento y los servicios de las bibliotecas.

Este informe ofrece una revisión puntual de la legislación estatal que afecta a las bibliotecas y a la educación, a la vez que examina temas clave entre los distintos estados. El informe ofrece recomendaciones estratégicas para que los líderes de las asociaciones de bibliotecas estatales y los defensores legislativos formen coaliciones, activen a los electores y trabajen durante todo el ciclo de vida de un proyecto de ley, incluidas las comunicaciones previas a la sesión y las acciones posteriores a la sesión.

La propiedad de los contenidos generados por IA

Sheth, Sarang. «Who Owns AI-Generated Content? Understanding Ownership, Copyrighting, and How the Law Interprets AI-Generated Art – Yanko Design», 28 de mayo de 2023. https://www.yankodesign.com/2023/05/27/who-owns-ai-generated-content-understanding-ownership-copyrighting-and-how-the-law-interprets-ai-generated-art/.

El origen y la capacidad de los contenidos generados por IA han sido temas de larga data. El aprendizaje automático ha estado presente durante más de una década, permitiendo que las computadoras adquieran inteligencia al recopilar datos, analizarlos, «pensar» y «crear». Desde la histórica victoria de Deep Blue sobre Garry Kasparov en 1996 en una partida de ajedrez, seguida por el triunfo del superordenador Watson de IBM en el programa Jeopardy en 2011, hasta la victoria de AlphaGo sobre el campeón europeo de Go Fan Hui en 2015 por 5 a 0, hemos presenciado hitos impresionantes. Sin embargo, atribuir exclusivamente la victoria a las computadoras o a los ingenieros que las crearon plantea cuestiones difíciles de dilucidar:

¿Es correcto afirmar que las computadoras han derrotado a sus contrapartes humanas? ¿O deberíamos considerar que los ingenieros que diseñaron y desarrollaron estas máquinas son los verdaderos vencedores? Además, si un automóvil Tesla autónomo llegara a causar un accidente mortal a un peatón, ¿a quién se le atribuiría la culpa? ¿A la inteligencia artificial en sí? ¿Al humano que estaba al volante? ¿O al equipo de ingenieros de Tesla que creó el algoritmo de conducción autónoma? Estas preguntas aún no tienen respuestas definitivas.

La propiedad de los contenidos generados por IA es un ámbito jurídico complejo y en evolución. En muchos casos, los términos y condiciones establecidos por las empresas, como Tesla, aclaran que la responsabilidad recae en el conductor y no en la inteligencia artificial del vehículo. Sin embargo, la asignación precisa de responsabilidad en casos como este es un desafío complejo y requiere una cuidadosa consideración legal y ética.

La propiedad de los contenidos generados por IA depende normalmente de la participación y contribución de los creadores humanos. En muchas jurisdicciones, la legislación sobre derechos de autor concede la propiedad a los creadores humanos de obras originales. Sin embargo, dado que los contenidos generados por IA son producidos por algoritmos sin participación humana directa, la cuestión de la propiedad se vuelve más compleja.

En algunos casos, el propietario de la IA puede ser considerado propietario del contenido que genera. Podría tratarse de la persona u organización que creó o entrenó el algoritmo de IA. Sin embargo, este enfoque no es aceptado universalmente, y algunos sostienen que el resultado de una IA no debería estar sujeto a la protección de los derechos de autor porque carece de la creatividad o autoría humanas necesarias.

Como alternativa, la propiedad puede atribuirse a la persona o entidad que proporcionó los datos utilizados para entrenar la IA. Por ejemplo, si una IA se entrena con un conjunto de datos de fotografías, la titularidad de los derechos de autor de esas fotografías puede influir en la titularidad del contenido generado por la IA.

Cabe señalar que algunas jurisdicciones han empezado a explorar marcos jurídicos que abordan específicamente los contenidos generados por IA. Por ejemplo, la Directiva sobre derechos de autor de la Unión Europea, adoptada en 2019, incluye disposiciones que establecen que la protección de los derechos de autor no debe aplicarse a las obras generadas por IA sin participación humana. Sin embargo, los estados miembros son responsables de implementar esta directiva en sus leyes nacionales, por lo que puede haber variaciones en cómo se interpreta y aplica esto.

En lo que respecta a los derechos de autor de las obras de arte generadas por IA, la capacidad de garantizar la protección de los derechos de autor puede depender de la participación de creadores humanos en el proceso creativo. Si un artista humano contribuye a la concepción o el diseño de la obra de arte generada por la IA, puede reclamar derechos de autor sobre ella. Sin embargo, si la IA genera de forma autónoma la obra de arte sin intervención humana, puede ser más difícil hacer valer la propiedad de los derechos de autor.

La interpretación de la legislación sobre derechos de autor y los contenidos generados por IA sigue evolucionando, y las distintas jurisdicciones pueden adoptar enfoques diferentes. Es esencial consultar con profesionales del derecho versados en la propiedad intelectual y la ley de IA para comprender las implicaciones y normativas específicas de cada jurisdicción.