Archivo de la etiqueta: Legisación

Meta utilizó libros protegidos por derechos de autor para entrenar inteligencia artificial pese a las advertencias de sus propios abogados, según los autores

Paul, Katie. 2023. «Meta Used Copyrighted Books for AI Training despite Its Own Lawyers’ Warnings, Authors Allege». Reuters, 12 de diciembre de 2023, sec. Technology. https://www.reuters.com/technology/meta-used-copyrighted-books-ai-training-despite-its-own-lawyers-warnings-authors-2023-12-12/.

Los abogados habían advertido a Meta sobre los peligros legales de utilizar miles de libros pirateados para entrenar sus modelos de inteligencia artificial, pero la compañía lo hizo de todos modos, según un nuevo documento presentado en una demanda por infracción de derechos de autor iniciada este verano.

La nueva presentación, realizada el lunes por la noche, consolida dos demandas presentadas contra el propietario de Facebook e Instagram por la comediante Sarah Silverman, el ganador del Premio Pulitzer Michael Chabon y otros autores destacados. Estos alegan que Meta ha utilizado sus obras sin permiso para entrenar su modelo de lenguaje de inteligencia artificial, llamado Llama.

Un juez de California desestimó el mes pasado parte de la demanda de Silverman e indicó que daría a los autores el permiso para modificar sus reclamaciones.

Meta no respondió de inmediato a una solicitud de comentarios sobre las acusaciones.

La nueva demanda, presentada el lunes, incluye registros de chat de un investigador afiliado a Meta discutiendo la obtención del conjunto de datos en un servidor de Discord, una pieza de evidencia potencialmente significativa que indica que Meta sabía que el uso de los libros podría no estar protegido por la ley de derechos de autor de EE. UU.

En los registros de chat citados en la demanda, el investigador Tim Dettmers describe su intercambio con el departamento legal de Meta sobre si el uso de los archivos de libros como datos de entrenamiento sería «legalmente aceptable».

«En Facebook, hay muchas personas interesadas en trabajar con (The Pile), incluyéndome a mí, pero en su forma actual, no podemos usarlo por razones legales», escribió Dettmers en 2021, refiriéndose a un conjunto de datos que Meta ha admitido haber utilizado para entrenar su primera versión de Llama, según la demanda.

Un mes antes, Dettmers escribió que los abogados de Meta le habían dicho que «los datos no se pueden usar ni los modelos se pueden publicar si están entrenados con esos datos», según la demanda.

Aunque Dettmers no describe las preocupaciones de los abogados, sus colegas en el chat identifican a «los libros con derechos de autor activos» como la mayor fuente probable de preocupación. Afirman que el entrenamiento con esos datos debería «encajar dentro del uso legítimo», una doctrina legal en EE. UU. que protege ciertos usos no autorizados de obras con derechos de autor.

Dettmers, estudiante de doctorado en la Universidad de Washington, dijo a Reuters que no podía comentar de inmediato sobre las afirmaciones.

Las empresas tecnológicas han enfrentado una serie de demandas este año de creadores de contenido que los acusan de copiar obras protegidas por derechos de autor para construir modelos de inteligencia artificial generativos que han causado sensación a nivel mundial y han generado una frenética inversión.

Si estas demandas tienen éxito, podrían disminuir la fiebre de la inteligencia artificial generativa, ya que podrían aumentar el costo de construir modelos hambrientos de datos al obligar a las empresas de inteligencia artificial a compensar a artistas, autores y otros creadores de contenido por el uso de sus obras.

Al mismo tiempo, las nuevas normas provisionales en Europa que regulan la inteligencia artificial podrían obligar a las empresas a revelar los datos que utilizan para entrenar sus modelos, exponiéndolas a un mayor riesgo legal.

Meta lanzó la primera versión de su modelo de lenguaje grande Llama en febrero y publicó una lista de conjuntos de datos utilizados para el entrenamiento, incluyendo «la sección de libros Books3 de ThePile». Según la demanda, la persona que ensambló ese conjunto de datos ha dicho en otro lugar que contiene 196,640 libros.

La compañía no reveló datos de entrenamiento para su última versión del modelo, Llama 2, que puso a disposición para uso comercial este verano.

Llama 2 es gratuito para empresas con menos de 700 millones de usuarios activos al mes. Su lanzamiento se percibió en el sector tecnológico como un posible cambio de juego en el mercado de software de inteligencia artificial generativa, amenazando con trastocar la dominación de jugadores como OpenAI y Google, que cobran por el uso de sus modelos.

Library Copyright Alliance apoya la exención de la Oficina de Derechos de Autor de EE.UU. para que bibliotecas, archivos y museos puedan crear copias de preservación

Association of Research Libraries. «Library Copyright Alliance Supports US Copyright Office Exemption for Libraries, Archives, and Museums Breaking Digital Locks to Create Preservation Copies». Accedido 27 de octubre de 2023. https://www.arl.org/news/library-copyright-alliance-supports-us-copyright-office-exemption-for-libraries-archives-and-museums-breaking-digital-locks-to-create-preservation-copies/.

Este artículo analiza el apoyo de la Library Copyright Alliance (LCA) a la exención de la Oficina de Derechos de Autor de los Estados Unidos que permite a las bibliotecas, archivos y museos desbloquear discos DVD y Blu-ray con el propósito de crear copias de preservación.

El cambio climático, los conflictos humanos y las catástrofes naturales suponen riesgos para la vida y la salud de las personas, así como para las colecciones de materiales del patrimonio cultural. Para proteger estas valiosas colecciones en previsión de pérdidas debidas a catástrofes o al deterioro normal, las bibliotecas y los archivos deben evitar los bloqueos digitales de las obras de sus colecciones con el fin de preservarlas.

La Oficina de Derechos de Autor de los EE.UU. está de acuerdo: en su reciente notificación de propuesta de normativa, la oficina anunció su intención de renovar una exención que permite a las bibliotecas, archivos y museos que cumplan los requisitos romper los bloqueos digitales de los DVD y discos Blu-ray de sus colecciones al crear copias de conservación o sustitución de películas, incluidos programas de televisión y vídeos. La oficina concedió esta exención por primera vez en 2021; el actual ciclo de reglamentación es la primera vez que la exención se renueva.

Como parte de la actual reglamentación trienal de la Ley de Derechos de Autor para el Milenio Digital (DMCA), la Library Copyright Alliance (LCA) solicitó a la Oficina de Derechos de Autor la renovación de esta exención, aportando el testimonio de que «las instituciones de patrimonio cultural de todo el país han confiado en la exención… para hacer copias de conservación y sustitución de las películas de sus colecciones almacenadas en DVD y discos Blu-ray», ya que muchas películas de las colecciones «no están disponibles para su compra o transmisión» y los discos «siguen deteriorándose».

El LCA agradece que esta exención ofrezca a bibliotecas, archivos y museos la certeza de que romper los candados digitales para preservar las películas de sus colecciones no infringe el artículo 1201 de la DMCA. Pero las licencias de obras académicas digitales y materiales del patrimonio cultural pueden seguir representando un obstáculo si prohíben la conservación, el uso justo o la elusión de las medidas técnicas de protección.

La intervención del Congreso puede ser necesaria para aclarar que las excepciones y limitaciones previstas en la Ley de Derechos de Autor de EE.UU., o a través de la reglamentación de la Sección 1201, prevalecen sobre los términos de licencia que son incompatibles con esas exenciones. Por ejemplo, la Oficina de Derechos de Autor de EE.UU. ha propuesto un modelo de texto que establece que las bibliotecas, archivos y museos no serán responsables de infracción de los derechos de autor si realizan copias de conservación de obras cubiertas por cláusulas contractuales no negociables que prohíben tales actividades. La Ley de Derechos de Autor de Estados Unidos también podría modificarse para establecer que dichas cláusulas contractuales no son ejecutables.

En resumen, el artículo destaca la importancia de la exención que permite a las bibliotecas, archivos y museos desbloquear bloqueos digitales con fines de preservación y la necesidad de protecciones legales y claridad ante posibles barreras impuestas por los términos de licencia. Puede ser necesaria una acción del Congreso para reforzar estas protecciones.

Nuevo proyecto de ley en la Asamblea del Estado de Nueva York sobre venta de libros creados con IA generativa

New Bill in New York State Assembly: re: Sale of Books Created with Generative AI, New York State Assembly, 2023

Texto completo

El nuevo proyecto de ley exige que los vendedores en línea de libros creados total o parcialmente con el uso de inteligencia artificial generativa revelen dicho uso de la inteligencia artificial generativa antes de la realización de su venta; se aplica a todos los libros impresos y digitales que consten de texto, imágenes, audio, rompecabezas, juegos o cualquier combinación de los mismos.

Un libro es un libro, excepto cuando es un libro electrónico. Pero las grandes editoriales quieren que la compra de un libro sea como el alquiler de una película o el streaming de un álbum.

Bustillos, Maria. «A Book Is a Book Is a Book—Except When It’s an e-Book», 30 de agosto de 2023. https://www.thenation.com/article/culture/internet-archive-lawsuit-libraries-books/.

Comprar un libro no debería ser diferente de comprar una manzana. Cuando compras una manzana, el agricultor no puede aparecer más tarde en tu cocina y decidir que se te ha acabado el tiempo y que tienes que volver a pagar por ella. Es tuya para siempre: para comerla, pintarla en un bodegón o cortarla para la merienda de los niños. Y gracias a la doctrina de la primera venta de la ley de derechos de autor, codificada por el Congreso en 1909, los libros de tus estanterías también son tuyos para siempre, exactamente igual que tu manzana; eres libre de leerlos (o no), prestárselos a tus amigos o vendérselos a una librería de segunda mano, sin restricciones. La ley de derechos de autor equilibra el bien público -nuestro derecho colectivo a acceder a la información- con los derechos que concede a autores e inventores.

Las editoriales no pueden exigir más dinero por los libros de papel que ya has comprado, pero la tecnología para copiar y distribuir libros ha evolucionado mucho desde 1909. Así que cuatro grandes editoriales están actualmente en los tribunales, insistiendo en el derecho efectivo a irrumpir y exigir pagos múltiples y recurrentes por los libros digitales -como hacen con las películas digitales, la música y el software- y quieren ejercer ese mismo poder sobre los libros de las bibliotecas.

Esta amenaza a la propiedad de los libros es lo que hace que la actual demanda de los editores contra el Internet Archive sea políticamente peligrosa, y de una forma totalmente distinta a los anteriores desafíos y enmiendas a la ley de derechos de autor. En un momento en que aumentan las prohibiciones de libros y los ataques a bibliotecas, escuelas públicas y universidades, no es seguro para la democracia, ni para nuestra posteridad cultural, dejar el interruptor de «encendido/apagado» de los libros de las bibliotecas en manos de editoriales corporativas.

En marzo, después de casi tres años de litigio, el juez John G. Koeltl se puso del lado de los editores contra Internet Archive. Pero hay una trampa importante, como supimos hace unos días cuando se presentó su orden final.

El pleito gira en torno a la cuestión de si los libros electrónicos son libros, sujetos a las leyes vigentes que rigen la venta de libros, o si los editores pueden redefinir los libros electrónicos como soportes temporales de alquiler, una nueva clase de bienes no adquiribles, como las películas de Disney que sólo se pueden ver en streaming o el software de Microsoft que sólo se puede adquirir por suscripción. Pero las bibliotecas deben tener la opción de comprar y poseer sus libros -todos sus libros, incluidos los ebooks- y poseerlos absolutamente, como una manzana.

En el verano de 2020, Hachette, Penguin Random House, HarperCollins y Wiley acusaron a Internet Archive de «infracción masiva de los derechos de autor» por la forma en que Internet Archive presta sus libros electrónicos a los usuarios. En lugar de alquilar sus libros electrónicos a las editoriales, Internet Archive los escanea a partir de los libros en papel que posee, almacena los originales en papel y presta cada escaneado a un solo usuario a la vez, una práctica habitual en las bibliotecas conocida como Préstamo Digital Controlado (CDL, por sus siglas en inglés). Siguiendo el razonamiento de expertos abogados especializados en derechos de autor y eruditos bibliotecarios durante los últimos doce años, Internet Archive, junto con cientos de otras bibliotecas e instituciones archivísticas, sostiene que el CDL es una forma justa y lógica de preservar las prácticas bibliotecarias tradicionales para el mundo digital.

Tras la decisión de marzo, los litigantes en el pleito de Internet Archive empezaron a preparar un recurso de apelación. Sin embargo, en el auto final presentado el 11 de agosto, el juez Koeltl dictó una sentencia sorprendente que distaba mucho de conceder a los editores las soluciones que habían solicitado en un principio.

El objetivo de los editores era prohibir a Internet Archive el préstamo de cualquiera de sus libros protegidos por derechos de autor como libros electrónicos. Esa era la petición explícita en la demanda original. Pero ni siquiera este juez amigo de la industria estaba dispuesto a ir tan lejos; en su lugar, se puso de parte de la interpretación de la decisión por parte de Internet Archive. Por ahora, la Open Library tendrá que dejar de prestar sólo aquellos libros electrónicos para los que los editores ofrezcan sus propios libros electrónicos «competidores» bajo licencia. En otras palabras, la orden se basa únicamente en el argumento de que la Open Library está perjudicando los ingresos de las editoriales procedentes de los libros electrónicos, una distinción que parece ir al meollo de la disputa.

El dictamen de marzo del juez Koeltl guardaba un silencio desconcertante sobre la cuestión de cómo su decisión podría afectar a la capacidad futura de las bibliotecas para servir al bien público, en un mundo que depende cada vez más del acceso a los medios digitales. Su decisión final demuestra que esta cuestión central aún no se ha tenido en cuenta.

Los editores no deberían poder elegir las partes de la ley de derechos de autor que quieren cumplir; como se ha señalado, la ley de derechos de autor equilibra el bien público con los derechos comerciales. Si los ingresos de los editores de libros electrónicos están protegidos por las disposiciones existentes de la ley de derechos de autor que protegen a los titulares de derechos, entonces, presumiblemente, los lectores y las bibliotecas también deberían estar protegidos. Internet Archive, y todas las bibliotecas, deberían gozar de la misma protección en virtud de la doctrina de la primera venta que siempre les ha permitido conservar y prestar libros a los lectores.

Los escritores y artistas conscientes de las dimensiones políticas de nuestro trabajo tienen pocas opciones para contrarrestar las ambiciones antidemocráticas y antilibertarias de las empresas editoriales, entre otras cosas porque la industria se ha consolidado de forma espectacular en las últimas décadas. Las cinco grandes editoriales, tres de las cuales son demandantes en el caso de Internet Archive, constituyen un oligopolio efectivo en el sector editorial estadounidense. Como conseguir un contrato tradicional con una gran editorial es tan raro y tan preciado, los escritores se sienten impotentes, como suplicantes que no tienen más remedio que aceptar las condiciones que les ofrezcan. Incluso los más exitosos tienen que mantener relaciones profesionales precariamente insustituibles. Y en público, las grandes editoriales promocionan siempre y con entusiasmo su compromiso con los derechos de los autores; es bueno para la marca.

A pesar de todo, el pasado septiembre más de mil escritores, entre ellos Neil Gaiman, Naomi Klein, Mike Masnick, Lilly Wachowski, Kim Kelly, Jeff Sharlet, Cory Doctorow, Daniel Ellsberg, Laurie Penny, Eli Valley y Mattie Lubchansky firmaron una carta abierta en apoyo de Internet Archive y los derechos de propiedad digital para las bibliotecas. Y, lo que es más revelador, ni un solo autor de renombre se pronunció en apoyo de los editores tras su victoria de marzo; de hecho, algunos de los que antes habían apoyado a los editores, como Chuck Wendig, parecieron retractarse y firmaron la carta abierta. A medida que se van conociendo los hechos de la demanda, parece que las partes interesadas han empezado a comprender sus peligrosas implicaciones.

A la afirmación de los editores de que lo único que quieren es proteger los derechos de los autores, sólo puedo decir que a los autores les vendrían bien mejores defensores. Publishers Weekly informó en abril sobre una encuesta reciente que mostraba que los autores independientes autopublicados «ganan de media más que los autores publicados por casas tradicionales». El Gremio de Autores, un grupo comercial del lado de los editores en la demanda de Internet Archive, informó de que durante la década entre 2008 y 2018, los ingresos de los autores habían caído un 42 por ciento, a una media de 6.080 dólares. La remuneración anual de los altos ejecutivos editoriales, por su parte, se sitúa habitualmente en las siete cifras.

«Internet Archive] argumenta que su préstamo digital facilita el acceso a los libros a los usuarios que viven lejos de las bibliotecas físicas, y que apoya la investigación, la erudición y la participación cultural haciendo que los libros sean ampliamente accesibles en Internet», escribió. «Pero estos supuestos beneficios no pueden contrarrestar el perjuicio que el mercado causa a las editoriales».

Para todos aquellos que quieran ayudar a crear un modelo mejor de propiedad intelectual para la era digital, es hora de luchar contra el enfoque corporativo de los derechos de autor, que cada vez se hace más a expensas de la igualdad, la justicia distributiva, la inclusividad, la privacidad y la autodeterminación, los urgentes objetivos y valores sociales que impulsan a muchos a convertirse en artistas y escritores en primer lugar. Garantizar la propiedad de los libros digitales para las bibliotecas es un buen punto de partida.

Regulación de la inteligencia Inteligencia Artificial en el mundo

Regulation of Artificial Intelligence Around the World
August 2023
. The Law Library of Congress, Global Legal Research Directorate, Agosto 2023

Texto completo

Este informe, preparado por el equipo de investigación de la Biblioteca Jurídica del Congreso, presenta una compilación de jurisdicciones a nivel mundial que han implementado o propuesto legislación relacionada específicamente con la inteligencia artificial (IA) o los sistemas que la emplean. Estos investigadores han examinado exhaustivamente todas las jurisdicciones en sus áreas de estudio en busca de este tipo de legislación, y los hallazgos se han registrado en la lista adjunta. Dicha lista se acompaña de citas y breves descripciones de la legislación pertinente.

En el caso de jurisdicciones nacionales, subnacionales y de la Unión Europea (UE), solo se han incluido los instrumentos adoptados o propuestos que tienen un alcance legal efectivo, excluyendo aquellos que no poseen dicho efecto jurídico.

La Ley de Propiedad Intelectual de EE.UU. puede regular la IA sin enmiendas

Klosek, Katherine. «US Copyright Act Can Address AI without Amendment». Association of Research Libraries (blog), 7 de julio de 2023. https://www.arl.org/blog/us-copyright-act-can-address-ai-without-amendment/.

La inteligencia artificial generativa (IA) es una tecnología que puede ayudar a los autores y otros creadores a generar ideas, editar obras originales y realizar investigaciones. Pero en lugar de depender de la legislación existente para abordar preguntas como si el uso de obras para entrenar modelos de IA es uso legítimo, o si las obras que incluyen contenido generado por IA son elegibles para la protección de derechos de autor, algunos legisladores en Estados Unidos parecen estar decididos a desarrollar nuevos marcos legales o regímenes de licencias. Este mes, Library Copyright Alliance (LCA) emitió unos principios para guiar a los legisladores en sus conversaciones sobre la ley de derechos de autor y la IA. La LCA es la voz de la comunidad bibliotecaria en política de derechos de autor; sus miembros, la Asociación de Bibliotecas de Estados Unidos (ALA) y la Asociación de Bibliotecas de Investigación (ARL), representan a más de 300,000 profesionales de la información y miles de bibliotecas.

Los principios de la LCA sostienen que la legislación de derechos de autor de Estados Unidos es totalmente capaz de abordar preguntas sobre los resultados generados por la IA. Por ejemplo, en marzo de este año, US Copyright Office emitió orientación de registro reiterando el requisito de larga data de que una obra sea creada por un ser humano para recibir protección de derechos de autor. En un seminario web reciente, la Oficina de Derechos de Autor aclaró que los solicitantes deben revelar los elementos generados por IA de una obra utilizando el mismo proceso que otros elementos no reclamables (como obras en dominio público o obras registradas previamente). Sin embargo, no se requiere que los solicitantes revelen cuando las obras contienen una cantidad mínima de autoría aportada por IA, por ejemplo, cuando se utiliza la IA para editar o difuminar una obra original. Para determinar si la contribución de la IA a una obra es mínima, la oficina alentó a los posibles solicitantes a considerar si ese elemento de la obra sería elegible para registro si fuera producido por un autor humano.

Las preocupaciones sobre la ingesta de una obra con derechos de autor original por parte de la IA y la producción de un resultado sustancialmente similar a la obra original también pueden abordarse mediante la legislación existente; el titular de los derechos de autor de una obra original puede demandar tanto al proveedor de la IA como al usuario que instigó a la IA a producir una obra sustancialmente similar.

En cuanto al aspecto de entrada, la ingesta de obras con derechos de autor para crear modelos de lenguaje extensos u otras bases de datos de entrenamiento de IA es un uso legítimo establecido, en línea con el precedente establecido en el caso Authors Guild v. HathiTrust y respaldado en el caso Authors Guild v. Google. En esos casos, el Tribunal de Apelaciones de Estados Unidos para el Segundo Circuito determinó que la ingesta de grandes cantidades de obras con el propósito de realizar usos no expresivos de esas obras, como la extracción de texto y datos, era un uso legítimo. Por supuesto, la copia y visualización de elementos no protegidos de las obras, como hechos, no constituye una infracción, según el caso Feist Publications v. Rural Telephone Service Company.

Los principios de la LCA se derivaron de los puntos que la LCA presentó durante la participación en la sesión de escucha de la Oficina de Derechos de Autor sobre la IA generativa y los derechos de autor en relación con las obras literarias. El 5 de julio, la LCA presentó los principios a la Oficina de Política Científica y Tecnológica de Estados Unidos (OSTP, por sus siglas en inglés) en respuesta a su solicitud de información para actualizar las prioridades nacionales de Estados Unidos y las acciones futuras sobre la IA. La LCA continuará participando en la iniciativa de la Oficina de Derechos de Autor sobre derechos de autor y IA, con la administración de Biden-Harris en el desarrollo de una Estrategia Nacional de Inteligencia Artificial (IA), y con otros legisladores federales para garantizar que la legislación y la regulación no obstaculicen el poder de la IA para expresar la creatividad y que los creadores puedan utilizar la IA para lograr los objetivos del sistema de derechos de autor. Estos principios también pueden guiar nuestra participación en la coordinación internacional y el establecimiento de políticas relacionadas con la IA y los derechos de autor.

Se aprueba el Acta de Inteligencia Artificial de la Unión Europea

«The Artificial Intelligence Act» European Union, 2023

Acceder

Texto completo

Los legisladores de la UE aprueban una ley histórica sobre la IA. La Ley de Inteligencia Artificial establece normas de protección de la intimidad más estrictas, leyes de transparencia más rigurosas y multas más elevadas en caso de falta de cooperación.

«The Artificial Intelligence Act» (El Acta de Inteligencia Artificial), aprobada en junio de 2023 tiene como objetivo es establecer un marco regulatorio que promueva la confianza y la seguridad en el desarrollo y uso de la IA en la UE. El Acta busca lograr un equilibrio entre la promoción de la innovación y el desarrollo de la inteligencia artificial (IA) y la protección de los derechos fundamentales, la seguridad y la transparencia. Esta legislación aborda diversos aspectos de la IA y propone regulaciones específicas para distintos tipos de sistemas de alto riesgo.

Entre los sistemas de IA considerados de alto riesgo se encuentran aquellos utilizados en la vigilancia masiva, en infraestructuras críticas, aquellos que afectan la seguridad y la salud, así como los empleados en la educación y el empleo, entre otros ámbitos. El objetivo es establecer requisitos y medidas específicas para estos sistemas, garantizando su seguridad, precisión y responsabilidad.

El Acta también pone énfasis en la transparencia, exigiendo que los proveedores de sistemas de IA brinden información clara sobre cómo funcionan y los datos utilizados. Además, se propone la implementación de evaluaciones de riesgos para los sistemas de IA de alto riesgo, así como la creación de una estructura de gobernanza y supervisión a nivel de la UE, en colaboración con las autoridades nacionales.

Algunos de los puntos clave del Acta incluyen:

  1. Requisitos de transparencia: Los proveedores de sistemas de IA deben proporcionar información clara sobre cómo funcionan sus sistemas y los datos utilizados, para que los usuarios puedan comprender y evaluar su funcionamiento.
  2. Evaluación de riesgos: Los sistemas de IA de alto riesgo deben pasar por una evaluación de riesgos y cumplir con requisitos específicos antes de poder ser utilizados. Esto incluye la implementación de medidas técnicas y organizativas para garantizar su seguridad y precisión.
  3. Supervisión y gobernanza: Se propone la creación de un sistema de gobernanza y supervisión para la IA a nivel de la UE, con la participación de las autoridades nacionales competentes. También se establecerá una red de coordinación para facilitar la cooperación entre los Estados miembros.
  4. Sanciones: El acto establece posibles sanciones por incumplimiento de las regulaciones, incluyendo multas significativas.

la Ley de IA de la UE obligaría a las empresas que ofrecen sistemas de IA, incluido ChatGPT, a dar explicaciones claras sobre el funcionamiento de la tecnología, revelar cualquier sesgo o limitación y garantizar la privacidad y la protección de datos de los usuarios. Subraya la importancia de la transparencia en los sistemas de IA para generar confianza y permitir a los usuarios entender cómo se toman las decisiones.

Además, el Acta propone un marco de supervisión para garantizar el cumplimiento de la normativa, que podría implicar auditorías de terceros y la creación de un Consejo Europeo de Inteligencia Artificial.

En conjunto, la Ley de Inteligencia Artificial de la UE pretende equilibrar el fomento de la innovación en este campo con la protección de los derechos fundamentales y el tratamiento de los riesgos potenciales asociados a las tecnologías de IA. Su objetivo es establecer normativas que mejoren la transparencia, la responsabilidad y la privacidad, y el ChatGPT y otros sistemas de IA entran en su ámbito de aplicación.


Infracción y observancia de la propiedad intelectual

Intellectual property infringement and enforcement – Tech Watch Discussion Paper 2023, European Union Intellectual Property Office, 2023, 

Texto completo

La EUIPO, a través del Observatorio Europeo de las Vulneraciones de los Derechos de Propiedad Intelectual, desarrolla herramientas y promueve las mejores prácticas para mejorar la protección de la propiedad intelectual (PI), que es un activo fundamental para empresas y particulares. Las tecnologías emergentes y disruptivas han adquirido, especialmente en los últimos 30 años y con una velocidad acelerada en la última década, una importancia cada vez mayor en la protección de la PI, como herramientas utilizadas tanto para infringir como para hacer cumplir la PI. Para fortalecer el trabajo del Observatorio sobre tecnologías emergentes y disruptivas, en 2019 se creó un Grupo de Expertos en Impacto de la Tecnología para: apoyar el trabajo del Observatorio que implica cuestiones tecnológicas; identificar nuevas tecnologías con potencial para impactar en la protección de la PI, la infracción y la aplicación; definir posibles casos de uso y llevar a cabo estudios o lanzar iniciativas para comprender mejor estos impactos; aumentar el conocimiento de las partes interesadas sobre los desarrollos tecnológicos con potencial para impactar en la protección de la PI, la infracción y la aplicación.

Acusan a Amazon de violar la ley de privacidad infantil al conservar para siempre las grabaciones de voz de los niños con «Alexa» y socavar las peticiones de borrado de los padres

«FTC and DOJ Charge Amazon with Violating Children’s Privacy Law by Keeping Kids’ Alexa Voice Recordings Forever and Undermining Parents’ Deletion Requests | Federal Trade Commission». Accedido 1 de junio de 2023.

Ver noticia

La Comisión Federal de Comercio y el Departamento de Justicia exigirán a Amazon que revise sus prácticas de supresión de datos y aplique estrictas salvaguardias de privacidad para resolver las acusaciones de que la empresa infringió la norma COPPA (Children’s Online Privacy Protection Act Rule) y engañó a los padres y usuarios del servicio de asistente de voz Alexa sobre sus prácticas de supresión de datos.

Según una denuncia presentada por el Departamento de Justicia en nombre de la FTC, Amazon impidió que los padres ejercieran sus derechos de eliminación en virtud de la Regla COPPA, conservó datos sensibles de voz y geolocalización durante años y los utilizó para sus propios fines, mientras ponía los datos en riesgo de daño por acceso innecesario.

«El historial de Amazon de engañar a los padres, conservar indefinidamente las grabaciones de los niños y hacer caso omiso de las solicitudes de supresión de los padres violó la COPPA y sacrificó la privacidad en aras de los beneficios», dijo Samuel Levine, Director de la Oficina de Protección del Consumidor de la FTC. «La COPPA no permite a las empresas conservar los datos de los niños para siempre por ningún motivo, y menos para entrenar sus algoritmos».

En virtud de la propuesta de orden judicial federal presentada también por el DOJ, se exigirá a Amazon que elimine las cuentas inactivas de menores y determinadas grabaciones de voz e información de geolocalización, y se le prohibirá utilizar esos datos para entrenar sus algoritmos. La orden propuesta debe ser aprobada por el tribunal federal para entrar en vigor.

Según la demanda, Amazon aseguró de forma destacada y reiterada a sus usuarios, incluidos los padres, que podían eliminar las grabaciones de voz recogidas por su asistente de voz Alexa y la información de geolocalización recopilada por la aplicación Alexa. Sin embargo, la empresa incumplió estas promesas cuando conservó parte de esta información durante años y utilizó los datos que retuvo ilegalmente para ayudar a mejorar su algoritmo Alexa, según la denuncia.

ChatGPT podría verse obligado a mostrar sus fuentes gracias al nuevo proyecto de ley de regulación de la IA de la Unión Europea

updated, Jeff Parsons last. «ChatGPT Could Be Forced to Show Its Sources Thanks to New AI Regulation Bill». Tom’s Guide, 28 de abril de 2023. https://www.tomsguide.com/news/new-ai-regulation-could-mean-a-big-change-for-chatgpt.

The Artificial Intelligence Act

Una de las primeras cosas de la que te das cuenta mientras pruebas ChatGPT es que las fuentes y citas utilizadas por el chatbot de IA no aparecen a menos que se le pidas

Se trata de un problema generalizado en el sector de la inteligencia artificial que ha provocado la ira tanto de editoriales como de profesionales creativos. La mayoría estamos de acuerdo en que es importante proporcionar información precisa y dar crédito a quienes la han creado.

En la actualidad, la Unión Europea está elaborando la primera normativa exhaustiva que regula el despliegue de la IA (opens in new tab). Y una de las normas más recientes incluidas en el documento es que los fabricantes de herramientas de inteligencia artificial estarán obligados a revelar cualquier material protegido por derechos de autor que hayan utilizado para crearlas.

En la nueva normativa, según un primer borrador, los desarrolladores de modelos generativos de IA tendrían que publicar un «resumen suficientemente detallado» de los materiales protegidos por derechos de autor que hayan utilizado como parte de su creación.

ChatGPT, Google Bard y otros grandes modelos lingüísticos rastrean enormes cantidades de datos (ya sea en la web o a través de conjuntos de datos curados) para proporcionar sus respuestas. A medida que aumentan las capacidades de estas herramientas de inteligencia artificial para, por ejemplo, incluir la generación de imágenes, también aumenta la cantidad de datos de contenido rastreados. Cuando esto se extiende a cosas como letras de canciones o código informático, muchas personas creen que se está infringiendo el derecho de autor.

ChatGPT mostrará citas y fuentes de la información que proporciona siempre que el usuario se lo pida.

De hecho, el pasado noviembre, OpenAI (creadora de ChatGPT) fue objeto de una demanda colectiva por parte de dos demandantes anónimos que alegaban que había monetizado indebidamente código fuente abierto de GitHub para entrenar el sistema.

Aún no está claro cuál será el impacto de la normativa en el desarrollo de la IA, ni cómo se aplicará, pero los legisladores europeos esperan que sirva de modelo para la política de IA en otras partes del mundo. La UE afirma que su política en materia de IA dará lugar a «nuevas normas mundiales para garantizar que se pueda confiar en la IA», del mismo modo que su ley GDPR se ha convertido en un punto de referencia para las normas de privacidad.

El proyecto de ley en sí no se ha finalizado, ya que los distintos Estados miembros de la UE tienen que ponerse de acuerdo para que se apruebe. No obstante, se espera que la versión final se confirme y apruebe este mismo año.