Archivo de la categoría: Legislación

El New York Times demanda a OpenAI y Microsoft por infracción de derechos de autor

Grynbaum, M. M., & Mac, R. (2023, diciembre 27). The Times Sues OpenAI and Microsoft Over A.I. Use of Copyrighted Work. The New York Times. https://www.nytimes.com/2023/12/27/business/media/new-york-times-open-ai-microsoft-lawsuit.html

La demanda es la última de una serie de demandas que buscan limitar el uso del presunto «scraping» de amplios fragmentos de contenido de internet, sin compensación, para entrenar a los llamados modelos grandes de inteligencia artificial de lenguaje. Actores, escritores, periodistas y otros creadores que publican sus trabajos en internet temen que la IA aprenda de su material y proporcione chatbots competitivos y otras fuentes de información sin una compensación adecuada.


El periódico The New York Times ha presentado una demanda contra OpenAI y Microsoft, acusándolos de infringir derechos de autor. La queja sostiene que las compañías utilizaron millones de artículos del Times sin permiso para entrenar modelos de inteligencia artificial de lenguaje, como ChatGPT, creando así una competencia directa para el Times. Esta demanda se suma a una serie de acciones legales que buscan limitar el uso del supuesto «scraping» de contenido de internet sin compensación para entrenar modelos de inteligencia artificial de lenguaje. Aunque las negociaciones para una compensación justa estuvieron en marcha desde abril, el Times afirma que no se ha llegado a una resolución con las compañías. La demanda busca daños por miles de millones de dólares y una orden permanente contra la presunta infracción, lo que podría sentar un precedente para la industria. Otras empresas de medios, como Disney, CNN y el propio Times, han bloqueado el acceso a ChatGPT. Este conflicto destaca los desafíos continuos en torno al uso de material con derechos de autor para entrenar modelos de inteligencia artificial.

Sin embargo, la demanda del Times es la primera entre los principales editores de noticias que se enfrenta a OpenAI y Microsoft, las marcas de IA más reconocidas. Microsoft (MSFT) tiene un asiento en la junta directiva de OpenAI y una inversión multimillonaria en la compañía.

En una queja presentada el miércoles, el Times dijo que tiene el deber de informar a sus suscriptores, pero el «uso ilegal del trabajo del Times por parte de Microsoft y OpenAI para crear productos de inteligencia artificial que compiten con él amenaza la capacidad del Times para proporcionar ese servicio». El periódico señaló que OpenAI y Microsoft utilizaron otras fuentes en su «copia a gran escala», pero «dieron énfasis particular al contenido del Times» buscando «montarse en la inversión masiva del Times en su periodismo al utilizarlo para construir productos sustitutivos sin permiso ni pago».

En su queja, el Times dijo que objetó cuando descubrió meses atrás que su trabajo se había utilizado para entrenar los modelos de lenguaje grandes de las compañías. A partir de abril, el Times dijo que comenzó a negociar con OpenAI y Microsoft para recibir una compensación justa y establecer los términos de un acuerdo.

Escritores demandan a OpenAI y Microsoft por supuesto uso no autorizado de libros en inteligencia artificial

Brittain, Blake, y Blake Brittain. 2023. «Pulitzer-Winning Authors Join OpenAI, Microsoft Copyright Lawsuit». Reuters, 21 de diciembre de 2023, sec. Legal. https://www.reuters.com/legal/pulitzer-winning-authors-join-openai-microsoft-copyright-lawsuit-2023-12-20/.

Un grupo de 11 autores de no ficción se ha unido a una demanda en la corte federal de Manhattan que acusa a OpenAI y Microsoft de utilizar indebidamente libros escritos por los autores para entrenar los modelos detrás del popular chatbot ChatGPT de OpenAI y otros programas basados en inteligencia artificial.

Los escritores, incluyendo a los ganadores del Premio Pulitzer Taylor Branch, Stacy Schiff y Kai Bird, argumentan que las compañías infringieron sus derechos de autor al usar sus obras para entrenar los modelos de lenguaje GPT de OpenAI.

Representantes de OpenAI y Microsoft no respondieron de inmediato a las solicitudes de comentarios el miércoles.

El abogado de los escritores, Rohit Nath, afirmó que «los acusados están obteniendo miles de millones de dólares de su uso no autorizado de libros de no ficción, y los autores de estos libros merecen una compensación justa y un trato adecuado por ello».

La demanda, presentada por el escritor y editor de Hollywood Reporter, Julian Sancton, alega que OpenAI «raspó» los trabajos de los autores junto con gran cantidad de otro material con derechos de autor de Internet sin permiso para enseñar a sus modelos GPT a responder a instrucciones de texto humano.

La demanda también afirma que Microsoft ha estado «profundamente involucrado» en el entrenamiento y desarrollo de los modelos y es responsable de la infracción de derechos de autor. Los autores piden daños monetarios no especificados y una orden para que las compañías dejen de infringir sus derechos de autor.

OpenAI y Axel Springer firman un acuerdo que permite que ChatGPT se entrene con datos de la editorial

Knibbs, Kate. s. f. «Journalists Had “No Idea” About OpenAI’s Deal to Use Their Stories». Wired. Accedido 22 de diciembre de 2023. https://www.wired.com/story/openai-axel-springer-news-licensing-deal-whats-in-it-for-writers/.

OpenAI y el conglomerado mediático alemán Axel Springer firmaron la semana pasada un acuerdo de licencia a largo plazo que permite a OpenAI incorporar artículos de los medios de Axel Springer, como Business Insider y Politico, en sus productos, incluido ChatGPT. Aunque el acuerdo se centra en el uso de trabajos periodísticos, los periodistas cuyas historias se compartirán como parte del acuerdo no fueron consultados previamente.

Empleados de Business Insider revelaron que se enteraron del acuerdo de inteligencia artificial al mismo tiempo que se anunció públicamente. PEN Guild, el sindicato estadounidense que representa a alrededor de 280 trabajadores de Politico y E&E News, otra publicación de Axel Springer, afirmó que «no fue consultado ni informado sobre la decisión de que los robots resumieran nuestro trabajo».

Este acuerdo destaca la tendencia emergente de empresas de inteligencia artificial que buscan acuerdos con empresas de medios en lugar de recopilar datos de entrenamiento mediante el rastreo no autorizado de contenido con derechos de autor en Internet. Mientras algunas asociaciones de escritores ven estos acuerdos como una alternativa positiva al rastreo de datos, hay dudas sobre si realmente beneficiarán a los periodistas.

El editor de Techdirt, Mike Masnick, cuestiona la efectividad de estos acuerdos y sugiere que podrían ser estrategias para evitar demandas de las editoras a cambio de cierto acceso a la tecnología. Además, se desconoce cómo afectará financieramente a los periodistas individuales el acuerdo entre OpenAI y Axel Springer.

El acuerdo, que implica que OpenAI pagará a Axel Springer millones de euros, según Bloomberg, plantea preguntas sobre si los periodistas recibirán alguna compensación. Aunque Axel Springer considera que el acuerdo beneficia a los periodistas y a la industria del periodismo, algunos críticos dudan de que el acceso indirecto a la tecnología realmente mejore las condiciones laborales de los periodistas.

En el contexto de la creciente automatización en la industria de los medios, sindicatos y líderes laborales están vigilando de cerca estos acuerdos para proteger los derechos e integridad del trabajo de los periodistas. La cuestión de si estos acuerdos serán beneficiosos a largo plazo y cómo afectarán a la industria de los medios sigue siendo objeto de debate.

El uso legítimo: mitos y conceptos erróneos sobre los derechos de autor

Carrie Russell «Figuring Out Fair Use». 2023. American Libraries Magazine. 1 de noviembre de 2023. https://americanlibrariesmagazine.org/?p=140589.

Libreros y maestros, profesionales bibliotecarios especializados en alfabetización informacional, acceso equitativo a la información y avance del aprendizaje, a menudo enfrentan ansiedades y conceptos erróneos sobre el copyright. El miedo infundado a litigios de copyright y la falta de educación sobre el tema contribuyen a esta situación.

El desconocimiento sobre el copyright se agrava en entornos educativos saturados de trabajo, donde el personal, ya sobrecargado, carece de tiempo para abordar cuestiones legales como el copyright. La complejidad añadida de los formatos digitales y las licencias privadas complica aún más la gestión efectiva del copyright en las escuelas.

La Constitución de EE.UU. dice que la ley de derechos de autor se crea «para promover el progreso de la ciencia y de las artes útiles». Su intención es, ante todo, fomentar la creación y difusión de obras originales y creativas que beneficien al público. Estas políticas también están diseñadas para avanzar en el bienestar público poniendo a disposición obras que promuevan el aprendizaje, inspiren la creación de nuevas obras, produzcan ciudadanos bien informados y fomenten la búsqueda de la felicidad.

La noción de que la ley de derechos de autor sirve al interés público puede sonar pintoresca cuando gran parte de la discusión pública, y ciertamente gran parte del debate político, gira en torno al valor monetario de los derechos de autor. Aunque los derechos de autor tienen un importante valor económico en la economía global de la información, el propósito fundamental de estas leyes es el bienestar público. Por lo tanto, los valores que subyacen a la ley de derechos de autor son totalmente coherentes con los valores profesionales de profesores y bibliotecarios.

A menudo se confunde a la gente o se le hace creer que la ley de derechos de autor es lo mismo que la ley de propiedad. Esta confusión se ve agravada por términos como propiedad intelectual, que es un término equivocado. En cambio, la ley de derechos de autor se asemeja a la regulación gubernamental en que el Congreso crea la ley para intervenir en el mercado mediante la concesión a los titulares de derechos de un monopolio -a través de los derechos exclusivos de autor- para lograr un propósito público.

A muchos bibliotecarios y profesores les molesta que no existan normas claras. A menudo, la respuesta a una pregunta concreta sobre derechos de autor exige analizar la situación para determinar si se trata de un uso legítimo. Puede que sea molesto, pero nos conviene que la ley sea ambigua. Fijar las normas de derechos de autor en piedra sería congelar la ley. La ley debe ser maleable para servir a nuestra sociedad ahora y en el futuro, un futuro sobre el que sólo podemos especular. El uso legítimo nos servirá porque está abierto a las nuevas tecnologías.

Cinco conceptos erróneos comunes sobre el copyright se destacan en el artículo:

  1. Erróneamente se cree que el propósito principal del copyright es compensar monetariamente a los autores y creadores, cuando en realidad busca fomentar el progreso de la ciencia y las artes útiles en beneficio del público.
  2. Existe el temor de que los titulares de derechos demanden a bibliotecarios, maestros y escuelas con frecuencia, cuando los casos reales en los tribunales son raros. Además, existen limitaciones legales y protecciones para instituciones educativas y bibliotecas.
  3. La confusión entre la ley de copyright y la propiedad intelectual lleva a la creencia errónea de que las obras protegidas son propiedad exclusiva de los creadores. En realidad, el copyright otorga derechos exclusivos para comercializar la obra, no para poseerla.
  4. Muchos esperan reglas legales definitivas para cuestiones de copyright, pero la ley es flexible y la determinación de uso justo a menudo requiere análisis caso por caso.
  5. Se percibe que el uso justo es difícil de entender y aplicar, cuando, en realidad, comprender y aplicar los cuatro factores del uso justo puede ser más natural con la práctica.

En conclusión, a pesar de las dificultades y malentendidos, es crucial para los profesionales de bibliotecas y educación comprender el copyright y aplicar el uso justo para equilibrar los derechos de los usuarios con los intereses de los titulares de derechos.

Los libros electrónicos se están convirtiendo rápidamente en herramientas de vigilancia de los lectores

Bounds, Lia Holland and Jade Pfaefflin. 2023. «E-Books Are Fast Becoming Tools of Corporate Surveillance». Fast Company. 12 de diciembre de 2023. https://www.fastcompany.com/90996547/e-books-are-fast-becoming-tools-of-corporate-surveillance.

Mientras Internet Archive apela una decisión judicial que bloquea alternativas a las licencias de libros digitales sujetas a vigilancia, un nuevo informe revela que la editorial más grande del mundo puede estar vendiendo datos personales íntimos de sus lectores al mejor postor.

Tres de cada diez estadounidenses leen libros digitales. Ya sea que estén accediendo a libros de texto en línea o consultando el último e-book más vendido de la biblioteca pública, la mayoría de estos lectores están sujetos tanto a la codicia de las grandes editoriales como a las prioridades de las grandes empresas tecnológicas. De hecho, Kindle de Amazon tenía el 72% del mercado de lectores electrónicos en 2022. Y si hay algo que sabemos sobre las grandes empresas tecnológicas como Amazon, su verdadero producto no es el libro, sino los datos del usuario.

Las principales editoriales están dando carta blanca a las grandes empresas tecnológicas para observar lo que lees y dónde, incluyendo libros sobre temas sensibles, como si tomaras un libro de autocuidado después de un aborto. Peor aún, las corporaciones tecnológicas y editoriales están recogiendo datos más allá de tus hábitos de lectura; hoy en día, no hay leyes federales que los detengan de vigilar a personas que leen libros digitales en todo Internet.

La vigilancia de los lectores es una amenaza profundamente interseccional, según una carta del Congreso emitida la semana pasada por una coalición de grupos cuyos intereses abarcan derechos civiles, contra la vigilancia, contra la prohibición de libros, justicia racial, justicia reproductiva, LGBTQ+, inmigrantes y antimonopolio. La carta insta a los legisladores federales a investigar los daños del poderoso control de las corporaciones tecnológicas y editoriales sobre el acceso a libros digitales.

Esta investigación es un primer paso esencial para revivir el derecho a leer sin temor a que tus intereses se utilicen en tu contra. Porque, lamentablemente, ese derecho está en cuidados intensivos cuando se trata de libros digitales.

En este momento, hay un esfuerzo concertado por parte de legisladores antiaborto y vigilantes para descubrir quiénes están obteniendo o apoyando un aborto, y los recolectores de datos ya han sido demandados por compilar datos de visitantes a centros de salud reproductiva. Pero aún no hay protecciones federales significativas de la privacidad de los datos para detener el flujo de datos personales íntimos.

Amenazas al estilo de «1984» tejidas en la vida cotidiana de las personas son particularmente insidiosas. La persona promedio que busca un aborto no sabe cómo navegar de manera segura en un estado de vigilancia, y saber que pueden estar siendo vigiladas lleva a que las personas no accedan a la atención reproductiva o de aborto que necesitan, que no busquen el apoyo mental y emocional que requieren y que pospongan la atención hasta más avanzado en un embarazo no deseado. Todas estas elecciones ponen en peligro a la persona embarazada.

En la era de la inteligencia artificial, la capacidad para analizar datos detallados de manera insondable sobre individuos, crear informes e inferencias sobre esas personas y usar todo eso para entrenar modelos de IA está mejorando constantemente. Los incentivos para explotar los datos de los lectores son los más fuertes que jamás hayan sido.

Las grandes editoriales claramente no ven más que signos de dólar mientras aplicaciones como Hoopla recogen datos vinculados a la identidad de los lectores. Entonces, sería natural depositar nuestra esperanza en las bibliotecas públicas, que ven la privacidad del usuario como un derecho fundamental esencial para una democracia funcional. En la comunidad de derechos humanos, la resistencia de las bibliotecas contra la vigilancia gubernamental bajo la Ley PATRIOT es legendaria.

Desafortunadamente, las grandes editoriales han demandado para evitar que las bibliotecas presten libros digitales libres de vigilancia, ganando un fallo en un tribunal inferior que la organización sin fines de lucro Internet Archive apelará antes de que termine el año. A menos que ese fallo sea anulado o se aprueben nuevas leyes, las bibliotecas no tienen otra alternativa que licenciar libros digitales que probablemente estén llenos de programas espías.

Sabemos menos sobre la vigilancia en las bibliotecas públicas porque, según un informe de noviembre de la Coalición de Publicaciones Académicas y Recursos Académicos, las grandes editoriales han sido cada vez más astutas en cuanto a privacidad y vigilancia en sus contratos con las bibliotecas. Esto es un juego directo del manual del Sillicon Valley: ocultar mal comportamiento con enlaces externos no responsables o acuerdos de no divulgación que prohíben a las bibliotecas advertir a sus usuarios.

Sin leyes para detenerlos, es razonable esperar que aplicaciones populares de bibliotecas como Hoopla y Libby estén ocultando un comportamiento similar detrás de cortinas legales. Ya se ha documentado bien lo absurdo de la recopilación de datos de Amazon Kindle y es una fuente del poder monopsonístico general de Amazon en el mercado de libros.

Con las bibliotecas enfrentando la aniquilación legal desde todos los lados si intentan crear espacios libres de vigilancia para libros digitales, el futuro de la lectura está en la última hora. Los legisladores deben lanzar de inmediato una investigación para proteger no solo a los pacientes de aborto, sino a todos los lectores en todo el país.

Meta utilizó libros protegidos por derechos de autor para entrenar inteligencia artificial pese a las advertencias de sus propios abogados, según los autores

Paul, Katie. 2023. «Meta Used Copyrighted Books for AI Training despite Its Own Lawyers’ Warnings, Authors Allege». Reuters, 12 de diciembre de 2023, sec. Technology. https://www.reuters.com/technology/meta-used-copyrighted-books-ai-training-despite-its-own-lawyers-warnings-authors-2023-12-12/.

Los abogados habían advertido a Meta sobre los peligros legales de utilizar miles de libros pirateados para entrenar sus modelos de inteligencia artificial, pero la compañía lo hizo de todos modos, según un nuevo documento presentado en una demanda por infracción de derechos de autor iniciada este verano.

La nueva presentación, realizada el lunes por la noche, consolida dos demandas presentadas contra el propietario de Facebook e Instagram por la comediante Sarah Silverman, el ganador del Premio Pulitzer Michael Chabon y otros autores destacados. Estos alegan que Meta ha utilizado sus obras sin permiso para entrenar su modelo de lenguaje de inteligencia artificial, llamado Llama.

Un juez de California desestimó el mes pasado parte de la demanda de Silverman e indicó que daría a los autores el permiso para modificar sus reclamaciones.

Meta no respondió de inmediato a una solicitud de comentarios sobre las acusaciones.

La nueva demanda, presentada el lunes, incluye registros de chat de un investigador afiliado a Meta discutiendo la obtención del conjunto de datos en un servidor de Discord, una pieza de evidencia potencialmente significativa que indica que Meta sabía que el uso de los libros podría no estar protegido por la ley de derechos de autor de EE. UU.

En los registros de chat citados en la demanda, el investigador Tim Dettmers describe su intercambio con el departamento legal de Meta sobre si el uso de los archivos de libros como datos de entrenamiento sería «legalmente aceptable».

«En Facebook, hay muchas personas interesadas en trabajar con (The Pile), incluyéndome a mí, pero en su forma actual, no podemos usarlo por razones legales», escribió Dettmers en 2021, refiriéndose a un conjunto de datos que Meta ha admitido haber utilizado para entrenar su primera versión de Llama, según la demanda.

Un mes antes, Dettmers escribió que los abogados de Meta le habían dicho que «los datos no se pueden usar ni los modelos se pueden publicar si están entrenados con esos datos», según la demanda.

Aunque Dettmers no describe las preocupaciones de los abogados, sus colegas en el chat identifican a «los libros con derechos de autor activos» como la mayor fuente probable de preocupación. Afirman que el entrenamiento con esos datos debería «encajar dentro del uso legítimo», una doctrina legal en EE. UU. que protege ciertos usos no autorizados de obras con derechos de autor.

Dettmers, estudiante de doctorado en la Universidad de Washington, dijo a Reuters que no podía comentar de inmediato sobre las afirmaciones.

Las empresas tecnológicas han enfrentado una serie de demandas este año de creadores de contenido que los acusan de copiar obras protegidas por derechos de autor para construir modelos de inteligencia artificial generativos que han causado sensación a nivel mundial y han generado una frenética inversión.

Si estas demandas tienen éxito, podrían disminuir la fiebre de la inteligencia artificial generativa, ya que podrían aumentar el costo de construir modelos hambrientos de datos al obligar a las empresas de inteligencia artificial a compensar a artistas, autores y otros creadores de contenido por el uso de sus obras.

Al mismo tiempo, las nuevas normas provisionales en Europa que regulan la inteligencia artificial podrían obligar a las empresas a revelar los datos que utilizan para entrenar sus modelos, exponiéndolas a un mayor riesgo legal.

Meta lanzó la primera versión de su modelo de lenguaje grande Llama en febrero y publicó una lista de conjuntos de datos utilizados para el entrenamiento, incluyendo «la sección de libros Books3 de ThePile». Según la demanda, la persona que ensambló ese conjunto de datos ha dicho en otro lugar que contiene 196,640 libros.

La compañía no reveló datos de entrenamiento para su última versión del modelo, Llama 2, que puso a disposición para uso comercial este verano.

Llama 2 es gratuito para empresas con menos de 700 millones de usuarios activos al mes. Su lanzamiento se percibió en el sector tecnológico como un posible cambio de juego en el mercado de software de inteligencia artificial generativa, amenazando con trastocar la dominación de jugadores como OpenAI y Google, que cobran por el uso de sus modelos.

Guía rápida de la Ley de Inteligencia Artificial (IA) de la Unión Europea

Quick Guide to the EU AI Act

Ver infografía

Texto completo

Original

«La inteligencia artificial ya está cambiando nuestra vida cotidiana, y eso tan solo es el principio. Utilizada de forma sensata y generalizada, la inteligencia artificial promete enormes beneficios para nuestra economía y nuestra sociedad. Por lo tanto, celebro con gran satisfacción el acuerdo político alcanzado hoy por el Parlamento Europeo y el Consejo sobre la Ley de Inteligencia Artificial. La Ley de IA de la UE es el primer marco jurídico global en materia de inteligencia artificial en todo el mundo. Así pues, se trata de un momento histórico. La Ley de IA lleva los valores europeos a una nueva era. Al centrar la regulación en los riesgos identificables, el acuerdo alcanzado hoy fomentará la innovación responsable en Europa. Al velar por la seguridad y los derechos fundamentales de las personas y las empresas, apoyará el desarrollo, la implantación y la aceptación de una inteligencia artificial fiable en la UE. Nuestra Ley de IA contribuirá de manera sustancial a la formulación de normas y principios mundiales sobre una inteligencia artificial centrada en el ser humano.»

Ursula von der Leyen, President of the European Commission – 09/12/2023


La Ley de Inteligencia Artificial de la UE, oficialmente conocida como «Propuesta de Reglamento del Parlamento Europeo y del Consejo por la que se establecen normas armonizadas sobre la inteligencia artificial (Reglamento de Inteligencia Artificial)», es una iniciativa legislativa destinada a regular el desarrollo y uso de tecnologías de inteligencia artificial (IA) dentro de la Unión Europea. Aquí tienes una guía rápida sobre los puntos clave de la Ley de IA de la UE:

1. Ámbito de Aplicación:

  • La Ley de IA se aplica a los proveedores que colocan sistemas de IA en el mercado de la UE o los ponen en servicio, independientemente de si están establecidos dentro o fuera de la UE.

2. Definición de Sistemas de IA:

  • La regulación define los sistemas de IA como software desarrollado con la capacidad de utilizar datos para lograr un propósito que normalmente requeriría inteligencia humana. Cubre una amplia gama de aplicaciones de IA, incluidos modelos de aprendizaje automático y sistemas basados en reglas.

3. Enfoque Basado en el Riesgo:

  • La regulación categoriza los sistemas de IA en cuatro niveles de riesgo: Riesgo Inaceptable, Riesgo Elevado, Riesgo Limitado y Riesgo Mínimo. El nivel de riesgo determina los requisitos y obligaciones regulatorias impuestas a los desarrolladores y usuarios.

4. Sistemas de IA de Alto Riesgo:

  • Los sistemas de IA de alto riesgo incluyen aquellos utilizados en infraestructuras críticas, formación educativa o vocacional, servicios públicos esenciales, aplicación de la ley, control de migración y fronteras, e identificación biométrica. Se aplican requisitos más estrictos a estos sistemas.

5. Requisitos para Sistemas de IA de Alto Riesgo:

  • Para los sistemas de IA de alto riesgo, los desarrolladores deben cumplir con varios requisitos, incluida la calidad de los datos, documentación, transparencia, supervisión humana y robustez. Los análisis de conformidad, con la participación de un tercero, son obligatorios.

6. Transparencia y Explicabilidad:

  • La Ley de IA destaca la importancia de la transparencia y requiere que los sistemas de IA proporcionen a los usuarios información clara y accesible sobre las capacidades y limitaciones del sistema. También se exigen explicaciones para las decisiones tomadas por los sistemas de IA.

7. Gobernanza de Datos:

  • La regulación aborda el uso de datos en sistemas de IA, enfatizando la necesidad de gobernanza de datos. Promueve el uso de conjuntos de datos de entrenamiento de alta calidad, y los desarrolladores deben asegurarse de que los datos utilizados sean relevantes, representativos y libres de sesgos.

8. Prácticas Prohibidas:

  • Algunas prácticas de IA están prohibidas de manera absoluta en la regulación, especialmente aquellas consideradas como representando riesgos inaceptables. Esto incluye la manipulación de individuos a través de técnicas subliminales y la explotación de vulnerabilidades de grupos específicos.

9. Cumplimiento y Sanciones:

  • Las autoridades competentes nacionales supervisarán el cumplimiento de la Ley de IA. El incumplimiento puede resultar en sanciones, multas o suspensión del marketing de un sistema de IA. Las infracciones graves pueden llevar a multas de hasta 30 millones de euros o el 6% de la facturación total anual mundial, lo que sea mayor.

10. Cooperación Internacional:

  • La UE fomenta la cooperación internacional en la regulación de la IA. La Ley de IA de la UE busca establecer un estándar global para la ética y la regulación de la IA, fomentando la colaboración con socios internacionales.

Es importante tener en cuenta que la Ley de IA de la UE es un paso significativo hacia la creación de un marco normativo para las tecnologías de IA, abordando preocupaciones éticas y asegurando el desarrollo y despliegue responsables de sistemas de IA dentro de la Unión Europea.

Un estudio muestra las dificultades para proteger la intimidad de los usuarios de bibliotecas

Wang, Tian, Chieh-Li Chin, Christopher Benner, Carol M. Hayes, Yang Wang, y Masooda Bashir. 2023. «Patron Privacy Protections in Public Libraries». The Library Quarterly 93 (3): 294-312. https://doi.org/10.1086/725069.


Los bibliotecarios, históricamente defensores de la privacidad de los usuarios, enfrentan desafíos diversos para salvaguardar la privacidad, especialmente influenciados por el tamaño de la biblioteca y los avances tecnológicos, según revela el primer estudio sobre prácticas de privacidad en bibliotecas públicas. Liderado por Masooda Bashir, profesora de ciencias de la información y ciberseguridad en la Universidad de Illinois en Urbana-Champaign, el estudio incluyó una encuesta en línea a más de 800 empleados de bibliotecas, principalmente de bibliotecas pequeñas. Los hallazgos destacaron que las bibliotecas más grandes con más titulares de tarjetas estaban mejor equipadas para la protección de la privacidad, mientras que las bibliotecas rurales a menudo carecían de recursos.

A pesar del compromiso compartido con la privacidad, los desafíos incluyeron una capacitación insuficiente y conocimientos técnicos entre el personal de la biblioteca, lo que dificultaba la identificación y mitigación de vulnerabilidades de privacidad. Durante la pandemia de COVID-19, las preocupaciones aumentaron con la expansión de los servicios en línea, introduciendo posibles riesgos de privacidad cuando las bibliotecas utilizan servicios digitales de proveedores. Surgieron problemas cuando los usuarios pasaban del sitio web de una biblioteca al sitio de un proveedor, con posibles protecciones de privacidad que no se extendían.

El estudio resaltó que, aunque las medidas básicas de privacidad eran comunes, existían lagunas en la capacitación de empleados, la publicación de información relacionada con la privacidad para los usuarios y los planes documentados para manejar violaciones de datos. Específicamente, algunas bibliotecas, especialmente las más pequeñas, dependían únicamente de las redes sociales para su presencia en línea, planteando preocupaciones de privacidad debido a las prácticas de recopilación de datos.

Además, se señaló la ausencia de leyes integrales de privacidad en los Estados Unidos, a diferencia de la Unión Europea, como un desafío. Los usuarios de computadoras de bibliotecas a menudo exponen inadvertidamente información personal al buscar ayuda, lo que afecta especialmente a grupos socioeconómicos más bajos. Reconociendo la vulnerabilidad de estas poblaciones, Bashir enfatizó la importancia de protecciones de privacidad personalizadas.

Aunque la Asociación de Bibliotecas de Estados Unidos ofrece pautas para preservar la privacidad, la conciencia entre los bibliotecarios no es universal. El grupo de investigación de Bashir tiene como objetivo desarrollar herramientas para que los bibliotecarios detecten vulnerabilidades tecnológicas, facilitando la formulación de políticas de privacidad y mejores prácticas para bibliotecas con recursos limitados.

En conclusión, Bashir sugirió aprovechar la tecnología tanto para crear desafíos como para encontrar soluciones, enfatizando la necesidad de una mayor conciencia, capacitación y políticas de privacidad integrales en el cambiante panorama de bibliotecas centradas en lo digital.

Libro Blanco: Inteligencia Artificial Generativa en Comunicación científica

Generative AI in Scholarly Communications: Ethical and Practical Guidelines for the Use of Generative AI in the Publication Process. STM, 2023

Texto completo

STM ha publicado un nuevo libro blanco: Generative AI in Scholarly Communications: Directrices éticas y prácticas para el uso de la IA generativa en el proceso de publicación. Como continuación de AI Ethics in Scholarly Communication, que STM publicó en abril de 2021, esta nueva publicación es un recurso para las partes interesadas en la publicación académica y aborda el papel cada vez más importante de las tecnologías de IA Generativa (GenAI).

El documento examina los aspectos éticos, jurídicos y prácticos de GenAI, destacando su potencial para transformar las comunicaciones académicas, y abarca una serie de temas que van desde los derechos de propiedad intelectual hasta los desafíos de mantener la integridad en la era digital. El documento ofrece principios de buenas prácticas y recomendaciones para autores, equipos editoriales, revisores y proveedores, garantizando un enfoque responsable y ético en el uso de las herramientas GenAI.

Declaración pública de LIBER sobre la Ley de Servicios Digitales

LIBER Signs Public Statement on Digital Services Act. LIBER Europe [en línea], [2022]. [consulta: 1 diciembre 2023]. Disponible en: https://libereurope.eu/article/press-release-liber-signs-public-statement-on-digital-services-act/.

LIBER firmó una declaración pública junto con la asociación universitaria CESAER y la Confederación de Repositorios de Acceso Abierto (COAR), instando a la Unión Europea a reconocer proactivamente la importancia de las infraestructuras digitales para la educación e investigación al diseñar legislación centrada en lo digital. LIBER trabajó con éxito con otras asociaciones bibliotecarias y culturales para crear una exención para los repositorios educativos y científicos del artículo 17 de la Directiva sobre derechos de autor en el mercado único digital.

La legislación relacionada con plataformas digitales se diseña en torno a hacer que las plataformas comerciales sean responsables de los usuarios que cargan contenido ilegal, por ejemplo, música o películas que se cargan en YouTube o Facebook. Estudiantes, académicos, investigadores y profesores cargan artículos, libros, grabaciones de sonido, datos de investigación y películas en una variedad de plataformas de educación e investigación, desde el repositorio institucional de una universidad hasta repositorios ampliamente utilizados como Dryad, ArXiv.org, repositorios nacionales y la Nube Europea de Ciencia Abierta (EOSC).

Las preocupaciones incluyen:

  1. Las organizaciones educativas e investigativas llevan a cabo el hospedaje de contenido para apoyar el aprendizaje, el conocimiento y el descubrimiento científico. Es totalmente inapropiado que las intervenciones legales dirigidas a empresas con fines de lucro se apliquen de esta manera generalizada, donde los impactos para la educación e investigación no son más que daños colaterales. En el mejor de los casos, esto significará nuevas cargas administrativas y legales para que las organizaciones educativas e investigativas cumplan, y en el peor de los casos, cerrar o no lanzar servicios en línea que permitan la carga debido a temores de las responsabilidades que esto podría implicar.
  2. La evaluación de impacto de la Ley de Servicios Digitales no contiene una evaluación del costo o el tiempo que esta legislación y sus obligaciones tendrían en las bibliotecas, universidades u organizaciones de investigación cuyo papel principal es apoyar el aprendizaje. En resumen, las organizaciones educativas e investigativas no reciben ingresos de los artículos, libros y datos de investigación alojados en nuestras plataformas, a diferencia de la mayoría de las plataformas de hospedaje para las cuales se ha diseñado esta legislación.
  3. La confusión legal que una exención bajo la Directiva de Derechos de Autor en el Mercado Único Digital pero la inclusión bajo la Ley de Servicios Digitales crearía para nuestras instituciones y, potencialmente, incluso para los tribunales.