Archivo de la etiqueta: Inteligencia artificial

HarperCollins confirma que tiene un acuerdo para vender las obras de sus autores a una empresa de IA

Cole ·, Samantha. 2024. «HarperCollins Confirms It Has a Deal to Sell Authors’ Work to AI Company». 404 Media. 18 de noviembre de 2024. https://www.404media.co/harpercollins-ai-deal/.

HarperCollins, una de las editoriales más grandes del mundo, ha confirmado un acuerdo con una empresa de tecnología de inteligencia artificial (IA) para permitir el uso limitado de ciertos títulos de no ficción de su catálogo para entrenar modelos de IA. La participación de los autores en este acuerdo es opcional; ellos pueden decidir si aceptan o rechazan la propuesta.

Según un portavoz de HarperCollins, este convenio busca mejorar la calidad y el rendimiento de los modelos de IA y cuenta con restricciones claras para respetar los derechos de los autores. La editorial enfatiza que su objetivo es proteger el valor inherente de las obras de sus autores y garantizar el flujo compartido de ingresos y regalías. Además, destaca su larga tradición de innovación y exploración de nuevos modelos de negocio.

El acuerdo contempla el pago de 2.500$ por título a los autores que opten por participar, una cantidad que no es negociable. Este ofrecimiento ha generado debate, especialmente en relación con el uso de materiales protegidos por derechos de autor en el entrenamiento de modelos de IA.

Daniel Kibblesmith, autor del libro infantil Santa’s Husband, compartió en la red social Bluesky un correo de su agente que describe la propuesta de HarperCollins. En el mensaje, su agente menciona las controversias alrededor del uso de materiales con derechos de autor para entrenar IA, destacando que muchas empresas lo hacen sin reconocer ni compensar a los creadores originales. También se alude al temor de que estos modelos puedan hacer obsoletos a los autores en el futuro.

Kibblesmith criticó la decisión de HarperCollins, calificándola como una búsqueda desesperada de ganancias a corto plazo. Señaló que este desarrollo podría dividir el mercado en dos tipos de lectores: aquellos que buscan una conexión humana auténtica a través de los libros y aquellos que prefieren contenido personalizado y generado por IA, diseñado para evitar cualquier desafío intelectual.

El uso de obras protegidas por derechos de autor para entrenar IA ha sido un tema polémico. Numerosas empresas han sido acusadas de aprovecharse de materiales sin compensar a sus creadores. Este acuerdo de HarperCollins es una de las primeras instancias donde una gran editorial propone explícitamente un trato transparente y compensatorio, aunque limitado, para el uso de este tipo de contenido.

En general, el tema pone de relieve las tensiones entre la innovación tecnológica y la preservación del valor del trabajo creativo humano, planteando preguntas sobre el futuro de los derechos de autor y la sostenibilidad de las profesiones creativas en la era de la IA.

Enfoque innovador para evaluar la calidad de las revistas académicas utilizando inteligencia artificial

Thelwall, Mike, y Kayvan Kousha. 2024. «Journal Quality Factors from ChatGPT: More meaningful than Impact Factors?» arXiv. https://doi.org/10.48550/arXiv.2411.09984.

Este estudio representa el primer intento de utilizar un modelo de lenguaje avanzado como ChatGPT para evaluar la calidad de las revistas académicas. Aunque no busca reemplazar las métricas tradicionales, aporta una dimensión adicional que podría transformar la manera en que se mide la calidad en el ámbito académico, destacando el potencial de la inteligencia artificial en la investigación.

Un reciente artículo publicado en arXiv propone un enfoque innovador para evaluar la calidad de las revistas académicas utilizando inteligencia artificial, específicamente a través de ChatGPT. El estudio, titulado «Journal Quality Factors From ChatGPT: More Meaningful Than Impact Factors?», fue realizado por Mike Thelwall (Universidad de Sheffield) y Kayvan Kousha (Universidad de Wolverhampton). Este trabajo plantea una alternativa a las métricas tradicionales como el Journal Impact Factor (JIF), centrándose en aspectos más amplios de la calidad académica.

Journal Impact Factor, ampliamente utilizado para medir el impacto académico, se basa principalmente en la cantidad de citas recibidas. Sin embargo, esta métrica no evalúa otros aspectos clave, como el impacto social, la originalidad de los artículos o el rigor metodológico. Para abordar esta limitación, los investigadores definieron el Journal Quality Factors (JQFs), como puntuaciones promedio asignadas por ChatGPT para valorar los artículos de una revista considerando una perspectiva más holística.

El análisis incluyó 1.300 revistas que publicaron 130.000 artículos en 2021, cubriendo 25 de los 27 campos principales de investigación definidos por Scopus. El JQF fue comparados con clasificaciones nacionales de revistas de Polonia, Noruega y Finlandia, así como con las tasas de citación de las publicaciones. Además, se examinaron casos atípicos en los que Factor de Impacto no coincidían con las clasificaciones tradicionales, para explorar posibles sesgos o influencias externas.

Principales hallazgos

Correlación con clasificaciones existentes: El JQFs mostraron una correlación positiva y sólida (mediana de 0.641) con los rankings nacionales de revistas en 24 de los 25 campos analizados. Esto sugiere que ChatGPT puede estimar la calidad de las revistas de manera consistente en la mayoría de las disciplinas.

Comparación con las tasas de citación: Las tasas de citación también mostraron correlaciones altas con los rankings nacionales, lo que indica que los JQFs no son necesariamente superiores, pero ofrecen una alternativa igualmente válida.

Influencia del estilo de los resúmenes: Los investigadores encontraron que ciertos estilos de redacción, como la mención de contextos sociales en los resúmenes, pueden influir en las puntuaciones del JQF, destacando la sensibilidad del modelo a los matices de presentación.

El artículo reconoce que los resultados podrían variar si se usaran diferentes sistemas de clasificación, ya que no existe un consenso universal sobre qué define la calidad de una revista. Además, los JQFs, aunque prometedores, no deben reemplazar a las métricas tradicionales en todos los contextos, ya que su utilidad depende del propósito específico de la evaluación.

ChatGPT para tareas complejas de evaluación de textos

Thelwall, M. (2024). ChatGPT for complex text evaluation tasks. Journal of the Association for Information Science and Technology, 1–4. https://doi.org/10.1002/asi.24966

ChatGPT y otros modelos de lenguaje a gran escala (LLMs) han demostrado ser efectivos en tareas de procesamiento de lenguaje natural y computacional con diversos niveles de complejidad. Este documento resume las lecciones aprendidas de una serie de investigaciones sobre su uso en la evaluación de calidad de investigaciones, una tarea compleja de análisis de textos.

En términos generales, ChatGPT destaca por su capacidad para comprender y ejecutar tareas complejas de procesamiento de textos, produciendo respuestas plausibles con un mínimo de intervención por parte del investigador. Sin embargo, los resultados deben ser evaluados sistemáticamente, ya que pueden ser engañosos. A diferencia de las tareas simples, los resultados en tareas complejas son muy variables, y se pueden obtener mejores resultados repitiendo los comandos en sesiones diferentes y promediando las respuestas obtenidas. Modificar los parámetros de configuración de ChatGPT respecto a sus valores predeterminados no parece ser útil, excepto en lo relacionado con la extensión del texto solicitado en las respuestas.

Capacidad de Procesamiento Complejo: ChatGPT es muy hábil para realizar tareas de análisis textual complejo, generando respuestas plausibles con instrucciones detalladas. Sin embargo, sus resultados no siempre son precisos y requieren validación sistemática.

Variabilidad en Tareas Complejas: A diferencia de tareas simples (como análisis de sentimiento), los resultados en evaluaciones complejas varían significativamente. Mejores resultados se obtienen al repetir los comandos múltiples veces y promediando las respuestas.

Configuración del Modelo: Cambiar parámetros predeterminados no suele mejorar los resultados, salvo ajustes en la longitud de la salida. Modelos más avanzados (como GPT-4o frente a 4o-mini) ofrecen mejor desempeño, pero versiones económicas pueden ser una opción práctica.

Estructura de las Instrucciones: Instrucciones complejas y detalladas, adaptadas del formato usado por evaluadores humanos, producen mejores resultados. Sin embargo, instrucciones más breves y simplificadas tienden a disminuir la precisión.

Evaluación y Limitaciones: ChatGPT puede producir salidas plausibles, pero estas no siempre reflejan una evaluación significativa. Por ejemplo, al evaluar artículos basándose en títulos y resúmenes en lugar del texto completo, ChatGPT ofrece mejores resultados, probablemente debido a la concisión de la información.

Uso de Información Condensada: Aunque puede manejar textos extensos, ChatGPT parece ser más efectivo al trabajar con entradas resumidas, como títulos y resúmenes, en lugar de textos completos, evitando sobrecarga de información irrelevante.

Financiación y Costos: Realizar evaluaciones sistemáticas con múltiples iteraciones implica altos costos en el uso de la API. Por ello, las versiones más económicas de los modelos, aunque menos precisas, pueden ser adecuadas para ciertos proyectos.

Fine-Tuning: La personalización del modelo mediante fine-tuning es efectiva en tareas simples, pero no parece prometedora para evaluaciones complejas debido a la diversidad de salidas posibles y la falta de patrones consistentes en evaluaciones humanas.

Como conclusión puede decirse que ChatGPT muestra un gran potencial en la evaluación académica, pero sus limitaciones subrayan la necesidad de realizar validaciones exhaustivas. Los investigadores deben considerar enfoques sistemáticos, como repetir comandos y ajustar configuraciones, para optimizar resultados. Aunque aún quedan cuestiones abiertas, como el papel del fine-tuning en estas tareas, los resultados sugieren que LLMs pueden complementar, pero no reemplazar, las evaluaciones humanas en tareas complejas.

The New York Times exige a Perplexity cesar el uso no autorizado de su contenido para IA

Davis, Wes. «The New York Times Warns AI Search Engine Perplexity to Stop Using Its Content». The Verge, 15 de octubre de 2024. https://www.theverge.com/2024/10/15/24270774/new-york-times-cease-and-desist-letter-perplexity-ai-search-engine.

New York Times ha enviado una carta de cesación y desista a la empresa emergente de motores de búsqueda Perplexity, exigiendo que dejen de utilizar su contenido, según informó The Wall Street Journal el 15 de octubre de 2024.

La demanda se produce en el contexto de una disputa legal más amplia, ya que el Times está demandando a OpenAI y Microsoft por presuntamente usar su contenido sin permiso para entrenar sus modelos de inteligencia artificial. En este caso, el periódico acusa a Perplexity de haber estado utilizando su contenido sin autorización, algo que también había sido señalado previamente por otras empresas como Forbes y Condé Nast.

La carta enviada por el Times, de acuerdo con The Wall Street Journal, incluye el siguiente pasaje:

«Perplexity y sus socios comerciales se han enriquecido injustamente al utilizar, sin autorización, el periodismo expresivo, cuidadosamente redactado, investigado y editado del Times sin licencia.»

El New York Times tiene una política clara que prohíbe el uso de su contenido para entrenar modelos de inteligencia artificial. En este sentido, han bloqueado explícitamente varios rastreadores de IA, incluido el de Perplexity, mediante el archivo robots.txt, que indica a los motores de búsqueda qué URLs pueden indexar.

Por su parte, Perplexity ha respondido a las acusaciones a través de un comunicado de su portavoz, Sara Platnick, en el que afirman no estar «robando» contenido para el entrenamiento de modelos de IA. En cambio, defiende que se dedica a «indexar páginas web y mostrar contenido factual» como citas para informar las respuestas a las preguntas de los usuarios. Además, Perplexity sostiene que «ninguna organización posee los derechos de autor sobre los hechos», argumentando que este principio permite un ecosistema de información abierto y libre, lo que también beneficia a los medios de comunicación al poder informar sobre temas previamente cubiertos por otros.

En respuesta a la carta de cesación, Perplexity tiene plazo hasta el 30 de octubre de 2024 para presentar su respuesta. La empresa, sin embargo, ha intentado suavizar la situación, enfatizando su interés en colaborar con los editores de contenido. Aravind Srinivas, CEO de Perplexity, expresó NYT que la compañía «no tiene interés en ser el antagonista de nadie» y que está dispuesta a trabajar con todos los editores, incluido el New York Times.

Este conflicto ocurre en medio de las crecientes tensiones sobre el uso de contenido protegido por derechos de autor por parte de modelos de IA. Durante el verano, Perplexity ya había sido acusada de plagio, lo que la llevó a cerrar acuerdos con varios editores, ofreciendo ingresos por publicidad y suscripciones gratuitas a socios como Fortune, Time, y The Texas Tribune. Sin embargo, la disputa con el New York Times pone de manifiesto el creciente choque entre las empresas tecnológicas emergentes y los medios de comunicación tradicionales en cuanto al uso y la compensación por su contenido digital.

Cómo la Inteligencia Artificial Generativa (Gen AI) ya está impactando el mercado laboral

Ozge Demirci, Jonas Hannane and Xinrong Zhu Research: How Gen AI Is Already Impacting the Labor Market. Harvard Business Publishing:, 2024

Texto original

El artículo aborda cómo las herramientas de inteligencia artificial generativa (Gen AI), como ChatGPT y las herramientas de generación de imágenes como DALL-E 2, Midjourney y Stable Diffusion, están transformando el mercado laboral, especialmente en plataformas de freelancing. Los investigadores analizan cómo estas tecnologías afectan la demanda de trabajo, la competencia entre trabajadores humanos y máquinas, y la evolución de las habilidades requeridas en diversos sectores laborales.

El estudio se centra en el impacto de estas tecnologías en el mercado de freelancing, utilizando datos de 1.388.711 publicaciones de trabajo en plataformas como Upwork y Fiverr entre julio de 2021 y julio de 2023. Se clasificaron las publicaciones en tres tipos de trabajos: aquellos manuales, los propensos a la automatización y los relacionados con la creación de imágenes. El análisis se enfoca en cómo la introducción de herramientas de IA generativa ha afectado la demanda de estos tipos de trabajos.

Los hallazgos del estudio revelan que la adopción de ChatGPT y las herramientas de generación de imágenes ha causado una disminución significativa en la demanda de trabajos propensos a la automatización. En particular, los trabajos relacionados con la escritura y el desarrollo de software fueron los más afectados, con una disminución del 30.37% en la cantidad de publicaciones. Asimismo, las tareas de diseño gráfico y modelado 3D experimentaron una reducción en la demanda de 17.01% durante el primer año tras la introducción de herramientas como DALL-E 2.

Además de la disminución de la demanda, se observó un aumento en la competencia entre los trabajadores humanos. Para los trabajos automatizables, el número de propuestas enviadas por freelancer por cada trabajo publicado aumentó un 8.57%, lo que indica una intensificación de la competencia en un mercado que se ve inundado tanto por freelancers como por IA. Esto ha generado un entorno donde los empleadores tienen más opciones, lo que pone a los trabajadores humanos en competencia directa con las máquinas.

Otro hallazgo importante fue el aumento de la complejidad de los trabajos. Los trabajos que sobrevivieron a la automatización ahora requieren habilidades más especializadas. Por ejemplo, los trabajos relacionados con la escritura y el desarrollo de software que sobrevivieron a la automatización tuvieron un aumento del 2.18% en su complejidad. Además, los salarios para estos trabajos aumentaron en un 5.71%, lo que refleja un cambio hacia trabajos más complejos que requieren un mayor nivel de habilidad y conocimiento en la integración de la IA.

El estudio también destaca el aumento de la demanda de habilidades relacionadas con la IA. Se observó un incremento significativo en las publicaciones que mencionaban explícitamente herramientas como ChatGPT, reflejando el creciente interés de las empresas por contratar trabajadores que puedan integrar la IA en sus procesos. Esto sugiere que, si bien algunas tareas son reemplazadas por la IA, otras requieren una integración más avanzada de estas tecnologías, lo que abre nuevas oportunidades para los trabajadores que se especialicen en estas áreas.

Finalmente, el artículo señala una brecha de género en el uso de tecnologías como ChatGPT. Las mujeres, en particular, eran menos propensas a utilizar ChatGPT en comparación con los hombres, lo que resalta una disparidad en la adopción de la IA en los mismos roles. Este hallazgo subraya la necesidad de implementar programas de capacitación inclusiva para abordar esta desigualdad y asegurar que todos los trabajadores tengan las mismas oportunidades para adaptarse a los cambios tecnológicos.

En conclusión, la inteligencia artificial generativa está transformando el mercado laboral al automatizar ciertas tareas, pero también al crear nuevos roles que requieren habilidades especializadas. Las empresas que adopten estrategias de capacitación en IA y fomenten una cultura de adaptabilidad tendrán mayores oportunidades de prosperar en este nuevo entorno. La clave será complementar las capacidades humanas con la IA, en lugar de reemplazarlas por completo, para maximizar la eficiencia sin perder creatividad ni supervisión humana.

ChatGPT ya es capaz de catalogar libros en formato Marc 21

ChatGPT puede ayudarte a crear un registro MARC 21 de manera manual, proporcionando el formato correcto y ayudándote a organizar los campos de manera adecuada.

A continuación os proporciono un ejemplo de cómo sería el registro en formato MARC 21 para el libro Luisa Mora Villarejo, Un legado común: las donaciones recibidas en el siglo XXI en la Biblioteca Islámica «Félix María Pareja» (Agencia Española de Cooperación Internacional para el Desarrollo, 2023), Para ello he copiado la información textual del catálogo y lo he pegado en ChatGPT, pidiendo que me elabore un registro MARC 21 de este libro. El resultado es este:

=LDR  01716cam a2200361 i 4500
=001  0000000001
=005  20231211
=008  231211s2023    sp            000 0 spa  
=020  ##  $a 9788483471937
=020  ##  $a 109-23-042-X
=035  ##  $a (NIPO) 0000000001
=035  ##  $a (DL) M 33141-2023
=041  0#  $a spa
=100  1#  $a Mora Villarejo, Luisa, $e autor.
=245  10  $a Un legado común : $b las donaciones recibidas en el siglo XXI en la Biblioteca Islámica 'Félix María Pareja' / $c Luisa Mora Villarejo.
=260  ##  $a Madrid : $b Agencia Española de Cooperación Internacional para el Desarrollo, Ministerio de Asuntos Exteriores, Unión Europea y Cooperación, $c 2023.
=300  ##  $a 184 p. : $b il. col. ; $c 24 cm.
=490  1#  $a Ciencias y humanismo (Agencia Española de Cooperación Internacional)
=504  ##  $a Bibliografía: p. 155-159.
=520  ##  $a El libro aborda las donaciones recibidas en el siglo XXI por la Biblioteca Islámica 'Félix María Pareja', destacando las bibliotecas personales donadas por figuras del arabismo y la cooperación cultural entre España y los países árabes.
=650  0#  $a Agencia Española de Cooperación Internacional para el Desarrollo. $v Biblioteca.
=650  0#  $a Bibliotecas $x Historia.
=650  0#  $a Cooperación cultural de España.
=650  0#  $a Arabistas españoles.
=650  0#  $a Relaciones España-Países árabes.
=650  0#  $a Colecciones especiales.
=710  2#  $a Agencia Española de Cooperación Internacional para el Desarrollo, $e emisor.
=830  0#  $a Ciencias y humanismo (Agencia Española de Cooperación Internacional)
=856  41  $u http://creativecommons.org/licenses/by-nc-sa/4.0/ $z Licencia Creative Commons - Attribution, Non-Commercial, ShareAlike (BY-NC-SA)

La herramienta también nos explica que es cada uno de los campos.

Explicación de los campos principales:

  • =245: Título completo, en este caso incluye el título y subtítulo del libro.
  • =260: Información de publicación, que incluye el lugar de publicación, el editor y la fecha de publicación.
  • =300: Descripción física del libro, que indica el número de páginas y el tamaño.
  • =504: Nota bibliográfica que incluye la bibliografía.
  • =520: Resumen o sinopsis del contenido del libro.
  • =650: Descriptores de temas que ayudan a clasificar el libro, en este caso relacionados con bibliotecas, makerspaces e innovación.
  • =852: Información sobre la ubicación del libro, en este caso, una biblioteca central.

Este es un ejemplo de cómo se podría estructurar el registro de este libro en un sistema de catalogación MARC 21 para una biblioteca.

¿Puede la inteligencia artificial revisar la literatura científica y descifrar su significado?

Pearson, Helen. «Can AI Review the Scientific Literature — and Figure out What It All Means?» Nature 635, n.o 8038 (13 de noviembre de 2024): 276-78. https://doi.org/10.1038/d41586-024-03676-9.


La inteligencia artificial (IA) está revolucionando la revisión de la literatura científica al ofrecer herramientas que pueden resumir grandes volúmenes de información de manera rápida. Sin embargo, esta innovación plantea tanto beneficios como riesgos.

La IA en la ciencia no es un tema nuevo. Los investigadores han utilizado herramientas de software durante décadas para buscar y analizar la literatura científica. Sin embargo, los recientes modelos de lenguaje de gran escala (LLM), como ChatGPT, han generado entusiasmo por la automatización de la síntesis de información. Estos modelos no solo encuentran y resumen artículos, sino que ahora pueden, en teoría, generar revisiones narrativas de literatura científica, aunque todavía no alcanzan el nivel de rigor de las revisiones sistemáticas.

Este campo está en auge debido a la dificultad de los investigadores para mantenerse al día con la creciente cantidad de publicaciones científicas. Tal es el caso de Sam Rodriques, quien, junto a su equipo de la startup FutureHouse, ha creado un sistema de IA llamado PaperQA2, diseñado para sintetizar información científica. Con él, lograron producir artículos sobre 17.000 genes humanos, muchos de los cuales carecían de una página en Wikipedia.

Los motores de búsqueda de IA en ciencia

Algunos motores de búsqueda con IA, como Consensus y Elicit, se han diseñado específicamente para facilitar la revisión de literatura académica. Estos motores primero realizan una búsqueda en bases de datos científicas como Semantic Scholar y PubMed, y luego utilizan un LLM para resumir los estudios encontrados y generar respuestas sintetizadas. El usuario puede ver referencias y filtros para ajustar los resultados. Estas herramientas pueden hacer que el proceso de revisión y redacción sea más eficiente al encargarse de las tareas más laboriosas, aunque la calidad de sus resúmenes no es comparable aún a la de una revisión realizada por expertos.

Desafíos y limitaciones

Los expertos advierten que pedirle a una IA como ChatGPT que redacte revisiones completas desde cero sería poco fiable. Los LLM entrenan con grandes volúmenes de texto y generan respuestas basadas en probabilidad, sin evaluar la credibilidad de las fuentes. Esto significa que pueden combinar información académica válida con fuentes menos confiables, sin dar prioridad a la literatura de mayor calidad. Además, pueden generar errores o «alucinaciones», es decir, referencias o afirmaciones inexistentes.

Para evitar estos problemas, algunos investigadores emplean un método llamado “generación aumentada por recuperación”, que consiste en cargar en el modelo únicamente artículos seleccionados previamente. Esta técnica reduce los errores, pero no los elimina por completo.

Revisión sistemática y el papel de la IA

Mientras las revisiones narrativas son confiables, la revisión sistemática presenta mayores obstáculos. Este tipo de revisión requiere pasos estrictos, como búsqueda exhaustiva, evaluación de la calidad de los estudios, síntesis de datos y, a menudo, un meta-análisis. Cada paso es revisado por al menos dos investigadores para garantizar precisión y transparencia. En 2019, un equipo de investigadores, incluido Paul Glasziou, estableció un récord al completar una revisión sistemática en solo dos semanas, empleando herramientas como RobotSearch y RobotReviewer, que usan IA para identificar estudios y evaluar riesgos de sesgo. Sin embargo, aunque estas herramientas reducen el tiempo de revisión, la IA aún no puede completar una revisión sistemática de forma autónoma.

Elicit y otros sistemas afirman ayudar en la revisión sistemática, pero no la automatizan completamente. En su lugar, permiten a los investigadores acelerar pasos específicos, como la clasificación de artículos y la extracción de datos, mientras que otros procesos siguen dependiendo del juicio humano. La limitación de estos sistemas es que solo pueden buscar en artículos de acceso abierto y abstracts, dejando fuera gran parte de la literatura científica, que suele estar bajo pago.

Riesgos y futuro de la IA en revisiones científicas

Aunque la IA puede ayudar a mejorar la velocidad y eficiencia de las revisiones, también podría dar lugar a revisiones menos rigurosas y de menor calidad. La tentación de utilizar herramientas de IA para realizar revisiones rápidamente podría resultar en artículos poco precisos, contaminando la literatura científica. Sin embargo, hay quienes creen que la IA también podría elevar los estándares en la revisión de literatura al hacer que más científicos consulten la literatura existente antes de lanzar nuevos estudios.

Algunos expertos sugieren que el desarrollo de herramientas de IA para la ciencia debería estar en manos de organizaciones sin fines de lucro que promuevan la transparencia y la evaluación rigurosa. Recientemente, en el Reino Unido se ha anunciado una inversión significativa en herramientas de síntesis de evidencia, lo que refleja el creciente interés en abordar estos desafíos. La clave para el futuro parece estar en equilibrar la eficiencia que la IA puede aportar con la necesidad de mantener estándares rigurosos en la investigación científica.

El valor de la biblioteca se incrementa en la era de la IA

Tanzi, Nick. «The Library’s Value Is Increased in the Age of AI». The Digital Librarian, 7 de noviembre de 2024. https://the-digital-librarian.com/2024/11/07/the-librarys-value-is-increased-in-the-age-of-ai/.

El artículo de Nick Tanzi titulado The Library’s Value is Increased in the Age of AI discute cómo las bibliotecas, lejos de perder valor frente al auge de la inteligencia artificial (IA), ven ampliada su relevancia debido a tres pilares fundamentales: privacidad, exactitud e humanidad.

El valor de las bibliotecas en la era de la inteligencia artificial (IA) ha aumentado considerablemente debido a su capacidad para adaptarse a nuevas tecnologías, como ya lo ha demostrado en el pasado con la llegada de la web, Google, los eReaders y otras innovaciones. En este contexto, las bibliotecas siguen desempeñando un papel fundamental, especialmente en áreas donde la IA presenta nuevos desafíos. Temas como la privacidad, la precisión de la información, la humanidad en un mundo cada vez más tecnológico y la necesidad de encontrar un equilibrio entre la tecnología y las personas son ahora más relevantes que nunca.

En la era de la IA, la privacidad se convierte en un bien valioso. Las tecnologías emergentes tienden a recolectar datos personales de los usuarios para alimentar sus modelos, lo que ha suscitado preocupaciones sobre la explotación de la información personal. En contraste, las bibliotecas defienden firmemente la privacidad de sus usuarios, garantizando que no se compartan datos personales sin consentimiento explícito. La ALA (American Library Association) establece que las bibliotecas deben proteger la privacidad, un principio que resulta especialmente relevante dado el creciente uso de IA. Las bibliotecas, por lo tanto, deben adoptar políticas claras para el uso de herramientas de IA que no comprometan la privacidad de los usuarios, educar sobre cómo gestionar la huella digital y asegurarse de que los proveedores de servicios de IA respeten estos valores.

En un mundo saturado de contenido generado por IA, como imágenes manipuladas, deepfakes y «alucinaciones» de IA, la capacidad de discernir información precisa y objetiva es crucial. Las bibliotecas se posicionan como guardianes de la información confiable, ofreciendo acceso a colecciones de libros, bases de datos y otros recursos verificados. Sin embargo, como señala Luke Swarthout, optar por excluir la IA del internet es cada vez más inviable. Las bibliotecas deben enseñar a sus usuarios a identificar contenidos generados por IA, a evaluar la fiabilidad de estas fuentes y a utilizar la IA de manera crítica. En este sentido, las bibliotecas se convierten en centros esenciales para la alfabetización mediática y la alfabetización en IA.

La tecnología, y en especial la IA, puede deshumanizar las interacciones, como lo evidencian los sistemas automatizados de atención al cliente y los chatbots. Las bibliotecas, en cambio, se distinguen por su enfoque en la humanidad: son instituciones locales, profundamente conectadas con sus comunidades. Su personalización del servicio se basa en el contacto humano, y no en la recolección de grandes volúmenes de datos. Las bibliotecas ofrecen un espacio para la interacción social, lo que es cada vez más importante en una era de creciente aislamiento social.

En definitiva, las bibliotecas enfrentan el reto de integrar las tecnologías emergentes como la IA sin comprometer los principios fundamentales que las definen: privacidad, exactitud y humanidad. A medida que la IA se vuelve omnipresente, es crucial que las bibliotecas mantengan su identidad y su relevancia, ofreciendo servicios que respeten estos valores mientras navegan por los cambios tecnológicos.

Fundamentalmente se ubraya que las bibliotecas, lejos de ser obsoletas en la era digital, desempeñan un papel más relevante que nunca, actuando como baluartes de privacidad, fuentes de información precisa y centros de interacción humana en un mundo cada vez más automatizado.

Anthropic advierte de la catástrofe de la IA si los gobiernos no regulan en 18 meses

Anthropic. «The Case for Targeted Regulation.» Anthropic, 31 de octubre de 2024. https://www.anthropic.com/news/the-case-for-targeted-regulation.

La regulación de la IA es esencial para balancear los beneficios y los riesgos. Si bien es un desafío complejo, es crucial implementarla pronto para evitar consecuencias negativas y asegurar el progreso en áreas clave como la ciencia y la medicina.

Los sistemas de inteligencia artificial (IA) están avanzando rápidamente, ofreciendo enormes beneficios potenciales en áreas como la ciencia, la medicina y la economía. Sin embargo, también presentan riesgos significativos, como el uso indebido en ciberseguridad o biotecnología, y la posibilidad de comportamientos autónomos y destructivos de los propios sistemas. Ante estos riesgos, se urge a los gobiernos a implementar políticas de IA en los próximos 18 meses, ya que el margen para prevenir estos riesgos está cerrándose rápidamente.

Una regulación bien diseñada y específica puede permitir que se aprovechen los beneficios de la IA, mitigando al mismo tiempo sus peligros. Sin embargo, si se retrasan las acciones, el resultado podría ser una regulación ineficaz que limite el progreso sin evitar los riesgos. Se propone una regulación dirigida que se enfoque en tres principios clave:

  1. Urgencia: La IA ha avanzado significativamente en el último año, con mejoras notables en tareas de codificación, razonamiento y matemáticas, lo que aumenta tanto las aplicaciones positivas como las posibilidades de uso indebido, especialmente en áreas como la ciberseguridad y la biotecnología.
  2. Política de Escalamiento Responsable (RSP): En Anthropic, la empresa responsable del artículo, se ha implementado una política llamada «Escalamiento Responsable», que ajusta las medidas de seguridad y mitigación de riesgos en función de los niveles de capacidad de los modelos de IA. Esta política se adapta de forma continua según el desarrollo de los modelos y su potencial de generar riesgos catastróficos.
  3. Elementos clave para la regulación de la IA:
    • Transparencia: Las empresas deben ser obligadas a publicar sus políticas de seguridad y las evaluaciones de riesgo de cada nueva generación de modelos de IA.
    • Incentivos para mejores prácticas de seguridad: La regulación debe fomentar que las empresas desarrollen políticas efectivas que prevengan riesgos graves.
    • Simplicidad y enfoque: La regulación debe ser precisa y evitar cargas innecesarias o reglas complicadas que puedan obstaculizar el progreso.

Se destaca la necesidad urgente de que los gobiernos y la industria trabajen juntos para desarrollar un marco regulatorio efectivo, que no solo reduzca los riesgos catastróficos de la IA, sino que también permita a la industria seguir innovando. Esto debe lograrse de manera flexible, considerando el rápido avance de la tecnología y adaptando las políticas a las mejores prácticas emergentes.

Google ya incluye marcas de agua en sus textos generados por inteligencia artificial

«Google DeepMind Debuts Watermarks for AI-Generated Text – IEEE Spectrum». Accedido 13 de noviembre de 2024. https://spectrum.ieee.org/watermark.

Google DeepMind ha lanzado un innovador sistema de marca de agua para textos generados por IA llamado SynthID-Text, el cual tiene como objetivo facilitar la identificación de contenidos creados por modelos de lenguaje como su chatbot Gemini.

Esta tecnología añade una “firma estadística” o marca de agua en el texto generado, de manera que un detector especializado puede verificar si el contenido proviene de una IA, todo sin afectar la calidad, creatividad ni velocidad de la generación de respuestas. A diferencia de otros métodos que también intentan identificar texto de IA, SynthID-Text no altera visiblemente el texto para el lector humano, pero sí deja una señal detectable para su propio sistema.

Este sistema es la respuesta de Google al creciente problema de proliferación de contenido generado por IA, que ha inundado plataformas digitales como redes sociales y entornos académicos. Aunque existen herramientas para detectar textos de IA o incluso para hacerlos parecer escritos por humanos, su precisión ha sido limitada y, a medida que los chatbots mejoran, distinguir entre textos humanos e IA se vuelve más difícil. Con la implementación de SynthID-Text, Google espera dar un paso adelante en la solución de este problema.

SynthID-Text opera discretamente en el proceso de generación de texto: el sistema asigna puntuaciones a palabras candidatas en la respuesta generada por el chatbot, eligiendo aquellas que crean un patrón estadístico. Este patrón es imperceptible para los usuarios, pero detectable mediante el sistema SynthID. La marca de agua es esencialmente un “sello” que permite a los sistemas de Google o a desarrolladores que usen Gemini verificar si el texto proviene de un modelo de lenguaje de Google.

Sin embargo, los investigadores admiten que la marca de agua puede ser fácilmente eliminada o alterada si el texto se modifica de manera significativa. Por ejemplo, un usuario que edite el texto o que lo resuma con otro chatbot puede remover la firma, lo cual representa un desafío considerable para la tecnología. A pesar de estas limitaciones, Google ha asegurado que las respuestas marcadas con SynthID-Text son igual de satisfactorias que las respuestas no marcadas, basándose en pruebas realizadas con 20 millones de solicitudes a Gemini.