Archivo de la etiqueta: Desinformación

La circulación de la información y la verdad : claves para su abordaje

La circulación de la información y la verdad : claves para su abordaje / Agustina Ahibe … [et al.] ; Editado por Mariano Dagatti ; Margoth Mena-Young. – 1a ed. – Ciudad Autónoma de Buenos Aires : CLACSO ; Guadalajara : CALAS, 2025.

Texto completo

El libro aborda los desafíos que enfrentan las democracias contemporáneas en un entorno informativo cada vez más complejo, marcado por la desinformación, la distorsión informativa, la polarización y la crisis de autoridad del periodismo. Coordinado por Mariano Dagatti y Margoth Mena-Young, la obra reúne contribuciones de destacados investigadores latinoamericanos y europeos con el fin de analizar cómo estos fenómenos transforman la relación entre ciudadanía, medios y conocimiento en la era digital.

La circulación de la información y la verdad indaga en las tensiones entre verdad, desinformación y democracia, desde una mirada crítica. A partir de conceptos clave como credibilidad, verificación, polarización, algoritmos y educación mediática, analiza cómo se construyen, filtran y consumen las noticias en un entorno marcado por el desorden informativo.

Un informe sobre Salud presentado por el Secretario de Salud Robert F. Kennedy Jr incluyó estudios inexistentes y referencias científicas erróneas.

Harmon, Stephie. 2025. “RFK Jr.’s ‘Make America Healthy Again’ Report Cites Fake Studies.” Gizmodo, May 30, 2025. https://gizmodo.com/rfk-jr-s-make-america-healthy-again-report-cites-fake-studies-2000608850

El informe «Make America Healthy Again» (MAHA), presentado por Robert F. Kennedy Jr. como Secretario de Salud y Servicios Humanos de EE. UU., ha generado una fuerte polémica debido a la inclusión de estudios inexistentes y referencias científicas erróneas. Aunque el documento afirma estar respaldado por más de 500 fuentes, investigaciones periodísticas han revelado que al menos siete de estas citas corresponden a estudios que no existen o han sido malinterpretados

Hace unos días, un estudio del Tow Center for Digital Journalism, publicado por la Columbia Journalism Review, reveló que los motores de búsqueda impulsados por inteligencia artificial citan incorrectamente las fuentes de noticias en más del 60 % de los casos. Esta alarmante tendencia adquiere aún más relevancia tras la reciente noticia sobre el informe «Make America Healthy Again» promovido por RFK Jr., el cual se apoya en estudios falsos y mal citados, reflejando los peligros reales de la desinformación amplificada por el uso irresponsable de la IA en la producción y difusión de contenidos.

Por ejemplo, se menciona un estudio atribuido a Robert L. Findling sobre la publicidad de medicamentos psicotrópicos en jóvenes, el cual no se encuentra en ninguna base de datos académica, y el propio Findling ha negado haberlo escrito. Otro caso es una supuesta investigación de 2017 sobre la prescripción excesiva de corticosteroides en niños con asma, que tampoco existe. Además, se han detectado errores en citas de estudios reales, como atribuir a una investigación sobre adultos conclusiones aplicables a niños, o afirmar que un estudio incluía psicoterapia cuando no era así

Estos hallazgos han suscitado preocupaciones sobre la integridad científica del informe y han llevado a especulaciones sobre el posible uso de inteligencia artificial generativa en su elaboración. Aunque la Casa Blanca ha calificado los errores como «problemas de formato» y ha prometido actualizaciones, expertos en salud pública y académicos han expresado su alarma por la falta de rigor y transparencia en un documento que podría influir en políticas de salud pública.

El informe también ha sido criticado por omitir causas principales de mortalidad infantil, como accidentes automovilísticos y violencia con armas de fuego, y por promover teorías desacreditadas sobre vacunas y fluoración del agua. Estas controversias ponen en entredicho la credibilidad del informe y resaltan la necesidad de una evaluación rigurosa y basada en evidencia científica en la formulación de políticas de salud.

¿Qué es la generación de imágenes basada en autorregresión y cómo afectará al fraude documental?

Flook, Rebecca. 2025. «What Is Autoregression-Based Image Generation and How Will It Impact Document Fraud?» Artificial Intelligence, mayo 23, 2025. https://nationalcentreforai.jiscinvolve.org/wp/2025/05/23/what-is-autoregression-based-image-generation-and-how-will-it-impact-document-fraud-2/

En el artículo se explora el papel emergente de los modelos de IA autorregresivos en la generación de imágenes y sus implicaciones en el fraude documental.

Los modelos autoregresivos generan imágenes prediciendo píxel por píxel en una secuencia, basándose en los píxeles anteriores. Esta técnica permite una creación detallada y controlada de imágenes, lo que la hace útil para tareas que requieren precisión y coherencia visual. En pocas palabras, tiene que ver con la utilización de la autorregresión. No se trata de un concepto nuevo en la IA Generativa, ya que los modelos autorregresivos se utilizan principalmente para generar texto. También se ha utilizado anteriormente en la generación de imágenes, pero no con el nivel de multimodalidad que estamos presenciando ahora, que se ha incorporado a GPT-4o y está disponible para los usuarios de ChatGPT. Así, cuando un usuario pide una imagen al modelo de IA Generativa, éste utiliza esta metodología aprendida, convirtiendo una distribución de datos de puro ruido en una imagen basada en una indicación del usuario, con diversos grados de éxito.

Desde la introducción de esta nueva metodología, se ha observado que el modelo posee una capacidad preocupante para crear documentos falsificados, como distintos tipos de identificaciones. Muchos procesos de autenticación en la vida diaria dependen de la verificación de imágenes, y la inteligencia artificial está nuevamente facilitando el acceso a actores malintencionados para generar recursos fraudulentos. Los generadores de imágenes por IA intentan asegurar que los usuarios conozcan el origen de una imagen incluyendo marcas de agua o una firma en los metadatos. Aunque esto representa un obstáculo para los actores malintencionados, no es una solución infalible. Estos datos de procedencia pueden ser eliminados o modificados para imitar autenticidad.

Para contrarrestar estos riesgos, el artículo subraya la importancia de desarrollar mecanismos sólidos de detección y protocolos de verificación. También destaca la necesidad de mantener la investigación activa y fomentar la colaboración entre las partes implicadas para anticiparse a posibles usos fraudulentos.

Base de datos de alucinaciones de la Inteligencia Artificial generativa

AI Hallucination Cases

https://www.damiencharlotin.com/hallucinations/

Esta base de datos recopila decisiones judiciales relacionadas con casos en los que una inteligencia artificial generativa produjo contenido alucinado —es decir, contenido falso o erróneo generado por el sistema. El ejemplo más común son las citas legales falsas (fake citations), aunque también se incluyen otros tipos de errores, como argumentos jurídicos inventados o distorsionados.

Es importante destacar que esta base no abarca todos los casos en que se han utilizado citas falsas o IA en procedimientos judiciales, sino que se centra únicamente en los casos en los que ha habido una decisión legal vinculada a la utilización de contenido alucinado por IA.

El fenómeno de las alucinaciones en IA se refiere a la generación de información falsa pero con apariencia convincente. En el ámbito jurídico, esto representa un riesgo serio para la integridad del proceso judicial, ya que puede conducir a decisiones basadas en datos erróneos o incluso a la desinformación intencionada. Por ello, esta base de datos funciona también como una advertencia práctica sobre los límites actuales de la tecnología y la necesidad de usarla con criterio, supervisión humana y sentido ético.

Hasta el momento, la base de datos ha identificado 121 casos, y sigue en expansión conforme surgen nuevos ejemplos. Su objetivo es ofrecer un registro sistemático y riguroso que permita entender el impacto real del uso de estas herramientas tecnológicas en entornos legales, donde la precisión y la veracidad son esenciales. Es un recurso de gran valor tanto para juristas como para investigadores, medios de comunicación y responsables de políticas públicas.

El uso de contenido generado por IA en documentos judiciales ha provocado en algunos casos consecuencias graves, como sanciones disciplinarias a abogados que incluyeron citas falsas producidas por sistemas como ChatGPT sin verificarlas. Estos incidentes han sido objeto de cobertura mediática y han despertado un amplio debate sobre la responsabilidad profesional y la fiabilidad de las herramientas de IA en contextos de alta exigencia ética.

Un caso destacado es el de Mata v. Avianca, Inc., donde los abogados del demandante utilizaron ChatGPT para generar una moción legal que contenía múltiples casos jurídicos ficticios. El tribunal descubrió que las citas eran inexistentes y sancionó a los abogados con una multa de 5.000$, subrayando la responsabilidad profesional de verificar la exactitud de las referencias legales, independientemente de las herramientas utilizadas.

Otro ejemplo relevante es el caso en Israel de Mahala Association v. Clalit Health Services, donde se presentaron múltiples citas falsas generadas por una herramienta de IA llamada Takdin.AI. El tribunal no solo desestimó la petición de certificación de acción colectiva, sino que también impuso sanciones monetarias y determinó que el abogado no era apto para actuar en el caso.

En definitiva, este archivo documental se ha convertido en un instrumento de seguimiento y análisis de un fenómeno emergente que afecta a la práctica del derecho y que requiere atención tanto desde el ámbito jurídico como desde la innovación tecnológica y la regulación.

Inteligencia artificial y desinformación: Herramientas y estrategias para abordar en las aulas el desafío del momento

Garcia Luna, Ana Laura, Cecilia Vázquez y Nira Dinerstein. Inteligencia artificial y desinformación: Herramientas y estrategias para abordar en las aulas el desafío del momento. Edición de Franco Piccato y Guadalupe López. Buenos Aires: Chequeado, noviembre de 2024.

Texto completo

Esta guía, elaborada por Chequeado con el apoyo de Google News Initiative, está dirigida a profesores universitarios de América Latina. Su propósito es proporcionar herramientas y conocimientos para enfrentar los desafíos que plantea la inteligencia artificial (IA) en la generación y detección de desinformación, promoviendo así la resiliencia informativa en las futuras generaciones.

Objetivos principales:

  • Comprender los conceptos clave relacionados con la IA y su funcionamiento.
  • Identificar herramientas actuales para la generación de textos, imágenes, videos y audios mediante IA.
  • Desarrollar habilidades prácticas para verificar la credibilidad de la información y detectar desinformaciones.
  • Analizar casos de estudio que ejemplifiquen la desinformación potenciada por IA, fomentando el pensamiento crítico y el debate en el aula

Información, comunicación y democracia, el papel de las bibliotecas.

Morán Guzmán, Ana Gricelda, y Sergio López Ruelas, eds. 2024. Información, comunicación y democracia, el papel de las bibliotecas. Guadalajara: Universidad de Guadalajara.

Texto completo

En las últimas dos décadas, la democracia global se ha debilitado significativamente, como refleja el Democracy Index 2022. Conceptos como la posverdad y las noticias falsas proliferan, afectando la percepción y participación ciudadana, especialmente a través de redes sociales, principal fuente informativa para muchos jóvenes. Este entorno favorece la desinformación y la polarización, deteriorando la calidad democrática. Ante este panorama, las bibliotecas juegan un papel crucial al ofrecer acceso a información confiable y formar a los usuarios en competencias informacionales, además de constituirse como espacios seguros, inclusivos y accesibles para toda la población.

Cómo las bibliotecas pueden apoyar la alfabetización mediática

El artículo subraya la importancia crítica de la alfabetización mediática en la sociedad actual. Partiendo de la premisa de que las habilidades para evaluar la información —como aplicar contexto, ser curioso y buscar pruebas de validez— son esenciales para una ciudadanía informada. La autora sostiene que, ante el flujo constante de datos que recibimos a diario, la diferencia entre una ciudadanía bien informada o manipulable dependerá de cómo eduquemos en el uso crítico de los medios.

En este contexto, las bibliotecas, tanto escolares como públicas, se presentan como espacios ideales para promover la alfabetización mediática. Swicker propone que los bibliotecarios incluyan este tipo de enseñanza en los programas educativos o bien ofrezcan talleres específicos para distintas edades. Además, sugiere que las webs de las bibliotecas reserven secciones visibles para recursos de verificación de hechos. Pero más allá de proporcionar herramientas, recalca que el ejemplo es clave: usar y mostrar cómo se emplean estas fuentes de verificación debe ser algo natural y habitual, una respuesta instintiva ante cualquier información dudosa. La alfabetización mediática, afirma, no funciona sin la chispa de la curiosidad, sin preguntarse continuamente “¿cómo sabes eso?”.

El artículo también recopila una serie de recursos útiles para fomentar estas habilidades. Para el uso cotidiano, destaca sitios como AllSides, que muestra noticias desde distintas posiciones ideológicas; Google Fact Check Tools; FactCheck.org, centrado en política estadounidense; Snopes, que desmonta rumores y leyendas urbanas; y Lead Stories, que se enfoca en contenidos virales. Además, ofrece un listado de planes de lección dirigidos a docentes o bibliotecarios que deseen impartir formación en alfabetización mediática, como los materiales de Common Sense Education, Checkology del News Literacy Project, y Be Media Wise de PBS, Civic Online Reasoning, que ofrece materiales gratuitos listos para usar en el aula, entre otros. Estos materiales están orientados a todas las edades, desde la primaria hasta la educación superior.

Por último, Swicker recomienda organizaciones y reportes que sirven para la formación continua o la defensa institucional de la alfabetización mediática, como Media Literacy Now, The National Association for Media Literacy Education, o el State of Media Literacy Education Report 2024. Concluye haciendo un llamado a la acción: aunque los recursos existen y son accesibles, es responsabilidad de los bibliotecarios distribuirlos y facilitar su uso. Solo así se podrá lograr que las nuevas generaciones no se conformen con lo que leen o ven, sino que lo cuestionen, contrasten y comprendan de forma crítica.

Comprender y abordar la desinformación sobre la ciencia

National Academies of Sciences, Engineering, and Medicine. Understanding and Addressing Misinformation About Science. Washington, DC: The National Academies Press, 2024. https://nap.nationalacademies.org/catalog/27894/understanding-and-addressing-misinformation-about-science.

Understanding and Addressing Misinformation About Science (2024) analiza cómo el ecosistema de información actual facilita la propagación de desinformación científica y dificulta la identificación de información científicamente precisa.

La desinformación sobre la ciencia representa un problema de interés público, ya que puede causar daños a nivel individual, comunitario y social. Para abordar esta cuestión, es fundamental mejorar el acceso a información científica de alta calidad, lo que puede llenar vacíos informativos y reducir la exposición a información errónea.

El documento destaca que la desinformación no proviene exclusivamente de actores malintencionados que buscan engañar al público, sino que también puede surgir de manera involuntaria desde diversas fuentes. En este contexto, se requieren soluciones proactivas que permitan mitigar la propagación de información errónea sobre la ciencia y fortalezcan la alfabetización científica en la sociedad.

Poder Digital. Estado de Poder

Estado de Poder 2023 : poder digital / Apoorva PG … [et al.]. – 1a ed. Ciudad Autónoma de Buenos Aires : CLACSO ; Amsterdam : TNI
Transnational Institute, 2023.

Texto completo

Las grandes empresas tecnológicas han concentrado un inmenso poder económico con la connivencia de los Estados, lo que ha dado lugar a una ampliación de la vigilancia, una espiral de desinformación y una debilitación de los derechos de las personas trabajadoras. El informe de Estado del Poder 2023 expone a los actores, las estrategias y las implicaciones de esta toma de poder digital, y comparte ideas sobre cómo los movimientos podrían devolver la tecnología al control popular.

Este volumen, una colaboración entre CLACSO, TNI y FUHEM, describe la manera en que los gigantes tecnológicos han concentrado un vastísimo poder económico, lo cual, sumado a la colusión de los estados, ha traído como resultado una extendida vigilancia, una creciente desinformación y un debilitamiento de los derechos de trabajadores y trabajadoras. Esta traducción al español del reporte número 11 de Estado de Poder, publicado anualmente, expone los actores, las implicancias y las estrategias de este poder digital, y comparte ideas sobre cómo los movimientos podrían llevar esta tecnología para que esté bajo el control popular.

Bibliotecas universitarias españolas: generando entornos seguros frente a los desórdenes de la información

Morera-Gracia, Eva. «Bibliotecas universitarias españolas: generando entornos seguros frente a los desórdenes de la información.» Revista de Investigación sobre Bibliotecas, Educación y Sociedad 2024. Universidad Complutense de Madrid. https://revistas.ucm.es/index.php/RIBE/article/download/99922/4564456572332?inline=1.

El artículo analiza el papel de las bibliotecas universitarias españolas en la lucha contra la desinformación, destacando su compromiso con la alfabetización mediática. Presenta estrategias como cursos de competencia digital y guías informativas para promover el pensamiento crítico. Además, resalta iniciativas complementarias en otros ámbitos educativos y municipales.

La autora enfatiza que, según la Federación Internacional de Asociaciones de Bibliotecarios y Bibliotecas (IFLA), estas instituciones tienen un compromiso ético e institucional para garantizar el acceso a información fiable. En este sentido, las bibliotecas deben ir más allá de su función tradicional de conservar y difundir el conocimiento académico y científico, convirtiéndose en espacios de verificación y formación para la ciudadanía.

El artículo se centra en tres objetivos principales. Primero, estudia el concepto de desorden de la información, analizando cómo la información puede ser manipulada, distorsionada o presentada de manera errónea. Segundo, distingue los diferentes tipos de desinformación, como la información errónea, la propaganda engañosa y la desinformación deliberada. Finalmente, describe diversas estrategias y actividades que las bibliotecas universitarias españolas han implementado para crear entornos informativos seguros.

Para desarrollar el estudio, se llevó a cabo un proceso metodológico en varias fases. Primero, se realizó una recopilación y análisis de fuentes sobre desinformación y el papel de las bibliotecas en su combate. Luego, se definieron las categorías del desorden informativo y se identificaron estrategias efectivas para abordarlo. Finalmente, se ejemplificaron estas estrategias con casos concretos de bibliotecas universitarias en España.

Entre las iniciativas más relevantes se encuentran los cursos de competencia digital, diseñados para mejorar la capacidad de los usuarios en la evaluación crítica de la información y el manejo de herramientas digitales. Además, las bibliotecas han desarrollado LibGuides, guías digitales que proporcionan recursos y estrategias para identificar y combatir la desinformación, promoviendo la alfabetización mediática y digital.

Además del contenido del artículo, existen otras iniciativas y perspectivas que refuerzan el papel de las bibliotecas y las instituciones educativas en la lucha contra la desinformación. Por ejemplo, Neus Castellano, directora de la Biblioteca Gabriel García Márquez de Barcelona, enfatiza que estas instituciones actúan como un «pegamento social» y un refugio frente a la desinformación predominante en las redes sociales. Por otro lado, expertos en alfabetización mediática resaltan la necesidad de educar a los jóvenes para que desarrollen un pensamiento crítico que les permita discernir entre noticias falsas y contenido veraz.

En el ámbito municipal, la Biblioteca de Xàtiva ha impulsado un club de lectura fácil en colaboración con asociaciones locales, con el objetivo de fomentar la inclusión y facilitar el acceso a la lectura a personas con dificultades lectoras, como migrantes o individuos con poca escolarización. A nivel universitario, la Universidad de Córdoba ha decidido cerrar sus cuentas en la red social X (antes Twitter), argumentando que la plataforma ha favorecido comportamientos contrarios a los valores democráticos.

En conclusión, el artículo subraya la importancia de las bibliotecas universitarias españolas en la generación de entornos seguros frente a los desórdenes de la información. A través de iniciativas como los cursos de competencia digital y la creación de recursos específicos, estas instituciones desempeñan un papel clave en la educación de ciudadanos críticos y bien informados. Complementadas con otras estrategias a nivel municipal y académico, las bibliotecas se consolidan como espacios fundamentales para la lucha contra la desinformación en un mundo cada vez más saturado de información manipulada.