Archivo de la etiqueta: Desinformación

La Inteligencia Artificial es a la vez una poderosa herramienta y la mayor generadora de desinformación

Team discussing AI misinformation research with data visualizations on screens and projector
A diverse team analyzing misinformation data in a modern lab setting

Kupferschmidt, Kai. “To misinformation researchers, AI is a scourge—and a powerful new tool.” Science, 2026. https://www.science.org/content/article/misinformation-researchers-ai-scourge-and-powerful-new-tool

En septiembre de 2023, los investigadores que analizaban una campaña de desinformación rusa observaron un cambio repentino en un sitio web de noticias falsas que estaban siguiendo. El medio, DCWeekly.org, normalmente copiaba artículos completos de fuentes como Fox News, cambiando el nombre del periodista y muy poco más. Las noticias reales servían como cobertura para que Rusia lanzara ocasionalmente una historia falsa, cuidadosamente elaborada, como un artículo de ataque contra el presidente ucraniano Volodímir Zelenski, una técnica conocida como lavado narrativo. “Están construyendo un bosque para poder esconder un árbol concreto ahí dentro”, dice Morgan Wack, investigador de comunicación política en la Universidad de Zúrich.

Pero de la noche a la mañana, Wack y sus colegas se dieron cuenta de que ya no podían identificar de dónde obtenía el sitio sus noticias diarias. “Se vio un estilo de escritura totalmente distinto, y había más artículos”, explica. Los investigadores sospecharon que la operación había pasado a utilizar inteligencia artificial generativa, sospecha que se confirmó después de encontrar restos de instrucciones (prompts) de IA en algunos textos, como uno que decía: “Tenga en cuenta: el tono del artículo es crítico con la posición de EE. UU. de apoyo a la guerra en Ucrania y adopta un tono cínico al hablar del gobierno estadounidense, la OTAN o los políticos estadounidenses”.

Fue una oportunidad poco común para que el equipo de Wack estudiara cómo la IA está moldeando el mundo de la desinformación. El volumen de producción del sitio aumentó drásticamente, según los investigadores. En experimentos, las personas no encontraron la propaganda generada por IA más persuasiva que los textos anteriores escritos por humanos, pero el cambio a IA seguía siendo una victoria para los propagandistas, afirma Wack. “No perdieron credibilidad y pudieron aumentar mucho más el contenido”. La IA les había permitido, en esencia, construir un bosque más grande y mejor para ocultar sus árboles.

DCWeekly.org no es el único que ha adoptado la IA generativa: esta tecnología se está integrando en campañas de desinformación en todo el mundo. (La misinformación se refiere a información incorrecta o engañosa en general; si se difunde con la intención de engañar, se denomina desinformación). Según un informe de la Unión Europea publicado en marzo, el 27 % de los intentos de potencias extranjeras de manipular información global en 2025 implicaron el uso de IA, casi el triple que en 2024. “Es una herramienta poderosa, y definitivamente está en manos de quienes tienen interés en manipular opiniones, ya sea por dinero o por razones geopolíticas”, afirma Filippo Menczer, científico informático de la Universidad de Indiana Bloomington.

A medida que crece la influencia de la IA, el campo de investigación sobre desinformación se enfrenta a cómo estudiar sus efectos. Los modelos de lenguaje grande (LLM) que sustentan chatbots como ChatGPT hacen que el contenido falso sea cada vez más difícil de detectar y pueden difundir mensajes con apariencia humana a una escala sin precedentes. Además, la IA evoluciona tan rápidamente que investigaciones que hoy parecen sólidas podrían dejar de ser relevantes en pocos meses. “Ni siquiera el polvo ha empezado a asentarse, y es difícil separar lo que esperamos que ocurra a medida que la IA se vuelve ubicua de lo que realmente está ocurriendo”, afirma Kate Starbird, investigadora de desinformación de la Universidad de Washington.

Pero aunque ha complicado el problema, la IA generativa también ha proporcionado a los investigadores una herramienta poderosa para estudiarlo y probar intervenciones. Incluso mientras las herramientas de IA transforman la desinformación, dice Jennifer Allen, científica social computacional de la Universidad de Nueva York, “creo que también han transformado el campo”.

Radiografía de la desinformación global: la información se ha convertido en un campo de batalla estratégico

Las 10 principales plataformas por volumen de observables

European External Action Service (EEAS). 4th EEAS Report on Foreign Information Manipulation and Interference (FIMI) Threats. Brussels: EEAS, March 2026. Disponible en: https://euvsdisinfo.eu/uploads/2026/03/EEAS-4th-Threat-Report_web-version.pdf

El 4º informe anual del Servicio Europeo de Acción Exterior (EEAS) sobre amenazas de manipulación e interferencia informativa extranjera (FIMI) ofrece una radiografía detallada del ecosistema global de desinformación en 2025 y principios de 2026. El documento confirma que la información se ha convertido en un campo de batalla estratégico central, integrado en dinámicas híbridas que combinan ciberataques, presión política, guerra cognitiva y operaciones de influencia digital.

Uno de los principales hallazgos del informe es el incremento de la escala, sofisticación y automatización de las operaciones FIMI. Durante 2025, el EEAS documentó 540 incidentes globales, con una concentración de ataques especialmente significativa contra Ucrania, Francia, Moldavia y Alemania. El informe subraya que estas campañas no son episodios aislados, sino operaciones continuas, coordinadas y adaptativas, integradas en estrategias geopolíticas más amplias.

El informe identifica además un ecosistema masivo de infraestructura de influencia: aproximadamente 10.500 canales digitales y sitios web fueron utilizados para producir o amplificar contenido manipulado. De estos, una gran mayoría opera como redes encubiertas o inauténticas, mientras que solo una minoría está directamente vinculada a actores estatales visibles. Esto refleja la creciente dependencia de redes proxy, intermediarios y estructuras opacas que permiten negar atribución directa y aumentar la resiliencia de las campañas.

Otro eje central del informe es el papel de la inteligencia artificial (IA). El EEAS señala un salto cualitativo: en 2025, aproximadamente uno de cada cuatro incidentes FIMI implicó herramientas de IA, y el uso de estas tecnologías ha pasado de ser experimental a convertirse en un recurso rutinario. La IA se emplea para generar texto, imágenes, audio y vídeo sintético, así como para traducir y amplificar contenidos en múltiples idiomas, lo que permite una producción masiva, barata y altamente escalable de desinformación.

El informe dedica especial atención a los actores estatales, destacando principalmente a Rusia y China como principales impulsores de campañas FIMI. Estas operaciones muestran patrones comunes: creación de medios falsos, uso de cuentas coordinadas en redes sociales, manipulación de narrativas políticas y explotación de crisis internacionales o procesos electorales. El informe también señala que estas campañas se dirigen no solo a gobiernos, sino también a organizaciones internacionales, medios de comunicación, ONG y figuras públicas.

En el plano conceptual, el EEAS introduce un cambio importante: pasar de la simple evaluación del riesgo a la lógica de la disuasión (deterrence). El informe propone el llamado “FIMI Deterrence Playbook”, un marco operativo destinado a aumentar los costes de estas operaciones y reducir su rentabilidad estratégica. Este enfoque busca actuar sobre toda la cadena de suministro de la desinformación: desde financiadores y organizadores hasta intermediarios tecnológicos y plataformas digitales.

Asimismo, el informe enfatiza la necesidad de una respuesta multinivel y coordinada, que combine sanciones, regulación digital (incluida la Digital Services Act), cooperación judicial y policial, y estrategias de resiliencia social como la alfabetización mediática. La lógica es pasar de una respuesta reactiva a una estrategia anticipatoria y estructural, capaz de desmantelar las infraestructuras que sostienen la manipulación informativa.

En su dimensión política, el informe advierte que la FIMI forma parte de un entorno de competencia geopolítica creciente, donde la información se utiliza como instrumento de poder para influir en elecciones, erosionar la confianza en instituciones democráticas y debilitar la cohesión social dentro de la Unión Europea y sus países socios.

El documento concluye que la FIMI ya no puede entenderse como un problema comunicacional o mediático, sino como un problema de seguridad estratégica y estabilidad democrática. El reto principal para la UE es transformar la comprensión analítica del fenómeno en capacidad operativa de disuasión efectiva, haciendo que estas actividades sean más costosas, menos eficaces y progresivamente inviables.

Google AI Overviews: la precisión de la inteligencia artificial en la búsqueda y el problema de la fiabilidad informativa

Scale comparing accurate AI overview with verified sources and inaccurate AI overview with erroneous sources
Balancing accurate AI overview against errors and hallucinations

Mickle, Tripp, Cade Metz, Dylan Freedman, Teresa Mondría Terol y Keith Collins. «How Accurate Are Google’s A.I. Overviews?» The New York Times, 7 de abril de 2026. https://www.nytimes.com/2026/04/07/technology/google-ai-overviews-accuracy.html
.

El funcionamiento y la fiabilidad de Google AI Overviews, el sistema de respuestas generadas por inteligencia artificial que aparece directamente en los resultados de búsqueda. El informe se centra en una cuestión clave del ecosistema digital actual: hasta qué punto estos resúmenes automáticos pueden considerarse fiables cuando están mediando entre los usuarios y la información en la web.

La investigación parte de una evaluación técnica realizada con metodologías de benchmarking, que sugiere que, aunque el sistema muestra un alto nivel de acierto general, sigue produciendo un volumen significativo de errores debido a la naturaleza probabilística de los modelos de lenguaje.

Uno de los hallazgos principales es que los AI Overviews alcanzan aproximadamente entre un 90% y 91% de precisión en tareas evaluadas, lo que en términos relativos puede parecer un rendimiento elevado. Sin embargo, el artículo subraya que esta cifra adquiere otra dimensión cuando se aplica a la escala masiva de Google, que procesa billones de consultas anuales. En este contexto, incluso un margen de error del 9–10% se traduce en millones de respuestas incorrectas difundidas diariamente, lo que plantea un problema estructural de fiabilidad en la infraestructura informativa global.

El texto también profundiza en la naturaleza del error en los sistemas de inteligencia artificial generativa. A diferencia de los motores de búsqueda tradicionales, que devuelven enlaces a fuentes externas, los AI Overviews sintetizan respuestas directamente. Este proceso implica que los modelos no “verifican” la verdad de la información, sino que generan textos basados en patrones estadísticos de lenguaje. Como resultado, pueden producir afirmaciones plausibles pero incorrectas, especialmente cuando las fuentes subyacentes son ambiguas, contradictorias o de baja calidad.

Otro aspecto relevante del análisis es el impacto epistemológico de este tipo de tecnología. El artículo señala que la integración de respuestas generadas por IA en la parte superior de los resultados de búsqueda transforma la relación entre usuarios e ინფორმაცია: en lugar de acceder a múltiples fuentes para contrastar información, los usuarios reciben una síntesis única que puede ocultar la diversidad o el conflicto entre datos. Esto introduce una tensión entre eficiencia y verificación, ya que la rapidez del acceso a la información puede debilitar los procesos de comprobación crítica.

El informe plantea implicaciones más amplias para el ecosistema digital y la confianza pública en la información en línea. Aunque Google defiende que el sistema mejora continuamente y reduce errores, el estudio sugiere que la escala del problema sigue siendo significativa. En consecuencia, el artículo concluye que la cuestión central no es solo la precisión técnica del sistema, sino su impacto en la arquitectura del conocimiento digital: la forma en que la inteligencia artificial reconfigura qué información se ve, cómo se interpreta y en qué medida puede considerarse fiable en un entorno informativo cada vez más mediado por algoritmos.

La Inteligencia Artificial actúa como un megáfono distorsionador de desinformación masiva

Endert, Julius. “Generative AI is the Ultimate Disinformation Amplifier.” DW Akademie, March 26, 2024. https://akademie.dw.com/en/generative-ai-is-the-ultimate-disinformation-amplifier/a-68593890

La Inteligencia Artificial actúa como un megáfono distorsionador: por un lado absorbe datos caóticos de internet y, por el otro, los proyecta amplificados, transformando pequeñas mentiras en un diluvio de desinformación masiva.

La inteligencia artificial está redefiniendo el ecosistema informativo global. Su capacidad para procesar enormes volúmenes de datos, sintetizar información y generar contenido coherente ha sido celebrada como una revolución tecnológica. Sin embargo, existe una dimensión menos visible y potencialmente más peligrosa: su papel como amplificador estructural de la desinformación.

El núcleo del problema: Del consumo a la factoría

  • La fase de consumo: La IA se entrena con millones de textos de internet, absorbiendo verdades, pero también teorías conspirativas, sesgos históricos y datos falsos.
  • La fase de amplificación: Al generar contenido de forma masiva, barata y automatizada, la IA no solo repite lo que aprendió; lo empaqueta en formatos que parecen profesionales (noticias falsas que lucen reales, imágenes sintéticas convincentes), multiplicando el volumen de la mentira a una velocidad que los verificadores humanos no pueden alcanzar.

En este sentido, la IA puede entenderse como un megáfono distorsionador. No necesariamente crea la mentira, pero sí la recoge del entorno digital, la reorganiza y la devuelve amplificada, dotada de mayor coherencia formal, más persuasiva y, en muchos casos, más difícil de detectar.

El ecosistema digital contemporáneo ya está profundamente contaminado por información de baja calidad. Rumores sin verificar, noticias falsas diseñadas estratégicamente, bots automatizados y contenidos clickbait optimizados para la viralidad forman parte de un flujo constante de información caótica. En condiciones tradicionales, este ruido informativo se filtra parcialmente a través de medios de comunicación, periodistas o verificadores de hechos. Sin embargo, en los sistemas de inteligencia artificial generativa, este filtro se vuelve más ambiguo y menos transparente.

La IA no distingue entre verdad y falsedad en términos humanos. Su funcionamiento se basa en el reconocimiento de patrones lingüísticos, probabilidades estadísticas y correlaciones entre datos. En otras palabras, no opera con un modelo de verdad, sino con un modelo de coherencia. Esto genera un problema estructural: aquello que es falso, pero aparece repetido con suficiente frecuencia en los datos, puede adquirir apariencia de verosimilitud dentro del sistema.

El núcleo del problema reside precisamente en esta ausencia de epistemología. Los algoritmos de aprendizaje automático procesan grandes volúmenes de información heterogénea, mezclan fuentes de distinta calidad y generan respuestas que priorizan la plausibilidad lingüística. El resultado es la posibilidad de que la coherencia sustituya a la veracidad como criterio dominante.

En este contexto, surge un efecto de cámara de eco automatizado. Una vez que los sistemas han sido entrenados con datos contaminados, pueden reproducir narrativas sesgadas, interpretaciones incompletas o errores que aparecen reformulados como si fueran hechos. Sin embargo, el aspecto más preocupante no es la simple repetición, sino la capacidad de reformulación constante.

La inteligencia artificial no copia la desinformación de forma literal, sino que la reescribe. En ese proceso, le otorga apariencia de novedad, adopta estilos comunicativos profesionales y elimina rastros evidentes de su origen dudoso. Esto contribuye a que la mentira se vuelva más sofisticada, más creíble y mucho más difícil de rastrear.

Cuando este contenido generado se traslada al espacio público, entra en una fase de amplificación masiva. La IA funciona entonces como un megáfono digital capaz de producir múltiples versiones de un mismo mensaje, adaptarlo a diferentes audiencias, generar textos, imágenes o vídeos hiperrealistas y simular voces o estilos periodísticos. El resultado es una auténtica industrialización de la desinformación, donde ya no existen falsedades aisladas, sino ecosistemas completos de réplicas coordinadas.

En este nuevo entorno emergen formas específicas de desinformación automatizada. Por un lado, la saturación de medios clonados, es decir, sitios web que imitan portales informativos legítimos y que se generan automáticamente para reforzar determinadas narrativas. Por otro, los deepfakes hiperrealistas, capaces de recrear con gran precisión eventos que nunca ocurrieron. Finalmente, los artículos hiperpartidistas automatizados, textos generados en segundos que imitan el estilo periodístico pero están diseñados para polarizar y manipular la opinión pública.

Este proceso implica un cambio estructural profundo: la transición de la IA de consumidora de información a productora masiva de narrativas. Durante su fase de consumo, los sistemas se entrenan con un entorno digital donde conviven textos fiables, teorías conspirativas, sesgos históricos y errores acumulados. El problema no es la diversidad de datos, sino la ausencia de jerarquía epistemológica que permita distinguir su valor.

En la fase de amplificación, la IA reconfigura ese material sin mecanismos robustos de verificación de verdad. Reempaqueta la información en formatos persuasivos y acelera su difusión a una escala sin precedentes. De este modo, el sistema deja de ser únicamente un repositorio de conocimiento para convertirse en una factoría de narrativas.

El resultado es un ecosistema de realidad cada vez más inestable. La saturación informativa se vuelve constante, las fronteras entre lo real y lo simulado se difuminan, la confianza en las fuentes tradicionales disminuye y la verificación de hechos se vuelve progresivamente más compleja. En este contexto, la desinformación deja de ser una anomalía puntual y pasa a integrarse como un subproducto estructural del sistema informativo automatizado.

Por ello, la inteligencia artificial no puede entenderse únicamente como una herramienta neutral. Su funcionamiento actual la sitúa como un sistema de transformación masiva de información que puede tanto ampliar el acceso al conocimiento como intensificar sus distorsiones. El problema no es solo tecnológico, sino profundamente epistemológico: cómo distinguir la verdad cuando la falsedad puede ser generada, replicada y estilizada con la misma eficacia formal.

La respuesta no puede ser exclusivamente técnica. Requiere educación crítica, alfabetización mediática y nuevos marcos de gobernanza digital. En un entorno donde la inteligencia artificial amplifica todo, la cuestión central ya no es únicamente qué es información, sino qué significa todavía hablar de verdad.

La inteligencia artificial ya no solo “consume” información de internet, sino que está amplificando y reproduciendo desinformación a gran escala

Get Fact First. 2026. “AI Is Now Running the Mis and Disinformation.” Get Fact First (Substack). Accedido el 25 de mayo de 2026. https://getfactfirst.substack.com/p/ai-is-now-running-the-mis-and-disinformation

La inteligencia artificial ha pasado de ser una herramienta auxiliar en la producción y distribución de información a convertirse en un componente estructural dentro del ecosistema global de la desinformación. En lugar de limitarse a responder preguntas o resumir contenidos, los sistemas generativos actuales participan activamente en la circulación, reformulación y amplificación de narrativas informativas, incluidas aquellas que pueden ser falsas, sesgadas o directamente manipuladas.

El último informe de amenazas de la UE concluyó que el 27% de los incidentes de manipulación de información extranjera en 2025 involucraron IA. Y esto es solo lo que está en el dominio público. Rusia ha invertido una cifra récord de 1.850 millones de dólares en propaganda exterior para 2026, un 54% más en un año. Irán también está inyectando nuevo dinero en su cadena estatal de radiodifusión. La guerra de Irán de 2026 se ha convertido en un banco de pruebas en tiempo real, con Rusia y China ejecutando operaciones paralelas y compartiendo inteligencia mientras lo hacen.

Investigadores del Information Sciences Institute de la USC introdujeron un puñado de agentes de IA en una red social simulada y les dieron una única tarea: ejecutar una campaña de propaganda. Nadie los programó ni les indicó cómo hacerlo. Ellos lo resolvieron por sí mismos: publicaciones sincronizadas, inundación de hashtags, el mismo mensaje con distintas voces, y una coordinación del público objetivo. Cada acción que reconocerías de una operación de influencia real fue inventada desde cero por el software. Los investigadores lo dicen de forma sencilla: esto no es una amenaza futura, ya es técnicamente posible. Diez agentes lo hicieron en un laboratorio, y es seguro que esto ya lleva tiempo ocurriendo fuera de él. El coste de fabricar una realidad falsa ha caído prácticamente a cero, los presupuestos estatales detrás de ello están aumentando, y el ser humano ha quedado fuera del proceso.

Miremos las elecciones del año pasado en Irlanda. Días antes de la votación presidencial, apareció un falso boletín de “RTÉ News” anunciando que la candidata Catherine Connolly se había retirado de la carrera y que las elecciones se habían cancelado. Estuvo activo durante doce horas y acumuló 30.000 visualizaciones antes de ser retirado. Ella no se había retirado.

Una de las ideas centrales es que los modelos de IA no operan con una noción de verdad, sino con correlaciones estadísticas del lenguaje. Esto significa que su funcionamiento no se basa en comprobar la veracidad de los datos, sino en predecir la continuación más probable de un texto. En consecuencia, cuando la red contiene información incorrecta ampliamente difundida, existe el riesgo de que esa información sea integrada en los modelos y posteriormente reproducida con un formato convincente, lo que incrementa su credibilidad percibida. Este fenómeno genera lo que el artículo describe como una apariencia de autoridad sin verificación epistémica real.

El texto también enfatiza el carácter acumulativo del problema. La desinformación en internet no es nueva, pero la IA introduce una capa de aceleración y automatización. Plataformas, redes sociales, foros y sitios de baja fiabilidad constituyen un entorno donde la información circula sin control riguroso. En ese contexto, los modelos de IA actúan como sistemas de compresión y redistribución de información: sintetizan grandes volúmenes de contenido y lo devuelven al usuario en forma de respuestas claras y aparentemente neutrales. Sin embargo, esa síntesis puede diluir matices, eliminar fuentes o reforzar errores existentes.

Otro punto relevante del artículo es la transformación del fenómeno propagandístico. Tradicionalmente, la desinformación requería actores humanos que diseñaran campañas, produjeran contenido y lo distribuyeran de forma coordinada. Con la aparición de sistemas automatizados, ese proceso puede ejecutarse de manera continua, escalable y con menor coste. El resultado es un ecosistema donde bots, modelos generativos y herramientas de automatización pueden sostener narrativas falsas durante largos periodos sin intervención directa constante.

El artículo también introduce una dimensión social y cognitiva: la erosión progresiva de la confianza informativa. No se trata solo de que exista más información falsa, sino de que se debilita la capacidad del público para distinguir entre fuentes fiables y no fiables. Cuando los usuarios reciben respuestas coherentes, bien redactadas y aparentemente neutrales de sistemas automatizados, puede generarse una confianza excesiva en la forma del mensaje por encima de su contenido real.

El texto sugiere que la desinformación automatizada no es un fenómeno marginal, sino una tendencia estructural que podría redefinir la ecología informativa contemporánea. En este escenario, la IA no es únicamente un intermediario, sino un actor que participa en la construcción misma del espacio público digital, con implicaciones directas para la comunicación política, la ciencia, el periodismo y la educación mediática.

Cambios en la percepción de la desinformación en Canadá: Tendencias en exposición, detección y confianza, 2025

Foran, Helen, y Howard Bilodeau. 2026. “Shifting Perceptions of Misinformation in Canada: Trends in Exposure, Detection and Trust.” Insights on Canadian Society. Statistics Canada, 13 de mayo de 2026. https://www150.statcan.gc.ca/n1/pub/75-006-x/2026001/article/00006-eng.htm

En 2025, el 80 % de los canadienses declaró haber visto noticias o información en internet que sospechaban que era engañosa, falsa o inexacta al menos una vez al mes. Estas experiencias son una de las principales preocupaciones de los canadienses, y la mayoría (61 %) manifestó estar «muy preocupada» o «extremadamente preocupada» por la desinformación en línea en 2025.

El estudio analiza cómo los canadienses perciben, detectan y experimentan la desinformación en el entorno digital, así como su relación con la confianza en los medios y la confianza interpersonal. A partir de datos de la Canadian Social Survey (2025) y comparaciones con la Survey Series on People and their Communities (2023), el informe explora la evolución de la exposición a noticias falsas, la capacidad de los ciudadanos para distinguir entre información verdadera y falsa, y el impacto de este fenómeno en la confianza social.

Uno de los hallazgos centrales es la alta exposición a la desinformación: en 2025, el 80% de los canadienses afirmó haber visto al menos mensualmente información que consideraba engañosa o falsa. Esta exposición es prácticamente transversal en términos de edad, género y nivel educativo, lo que indica que la desinformación es un fenómeno estructural del ecosistema informativo digital. Sin embargo, los mayores de 75 años reportan una menor exposición, posiblemente por diferencias en los hábitos de consumo informativo.

El estudio también muestra cómo los ciudadanos acceden a la información. Las fuentes más habituales son los medios de comunicación (66%), contactos cercanos (62%), redes sociales (54%) y la televisión (52%). Sin embargo, existen diferencias generacionales claras: los jóvenes (15–34 años) dependen principalmente de las redes sociales (78%), mientras que los mayores confían más en medios tradicionales como la televisión y los medios informativos. Estas diferencias reflejan una fragmentación del ecosistema mediático según la edad y el nivel educativo.

En cuanto a la percepción de la veracidad informativa, el 47% de los canadienses declara que en 2025 le resulta más difícil distinguir entre información verdadera y falsa que hace tres años. Además, el 61% expresa una preocupación alta o muy alta por la desinformación en línea. El informe destaca que esta dificultad no es uniforme, sino que se relaciona con variables como el nivel educativo, la confianza en los medios y la confianza interpersonal.

Otro aspecto relevante es la relación entre desinformación y confianza social. Los resultados muestran que las personas con mayor confianza en los medios canadienses y en otras personas tienden a tener más seguridad en su capacidad para detectar información falsa. Por el contrario, quienes muestran menor confianza en los medios o en los demás reportan mayores dificultades para identificar contenidos engañosos. Esto sugiere que la desinformación no solo es un problema informativo, sino también un fenómeno vinculado al capital social y la confianza institucional.

En conjunto, el estudio concluye que la desinformación es una experiencia común y persistente en la sociedad canadiense, y que sus efectos no se limitan a la exposición, sino que influyen en la percepción de la realidad y en la confianza en las instituciones. Aunque la preocupación por este fenómeno se mantiene estable entre 2023 y 2025, el reto principal es la creciente complejidad del entorno digital y la dificultad creciente para distinguir entre información fiable y falsa.

Ten cuidado: Proyecto de alfabetización en el combate a la desinformación en la enseñanza superior

Lopes, Carlos, Maria Luz Antunes y Tatiana Sanches. 2025. Be Careful: Projeto de literacia no combate à desinformação no ensino superior. Lisboa: ISPA – Instituto Universitário. https://repositorio.ispa.pt/entities/publication/98969ba8-0360-4eac-b12b-7cc950d260c9.

Texto completo

Este trabajo presenta y analiza el proyecto «Be Careful», una iniciativa pedagógica y de investigación desarrollada en el contexto de la educación superior en Portugal. El objetivo central del proyecto es capacitar a los estudiantes universitarios con competencias críticas de alfabetización informacional y mediática para identificar y combatir la desinformación (noticias falsas, sesgos cognitivos y manipulación de datos).

El texto analiza cómo, pese a que muchos estudiantes universitarios pertenecen a generaciones acostumbradas al uso cotidiano de tecnologías digitales, ello no implica necesariamente que posean competencias avanzadas para evaluar críticamente la información que consumen. Los autores señalan que el entorno informativo actual está marcado por la sobreabundancia de contenidos, la circulación de noticias falsas y la influencia de algoritmos que refuerzan creencias previas mediante las llamadas “burbujas de filtro”. Esta situación supone un desafío tanto para la formación académica como para la participación ciudadana responsable.

Ante este panorama, el proyecto Be Careful se plantea como una iniciativa educativa destinada a fortalecer la alfabetización mediática e informacional del alumnado universitario. Para ello, comienza con un diagnóstico inicial que permite conocer el nivel de conciencia de los estudiantes frente a la desinformación y detectar carencias en sus hábitos de búsqueda, selección y validación de fuentes. Esta fase resulta esencial para adaptar posteriormente las acciones formativas a las necesidades reales de los participantes.

Uno de los ejes centrales del proyecto son los talleres prácticos, orientados a enseñar estrategias concretas de verificación de datos. En estas sesiones se trabajan técnicas de fact-checking, análisis crítico de titulares sensacionalistas, identificación de sesgos en mensajes digitales y evaluación de la autoridad y fiabilidad de autores y sitios web. El objetivo no es solo transmitir herramientas técnicas, sino promover hábitos intelectuales basados en la prudencia, la duda razonada y la contrastación de evidencias.

El programa también contempla la elaboración de Recursos Educativos Abiertos (REA), como guías, materiales didácticos y contenidos reutilizables, con el fin de facilitar que otras instituciones académicas puedan replicar la experiencia. Esta dimensión abierta amplía el alcance del proyecto y favorece la cooperación entre universidades, bibliotecas y profesionales de la información interesados en combatir la desinformación desde la educación superior.

El documento concede especial relevancia al papel de las bibliotecas universitarias y de los bibliotecarios como agentes formativos clave. Lejos de limitarse a funciones tradicionales de gestión documental, se les reconoce como mediadores expertos capaces de enseñar competencias informacionales, acompañar procesos de investigación y fomentar una relación crítica con la información digital.

Finalmente, los autores concluyen que la lucha contra la desinformación exige un esfuerzo continuo e interdisciplinario. La experiencia del proyecto demuestra que integrar estas competencias en el currículo universitario mejora notablemente la capacidad de los estudiantes para localizar información científica rigurosa, diferenciar fuentes fiables de contenidos engañosos y desenvolverse con mayor autonomía en un entorno mediático complejo. En consecuencia, la alfabetización informacional se presenta no solo como una destreza académica, sino como una condición necesaria para la salud democrática de las sociedades contemporáneas.

La IA contra sí misma: Google intensifica la lucha contra los anuncios fraudulentos

Huamani, K. “AI Is a Gold Mine for Spammers and Scammers, but Google Is Using It as a Tool to Fight Back.” AP News, 16 de abril de 2026.

Leer artículo

Este articulo analiza la creciente paradoja de la inteligencia artificial en el ecosistema digital: la misma tecnología que facilita la proliferación de fraudes y estafas en internet se ha convertido también en la principal herramienta para combatirlos. En particular, se centra en el informe anual de seguridad publicitaria de Google, que revela cómo el uso de sistemas avanzados de IA —como Gemini— está permitiendo detectar y bloquear anuncios maliciosos antes de que lleguen al público.

El texto de Kaitlyn Huamani analiza cómo la expansión de la inteligencia artificial generativa ha intensificado un problema antiguo: el de los fraudes y el spam en internet. Aunque estos engaños existen desde los inicios de la red, la accesibilidad de herramientas de IA ha permitido a los estafadores producir contenidos mucho más sofisticados —como anuncios de productos milagro o vídeos con voces falsas de celebridades— a una velocidad y escala sin precedentes. Expertos como Nate Elliott destacan que la gran diferencia actual no es la naturaleza del problema, sino su aceleración exponencial, que beneficia tanto a actores legítimos como a los maliciosos. Esta tendencia tiene un impacto real: según el Federal Bureau of Investigation, en el último año se registraron más de 22.000 denuncias por estafas relacionadas con IA, con pérdidas que superan los 893 millones de dólares.

Frente a este escenario, grandes empresas tecnológicas como Google están reforzando sus sistemas de defensa mediante el uso de su propia inteligencia artificial. En su informe anual de seguridad publicitaria, la compañía reconoce el aumento de anuncios fraudulentos cada vez más complejos, pero subraya la eficacia de sus herramientas basadas en IA. Su sistema, impulsado por Gemini, logró detectar más del 99% de los anuncios que infringían las políticas antes de que llegaran a los usuarios. En 2025, Google bloqueó o eliminó más de 8.300 millones de anuncios y suspendió cerca de 24,9 millones de cuentas de anunciantes, de las cuales más de 4 millones estaban vinculadas a actividades fraudulentas. Estas cifras reflejan tanto la magnitud del problema como el esfuerzo creciente por contenerlo.

El artículo también explica cómo funcionan estas herramientas defensivas. Gracias a Gemini, Google puede analizar cientos de miles de millones de señales —como la antigüedad de las cuentas, patrones de comportamiento o características de las campañas— para evaluar la intención real de los anunciantes. Esto permite distinguir con mayor precisión entre negocios legítimos y actores maliciosos, reduciendo además los errores: las suspensiones indebidas de anunciantes se han reducido en un 80%. Otro avance clave es la velocidad, ya que procesos que antes llevaban segundos o minutos ahora se realizan en milisegundos, lo que permite bloquear amenazas antes incluso de que se publiquen.

Aun así, el problema sigue siendo complejo y dinámico. Los anuncios fraudulentos adoptan múltiples formas y evolucionan constantemente, replicando estrategias tradicionales pero con mayor volumen y rapidez gracias a la IA. Google insiste en que no clasifica los anuncios en función de si han sido generados por inteligencia artificial, sino según si incumplen sus políticas, ya que muchas empresas legítimas también utilizan estas herramientas de forma correcta. En este contexto, los expertos coinciden en que la confrontación entre estafadores y sistemas de defensa continuará intensificándose.

En última instancia, el texto plantea un escenario en el que la lucha contra el fraude digital se convierte en una especie de “IA contra IA”. Como señala Matt Seitz, el volumen del problema es ya tan grande que no puede gestionarse únicamente con intervención humana. Esto anticipa un futuro en el que la automatización será clave tanto para la creación de amenazas como para su detección, consolidando una carrera tecnológica permanente entre ataque y defensa en el entorno digital.

Desinformación vs. alucinaciones en la IA: dos errores distintos, un mismo riesgo

Cosstick, John. “AI Misinformation vs AI Hallucinations: What’s the Difference.” Tech Life Future, 2025. https://www.techlifefuture.com/ai-misinformation-vs-ai-hallucinations/

Se analiza una distinción clave en el ecosistema informativo contemporáneo: la diferencia entre la desinformación generada por inteligencia artificial y las llamadas “alucinaciones” de la IA. Aunque ambos fenómenos implican la producción de información falsa o engañosa, su origen y naturaleza son distintos.

La desinformación en IA suele estar vinculada a la intención humana: se genera o difunde contenido falso de manera deliberada para manipular, influir o engañar. En cambio, las alucinaciones son errores inherentes al funcionamiento de los modelos de lenguaje, que producen información incorrecta sin intención maliciosa, simplemente porque “rellenan” lagunas con contenido plausible pero no verificado.

El texto profundiza en las causas técnicas de las alucinaciones, señalando que estas surgen de limitaciones estructurales de los sistemas de IA. Los modelos funcionan mediante generación probabilística: predicen qué texto es más probable en función de patrones aprendidos, no de una verificación factual. Esto puede llevar a la invención de datos, citas académicas inexistentes o errores históricos. Factores como datos de entrenamiento incompletos o sesgados, así como limitaciones en la arquitectura de los modelos, contribuyen a este fenómeno. En esencia, la IA no “miente”, sino que construye respuestas verosímiles a partir de patrones, lo que puede resultar en afirmaciones erróneas presentadas con gran coherencia.

Por otro lado, la desinformación impulsada por IA se inscribe en dinámicas sociales más amplias. No depende tanto de fallos técnicos como de usos intencionados de la tecnología: desde la creación de contenidos engañosos mediante técnicas como el prompt engineering hasta su difusión masiva a través de redes sociales, bots o influencers. Este tipo de desinformación explota los sesgos cognitivos de los usuarios y puede tener consecuencias especialmente graves en ámbitos como la política, la salud o la opinión pública.

El artículo subraya que, aunque ambos fenómenos pueden parecer similares para el usuario —información falsa presentada de forma convincente—, requieren estrategias distintas de mitigación. Las alucinaciones demandan mejoras técnicas en los modelos, como mejores datos de entrenamiento o sistemas de verificación interna. La desinformación, en cambio, exige respuestas sociales, regulatorias y educativas, incluyendo alfabetización mediática y control de los canales de difusión.

Por último, se destaca que el auge de la inteligencia artificial ha intensificado el problema de la fiabilidad de la información. Estudios recientes muestran que una proporción significativa de respuestas generadas por IA puede ser incorrecta o engañosa, lo que pone en riesgo la integridad del ecosistema informativo. En este contexto, comprender la diferencia entre desinformación y alucinación no es solo una cuestión técnica, sino una competencia crítica para navegar en un entorno cada vez más mediado por algoritmos.

El peligro invisible de las respuestas de la IA: suena convincente, pero puede ser una respuesta errónea o malintencionada

Woman thinking deeply while using laptop surrounded by bubble showing truth and misinformation
A woman contemplates the choice between truth and misinformation while using a laptop in a dimly lit room.

AI School Librarian. “Confident Answers Are Not the Same as Correct Answers.” Substack, 2026. https://aischoollibrarian.substack.com/p/confident-answers-are-not-the-same

Se plantea una advertencia fundamental en la era de la inteligencia artificial generativa: la apariencia de seguridad en una respuesta no equivale a su veracidad. Los sistemas de IA están diseñados para producir textos coherentes, fluidos y convincentes, lo que genera una ilusión de autoridad que puede inducir a error.

Esta característica no es accidental, sino inherente a su funcionamiento: los modelos predicen qué respuesta “suena” correcta basándose en patrones estadísticos, no en una comprensión real de la verdad. Así, la confianza expresiva de la IA puede enmascarar errores, lagunas o incluso invenciones, lo que obliga a replantear cómo interpretamos y evaluamos sus respuestas.

El texto subraya que este fenómeno tiene profundas implicaciones educativas e informativas. Tradicionalmente, los humanos han asociado la confianza con la competencia, confiando más en quienes se expresan con seguridad. La IA explota involuntariamente este sesgo cognitivo: presenta información con una estructura clara y un tono firme, lo que reduce la tendencia del usuario a cuestionar su contenido. Sin embargo, como advierten diversos análisis, esta “brecha de confianza” puede llevar a aceptar respuestas incorrectas simplemente porque están bien formuladas. En contextos académicos o profesionales, esto puede erosionar el pensamiento crítico y fomentar una dependencia excesiva de sistemas automatizados.

Otro aspecto relevante es que la calidad de las respuestas depende en gran medida de cómo se formula la pregunta. Los usuarios con mayor conocimiento previo o habilidades de “prompting” obtienen resultados más precisos y útiles, mientras que quienes carecen de estas competencias pueden recibir respuestas superficiales o incompletas. Esto introduce un nuevo tipo de desigualdad informativa: no todos los usuarios acceden al mismo nivel de calidad en la información generada por IA, lo que cuestiona la idea de que estas herramientas democratizan el conocimiento.

El artículo también insiste en que la IA no distingue adecuadamente entre niveles de certeza. Puede presentar hechos bien establecidos y afirmaciones especulativas con el mismo grado de seguridad, dificultando que el usuario discrimine entre información fiable y dudosa. Este “aplanamiento de la certeza” es especialmente problemático en ámbitos como la salud, la educación o la toma de decisiones, donde la precisión y el contexto son esenciales.

Por ello se propone una actitud crítica y reflexiva como respuesta a este desafío. La IA debe entenderse como una herramienta de apoyo, no como una autoridad definitiva. Verificar la información, contrastarla con fuentes fiables y mantener el juicio propio se convierten en habilidades clave en este nuevo entorno. En última instancia, el artículo no rechaza el uso de la inteligencia artificial, pero advierte que su integración en la vida cotidiana exige una alfabetización informacional más sofisticada, capaz de distinguir entre lo que suena convincente y lo que realmente es cierto.