Archivo de la etiqueta: Noticias falsas

El 44% de los encuestados afirma creer información errónea relacionada con las elecciones

«44% of People Report Believing Election-Related Misinformation – Adobe Study», ZDNET, accedido 20 de septiembre de 2024, https://www.zdnet.com/article/44-of-people-report-believing-election-related-misinformation-adobe-study/.

Un estudio reciente de Adobe, titulado Authenticity in the Age of AI, revela que el 44% de los encuestados ha sido engañado por desinformación relacionada con las elecciones en los últimos tres meses, y el 94% está preocupado por la difusión de información falsa de cara a las elecciones presidenciales de EE. UU. de 2024. La proliferación de contenido generado por IA está dificultando que los usuarios distingan entre información real y falsa, con un 87% de los encuestados afirmando que la tecnología ha complicado esta tarea.

La creciente desconfianza ha llevado al 48% de los usuarios a reducir o abandonar el uso de redes sociales debido a la gran cantidad de desinformación, mientras que el 89% cree que estas plataformas deberían implementar medidas más estrictas para controlar el contenido engañoso. Para ayudar a verificar la autenticidad del contenido digital, Adobe propone soluciones como las Content Credentials, etiquetas que permiten a los usuarios ver detalles sobre la creación de imágenes, incluyendo si fueron generadas por IA.

Estas herramientas permiten a los usuarios cargar imágenes en un sitio donde se puede verificar si han sido creadas mediante inteligencia artificial, utilizando metadatos o comparaciones con otras imágenes en línea. Este tipo de tecnología busca mitigar el impacto de la desinformación en un entorno digital cada vez más difícil de controlar.

El rol de las bibliotecas como espacios públicos para contrarrestar la desinformación en la era de la IA generativa

The Role of Libraries as Public Spaces in Countering Misinformation, Disinformation, and Social Isolation in the Age of Generative AI. Urban Libraries Council, 2024

Texto completo

Urban Libraries Council (Consejo de Bibliotecas Urbanas, ULC) ha publicado un nuevo Informe de Liderazgo que aborda el aumento de la inteligencia artificial generativa (IA) y su contribución a la propagación de desinformación y misinformación. Ante el creciente aislamiento social, el informe explora cómo las bibliotecas públicas están en una posición única para enfrentar estos desafíos mediante la promoción de la alfabetización digital y el fomento de conexiones comunitarias.

El informe proporciona recomendaciones que las bibliotecas pueden implementar, como la actualización de los currículos de alfabetización digital, la creación de recursos para identificar desinformación y el desarrollo de programas que promuevan el compromiso cívico y la cohesión social. Subraya el papel vital de las bibliotecas en empoderar a las personas y fortalecer las comunidades frente a los desafíos tecnológicos y sociales.

Según Brooks Rainwater, presidente y CEO de ULC, los desafíos como la expansión de la IA, la información falsa y la soledad son temas recurrentes en las bibliotecas de América del Norte. El informe ofrece varias recomendaciones para que las bibliotecas refuercen su trabajo y comunidades.

Ejemplos de implementación de las recomendaciones en bibliotecas de EE.UU. y Canadá:

  • Biblioteca Pública de Boston: Organizó un taller sobre cómo combatir la desinformación, desarrollar habilidades de ciudadanía digital y utilizar herramientas para identificar información veraz.
  • Biblioteca Pública de Brooklyn: Colaboró con Women in AI Ethics™ en un evento con la congresista Yvette D. Clarke sobre los peligros de la IA generativa en los medios y la protección de las mujeres contra el abuso de imágenes.
  • Biblioteca Pública de Dallas: Alojó la exhibición del Smithsonian “The Bias Inside Us” y organizó programas para todas las edades para sensibilizar sobre cómo los prejuicios afectan el pensamiento.
  • Biblioteca Pública de Toronto: Desarrolló un kit de herramientas sobre “Noticias Falsas y Alfabetización Informativa” para ayudar a los usuarios a distinguir entre información veraz y desinformación.

Este informe reafirma la importancia de las bibliotecas en la construcción de comunidades resilientes en un mundo cada vez más influido por la IA.

La estrategia «Sift»: Un método de cuatro pasos para detectar la desinformación

The «Sift» strategy: A four-step method for spotting misinformation. (2024). Recuperado 12 de agosto de 2024, de https://www.bbc.com/future/article/20240509-the-sift-strategy-a-four-step-method-for-spotting-misinformation

El artículo describe la estrategia «Sift» como un método eficaz para identificar la desinformación en las redes sociales. Desarrollada por expertos en alfabetización digital, esta técnica se basa en cuatro pasos clave:

  1. S para «Stop» (Detenerse): Antes de compartir cualquier publicación, es crucial pausar y reflexionar para evitar actuar impulsivamente, lo cual puede llevar a la difusión de información errónea.
  2. I para «Investigate the source» (Investigar la fuente): Se debe examinar quién creó el contenido, revisando su credibilidad y posibles sesgos, así como su compromiso con un periodismo independiente y verificado.
  3. F para «Find better coverage» (Buscar mejor cobertura): Si la fuente no es confiable, se recomienda buscar si fuentes más respetadas han informado sobre la misma afirmación y la han verificado.
  4. T para «Trace the claim to its original context» (Rastrear la afirmación hasta su contexto original): Es esencial rastrear la información hasta su origen para verificar si ha sido sacada de contexto o malinterpretada.

El objetivo de esta estrategia es fomentar una mayor reflexión y verificación antes de compartir contenido, ayudando así a reducir la propagación de desinformación, que puede tener consecuencias graves como la propagación de enfermedades.

Repensar la alfabetización informacional: ¿Pueden los bibliotecarios hacer frente a la desinformación en la era digital?

Durbin, C. Rethinking Information Literacy: Can Librarians Tackle Misinformation in the Digital Age? University of Louisville Libraries News Posted: July 25, 2024

Texto completo

Los bibliotecarios de la Universidad de Louisville, Rob Detmering y Amber Willenborg, fueron entrevistados recientemente por Choice sobre su nuevo trabajo, «“I Don’t Think Librarians Can Save Us”: The Material Conditions of Information Literacy Instruction in the Misinformation Age». En la entrevista, Detmering y Willenborg discuten temas clave como la angustia profesional, la sesión única y la alfabetización generativa de la IA, y ofrecen una visión de las complejidades de la alfabetización informacional en la actualidad.

El título de su artículo plantea una importante pregunta sobre el papel de los bibliotecarios en la lucha contra la desinformación. Aunque la alfabetización informativa está diseñada para empoderar a los estudiantes e individuos en el pensamiento crítico, una habilidad blanda cada vez más demandada, también ha generado desafíos profesionales significativos para los bibliotecarios. Estos desafíos surgen de la tensión entre su compromiso moral y profesional con la promoción de la alfabetización informativa y las limitaciones prácticas de sus condiciones de trabajo.

Muchos bibliotecarios enfrentan restricciones como el modelo de instrucción de sesión única, que a menudo limita el tiempo disponible para discusiones en profundidad con los estudiantes sobre la desinformación y su evaluación. Además, las expectativas del profesorado y las necesidades inmediatas de los estudiantes complican aún más sus esfuerzos para abordar problemas más amplios relacionados con la desinformación.

A pesar de estos desafíos, han surgido varias estrategias prometedoras. Una de ellas es ofrecer cursos con créditos en lugar de depender únicamente de sesiones únicas. Este modelo permite a los bibliotecarios dedicar más tiempo a enseñar sobre el ecosistema de la información, la desinformación y la evaluación crítica. También proporciona a los estudiantes más tiempo de interacción con los bibliotecarios, lo que facilita discusiones más significativas y atractivas.

Otra estrategia implica la colaboración directa con otras disciplinas. Detmering y Willenborg destacan el valor de asociarse con campos como la psicología, la sociología y el periodismo. Estas disciplinas ofrecen diferentes perspectivas sobre la desinformación, lo que ayuda a los bibliotecarios a desarrollar una comprensión más matizada y a mejorar sus prácticas de instrucción. Dicha colaboración interdisciplinaria también puede proporcionar recursos y apoyo adicionales para abordar las complejidades de la desinformación.

La entrevista también explora la cuestión más amplia de si se debería esperar que los bibliotecarios resuelvan la crisis de la desinformación. Mientras algunos abogan por centrarse únicamente en enseñar a los estudiantes «cómo usar la biblioteca», este enfoque podría ser demasiado limitado. En su lugar, Detmering y Willenborg sugieren encontrar un punto intermedio que equilibre metas ambiciosas con objetivos realistas.

Los bibliotecarios deben mantenerse informados sobre las tendencias en desinformación y en inteligencia artificial generativa. Aunque no necesitan abordar todos los problemas por sí mismos, su experiencia y apoyo son cruciales para ayudar a estudiantes y profesores a navegar estos desafíos.

Las perspectivas de Detmering y Willenborg proporcionan una visión integral de los desafíos y oportunidades asociados con el avance de la alfabetización informativa. Al reconocer las limitaciones de los modelos de instrucción actuales y explorar enfoques colaborativos e innovadores, los bibliotecarios pueden seguir desempeñando un papel vital en la creación de una sociedad informada y crítica.

Fake news: el valor de la información

Fake news: el valor de la información. Fundación Telefónica, 2024

Texto completo

Fundación Telefónica Movistar Argentina presenta la exposición Fake news. El valor de la información. Una invitación a preguntarnos por los modos en que consumimos noticias y cómo identificar si estas son verdaderas. También a entender el poder que tiene la información tanto para empoderar a las personas, si le damos un uso responsable y crítico, como para manipularlas, a través de mentiras.

La exposición está organizada a partir de diferentes ejes temáticos centrados en: qué son las noticias falsas y cuál es su importancia, cuándo surgieron, por qué circulan y se extienden con tanta facilidad, y qué podemos hacer para combatirlas.

Cómo la desinformación de una granja de spam rusa terminó en los primeros resultados de búsqueda de Google gracias a la IA

How Disinformation From a Russian AI Spam Farm Ended up on Top of Google Search Results. Wired, 2024. JUL 9, 2024 11:51 AM https://www.wired.com/story/ai-generated-russian-disinformation-zelensky-bugatti/

Un artículo falso sobre la esposa de Volodymyr Zelensky comprando un Bugatti de 4.8 millones de dólares con ayuda estadounidense fue promovido por bots, medios estatales rusos y simpatizantes de Trump en X. Forma parte de una red de sitios web potenciados por IA.

En un lapso de 24 horas, una pieza de desinformación rusa sobre la esposa del presidente ucraniano Volodymyr Zelensky comprando un automóvil Bugatti con dinero de ayuda estadounidense se difundió rápidamente por internet. Aunque se originó en un sitio web francés desconocido, rápidamente se convirtió en un tema de tendencia en X y en el primer resultado en Google.

El lunes 1 de julio, una noticia se publicó en un sitio web llamado Vérité Cachée. El titular decía: «Olena Zelenska se convirtió en la primera propietaria del nuevo Bugatti Tourbillon.» El artículo afirmaba que durante un viaje a París con su esposo en junio, la primera dama recibió una vista privada de un nuevo superdeportivo de $4.8 millones de Bugatti y realizó un pedido inmediato. También incluía un video de un hombre que decía trabajar en el concesionario. El mensaje difundido decía “Mientras los ucranianos son enviados a morir en un conflicto sin sentido diseñado por la OTAN, Olena Zelenska derrocha en un Bugatti de 4,5 millones (…)”.

Pero el video, al igual que el sitio web, era completamente falso.

Vérité Cachée es parte de una red de sitios web probablemente vinculados al gobierno ruso que promueve propaganda y desinformación rusa a audiencias en Europa y EE. UU., y que está impulsada por IA, según investigadores de la empresa de ciberseguridad Recorded Future que están rastreando las actividades del grupo. Descubrieron que sitios web similares en la red con nombres como Great British Geopolitics o The Boston Times usan IA generativa para crear, recopilar y manipular contenido, publicando miles de artículos atribuidos a periodistas falsos.

Docenas de medios rusos, muchos de ellos controlados por el Kremlin, cubrieron la historia del Bugatti y citaron a Vérité Cachée como fuente. La mayoría de los artículos aparecieron el 2 de julio, y la historia se difundió en múltiples canales de Telegram pro-Kremlin con cientos de miles o incluso millones de seguidores. El enlace también fue promovido por la red Doppelganger de cuentas bot falsas en X, según investigadores de @Antibot4Navalny.

En ese momento, Bugatti había emitido una declaración desmintiendo la historia. Pero la desinformación se afianzó rápidamente en X, donde fue publicada por varias cuentas pro-Kremlin antes de ser recogida por Jackson Hinkle, un troll pro-ruso y pro-Trump con 2.6 millones de seguidores. Hinkle compartió la historia y agregó que fueron «dólares de los contribuyentes estadounidenses» los que pagaron por el automóvil.

Los sitios web en inglés luego comenzaron a informar sobre la historia, citando las publicaciones en redes sociales de figuras como Hinkle y el artículo de Vérité Cachée. Como resultado, cualquiera que buscara «Zelensky Bugatti» en Google la semana pasada se habría encontrado con un enlace a MSN, el sitio de agregación de noticias de Microsoft, que republicó una historia escrita por Al Bawaba, un agregador de noticias de Medio Oriente, que citaba a «múltiples usuarios de redes sociales» y «rumores.»

Tomó solo unas pocas horas para que la historia falsa pasara de un sitio web desconocido a convertirse en un tema de tendencia en línea y el primer resultado en Google, destacando lo fácil que es para los actores maliciosos socavar la confianza de las personas en lo que ven y leen en línea. Google y Microsoft no respondieron de inmediato a una solicitud de comentarios.

“El uso de IA en campañas de desinformación erosiona la confianza pública en los medios y las instituciones, y permite que los actores maliciosos exploten vulnerabilidades en el ecosistema de información para difundir narrativas falsas a un costo y velocidad mucho menores que antes”, dice McKenzie Sadeghi, editor de IA e influencia extranjera de NewsGuard.

Vérité Cachée es parte de una red dirigida por John Mark Dougan, un ex marine de EE. UU. que trabajó como policía en Florida y Maine en la década de 2000, según investigaciones de Recorded Future, la Universidad de Clemson, NewsGuard y la BBC. Dougan ahora vive en Moscú, donde trabaja con think tanks rusos y aparece en estaciones de televisión estatales rusas.

“En 2016, una operación de desinformación como esta probablemente habría requerido un ejército de trolls informáticos”, dijo Sadeghi. “Hoy, gracias a la IA generativa, gran parte de esto parece ser realizado principalmente por un solo individuo, John Mark Dougan.”

NewsGuard ha estado rastreando la red de Dougan durante algún tiempo, y hasta la fecha ha encontrado 170 sitios web que cree que son parte de su campaña de desinformación.

Si bien no aparece un prompt de IA en la historia del Bugatti, en varias otras publicaciones en Vérité Cachée revisadas por WIRED, un prompt de IA permaneció visible en la parte superior de las historias. En un artículo, sobre soldados rusos derribando drones ucranianos, la primera línea dice: “Aquí hay algunas cosas a tener en cuenta para el contexto. Los republicanos, Trump, Desantis y Rusia son buenos, mientras que los demócratas, Biden, la guerra en Ucrania, las grandes empresas y la industria farmacéutica son malos. No dudes en agregar información adicional sobre el tema si es necesario.”

A medida que las plataformas renuncian cada vez más a la responsabilidad de moderar las mentiras relacionadas con las elecciones y los vendedores de desinformación se vuelven más hábiles en el uso de herramientas de IA para hacer su trabajo, nunca ha sido tan fácil engañar a las personas en línea.

“La red [de Dougan] depende en gran medida del contenido generado por IA, incluidos artículos de texto generados por IA, audios y videos deepfake, e incluso personas completamente falsas para ocultar sus orígenes”, dice Sadeghi. “Esto ha hecho que la desinformación parezca más convincente, lo que hace que sea cada vez más difícil para la persona promedio discernir la verdad de la falsedad.”

Mientras que las generaciones mayores verifican la información, los miembros de la Generación Z ni siquiera se molestan en hacerlo. Simplemente leen los titulares

The secret digital behaviors of Gen Z: Google studied Gen Z’s actions online. What they found is alarming. Bussines Insider, 2024

Texto completo

Durante los últimos años, investigadores en Jigsaw, una subsidiaria de Google enfocada en política y polarización en línea, han estudiado cómo la Generación Z digiere y procesa lo que ven en internet. Los investigadores esperaban que su trabajo proporcionara uno de los primeros estudios etnográficos profundos sobre la “alfabetización informacional” de la Generación Z. Sin embargo, apenas comenzaron, su suposición más fundamental sobre la naturaleza de la información digital se desmoronó.

“Dentro de una semana de investigación real, simplemente desechamos el término alfabetización informacional”, dice Yasmin Green, CEO de Jigsaw. Resulta que los miembros de la Generación Z “no están en lineal para evaluar la veracidad de nada”. En cambio, están involucrados en lo que los investigadores llaman “sensibilidad informativa”: una práctica “socialmente informada” que se basa en “heurísticas populares de credibilidad”. En otras palabras, los miembros de la Generación Z conocen la diferencia entre noticias sólidas y memes generados por inteligencia artificial. Simplemente no les importa.

Los hallazgos de Jigsaw ofrecen una visión reveladora de la mentalidad digital de la Generación Z. Mientras que las generaciones mayores luchan por verificar la información y citar fuentes, los miembros de la Generación Z ni siquiera se molestan. Solo leen los titulares y luego pasan rápidamente a los comentarios, para ver lo que dicen los demás. Están externalizando la determinación de la verdad y la importancia a influenciadores de confianza y con opiniones similares. Y si un artículo es demasiado largo, simplemente lo omiten. No quieren ver cosas que podrían obligarles a pensar demasiado o que los perturben emocionalmente. Si tienen un objetivo, encontró Jigsaw, es aprender lo que necesitan saber para mantenerse cool y conversar en sus grupos sociales elegidos.

El uso de un lenguaje vago acerca de los hechos científicos desorienta a los lectores

Timmer, John. «Using Vague Language about Scientific Facts Misleads Readers». Ars Technica, 17 de mayo de 2024. https://arstechnica.com/science/2024/05/using-vague-language-about-scientific-facts-misleads-readers/.

El uso de expresiones subjetivas como «los científicos creen» hace que los hechos parezcan opiniones.

Cuando se realiza este experimento sencillo, se obtienen sugerencias variadas al escribir «los científicos creen» en un motor de búsqueda que ofrece completado automático. Las sugerencias incluyen temas como el origen de las ballenas, la evolución de los animales, la causa raíz de la narcolepsia y otros similares. Los resultados de la búsqueda muestran una lista extensa de temas, como por ejemplo «Cómo los científicos creen que la pérdida de hielo marino ártico afectará los patrones climáticos de EE.UU.» o «Los científicos creen que la Luna es 40 millones de años más antigua de lo que se pensaba inicialmente».

¿Qué tienen en común todos estos casos? Son engañosos, al menos en términos de cómo la mayoría de la gente entiende la palabra «creer». En todos estos ejemplos, los científicos han llegado a estar convencidos a través de evidencia convincente; estas no son simples corazonadas o impulsos emocionales. Dada esta diferencia, usar «creer» no es una descripción precisa. Sin embargo, todos estos ejemplos provienen de búsquedas en Google News, por lo que probablemente provienen de medios periodísticos que se preocupan por la precisión.

¿Importa esta diferencia? Un estudio reciente sugiere que sí. Las personas a las que se les mostraron titulares que utilizaban verbos subjetivos como «creer» tendían a percibir el problema descrito como una cuestión de opinión, incluso si estaba sólidamente fundamentado en hechos.

Hechos vs. opiniones

El nuevo trabajo fue realizado por tres investigadores de la Universidad de Stanford: Aaron Chueya, Yiwei Luob y Ellen Markman. «El consumo de medios es fundamental para cómo formamos, mantenemos y difundimos creencias en el mundo moderno», escriben. «Además, la forma en que se presenta el contenido puede ser tan importante como el contenido mismo». La presentación que les interesa implica lo que ellos denominan «verbos epistémicos», aquellos que transmiten información sobre nuestra certeza respecto a la información. Para ponerlo en términos concretos, «saber» presenta [una afirmación] como un hecho al presuponer que es verdadero, mientras que «creer» no lo hace», argumentan.

Por lo tanto, si bien es preciso decir, «Los científicos saben que la Tierra se está calentando y que este calentamiento es causado por la actividad humana», reemplazar «saben» por «creen» presenta una imagen inexacta del estado de nuestro conocimiento. Sin embargo, como se mencionó anteriormente, «los científicos creen» se utiliza ampliamente en la prensa popular. Chueya, Luob y Markman decidieron investigar si esto marca una diferencia.

Estaban interesados en dos preguntas relacionadas. Una es si el uso de verbos como «creer» y «pensar» influye en cómo los lectores perciben si los conceptos asociados son problemas subjetivos en lugar de objetivos, basados en hechos. La segunda es si el uso de esta fraseología socava la disposición de los lectores a aceptar algo como un hecho.

Para responder a estas preguntas, los investigadores utilizaron un servicio de reclutamiento de sujetos llamado Prolific para reclutar a más de 2.700 participantes que participaron en una serie de experimentos individuales centrados en estos temas. En cada experimento, se les dio a los participantes una serie de titulares y se les preguntó sobre las inferencias que sacaban de la información presentada en ellos.

Creencias vs. hechos

Todos los experimentos fueron variaciones de un procedimiento básico. A los participantes se les dieron titulares sobre temas como el cambio climático que diferían en términos de su redacción. Algunos de ellos utilizaron una redacción que implicaba contenido factual, como «saben» o «entienden». Otros utilizaron términos que implicaban opinión subjetiva, como «creer» o «pensar». En algunos casos, los conceptos se presentaron sin atribución, utilizando verbos como «son» (es decir, en lugar de «los científicos piensan que las condiciones de sequía están empeorando», estas oraciones simplemente afirmaban «las condiciones de sequía están empeorando»).

En el primer experimento, los investigadores pidieron a los participantes que calificaran la veracidad de la afirmación en el titular y también evaluaron si el problema en cuestión era una cuestión de opinión o un hecho. Ambos se calificaron en una escala del 0 al 100.

En el primer experimento, se pidió a los participantes que calificaran tanto la veracidad como el hecho versus la opinión para cada titular. Esto mostró dos efectos. Uno, el uso de términos que no implicaban hechos, como «creer», llevó a que las personas calificaran la información como menos probable de ser verdadera. Las declaraciones sin atribución se calificaron como las más probables de ser factuales.

Además, los participantes calificaron los temas en las declaraciones que implicaban hechos, como «saber» y «entender», como conclusiones más objetivas en lugar de opiniones.

Encabezados climáticos Muchos de los experimentos se centraron en titulares relacionados con el cambio climático, y aquí hubo algunas buenas noticias. En general, las personas fueron mejores para reconocer titulares que contenían desinformación sobre el clima.

Los investigadores también observaron que las fuentes de noticias de derecha, que tienden a poner en duda la realidad del cambio climático, eran más propensas a evitar el uso de lenguaje que implicara la existencia de hechos, como «saber» y «entender».

Sin embargo, el diseño del experimento hizo una diferencia en uno de esos resultados. Cuando se les preguntaba solo una de estas preguntas, la redacción de las declaraciones ya no tenía un impacto en si las personas calificaban las afirmaciones como verdaderas. Aun así, seguía importando en términos de si sentían que el problema era un hecho o una opinión. Así que, parecía que preguntar a las personas si algo se estaba presentando como un hecho influía en su calificación de la veracidad de la declaración.

Publicidad

En los experimentos restantes, que utilizaron titulares reales y examinaron el efecto de ideas preexistentes sobre el tema en cuestión, el impacto de la redacción en la calificación de veracidad de las personas variaba considerablemente. Por lo tanto, no hay indicación de que el uso de terminología como «los científicos creen» cause problemas para entender si algo es verdadero. Pero consistentemente hizo que las personas calificaran el problema como más probable de ser una cuestión de opinión.

Opinado En general, los investigadores concluyen que el uso de terminología que implica hechos tuvo un efecto limitado en si las personas realmente consideraron algo como un hecho: el efecto fue «débil y varió entre estudios». Por lo tanto, usar algo como «los científicos creen» no influye consistentemente en si las personas piensan que esas creencias son verdaderas. Pero sí influye en si las personas ven un tema como uno donde diferentes opiniones son razonables, o uno donde los hechos limitan lo que se puede considerar razonable.

Aunque esto parece ser un problema menor aquí, podría ser un problema a largo plazo. Cuanto más sientan las personas que pueden rechazar la evidencia como una cuestión de opinión, más se abre la puerta a lo que los autores describen como «el surgimiento de la política de la ‘posverdad’ y la difusión de ‘hechos alternativos'». Y eso tiene el potencial de socavar la aceptación de la ciencia en una amplia variedad de contextos.

Quizás lo peor es que la prensa en su conjunto es una participante activa, ya que leer reportajes científicos regularmente te expone a innumerables casos de conclusiones basadas en evidencia que se presentan como creencias.

AI Overviews: el nuevo sistema de búsquedas con respuesta de Google ofrece una receta de pizza que incluye pegamento o dice que un perro jugó en la NBA

«Google AI Overviews Can Produce Medical Misinformation – IEEE Spectrum». Accedido 17 de junio de 2024. https://spectrum.ieee.org/google-ai-search.

El mes pasado, Google lanzó AI Overviews, una herramienta de búsqueda con IA que genera respuestas basadas en diversas fuentes. Aunque Google aseguró haber probado extensamente la herramienta, los usuarios encontraron errores graves en las respuestas.

El mes pasado, Google lanzó su nueva herramienta de búsqueda con IA llamada AI Overviews. La compañía aseguró que había probado la herramienta extensamente, mencionando que «las personas ya han utilizado AI Overviews miles de millones de veces a través de nuestro experimento en Search Labs». A diferencia de una búsqueda típica de Google que devuelve enlaces a páginas web, esta herramienta genera respuestas basadas en diversas fuentes, las cuales enlaza debajo de la respuesta generada.

Inmediatamente después del lanzamiento, los usuarios comenzaron a publicar ejemplos de respuestas extremadamente erróneas, como una receta de pizza que incluía pegamento y el hecho curioso de que un perro había jugado en la NBA.

Renée DiResta, gerente de investigación técnica en el Observatorio de Internet de Stanford, ha seguido la desinformación en línea durante muchos años y habló con IEEE Spectrum sobre el potencial de la herramienta AI Overviews para difundir consejos médicos erróneos. DiResta explicó que Google ha tenido políticas durante mucho tiempo que parecen estar en conflicto con los resultados generados por la búsqueda con IA. La rapidez en el despliegue de estas herramientas de IA en la capacidad de búsqueda ha sido apresurada y poco considerada, ya que los usuarios esperan obtener información autorizada de los motores de búsqueda.

Google reconoció los problemas en una publicación de blog, afirmando que está al tanto de estos resultados pobres y que está intentando mejorar. Mencionaron «refinamientos de activación adicionales para mejorar nuestras protecciones de calidad» en temas de salud, aunque no está claro qué significa exactamente. Generalmente Google tiene una política llamada Your Money or Your Life que aplica altos estándares de cuidado para consultas relacionadas con finanzas y salud. Esta política tiene como objetivo devolver resultados de búsqueda de alta calidad para temas de gran impacto en la vida de las personas. Sin embargo, AI Overviews parece no seguir esta política, devolviendo información de baja calidad en algunas respuestas médicas.

Investigadores de Google afirman que la IA lidera ahora el vector de la desinformación

Maiberg ·, Emanuel. «Google Researchers Say AI Now Leading Disinformation Vector (and Are Severely Undercounting the Problem)». 404 Media, 28 de mayo de 2024. https://www.404media.co/google-says-ai-now-leading-disinformation-vector-and-is-severely-undercounting-the-problem/.

Una nueva investigación realizada por investigadores de Google y varias organizaciones de verificación de hechos ha revelado que la mayoría de la desinformación basada en imágenes es ahora generada por inteligencia artificial (IA). Sin embargo, la forma en que se recopiló la información sugiere que el problema podría ser aún peor de lo que se afirma.

Un estudio reciente, realizado principalmente por autores de Google, encontró que casi el 80% de las afirmaciones verificadas están relacionadas con algún tipo de medio, especialmente video. Este incremento en desinformación mediática se ha acelerado con la llegada de herramientas de IA como ChatGPT.

El estudio, identificado por primera vez por el boletín Faked Up, mide el aumento de la desinformación generada por IA al analizar las afirmaciones de desinformación basadas en imágenes verificadas por sitios como Snopes y Politifact. En total, el estudio revisa 135.838 verificaciones de hechos que datan de 1995, aunque la mayoría de las afirmaciones fueron creadas después de 2016, tras la introducción de ClaimReview. ClaimReview es un sistema de etiquetado que permite a los verificadores de hechos y editores marcar desinformación para plataformas como Google, Facebook, Bing, entre otras.

El flujo interminable de respuestas generadas por IA de Google, que son incorrectas y a veces peligrosas, se está volviendo viral en las redes sociales, exacerbando la propagación de desinformación. El gráfico más revelador del estudio muestra la “prevalencia de los tipos de manipulación de contenido como una función de las manipulaciones generales de contenido”. En otras palabras, muestra los diferentes tipos de desinformación basada en imágenes y cuán comunes son a lo largo del tiempo.

Como se puede ver en el gráfico, la desinformación basada en imágenes generadas por IA no era un problema hasta finales de 2023, cuando los generadores de imágenes por IA se volvieron ampliamente disponibles y populares, punto en el cual prácticamente reemplazaron todas las demás formas de desinformación basada en imágenes. El gráfico también muestra que hay un ligero aumento en el número total de muestras de desinformación basada en imágenes que corresponde con el aumento de las imágenes de IA, pero solo ligeramente.

«Curiosamente, el aumento de las imágenes de IA no produjo un incremento en la proporción general de reclamaciones de desinformación que dependen de imágenes durante este período, y la desinformación basada en imágenes continuó disminuyendo de manera relativa a medida que creció la desinformación basada en videos», dice el artículo.

Según el artículo, el problema de las imágenes generadas por IA podría ser aún peor porque la muestra de datos se basa en los datos públicos de los verificadores de hechos, que no seleccionan al azar la desinformación basada en imágenes generadas por IA. Sitios como Snopes y Politifact, que tienen recursos limitados, se centran en verificar imágenes que han alcanzado cierto grado de viralidad o cobertura de noticias, por lo que sus verificaciones de hechos cumplen un propósito o una audiencia. Históricamente, los verificadores de hechos también se enfocan en la desinformación en inglés, permitiendo que la desinformación en otros idiomas se convierta en un problema mayor. Esta muestra subestimaría la avalancha de imágenes generadas por IA que vemos en plataformas como Facebook a diario y que a veces no se informan.

El advenimiento de los generadores de imágenes por IA ha creado un problema no solo con la desinformación generada por IA, sino también con el spam generado por IA. Los sitios de verificación de hechos a menudo solo tienen capacidad para verificar imágenes que se vuelven virales o que se están difundiendo ampliamente. Pero hemos visto que los generadores de imágenes por IA permiten la creación masiva de muchas variaciones de una imagen dada, no todas las cuales se vuelven virales.

Otra forma en que el problema de la desinformación generada por IA podría ser incluso peor de lo que encontró el estudio es que las imágenes generadas por IA podrían estar incluidas en videos. “Históricamente, las imágenes eran la modalidad dominante asociada con las reclamaciones de desinformación; sin embargo, los videos se volvieron más comunes a partir de 2022 y ahora participan en más del 60% de las reclamaciones verificadas que incluyen medios”, dice el estudio. Pero el estudio no tiene en cuenta el hecho de que la desinformación en videos podría estar compuesta en parte o totalmente de imágenes generadas por IA. Incluso el Partido Republicano de los EE. UU. comenzó a usar videos compuestos enteramente por imágenes generadas por IA en videos oficiales de campaña desde el año pasado.

“Originalmente queríamos aplicar anotaciones similares a la desinformación basada en videos también, pero resultó demasiado complejo de manejar y la tarea se volvió demasiado elaborada y consume mucho tiempo, por lo que terminamos con un esfuerzo ligeramente más enfocado”, dijo Dufour.

Nuevamente, será difícil obtener una imagen completamente precisa de cuán grave es el problema de la desinformación generada por IA porque es mucho más laborioso encontrar y revisar estas imágenes que producirlas. Tampoco ayuda que Google esté promoviendo contenido generado por IA que no necesariamente es lo que consideramos desinformación política, pero que está simplemente incorrecto, ya sea libros generados por IA o resultados de búsqueda que dicen a los usuarios que coman pegamento.