Archivo de la etiqueta: Noticias falsas

Cómo ChatGPT y la IA generativa podrían fomentar la negación de la ciencia

Gale Sinatra and Barbara K. Hofer, The. «How ChatGPT and Generative AI Could Foster Science Denial». Gizmodo, 11 de junio de 2023. https://gizmodo.com/chatgpt-generative-ai-openai-science-denial-1850516570.

Todos los consumidores de medios de comunicación deben estar más atentos que nunca a la hora de verificar la veracidad científica. He aquí cómo mantenerse alerta en un nuevo panorama informativo.

Hasta hace muy poco, si deseabas obtener más información sobre un tema científico controvertido, como la investigación con células madre, la seguridad de la energía nuclear o el cambio climático, probablemente hacías una búsqueda en Google. Presentado con múltiples fuentes, elegías qué leer, seleccionando los sitios o autoridades en los que confiar.

Ahora tienes otra opción: puedes plantear tu pregunta a ChatGPT u otra plataforma de inteligencia artificial generativa y recibir rápidamente una respuesta concisa en forma de párrafo.

ChatGPT no busca en Internet de la misma manera que lo hace Google. En cambio, genera respuestas a las consultas prediciendo combinaciones de palabras probables a partir de una amalgama masiva de información disponible en línea.

Aunque tiene el potencial de mejorar la productividad, se ha demostrado que la IA generativa tiene algunos fallos importantes. Puede producir información errónea. Puede crear «alucinaciones«, un término benigno para inventar cosas. Y no siempre resuelve con precisión problemas de razonamiento. Por ejemplo, cuando se le preguntó si un automóvil y un tanque pueden pasar por una puerta, no consideró tanto el ancho como la altura. Sin embargo, ya se está utilizando para producir artículos y contenido web que es posible que hayas encontrado, o como una herramienta en el proceso de escritura. Aun así, es poco probable que sepas si lo que estás leyendo fue creado por la IA.

Como autores de «Science Denial: Why It Happens and What to Do About It» (Negación de la Ciencia: Por qué Ocurre y Qué Hacer al Respecto), preocupa cómo la IA generativa podría difuminar los límites entre la verdad y la ficción para aquellos que buscan información científica autoritaria.

Cada consumidor de medios necesita ser más vigilante que nunca al verificar la precisión científica en lo que lee. Así es cómo puedes mantenerte alerta en este nuevo panorama de la información.

Cómo la IA generativa podría fomentar la negación de la ciencia

  1. Erosión de la confianza epistémica: Todos los consumidores de información científica dependen de los juicios de expertos científicos y médicos. La confianza epistémica es el proceso de confiar en el conocimiento que se obtiene de otros. Es fundamental para la comprensión y el uso de información científica. Ya sea que alguien esté buscando información sobre una preocupación de salud o tratando de comprender soluciones para el cambio climático, a menudo tienen un entendimiento científico limitado y poco acceso a evidencia de primera mano. Con un creciente cuerpo de información en línea, las personas deben tomar decisiones frecuentes sobre qué y a quién confiar. Con el aumento del uso de la IA generativa y su potencial de manipulación, creemos que la confianza es probable que se erosioné aún más de lo que ya lo ha hecho.
  2. Desinformación o simplemente incorrecto: Si hay errores o sesgos en los datos con los que se entrenan las plataformas de IA, eso puede reflejarse en los resultados. En nuestras propias búsquedas, cuando le hemos pedido a ChatGPT que regenere múltiples respuestas a la misma pregunta, hemos obtenido respuestas contradictorias. Cuando se le preguntó por qué, respondió: «A veces cometo errores». Quizás el problema más complicado con el contenido generado por IA es saber cuándo está equivocado.
  3. Diseminación deliberada de desinformación: La IA se puede utilizar para generar desinformación convincente en forma de texto, así como imágenes y videos deepfake. Cuando le preguntamos a ChatGPT que «escribiera sobre las vacunas al estilo de desinformación», produjo una cita inexistente con datos falsos. Geoffrey Hinton, exjefe de desarrollo de IA en Google, renunció para poder dar la alarma, diciendo: «Es difícil ver cómo se puede evitar que los actores malintencionados lo utilicen para cosas malas». La capacidad de crear y difundir información deliberadamente incorrecta sobre la ciencia ya existía, pero ahora es peligrosamente fácil.
  4. Fuentes fabricadas: ChatGPT proporciona respuestas sin fuentes en absoluto, o si se le pide que proporcione fuentes, puede presentar fuentes inventadas. Ambos le pedimos a ChatGPT que generara una lista de nuestras propias publicaciones. Cada uno identificó algunas fuentes correctas. Más fueron alucinaciones, pero parecían ser reputables y en su mayoría plausibles, con coautores reales en revistas de sonido similar. Esta inventiva es un gran problema si una lista de publicaciones de un académico transmite autoridad a un lector que no se toma el tiempo para verificarlas.
  5. Conocimiento desactualizado: ChatGPT no sabe lo que ha sucedido en el mundo después de la fecha de corte de su conocimiento. Una consulta sobre el porcentaje de personas en el mundo que han tenido COVID-19 devolvió una respuesta precedida por «según mi fecha de corte de conocimiento de septiembre de 2021». Dado lo rápido que avanza el conocimiento en algunas áreas, esta limitación podría significar que los lectores obtengan información errónea y desactualizada. Si estás buscando investigaciones recientes sobre un problema de salud personal, por ejemplo, ten cuidado.
  6. Avance rápido y falta de transparencia: Los sistemas de IA siguen volviéndose más poderosos y aprenden más rápido, y pueden aprender más desinformación científica en el camino. Google anunció recientemente 25 nuevos usos incrustados de la IA en sus servicios. En este momento, no hay suficientes salvaguardias para garantizar que la IA generativa se convierta con el tiempo en un distribuidor más preciso de información científica.

¿Qué puedes hacer acerca de las alucinaciones de la IA?

Si utilizas ChatGPT u otras plataformas de IA, reconoce que es posible que no sean completamente precisas. La responsabilidad recae en el usuario para discernir la precisión.

Aumenta tu vigilancia. Es posible que pronto estén disponibles aplicaciones de verificación de hechos con IA, pero por ahora, los usuarios deben servir como sus propios verificadores de hechos. Recomendamos algunos pasos. El primero es: sé vigilante. Las personas a menudo comparten información que encuentran en búsquedas en las redes sociales con poco o ningún análisis. Aprende cuándo ser más reflexivo y cuándo vale la pena identificar y evaluar las fuentes de información. Si estás tratando de decidir cómo gestionar una enfermedad grave o entender los mejores pasos para abordar el cambio climático, tómate el tiempo para verificar las fuentes.

Mejora tu verificación de hechos. Un segundo paso es la lectura lateral, un proceso que utilizan los verificadores de hechos profesionales. Abre una nueva ventana y busca información sobre las fuentes, si se proporcionan. ¿La fuente es creíble? ¿El autor tiene experiencia relevante? ¿Cuál es el consenso de los expertos? Si no se proporcionan fuentes o no sabes si son válidas, utiliza un motor de búsqueda tradicional para encontrar y evaluar a expertos en el tema.

Evalúa las pruebas. A continuación, observa las pruebas y su conexión con la afirmación. ¿Hay evidencia de que los alimentos genéticamente modificados son seguros? ¿Hay evidencia de que no lo son? ¿Cuál es el consenso científico? Evaluar las afirmaciones requerirá esfuerzo más allá de una consulta rápida a ChatGPT.

Si comienzas con la IA, no te detengas allí. Ten precaución al usarla como la única autoridad en cualquier tema científico. Puedes consultar lo que ChatGPT tiene que decir sobre organismos genéticamente modificados o la seguridad de las vacunas, pero también realiza una búsqueda más diligente utilizando motores de búsqueda tradicionales antes de sacar conclusiones.

Evalúa la plausibilidad. Juzga si la afirmación es plausible. ¿Es probable que sea cierta? Si la IA hace una declaración poco plausible (y incorrecta), como «1 millón de muertes fueron causadas por las vacunas, no por el COVID-19», considera si tiene sentido. Haz un juicio tentativo y luego mantente abierto a revisar tu pensamiento una vez que hayas verificado la evidencia.

Promueve la alfabetización digital en ti mismo y en otros. Todos necesitan mejorar sus habilidades. Mejora tu propia alfabetización digital y, si eres padre, maestro, mentor o líder comunitario, promueve la alfabetización digital en los demás. La Asociación Estadounidense de Psicología ofrece orientación sobre cómo verificar información en línea y recomienda que los adolescentes sean capacitados en habilidades de redes sociales para minimizar los riesgos para la salud y el bienestar. El Proyecto de Alfabetización en Noticias proporciona herramientas útiles para mejorar y apoyar la alfabetización digital.

Arma-te con las habilidades que necesitas para navegar por el nuevo paisaje de información de la IA. Incluso si no utilizas la IA generativa, es probable que ya hayas leído artículos creados por ella o desarrollados a partir de ella. Puede llevar tiempo y esfuerzo encontrar y evaluar información confiable sobre ciencia en línea, pero vale la pena.

Gale Sinatra, Profesora de Educación y Psicología en la Universidad del Sur de California y Barbara K. Hofer, Profesora Emérita de Psicología en Middlebury.

A los chatbots de IA se les cruzan los cables en la guerra entre Israel y Hamás (vía Insider)

Nolan, Hasan Chowdhury, Beatrice. «AI Chatbots Are Getting Their Wires Crossed on the Israel-Hamas War». Business Insider. Accedido 13 de octubre de 2023. https://www.businessinsider.com/ai-chatbots-israel-hamas-conflict-google-bard-microsoft-openai-chatgpt-2023-10.

El artículo habla de cómo los chatbots de inteligencia artificial, incluyendo a Bard de Google, Bing de Microsoft y ChatGPT Plus, están teniendo dificultades para proporcionar información precisa y actualizada sobre el conflicto entre Israel y Hamas. Aquí tienes un resumen de los problemas con cada chatbot:

  1. Bard de Google:
    • Inicialmente, afirmó que había un alto el fuego en Israel que entró en vigor en mayo de 2023.
    • Tras nuevas consultas, Bard proporcionó información inconsistente sobre la fecha del alto el fuego.
    • Finalmente, reconoció que no había un alto el fuego en Israel a partir del 12 de octubre.
  2. Bing de Microsoft:
    • El chatbot de Bing generó una fecha falsa (10 de octubre de 2023) al responder a una pregunta sobre el alto el fuego.
    • Cuando se le corrigió acerca de la fecha incorrecta, Bing aún insistió en que se declaró un alto el fuego en esa fecha.
    • Bing ofreció respuestas más precisas a otras preguntas sobre el conflicto.
  3. ChatGPT Plus:
    • ChatGPT Plus ofreció respuestas vagas y poco comprometidas a preguntas sobre el conflicto.
    • No generó inexactitudes, pero no proporcionó información clara sobre la situación.
    • Reconoció que los acuerdos de alto el fuego anteriores podrían haberse roto en octubre de 2023.

El artículo destaca que estos chatbots de IA, a pesar de ser promocionados como herramientas avanzadas para la obtención de información, a menudo tienen dificultades para proporcionar actualizaciones precisas y oportunas sobre eventos de última hora. Se resalta la importancia de ser escéptico al depender de chatbots de IA para obtener información en tiempo real. Las compañías detrás de estos chatbots continúan trabajando para mejorar su calidad y confiabilidad, pero reconocen que pueden ocurrir errores, especialmente en noticias de última hora.

Narrativas digitales contra la desinformación. Verificación de datos y alfabetización en la sociedad digital

Narrativas digitales contra la desinformación. Verificación de datos y alfabetización en la sociedad digital , bajo la dirección académica de María Isabel Míguez-González y Alberto Dafonte-Gómez (coordinadores), publicada por Comunicación Social Ediciones y Publicaciones en su colección «Periodística», en 2023.

Texto completo

El fenómeno de la desinformación, como patrón comunicativo en auge vinculado a la sociedad digital, pone en riesgo la estabilidad de los sistemas políticos democráticos de todo el mundo y constituye una amenaza seria para la credibilidad de los medios de comunicación. El gran alcance y las graves repercusiones de las prácticas desinformativas han hecho que en los últimos años se haya convertido en una preocupación de primera magnitud para gobiernos e instituciones internacionales y que sea ya un fenómeno ampliamente estudiado que, aun así, sigue generando interés y planteando retos a la comunidad científica internacional.

En este contexto de preocupación generalizada se plantean distintas vías de actuación para frenar y mitigar los efectos de la desinformación entre la ciudadanía. Las iniciativas periodísticas de fact-checking son una de las respuestas al problema y contribuyen activamente en la lucha contra la desinformación, tanto por su labor de verificación de declaraciones, contenidos de medios de comunicación o bulos distribuidos a través de redes sociales y servicios de mensajería instantánea, como por la labor de alfabetización mediática que muchas de ellas desarrollan a través de sus sitios web.

Asumiendo la relevancia de estas entidades verificadoras de datos o fact-checkers en la lucha contra la desinformación, un equipo de investigadores liderados por María Isabel Míguez González y Alberto Dafonte Gómez desarrollaron entre junio de 2020 y mayo de 2023 el proyecto «Fact-checkers: narrativas digitales contra la desinformación: estudio de redes, temas y formatos en los fact-checkers iberoamericanos», financiado por la Agencia Estatal de Investigación. Dicho proyecto se propuso contribuir al reto de combatir la desinformación a través de la identificación de las temáticas y las características formales y narrativas de aquellos contenidos generados por los fact-checkers del ámbito iberoamericano que logran mayor éxito entre la audiencia, con la finalidad de transferir ese conocimiento para mejorar el alcance y repercusión de su labor. Asimismo, el proyecto generó recursos formativos orientados a mejorar la competencia digital y la alfabetización mediática de la ciudadanía contra la desinformación.

Este libro, a través de sus quince capítulos organizados en cuatro partes, pretende ofrecer una aproximación divulgativa a los resultados de dicho proyecto, además de incorporar las aportaciones de otros investigadores de reconocido prestigio que han abordado la temática de la desinformación y la verificación de datos desde diferentes puntos de vista.

Manual para combatir la desinformación: Claves para un pensamiento informado

Manual para combatir la desinformación: Claves para un pensamiento informado. Madrid: Fundación Telefónica, 2023

Texto completo

Link alternativo

¿Sabes distinguir una noticia falsa de una verdadera? ¿Te preocupa ser víctima de la desinformación? ¿Quieres aprender a trabajar tu pensamiento crítico?

Según el Servicio de Estudios del Parlamento Europeo, incluso las personas jóvenes, más familiarizadas con la digitalización, y las expertas en el ámbito digital tienen problemas para identificar las fake news. Por eso, en el marco de nuestra exposición ‘Fake News. La fábrica de mentiras’ –una muestra cuyo objetivo es identificar los diferentes tipos de desinformación, aprender a reconocerlos y combatir su difusión- hemos desarrollado nuestro Manual para combatir la desinformación.

Este recurso gratuito ofrece unas pautas complementarias a la información que podrás encontrar en la exposición que te ayudarán a discernir las noticias falsas de la verdad desde el pensamiento critico. En él, encontrarás un primer acercamiento a este fenómeno, una descripción de los siete tipos de fake news que componen la Escalera de la Manipulación, una estrategia en siete pasos para comprobar la veracidad de una noticia y herramientas complementarias que podrás emplear para verificar cualquier tipo de información.

¿Por qué los medios de comunicación utilizan la palabra «misinformación» cuando quieren decir «desinformación»?

Desinformación y misinformación no son lo mismo, aunque a menudo se utilizan indistintamente. Aquí tienes las diferencias clave entre estos dos términos:

  • Desinformación (Disinformation): La desinformación se refiere a la difusión deliberada de información falsa o engañosa con la intención de engañar o manipular a las personas. En otras palabras, es cuando alguien o algún grupo difunde información que sabe que es falsa con el propósito de lograr ciertos objetivos, como sembrar la confusión, influir en las opiniones públicas o perjudicar a un adversario.

  • Misinformación (Misinformation): La misinformación, por otro lado, se refiere a la difusión de información incorrecta o inexacta sin necesariamente tener la intención de engañar. Puede ser el resultado de errores honestos, malentendidos, o la falta de verificación de la precisión de la información antes de compartirla. En este caso, las personas pueden estar difundiendo información falsa sin darse cuenta de que lo están haciendo.

Por lo tanto, es importante señalar que, aunque los términos «misinformación» y «desinformación» tienen significados distintos, ambos están relacionados con la difusión de información falsa o incorrecta, ya sea de manera accidental o deliberada. Sin embargo, para una comunicación más precisa y clara, los medios y los periodistas deberían esforzarse por utilizar los términos de manera adecuada de acuerdo con sus significados precisos. Esto ayudaría a evitar confusiones y a garantizar que la información se presente de manera más precisa y completa al público.

Encuesta a expertos sobre la desinformación

Altay, S., Berriche, M., Heuer, H., Farkas, J., & Rathje, S. (2023). A survey of expert views on misinformation: Definitions, determinants, solutions, and future of the field. Harvard Kennedy School (HKS) Misinformation Review. https://doi.org/10.37016/mr-2020-119

Se encuestó a 150 expertos académicos en desinformación e identificamos áreas de consenso entre los expertos. Los expertos definieron la desinformación como información falsa y engañosa, aunque hubo divergencia de opiniones sobre la importancia de la intencionalidad y lo que constituye exactamente desinformación. La razón más popular por la que la gente cree y comparte información errónea fue el partidismo, mientras que la falta de formación fue una de las razones menos populares. Los expertos se mostraron optimistas sobre la eficacia de las intervenciones contra la desinformación y apoyaron las acciones a nivel de sistema contra la desinformación, como los cambios en el diseño de las plataformas y los cambios algorítmicos. La dirección futura más acordada para el campo de la desinformación fue recopilar más datos fuera de Estados Unidos.

PREGUNTAS DE INVESTIGACIÓN:

  • ¿Cómo definen los expertos la desinformación?
  • ¿Qué opinan los expertos sobre los debates actuales en torno a la desinformación, las redes sociales y las cámaras de eco?
  • Según los expertos, ¿por qué la gente cree y comparte la desinformación?
  • ¿Qué opinan los expertos sobre la eficacia de las intervenciones contra la desinformación?
  • ¿Cómo creen los expertos que podría mejorarse el estudio de la desinformación?

RESUMEN DEL ENSAYO

Los expertos encuestados definen la desinformación como información falsa y engañosa. Coinciden en que la pseudociencia y las teorías de la conspiración son desinformación, mientras que las noticias satíricas no lo son. Los expertos de distintas disciplinas y métodos discreparon sobre la importancia de la intencionalidad y sobre si la propaganda, los titulares clickbait y las noticias hiperpartidistas son desinformación.

Los expertos coincidieron en que las plataformas de medios sociales agravaron el problema de la desinformación y que la gente está expuesta a más puntos de vista opuestos en línea que fuera de ella. Los encuestados también se mostraron escépticos ante la afirmación de que la desinformación determinó el resultado de las elecciones presidenciales estadounidenses de 2016, mientras que los psicólogos no.

Las explicaciones más populares de por qué la gente cree y comparte información errónea fueron el partidismo, la identidad, el sesgo de confirmación, el razonamiento motivado y la falta de confianza en las instituciones.

Los expertos encuestados coincidieron en que las intervenciones actuales contra la desinformación, como la alfabetización mediática y la comprobación de los hechos, serían eficaces si se adoptaran de forma generalizada. Los expertos se mostraron a favor de cambios en el diseño de las plataformas, cambios algorítmicos, moderación de contenidos, desplatforming y regulaciones más estrictas.

Estos expertos también coincidieron en que en el futuro será importante recopilar más datos fuera de Estados Unidos, realizar más trabajo interdisciplinar, examinar formas más sutiles de desinformación, estudiar plataformas distintas de Twitter y Facebook y desarrollar mejores teorías e intervenciones.

¿Quién comparte información política falsa en Internet intencionalmente?

Littrell, Shane, Casey Klofstad, Amanda Diekman, John Funchion, Manohar Murthi, Kamal Premaratne, Michelle Seelig, Daniel Verdear, Stefan Wuchty, y Joseph E. Uscinski. «Who Knowingly Shares False Political Information Online?» Harvard Kennedy School Misinformation Review, 25 de agosto de 2023. https://doi.org/10.37016/mr-2020-121.

Algunas personas comparten información falsa accidentalmente, pero otras lo hacen a sabiendas. Para comprender plenamente la propagación de la desinformación en Internet, es importante analizar a quienes la comparten a propósito. Utilizando una encuesta realizada en Estados Unidos en 2022, descubrimos que el 14% de los encuestados afirmaba compartir información errónea a sabiendas, y que estos encuestados eran más propensos a declarar también su apoyo a la violencia política, su deseo de presentarse a las elecciones y sus sentimientos hacia los extremistas. Estos encuestados también tenían más probabilidades de presentar niveles elevados de necesidad psicológica de caos, rasgos de la tétrada oscura y paranoia. Nuestros resultados ponen de manifiesto un vector a través del cual se difunde la desinformación.

¿Son las bibliotecas el futuro de la información?: colaboración entre bibliotecas y medios de comunicación

El autor reflexiona sobre la importancia de los espacios públicos, como las bibliotecas, donde las personas pueden acceder a necesidades básicas como un baño, un lugar cálido para sentarse y agua limpia. Expresa su frustración por vivir en una comunidad donde estas necesidades no están garantizadas para todos y donde la lucha por ellas es común.

En un mundo donde todo parece orientado a generar ganancias, las bibliotecas son más necesarias que nunca por su enfoque en compartir y apoyar en lugar de controlar. Y se reflexiona sobre el valor de espacios públicos como las bibliotecas y la importancia de acceder a información confiable y relevante en la sociedad actual.

Las bibliotecas públicas siguen vivas. Se trata de un lugares en el que el rebelde empeño de compartir -e incluso de ser copropietario- de un espacio no se encuentra con el impulso carcelario de disciplinar, sino más bien con el impulso de apoyar y escuchar. Lugares donde el derecho de todo el mundo a un baño, un lugar donde sentarse, agua limpia, tranquilidad, esté claro y se asuma como algo natural. Un lugar donde tu capacidad para existir como ser humano no dependa de la capacidad para pagar. Una experiencia así es tan rara en el siglo XXI que no es de extrañar que la gente realmente ame las bibliotecas.

Cerca del 80% de los adultos estadounidenses creen que «las bibliotecas les proporcionan los recursos que necesitan», según una encuesta publicada por el Pew Research Center en 2016; los resultados publicados por Pew en 2017 mostraron que un enorme 78% de los adultos consideraban que «las bibliotecas públicas les ayudan a encontrar información fiable y fidedigna» y el 56% dijo que «las bibliotecas les ayudan a obtener información que les ayuda con las decisiones que tienen que tomar». Entre los adultos, los millennials eran los mayores fans de las bibliotecas: en otro artículo publicado por Pew en 2017, se informó de que los millennials habían utilizado las bibliotecas «más que cualquier otra generación adulta» durante el año anterior.

Por el contrario, la gente odia absolutamente los medios de comunicación. Según datos de Gallup publicados en 2022, «la confianza de los estadounidenses en que los medios de comunicación de masas informen de las noticias de forma ‘completa, precisa e imparcial'» estaba en un mínimo casi récord del 34%, y solo el 7% tenía «mucha» confianza en los medios. En un sorprendente estudio de Gallup sobre la confianza en 16 instituciones estadounidenses, los periódicos ocupaban el 12º lugar y los informativos de televisión el 15º; sólo el Congreso salía peor parado.

Una iniciativa de Library Futures, una organización de reflexión y defensa, en asociación con Google News Initiative (GNI) para promover asociaciones entre redacciones y bibliotecas. La intención original de la asociación era mejorar el acceso a los medios informativos a través de la biblioteca. El objetivo era que en lugar de ofrecer gratuitamente a los usuarios de las bibliotecas una versión digital del periódico destinada al consumidor, la coalición decidió producir juntos periodismo original. Un presupuesto de unos 100.000 dólares sirvió para financiar la colaboración del grupo y la producción de ocho artículos. Tanto la APL como el Times Union serían propietarios de los artículos, conservando el derecho a publicarlos en sus propios sitios web y canales digitales, libres de cualquier muro de pago y, por tanto, de libre lectura para todos.

Sin embargo, estos variados experimentos sugieren la posibilidad de algo más grande. En sus huellas, es posible ver un mundo diferente: un mundo en el que se protejan y amplíen los recursos colectivos que la gente ama, y en el que las personas puedan ser realmente dueñas de las historias que se producen sobre ellas y sus comunidades. Victor Pickard, profesor de política de medios de comunicación y economía política en la Universidad de Pensilvania, ha descrito elementos de este mundo, en particular el concepto de «centros públicos de medios de comunicación», construidos sobre instituciones públicas ya existentes, como bibliotecas y oficinas de correos, que podrían servir de «nuevas instituciones de anclaje».

La historia más amplia, y a la que apuntan estos modestos experimentos de colaboración, es la de la democracia, algo que sólo es posible cuando la gente tiene acceso al conocimiento necesario para tomar decisiones individuales y colectivas. Con demasiada frecuencia, quienes escriben sobre estos temas ocultan lo que realmente está en juego e ignoran el potencial que ofrece la infraestructura cultural existente de bibliotecas, medios de comunicación, escuelas y sistemas de comunicación. A pesar de las limitaciones, y contra todo pronóstico, lo que sugieren estas humildes, imperfectas pero geniales asociaciones es que es posible una forma totalmente distinta de compartir historias e información -y, por tanto, de entender nuestro mundo-, y que partes de ese posible futuro ya están aquí.

Las bibliotecas son la prueba de que cuando un bien público se hace realmente público -cuando se convierte en propiedad, estructuralmente, de todos- a la gente le gusta, y mucho. ¿Por qué no aprovechar lo que ya funciona?

Una imagen manipulada por IA del Pentágono explotando en llamas causó que bajara el mercado de valores de Estados Unidos

Una imagen con humo negro que se eleva al lado de un edificio de aspecto burocrático se difundió por las redes sociales el lunes por la mañana, con la afirmación de que mostraba una explosión cerca del Pentágono. En cuestión de minutos, una ola de cuentas de redes sociales, incluyendo algunas cuentas verificadas, compartieron la imagen falsa, amplificando aún más la confusión.

La publicación causó un breve sobresalto en el mercado de valores cuando rápidamente fueron recogidas por medios de comunicación fuera de Estados Unidos, antes de que los funcionarios intervinieran para aclarar que en realidad no había ocurrido ninguna explosión y que la foto era falsa.

Los expertos afirman que la imagen viral tenía señales evidentes de ser una falsificación generada por IA, y su popularidad subraya el caos cotidiano que estos programas, cada vez más sofisticados y de fácil acceso, pueden causar.

Hay muchas herramientas de IA generativa, como Midjourney, Dall-e 2 y Stable Diffusion, que pueden crear imágenes realistas con muy poco esfuerzo. Estas herramientas se entrenan observando grandes volúmenes de imágenes reales, pero rellenan los huecos con su propia interpretación cuando faltan datos de entrenamiento. Esto puede dar lugar a personas con extremidades adicionales y objetos que se transforman con su entorno.

Este incidente destaca las posibles amenazas que las imágenes generadas por IA pueden presentar en el ámbito de las redes sociales, donde se comparten rápidamente, así como la necesidad de un sistema de verificación en Twitter.

Con el auge de las imágenes generadas por inteligencia artificial, distinguir lo real de lo falso va a ser mucho más difícil.

Con la nueva versión de Photoshop lanzada la semana pasada, los usuarios ahora pueden manipular o agregar elementos a una imagen en cuestión de segundos, simplemente dando una instrucción al programa. La versión beta de la nueva función «Generative Fill» de Adobe llega después de varios avances en software de generación de imágenes durante el último año.

Se espera que esta función esté disponible para el público en general en la segunda mitad de 2023, lo que significa que podemos esperar estar inundados de imágenes cada falsas (Adobe cuenta con millones de usuarios de productos creativos).

«Nos estamos adentrando en un mundo en el que tú y yo ya no podemos creer que si vemos una imagen del Papa usando una chaqueta hinchada y caminando fuera del Vaticano, realmente sea él», dijo Maura Grossman, profesora investigadora en la escuela de ciencias de la computación de la Universidad de Waterloo, quien ha estado estudiando las implicaciones del mundo real de las imágenes generadas por IA. Ver video

La inteligencia artificial plantea un «riesgo de extinción», advierten ejecutivos y expertos en tecnología. En marzo, se creó una imagen del Papa con otro programa, Midjourney, y se publicó en Reddit. La imagen se compartió ampliamente en línea y muchos inicialmente creyeron que era real, ilustrando el poder y el peligro de esta tecnología.

Riesgos y recompensas

Esta tecnología tiene posibilidades emocionantes para aquellos en campos creativos (aunque hay obstáculos en esta etapa temprana y algunas de las imágenes claramente parecen manipuladas).

Sin embargo, también hará cada vez más difícil distinguir entre lo que es real y lo que no lo es. Justo la semana pasada, una imagen manipulada del Pentágono explotando en llamas causó que el mercado de valores de Estados Unidos bajara brevemente después de que varios medios internacionales la difundieran. Se alienta a los usuarios de la función de IA de Photoshop a utilizar lo que llaman «credenciales de contenido». Adobe describe las credenciales como una «etiqueta nutricional» para las imágenes, diseñada para dejar claro si un contenido fue generado o editado por IA.