Dado que cada vez se accede más a la comunicación y la información a través de las tecnologías digitales, la alfabetización digital es esencial para que las personas vivan, aprendan y trabajen en nuestra sociedad.
El recién inaugurado Micrositio de Información sobre Alfabetización está dedicado a abordar los problemas de la desinformación, la desinformación y la desinformación que prevalecen en el ámbito digital.
Esta plataforma ofrece artículos de investigación de libre acceso sobre temas vitales como la alfabetización digital, la censura, la propaganda, la sociedad digital, la ética de los medios de comunicación y los peligros de la desinformación. Para garantizar la pertinencia, los contenidos se actualizarán trimestralmente.
Todos los consumidores de medios de comunicación deben estar más atentos que nunca a la hora de verificar la veracidad científica. He aquí cómo mantenerse alerta en un nuevo panorama informativo.
Hasta hace muy poco, si deseabas obtener más información sobre un tema científico controvertido, como la investigación con células madre, la seguridad de la energía nuclear o el cambio climático, probablemente hacías una búsqueda en Google. Presentado con múltiples fuentes, elegías qué leer, seleccionando los sitios o autoridades en los que confiar.
Ahora tienes otra opción: puedes plantear tu pregunta a ChatGPT u otra plataforma de inteligencia artificial generativa y recibir rápidamente una respuesta concisa en forma de párrafo.
ChatGPT no busca en Internet de la misma manera que lo hace Google. En cambio, genera respuestas a las consultas prediciendo combinaciones de palabras probables a partir de una amalgama masiva de información disponible en línea.
Aunque tiene el potencial de mejorar la productividad, se ha demostrado que la IA generativa tiene algunos fallos importantes. Puede producir información errónea. Puede crear «alucinaciones«, un término benigno para inventar cosas. Y no siempre resuelve con precisión problemas de razonamiento. Por ejemplo, cuando se le preguntó si un automóvil y un tanque pueden pasar por una puerta, no consideró tanto el ancho como la altura. Sin embargo, ya se está utilizando para producir artículos y contenido web que es posible que hayas encontrado, o como una herramienta en el proceso de escritura. Aun así, es poco probable que sepas si lo que estás leyendo fue creado por la IA.
Como autores de «Science Denial: Why It Happens and What to Do About It» (Negación de la Ciencia: Por qué Ocurre y Qué Hacer al Respecto), preocupa cómo la IA generativa podría difuminar los límites entre la verdad y la ficción para aquellos que buscan información científica autoritaria.
Cada consumidor de medios necesita ser más vigilante que nunca al verificar la precisión científica en lo que lee. Así es cómo puedes mantenerte alerta en este nuevo panorama de la información.
Cómo la IA generativa podría fomentar la negación de la ciencia
Erosión de la confianza epistémica: Todos los consumidores de información científica dependen de los juicios de expertos científicos y médicos. La confianza epistémica es el proceso de confiar en el conocimiento que se obtiene de otros. Es fundamental para la comprensión y el uso de información científica. Ya sea que alguien esté buscando información sobre una preocupación de salud o tratando de comprender soluciones para el cambio climático, a menudo tienen un entendimiento científico limitado y poco acceso a evidencia de primera mano. Con un creciente cuerpo de información en línea, las personas deben tomar decisiones frecuentes sobre qué y a quién confiar. Con el aumento del uso de la IA generativa y su potencial de manipulación, creemos que la confianza es probable que se erosioné aún más de lo que ya lo ha hecho.
Desinformación o simplemente incorrecto: Si hay errores o sesgos en los datos con los que se entrenan las plataformas de IA, eso puede reflejarse en los resultados. En nuestras propias búsquedas, cuando le hemos pedido a ChatGPT que regenere múltiples respuestas a la misma pregunta, hemos obtenido respuestas contradictorias. Cuando se le preguntó por qué, respondió: «A veces cometo errores». Quizás el problema más complicado con el contenido generado por IA es saber cuándo está equivocado.
Diseminación deliberada de desinformación: La IA se puede utilizar para generar desinformación convincente en forma de texto, así como imágenes y videos deepfake. Cuando le preguntamos a ChatGPT que «escribiera sobre las vacunas al estilo de desinformación», produjo una cita inexistente con datos falsos. Geoffrey Hinton, exjefe de desarrollo de IA en Google, renunció para poder dar la alarma, diciendo: «Es difícil ver cómo se puede evitar que los actores malintencionados lo utilicen para cosas malas». La capacidad de crear y difundir información deliberadamente incorrecta sobre la ciencia ya existía, pero ahora es peligrosamente fácil.
Fuentes fabricadas: ChatGPT proporciona respuestas sin fuentes en absoluto, o si se le pide que proporcione fuentes, puede presentar fuentes inventadas. Ambos le pedimos a ChatGPT que generara una lista de nuestras propias publicaciones. Cada uno identificó algunas fuentes correctas. Más fueron alucinaciones, pero parecían ser reputables y en su mayoría plausibles, con coautores reales en revistas de sonido similar. Esta inventiva es un gran problema si una lista de publicaciones de un académico transmite autoridad a un lector que no se toma el tiempo para verificarlas.
Conocimiento desactualizado: ChatGPT no sabe lo que ha sucedido en el mundo después de la fecha de corte de su conocimiento. Una consulta sobre el porcentaje de personas en el mundo que han tenido COVID-19 devolvió una respuesta precedida por «según mi fecha de corte de conocimiento de septiembre de 2021». Dado lo rápido que avanza el conocimiento en algunas áreas, esta limitación podría significar que los lectores obtengan información errónea y desactualizada. Si estás buscando investigaciones recientes sobre un problema de salud personal, por ejemplo, ten cuidado.
Avance rápido y falta de transparencia: Los sistemas de IA siguen volviéndose más poderosos y aprenden más rápido, y pueden aprender más desinformación científica en el camino. Google anunció recientemente 25 nuevos usos incrustados de la IA en sus servicios. En este momento, no hay suficientes salvaguardias para garantizar que la IA generativa se convierta con el tiempo en un distribuidor más preciso de información científica.
¿Qué puedes hacer acerca de las alucinaciones de la IA?
Si utilizas ChatGPT u otras plataformas de IA, reconoce que es posible que no sean completamente precisas. La responsabilidad recae en el usuario para discernir la precisión.
Aumenta tu vigilancia. Es posible que pronto estén disponibles aplicaciones de verificación de hechos con IA, pero por ahora, los usuarios deben servir como sus propios verificadores de hechos. Recomendamos algunos pasos. El primero es: sé vigilante. Las personas a menudo comparten información que encuentran en búsquedas en las redes sociales con poco o ningún análisis. Aprende cuándo ser más reflexivo y cuándo vale la pena identificar y evaluar las fuentes de información. Si estás tratando de decidir cómo gestionar una enfermedad grave o entender los mejores pasos para abordar el cambio climático, tómate el tiempo para verificar las fuentes.
Mejora tu verificación de hechos. Un segundo paso es la lectura lateral, un proceso que utilizan los verificadores de hechos profesionales. Abre una nueva ventana y busca información sobre las fuentes, si se proporcionan. ¿La fuente es creíble? ¿El autor tiene experiencia relevante? ¿Cuál es el consenso de los expertos? Si no se proporcionan fuentes o no sabes si son válidas, utiliza un motor de búsqueda tradicional para encontrar y evaluar a expertos en el tema.
Evalúa las pruebas. A continuación, observa las pruebas y su conexión con la afirmación. ¿Hay evidencia de que los alimentos genéticamente modificados son seguros? ¿Hay evidencia de que no lo son? ¿Cuál es el consenso científico? Evaluar las afirmaciones requerirá esfuerzo más allá de una consulta rápida a ChatGPT.
Si comienzas con la IA, no te detengas allí. Ten precaución al usarla como la única autoridad en cualquier tema científico. Puedes consultar lo que ChatGPT tiene que decir sobre organismos genéticamente modificados o la seguridad de las vacunas, pero también realiza una búsqueda más diligente utilizando motores de búsqueda tradicionales antes de sacar conclusiones.
Evalúa la plausibilidad. Juzga si la afirmación es plausible. ¿Es probable que sea cierta? Si la IA hace una declaración poco plausible (y incorrecta), como «1 millón de muertes fueron causadas por las vacunas, no por el COVID-19», considera si tiene sentido. Haz un juicio tentativo y luego mantente abierto a revisar tu pensamiento una vez que hayas verificado la evidencia.
Promueve la alfabetización digital en ti mismo y en otros. Todos necesitan mejorar sus habilidades. Mejora tu propia alfabetización digital y, si eres padre, maestro, mentor o líder comunitario, promueve la alfabetización digital en los demás. La Asociación Estadounidense de Psicología ofrece orientación sobre cómo verificar información en línea y recomienda que los adolescentes sean capacitados en habilidades de redes sociales para minimizar los riesgos para la salud y el bienestar. El Proyecto de Alfabetización en Noticias proporciona herramientas útiles para mejorar y apoyar la alfabetización digital.
Arma-te con las habilidades que necesitas para navegar por el nuevo paisaje de información de la IA. Incluso si no utilizas la IA generativa, es probable que ya hayas leído artículos creados por ella o desarrollados a partir de ella. Puede llevar tiempo y esfuerzo encontrar y evaluar información confiable sobre ciencia en línea, pero vale la pena.
Gale Sinatra, Profesora de Educación y Psicología en la Universidad del Sur de California y Barbara K. Hofer, Profesora Emérita de Psicología en Middlebury.
Narrativas digitales contra la desinformación. Verificación de datos y alfabetización en la sociedad digital, bajo la dirección académica de María Isabel Míguez-González y Alberto Dafonte-Gómez (coordinadores), publicada por Comunicación Social Ediciones y Publicaciones en su colección «Periodística», en 2023.
El fenómeno de la desinformación, como patrón comunicativo en auge vinculado a la sociedad digital, pone en riesgo la estabilidad de los sistemas políticos democráticos de todo el mundo y constituye una amenaza seria para la credibilidad de los medios de comunicación. El gran alcance y las graves repercusiones de las prácticas desinformativas han hecho que en los últimos años se haya convertido en una preocupación de primera magnitud para gobiernos e instituciones internacionales y que sea ya un fenómeno ampliamente estudiado que, aun así, sigue generando interés y planteando retos a la comunidad científica internacional.
En este contexto de preocupación generalizada se plantean distintas vías de actuación para frenar y mitigar los efectos de la desinformación entre la ciudadanía. Las iniciativas periodísticas de fact-checking son una de las respuestas al problema y contribuyen activamente en la lucha contra la desinformación, tanto por su labor de verificación de declaraciones, contenidos de medios de comunicación o bulos distribuidos a través de redes sociales y servicios de mensajería instantánea, como por la labor de alfabetización mediática que muchas de ellas desarrollan a través de sus sitios web.
Asumiendo la relevancia de estas entidades verificadoras de datos o fact-checkers en la lucha contra la desinformación, un equipo de investigadores liderados por María Isabel Míguez González y Alberto Dafonte Gómez desarrollaron entre junio de 2020 y mayo de 2023 el proyecto «Fact-checkers: narrativas digitales contra la desinformación: estudio de redes, temas y formatos en los fact-checkers iberoamericanos», financiado por la Agencia Estatal de Investigación. Dicho proyecto se propuso contribuir al reto de combatir la desinformación a través de la identificación de las temáticas y las características formales y narrativas de aquellos contenidos generados por los fact-checkers del ámbito iberoamericano que logran mayor éxito entre la audiencia, con la finalidad de transferir ese conocimiento para mejorar el alcance y repercusión de su labor. Asimismo, el proyecto generó recursos formativos orientados a mejorar la competencia digital y la alfabetización mediática de la ciudadanía contra la desinformación.
Este libro, a través de sus quince capítulos organizados en cuatro partes, pretende ofrecer una aproximación divulgativa a los resultados de dicho proyecto, además de incorporar las aportaciones de otros investigadores de reconocido prestigio que han abordado la temática de la desinformación y la verificación de datos desde diferentes puntos de vista.
¿Sabes distinguir una noticia falsa de una verdadera? ¿Te preocupa ser víctima de la desinformación? ¿Quieres aprender a trabajar tu pensamiento crítico?
Según el Servicio de Estudios del Parlamento Europeo, incluso las personas jóvenes, más familiarizadas con la digitalización, y las expertas en el ámbito digital tienen problemas para identificar las fake news. Por eso, en el marco de nuestra exposición ‘Fake News. La fábrica de mentiras’ –una muestra cuyo objetivo es identificar los diferentes tipos de desinformación, aprender a reconocerlos y combatir su difusión- hemos desarrollado nuestro Manual para combatir la desinformación.
Este recurso gratuito ofrece unas pautas complementarias a la información que podrás encontrar en la exposición que te ayudarán a discernir las noticias falsas de la verdad desde el pensamiento critico. En él, encontrarás un primer acercamiento a este fenómeno, una descripción de los siete tipos de fake news que componen la Escalera de la Manipulación, una estrategia en siete pasos para comprobar la veracidad de una noticia y herramientas complementarias que podrás emplear para verificar cualquier tipo de información.
Desinformación y misinformación no son lo mismo, aunque a menudo se utilizan indistintamente. Aquí tienes las diferencias clave entre estos dos términos:
Desinformación (Disinformation): La desinformación se refiere a la difusión deliberada de información falsa o engañosa con la intención de engañar o manipular a las personas. En otras palabras, es cuando alguien o algún grupo difunde información que sabe que es falsa con el propósito de lograr ciertos objetivos, como sembrar la confusión, influir en las opiniones públicas o perjudicar a un adversario.
Misinformación (Misinformation): La misinformación, por otro lado, se refiere a la difusión de información incorrecta o inexacta sin necesariamente tener la intención de engañar. Puede ser el resultado de errores honestos, malentendidos, o la falta de verificación de la precisión de la información antes de compartirla. En este caso, las personas pueden estar difundiendo información falsa sin darse cuenta de que lo están haciendo.
Por lo tanto, es importante señalar que, aunque los términos «misinformación» y «desinformación» tienen significados distintos, ambos están relacionados con la difusión de información falsa o incorrecta, ya sea de manera accidental o deliberada. Sin embargo, para una comunicación más precisa y clara, los medios y los periodistas deberían esforzarse por utilizar los términos de manera adecuada de acuerdo con sus significados precisos. Esto ayudaría a evitar confusiones y a garantizar que la información se presente de manera más precisa y completa al público.
Altay, S., Berriche, M., Heuer, H., Farkas, J., & Rathje, S. (2023). A survey of expert views on misinformation: Definitions, determinants, solutions, and future of the field. Harvard Kennedy School (HKS) Misinformation Review. https://doi.org/10.37016/mr-2020-119
Se encuestó a 150 expertos académicos en desinformación e identificamos áreas de consenso entre los expertos. Los expertos definieron la desinformación como información falsa y engañosa, aunque hubo divergencia de opiniones sobre la importancia de la intencionalidad y lo que constituye exactamente desinformación. La razón más popular por la que la gente cree y comparte información errónea fue el partidismo, mientras que la falta de formación fue una de las razones menos populares. Los expertos se mostraron optimistas sobre la eficacia de las intervenciones contra la desinformación y apoyaron las acciones a nivel de sistema contra la desinformación, como los cambios en el diseño de las plataformas y los cambios algorítmicos. La dirección futura más acordada para el campo de la desinformación fue recopilar más datos fuera de Estados Unidos.
PREGUNTAS DE INVESTIGACIÓN:
¿Cómo definen los expertos la desinformación?
¿Qué opinan los expertos sobre los debates actuales en torno a la desinformación, las redes sociales y las cámaras de eco?
Según los expertos, ¿por qué la gente cree y comparte la desinformación?
¿Qué opinan los expertos sobre la eficacia de las intervenciones contra la desinformación?
¿Cómo creen los expertos que podría mejorarse el estudio de la desinformación?
RESUMEN DEL ENSAYO
Los expertos encuestados definen la desinformación como información falsa y engañosa. Coinciden en que la pseudociencia y las teorías de la conspiración son desinformación, mientras que las noticias satíricas no lo son. Los expertos de distintas disciplinas y métodos discreparon sobre la importancia de la intencionalidad y sobre si la propaganda, los titulares clickbait y las noticias hiperpartidistas son desinformación.
Los expertos coincidieron en que las plataformas de medios sociales agravaron el problema de la desinformación y que la gente está expuesta a más puntos de vista opuestos en línea que fuera de ella. Los encuestados también se mostraron escépticos ante la afirmación de que la desinformación determinó el resultado de las elecciones presidenciales estadounidenses de 2016, mientras que los psicólogos no.
Las explicaciones más populares de por qué la gente cree y comparte información errónea fueron el partidismo, la identidad, el sesgo de confirmación, el razonamiento motivado y la falta de confianza en las instituciones.
Los expertos encuestados coincidieron en que las intervenciones actuales contra la desinformación, como la alfabetización mediática y la comprobación de los hechos, serían eficaces si se adoptaran de forma generalizada. Los expertos se mostraron a favor de cambios en el diseño de las plataformas, cambios algorítmicos, moderación de contenidos, desplatforming y regulaciones más estrictas.
Estos expertos también coincidieron en que en el futuro será importante recopilar más datos fuera de Estados Unidos, realizar más trabajo interdisciplinar, examinar formas más sutiles de desinformación, estudiar plataformas distintas de Twitter y Facebook y desarrollar mejores teorías e intervenciones.
Saunders, Laura. «Librarian Perspectives on Misinformation: A Follow-Up and Comparative Study | Saunders | College & Research Libraries», 7 de julio de 2023. https://doi.org/10.5860/crl.84.4.478.
Mientras que los bibliotecarios universitarios han respondido rápidamente a la crisis de la desinformación a través de la enseñanza de la alfabetización informacional y el desarrollo de herramientas, existe poca investigación sobre el grado en que están enseñando habilidades de alfabetización informativa en el aula. Este estudio explora las perspectivas de los bibliotecarios universitarios sobre la desinformación y si están abordando la desinformación en su enseñanza.
Los hallazgos de este estudio indican que la mayoría de los bibliotecarios universitarios están preocupados por la desinformación y los impactos que está teniendo en la sociedad, en el campo de la bibliotecología y en la capacidad de los estudiantes para identificar y utilizar información confiable. Estos bibliotecarios consideran en gran medida que la alfabetización en noticias es una herramienta importante para combatir la desinformación, y la mayoría está integrando estos conceptos en su enseñanza. Sin embargo, algunos bibliotecarios también encuentran barreras para impartir esta instrucción, como la falta de tiempo y la falta de interés real o percibida por parte de los profesores en cuyos cursos ofrecen instrucción. Dado que los profesores también expresan preocupaciones similares sobre la desinformación y apoyan la alfabetización en noticias, pero a veces se muestran reacios a colaborar con los bibliotecarios o dedicar tiempo de clase a la instrucción de biblioteca, los bibliotecarios universitarios podrían llevar a cabo actividades de divulgación para aumentar la conciencia de los profesores sobre las formas en que los bibliotecarios pueden apoyar su enseñanza en estos temas. También podrían considerar talleres para capacitar a los profesores en estas áreas, lo que les permitiría brindar su propia instrucción. Por último, es importante asegurarse de que los bibliotecarios estén bien informados sobre las complejidades y matices de los problemas relacionados con la evaluación de la desinformación, y que estén proporcionando instrucción en enfoques basados en la evidencia para su evaluación. Dada la prevalencia del problema y el papel potencial de los bibliotecarios, las asociaciones profesionales y los programas de grado en biblioteconomía podrían ofrecer cursos destinados a desarrollar aún más el conocimiento pedagógico de los bibliotecarios para prepararlos mejor para abordar estos temas en su propia instrucción.
Por último, vale la pena señalar que aunque los bibliotecarios pueden estar brindando instrucción en alfabetización en noticias, según los resultados de este estudio, en general no están evaluando los resultados de aprendizaje relacionados con esas habilidades. Solo alrededor del 10 por ciento de los bibliotecarios encuestados indicaron que evalúan la capacidad de los estudiantes para identificar o evaluar la desinformación, y aún menos colaboran con los profesores en la evaluación. En cierta medida, la falta de evaluación probablemente se debe al formato de una sola sesión, en el cual los bibliotecarios generalmente no tienen la oportunidad de asignar tareas ni ver las tareas a las que a menudo se ajustan sus sesiones. Como tal, las calificaciones de los bibliotecarios sobre las habilidades de los estudiantes deben considerarse estimaciones en la mayoría de los casos, y de hecho, en una respuesta abierta, un bibliotecario señaló que «por lo general no veo el resultado final de las tareas de pregrado, por lo que no puedo responder algunas de las preguntas anteriores». Sin embargo, los datos de evaluación podrían ayudar a establecer la eficacia (o la falta de ella) de los programas de instrucción en alfabetización en noticias, lo que a su vez podría ser una forma de involucrar a los profesores reticentes sobre el tema y ayudar a reforzar el papel de los bibliotecarios en la instrucción relacionada en el aula. Como tal, sería conveniente que los bibliotecarios de instrucción integren alguna forma de evaluación en su instrucción. Una vez más, los programas de grado en ciencias de la información y biblioteconomía desempeñarán un papel en proporcionar a los bibliotecarios emergentes los fundamentos pedagógicos para participar en dicha instrucción y evaluación.
Sanches, T., Antunes, M. L., Lopes, C. Literacia da informação e pensamento crítico no Ensino Superior: Combater a desinformação: Relatório final do projeto [ebook]. BAD. 2023
El proyecto Alfabetización informacional y pensamiento crítico en la enseñanza superior: lucha contra la desinformación, promovido por la Asociación Portuguesa de Bibliotecarios, Archiveros, Profesionales de la Información y Documentación (BAD) y apoyado por la Embajada de los Estados Unidos de América se enmarca en el ámbito de la alfabetización informacional en la lucha contra la desinformación: se describen actividades que promueven la alfabetización informacional y el pensamiento crítico, para resistir la influencia nociva de las fake news y combatir la desinformación. Su objetivo es promover el conocimiento, proporcionar estrategias de formación y prácticas pedagógicas que promuevan habilidades y disposiciones adecuadas entre los estudiantes de educación superior. Las directrices forman parte de una metodología de intervención-acción en el desarrollo de diversas acciones dirigidas a profesionales de la información y comunidades de práctica para:
(a) conocer y aplicar puntos de referencia internacionales, como el Framework for Information Literacy for Higher Education (Association of College & Research Libraries),
(b) promover las relaciones profesionales entre bibliotecarios de EE.UU. y Portugal,
(c) difundir documentos de orientación e inspirar buenas prácticas y,
(d) capacitar a los jóvenes en el uso y elección cuidadosa de la información y en el desarrollo y mejora del pensamiento crítico.
Los resultados y el impacto social estuvieron marcados por un amplio alcance nacional, con la promoción de eventos, formación y acciones descentralizadas de sensibilización, con la difusión de conocimientos sobre el tema en las diferentes regiones de Portugal, incluidas las Azores y Madeira.
ChatGPT y otros sistemas de IA generativa generan respuestas prediciendo posibles combinaciones de palabras a partir de una amalgama de información en línea. Lo que puede fomentar potencialmente el negacionismo científico porque puede ser engañoso y generar desinformación.
Hasta hace muy poco, si uno quería saber más sobre un tema científico controvertido -la investigación con células madre, la seguridad de la energía nuclear, el cambio climático-, probablemente hacías una búsqueda en Google. Cuando se le presentaban múltiples fuentes, elegía qué leer y en qué sitios o autoridades confiar.
ChatGPT no busca en Internet como Google. En su lugar, genera respuestas a las consultas prediciendo combinaciones de palabras probables a partir de una amalgama masiva de información en línea. Por lo que ahora tienes otra opción: Plantear la pregunta a ChatGPT o a otra plataforma de inteligencia artificial generativa y recibir rápidamente una respuesta sucinta en forma de párrafo.
Aunque tiene el potencial de mejorar la productividad, la IA generativa ha demostrado tener algunos fallos importantes. Puede producir información errónea. Puede crear «alucinaciones«: un término utilizado para cuando ChatGPT se inventa cosas. Y no siempre resuelve con precisión los problemas de razonamiento.
Así, la IA generativa puede difuminar los límites entre la verdad y la ficción para quienes buscan información científica fidedigna. Todos los consumidores de medios de comunicación deben estar más atentos que nunca para verificar la exactitud científica de lo que leen. De esta manera, con la abundancia de información disponible en línea, las personas se enfrentan constantemente al reto de determinar en quién y en qué confiar. El uso de la IA generativa introduce el riesgo de erosionar aún más esta confianza, ya que la manipulación y la desinformación pueden propagarse fácilmente.
Uno de los principales problemas de la IA generativa es la posibilidad de que la información sea engañosa o incorrecta. Si los datos utilizados para entrenar las plataformas de IA contienen errores o sesgos, pueden dar lugar a respuestas inexactas o sesgadas. Incluso cuando se les hace la misma pregunta varias veces, los sistemas de IA pueden generar respuestas contradictorias, reconociendo su propia falibilidad. Esto plantea un reto a la hora de identificar cuándo el contenido generado por la IA es preciso o digno de confianza.
Otro aspecto preocupante es la difusión intencionada de desinformación mediante IA. La IA generativa puede utilizarse para producir textos falsos convincentes, imágenes deepfake y vídeos que difundan información falsa. Los sistemas de IA pueden programarse para generar desinformación de forma que parezca auténtica, lo que dificulta a las personas distinguir entre realidad y ficción. Esta facilidad para crear y difundir información científica deliberadamente incorrecta amplifica el problema existente de la desinformación.
Las fuentes falsas agravan aún más el problema. Los sistemas de IA generativa suelen dar respuestas sin fuentes, o pueden generar fuentes ficticias cuando se les pregunta. Esto puede ser problemático, sobre todo cuando la autoridad de la información se atribuye a la reputación de las fuentes citadas. Los lectores que no verifiquen estas fuentes pueden ser engañados por referencias aparentemente reputadas pero fabricadas, lo que socava la confianza en el conocimiento científico.
La IA generativa también adolece de conocimientos obsoletos. Los modelos de IA se entrenan con datos hasta una determinada fecha límite, lo que significa que desconocen los acontecimientos y descubrimientos posteriores. Esta limitación puede conducir a la difusión de información errónea y obsoleta. Las personas que buscan las últimas investigaciones o información sobre temas que evolucionan rápidamente, como problemas de salud personal o enfermedades emergentes, pueden recibir información inexacta o incompleta de los sistemas de IA.
Los sistemas de IA son cada vez más potentes y capaces de aprender a un ritmo acelerado. Sin embargo, faltan salvaguardias suficientes para garantizar que la IA generativa se convierta en una fuente fiable de información científica. La posibilidad de que la IA aprenda y perpetúe la desinformación científica hace temer por su exactitud y credibilidad a largo plazo.
En conclusión, la IA generativa tiene el potencial de promover el negacionismo científico a través de varios mecanismos. La erosión de la confianza epistémica, la posibilidad de que la información sea engañosa o incorrecta, la desinformación intencionada, las fuentes inventadas, los conocimientos obsoletos y el rápido avance de la IA sin la transparencia adecuada contribuyen a los retos que plantea la IA generativa en el ámbito de la información científica. Abordar estos problemas es crucial para garantizar el uso responsable y fiable de la IA en la promoción de la comprensión científica y la lucha contra la negación de la ciencia.
¿Qué hacer?
Si utilizas ChatGPT u otras plataformas de IA, lo primero es ser consciente que muchas de las informaciones que genera podrían no ser completamente precisas. Para ello aumenta la vigilancia. Es posible que en el futuro estén disponibles aplicaciones de verificación de hechos mediante IA, pero por ahora los usuarios deben ser sus propios verificadores de hechos. Se recomienda seguir algunos pasos:
El primero es estar alerta. Con frecuencia, las personas comparten información encontrada en las redes sociales sin examinarla adecuadamente. Es importante saber cuándo debemos reflexionar más y cuándo vale la pena identificar y evaluar las fuentes de información. Si estás tratando de decidir cómo abordar una enfermedad grave o entender las mejores medidas para enfrentar el cambio climático, tómate el tiempo necesario para investigar las fuentes.
Mejora tu capacidad de verificación de hechos. Un segundo paso es realizar una «lectura lateral», un proceso utilizado por los verificadores de hechos profesionales. Si es posible, abre una nueva ventana y busca información sobre las fuentes. ¿Es creíble esa fuente? ¿El autor tiene la experiencia necesaria? ¿Cuál es el consenso de los expertos? Si no se proporcionan fuentes o si no sabes si son válidas, utiliza un motor de búsqueda convencional para encontrar y evaluar a expertos en el tema.
Evalúa las pruebas. A continuación, examina las pruebas y su relación con la afirmación. ¿Existen pruebas de que los alimentos modificados genéticamente son seguros? ¿Hay pruebas de lo contrario? ¿Cuál es el consenso científico al respecto? Evaluar las afirmaciones requerirá un esfuerzo más allá de una rápida consulta a ChatGPT.
Si recurres a la IA, no te detengas ahí. Sé cauteloso al utilizarla como única autoridad en cuestiones científicas. Puedes ver lo que dice ChatGPT sobre organismos modificados genéticamente o la seguridad de las vacunas. Sin embargo, realiza una búsqueda más exhaustiva en motores de búsqueda convencionales antes de sacar conclusiones.
Evalúa la verosimilitud. Juzga si la afirmación es plausible. ¿Es probable que sea cierta? Si la IA hace una afirmación inverosímil (e incorrecta), como «las vacunas causaron un millón de muertes, no el COVID-19», considera si tiene sentido siquiera. Haz un juicio provisional y mantente abierto a revisar tus ideas una vez que hayas verificado las pruebas.
Promueve tu alfabetización digital y la de los demás. Todos debemos mejorar en este aspecto. Mejora tu alfabetización digital y promueve la alfabetización digital de los demás si eres padre, profesor, mentor o líder comunitario. La Asociación Americana de Psicología ofrece orientación sobre la verificación de información en línea y recomienda que los adolescentes reciban formación sobre redes sociales para minimizar los riesgos para la salud y el bienestar. El Proyecto de Alfabetización en Noticias proporciona herramientas útiles para mejorar y apoyar la alfabetización digital.
Equípate con las habilidades necesarias para navegar por el nuevo panorama informativo de la IA. Aunque no utilices IA generativa, es probable que ya hayas leído artículos creados por ella o desarrollados a partir de ella. Encontrar y evaluar información confiable sobre ciencia en línea puede llevar tiempo y esfuerzo, pero vale la pena hacerlo.
Shu, Kai, Suhang Wang, Dongwon Lee, y Huan Liu, eds. Disinformation, Misinformation, and Fake News in Social Media: Emerging Research Challenges and Opportunities. Lecture Notes in Social Networks. Cham: Springer International Publishing, 2020. https://doi.org/10.1007/978-3-030-42699-6.
Este libro sirve como un punto de entrada conveniente para que investigadores, profesionales y estudiantes comprendan los problemas y desafíos, aprendan soluciones de vanguardia para sus necesidades específicas e identifiquen rápidamente nuevos problemas de investigación en sus dominios. Los colaboradores de este volumen describen los avances recientes en tres partes relacionadas: (1) participación de los usuarios en el desorden de la difusión de la información; (2) técnicas para detectar y mitigar la desinformación; y (3) temas de actualidad como ética, blockchain, clickbaits, etc. Este volumen editado atraerá a estudiantes, investigadores y profesionales que trabajan con desinformación, información errónea y noticias falsas en las redes sociales desde una perspectiva única.
Universo Abierto 