Archivo de la etiqueta: Alfabetización digital

La Integración de la Inteligencia Artificial en las Bibliotecas: Análisis Comparativo y Perspectivas Estratégicas

Lo, Leo S., y Cynthia Hudson Vitale. «Evolving AI Strategies in Libraries: Insights from Two Polls of ARL Member Representatives over Nine Months». Association of Research Libraries, 28 de marzo de 2024.

Descargar

La llegada de nuevas tecnologías de inteligencia artificial (IA) más accesibles supone un momento crucial para las bibliotecas, que se encuentran ante un panorama lleno de oportunidades sin precedentes y de intrincados retos. En medio de esta rápida evolución tecnológica, las bibliotecas se encuentran en una encrucijada crucial. Para navegar eficazmente por esta transición, se realizaron dos encuestas rápidas entre los miembros de la Asociación de Bibliotecas de Investigación (ARL).

La primera, realizada en abril de 2023, ofreció una visión preliminar del terreno de la IA en las bibliotecas. Posteriormente, en diciembre de 2023, se llevó a cabo una segunda encuesta, que amplió esta investigación para proporcionar un análisis comparativo de la dinámica evolutiva de la utilización y el potencial de la IA en los servicios bibliotecarios. Este estudio examina meticulosamente y contrasta los resultados de estas dos encuestas para obtener una visión más profunda de cómo los líderes bibliotecarios están lidiando con las complejidades de la integración de la IA en sus operaciones y servicios. En concreto, pretende captar las perspectivas cambiantes sobre las posibles ramificaciones de la IA, evaluar el grado de exploración e integración de la IA en las bibliotecas y señalar las aplicaciones de la IA pertinentes para el panorama bibliotecario contemporáneo.

Dinámicas Interconectadas de Adopción y Exploración de IA

Las encuestas revelan un panorama complejo donde las actitudes hacia la IA influyen significativamente en la medida de su exploración e implementación dentro de las bibliotecas. El cambio desde un optimismo cauteloso sugiere una respuesta dinámica a las tecnologías emergentes. Esta progresión ilustra la adaptabilidad y capacidad de respuesta del sector, mientras las bibliotecas navegan entre la emoción de nuevas posibilidades y los desafíos pragmáticos de integrar la IA. El creciente entusiasmo por la IA, junto con un enfoque cauteloso, resalta un ecosistema diverso donde coexisten diferentes niveles de preparación para la IA, dando forma a la narrativa más amplia de la IA en las bibliotecas.

Integración Estratégica de la IA en las Bibliotecas

La diversidad de aplicaciones de IA identificadas en las encuestas subraya un enfoque estratégico y integral para la integración de la IA. Las bibliotecas están evolucionando de repositorios tradicionales de información a facilitadores activos del aprendizaje y la investigación mejorados por la IA. Este cambio es evidente en el creciente enfoque en el uso de la IA para mejorar las experiencias de usuario, apoyar la investigación y ampliar las ofertas educativas, lo que indica una alineación estratégica con los objetivos más amplios de las organizaciones.

Literacidad en IA y Consideraciones Éticas

Un énfasis consistente en la literacidad en IA y las consideraciones éticas en todas las encuestas apunta a un papel en evolución para las bibliotecas en el fomento de competencias digitales y en IA. El reconocimiento de la necesidad de equipar tanto al personal como a los usuarios con las habilidades para aprovechar eficazmente las tecnologías de IA es cada vez más importante. Además, el uso ético de la IA, incluidas las preocupaciones sobre la privacidad y el uso responsable, emerge como un área crítica de enfoque. Esto subraya la importancia de un enfoque equilibrado para la adopción de la IA, asegurando que los avances tecnológicos se alineen con los estándares éticos y respeten la privacidad del usuario.

Caminos Colaborativos y Compromiso Comunitario

Los hallazgos destacan la importancia de la colaboración y el compromiso comunitario en el viaje de la IA. Las bibliotecas no solo están adoptando tecnologías de IA, sino que también están dando forma activamente a su desarrollo y aplicación a través de asociaciones interdisciplinarias e iniciativas organizativas. Este enfoque colaborativo no solo ayuda en la adopción estratégica de IA, sino que también fomenta una cultura de aprendizaje e innovación compartida, posicionando a las bibliotecas como actores clave en el diálogo sobre la IA dentro de sus organizaciones y más allá.

Preparación para el Futuro

Las diferentes etapas de exploración de IA y la variedad de aplicaciones identificadas sugieren que las bibliotecas están en diferentes puntos en su viaje de IA. Esta diversidad subraya la necesidad de un diálogo continuo, investigación y compartición de mejores prácticas dentro de la comunidad bibliotecaria. La investigación futura y los estudios de caso serán cruciales para comprender el papel y el impacto de la IA en entornos bibliotecarios. Las bibliotecas, independientemente de su etapa actual en la adopción de IA, se beneficiarán de dicho conocimiento compartido, lo que les permitirá prepararse y adaptarse a las tendencias en evolución de la IA.

Conclusiones

El análisis comparativo de las encuestas de abril y diciembre de 2023 subraya la naturaleza dinámica de la integración de la inteligencia artificial en las bibliotecas, resaltando los avances significativos en la adopción de AI y el papel en evolución de las bibliotecas en un paisaje integrado con IA. Este estudio enfatiza la importancia de las bibliotecas en dar forma a la integración de tecnologías de AI en entornos académicos e investigativos, equilibrando la innovación con consideraciones éticas y realidades prácticas. A medida que las bibliotecas continúan adaptándose y liderando en este terreno cambiante, sus experiencias y estrategias desempeñarán un papel crucial en dar forma al discurso sobre el papel de la IA en la transformación del acceso a la información y la difusión del conocimiento.

Determinar qué es real en Internet es cada vez más difícil a medida que la IA y los deepfakes se extienden por las redes sociales.

CNET. «AI Misinformation: How It Works and Ways to Spot It». Accedido 4 de marzo de 2024. https://www.cnet.com/news/misinformation/ai-misinformation-how-it-works-and-ways-to-spot-it/.

El artículo aborda el creciente problema de la desinformación generada por inteligencia artificial (IA) y deepfakes en plataformas de redes sociales, así como las medidas que se pueden tomar para combatirla. Comienza con un ejemplo de cómo el Comité Nacional Republicano utilizó la IA para crear un anuncio político lleno de imágenes que representan una realidad alternativa y partidista, con el objetivo de influir en la opinión pública.

Se destaca que la desinformación generada por IA no se limita solo a los anuncios políticos, sino que también se encuentra en imágenes virales falsas, videos en plataformas como TikTok y sitios web de noticias. Las herramientas de IA generativa, como ChatGPT de OpenAI y Bard de Google, se han vuelto omnipresentes en diversos campos, desde la programación informática hasta el periodismo y la educación.

Se explica que la IA generativa utiliza grandes cantidades de datos para generar texto, imágenes, audio y otros tipos de medios en respuesta a una consulta o un estímulo. Sin embargo, cuando no se distingue entre el contenido generado por IA y la realidad, o cuando este contenido se crea con la intención de engañar, se convierte en desinformación.

La desinformación generada por IA puede tener graves consecuencias, como influir en elecciones o afectar los mercados financieros. Además, puede socavar la confianza pública y nuestra percepción compartida de la realidad, según expertos en IA como Wasim Khaled.

A pesar de los esfuerzos de las empresas tecnológicas para minimizar los riesgos de la IA, la desinformación generada por IA persiste. Aunque aún no está claro si tenemos las herramientas para detener su mal uso, los expertos ofrecen consejos para detectarla y frenar su propagación.

Se señala que la desinformación generada por IA suele tener un fuerte impacto emocional, lo que la hace más convincente y efectiva para los actores malintencionados que intentan impulsar una agenda a través de la propaganda.

Para combatir la desinformación generada por IA, tanto las empresas tecnológicas como los gobiernos están tomando medidas, como la implementación de políticas de divulgación obligatoria para anuncios políticos y la creación de grupos de investigación sobre seguridad de IA.

Se ofrecen sugerencias para identificar la desinformación generada por IA, como buscar inconsistencias en el texto o en las imágenes, verificar la fuente y realizar una investigación propia antes de compartir contenido sospechoso en línea.

En conclusión, se destaca la importancia de no compartir información sin verificar, ya sea generada por humanos o por IA, como una medida efectiva para combatir la desinformación en línea.

¿Cómo cambiará la inteligencia artificial la enseñanza de habilidades de alfabetización mediática?

Prothero, A. (2023, abril 18). ChatGPT and AI Are Raising the Stakes for Media Literacy. Education Week. https://www.edweek.org/teaching-learning/chatgpt-and-ai-are-raising-the-stakes-for-media-literacy/2023/04

Hay diferentes aspectos en juego. Existe preocupación por el aumento de la inteligencia artificial y cómo podría facilitar la propagación de la desinformación en línea. Esta preocupación se suma al desafío que plantea la emoción generada por la inteligencia artificial, que está cambiando la forma en que se concibe la alfabetización mediática incluso antes de que se utilice explícitamente con fines de desinformación.

Un ejemplo reciente ilustra esta problemática: un video viral que mostraba un espectáculo de drag con la presencia de bebés. La reacción inmediata de muchos fue etiquetarlo como un «deepfake», aunque resultó ser un ejemplo más común de desinformación: información real sacada de contexto. Este incidente subraya la importancia de no sacar automáticamente a conclusiones simplistas y de fomentar el pensamiento crítico para analizar los impactos y las intenciones detrás de la información.

Para los educadores, este panorama exige un cambio en el enfoque de la alfabetización mediática. Es crucial adaptarse a los patrones de búsqueda de información de los jóvenes, que se desarrollan principalmente en entornos en línea y redes sociales. Además, es fundamental abordar las preocupaciones y experiencias reales de los estudiantes respecto a la inteligencia artificial, ya que esta tecnología ya está influyendo significativamente en sus vidas.

Además, la IA también puede alterar la forma en que se consume y se interactúa con los medios de comunicación. Los algoritmos de recomendación y las tecnologías de resumen automático, impulsadas por IA, podrían influir en cómo los estudiantes acceden a la información y cómo la interpretan. Por lo tanto, los educadores necesitarán enseñar a los estudiantes a ser conscientes de cómo la IA puede sesgar su percepción de la realidad y a desarrollar habilidades para analizar críticamente los contenidos mediáticos generados por IA.

La inteligencia artificial (IA) está empezando a cambiar la forma en que se enseñan las habilidades de alfabetización mediática de varias maneras:

  1. Personalización del aprendizaje: Los sistemas de IA pueden adaptar el contenido y la dificultad de las lecciones según las necesidades y habilidades individuales de cada estudiante, lo que permite un aprendizaje más efectivo y centrado en el estudiante.
  2. Detección de desinformación: Los algoritmos de IA pueden ayudar a identificar y filtrar información errónea o falsa en línea, capacitando a los estudiantes para discernir entre fuentes confiables y no confiables.
  3. Análisis de datos: La IA puede analizar grandes conjuntos de datos para identificar tendencias y patrones en la información y el comportamiento en línea, ayudando a los estudiantes a comprender mejor cómo se difunden y se consumen los medios digitales.
  4. Generación de contenido educativo: Los sistemas de IA pueden ayudar a crear material educativo personalizado, como ejercicios de práctica, evaluaciones y recursos multimedia, para mejorar la experiencia de aprendizaje de los estudiantes.
  5. Retroalimentación automatizada: Los algoritmos de IA pueden proporcionar retroalimentación instantánea a los estudiantes sobre su progreso y rendimiento, identificando áreas de mejora y ofreciendo sugerencias específicas para el desarrollo de habilidades.

En cuanto a la desconexión entre adultos y niños en sus preocupaciones sobre la IA, es evidente que los niños interactúan con esta tecnología en diversas áreas de sus vidas digitales. Esta discrepancia resalta la necesidad de explorar más profundamente cómo se pueden identificar y abordar sesgos y representaciones inexactas en la información que consumen.

Finalmente, se destaca la importancia de integrar la alfabetización mediática con el aprendizaje socioemocional, permitiendo que los estudiantes no solo reflexionen sobre cómo los medios los hacen sentir, sino también sobre cómo influyen en el comportamiento y las percepciones de los demás.

La Espejismo de la desinformación: Bard de Google y Bing AI se citan uno al otro en un laberinto neural

Google’s Bard and Bing AI Already Citing Each Other in Neural Hall of Mirrors. (2024). Futurism. Recuperado 4 de marzo de 2024, de https://futurism.com/the-byte/bard-bing-neural-hall-of-mirrors

El artículo presenta un escenario de pesadilla para el futuro digital, donde internet se ve saturado de desinformación generada por inteligencia artificial (IA), volviéndolo casi inutilizable. Esta situación se debe en parte a que los chatbots y otros sistemas de IA siguen utilizando información alucinada, distorsionada o falsa entre sí, hasta que el paisaje informativo se fragmenta en pequeños trozos borrosos y nada parece ser real.

Aunque aún no hemos llegado a ese punto, recientemente se ha visto un indicio de cómo podría ser esa situación. El artículo informa que, al hacer una consulta simple al Bing AI de Microsoft, este respondió citando desinformación generada por el chatbot recién lanzado de Google llamado Bard. Esto ocurrió solo un día después del lanzamiento de Bard.

La situación ilustra la baja alfabetización mediática de estos bots. Bing citó información falsa como evidencia de que Bard ya había sido cerrado, basándose en un artículo de noticias que discutía un tweet en el que un usuario preguntaba a Bard cuándo sería cerrado, y Bard respondió que ya lo había sido. Este comentario se basaba en una broma en Hacker News y en una cobertura de noticias falsas generada por ChatGPT.

Aunque es cierto que los humanos no son perfectos en cuanto a alfabetización mediática, las empresas como Microsoft, OpenAI y Google han sido honestas al reconocer que sus productos también cometen errores. Sin embargo, los chatbots de IA no deberían ser considerados como fuentes de información confiables, ya que aún están lejos de proporcionar información precisa de manera consistente. Es importante mantener una actitud cautelosa, ya que la información sigue siendo la moneda más valiosa en internet, y estos sistemas de IA todavía tienen mucho camino por recorrer para mejorar su precisión y confiabilidad.

Las búsquedas en línea para evaluar la desinformación pueden aumentar su percepción de veracidad

Aslett, Kevin, Zeve Sanderson, William Godel, Nathaniel Persily, Jonathan Nagler, y Joshua A. Tucker. 2023. «Online Searches to Evaluate Misinformation Can Increase Its Perceived Veracity». Nature, diciembre, 1-9. https://doi.org/10.1038/s41586-023-06883-y.


El estudio realizado por Kevin Aslett, Zeve Sanderson, William Godel, Nathaniel Persily, Jonathan Nagler y Joshua A. Tucker, publicado en Nature en 2023, investiga el impacto de las búsquedas en línea en la percepción de veracidad de la desinformación. La investigación aborda la exploración limitada del papel de los motores de búsqueda en el entorno de la información, a pesar de su influencia significativa. Mientras que las intervenciones de alfabetización mediática a menudo defienden la búsqueda en línea como un medio para evaluar la veracidad de la información, hay una falta de evidencia empírica que respalde la suposición de que buscar en línea reduce la creencia en la desinformación.

El estudio consta de cinco experimentos que muestran consistentemente evidencia contraria a la sabiduría convencional. Los hallazgos sugieren que, en lugar de disminuir la creencia en artículos de noticias falsas, las búsquedas en línea para evaluar su veracidad aumentan la probabilidad de creer en ellas. Para entender este fenómeno, los investigadores combinaron datos de encuestas con datos de rastreo digital obtenidos mediante una extensión de navegador personalizada. El estudio revela que el efecto de búsqueda es más pronunciado entre las personas que reciben información de baja calidad de los motores de búsqueda. Esto indica el riesgo de caer en «vacíos de datos», donde las personas encuentran evidencia corroboradora de fuentes de baja calidad al buscar en línea para evaluar la desinformación.

Además, la investigación muestra que buscar en línea para evaluar las noticias no solo aumenta la creencia en noticias verdaderas de fuentes de baja calidad, sino que también tiene efectos inconsistentes en la creencia en noticias verdaderas de fuentes convencionales. El estudio enfatiza la importancia de que los programas de alfabetización mediática basen sus recomendaciones en estrategias probadas empíricamente y solicita a los motores de búsqueda que inviertan en soluciones para abordar los desafíos identificados en la investigación.

En un panorama informativo cambiante, la alfabetización mediática es más importante que nunca

Banks, Kelly. s. f. «In a Changing Information Landscape, Media Literacy Is More Important than Ever». Accedido 15 de diciembre de 2023. https://blog.pressreader.com/libraries-institutions/media-literacy-more-important-than-ever.

En un mundo en el que la información es cada vez más accesible, es más importante que nunca que las personas sean capaces de evaluar críticamente la información que consumen. Esto es especialmente cierto en el contexto de la desinformación, que se ha convertido en un problema cada vez más grave.

La desinformación es información falsa o engañosa que se difunde deliberadamente con la intención de engañar o manipular a los demás. Puede tener un impacto significativo en la sociedad, ya que puede llevar a la toma de decisiones erróneas, la polarización social y la violencia.

La alfabetización mediática es la capacidad de comprender y evaluar críticamente la información que se encuentra en los medios de comunicación. Implica ser capaz de reconocer la desinformación, identificar los sesgos y comprender el contexto en el que se presenta la información.

Hay una serie de cosas que las personas pueden hacer para mejorar su alfabetización mediática. Una de las cosas más importantes es ser conscientes de los sesgos. Todos los medios de comunicación tienen sesgos, ya sea intencionalmente o no. Es importante ser consciente de estos sesgos para poder evaluar críticamente la información que se presenta.

Otra cosa importante que las personas pueden hacer es ser escépticas con la información que encuentran en línea. No toda la información que se encuentra en línea es precisa o veraz. Es importante verificar la información antes de creerla.

Hay una serie de recursos disponibles para ayudar a las personas a mejorar su alfabetización mediática. Las bibliotecas, las escuelas y las organizaciones sin fines de lucro ofrecen una variedad de programas y recursos que pueden ayudar a las personas a aprender a evaluar críticamente la información.

La alfabetización mediática es una habilidad importante que todos deberían desarrollar. Al ser conscientes de los sesgos, ser escépticos con la información y verificar la información antes de creerla, las personas pueden protegerse de la desinformación y tomar decisiones informadas.

Aquí hay algunos consejos específicos para evaluar la credibilidad de una fuente de noticias:

  • Considera la fuente. ¿Es una fuente conocida y respetada? ¿Tiene un historial de informar con precisión?
  • Considera el autor. ¿Quién escribió la historia? ¿Tiene el autor las credenciales necesarias para informar sobre este tema?
  • Considera el contenido. ¿Es la información presentada precisa y completa? ¿Hay alguna evidencia que apoye las afirmaciones que se hacen?
  • Considera el formato. ¿La historia está bien escrita y editada? ¿Hay algún indicio de que la historia haya sido alterada o manipulada?

Al seguir estos consejos, las personas pueden ser más capaces de identificar la desinformación y tomar decisiones informadas.

Amazon se compromete a capacitar a 2 millones de personas en habilidades de inteligencia artificial para 2025

Swami Sivasubramanian, Amazon aims to provide free AI skills training to 2 million people by 2025 with its new ‘AI Ready’ commitment. Amazon November 20, 2023

Texto completo

La inteligencia artificial (IA) es la tecnología más transformadora de nuestra generación. Si queremos desbloquear todo el potencial de la IA para abordar los problemas más desafiantes del mundo, debemos hacer que la educación en IA sea accesible para cualquier persona que desee aprender.

En una nueva iniciativa llamada «AI Ready» (AI Listo), Amazon se compromete a proporcionar capacitación y educación gratuita en habilidades de inteligencia artificial a 2 millones de personas en todo el mundo para 2025. Este esfuerzo se suma a las inversiones existentes de la empresa en la capacitación en habilidades de computación en la nube, que ya han brindado capacitación gratuita a más de 21 millones de personas en habilidades tecnológicas demandadas.

La iniciativa AI Ready de Amazon surge cuando un nuevo estudio de AWS encuentra una fuerte demanda de talento en IA y el potencial de que los trabajadores con habilidades en IA ganen hasta un 47% más en salarios.

La necesidad de una fuerza laboral experta en IA nunca ha sido mayor. Un nuevo estudio realizado por AWS y la firma de investigación Access Partnership encontró lo siguiente:

  • Contratar talentos capacitados en IA es una prioridad para el 73 % de los empleadores, pero entre ellos, tres de cada cuatro dicen que no pueden satisfacer sus necesidades de talento en IA.
  • Los empleadores esperan que sus trabajadores ganen hasta un 47% más en salarios si mejoran sus habilidades en IA.
  • La IA será una parte más integral de la forma en que se hacen negocios: el 93% de las empresas espera utilizar soluciones de IA en sus organizaciones en los próximos cinco años.

Es por eso que Amazon anuncia «AI Ready», un nuevo compromiso diseñado para brindar capacitación gratuita en habilidades de IA a 2 millones de personas en todo el mundo para 2025. Para lograr este objetivo, se han lanzando nuevas iniciativas para adultos y jóvenes estudiantes, y ampliando las plataformas gratuitas existentes. Programas de capacitación en IA: eliminar los costos como barrera para acceder a estas habilidades críticas.

Las tres nuevas iniciativas son:

  • Ocho cursos nuevos y gratuitos de IA e IA generativa
  • Beca de IA generativa de Amazon Web Services (AWS), que proporciona a más de 50.000 estudiantes de secundaria y universidades de todo el mundo acceso a un nuevo curso de IA generativa en Udacity.
  • Nueva colaboración con Code.org diseñada para ayudar a los estudiantes a aprender sobre IA generativa

Literacy Information Microsite: artículos de investigación de libre acceso sobre temas vitales como la alfabetización digital y la desinformación

Literacy Information Microsite 

Dado que cada vez se accede más a la comunicación y la información a través de las tecnologías digitales, la alfabetización digital es esencial para que las personas vivan, aprendan y trabajen en nuestra sociedad.

El recién inaugurado Micrositio de Información sobre Alfabetización está dedicado a abordar los problemas de la desinformación, la desinformación y la desinformación que prevalecen en el ámbito digital.

Esta plataforma ofrece artículos de investigación de libre acceso sobre temas vitales como la alfabetización digital, la censura, la propaganda, la sociedad digital, la ética de los medios de comunicación y los peligros de la desinformación. Para garantizar la pertinencia, los contenidos se actualizarán trimestralmente.

Cómo ChatGPT y la IA generativa podrían fomentar la negación de la ciencia

Gale Sinatra and Barbara K. Hofer, The. «How ChatGPT and Generative AI Could Foster Science Denial». Gizmodo, 11 de junio de 2023. https://gizmodo.com/chatgpt-generative-ai-openai-science-denial-1850516570.

Todos los consumidores de medios de comunicación deben estar más atentos que nunca a la hora de verificar la veracidad científica. He aquí cómo mantenerse alerta en un nuevo panorama informativo.

Hasta hace muy poco, si deseabas obtener más información sobre un tema científico controvertido, como la investigación con células madre, la seguridad de la energía nuclear o el cambio climático, probablemente hacías una búsqueda en Google. Presentado con múltiples fuentes, elegías qué leer, seleccionando los sitios o autoridades en los que confiar.

Ahora tienes otra opción: puedes plantear tu pregunta a ChatGPT u otra plataforma de inteligencia artificial generativa y recibir rápidamente una respuesta concisa en forma de párrafo.

ChatGPT no busca en Internet de la misma manera que lo hace Google. En cambio, genera respuestas a las consultas prediciendo combinaciones de palabras probables a partir de una amalgama masiva de información disponible en línea.

Aunque tiene el potencial de mejorar la productividad, se ha demostrado que la IA generativa tiene algunos fallos importantes. Puede producir información errónea. Puede crear «alucinaciones«, un término benigno para inventar cosas. Y no siempre resuelve con precisión problemas de razonamiento. Por ejemplo, cuando se le preguntó si un automóvil y un tanque pueden pasar por una puerta, no consideró tanto el ancho como la altura. Sin embargo, ya se está utilizando para producir artículos y contenido web que es posible que hayas encontrado, o como una herramienta en el proceso de escritura. Aun así, es poco probable que sepas si lo que estás leyendo fue creado por la IA.

Como autores de «Science Denial: Why It Happens and What to Do About It» (Negación de la Ciencia: Por qué Ocurre y Qué Hacer al Respecto), preocupa cómo la IA generativa podría difuminar los límites entre la verdad y la ficción para aquellos que buscan información científica autoritaria.

Cada consumidor de medios necesita ser más vigilante que nunca al verificar la precisión científica en lo que lee. Así es cómo puedes mantenerte alerta en este nuevo panorama de la información.

Cómo la IA generativa podría fomentar la negación de la ciencia

  1. Erosión de la confianza epistémica: Todos los consumidores de información científica dependen de los juicios de expertos científicos y médicos. La confianza epistémica es el proceso de confiar en el conocimiento que se obtiene de otros. Es fundamental para la comprensión y el uso de información científica. Ya sea que alguien esté buscando información sobre una preocupación de salud o tratando de comprender soluciones para el cambio climático, a menudo tienen un entendimiento científico limitado y poco acceso a evidencia de primera mano. Con un creciente cuerpo de información en línea, las personas deben tomar decisiones frecuentes sobre qué y a quién confiar. Con el aumento del uso de la IA generativa y su potencial de manipulación, creemos que la confianza es probable que se erosioné aún más de lo que ya lo ha hecho.
  2. Desinformación o simplemente incorrecto: Si hay errores o sesgos en los datos con los que se entrenan las plataformas de IA, eso puede reflejarse en los resultados. En nuestras propias búsquedas, cuando le hemos pedido a ChatGPT que regenere múltiples respuestas a la misma pregunta, hemos obtenido respuestas contradictorias. Cuando se le preguntó por qué, respondió: «A veces cometo errores». Quizás el problema más complicado con el contenido generado por IA es saber cuándo está equivocado.
  3. Diseminación deliberada de desinformación: La IA se puede utilizar para generar desinformación convincente en forma de texto, así como imágenes y videos deepfake. Cuando le preguntamos a ChatGPT que «escribiera sobre las vacunas al estilo de desinformación», produjo una cita inexistente con datos falsos. Geoffrey Hinton, exjefe de desarrollo de IA en Google, renunció para poder dar la alarma, diciendo: «Es difícil ver cómo se puede evitar que los actores malintencionados lo utilicen para cosas malas». La capacidad de crear y difundir información deliberadamente incorrecta sobre la ciencia ya existía, pero ahora es peligrosamente fácil.
  4. Fuentes fabricadas: ChatGPT proporciona respuestas sin fuentes en absoluto, o si se le pide que proporcione fuentes, puede presentar fuentes inventadas. Ambos le pedimos a ChatGPT que generara una lista de nuestras propias publicaciones. Cada uno identificó algunas fuentes correctas. Más fueron alucinaciones, pero parecían ser reputables y en su mayoría plausibles, con coautores reales en revistas de sonido similar. Esta inventiva es un gran problema si una lista de publicaciones de un académico transmite autoridad a un lector que no se toma el tiempo para verificarlas.
  5. Conocimiento desactualizado: ChatGPT no sabe lo que ha sucedido en el mundo después de la fecha de corte de su conocimiento. Una consulta sobre el porcentaje de personas en el mundo que han tenido COVID-19 devolvió una respuesta precedida por «según mi fecha de corte de conocimiento de septiembre de 2021». Dado lo rápido que avanza el conocimiento en algunas áreas, esta limitación podría significar que los lectores obtengan información errónea y desactualizada. Si estás buscando investigaciones recientes sobre un problema de salud personal, por ejemplo, ten cuidado.
  6. Avance rápido y falta de transparencia: Los sistemas de IA siguen volviéndose más poderosos y aprenden más rápido, y pueden aprender más desinformación científica en el camino. Google anunció recientemente 25 nuevos usos incrustados de la IA en sus servicios. En este momento, no hay suficientes salvaguardias para garantizar que la IA generativa se convierta con el tiempo en un distribuidor más preciso de información científica.

¿Qué puedes hacer acerca de las alucinaciones de la IA?

Si utilizas ChatGPT u otras plataformas de IA, reconoce que es posible que no sean completamente precisas. La responsabilidad recae en el usuario para discernir la precisión.

Aumenta tu vigilancia. Es posible que pronto estén disponibles aplicaciones de verificación de hechos con IA, pero por ahora, los usuarios deben servir como sus propios verificadores de hechos. Recomendamos algunos pasos. El primero es: sé vigilante. Las personas a menudo comparten información que encuentran en búsquedas en las redes sociales con poco o ningún análisis. Aprende cuándo ser más reflexivo y cuándo vale la pena identificar y evaluar las fuentes de información. Si estás tratando de decidir cómo gestionar una enfermedad grave o entender los mejores pasos para abordar el cambio climático, tómate el tiempo para verificar las fuentes.

Mejora tu verificación de hechos. Un segundo paso es la lectura lateral, un proceso que utilizan los verificadores de hechos profesionales. Abre una nueva ventana y busca información sobre las fuentes, si se proporcionan. ¿La fuente es creíble? ¿El autor tiene experiencia relevante? ¿Cuál es el consenso de los expertos? Si no se proporcionan fuentes o no sabes si son válidas, utiliza un motor de búsqueda tradicional para encontrar y evaluar a expertos en el tema.

Evalúa las pruebas. A continuación, observa las pruebas y su conexión con la afirmación. ¿Hay evidencia de que los alimentos genéticamente modificados son seguros? ¿Hay evidencia de que no lo son? ¿Cuál es el consenso científico? Evaluar las afirmaciones requerirá esfuerzo más allá de una consulta rápida a ChatGPT.

Si comienzas con la IA, no te detengas allí. Ten precaución al usarla como la única autoridad en cualquier tema científico. Puedes consultar lo que ChatGPT tiene que decir sobre organismos genéticamente modificados o la seguridad de las vacunas, pero también realiza una búsqueda más diligente utilizando motores de búsqueda tradicionales antes de sacar conclusiones.

Evalúa la plausibilidad. Juzga si la afirmación es plausible. ¿Es probable que sea cierta? Si la IA hace una declaración poco plausible (y incorrecta), como «1 millón de muertes fueron causadas por las vacunas, no por el COVID-19», considera si tiene sentido. Haz un juicio tentativo y luego mantente abierto a revisar tu pensamiento una vez que hayas verificado la evidencia.

Promueve la alfabetización digital en ti mismo y en otros. Todos necesitan mejorar sus habilidades. Mejora tu propia alfabetización digital y, si eres padre, maestro, mentor o líder comunitario, promueve la alfabetización digital en los demás. La Asociación Estadounidense de Psicología ofrece orientación sobre cómo verificar información en línea y recomienda que los adolescentes sean capacitados en habilidades de redes sociales para minimizar los riesgos para la salud y el bienestar. El Proyecto de Alfabetización en Noticias proporciona herramientas útiles para mejorar y apoyar la alfabetización digital.

Arma-te con las habilidades que necesitas para navegar por el nuevo paisaje de información de la IA. Incluso si no utilizas la IA generativa, es probable que ya hayas leído artículos creados por ella o desarrollados a partir de ella. Puede llevar tiempo y esfuerzo encontrar y evaluar información confiable sobre ciencia en línea, pero vale la pena.

Gale Sinatra, Profesora de Educación y Psicología en la Universidad del Sur de California y Barbara K. Hofer, Profesora Emérita de Psicología en Middlebury.

La alfabetización digital será clave en un mundo transformado por la IA

Valérie Kindarji, Wendy H. Wong «Opinion: Digital Literacy Will Be Key in a World Transformed by AI». The Globe and Mail.11 de marzo de 2023. https://www.theglobeandmail.com/opinion/article-digital-literacy-will-be-key-in-a-world-transformed-by-ai/.

El reciente lanzamiento de chatbots impulsados ​​por IA, como ChatGPT, el nuevo Bing y Bard de Google, ha alimentado un torbellino de posibilidades y pánico. Estos grandes modelos de lenguaje (LLM) imitan y aumentan la interacción humana, ya sea respondiendo preguntas, completando formularios o resumiendo grandes cantidades de literatura. Microsoft y Google nos dicen que es la próxima frontera de la búsqueda, y muchos de nuestros colegas lo ven como una sentencia de muerte para el ensayo universitario.

La innovación disruptiva ya ha cambiado vidas humanas antes. La imprenta aumentó las tasas de alfabetización lingüística, trastocó estructuras políticas y sociales arraigadas y abrió un mundo de conocimiento a las masas. Hoy en día, la IA y la recopilación generalizada de datos están cambiando radicalmente nuestras vidas y creando la necesidad de un nuevo tipo de alfabetización: la alfabetización digital.

La alfabetización digital es un conjunto de habilidades y un marco conceptual que nos ayuda a funcionar de manera más significativa en nuestro mundo impulsado por la tecnología. La alfabetización digital nos brinda herramientas para buscar, evaluar y gestionar el volumen de información al que estamos expuestos. Nos ayuda a utilizar tecnologías algorítmicas y a comprender en general cómo producen respuestas. Nos ayuda a comprender la máquina y los datos detrás de la IA.

Es hora de que empecemos a tomar en serio la alfabetización digital y empecemos a pensar en cómo implementar estas habilidades en nuestras prácticas sociales y llevar estas ideas a la legislación. Hasta la fecha, la atención pública se ha centrado en las propias tecnologías de IA. Desafortunadamente, las tecnologías que se están desatando avanzan más rápido de lo que el gobierno puede responder con regulaciones punitivas. Muchas políticas gubernamentales, incluidas las regulaciones canadienses, se han centrado en controlar la tecnología, como imponer requisitos sobre el contenido o encontrar fallas en las prácticas corporativas. Los debates públicos recientes sobre el LLM señalan la precisión o los peligros.

Si bien es importante examinar los productos corporativos, también debemos invertir en ayudar a los ciudadanos a adaptarse a las nuevas realidades que trae la IA. Una forma de incorporar tecnologías disruptivas es brindar a los ciudadanos el conocimiento y las herramientas que necesitan para hacer frente a estas innovaciones en su vida diaria. Es por eso que deberíamos abogar por una inversión generalizada en programas de alfabetización digital. El hecho de que vivamos en un mundo tecnológicamente infundido no va a cambiar. La alfabetización digital puede ayudarnos a empezar a ver las tecnologías relacionadas con la IA tal como son: sistemas masivos de agrupación, clasificación y procesamiento de datos que son máquinas de predicción.

La alfabetización digital es particularmente importante en las democracias, sistemas políticos que dependen del conocimiento, la participación y las opciones de los ciudadanos para gobernar. Algunos países están por delante de la curva. Por ejemplo, la alfabetización digital forma parte del plan de estudios básico de las escuelas en Finlandia y Estonia. Los estudiantes aprenden a codificar desde una edad temprana y toman cursos sobre medios y desinformación. Sin embargo, la mayoría de los demás países, incluido Canadá, están rezagados. Los programas de alfabetización digital existentes son irregulares y es posible que la política educativa no corresponda a una sola jurisdicción. Además, actualmente la carga de impartir formación en alfabetización digital recae en las organizaciones que ofrecen educación complementaria, como bibliotecas públicas o programas comunitarios. La falta de financiación y de intercambio de conocimientos entre programas complica la impartición y el acceso a los cursos.

La importancia de la alfabetización digital va más allá del alcance de nuestras interacciones cotidianas con el entorno de información en línea. Los LLM representan un grave riesgo para la democracia porque interrumpen nuestra capacidad de acceder a información de alta calidad, un pilar fundamental de la participación democrática. Derechos básicos como la libertad de expresión y de reunión se ven obstaculizados cuando nuestra información está distorsionada. Necesitamos ser consumidores de información perspicaces para poder tomar decisiones lo mejor que podamos y participar políticamente.

La alfabetización digital es una inversión a largo plazo. Se trata de ayudar a los ciudadanos a navegar sus vidas. Las tecnologías impulsadas por la IA serán cada vez más precisas, menos detectables y más extendidas. Los observadores tienden a burlarse cuando la IA comete errores (y pueden ser divertidos), pero ésta no es la mejor manera de rechazar los algoritmos.

Necesitamos comprender cómo los LLM (y otras tecnologías de inteligencia artificial) generan sus respuestas para poder utilizar estas poderosas herramientas. Tendemos a ser víctimas del sesgo de la automatización, degradando la toma de decisiones humana en favor de la máquina. Pero tal vez eso se deba a que no solemos pensar en cómo funciona la máquina para producir respuestas. ¿Cómo recopila y me entrega información una herramienta como ChatGPT? ¿Cómo puedo utilizar el chatbot para despertar mi creatividad en lugar de hacer que hable por mí? ¿Cuáles son las limitaciones de esta herramienta? ¿Cómo influyen las elecciones algorítmicas en el resultado de estas herramientas?

Las percepciones distorsionadas de la realidad afectan nuestra confianza en nuestras instituciones y nuestra confianza mutua, especialmente en aquellos con quienes no estamos de acuerdo. Los algoritmos de las redes sociales ya nos están filtrando hacia campos opuestos que cada vez más no se hablan entre sí. Pero hay motivos para tener esperanzas. Recientemente, en el podcast Hard Fork, Sam Altman, director ejecutivo de OpenAI (que creó ChatGPT), dijo: «Y dado lo firmemente que creo que [la IA] va a cambiar muchos, tal vez la gran mayoría de los aspectos de la sociedad, la gente necesita ser incluido temprano”.

Señor. Altman tiene razón: necesitamos que nos incluyan. Sobre qué y de quién, con qué conocimientos previos y con qué desarrolladores de tecnología siguen siendo preguntas abiertas. La alfabetización digital es una parte importante de la respuesta y actualmente no tiene prioridad. Puede ser el arma sigilosa para combatir la desinformación y convertirnos en consumidores más activos y confiados de tecnologías de inteligencia artificial.