Archivo de la etiqueta: Inteligencia artificial

Inteligencia artificial generativa y alfabetización mediática en bibliotecas

Alonso-Arévalo, Julio Inteligencia artificial generativa y alfabetización mediática en bibliotecas. Mi Biblioteca, 2024, vol. 20, n. 78, pp. 54-58. 

Texto completo

La inteligencia artificial (IA) está emergiendo como una tecnología disruptiva que está remodelando rápidamente varios aspectos de nuestra sociedad. Aunque la IA ha estado en uso durante varios años, ha sido la IA generativa, con su capacidad para realizar tareas que normalmente requerirían inteligencia humana, la que ha suscitado este interés. La habilidad de generar contenido de manera similar a como lo haría un ser humano tiene aplicaciones en una amplia variedad de campos, desde la educación hasta la investigación o la salud, que involucran tanto a los profesionales de biblioteca como a las instituciones mismas.

Actualmente solo el 7% de las bibliotecas universitarias utiliza herramientas de IA

Inside Higher Ed. “AI Adoption Top Concern for Librarians Next Year.” Last modified September 10, 2024. https://www.insidehighered.com/news/quick-takes/2024/09/10/ai-adoption-top-concern-librarians-next-year

Un informe de Clarivate reveló que casi la mitad de las bibliotecas académicas planea implementar IA en el próximo año, aunque la falta de experiencia y capacitación en esta tecnología es su mayor desafío. .A pesar del interés en la IA, los bibliotecarios también enfrentan limitaciones presupuestarias y preocupaciones sobre el impacto en los roles del personal.

Aunque solo un pequeño número de bibliotecas universitarias ha adoptado la inteligencia artificial (IA), se espera que esto cambie en el próximo año. Un informe de Clarivate reveló que actualmente solo el 7% de las bibliotecas universitarias utiliza herramientas de IA, pero casi la mitad planea implementarlas pronto, principalmente para apoyar el aprendizaje de los estudiantes, la excelencia en la investigación y mejorar la accesibilidad del contenido.

Sin embargo, más de la mitad de los encuestados mencionó la falta de experiencia en IA como el mayor desafío, y el 32% afirmó que no hay capacitación disponible en sus universidades. Este porcentaje aumenta al 43% en los encuestados de EE. UU. Las limitaciones presupuestarias también preocupan a los bibliotecarios, incluso más que las preocupaciones sobre privacidad, integridad académica y derechos de autor.

Aunque solo el 10% cree que la IA no afectará significativamente los roles del personal, más de la mitad predice que será necesario un esfuerzo considerable para mejorar las habilidades del equipo existente. Además, un tercio teme la posible pérdida de empleos debido a la IA, con los encuestados de EE. UU. mostrando la mayor preocupación.

El informe, basado en una encuesta a 1.500 personas relacionadas con bibliotecas (incluyendo decanos y directores de TI), reveló que el 80% de los encuestados trabaja en bibliotecas universitarias. La mayoría planea adoptar la IA para apoyar el aprendizaje estudiantil (52%) y mejorar la investigación (47%).

El informe también abordó temas no relacionados con la IA, destacando que más del 55% de las bibliotecas tienen estrategias de diversidad y el 45% tienen estrategias de sostenibilidad. Las preocupaciones presupuestarias y el impacto de la tecnología en los servicios bibliotecarios también fueron temas clave.

OpenAI o1: un nuevo modelo de inteligencia artificial que está diseñado para realizar un razonamiento más profundo

Introducing OpenAI o1-preview: a new series of reasoning models for solving hard problems. Available starting 9.12 https://openai.com/index/introducing-openai-o1-preview/

OpenAI ha lanzado un nuevo modelo de inteligencia artificial, el primero en una serie llamada «OpenAI o1», que está diseñado para realizar un razonamiento más profundo antes de responder. Este modelo es capaz de enfrentar tareas complejas y resolver problemas difíciles en ciencia, codificación y matemáticas con mayor eficacia que los modelos anteriores.

OpenAI ha lanzado una nueva serie de modelos de inteligencia artificial llamada OpenAI o1, diseñada para resolver problemas complejos con un razonamiento más profundo. Este modelo es el primero de su serie y está disponible a partir del 12 de septiembre en ChatGPT y a través de la API, en una versión preliminar que recibirá actualizaciones regulares, aunque actualmente carece de algunas funciones útiles como la navegación web y la carga de archivos e imágenes. Se espera que, con el tiempo, se hagan mejoras y actualizaciones regulares.

En las pruebas realizadas, el nuevo modelo mostró un rendimiento comparable al de estudiantes de doctorado en física, química y biología, y sobresalió en matemáticas y codificación. Por ejemplo, en un examen clasificatorio de la Olimpiada Internacional de Matemáticas, el modelo razonador resolvió el 83% de los problemas, frente al 13% resuelto por el GPT-4o. También alcanzó el percentil 89 en competiciones de codificación en Codeforces.

El acceso a los modelos o1 estará disponible para los usuarios de ChatGPT Plus y Team a partir de hoy, con límites semanales de mensajes. Los usuarios de ChatGPT Enterprise y Edu podrán acceder a ellos la próxima semana. Los desarrolladores que califiquen para el nivel de uso de la API 5 pueden comenzar a probar los modelos hoy, aunque la API aún no incluye algunas funciones como llamadas a funciones y mensajes del sistema. Además, se planea ofrecer acceso a o1-mini para todos los usuarios de ChatGPT Free.

Este modelo mejorado es particularmente útil para resolver problemas complejos en ciencia, codificación y matemáticas. Puede ser utilizado por investigadores de salud para anotar datos de secuenciación celular, físicos para generar fórmulas matemáticas complicadas para óptica cuántica, y desarrolladores para construir y ejecutar flujos de trabajo complejos.

GPT-4 es la cuarta versión del modelo de lenguaje desarrollado por OpenAI. Se trata de un modelo de inteligencia artificial (IA) basado en una arquitectura de redes neuronales profundas, que ha sido entrenado con grandes volúmenes de texto para comprender y generar lenguaje humano de manera coherente. La principal mejora de GPT-4 respecto a sus versiones anteriores es su capacidad para manejar tareas más complejas, entender mejor el contexto, y generar respuestas más precisas y naturales.

GPT-4 se diferencia de sus predecesores por su capacidad para:

  1. Comprensión contextual mejorada: Puede seguir conversaciones más largas y recordar mejor la información previamente proporcionada.
  2. Manejo de tareas complejas: Realiza operaciones de razonamiento más sofisticadas y genera texto más detallado.
  3. Mayor creatividad y fluidez: Produce respuestas más fluidas, naturales y a menudo más creativas en comparación con modelos anteriores.
  4. Multimodalidad: A diferencia de versiones anteriores, GPT-4 tiene la capacidad de procesar tanto texto como imágenes (en su implementación completa).

El Impacto de la IA en el Avance de la Accesibilidad para los Estudiantes con Discapacidades

Gibson, R. «The Impact of AI in Advancing Accessibility for Learners with Disabilities.» Educause Review. September 2024. https://er.educause.edu/articles/2024/9/the-impact-of-ai-in-advancing-accessibility-for-learners-with-disabilities.

La tecnología de inteligencia artificial (IA) ofrece un gran potencial para proporcionar experiencias de aprendizaje más accesibles, equitativas e inclusivas para los estudiantes con discapacidades. A pesar de la prominencia de la IA en la educación superior, su impacto en la accesibilidad digital, inclusión y equidad no ha sido suficientemente explorado.

A pesar de que los estudiantes con discapacidades son los que más se beneficiarían de las herramientas emergentes de IA, a menudo son los menos representados en el desarrollo de estos productos. Un estudio de 2023 mostró que menos del 7% de los encuestados con discapacidades creen que su comunidad está adecuadamente representada en el desarrollo de productos de IA, aunque el 87% estaría dispuesto a proporcionar retroalimentación a los desarrolladores.

La IA ha estado presente en la tecnología educativa desde hace décadas, pero las herramientas actuales, como los modelos de lenguaje grandes (LLMs), están impulsando avances significativos. Entre las innovaciones recientes se encuentran:

  • Descripciones Automáticas de Imágenes: Herramientas como la de la Universidad Estatal de Arizona utilizan IA para generar descripciones detalladas de imágenes, mejorando el acceso a contenido visual para personas con discapacidades visuales.
  • Generación de Descripciones Auditivas: Empresas como WPP, en colaboración con Microsoft, están desarrollando herramientas avanzadas para generar descripciones auditivas mejoradas de videos e imágenes.
  • Apoyo a Discapacidades Cognitivas y Físicas: Microsoft ha lanzado Be My AI, un asistente visual digital, y Goodwin University está probando productos de IA para apoyar a estudiantes neurodivergentes.
  • Diseño Inclusivo y Soporte de Accesibilidad: Herramientas como GPT Accessibility CoPilot ayudan a los desarrolladores a cumplir con los criterios de accesibilidad web, mientras que tecnologías como Navilens asisten a personas con discapacidades visuales en la localización y lectura de productos.
  • Soporte en Codificación y Desarrollo: GitHub Copilot y Axe DevTools AI son ejemplos de herramientas que facilitan el desarrollo de código accesible y la corrección de contenido digital.

La IA también ha mejorado las herramientas de traducción, subtitulado, lectura de labios y reconocimiento de voz, proporcionando mayores oportunidades para la participación en conversaciones y accesibilidad del contenido.

Estos desarrollos prometen una mayor equidad e inclusión para las personas con discapacidades, aunque la comunidad educativa superior sigue siendo cautelosa respecto a la integración de la IA. Sin embargo, la proliferación de estos productos y servicios indica un avance significativo hacia la mejora de la accesibilidad y la inclusión en el ámbito educativo.

La alfabetización informacional es clave: el pensamiento crítico en la era digital de la IA

Contributors, eSchool Media. «Critical Thinking in the Digital Age of AI: Information Literacy Is Key». eSchool News, 16 de agosto de 2024. https://www.eschoolnews.com/digital-learning/2024/08/16/critical-thinking-digital-age-ai-information-literacy/.

Con el auge de la inteligencia artificial (IA), la desinformación ha entrado en una nueva era, haciendo crucial que los estudiantes desarrollen habilidades sólidas de alfabetización informacional. Estas habilidades ayudan a los estudiantes a navegar por escenarios de desinformación en el mundo digital, desde narrativas falsas hasta imágenes generadas por IA.

La alfabetización informacional, especialmente en plataformas digitales, debería ser una parte obligatoria del currículo escolar para combatir la desinformación y preparar a los estudiantes para un futuro impulsado por la IA. Durante la pandemia, la desinformación sobre el COVID-19, como las teorías conspirativas que vinculaban la enfermedad con redes 5G, se propagó rápidamente gracias a la tecnología digital. Del mismo modo, la IA ha amplificado narrativas engañosas, desde deepfakes hasta noticias falsas, complicando aún más el panorama informativo.

Un ejemplo reciente es el uso de deepfakes y desinformación tras los ataques de octubre de 2023 entre Israel y Gaza, donde se difundieron noticias falsas, como una historia fabricada sobre Qatar amenazando con cortar el suministro mundial de gas si Israel no detenía sus ataques en Gaza.

Además, la confianza del público en los medios se ha erosionado, con solo un 32% de estadounidenses confiando en los medios de comunicación de masas. Combatir la desinformación requiere no solo la verificación de hechos, sino también técnicas preventivas, como el «prebunking», que promueve la resiliencia a la desinformación.

Un enfoque educativo interdisciplinario, como el implementado en Finlandia, es esencial para fomentar el pensamiento crítico. En este país, la alfabetización mediática se enseña desde la escuela preescolar como parte del currículo nacional, lo que ha llevado a una mayor confianza en los medios y una resistencia más fuerte a la desinformación. Este enfoque es un modelo que otras naciones deberían considerar, especialmente en un mundo cada vez más afectado por la IA y la manipulación digital.

Audible comenzará a generar réplicas de voces de narradores de audiolibros mediante IA

Carman, Ashley. «Audible to Start Generating AI Voice Replicas of Select Audiobook Narrators». BNN Bloomberg, 9 de septiembre de 2024. https://www.bnnbloomberg.ca/business/technology/2024/09/09/audible-to-start-generating-ai-voice-replicas-of-select-audiobook-narrators/.

Audible, la plataforma de audiolibros propiedad de Amazon, invitará a un grupo selecto de narradores de audiolibros con base en EE. UU. a entrenar inteligencia artificial con sus voces, para crear clones que podrán ser utilizados en la grabación de audiolibros.

Este esfuerzo, que comienza esta semana, tiene como objetivo agregar más audiolibros al servicio de manera rápida y económica, además de integrar a los narradores tradicionales en el mundo emergente de la automatización de audiolibros, un tema que hasta ahora ha sido visto con recelo por muchos.

El año pasado, Amazon ofreció a autores autopublicados en la tienda Kindle la opción de narrar sus obras con una «voz virtual» genérica, una iniciativa que ha sido popular. Hasta mayo, más de 40,000 libros en Audible habían hecho uso de esta tecnología.

En esta nueva fase, Audible incentivará a narradores profesionales a participar en el proceso. «Esta oferta beta permitirá a los participantes expandir sus capacidades de producción de audiolibros de alta calidad, generar nuevos negocios al tomar más proyectos simultáneamente y aumentar su potencial de ganancias», dijo la compañía en un comunicado en su blog.

Los narradores que elijan participar podrán crear réplicas de sus voces de forma gratuita y recibirán compensación por cualquier audiolibro creado con sus voces generadas por IA, con pagos basados en un modelo de reparto de regalías por título.

Audible busca aumentar el contenido exclusivo en su servicio. A pesar de las herramientas de voz virtual introducidas hace un año, el 96% de los títulos escritos autopublicados en Kindle Direct Publishing aún no tienen versión en audiolibro. Una mayor diversidad de voces podría mejorar estas cifras.

Una vez que un narrador apruebe el uso de su voz generada por IA para un trabajo específico, podrá editar la pronunciación y el ritmo utilizando herramientas de producción internas. Audible no usará las réplicas sin el permiso explícito del narrador.

«Los narradores seguirán manteniendo el control sobre los proyectos en los que desean participar, ya sea usando la réplica de su voz o una actuación en vivo, y seguirán siendo fundamentales en el proceso de producción», afirmó la compañía.

Varios países, entre ellos la UE, EE.UU. y el Reino Unido, han firmado el primer tratado mundial sobre inteligencia artificial.

Framework Convention on Artificial Intelligence

Países de todo el mundo, incluidos EE. UU., Reino Unido y la UE, han firmado el primer tratado internacional sobre IA, legalmente vinculante, diseñado para garantizar que los sistemas de IA se alineen con los “derechos humanos, la democracia y el estado de derecho”.

El tratado de IA legalmente vinculante, denominado Framework Convention on Artificial Intelligence y en desarrollo desde 2019, fue elaborado por el Consejo de Europa (COE), una organización internacional de derechos humanos cuya función es defender los derechos humanos, la democracia y los sistemas legales de la UE.

E, tratado fue elaborado por los 46 estados miembros del Consejo de Europa, con la participación de países observadores como Canadá, Japón, México y EE. UU., así como varios estados no miembros, como Australia, Israel y Argentina. También participaron representantes de la sociedad civil, el mundo académico e industrias.

Incluye un conjunto de principios centrados en desarrollar sistemas de IA de manera transparente que protejan los datos personales, la dignidad humana y la democracia. Su objetivo principal es gestionar cualquier riesgo que la IA pueda representar para los derechos humanos y «llenar las lagunas legales que puedan surgir debido a los rápidos avances tecnológicos», al tiempo que se fomenta la innovación y el progreso.

Tres meses después de la firma del tratado, los gobiernos de los países firmantes estarán obligados a implementar salvaguardas y “adoptar o mantener medidas legislativas, administrativas u otras apropiadas” para alinearse con estos principios.

Principios Fundamentales:

El tratado establece que las actividades relacionadas con sistemas de IA deben cumplir con principios como:

  • Dignidad humana y autonomía
  • Igualdad y no discriminación
  • Protección de la privacidad y datos personales
  • Transparencia y supervisión
  • Responsabilidad
  • Innovación segura


Derechos procesales y salvaguardias

El tratado exige documentar y compartir información relevante sobre los sistemas de IA con las personas afectadas, para permitirles cuestionar las decisiones y el uso del sistema. También se establece que se debe proporcionar la posibilidad de presentar quejas ante autoridades competentes y ofrecer garantías procesales.

Gestión de Riesgos:

Los estados deben realizar evaluaciones de riesgo e impacto de los sistemas de IA sobre derechos humanos, democracia y estado de derecho, y tomar medidas preventivas. Las autoridades pueden imponer prohibiciones o moratorias sobre ciertas aplicaciones de IA consideradas riesgosas.

Aplicación del Tratado:

El tratado cubre el uso de IA tanto por autoridades públicas como por actores privados que actúen en su nombre. Los estados tienen flexibilidad para cumplir con las disposiciones del tratado respetando sus obligaciones internacionales.

Supervisión:

Se establece un mecanismo de seguimiento a través de la Conferencia de las Partes, compuesta por representantes oficiales que evaluarán la implementación del tratado y promoverán la cooperación con las partes interesadas, incluyendo audiencias públicas sobre la aplicación del tratado.

¿Cómo saber si lo que lees lo ha escrito una IA?

Peterson, Jake. «How to Tell If What You’re Reading Was Written By AI». Lifehacker, 12 de agosto de 2024. https://lifehacker.com/tech/how-to-tell-if-what-youre-reading-was-written-by-ai.

Desde que ChatGPT introdujo la IA generativa en 2022, ha quedado claro que ya no se puede confiar en que todo lo que lees fue escrito por un humano. La IA puede generar textos de manera rápida y convincente, pero ¿cómo puedes estar seguro de que no proviene de un algoritmo?

Aunque algunos han adoptado esta tecnología, otros la rechazan. Incluso medios como CNET y G/O Media han enfrentado críticas por publicar contenido generado por IA debido a su calidad deficiente.

Los modelos de lenguaje, como GPT, no son conscientes ni inteligentes; simplemente predicen secuencias de palabras basadas en grandes conjuntos de datos. No obstante, existen señales que pueden delatar un texto generado por IA.

  1. Uso de palabras y frases comunes: Las IA suelen repetir ciertas palabras como «explorar», «destacar» o «testimonio». Aunque son válidas, el uso frecuente de estas puede ser una señal de texto generado por IA.
  2. Estilo de escritura: La IA tiende a usar un lenguaje grandilocuente y repetitivo, con descripciones floridas que no suelen aportar profundidad a los argumentos.
  3. Verificación de hechos y corrección: La IA puede cometer errores al «alucinar» hechos, generando información incorrecta. Además, los textos de IA suelen ser perfectos en cuanto a gramática, lo cual puede ser otra señal.

Aunque existen detectores de textos generados por IA, no siempre son confiables. La mejor manera de identificar un texto escrito por IA sigue siendo el análisis detallado.

Los chatbots de IA siguen demasiado centrados en el inglés y en la cultura occidental

«Lost in translation: AI chatbots still too English-language centric, Stanford study finds | ZDNET». Accedido 6 de septiembre de 2024. https://www.zdnet.com/article/lost-in-translation-ai-chatbots-still-too-english-language-centric-stanford-study-finds/#ftag=RSSbaffb68.

Las soluciones de IA, incluidos los chatbots, pueden carecer de la diversidad global necesaria para atender a usuarios internacionales. Un estudio reciente de la Universidad de Stanford encontró que muchos de los grandes modelos de lenguaje actuales tienden a favorecer «valores y gustos centrados en Occidente».

La investigación dirigida por Diyi Yang, profesora asistente en Stanford y parte del Instituto de IA Centrada en el Ser Humano de Stanford (HAI), señalan que los intentos de «alinear» estos modelos con los valores de los usuarios a menudo fallan.

Aunque se realizan esfuerzos para adaptar los modelos a los usuarios previstos, esto puede introducir sesgos que comprometen la calidad de las respuestas de los chatbots. En teoría, la alineación debería ser universal y permitir que los modelos sean más útiles para una variedad de usuarios en todo el mundo. Sin embargo, los anotadores que adaptan conjuntos de datos en diferentes regiones pueden malinterpretar estos instrumentos.

El mercado global de chatbots de IA está en rápida expansión y se espera que alcance los 67 mil millones de dólares para 2033. Más del 50% de las empresas se espera que inviertan más en el desarrollo de chatbots que en aplicaciones móviles tradicionales. Sin embargo, muchos idiomas y comunidades siguen siendo desatendidos por estas tecnologías.

El estudio de Stanford también destacó que los modelos de lenguaje suelen estar basados en las preferencias de sus creadores, que generalmente provienen de países de habla inglesa. Los modelos deben reflejar el contexto social de las comunidades a las que sirven, lo que implica variaciones en gramática, temas y sistemas de valores.

Los investigadores recomiendan aumentar la conciencia sobre la diversidad global al:

  1. Reconocer que la alineación de los modelos no es una solución universal.
  2. Fomentar la transparencia en las decisiones de diseño de los modelos de lenguaje.
  3. Buscar conjuntos de datos multilingües para mejorar el rendimiento en diversas lenguas.
  4. Trabajar estrechamente con usuarios locales para superar las deficiencias culturales o lingüísticas.

Es fundamental realizar pruebas extensivas con usuarios locales antes de la implementación completa, y ofrecer opciones de selección de idioma para mejorar la experiencia del usuario.

Transparencia de los datos en los modelos LLM de Inteligencia Artificial

MIT News | Massachusetts Institute of Technology. «Study: Transparency Is Often Lacking in Datasets Used to Train Large Language Models», 30 de agosto de 2024. https://news.mit.edu/2024/study-large-language-models-datasets-lack-transparency-0830.

Un equipo de investigadores del MIT ha desarrollado una herramienta llamada Data Provenance Explorer para mejorar la transparencia en los conjuntos de datos utilizados para entrenar grandes modelos de lenguaje. Esta herramienta permite a los practicantes de IA seleccionar datos adecuados para su modelo, mejorando la precisión y reduciendo el sesgo.

Los investigadores analizaron más de 1,800 conjuntos de datos textuales y descubrieron que más del 70% carecían de información de licencia, mientras que alrededor del 50% contenían errores en los datos de origen. Esto plantea problemas éticos y legales, y puede afectar el rendimiento del modelo, ya que el uso de datos incorrectos o sesgados puede llevar a predicciones injustas.

Data Provenance Explorer genera resúmenes de los creadores, fuentes, licencias y usos permitidos de los conjuntos de datos, ayudando a los investigadores a tomar decisiones más informadas y mejorar la precisión de los modelos en situaciones reales, como evaluaciones de préstamos o consultas de clientes.

Además, el estudio reveló que la mayoría de los creadores de conjuntos de datos se concentran en el norte global, lo que podría limitar las capacidades de los modelos en otras regiones. Los investigadores también notaron un aumento en las restricciones de los conjuntos de datos creados entre 2023 y 2024, debido a preocupaciones sobre su uso comercial no intencionado.

Los investigadores planean expandir su análisis para incluir datos multimodales, como video y audio, y seguir colaborando con reguladores para mejorar la transparencia en el uso de datos.