Archivo de la etiqueta: Inteligencia artificial

La plataforma científica de IA Elicit incorpora la búsqueda semántica

Scientist interacting with AI-driven semantic search platform on computer in a laboratory
A scientist uses AI-powered semantic search on a computer to explore molecular properties and drug discovery research.

Elicit

https://elicit.com/

Elicit utiliza un sistema de búsqueda semántica, lo que significa que no se limita a buscar palabras clave, sino que interpreta la intención de la consulta del usuario. Gracias a esto, puede encontrar artículos relevantes que podrían no aparecer en buscadores tradicionales como PubMed o Google Scholar. Esta forma de búsqueda permite obtener resultados más precisos y útiles para investigaciones complejas o preguntas abiertas.

Elicit es una herramienta de inteligencia artificial diseñada para ayudar en la búsqueda, análisis y síntesis de información científica. Su objetivo principal es facilitar el trabajo de investigadores, estudiantes y profesionales que necesitan encontrar artículos académicos relevantes y resumir evidencias de forma rápida y eficiente.

Existen dos formas principales de buscar artículos en Elicit: Systematic Review/Reports y Find Papers. La primera opción, Systematic Review/Reports, ofrece hasta 500 resultados y analiza detalladamente la relevancia de cada uno en relación con la consulta realizada, aunque el proceso puede tardar varios minutos. En cambio, Find Papers devuelve hasta 8 artículos relevantes acompañados de un resumen, y lo hace en pocos segundos. Por eso, se recomienda usar Find Papers para búsquedas rápidas y Systematic Review/Reports para revisiones más exhaustivas.

Elicit accede a una base de datos con más de 126 millones de artículos académicos procedentes del corpus de Semantic Scholar, que abarca todas las disciplinas académicas. Incluye publicaciones de revistas reconocidas como PubMed, JAMA, BMJ, Nature y Science, entre muchas otras. Esto permite que sus resultados sean amplios y multidisciplinares.

Cuando el PDF del artículo está disponible, Elicit permite acceder a él directamente haciendo clic en el título. Sin embargo, si el texto completo no está disponible por ser un artículo de acceso restringido, el sistema se basa en el resumen para ofrecer respuestas o generar análisis. Elicit no se limita a artículos de acceso abierto, aunque da prioridad al contenido completo cuando puede acceder a él.

Es importante tener en cuenta que Elicit no reemplaza completamente las búsquedas tradicionales en bases de datos para revisiones sistemáticas. Se recomienda como una herramienta complementaria que puede ayudar a descubrir trabajos que no aparecerían en búsquedas por palabras clave. Así, se convierte en un aliado útil tanto para investigadores como para estudiantes que buscan una visión más completa de un tema.

ChatGPT se vuelve más inteligente, pero también más propenso a alucinar

Schwartz, Eric Hal. “ChatGPT Is Getting Smarter, but Its Hallucinations Are Spiraling.” TechRadar, 7 de mayo de 2025. https://www.techradar.com/computing/artificial-intelligence/chatgpt-is-getting-smarter-but-its-hallucinations-are-spiraling.

Un reciente informe de The New York Times, basado en investigaciones de la propia OpenAI, revela una paradoja inquietante en la evolución de la inteligencia artificial generativa: a medida que los modelos de lenguaje como ChatGPT se vuelven más sofisticados y “razonan” mejor, también cometen más errores graves en forma de alucinaciones.

Las alucinaciones consisten en la generación de datos falsos, hechos inexistentes o afirmaciones engañosas expresadas con total confianza, lo que compromete seriamente la fiabilidad del sistema.

Los modelos más nuevos —GPT-0.3 y GPT-0.4-mini— han sido diseñados para emular procesos de razonamiento humano, superando a versiones anteriores enfocadas en la mera generación fluida de texto. OpenAI presumía de que su modelo GPT-0.1 podía igualar o superar a estudiantes de doctorado en química, biología o matemáticas. Sin embargo, los nuevos datos contradicen esta promesa en aspectos clave de precisión.

Cuando se evaluó a GPT-0.3 en una prueba sobre figuras públicas, se detectaron alucinaciones en un tercio de las respuestas, duplicando los errores del modelo anterior. El modelo GPT-0.4-mini mostró aún peores resultados, alucinando en el 48 % de los casos. En otro test de conocimientos generales (SimpleQA), los errores se dispararon: 51 % para GPT-0.3 y un alarmante 79 % para GPT-0.4-mini.

Este patrón sugiere que los modelos más avanzados, al intentar analizar información de manera más profunda y generar respuestas complejas, tienden también a “improvisar” con mayor frecuencia, lo que se traduce en un incremento de datos inventados. A diferencia de modelos más simples que solo repiten datos conocidos, estos nuevos sistemas exploran caminos especulativos y, en ocasiones, cruzan la línea entre la deducción válida y la fantasía sin fundamento.

Aunque OpenAI matiza que esta tendencia no implica necesariamente que los nuevos modelos sean peores —argumentando que simplemente son más creativos—, el hecho es que esa creatividad puede resultar peligrosa. Ya existen casos reales de errores generados por IA que han tenido consecuencias legales, como abogados que presentaron citas judiciales inventadas por ChatGPT.

A medida que estas herramientas se introducen en ámbitos como la educación, el trabajo administrativo, la sanidad o la gestión pública, la posibilidad de que una alucinación cause un error grave crece de forma proporcional. Aunque GPT-0.3 ha demostrado logros impresionantes en codificación y resolución de problemas lógicos, su credibilidad se desmorona si afirma con seguridad que Abraham Lincoln tenía un pódcast o que el agua hierve a 80°F.

En definitiva, estamos ante un dilema: cuanto más útil y versátil es una IA, menos margen hay para el error. La promesa de ahorrar tiempo y esfuerzo se ve anulada si el usuario debe verificar constantemente cada respuesta. Hasta que no se solucionen estos problemas de fiabilidad, es imprescindible usar estas herramientas con escepticismo y sentido crítico.

Actitudes hacia la IA 2024 revela que investigadores y clínicos creen en el potencial de la IA pero exigen transparencia para confiar en las herramientas

Elsevier. «The Insights 2024: Attitudes toward AI Report Reveals Researchers and Clinicians Believe in AI’s Potential but Demand Transparency in Order to Trust Tools.» 9 de julio de 2024.

Informe

Ver infografía

El estudio de Elsevier subraya que, aunque existe un reconocimiento generalizado del potencial de la IA para transformar la investigación y la atención médica, su adopción efectiva depende de abordar preocupaciones clave relacionadas con la transparencia, la calidad del contenido y la confianza en las herramientas. Para que la IA sea plenamente aceptada e integrada en estos campos, es esencial garantizar que las herramientas sean desarrolladas y utilizadas de manera ética y responsable

El informe «Insights 2024: Actitudes hacia la IA» de Elsevier ofrece una visión detallada sobre cómo investigadores y profesionales de la salud perciben la inteligencia artificial (IA) en sus campos. Basado en una encuesta a 3,000 participantes de 123 países, el estudio revela tanto el entusiasmo por las oportunidades que brinda la IA como las preocupaciones que genera su implementación.

Potencial percibido de la IA

Una mayoría significativa de investigadores (94%) y clínicos (96%) cree que la IA puede acelerar el descubrimiento de conocimientos. Además, el 92% de ambos grupos anticipa que la IA aumentará rápidamente el volumen de investigaciones académicas y médicas, así como generará ahorros de costos para instituciones y empresas. El 87% considera que la IA mejorará la calidad general del trabajo, y el 85% piensa que liberará tiempo para enfocarse en proyectos de mayor valor

Preocupaciones sobre la desinformación y la confianza

A pesar del optimismo, existen inquietudes significativas. El 95% de los investigadores y el 93% de los clínicos temen que la IA se utilice para difundir desinformación. Asimismo, el 86% de los investigadores y el 85% de los clínicos creen que la IA podría causar errores críticos, y una proporción similar expresa preocupación por el debilitamiento del pensamiento crítico debido a la dependencia excesiva de estas herramientas

Necesidad de transparencia y contenido confiable

Los encuestados enfatizan la importancia de que las herramientas de IA se basen en contenido de alta calidad y confianza. El 71% espera que los resultados de herramientas dependientes de IA generativa se basen únicamente en fuentes confiables. Además, si las herramientas de IA están respaldadas por contenido confiable, controles de calidad y principios de IA responsable, el 89% de los investigadores las utilizaría para generar síntesis de artículos, y el 94% de los clínicos las emplearía para evaluar síntomas e identificar condiciones o enfermedades

Variaciones geográficas en la adopción de la IA

El informe también destaca diferencias regionales en la familiaridad y uso de la IA. Por ejemplo, en China, el 39% de los encuestados ha utilizado activamente la IA para propósitos laborales, mientras que en India esta cifra es del 22%. Solo el 11% de los participantes se considera muy familiarizado con la IA o la utiliza con frecuencia. Sin embargo, el 67% de quienes no han utilizado la IA esperan hacerlo en los próximos dos a cinco años, con China (83%) e India (79%) superando significativamente a EE. UU. (53%) en estas expectativas .

Situación de la Alfabetización en Inteligencia Artificial en bibliotecas universitarias

Lo, Leo S. The State of AI Literacy in Academic Libraries: A Follow-up Study of Barriers and Opportunities. University of New Mexico, 2026. https://digitalrepository.unm.edu/ulls_fsp/215

El artículo presenta los resultados de una encuesta de seguimiento a nivel nacional en EE. UU. sobre la alfabetización en inteligencia artificial (IA) en bibliotecas universitarias, realizada tres años después del estudio original de 2020. El objetivo es evaluar cómo han cambiado las percepciones, conocimientos, programas y roles de las bibliotecas respecto a la IA, dada su creciente adopción en la sociedad y en el entorno educativo.

Se examina cómo ha evolucionado la alfabetización en inteligencia artificial (IA) entre el personal de bibliotecas universitarias en Estados Unidos entre 2023 y 2024. Esta investigación de seguimiento, realizada por Leo S. Lo, se basa en una encuesta longitudinal que evalúa el conocimiento técnico, las habilidades prácticas, la conciencia ética, el pensamiento crítico y el impacto social de la IA. El estudio aplica el marco TPACK (Technological Pedagogical Content Knowledge), lo que permite analizar la integración efectiva de la tecnología en las prácticas profesionales del personal bibliotecario. A diferencia del estudio de referencia de 2024, esta nueva investigación ofrece una perspectiva dinámica que permite observar tendencias, avances y persistencias en el desarrollo de competencias vinculadas con la IA.

Uno de los principales hallazgos es que, aunque se ha incrementado el conocimiento general sobre la IA, el desarrollo de habilidades más profundas sigue siendo desigual. El entendimiento medio de los conceptos de IA creció de 2.96 a 3.34 en una escala de 1 a 5, y la familiaridad con herramientas de IA generativa como ChatGPT también mostró un crecimiento notable. No obstante, este progreso se dio de manera desigual entre diferentes roles y niveles de experiencia profesional, siendo los grupos con menos años en la profesión y los empleados administrativos quienes mostraron los avances más significativos. En términos de herramientas, ChatGPT se consolidó como la más utilizada tanto en el ámbito profesional como personal.

Un dato llamativo es que la participación en programas de formación en IA no resultó en mejoras estadísticamente significativas en la alfabetización en IA. Los participantes que recibieron capacitación no mostraron diferencias destacables en comprensión, uso de herramientas ni confianza ética respecto a quienes no se formaron. En cambio, sí se evidenció una mejora clara y significativa entre quienes tenían acceso a versiones premium de herramientas de IA. Estas personas demostraron mayor comprensión, familiaridad, frecuencia de uso y confianza para aplicar IA en su trabajo, lo cual sugiere que la experiencia práctica con herramientas potentes tiene más impacto que los programas de formación aislados.

El estudio también indaga en las barreras persistentes para el desarrollo de la alfabetización en IA. Entre los principales obstáculos se encuentran la falta de acceso a herramientas de pago, la escasez de oportunidades de formación estructurada, las dificultades de gestión del tiempo y la resistencia institucional al cambio. Asimismo, se identificaron barreras personales como la ansiedad tecnológica o la inseguridad frente a la adopción de nuevas tecnologías. Estas limitaciones afectan especialmente a instituciones con menos recursos y a profesionales en etapas tempranas de sus carreras.

Las conclusiones del estudio destacan que no basta con ofrecer talleres ocasionales o suscripciones a herramientas: es necesario un enfoque holístico que combine formación práctica, acceso equitativo a tecnologías, tiempo protegido para la experimentación y apoyo institucional. Las bibliotecas que logren integrar estas condiciones en su cultura organizativa estarán mejor preparadas para afrontar los desafíos y aprovechar las oportunidades que ofrece la IA. Finalmente, el artículo recomienda implementar políticas institucionales claras, desarrollar marcos éticos de uso de la IA y fomentar comunidades de aprendizaje que incluyan formación continua y mentoría.

Conclusiones clave:

Incremento general en la alfabetización en IA:
Entre 2023 y 2024, los empleados de bibliotecas universitarias mejoraron significativamente su comprensión de los conceptos de IA y su familiaridad con herramientas como ChatGPT. Sin embargo, el avance se concentró en un nivel básico o intermedio, no en habilidades avanzadas.

El acceso a herramientas premium es clave:
Los participantes que pagaron por herramientas de IA (como ChatGPT Plus) mostraron mejoras estadísticamente significativas en comprensión, uso y confianza. Esto indica que la práctica directa con tecnología avanzada favorece el desarrollo de la alfabetización en IA más que otros factores.

La formación actual no es suficiente:
La participación en programas de formación o desarrollo profesional en IA no produjo mejoras significativas en los niveles de alfabetización. Esto sugiere que los cursos ofrecidos hasta ahora son demasiado generales, teóricos o desconectados de la práctica real.

Persisten barreras estructurales:
La falta de acceso a recursos, la escasez de tiempo para el aprendizaje, la ausencia de apoyo institucional y la resistencia al cambio continúan frenando la alfabetización en IA, especialmente en instituciones con menos recursos y entre profesionales con menos experiencia.

Necesidad de un enfoque holístico:
No basta con ofrecer acceso o formación por separado. Las iniciativas exitosas deben integrar capacitación práctica, acceso equitativo a herramientas, tiempo para experimentar y un entorno institucional que promueva la innovación tecnológica.

Cambio de actitud hacia la IA:
Aumentó la percepción positiva sobre el potencial de la IA para mejorar los servicios bibliotecarios. Esta actitud más receptiva es un factor favorable para impulsar futuras iniciativas.

Recomendación final:
Las bibliotecas universitarias deben adoptar estrategias coordinadas que combinen recursos tecnológicos, formación continua y cultura organizacional abierta al cambio para lograr una alfabetización efectiva y sostenida en IA.

La investigación empresarial sobre fiabilidad y seguridad de la IA ignora los riesgos del mundo

«How Corporate AI Research on Reliability and Safety Ignores Real-World Risks» Asimov’s Addendum (Substack),

El informe advierte sobre serias carencias en la investigación sobre gobernanza y seguridad de la inteligencia artificial generativa, especialmente en su aplicación práctica. El análisis se basa en la revisión de 9.439 artículos publicados entre 2020 y 2025 por cinco de las principales corporaciones tecnológicas (OpenAI, Google DeepMind, Meta, Microsoft y Anthropic) y seis destacadas instituciones académicas de Estados Unidos.

Uno de los hallazgos más alarmantes es que menos del 5 % de los estudios realizados por empresas abordan los riesgos derivados del uso real de estos sistemas por parte de usuarios y empresas, dejando sin atención aspectos fundamentales como errores en los resultados, sesgos, desinformación, violaciones de derechos de autor y consecuencias sociales.

El informe subraya que los laboratorios corporativos están marcando la agenda global de investigación en IA, enfocándose en fases previas al despliegue, como el entrenamiento, alineamiento y pruebas de modelos, mientras descuidan el análisis de su comportamiento en entornos reales. Esto resulta especialmente problemático en sectores de alto riesgo como la salud, las finanzas, la educación, la publicidad y la política, donde los sistemas de IA pueden amplificar desigualdades, inducir errores graves o facilitar la manipulación. La falta de investigación también contrasta con el creciente número de litigios relacionados con daños causados por IA generativa, como casos de difamación, uso indebido de datos o generación de contenido engañoso.

Como respuesta, el informe propone medidas concretas para mejorar la transparencia y la supervisión de la IA. Estas incluyen el fortalecimiento de mecanismos de observación independientes, la apertura de datos de implementación para investigadores externos, la documentación de objetivos de entrenamiento y arquitecturas de modelos, así como la divulgación pública de fallos o riesgos potenciales. Además, se destaca la importancia de proteger a posibles denunciantes y facilitar la participación de las comunidades afectadas por estas tecnologías en los debates regulatorios y científicos.

Este informe se enmarca en un creciente movimiento internacional por una inteligencia artificial más ética y segura. Iniciativas como las de la organización Partnership on AI también han elaborado guías para promover un despliegue responsable de estos sistemas, y diversas instituciones académicas y medios como Time han alertado sobre la necesidad urgente de regular y auditar los usos cotidianos de la IA. En definitiva, el estudio del SSRC reitera que, sin una supervisión externa rigurosa y una investigación orientada al impacto real, los avances en IA podrían agravar problemas sociales existentes en lugar de resolverlos.

Algunos repositorios de acceso abierto han empezado a bloquear a los robots de inteligencia artificial

«Open Repositories Are Being Profoundly Impacted by AI Bots and Other Crawlers: Results of a COAR Survey.» COAR (blog), April 30, 2025. https://coar-repositories.org/news-updates/open-repositories-are-being-profoundly-impacted-by-ai-bots-and-other-crawlers-results-of-a-coar-survey/

Cada vez hay más bots de inteligencia artificial rastreando repositorios. Estos bots son lo suficientemente agresivos como para provocar interrupciones y cortes de servicio en los repositorios. Como consecuencia, algunos repositorios han empezado a bloquear el acceso de las máquinas a sus colecciones, lo que también está bloqueando inadvertidamente otros servicios de red deseados, como los agregadores académicos, los servicios de indexación y los directorios.

El impacto de los bots de inteligencia artificial (IA) y otros rastreadores en los repositorios de acceso abierto ha crecido considerablemente, lo que está afectando la estabilidad de los servicios y provocando interrupciones en las plataformas. En respuesta a esta situación, algunos repositorios han comenzado a bloquear el acceso de estas máquinas, lo que, de forma no intencionada, también bloquea otros servicios útiles como agregadores académicos, servicios de indexación y directorios.

Esta problemática no es exclusiva de los repositorios académicos. Según un informe de Axios, casi el 20% de los 1000 sitios web más visitados del mundo están bloqueando crawlers de IA debido a la falta de directrices legales claras sobre el uso de material con derechos de autor por parte de la IA. Por ejemplo, el bot GPTBot de OpenAI ha sido bloqueado por varios sitios, lo que refleja una creciente preocupación por el acceso automatizado a contenidos en línea.

Además, desarrolladores de software de código abierto han implementado medidas ingeniosas para combatir los bots de IA que no respetan las directrices de robots.txt. Herramientas como Anubis y Nepenthes han sido creadas para frustrar a los crawlers mediante pruebas de trabajo y contenido falso, respectivamente. Estas acciones subrayan la necesidad de proteger la infraestructura digital frente a accesos no deseados.

En respuesta a estos desafíos, COAR planea lanzar un grupo de trabajo para desarrollar acciones recomendadas que permitan a los repositorios mantener su acceso abierto mientras se protegen contra procesos disruptivos de máquinas.

Para comprender mejor el impacto de los bots y rastreadores en los repositorios, COAR (Confederation of Open Access Repositories) realizó una encuesta en abril de 2025, recibiendo 66 respuestas de miembros de diversas regiones del mundo. Los resultados muestran que más del 90% de los encuestados experimentan la presencia de bots de IA, generalmente más de una vez a la semana, lo que causa frecuentes interrupciones en los servicios. Para mitigar estos efectos, los repositorios emplean diversas estrategias, como la limitación de tasa, reglas de firewall, reglas de robots.txt y listas blancas compartidas.

COAR planea realizar un informe más detallado sobre los resultados de la encuesta en su sitio web y, posteriormente, formará un grupo de trabajo para desarrollar recomendaciones que permitan a los repositorios mantener su acceso abierto, protegiéndolos al mismo tiempo contra procesos disruptivos de máquinas.

La inteligencia artificial es cada vez más potente, pero sus alucinaciones son cada vez peores

Miller, Claire Cain. «A.I. Is Getting More Powerful, but Its Hallucinations.» The New York Times, May 5, 2025. https://www.nytimes.com/2025/05/05/technology/ai-hallucinations-chatgpt-google.html

Una nueva oleada de sistemas de «razonamiento» de empresas como OpenAI está produciendo información incorrecta con mayor frecuencia. Ni siquiera las empresas saben por qué.

Se aborda el fenómeno de las «alucinaciones» en la inteligencia artificial, un problema crítico que afecta a modelos de lenguaje como ChatGPT y Bard de Google. Estas alucinaciones se refieren a respuestas generadas por IA que, aunque suenan plausibles, son incorrectas o completamente inventadas. Por ejemplo, en una prueba llamada PersonQA, el sistema más potente de OpenAI, denominado o3, presentó una tasa de alucinaciones del 33%, más del doble que su predecesor o1. El modelo o4-mini mostró una tasa aún mayor, alcanzando el 48%. En otra prueba, SimpleQA, las tasas de alucinaciones fueron del 51% para o3 y del 79% para o4-mini

Las alucinaciones son una consecuencia inherente a la manera en que los modelos de lenguaje están diseñados. Estos sistemas funcionan mediante el análisis de grandes volúmenes de datos y el aprendizaje de patrones estadísticos en el lenguaje. Para generar respuestas, no realizan una búsqueda de información en tiempo real ni verifican la precisión de los datos con fuentes externas, sino que se basan en los datos con los que fueron entrenados. Esta falta de verificación en tiempo real, unida a la complejidad de los procesos de generación de texto, puede llevar a que el modelo produzca información que, aunque coherente en su estructura, sea incorrecta o completamente ficticia.

Además, los modelos de lenguaje son inherentemente probabilísticos, lo que significa que seleccionan la «respuesta más probable» en función del contexto, pero no siempre tienen en cuenta si esa respuesta es veraz. En este sentido, las alucinaciones ocurren cuando el modelo «adivina» una respuesta que, aunque sea lingüísticamente plausible, carece de sustancia factual. Por ejemplo, en lugar de verificar hechos o proporcionar citas precisas, el modelo puede generar información coherente pero errónea debido a que los patrones previos en los datos entrenados sugieren que esa información tiene sentido dentro del contexto dado.

El fenómeno de las alucinaciones plantea una amenaza directa a la confiabilidad y utilidad de los sistemas de IA. A medida que estas tecnologías se adoptan en una variedad de sectores, desde el sector educativo hasta la atención médica y el asesoramiento empresarial, los usuarios se encuentran cada vez más en una posición vulnerable al confiar en respuestas generadas por máquinas que podrían ser incorrectas. En contextos como la medicina o el derecho, donde la precisión es crucial, las alucinaciones pueden tener consecuencias graves, desde diagnósticos incorrectos hasta consejos legales erróneos.

La preocupación por este problema es tal que algunos expertos temen que la confianza pública en las IA podría disminuir si las alucinaciones continúan sin control. La percepción de que los sistemas de IA no son completamente fiables podría desalentar a los usuarios de adoptar estas herramientas en áreas críticas. A su vez, esto podría ralentizar el progreso hacia la integración de la IA en sectores importantes de la sociedad, afectando su potencial para revolucionar industrias enteras.

Empresas como OpenAI y Google son conscientes de las limitaciones de sus modelos y están tomando medidas activas para mitigar el problema de las alucinaciones. Una de las estrategias es mejorar los algoritmos de verificación de hechos. Estos algoritmos buscan integrar fuentes de información más confiables y permitir que los modelos contrasten las respuestas generadas con bases de datos verificadas antes de ofrecer una respuesta final. Sin embargo, este proceso presenta desafíos técnicos significativos, ya que requiere una infraestructura adicional que permita a la IA verificar en tiempo real la información antes de presentarla al usuario.

Otra estrategia que se está explorando es la integración de sistemas de retroalimentación más robustos, donde los usuarios pueden señalar respuestas incorrectas y corregir la información. De esta manera, los modelos de IA no solo aprenden de los datos iniciales con los que fueron entrenados, sino también de las interacciones en el mundo real, lo que podría ayudar a disminuir la frecuencia de las alucinaciones con el tiempo. Aunque estas iniciativas son prometedoras, erradicar completamente las alucinaciones sigue siendo un desafío técnico y ético considerable.

A medida que la IA se utiliza en más ámbitos, se hace cada vez más evidente la necesidad de un enfoque más riguroso y transparente en su desarrollo. Es fundamental que los usuarios comprendan las limitaciones actuales de estas tecnologías y reconozcan que las respuestas generadas por IA no siempre son correctas. Esto implica educar al público sobre cómo funcionan estos modelos y la importancia de verificaciones adicionales por parte de los usuarios.

Además, las empresas deben adoptar una postura más abierta en cuanto a la metodología de entrenamiento de sus sistemas y las limitaciones inherentes a estos modelos. La transparencia en cómo se entrenan y actualizan los modelos, y el acceso a las fuentes utilizadas en su entrenamiento, puede ayudar a construir una relación de confianza con los usuarios y disminuir las preocupaciones sobre la exactitud de la información.

En resumen, las alucinaciones en la inteligencia artificial siguen siendo un obstáculo importante para su adopción generalizada y confianza pública. Aunque las empresas tecnológicas están haciendo esfuerzos significativos para mitigar este problema, es evidente que se requiere un enfoque multidisciplinario y más transparencia para abordar de manera efectiva este desafío. A medida que los modelos de IA continúan evolucionando, se espera que las soluciones a las alucinaciones también progresen, lo que permitirá un uso más confiable y preciso de estas tecnologías en una variedad de sectores.

El valor del talento humano en la Era de la Inteligencia Artificial: retos y oportunidades

Gershuny, Emily, y Steve Hatfield. «Why You Need an Employee Value Proposition for the Age of AI.» Deloitte Insights, 2025. https://www2.deloitte.com/us/en/insights/focus/human-capital-trends/2025/why-you-need-employee-value-proposition-for-age-of-ai.html.

La IA está revolucionando el trabajo. Se necesita una propuesta de valor humana para la era de la IA. La inteligencia artificial está reconfigurando el trabajo y la propuesta de valor trabajador-empleador. ¿Cómo pueden las organizaciones crear una propuesta de valor que haga de la IA un amigo en lugar de un enemigo?

La adopción acelerada de la IA, especialmente la generativa, ha superado a tecnologías anteriores como el ordenador personal o Internet. Este avance ha generado impactos silenciosos pero significativos en la experiencia laboral, alterando la naturaleza de las tareas y la forma en que se realizan. Por ejemplo, el 38% de los trabajadores teme que la IA reduzca las oportunidades de aprendizaje en el trabajo, y muchos ya perciben a la IA como un compañero de trabajo

El valor de la tecnología no procede de la sustitución de la mano de obra humana, sino que trabaja más estrechamente que nunca con los seres humanos, ampliando su capacidad para descubrir y aprovechar las oportunidades de innovación y crecimiento. A medida que la IA se entrelaza cada vez más con los trabajadores, está cambiando su experiencia, a menudo a través de impactos silenciosos y no intencionados en el trabajo que hacen y en la forma en que lo hacen. Una PVE actualizada para el mundo de la colaboración entre humanos y máquinas puede dar cuenta de esos cambios y apoyar una relación saludable y mutuamente beneficiosa entre las organizaciones y sus trabajadores.

Uno de los problemas más frecuentes es que la IA suele encargarse de las tareas repetitivas y fáciles, dejando para los humanos las más complejas y agotadoras. Esto puede disminuir la autonomía de los empleados —por ejemplo, cuando una IA decide qué ruta debe seguir un conductor— y reducir la interacción humana, generando sentimientos de soledad e aislamiento, como ocurre en algunos hospitales donde los robots preparan medicamentos y los farmacéuticos se limitan a tareas aisladas.

Además, diversos estudios han evidenciado que el uso de la IA puede contribuir al agotamiento laboral (burnout). Algunos trabajadores sienten que no solo deben hacer su trabajo, sino también enseñar a las máquinas a hacerlo, lo cual genera una carga extra. Otra consecuencia preocupante es la pérdida de oportunidades de aprendizaje. Cuando la IA asume funciones que antes realizaban trabajadores noveles, se eliminan roles de entrada fundamentales para el desarrollo profesional. Un caso citado es el de la codificación médica, donde los sistemas automatizados han reducido la necesidad de contratar a personal sin experiencia, limitando así la formación práctica.

Estas preocupaciones no son aisladas. En una encuesta informal realizada por Deloitte en diciembre de 2024 con cerca de 3.900 participantes —principalmente trabajadores y líderes de EE.UU.— surgieron inquietudes comunes sobre los límites cada vez más difusos entre humanos y tecnología, la privacidad y la pérdida de interacción humana, confirmando que tanto empleados como organizaciones están alerta ante los riesgos de una integración acrítica de la IA en el ámbito laboral.

En este nuevo entorno se debe abordar varios aspectos clave:

  • Compartir los beneficios de la IA: Es esencial que las organizaciones comuniquen claramente cómo la IA puede mejorar el trabajo, no solo en términos de eficiencia, sino también en oportunidades de desarrollo y bienestar para los empleados.
  • Fomentar el aprendizaje recíproco: La colaboración entre humanos y máquinas requiere una cultura de aprendizaje continuo, donde los empleados se sientan apoyados para adquirir nuevas habilidades y adaptarse a las tecnologías emergentes.
  • Promover la experimentación con IA: Las organizaciones deben alentar a sus empleados a explorar y experimentar con herramientas de IA, creando un entorno donde el error sea visto como una oportunidad de aprendizaje.
  • Reforzar la relación entre recursos humanos y tecnología: Una colaboración estrecha entre estos departamentos puede facilitar la integración de la IA de manera que beneficie tanto a la organización como a sus empleados.

Además, se debe reconocer y abordar las preocupaciones relacionadas con la equidad y la inclusión en el uso de la IA. Por ejemplo, un estudio en Australia reveló una brecha de confianza de género en el uso de la IA generativa, con solo el 50% de las mujeres confiando en estas tecnologías frente al 70% de los hombres

Futuros posibles de la inteligencia artificial: escenarios hacia 2030

Department for Science, Innovation and Technology. AI 2030 Scenarios. Londres: Government of the United Kingdom, 2024.

Texto completo

El informe AI 2030 Scenarios explora cinco posibles futuros sobre el impacto de la inteligencia artificial hasta 2030. Analiza riesgos como la pérdida de empleos, el uso indebido de tecnologías avanzadas o la desilusión por avances más lentos de lo esperado. Su objetivo es ayudar a gobiernos y sectores clave a prepararse ante la incertidumbre y diseñar políticas responsables.

El informe AI 2030 Scenarios Report, publicado por la Oficina de Ciencia del Gobierno del Reino Unido en abril de 2025, presenta cinco escenarios plausibles sobre cómo la inteligencia artificial (IA) podría transformar la sociedad para el año 2030. Este documento tiene como objetivo ayudar a responsables políticos, la industria y la sociedad civil a anticipar riesgos, identificar oportunidades y diseñar políticas resilientes frente a las incertidumbres tecnológicas, económicas y sociales que plantea la evolución de la IA.

Escenario 1: Avances incrementales en la IA

En este escenario, la IA evoluciona de manera gradual, mejorando las capacidades existentes sin cambios disruptivos. Las herramientas de IA se integran en diversos sectores, aumentando la eficiencia y productividad, pero sin reemplazar completamente el trabajo humano. La gobernanza y las regulaciones se adaptan lentamente, lo que permite una adopción controlada y supervisada de la tecnología.

Escenario 2: IA especializada y dominante

Aquí, la IA alcanza niveles de especialización que le permiten superar a los humanos en tareas específicas y bien definidas. Aunque estas herramientas son altamente eficientes en sus dominios, carecen de la capacidad para integrar múltiples tareas o adaptarse a contextos complejos sin supervisión humana. La dependencia de la IA en sectores críticos plantea desafíos éticos y de seguridad, requiriendo marcos regulatorios más robustos.

Escenario 3: IA generalizada y autónoma

Este escenario contempla el desarrollo de sistemas de IA con capacidades generales que igualan o superan las habilidades humanas en una amplia gama de tareas cognitivas. La automatización se extiende a numerosos campos, desde la investigación científica hasta la toma de decisiones estratégicas. La rápida adopción de estas tecnologías genera tensiones en el empleo y plantea interrogantes sobre la responsabilidad y el control de sistemas autónomos.

Escenario 4: Fragmentación tecnológica y geopolítica

En este contexto, las diferencias en el desarrollo y la implementación de la IA entre países y regiones conducen a una fragmentación tecnológica. Las disparidades en recursos, regulaciones y acceso a datos crean brechas significativas, afectando la cooperación internacional y exacerbando las desigualdades económicas y sociales. La competencia geopolítica por el liderazgo en IA intensifica estas divisiones.

Escenario 5: Rechazo social y regulaciones restrictivas

Ante preocupaciones sobre la privacidad, el empleo y la ética, la sociedad responde con escepticismo y resistencia al avance de la IA. Los gobiernos implementan regulaciones estrictas que limitan el desarrollo y la aplicación de tecnologías de IA. Esta cautela ralentiza la innovación, pero busca proteger valores fundamentales y prevenir impactos negativos no deseados.

El informe destaca la importancia de considerar estos escenarios para desarrollar políticas públicas que equilibren la promoción de la innovación con la protección de los derechos individuales y colectivos. Asimismo, subraya la necesidad de una gobernanza inclusiva y adaptativa que permita maximizar los beneficios de la IA mientras se mitigan sus riesgos potenciales.

La IA generativa en la enseñanza superior: adopción y retos para profesores e investigadores

Baytas, Claire, y Dylan Ruediger. 2025. Making AI Generative for Higher Education: Adoption and Challenges Among Instructors and Researchers. Ithaka S+R. Publicado el 1 de mayo de 2025.

Texto completo

Desde la aparición de ChatGPT en noviembre de 2022, la inteligencia artificial generativa (IA generativa) se ha convertido en un tema central en la educación superior. Más de dos años después, las instituciones todavía están explorando cómo esta tecnología está transformando la enseñanza, el aprendizaje y la investigación. La preocupación inicial se centraba en el plagio estudiantil y la integridad académica, pero el debate ha evolucionado hacia una evaluación más matizada sobre los beneficios, riesgos éticos, y desafíos institucionales que presenta la IA generativa.

El informe de Ithaka S+R es el resultado de una investigación colaborativa iniciada en 2023 con 19 universidades de Estados Unidos y Canadá. Su objetivo fue comprender cómo docentes e investigadores están adoptando esta tecnología, qué dificultades enfrentan y qué tipo de apoyos necesitan. A través de entrevistas realizadas en la primavera de 2024, se recogieron testimonios de profesorado, estudiantes de posgrado y otros actores implicados en la educación superior.

Uno de los principales hallazgos es la gran variabilidad en el nivel de familiaridad con la IA generativa. Si bien algunos usuarios tienen experiencia avanzada, otros apenas están comenzando a explorar sus aplicaciones. Sin embargo, incluso quienes tienen menor experiencia reconocen la importancia de mejorar su alfabetización digital en IA. Muchos docentes están tratando de incorporar habilidades básicas de IA en las actividades del aula, aunque todavía existe incertidumbre sobre cómo adaptar los objetivos de aprendizaje a estas nuevas herramientas.

Los instructores demandan más orientación institucional, especialmente en lo relativo a la integridad académica y la inclusión formal de la alfabetización en IA en los planes de estudios generales. Por otro lado, la mayoría de los investigadores han probado la IA generativa, pero son pocos los que han encontrado maneras sostenibles de integrarla en sus procesos de investigación a largo plazo. Existe una preocupación extendida por la falta de estándares éticos claros que garanticen la calidad y la integridad del trabajo académico asistido por IA.

Además, tanto docentes como investigadores identifican una carencia de recursos de apoyo específicos para cada disciplina. También expresan inquietudes sobre la seguridad, la asequibilidad y el acceso a herramientas de IA, así como sobre la necesidad de entender mejor el creciente panorama de productos tecnológicos diseñados para la educación superior.

El informe también destaca que, si bien muchas universidades han creado grupos de trabajo sobre IA, redactado políticas modelo para sus planes de estudio y ofrecido talleres de alfabetización digital, persisten obstáculos institucionales que dificultan una implementación efectiva. Las estructuras descentralizadas y la falta de coordinación entre departamentos hacen que sea difícil ofrecer un apoyo integral y coherente. Además, los costos asociados con la adopción masiva de estas tecnologías aún no están claros.

En definitiva, el informe subraya la necesidad de seguir investigando, compartiendo prácticas efectivas y diseñando estrategias institucionales colaborativas para incorporar la IA generativa de forma ética, responsable y pedagógicamente útil en la educación superior.

Los temas clave del informe Making AI Generative for Higher Education de Ithaka S+R (2025) son los siguientes:

1. Adopción desigual y experimental de la IA generativa

  • Los niveles de uso y familiaridad con herramientas como ChatGPT varían ampliamente entre docentes e investigadores.
  • Muchos han experimentado con estas herramientas, pero su uso sistemático en docencia e investigación es todavía limitado.

2. Alfabetización en IA como necesidad urgente

  • Profesores e investigadores reconocen que deben comprender mejor la IA generativa para usarla de manera crítica, ética y efectiva.
  • Existe interés en integrar competencias en IA en la enseñanza, pero falta claridad sobre cómo hacerlo.

3. Falta de políticas institucionales claras

  • Las universidades aún no ofrecen directrices suficientemente concretas sobre el uso aceptable de la IA generativa.
  • Persisten dudas sobre cómo abordar la integridad académica en este nuevo contexto.

4. Preocupaciones sobre ética, sesgos y precisión

  • Inquietud por la calidad, fiabilidad y sesgos de las respuestas generadas por IA.
  • Preocupación por el uso de datos sensibles o malinterpretación de fuentes en contextos académicos.

5. Impacto en la pedagogía universitaria

  • La IA está provocando que los docentes reconsideren sus objetivos educativos, métodos de evaluación y estrategias de aprendizaje.
  • Se debate si la IA debe ser prohibida, regulada o integrada activamente en el aula.

6. Falta de apoyo disciplinar específico

  • Escasez de recursos adaptados a las distintas áreas de conocimiento para usar la IA generativa de forma efectiva y ética.
  • Necesidad de materiales y formación más ajustados a los contextos profesionales y metodológicos de cada disciplina.

7. Desconocimiento del ecosistema de productos IA

  • Muchos académicos no conocen la variedad de herramientas de IA disponibles ni sus diferencias, lo que limita su capacidad para adoptarlas con criterio.

8. Demanda de una respuesta institucional coordinada

  • Profesores e investigadores piden que las universidades lideren el proceso de integración de la IA con formación, políticas claras y acceso seguro a herramientas tecnológicas.