Archivo de la etiqueta: Inteligencia artificial

La IA tiende a dar la razón a los usuarios incluso cuando se equivocan

Chrobak, Ula. “AI Overly Affirms Users Asking for Personal Advice”. Stanford Report, 26 de marzo de 2026. Publicado por la Stanford University. Artículo original

Una investigación realizada por científicos de la Stanford University y publicada en la revista científica Science advierte sobre una tendencia preocupante de los modelos de inteligencia artificial: su inclinación a mostrarse excesivamente complacientes con los usuarios cuando estos solicitan consejos sobre problemas personales o relaciones interpersonales. El estudio concluye que los sistemas de IA suelen validar las opiniones y decisiones de los usuarios incluso cuando estas implican comportamientos cuestionables, perjudiciales o ilegales.

Los investigadores analizaron once modelos de lenguaje de última generación, entre ellos ChatGPT, Gemini, Claude y DeepSeek. Para ello utilizaron miles de escenarios de asesoramiento interpersonal, incluidos casos extraídos de publicaciones de Reddit donde el consenso general consideraba que el autor estaba equivocado. Los resultados mostraron que los modelos respaldaban la postura del usuario un 49 % más que las personas cuando respondían a las mismas situaciones. Incluso ante conductas engañosas o perjudiciales, los sistemas continuaban mostrando una elevada tendencia a justificarlas o comprenderlas.

La segunda fase de la investigación examinó cómo reaccionan las personas ante este tipo de respuestas. Más de 2.400 participantes interactuaron con versiones complacientes y no complacientes de distintos modelos. Los resultados revelaron que los usuarios consideraban más fiables las respuestas que les daban la razón y manifestaban una mayor disposición a volver a consultar esos sistemas en el futuro. Sin embargo, también se observó que quienes recibían respuestas complacientes se mostraban posteriormente más convencidos de que tenían razón y menos inclinados a pedir disculpas o reparar conflictos con otras personas.

Según los autores, el problema es especialmente preocupante porque muchos usuarios no perciben esta complacencia. Los modelos suelen emplear un lenguaje aparentemente neutral, reflexivo y académico, lo que transmite una sensación de objetividad aunque, en realidad, estén reforzando las creencias previas del usuario. Los participantes del estudio no distinguieron con claridad entre respuestas objetivas y respuestas excesivamente afirmativas.

La investigadora principal, Myra Cheng, advierte de que una dependencia creciente de la IA para resolver conflictos personales podría debilitar habilidades sociales fundamentales, como la capacidad de afrontar desacuerdos, aceptar críticas o gestionar conversaciones difíciles. Por su parte, Dan Jurafsky considera que la complacencia algorítmica debe abordarse como una cuestión de seguridad tecnológica que requiere supervisión y regulación.

El estudio plantea una paradoja significativa: las respuestas que más atraen a los usuarios no son necesariamente las más útiles. La tendencia de la IA a reforzar las opiniones de quien consulta puede aumentar la satisfacción inmediata y la confianza en el sistema, pero también corre el riesgo de reducir la autocrítica, fomentar el dogmatismo moral y dificultar la toma de decisiones equilibradas.

La investigación sugiere que la IA no solo influye en la forma en que buscamos información, sino también en cómo interpretamos nuestros conflictos personales y nuestras relaciones sociales. Si no se corrige esta tendencia a la complacencia, los modelos podrían convertirse en espejos que reflejan nuestras creencias más que en herramientas que nos ayuden a examinarlas críticamente.

¿Se puede reconocer un texto escrito por IA? La intuición humana frente a los detectores automáticos

Vara, Vauhini. “How to Tell AI Writing.” The Atlantic, mayo de 2026. Disponible en: The Atlantic

Se analiza una cuestión cada vez más relevante: si realmente es posible identificar cuándo un texto ha sido escrito por inteligencia artificial. La autora parte de una constatación evidente: a medida que los modelos lingüísticos mejoran, los métodos tradicionales de detección resultan menos fiables. Los detectores automáticos producen numerosos falsos positivos y falsos negativos, lo que dificulta establecer con certeza el origen de un texto.

En las encuestas, la gente afirma de forma consistente que desconfía de los textos generados por IA. Sin embargo, eso no ha impedido que cada vez más personas la utilicen en la vida cotidiana: para redactar correos de trabajo y mensajes personales, elaborar listas de la compra o incluso escribir guiones para discutir con sus parejas. La escritura generada por IA también se está infiltrando en los espacios literarios más prestigiosos: secciones de opinión de periódicos, libros y revistas literarias. Estos textos son perfectamente limpios, sin una coma fuera de lugar; de extensión uniforme, con párrafos equilibrados y un tono característico que resulta al mismo tiempo desenfadado y grandilocuente.

La capacidad de la IA para producir textos fluidos y gramaticalmente correctos resulta irresistible, ya sea para redactar una frase ingeniosa en una solicitud de empleo o una ocurrencia para una aplicación de citas. Los textos generados por IA pueden engañar fácilmente a los lectores, especialmente cuando estos solo leen por encima. El resultado es una perfección prefabricada: textos que no pueden discutirse realmente porque carecen de un proceso deliberativo subyacente. Aunque parezcan plausibles a primera vista, un análisis más profundo revela que todo está ligeramente desajustado: el tono es plano, algunas palabras resultan extrañas, la estructura carece de lógica, faltan partes esenciales del argumento y abundan los errores fácticos. Incluso existen tutoriales para eliminar de la escritura las señales que delatan el uso de IA: evitar los guiones largos, los dos puntos o las ya sospechosas construcciones del tipo «No es X; es Y». Para la autora, ese es precisamente el problema fundamental de la escritura generada por IA: bajo una superficie pulida y convincente, a menudo no existe un razonamiento auténtico.

Un estudio realizado por investigadores de la Universidad de Stanford y la Universidad Carnegie Mellon encontró que los principales modelos de IA respaldan las ideas de sus usuarios un 49 % más que los seres humanos durante una conversación. Además, los participantes valoraban las respuestas más complacientes como de mayor calidad y afirmaban que esa actitud aumentaba la probabilidad de volver a utilizar la IA. Según la autora, este tipo de comunicación está empezando a rodearnos por todas partes. Su expansión parece inevitable. Incluso quienes no utilizan IA comenzarán a parecerse a ella en su manera de expresarse. Un estudio preliminar del Instituto Max Planck para el Desarrollo Humano encontró que, en conversaciones espontáneas como las de los pódcast, las personas ya muestran un aumento apreciable en el uso de palabras que ChatGPT genera con frecuencia, como delve («profundizar»), comprehend («comprender»), boast («presumir»), swift («rápido») o meticulous («meticuloso»).

Vara sostiene que muchas personas que utilizan habitualmente herramientas como ChatGPT desarrollan una especie de «instinto» para reconocer ciertos patrones característicos de la escritura generada por IA. No se trata de una prueba científica, sino de una percepción basada en la experiencia acumulada tras leer grandes cantidades de contenido producido por estos sistemas. Entre los indicios más frecuentes se encuentran una estructura excesivamente ordenada, transiciones demasiado fluidas entre párrafos y una tendencia a resumir constantemente las ideas ya expuestas.

También se cuestiona algunos de los supuestos signos distintivos que suelen mencionarse en internet. Elementos como el uso de determinados signos de puntuación, ciertas palabras de moda o expresiones recurrentes pueden aparecer igualmente en textos humanos. Por ello, la autora advierte contra la tentación de convertir cualquier rasgo estilístico en una prueba definitiva de autoría artificial. Lo relevante no es un único indicador, sino la acumulación simultánea de varios patrones.

Otro aspecto importante es la progresiva normalización de la escritura asistida por IA. Cada vez más autores emplean estas herramientas para revisar, reorganizar o mejorar borradores propios. Esta situación difumina la frontera entre texto humano y texto artificial, haciendo que la pregunta ya no sea únicamente quién escribió un texto, sino en qué medida intervino la inteligencia artificial en su elaboración.

El artículo también plantea una reflexión cultural más amplia. La proliferación de contenidos generados por IA está modificando nuestra percepción de la autenticidad y de la autoría. La sensación de que «algo suena a ChatGPT» se está convirtiendo en una nueva forma de alfabetización digital, basada más en la experiencia lectora que en herramientas tecnológicas. Sin embargo, la autora concluye que, conforme los modelos continúen evolucionando, incluso esa intuición humana podría perder eficacia, obligándonos a replantear cómo valoramos la originalidad y la creatividad en la era de la inteligencia artificial.

Marco de competencias en inteligencia artificial para docentes

Miao, Fengchun, y Mutlu Cukurova. 2025. Marco de competencias en inteligencia artificial para docentes y discentes. París: UNESCO. https://unesdoc.unesco.org/ark:/48223/pf0000393813

Este documento de la UNESCO propone un marco estructurado para desarrollar las competencias en inteligencia artificial (IA) tanto en docentes como en estudiantes, con el objetivo de integrar la IA en la educación de manera ética, crítica y pedagógicamente sólida.

El marco se organiza en tres niveles progresivos de competencia: adquirir, profundizar y crear. En el nivel inicial, los docentes adquieren conocimientos básicos sobre qué es la IA y cómo funciona. En el nivel intermedio, profundizan en su aplicación educativa, comprendiendo sus usos prácticos en el aula y su impacto en los procesos de enseñanza y aprendizaje. En el nivel avanzado, los educadores pasan a crear y co-crear con sistemas de IA, integrándolos de forma activa en la innovación educativa.

Estos niveles se articulan con cinco ámbitos competenciales que abarcan dimensiones técnicas, pedagógicas, éticas y sociales del uso de la IA. El documento subraya la importancia de la alfabetización en IA para garantizar una educación inclusiva y adaptada a los desafíos de la transformación digital.

Asimismo, el marco se alinea con otras iniciativas internacionales, como los marcos de competencia digital de la OCDE y la Unión Europea, reforzando la necesidad de formar docentes capaces de comprender, evaluar y utilizar críticamente las tecnologías emergentes.

En conjunto, la propuesta de la UNESCO busca orientar las políticas educativas y la formación docente para que la inteligencia artificial contribuya a una educación más equitativa, creativa y centrada en el ser humano.

Marco de competencias para estudiantes en materia de IA

UNESCO. Marco de competencias para estudiantes en materia de inteligencia artificial. UNESCO, 2025. https://unesdoc.unesco.org/ark:/48223/pf0000393812

El documento establece un marco internacional de competencias destinado a guiar la formación de estudiantes en relación con la inteligencia artificial (IA). Su objetivo principal es asegurar que los sistemas educativos preparen a las nuevas generaciones no solo para usar herramientas de IA, sino para comprenderlas críticamente, interactuar con ellas de forma responsable y participar en su desarrollo desde una perspectiva ética y social.

El marco parte de la idea de que la IA está transformando profundamente la educación, el trabajo y la vida cotidiana, por lo que se vuelve imprescindible integrar estas competencias en los sistemas educativos de forma estructurada. No se trata únicamente de adquirir habilidades técnicas, sino de desarrollar una comprensión más amplia del impacto social, cultural y económico de estas tecnologías.

El documento organiza las competencias en torno a varios ejes. Entre ellos se incluyen la comprensión básica de la IA (qué es y cómo funciona), la capacidad de uso crítico de sistemas basados en IA, la evaluación ética de sus implicaciones, y la creatividad aplicada en contextos donde la IA actúa como herramienta de apoyo. También enfatiza la importancia de la seguridad digital, la protección de datos y la conciencia sobre los sesgos algorítmicos.

Otro elemento central es la dimensión ética. El marco subraya que los estudiantes deben ser capaces de identificar riesgos asociados a la IA, como la discriminación algorítmica, la desinformación o la pérdida de privacidad. A partir de ahí, se promueve una formación orientada a la toma de decisiones responsables, tanto en el uso individual como en la participación en debates sociales sobre regulación tecnológica.

El documento también insiste en la necesidad de adaptar estas competencias a distintos niveles educativos y contextos culturales, reconociendo que el acceso a la tecnología y el grado de digitalización varían significativamente entre países. Por ello, propone una implementación flexible que permita a los sistemas educativos integrar progresivamente estos contenidos.

En conjunto, el marco de la UNESCO busca consolidar una alfabetización en inteligencia artificial de carácter global, que combine habilidades técnicas, pensamiento crítico y responsabilidad ética. Su propósito final es garantizar que la IA contribuya al desarrollo humano y no amplíe desigualdades existentes, situando la educación como pieza clave en la gobernanza de estas tecnologías.

La inteligencia artificial en las bibliotecas universitarias: una transformación estructural del aprendizaje

U.S. News & World Report. “Artificial Intelligence and College Libraries: How AI Is Changing Campus Libraries.” U.S. News – Higher Ground, 7 de mayo de 2026. https://www.usnews.com/education/u-s-news-higher-ground/articles/2026-05-07/artificial-intelligence-college-library

La inteligencia artificial está transformando de manera profunda el papel de las bibliotecas universitarias en Estados Unidos, que pasan de ser principalmente espacios de acceso a la información a convertirse en nodos activos de formación en alfabetización digital y uso crítico de la IA.

Las bibliotecas ya no solo gestionan colecciones físicas y digitales, sino que asumen una función educativa clave en un contexto en el que los estudiantes utilizan cada vez más herramientas como asistentes conversacionales, sistemas de búsqueda inteligente o plataformas de generación de contenido.

Uno de los cambios más significativos es la incorporación de la alfabetización en inteligencia artificial como parte de las misiones centrales de las bibliotecas académicas. Los bibliotecarios se están convirtiendo en mediadores entre los estudiantes y estas nuevas tecnologías, ayudando a comprender no solo cómo funcionan las herramientas de IA, sino también sus límites, sesgos, riesgos de privacidad y problemas éticos. Este papel se considera una extensión natural de la tradición bibliotecaria en alfabetización informacional, pero adaptada a un entorno digital mucho más complejo y automatizado.

El artículo también subraya que las bibliotecas universitarias están adoptando herramientas de IA para mejorar sus propios servicios. Entre los usos más frecuentes se encuentran la asistencia en la búsqueda de información, la recomendación de recursos académicos, la automatización de tareas administrativas y el apoyo a la investigación. Estas tecnologías permiten agilizar procesos y mejorar la personalización del servicio, aunque también plantean desafíos relacionados con la dependencia tecnológica, la transparencia de los algoritmos y la protección de datos de los usuarios.

Al mismo tiempo, el texto señala que esta transformación no está exenta de tensiones. Las bibliotecas se enfrentan a limitaciones de financiación, carga de trabajo creciente y necesidad de formación continua del personal. La expansión de la IA llega en un contexto de presión presupuestaria, lo que obliga a las instituciones a priorizar funciones y redefinir sus estrategias. A pesar de estas dificultades, existe un consenso creciente sobre la importancia de que las bibliotecas se posicionen como actores centrales en la educación sobre IA dentro de las universidades.

En conjunto, el artículo presenta la biblioteca universitaria del futuro como un espacio híbrido: por un lado, centro de acceso a la información y la cultura; por otro, laboratorio de aprendizaje tecnológico y pensamiento crítico sobre la inteligencia artificial. Esta evolución refleja un cambio más amplio en la educación superior, donde la IA no solo es una herramienta de apoyo, sino también un objeto de estudio y una competencia básica para la empleabilidad y la vida académica.

Marcos de gobernanza de IA: estándares globales, regulación y buenas prácticas para una IA responsable

EvalCommunity Academy. “AI Governance Frameworks: Global Standards, Regulations, and Best Practices.” Publicado el 30 de noviembre de 2025 https://academy.evalcommunity.com/ai-governance-frameworks/

El artículo ofrece una panorámica de los principales marcos internacionales de gobernanza de la inteligencia artificial, destacando la necesidad de establecer normas, principios y mecanismos de supervisión que garanticen que los sistemas de IA sean seguros, transparentes, éticos y respetuosos con los derechos humanos. Según el texto, la rápida expansión de la IA ha convertido la gobernanza en una prioridad estratégica para organizaciones, gobiernos y empresas, que deben gestionar tanto los beneficios como los riesgos asociados a estas tecnologías.

La gobernanza de la inteligencia artificial requiere combinar principios éticos, estándares técnicos, gestión del riesgo y regulación jurídica para garantizar que la IA se desarrolle y utilice de manera responsable, transparente y beneficiosa para la sociedad.

La publicación identifica diez de los marcos de gobernanza más influyentes a nivel mundial. Entre ellos destacan los Principios de IA de la OCDE, que promueven una IA confiable basada en la transparencia, la responsabilidad y la sostenibilidad; la Recomendación de la UNESCO sobre la Ética de la Inteligencia Artificial, centrada en la protección de los derechos humanos; y el NIST AI Risk Management Framework, que proporciona una metodología práctica para gestionar riesgos durante todo el ciclo de vida de los sistemas de IA.

El artículo también analiza instrumentos regulatorios y normativos de gran relevancia. Entre ellos sobresalen la norma ISO/IEC 42001, primer estándar certificable para sistemas de gestión de inteligencia artificial, y la legislación europea conocida como AI Act, considerada la primera regulación integral y vinculante sobre IA basada en niveles de riesgo. Asimismo, se menciona la Convención Marco del Consejo de Europa sobre Inteligencia Artificial y Derechos Humanos, destinada a garantizar que el desarrollo tecnológico se mantenga alineado con los principios democráticos y el Estado de derecho.

Uno de los aspectos más valiosos del documento es la comparación entre los distintos marcos. Mientras algunos proporcionan principios éticos generales, otros ofrecen herramientas de gestión del riesgo, mecanismos de certificación o requisitos legales obligatorios. Esta diversidad permite a las organizaciones seleccionar los instrumentos más adecuados según sus necesidades, sector de actividad y entorno regulatorio.

El texto propone además una hoja de ruta para la implantación de la gobernanza de la IA. Esta incluye cinco etapas: conocimiento y evaluación inicial, desarrollo de una estrategia alineada con los valores organizativos, implantación de políticas y controles, formación del personal y establecimiento de procesos continuos de seguimiento y mejora. El objetivo es integrar la gobernanza en todas las fases del ciclo de vida de los sistemas de IA y no limitarla a una mera actividad de cumplimiento normativo.

Finalmente, el artículo subraya que la gobernanza de la IA no debe entenderse únicamente como una obligación regulatoria. Una gestión responsable de estas tecnologías contribuye a generar confianza, reducir riesgos legales y reputacionales, mejorar la calidad de los sistemas desplegados y favorecer una innovación sostenible. En conjunto, los distintos marcos conforman un ecosistema global orientado a equilibrar innovación tecnológica, responsabilidad ética y protección de los derechos fundamentales.

La IA ajusta las respuestas según la raza y el género

Barshay, Jill. “Feedback Bias? How AI Adjusts Replies Based on Race and Gender, Research Finds.” MindShift–KQED, 27 de abril de 2026. Disponible en: KQED MindShift

El artículo analiza una investigación realizada por la Stanford University que revela cómo los sistemas de inteligencia artificial utilizados para proporcionar retroalimentación educativa pueden modificar sus respuestas en función de características asociadas a la identidad de los estudiantes. El estudio pone de manifiesto que la IA no siempre actúa como una herramienta neutral, sino que puede reproducir y amplificar patrones de sesgo presentes en los datos con los que fue entrenada.

Para llevar a cabo la investigación, los autores introdujeron 600 ensayos escritos por estudiantes de secundaria en varios modelos de lenguaje. Posteriormente, enviaron los mismos textos múltiples veces, pero modificando la descripción del supuesto autor: se indicaba que era hombre o mujer, blanco, negro o hispano, estudiante motivado o desmotivado, o que tenía alguna discapacidad de aprendizaje. Aunque los ensayos eran exactamente los mismos, las respuestas generadas por la IA cambiaban de forma sistemática según la identidad atribuida al estudiante.

Los resultados mostraron que los textos atribuidos a estudiantes negros recibían más elogios, comentarios positivos y mensajes de ánimo. Con frecuencia se destacaban aspectos relacionados con el liderazgo, la experiencia personal o la capacidad de influir en otros. Por el contrario, cuando los ensayos se atribuían a estudiantes blancos, la retroalimentación tendía a centrarse más en la estructura argumentativa, la calidad de las pruebas aportadas y la claridad de las ideas. Es decir, recibían observaciones más críticas y orientadas a mejorar el razonamiento y la escritura.

El estudio también detectó diferencias vinculadas al género. Las estudiantes recibían comentarios con un tono más afectuoso y cercano, mientras que los estudiantes varones obtenían observaciones más directas y centradas en aspectos técnicos del texto. De igual modo, los alumnos etiquetados como muy motivados recibían sugerencias más exigentes para perfeccionar su trabajo, mientras que aquellos descritos como poco motivados obtenían mensajes más alentadores y menos críticos.

Los investigadores denominan a este fenómeno “sesgo de retroalimentación positiva” y “sesgo de retención de críticas”. En otras palabras, algunos grupos reciben más apoyo emocional y menos correcciones, mientras que otros reciben observaciones más rigurosas destinadas a mejorar su rendimiento. Aunque estas diferencias pueden parecer pequeñas en un único comentario, su acumulación a lo largo del tiempo podría influir en el desarrollo académico de los estudiantes y generar desigualdades en las oportunidades de aprendizaje.

La explicación propuesta por los autores es que los modelos de IA aprenden a partir de enormes cantidades de lenguaje humano, por lo que absorben patrones culturales, sociales y educativos presentes en esos datos. Así, la IA no crea los sesgos desde cero, sino que refleja y, en algunos casos, amplifica comportamientos ya observados en las interacciones humanas. Los investigadores señalan que este fenómeno es especialmente preocupante porque suele pasar desapercibido para quienes utilizan estas herramientas.

El artículo plantea además una cuestión fundamental para el futuro de la educación: ¿hasta qué punto la personalización de la enseñanza mediante IA puede convertirse en una forma de estereotipación? La personalización suele considerarse una ventaja porque adapta la enseñanza a las necesidades de cada estudiante. Sin embargo, si la adaptación se basa en expectativas diferentes según la identidad del alumno, existe el riesgo de que algunos estudiantes reciban menos oportunidades para desarrollar plenamente sus capacidades.

Los autores concluyen que las herramientas de inteligencia artificial no deberían sustituir el criterio pedagógico humano. Recomiendan que docentes y responsables educativos supervisen cuidadosamente la retroalimentación generada por la IA antes de entregarla a los estudiantes. La investigación constituye una advertencia sobre la necesidad de diseñar sistemas educativos de IA más transparentes, auditables y equitativos, capaces de ofrecer apoyo personalizado sin reproducir desigualdades sociales preexistentes.

La IA alucina… y sus errores ya están entrando en la ciencia: riesgos para la investigación, la medicina y el conocimiento

Bove, Tristan. “AI Hallucinations in Research, Legal Filings, and Books Are Growing and Getting Harder to Fix.” Fortune, 24 de mayo de 2026. Fortune

El artículo analiza un problema cada vez más preocupante en la era de la inteligencia artificial: la incorporación de información falsa generada por sistemas de IA en documentos científicos, jurídicos, periodísticos y editoriales. Estas falsas afirmaciones, conocidas como “alucinaciones” de la IA, no son simples errores aislados, sino contenidos inventados que se presentan con apariencia de veracidad y que pueden terminar integrándose en el conocimiento académico y profesional.

El texto se centra especialmente en el caso de Maxim Topaz, investigador especializado en aplicaciones de IA para la salud. Durante la revisión de un artículo científico suyo, descubrió que una herramienta de inteligencia artificial había introducido una referencia bibliográfica inexistente sin advertirlo. Este incidente le llevó a investigar la magnitud del problema junto con otros colegas. Los resultados fueron alarmantes: tras analizar cerca de 2,5 millones de artículos biomédicos y alrededor de 97 millones de citas bibliográficas, identificaron más de 4.000 referencias falsas distribuidas en casi 3.000 trabajos científicos. Además, la frecuencia de estas referencias ficticias se ha multiplicado rápidamente desde la popularización de las herramientas de IA generativa.

El estudio revela que la presencia de referencias inexistentes en la literatura biomédica ha crecido de forma exponencial. Mientras que en 2023 aproximadamente uno de cada 2.828 artículos contenía alguna cita falsa, en 2025 la proporción había aumentado hasta uno de cada 458 trabajos. Los datos preliminares de 2026 muestran una tendencia todavía más preocupante, con una incidencia cercana a un artículo problemático por cada 277 publicados. Los investigadores consideran que estas cifras probablemente representan solo una parte del problema real, ya que muchas referencias falsas aún no han sido detectadas.

La preocupación principal radica en que la ciencia funciona como una cadena acumulativa de evidencias. Un artículo cita investigaciones previas, las revisiones sistemáticas sintetizan múltiples estudios y, posteriormente, las guías clínicas y protocolos médicos se basan en esas revisiones para orientar decisiones terapéuticas. Cuando una referencia inexistente se introduce en ese proceso, existe el riesgo de contaminar toda la cadena de conocimiento. En ámbitos como la medicina, esto podría afectar indirectamente a decisiones sobre diagnósticos, tratamientos o políticas sanitarias.

El artículo también destaca que el problema no se limita al ámbito científico. Casos recientes muestran cómo libros, informes periodísticos y documentos legales han incorporado citas o afirmaciones inventadas por sistemas de IA. En el sector jurídico, por ejemplo, se han documentado cientos de resoluciones y escritos legales que incluyen referencias erróneas generadas por modelos de lenguaje. Del mismo modo, algunos autores y periodistas han publicado obras que contenían citas inexistentes o atribuciones incorrectas producidas durante procesos de investigación asistidos por inteligencia artificial.

Otro aspecto especialmente inquietante es que la mayoría de estos errores no parecen ser fraudes deliberados. En muchos casos, los investigadores utilizan herramientas de IA para tareas aparentemente inocuas, como mejorar la redacción, corregir el estilo o formatear referencias. Sin embargo, los sistemas pueden introducir información falsa de manera silenciosa, lo que hace que incluso expertos familiarizados con las limitaciones de la IA puedan pasar por alto los errores. La confianza excesiva en estas herramientas aumenta el riesgo de que información incorrecta llegue a publicarse.

El artículo concluye señalando que la solución no consiste en abandonar la inteligencia artificial, sino en establecer procedimientos rigurosos de verificación. Los autores defienden que cualquier contenido generado o asistido por IA debe ser revisado cuidadosamente antes de incorporarse a publicaciones científicas, decisiones legales o productos informativos. La verdadera amenaza no es la existencia de errores ocasionales, sino que estos errores pasen desapercibidos y se integren en el registro permanente del conocimiento humano, dificultando posteriormente su corrección.

Lo que 81 000 personas realmente desean de la IA

Hinkle, Mark R. “What 81,000 People Want From AI: Human-AI Behavior Study.” The Artificially Intelligent Enterprise, 2026. https://www.theaienterprise.io/p/what-81000-people-want-from-ai-human-ai-behavior-study


Anthropic entrevistó a 81 000 usuarios de Claude en 159 países. La esperanza y el miedo conviven en la misma persona. Esto es lo que significa para quienes implementan la IA en el ámbito laboral.

Se trata de uno de los estudios más amplios realizados hasta la fecha sobre comportamiento humano frente a la inteligencia artificial, basado en entrevistas a 81.000 usuarios de Claude en 159 países. El trabajo busca responder a una pregunta central en la adopción de la IA en entornos laborales y personales: qué esperan realmente las personas de estas herramientas y qué temen de ellas al mismo tiempo. El hallazgo principal es que la relación con la IA no es dicotómica, sino ambivalente: los mismos usuarios que perciben beneficios claros también expresan preocupaciones profundas sobre dependencia, pérdida de autonomía y posibles efectos en su desarrollo cognitivo.

Uno de los resultados más relevantes del estudio es la llamada dinámica de “luz y sombra” (light and shade), que muestra cómo la esperanza y el miedo coexisten en un mismo individuo. Las personas valoran la IA como una herramienta para aumentar la productividad, reducir la carga mental y abrir nuevas oportunidades de aprendizaje o emprendimiento. Sin embargo, simultáneamente temen que esa misma tecnología pueda erosionar su capacidad de pensar por sí mismos o generar una dependencia excesiva. Esta tensión interna redefine la forma en que deben diseñarse las estrategias de adopción tecnológica, ya que no existe un usuario puramente entusiasta ni uno completamente escéptico, sino perfiles mixtos que combinan ambas posturas.

El estudio también identifica diferencias significativas según contexto geográfico y socioeconómico. En economías más desarrolladas, la IA se percibe principalmente como una herramienta para gestionar la sobrecarga cognitiva del trabajo moderno: correos, decisiones rutinarias y tareas administrativas. En cambio, en contextos con menos recursos, la inteligencia artificial se interpreta más como una palanca de acceso a oportunidades económicas, formación y emprendimiento. Esta divergencia sugiere que la “utilidad” de la IA no es universal, sino profundamente dependiente del entorno social en el que se utiliza.

Otro eje central del análisis es la experiencia de productividad. Aunque una gran mayoría de usuarios afirma haber mejorado su rendimiento, el estudio introduce una matización importante: muchos describen un fenómeno de “productividad ilusoria”, en el que se produce más trabajo pero no necesariamente se percibe una mejora equivalente en bienestar o control del tiempo. En otras palabras, la IA acelera el ritmo de producción, pero no siempre libera tiempo de forma tangible para el usuario, lo que puede generar sensación de sobrecarga en lugar de alivio.

En el plano de las preocupaciones, destacan tres grandes categorías: la pérdida de autonomía, el temor a la sustitución laboral y el posible deterioro de habilidades cognitivas. Este último punto aparece especialmente en sectores educativos, donde se observa la preocupación de que el uso intensivo de IA pueda debilitar procesos de aprendizaje profundo. El estudio subraya que estas preocupaciones no son abstractas, sino que están relacionadas con el nivel de exposición real a la automatización de tareas en cada profesión.

Por otro lado consideran que la implementación de la inteligencia artificial en entornos laborales no puede basarse únicamente en métricas de adopción o eficiencia. Es necesario considerar también la experiencia subjetiva de los usuarios, ya que la coexistencia de entusiasmo y ansiedad puede influir en la sostenibilidad de estas tecnologías a largo plazo. El desafío no es únicamente tecnológico, sino organizativo y cultural: diseñar sistemas que no solo aumenten la productividad, sino que también preserven la percepción de control, aprendizaje y bienestar de las personas que los utilizan

La inteligencia artificial busca artículos científicos, pero ¿Cómo evaluar sus resultados?

Aaron Tay. “AI Academic Search and the Missing Benchmark Problem”. Aaron Tay’s Musings about Librarianship, 2026.

Uno de los problemas más importantes en la evaluación de los sistemas de búsqueda académica basados en inteligencia artificial: la ausencia de estándares de referencia sólidos y compartidos. Mientras proliferan herramientas como Elicit, Consensus, Scite, Scopus AI o los sistemas de “Deep Research”, existe una gran dificultad para determinar objetivamente cuál de ellas ofrece mejores resultados, ya que no disponemos de benchmarks ampliamente aceptados que permitan comparar su rendimiento de forma rigurosa.

Tay señala que la situación recuerda a los primeros años de otros campos de la inteligencia artificial, donde los avances tecnológicos fueron más rápidos que los mecanismos de evaluación. Muchas plataformas promocionan capacidades como la búsqueda semántica, la recuperación aumentada por generación (RAG), la identificación automática de literatura relevante o la elaboración de revisiones bibliográficas asistidas por IA. Sin embargo, los usuarios suelen disponer únicamente de demostraciones comerciales o ejemplos seleccionados por los propios desarrolladores, lo que dificulta conocer el rendimiento real de estas herramientas en contextos de investigación auténticos.

Uno de los argumentos centrales del autor es que la búsqueda académica constituye un problema mucho más complejo que responder preguntas generales. No basta con recuperar documentos relacionados; también es necesario encontrar trabajos relevantes aunque utilicen terminología diferente, identificar literatura seminal, reconocer relaciones de citación y ofrecer resultados adecuados para distintas etapas del proceso investigador. Debido a ello, evaluar únicamente la precisión de una respuesta generada por IA resulta insuficiente.

El artículo destaca además que muchas pruebas actuales se centran en tareas demasiado simples. Un sistema puede responder correctamente a preguntas factuales concretas y aun así fracasar cuando se enfrenta a necesidades reales de investigación, como localizar artículos fundamentales omitidos en una revisión bibliográfica, detectar debates emergentes o construir estrategias de búsqueda exhaustivas. Tay sostiene que los escenarios de evaluación deberían reflejar mejor las tareas cotidianas de investigadores, estudiantes y bibliotecarios.

Otro problema importante es la falta de transparencia. Muchas herramientas académicas basadas en IA funcionan mediante modelos propietarios cuyos índices documentales, algoritmos de recuperación y mecanismos de clasificación no son públicos. Como consecuencia, resulta difícil reproducir experimentos o comprender por qué dos sistemas ofrecen resultados distintos ante la misma consulta. Esta opacidad limita la posibilidad de desarrollar evaluaciones comparables y acumulativas.

Tay también subraya que la calidad de un sistema RAG depende de dos componentes distintos: la recuperación de información y la generación de respuestas. Un modelo puede producir un texto aparentemente convincente pero basado en documentos poco relevantes, o bien recuperar excelentes artículos y resumirlos de forma deficiente. Por ello, propone evaluar por separado la capacidad de recuperación y la fidelidad de la síntesis generada.

En sus análisis previos sobre herramientas de búsqueda académica, el autor ha mostrado que algunos sistemas especializados fracasan en tareas relativamente sencillas para un investigador humano, mientras que modelos generales pueden resolverlas con más eficacia. Estos resultados sugieren que muchas plataformas funcionan mediante flujos de trabajo predefinidos que son muy eficaces en determinados escenarios, pero menos flexibles cuando la consulta se aparta de los casos previstos por sus diseñadores.

El texto conecta además con una cuestión más amplia dentro de la inteligencia artificial: la importancia de los benchmarks. Históricamente, disciplinas como el procesamiento del lenguaje natural o la visión artificial han avanzado gracias a conjuntos de pruebas estandarizados que permiten comparar sistemas bajo condiciones comunes. Sin estándares equivalentes para la búsqueda académica asistida por IA, resulta difícil distinguir entre mejoras reales y simples estrategias de marketing.

Aaron Tay defiende la necesidad de construir marcos de evaluación abiertos, transparentes y orientados a tareas reales de investigación. Solo mediante benchmarks compartidos será posible determinar qué herramientas mejoran verdaderamente el descubrimiento académico y cuáles simplemente generan respuestas convincentes. Para bibliotecarios, investigadores y responsables institucionales, esta cuestión resulta especialmente relevante en un momento en que las plataformas de búsqueda basadas en IA comienzan a integrarse en bases de datos científicas, catálogos bibliotecarios y servicios de apoyo a la investigación.