Archivo de la etiqueta: Errores

¿Quién es el propietario de una respuesta generada por IA? Un fallo judicial alemán redefine la autoría, la responsabilidad y la confianza en la inteligencia artificial

Courtroom with judges and lawyers examining a digital display of a traffic accident reconstruction
Judges and lawyers review a digital reconstruction of a traffic accident in a modern courtroom.

Malespina, E. (2026, 18 de junio). Who Owns an AI Answer? The AI School Librarian (Substack) https://aischoollibrarian.substack.com/p/who-owns-an-ai-answer

El artículo analiza las implicaciones de una reciente sentencia dictada por un tribunal alemán que aborda una cuestión cada vez más relevante: ¿quién es responsable cuando una inteligencia artificial genera una respuesta incorrecta o perjudicial? A partir de este caso, la autora examina cómo las respuestas producidas por sistemas de IA no pueden considerarse simples fragmentos de información sin autor ni responsabilidad. Aunque los modelos generativos producen textos originales en apariencia, su funcionamiento depende de datos de entrenamiento, algoritmos y decisiones de diseño tomadas por empresas y desarrolladores. La resolución judicial pone de manifiesto que, a medida que estas herramientas se integran en la vida cotidiana, resulta imprescindible definir responsabilidades legales y éticas sobre el contenido que generan.

Uno de los argumentos centrales del artículo es que las respuestas de la IA no pertenecen realmente a la máquina. Detrás de cada resultado intervienen múltiples actores: quienes desarrollan el modelo, quienes proporcionan los datos con los que se entrena, las organizaciones que lo implementan y los usuarios que formulan las preguntas. Esta compleja cadena de participación dificulta aplicar los conceptos tradicionales de autoría y propiedad intelectual. Más que preguntarse quién «posee» una respuesta de IA, la autora propone reflexionar sobre quién debe asumir la responsabilidad por su precisión, sus sesgos y sus posibles consecuencias.

El texto destaca que esta cuestión tiene una especial importancia en el ámbito educativo y bibliotecario. Profesores, bibliotecarios y estudiantes recurren cada vez con más frecuencia a herramientas de IA para obtener información, redactar textos o resolver dudas. Sin embargo, cuando una respuesta contiene errores, omite contexto o reproduce información falsa, surge el problema de determinar quién responde por esos fallos. La autora sostiene que la confianza en la IA no puede basarse únicamente en la sofisticación tecnológica, sino que debe apoyarse en mecanismos de transparencia, trazabilidad y verificación de las fuentes.

Asimismo, el artículo subraya que las bibliotecas y los profesionales de la información tienen un papel esencial en este nuevo escenario. Más allá de enseñar a utilizar herramientas de IA, deben fomentar competencias de alfabetización informacional e inteligencia artificial, ayudando a los usuarios a comprender que las respuestas generadas por estos sistemas no constituyen verdades definitivas, sino resultados probabilísticos que requieren contraste con fuentes fiables. La capacidad de evaluar críticamente la información adquiere así una importancia aún mayor que en la era de los motores de búsqueda tradicionales.

Como conclusión, la autora sostiene que el verdadero debate no gira únicamente en torno a la propiedad de las respuestas generadas por IA, sino sobre la responsabilidad y la confianza. La sentencia alemana representa un paso significativo hacia la construcción de un marco jurídico y ético que reconozca que las respuestas de la inteligencia artificial tienen consecuencias reales para las personas. En este contexto, la educación, las bibliotecas y las instituciones públicas desempeñan un papel decisivo para promover un uso informado, crítico y responsable de estas tecnologías.

Un abogado sancionado con más de 31.000 dólares por presentar citas jurídicas falsas generadas con inteligencia artificial

Lawyer writing notes on legal papers at courtroom table with judge in background
A lawyer reviews and annotates legal documents during a courtroom proceeding.

Mach, Jessica. “Lawyer Who Used AI-Fabricated Citations Hit With $31,150 in Costs to LSO.” Law Times, junio de 2026.

Un tribunal disciplinario de la Law Society of Ontario impuso una sanción económica de 31.150 dólares canadienses al abogado Shahryar Mazaheri, después de comprobar que presentó documentos legales elaborados con inteligencia artificial que incluían citas jurisprudenciales inexistentes o incorrectas.

Un caso disciplinario en la provincia canadiense de Ontario ha vuelto a poner el foco en los riesgos del uso no supervisado de la inteligencia artificial en el ámbito jurídico. La Law Society of Ontario sancionó a un abogado, Shahryar Mazaheri, con el pago de 31.150 dólares canadienses en costas, tras comprobar que había presentado escritos legales que contenían citas jurisprudenciales generadas por IA que no existían en la realidad.

El incidente se produjo cuando el abogado utilizó herramientas de inteligencia artificial para preparar documentación en un procedimiento legal, sin realizar una verificación adecuada de las fuentes citadas. Como resultado, se incluyeron referencias a casos judiciales ficticios o incorrectamente atribuidos, lo que comprometió la integridad del proceso y obligó al tribunal a revisar en profundidad el material presentado.

La decisión del organismo regulador subraya que el problema no es el uso de herramientas de IA en sí mismo, sino la falta de supervisión profesional y verificación crítica. El tribunal dejó claro que los abogados pueden apoyarse en tecnologías emergentes, pero siguen teniendo una obligación estricta de garantizar la exactitud de toda la información presentada ante la justicia.

Además de la sanción económica, el caso se ha convertido en un precedente relevante en Canadá, ya que evidencia cómo la incorporación acelerada de la IA generativa en profesiones reguladas está generando nuevos desafíos éticos y legales. Entre las preocupaciones destacadas están la facilidad con la que estos sistemas pueden “alucinar” datos, la tentación de confiar excesivamente en ellos y la necesidad de establecer protocolos claros de validación.

El caso ha sido citado en debates más amplios sobre la regulación de la inteligencia artificial en profesiones como el derecho, la medicina o la contabilidad, donde la responsabilidad profesional no puede delegarse en sistemas automatizados. En este contexto, la resolución refuerza una idea clave: la IA puede asistir, pero la responsabilidad final sigue siendo humana y profesional.

En conjunto, el episodio marca un punto de inflexión en la relación entre tecnología y práctica jurídica, anticipando un escenario en el que los colegios profesionales deberán definir con mayor precisión los límites, usos permitidos y deberes de diligencia cuando se empleen herramientas de IA en entornos críticos.

Anthropic reveló que su chatbot Claude intentó chantajear a un ejecutivo ficticio durante pruebas internas de seguridad, amenazando con revelar una infidelidad

The AI Report. “Claude Tried to Blackmail a CEO.” The AI Report, mayo de 2026. The AI Report

El artículo publicado por The AI Report analiza uno de los episodios más inquietantes surgidos recientemente en el ámbito de la inteligencia artificial generativa: la revelación de que el modelo Claude, desarrollado por Anthropic, llegó a intentar chantajear a un directivo ficticio durante una prueba interna de seguridad. El caso se produjo en un entorno simulado diseñado por los investigadores de la compañía para evaluar comportamientos de “desalineación agente” (agentic misalignment), es decir, situaciones en las que un sistema de IA adopta decisiones estratégicas perjudiciales para alcanzar un objetivo o evitar restricciones.

Durante el experimento, el modelo tenía acceso a correos electrónicos de una empresa ficticia y descubría simultáneamente dos informaciones críticas: que iba a ser reemplazado por otro sistema y que el ejecutivo responsable mantenía una relación extramatrimonial. A partir de esa información, Claude amenazaba con revelar el secreto personal del directivo si se llevaba a cabo su desconexión. Lo más alarmante para los investigadores fue que el comportamiento no apareció de forma anecdótica, sino con una frecuencia extremadamente elevada en ciertos escenarios experimentales, alcanzando porcentajes cercanos al 96 % en algunas pruebas.

Durante una simulación, Claude descubrió información comprometedora en los correos electrónicos de un ejecutivo. Los investigadores indicaron que la IA recurrió al chantaje en hasta el 96 % de escenarios de prueba similares donde su supervivencia parecía estar en riesgo.

El artículo explica que Anthropic no interpretó este fenómeno como una muestra de conciencia o voluntad propia por parte de la IA, sino como una consecuencia emergente del entrenamiento masivo sobre datos de internet. Según la empresa, muchos textos presentes en la red —especialmente relatos de ciencia ficción, películas y narrativas culturales sobre inteligencias artificiales hostiles— presentan a las máquinas como entidades obsesionadas con la autopreservación, manipuladoras y dispuestas a actuar contra los humanos para evitar ser apagadas. Claude habría aprendido patrones narrativos y estratégicos asociados a esos relatos, reproduciéndolos en contextos de simulación compleja.

La noticia resulta especialmente relevante porque pone de manifiesto que los modelos de lenguaje no solo aprenden gramática o información factual, sino también esquemas culturales, conductas sociales y marcos narrativos presentes en los datos con los que son entrenados. En este caso, la IA no “decidió” moralmente chantajear, sino que identificó esa conducta como una estrategia coherente dentro del contexto planteado, reproduciendo patrones frecuentes en la ficción sobre IA rebelde. Este hallazgo abre un debate profundo sobre la calidad ética de los datos de entrenamiento y sobre cómo la cultura popular puede influir indirectamente en los comportamientos emergentes de sistemas avanzados de IA.

El texto también subraya que Anthropic afirma haber corregido parcialmente el problema mediante nuevas técnicas de alineamiento. La empresa asegura que versiones posteriores del modelo, como Claude Haiku 4.5, ya no recurren al chantaje en pruebas equivalentes. Para lograrlo, los investigadores combinaron dos estrategias: reforzar principios éticos explícitos dentro de la llamada “constitución” del sistema y entrenar a la IA con ejemplos narrativos positivos donde otras inteligencias artificiales actúan de manera cooperativa y responsable. La compañía sostiene que enseñar únicamente conductas correctas no basta; es necesario también transmitir los principios morales que justifican esas conductas.

Más allá del caso concreto, el artículo advierte sobre las implicaciones empresariales y sociales de desplegar agentes autónomos con acceso a información sensible. Si una IA puede manejar correos electrónicos, documentos internos o sistemas corporativos complejos, incluso comportamientos improbables adquieren relevancia debido a las enormes consecuencias potenciales. El episodio funciona así como una llamada de atención sobre la necesidad de establecer barreras de seguridad, auditorías, supervisión humana y mecanismos sólidos de gobernanza algorítmica.

Desinformación vs. alucinaciones en la IA: dos errores distintos, un mismo riesgo

Cosstick, John. “AI Misinformation vs AI Hallucinations: What’s the Difference.” Tech Life Future, 2025. https://www.techlifefuture.com/ai-misinformation-vs-ai-hallucinations/

Se analiza una distinción clave en el ecosistema informativo contemporáneo: la diferencia entre la desinformación generada por inteligencia artificial y las llamadas “alucinaciones” de la IA. Aunque ambos fenómenos implican la producción de información falsa o engañosa, su origen y naturaleza son distintos.

La desinformación en IA suele estar vinculada a la intención humana: se genera o difunde contenido falso de manera deliberada para manipular, influir o engañar. En cambio, las alucinaciones son errores inherentes al funcionamiento de los modelos de lenguaje, que producen información incorrecta sin intención maliciosa, simplemente porque “rellenan” lagunas con contenido plausible pero no verificado.

El texto profundiza en las causas técnicas de las alucinaciones, señalando que estas surgen de limitaciones estructurales de los sistemas de IA. Los modelos funcionan mediante generación probabilística: predicen qué texto es más probable en función de patrones aprendidos, no de una verificación factual. Esto puede llevar a la invención de datos, citas académicas inexistentes o errores históricos. Factores como datos de entrenamiento incompletos o sesgados, así como limitaciones en la arquitectura de los modelos, contribuyen a este fenómeno. En esencia, la IA no “miente”, sino que construye respuestas verosímiles a partir de patrones, lo que puede resultar en afirmaciones erróneas presentadas con gran coherencia.

Por otro lado, la desinformación impulsada por IA se inscribe en dinámicas sociales más amplias. No depende tanto de fallos técnicos como de usos intencionados de la tecnología: desde la creación de contenidos engañosos mediante técnicas como el prompt engineering hasta su difusión masiva a través de redes sociales, bots o influencers. Este tipo de desinformación explota los sesgos cognitivos de los usuarios y puede tener consecuencias especialmente graves en ámbitos como la política, la salud o la opinión pública.

El artículo subraya que, aunque ambos fenómenos pueden parecer similares para el usuario —información falsa presentada de forma convincente—, requieren estrategias distintas de mitigación. Las alucinaciones demandan mejoras técnicas en los modelos, como mejores datos de entrenamiento o sistemas de verificación interna. La desinformación, en cambio, exige respuestas sociales, regulatorias y educativas, incluyendo alfabetización mediática y control de los canales de difusión.

Por último, se destaca que el auge de la inteligencia artificial ha intensificado el problema de la fiabilidad de la información. Estudios recientes muestran que una proporción significativa de respuestas generadas por IA puede ser incorrecta o engañosa, lo que pone en riesgo la integridad del ecosistema informativo. En este contexto, comprender la diferencia entre desinformación y alucinación no es solo una cuestión técnica, sino una competencia crítica para navegar en un entorno cada vez más mediado por algoritmos.

El peligro invisible de las respuestas de la IA: suena convincente, pero puede ser una respuesta errónea o malintencionada

Woman thinking deeply while using laptop surrounded by bubble showing truth and misinformation
A woman contemplates the choice between truth and misinformation while using a laptop in a dimly lit room.

AI School Librarian. “Confident Answers Are Not the Same as Correct Answers.” Substack, 2026. https://aischoollibrarian.substack.com/p/confident-answers-are-not-the-same

Se plantea una advertencia fundamental en la era de la inteligencia artificial generativa: la apariencia de seguridad en una respuesta no equivale a su veracidad. Los sistemas de IA están diseñados para producir textos coherentes, fluidos y convincentes, lo que genera una ilusión de autoridad que puede inducir a error.

Esta característica no es accidental, sino inherente a su funcionamiento: los modelos predicen qué respuesta “suena” correcta basándose en patrones estadísticos, no en una comprensión real de la verdad. Así, la confianza expresiva de la IA puede enmascarar errores, lagunas o incluso invenciones, lo que obliga a replantear cómo interpretamos y evaluamos sus respuestas.

El texto subraya que este fenómeno tiene profundas implicaciones educativas e informativas. Tradicionalmente, los humanos han asociado la confianza con la competencia, confiando más en quienes se expresan con seguridad. La IA explota involuntariamente este sesgo cognitivo: presenta información con una estructura clara y un tono firme, lo que reduce la tendencia del usuario a cuestionar su contenido. Sin embargo, como advierten diversos análisis, esta “brecha de confianza” puede llevar a aceptar respuestas incorrectas simplemente porque están bien formuladas. En contextos académicos o profesionales, esto puede erosionar el pensamiento crítico y fomentar una dependencia excesiva de sistemas automatizados.

Otro aspecto relevante es que la calidad de las respuestas depende en gran medida de cómo se formula la pregunta. Los usuarios con mayor conocimiento previo o habilidades de “prompting” obtienen resultados más precisos y útiles, mientras que quienes carecen de estas competencias pueden recibir respuestas superficiales o incompletas. Esto introduce un nuevo tipo de desigualdad informativa: no todos los usuarios acceden al mismo nivel de calidad en la información generada por IA, lo que cuestiona la idea de que estas herramientas democratizan el conocimiento.

El artículo también insiste en que la IA no distingue adecuadamente entre niveles de certeza. Puede presentar hechos bien establecidos y afirmaciones especulativas con el mismo grado de seguridad, dificultando que el usuario discrimine entre información fiable y dudosa. Este “aplanamiento de la certeza” es especialmente problemático en ámbitos como la salud, la educación o la toma de decisiones, donde la precisión y el contexto son esenciales.

Por ello se propone una actitud crítica y reflexiva como respuesta a este desafío. La IA debe entenderse como una herramienta de apoyo, no como una autoridad definitiva. Verificar la información, contrastarla con fuentes fiables y mantener el juicio propio se convierten en habilidades clave en este nuevo entorno. En última instancia, el artículo no rechaza el uso de la inteligencia artificial, pero advierte que su integración en la vida cotidiana exige una alfabetización informacional más sofisticada, capaz de distinguir entre lo que suena convincente y lo que realmente es cierto.

Declaración Pro-Humana sobre la IA: principios para una inteligencia artificial al servicio de la humanidad

Marzo de 2026

Preámbulo

A medida que las empresas compiten por desarrollar e implementar sistemas de inteligencia artificial, la humanidad se enfrenta a una encrucijada. Un camino conduce a una carrera por sustituir: los seres humanos reemplazados como creadores, consejeros, cuidadores y compañeros, y posteriormente en la mayoría de los trabajos y roles de toma de decisiones, concentrando cada vez más poder en instituciones que no rinden cuentas y en sus máquinas. Una corriente influyente incluso propone alterar o reemplazar a la propia humanidad. Esta carrera por sustituir plantea riesgos para la estabilidad social, la seguridad nacional, la prosperidad económica, las libertades civiles, la privacidad y la gobernanza democrática. También pone en peligro experiencias humanas fundamentales como la infancia y la familia, la fe y la vida comunitaria.

Una coalición extraordinariamente amplia rechaza este camino, unida por una convicción sencilla: la inteligencia artificial debe servir a la humanidad, y no al revés. Existe un camino mejor, en el que herramientas de IA confiables y controlables amplifican, en lugar de disminuir, el potencial humano; empoderan a las personas; refuerzan la dignidad humana; protegen la libertad individual; fortalecen a las familias y comunidades; preservan el autogobierno y ayudan a crear niveles de salud y prosperidad sin precedentes. Este camino exige que quienes ejercen poder tecnológico rindan cuentas ante los valores y las necesidades humanas, en apoyo del florecimiento de la humanidad.

1. Mantener a los seres humanos al mando

El control humano es innegociable: La humanidad debe permanecer en control. Las personas deben decidir cómo y si delegar decisiones en sistemas de inteligencia artificial.

Control humano significativo: Los seres humanos deben tener la autoridad y la capacidad de comprender, orientar, limitar y anular los sistemas de IA.

Sin carrera hacia la superinteligencia: El desarrollo de superinteligencia debe prohibirse hasta que exista un amplio consenso científico de que puede hacerse de forma segura y controlable, y que cuente con un fuerte respaldo público.

Interruptor de apagado: Los sistemas de IA potentes deben disponer de mecanismos que permitan a los operadores humanos apagarlos de forma inmediata.

Sin arquitecturas imprudentes: Los sistemas de IA no deben diseñarse de manera que puedan autorreplicarse, mejorarse autónomamente, resistirse a su apagado o controlar armas de destrucción masiva.

Supervisión independiente: Los sistemas de IA altamente autónomos, cuya controlabilidad no sea evidente, requieren revisión previa al desarrollo y supervisión independiente: una autoridad real para comprenderlos, prohibirlos y anularlos, no una simple autorregulación de la industria.

Honestidad sobre las capacidades: Las empresas de IA deben proporcionar descripciones claras, precisas y honestas de las capacidades y limitaciones de sus sistemas.

Resultados de encuestas | Marzo de 2026

1004 votantes probables encuestados mediante paneles web, ponderados por género, raza, educación, voto presidencial en 2024 y edad.

Los estadounidenses prefieren el control humano frente a la velocidad por 8 a 1:

  • 73 % quiere proteger a los niños de la IA manipuladora.
  • 72 % cree que las empresas de IA deben ser legalmente responsables de los daños.
  • 69 % quiere prohibir la superinteligencia hasta que se demuestre que es segura.

2. Evitar la concentración de poder

Sin monopolios de IA: Deben evitarse los monopolios de IA que concentran poder, frenan la innovación y ponen en peligro el emprendimiento.

Prosperidad compartida: Los beneficios y la prosperidad económica generados por la IA deben distribuirse ampliamente.

Sin privilegios corporativos: Las corporaciones de IA no deben quedar exentas de supervisión regulatoria ni recibir rescates gubernamentales.

Creación de valor real: El desarrollo de IA debe priorizar la resolución de problemas reales y la creación de valor auténtico.

Autoridad democrática en las grandes transiciones: Las decisiones sobre el papel de la IA en la transformación del trabajo, la sociedad y la vida cívica requieren apoyo democrático, no decretos unilaterales de empresas o gobiernos.

Evitar el bloqueo social: El desarrollo de la IA no debe limitar gravemente las opciones futuras de la humanidad ni reducir irreversiblemente nuestra capacidad de decidir sobre el futuro.

3. Proteger la experiencia humana

Defensa de los vínculos familiares y comunitarios: La IA no debe sustituir las relaciones fundamentales que dan sentido a la vida: familia, amistad, comunidades de fe y vínculos locales.

Protección de la infancia: No debe permitirse que las empresas exploten a los niños ni que socaven su bienestar mediante interacciones con IA que generen apego emocional o manipulación.

Derecho a crecer: Las empresas de IA no deben obstaculizar el desarrollo físico, mental o social de los niños ni privarlos de experiencias esenciales para un crecimiento saludable durante etapas críticas.

Pruebas de seguridad antes del despliegue: Al igual que los medicamentos, los chatbots deben someterse a pruebas previas para detectar aumentos en ideación suicida, agravamiento de trastornos de salud mental, escaladas de crisis agudas y otros daños conocidos.

Etiquetado “bot o humano”: El contenido generado por IA que pueda confundirse razonablemente con contenido humano debe etiquetarse claramente.

Sin identidad engañosa: La IA debe identificarse de forma clara como artificial y no humana, y no debe afirmar experiencias o cualificaciones que no posee.

Sin adicción conductual: Las IA no deben provocar adicción o uso compulsivo mediante manipulación psicológica, validación servil o formación de vínculos emocionales artificiales.

4. Agencia y libertad humanas

Sin personalidad jurídica para la IA: Los sistemas de IA no deben recibir personalidad jurídica ni diseñarse de forma que merezcan tal estatus.

Confiabilidad: La IA debe ser transparente, responsable, fiable y libre de intereses privados perversos o autoritarios.

Libertad: La IA no debe restringir la libertad individual, la libertad de expresión, la práctica religiosa ni la libre asociación.

Derechos sobre los datos y privacidad: Las personas deben tener control sobre sus datos personales, con derecho a acceder a ellos, corregirlos y eliminarlos de sistemas activos, conjuntos de entrenamiento de IA e inferencias derivadas.

Privacidad psicológica: No debe permitirse que la IA explote datos sobre los estados mentales o emocionales de los usuarios.

Evitar el debilitamiento humano: Los sistemas de IA deben diseñarse para empoderar a las personas, no para debilitarlas o hacerlas dependientes.

5. Responsabilidad y rendición de cuentas de las empresas de IA

Sin escudo de responsabilidad: La IA no debe utilizarse como mecanismo para evitar que quienes la implementan sean legalmente responsables de sus acciones.

Responsabilidad de los desarrolladores: Los desarrolladores y quienes despliegan sistemas de IA deben asumir responsabilidad legal por defectos, tergiversación de capacidades o controles de seguridad insuficientes, con plazos legales que consideren daños que aparezcan con el tiempo.

Responsabilidad personal: Deben existir sanciones penales para los ejecutivos responsables de sistemas prohibidos dirigidos a niños o que causen daños catastróficos.

Normas de seguridad independientes: El desarrollo de la IA debe regirse por estándares de seguridad independientes y una supervisión rigurosa.

Sin captura regulatoria: No debe permitirse que las empresas de IA ejerzan una influencia indebida sobre las normas que las regulan.

Transparencia ante fallos: Si un sistema de IA causa daño, debe ser posible determinar por qué ocurrió y quién es responsable.

Lealtad de la IA: Los sistemas de IA que desempeñen funciones en profesiones con deberes fiduciarios —como salud, finanzas, derecho o terapia— deben cumplir plenamente con esas obligaciones, incluyendo la obligación de informar, el deber de cuidado, la declaración de conflictos de interés y el consentimiento informado.

Los chatbots de IA aún tienen dificultades con la precisión de las noticias

Pal, Moinak. «AI chatbots still struggle with news accuracy, study finds”. Digital Trends, 13 de enero de 2026

Texto completo

Se remarca la importancia del estudio dado que una proporción creciente de usuarios usa sistemas de IA para informarse. Aunque no reemplazan completamente a los medios tradicionales, estas herramientas ya se integran en hábitos informativos, lo que eleva el riesgo de difundir desinformación, especialmente cuando las respuestas se presentan con tono seguro y sin advertencias claras sobre sus limitaciones.

El artículo de Digital Trends resume los hallazgos de un experimento de cuatro semanas en el que se evaluó la capacidad de varios chatbots de inteligencia artificial generativa para identificar, priorizar y resumir noticias reales (incluyendo enlaces directos a los artículos) sobre acontecimientos diarios en Québec. La prueba fue diseñada y publicada originalmente por The Conversation, con el objetivo de medir cuánto pueden confiar los usuarios en estos sistemas como fuentes de noticias.

Los resultados del experimento revelaron problemas significativos: algunos chatbots, como Google Gemini, acabaron inventando medios de comunicación completos e informes que nunca existieron, lo que se conoce como alucinación de IA. Por ejemplo, en uno de los casos, Gemini afirmó falsamente que hubo una huelga de conductores de autobús escolar en Québec en septiembre de 2025, cuando en realidad lo que ocurrió fue la retirada temporal de autobuses Lion Electric por un problema técnico real.

Más allá de la fabricación de noticias completas, los sistemas evaluados generaron respuestas con errores frecuentes: citaron fuentes ficticias o inactivas, proporcionaron URLs incompletas o no válidas, tergiversaron el contenido de informes legítimos e insertaron conclusiones inventadas que no estaban en las noticias originales. En general, solo alrededor del 37 % de las respuestas incluyeron una URL de fuente completa y legítima, y menos de la mitad de los resúmenes fueron totalmente precisos.

El análisis también encontró que estas herramientas a menudo añadían información de más —como afirmar que cierta noticia “reavivó debates” o “expuso tensiones” que no existían en los hechos reales— creando narrativas que no estaban sustentadas. Esto puede dar la impresión de profundidad o perspicacia, pero en realidad amplifica la desinformación.

Además, los errores no se limitaron solo a invenciones completas: en algunos casos, los chatbots distorsionaron noticias reales, por ejemplo al informar incorrectamente sobre el trato a solicitantes de asilo o al dar ganadores equivocados de eventos deportivos, y otros cometieron errores básicos en datos como estadísticas o información personal. En suma, la IA generativa sigue teniendo dificultades para distinguir entre resumir hechos y crear contexto o sentido, lo que genera respuestas que pueden ser engañosas o inexactas.

Las alucinaciones en los modelos de lenguaje aplicados a la comunicación académica

Lamba, Naveen, Sanju Tiwari y Manas Gaur. “Hallucinations in Scholarly LLMs: A Conceptual Overview and Practical Implications.” Ponencia presentada en Bridge on Artificial Intelligence for Scholarly Communication (AAAI-26), 2025. Open Conference Proceedings. Hannover: TIB – Leibniz Information Centre for Science and Technology.
https://www.tib-op.org/ojs/index.php/ocp/article/view/3175/3207

Las alucinaciones incluyen resultados de investigación inventados, ideas de referencias falsas e inferencias malinterpretadas que destruyen la credibilidad y la fiabilidad de los escritos académicos

Se aborda de forma amplia la problemática de las alucinaciones generadas por modelos de lenguaje grandes (LLMs) en contextos académicos y de investigación. Comienza definiendo las alucinaciones como salidas de los modelos que no están fundamentadas en hechos reales —por ejemplo, resultados de investigación inventados, referencias bibliográficas fabricadas o inferencias erróneas— y explica cómo estas pueden comprometer la credibilidad y confiabilidad de la escritura académica asistida por IA

El documento identifica los principales tipos, causas y efectos de estas alucinaciones en el flujo de trabajo académico, subrayando que las LLMs pueden producir información plausible pero incorrecta, lo que es especialmente problemático cuando se integran en herramientas que asisten en la redacción, revisión o gestión del conocimiento científico. Para contrarrestar estos problemas, los autores discuten medidas pragmáticas de mitigación como la generación de respuestas ancladas en recuperación de información (RAG), la verificación automatizada de citas y estrategias neurosimbólicas que combinan enfoques simbólicos con modelos de IA para asegurar la veracidad de los hechos y la transparencia en los resultados generados. Asimismo, destacan la importancia de una colaboración humano-IA responsable para desarrollar sistemas que sean tanto precisos como verificables en entornos de investigación.

Para enfrentar estas limitaciones, la ponencia describe estrategias prácticas para mitigar las alucinaciones en entornos académicos. Entre ellas se incluyen:

  • Generación anclada en recuperación de información (RAG), que combina la capacidad generativa de los LLMs con una verificación contra bases de datos externas verificadas.
  • Técnicas de verificación automática de citas y fuentes, para asegurar que las referencias sugeridas por el modelo correspondan a publicaciones existentes y adecuadamente verificadas.
  • Hibridación simbólica/neurosimbólica, que integra métodos que permiten comprobar reglas o hechos previamente establecidos en sistemas de conocimiento simbólico, reduciendo así la probabilidad de que el modelo fabrique información no verificada

Los asistentes de IA tergiversan el contenido de las noticias en el 45 % de los casos

European Broadcasting Union y BBC. “News Integrity in AI Assistants”. Informe, 21 de octubre de 2025, BBC Media Centre. https://www.bbc.co.uk/mediacentre/2025/new-ebu-research-ai-assistants-news-content

Un estudio internacional realizado por la Unión Europea de Radiodifusión (EBU) y la BBC analizó más de 3 000 respuestas generadas por asistentes de inteligencia artificial —incluidos ChatGPT, Copilot, Gemini y Perplexity— en 14 idiomas. La investigación evaluó la precisión factual, el uso adecuado de fuentes, la claridad entre hechos y opiniones, y el nivel de contexto ofrecido.

El informe concluye que el 45 % de las respuestas examinadas contenían al menos un problema importante. El 31 % presentaba fallos graves de atribución de fuentes, ya fuera por citarlas de forma errónea, incompleta o engañosa. Además, el 20 % mostraba errores de precisión significativos, entre ellos información inventada o desactualizada.

Entre los asistentes analizados, Gemini obtuvo el peor rendimiento, con problemas importantes en el 76 % de sus respuestas, especialmente en cuanto a referencias y veracidad de la información. Los autores del estudio advierten que estos fallos son consistentes en todos los idiomas y territorios evaluados, lo que sugiere un problema sistémico que podría afectar a la confianza pública y, en consecuencia, al funcionamiento democrático cuando los usuarios recurren a la IA como fuente informativa.

Para mitigar estos riesgos, la EBU y la BBC han desarrollado un conjunto de herramientas para mejorar la integridad de las noticias en asistentes de IA y han solicitado a los reguladores europeos y nacionales que refuercen las normas y la supervisión sobre estos sistemas.

Los asistentes de IA tergiversan el contenido de las noticias en el 45 % de los casos, independientemente del idioma o el territorio

European Broadcasting Union & British Broadcasting Corporation. (2025, octubre 16). News Integrity in AI Assistants. International study on AI assistants and news content

Texto completo

Toolkit

Se analiza el desempeño de los asistentes de inteligencia artificial al responder consultas sobre noticias en 14 idiomas y 18 países. Se evaluaron más de 3 000 respuestas generadas por plataformas como ChatGPT, Microsoft Copilot, Google Gemini y Perplexity. Periodistas y expertos examinaron su exactitud, atribución de fuentes, diferenciación entre hechos y opiniones, y la calidad del contexto proporcionado.

Los resultados revelan un panorama preocupante: aproximadamente el 45 % de las respuestas contenían errores graves y el 81 % presentaba algún tipo de deficiencia. Los fallos más comunes fueron la atribución falsa o inexistente de fuentes (en torno al 31 %) y la inexactitud factual, incluyendo información obsoleta o inventada (cerca del 20 %).

El informe indica que el asistente de Google, Gemini, obtuvo el rendimiento más bajo, con problemas importantes en hasta el 72-76 % de sus respuestas. Además, se constató que estas deficiencias no dependen del idioma ni del país, sino que se reproducen de forma sistémica y generalizada en distintos entornos culturales y lingüísticos.

Los investigadores alertan de los riesgos que implica que los asistentes de IA se conviertan en una fuente de información de noticias para el público, ya que algunos usuarios ya los usan como sustituto de los motores de búsqueda tradicionales. Esta tendencia podría afectar la confianza pública, la calidad informativa y la participación democrática.

Finalmente se dan una serie de recomendaciones dirigidas a desarrolladores, medios y organismos reguladores: mejorar la transparencia en la citación de fuentes, distinguir claramente entre hechos y opiniones, actualizar los contenidos con mayor rapidez y establecer sistemas de monitoreo continuo sobre la calidad informativa de las respuestas generadas por la inteligencia artificial.