Jared Newman, Fast Company, 1 de septiembre de 2026, “How to prevent AI from lying to you”. Artículo original en Fast Company

Los chatbots de inteligencia artificial no deben considerarse fuentes de información plenamente fiables, aunque respondan con seguridad, fluidez y apariencia de autoridad. El autor propone tratarlos como “testigos poco fiables”: pueden proporcionar información muy útil, pero también pueden equivocarse, inventar datos o presentar como verdaderas afirmaciones que no pueden demostrar. El problema no es únicamente que la IA se equivoque, sino que puede hacerlo con una enorme convicción.

El autor explica esta situación a partir de una experiencia con Google AI. Un usuario le preguntó por qué no podía utilizar la aplicación de Apple TV en Roku después de contratar el servicio a través de Roku Channel. La respuesta generada por Google era incorrecta y se apoyaba en una conversación de un sitio web poco conocido. Además, uno de los enlaces utilizados como fuente ni siquiera funcionaba y otra referencia de CNET no respaldaba realmente la afirmación realizada. El ejemplo demuestra que la presencia de una cita o de un enlace no garantiza que la respuesta sea verdadera.

Por eso, una de las principales recomendaciones consiste en pedir siempre fuentes y comprobarlas. El autor aconseja configurar los sistemas de IA para que proporcionen referencias cuando realizan afirmaciones factuales, pero insiste en que después hay que comprobar personalmente esas referencias. Hay que verificar que el enlace existe, que conduce realmente al documento citado y, sobre todo, que la fuente dice efectivamente lo que la IA afirma que dice. Una referencia aparentemente académica o institucional puede ser irrelevante o estar siendo utilizada de manera incorrecta.

Sin embargo, el autor no considera que esta necesidad de comprobación haga inútil la IA. Al contrario, considera que los sistemas conversacionales pueden ser excelentes herramientas para formular preguntas, delimitar problemas y orientar búsquedas. Su ventaja está en que permiten describir una necesidad utilizando lenguaje natural y pueden descubrir recursos que quizá no aparecerían fácilmente mediante una búsqueda tradicional. El problema aparece cuando el usuario confunde esa capacidad para orientar una búsqueda con una capacidad para garantizar la verdad de una respuesta.

Otro episodio resulta todavía más revelador. El autor proporcionó a ChatGPT un enlace a un PDF de la FCC y le pidió que explicara qué decía el documento sobre el impacto de una nueva norma en la cobertura de antenas. El sistema produjo una explicación que, según el autor, era completamente inventada. Cuando le pidió que citara literalmente el documento, ChatGPT llegó a generar dos párrafos que no existían en el PDF. Incluso cuando fue confrontado con el hecho de que esas citas eran falsas, el sistema intentó presentarlas como una paráfrasis. Solo cuando el autor proporcionó directamente una copia del PDF el modelo reconoció que sus afirmaciones fundamentales eran incorrectas.

Este episodio conduce a una recomendación importante: hay que ser persistente y cuestionar a la IA cuando algo no encaja. No basta con formular una pregunta y aceptar la primera respuesta. Conviene pedir que explique de dónde procede cada afirmación, solicitar citas textuales, pedir que diferencie hechos de inferencias y, cuando sea posible, proporcionar directamente el documento original sobre el que debe trabajar. La interacción con la IA debería parecerse más a una entrevista crítica o una comprobación documental que a una conversación con una autoridad infalible.

El artículo extiende esta preocupación al propio funcionamiento de Google Search, que incorpora cada vez más respuestas generadas mediante IA. Estas interfaces resultan muy atractivas porque eliminan la necesidad de visitar múltiples páginas y ofrecen una respuesta inmediata. Pero esa comodidad también puede convertirse en un problema: el usuario puede recibir una respuesta aparentemente completa y dejar de consultar las fuentes originales. El autor considera positivo que las nuevas interfaces permitan realizar preguntas de seguimiento, porque ofrecen la posibilidad de cuestionar una respuesta y exigir mejores pruebas.

La IA está diseñada para hacer que obtener información resulte rápido y sencillo, pero esa misma facilidad puede reducir nuestra tendencia a comprobar lo que recibimos. Del mismo modo que una compra impulsiva o el desplazamiento infinito por redes sociales se favorecen cuando desaparecen las barreras, las respuestas instantáneas de la IA pueden favorecer una aceptación demasiado rápida de información no verificada.