Hu, Jason. “When Errors Become Consensus: Science’s Self-Correction Can No Longer Keep Up”. The Scholarly Kitchen, 17 de agosto de 2026
La ciencia siempre ha cometido errores, pero tradicionalmente se confiaba en que su propio sistema de autocorrección acabaría detectándolos y sustituyéndolos por conocimientos más sólidos. El problema actual es que esa capacidad de corrección ya no parece avanzar al mismo ritmo que la producción y difusión de información.
Antes, los errores podían tardar años en propagarse porque las publicaciones, revisiones, libros y manuales evolucionaban lentamente. Esa lentitud actuaba, paradójicamente, como una forma de contención. Ahora, una afirmación errónea puede difundirse prácticamente de inmediato a través de artículos, bases de datos, redes académicas y sistemas de inteligencia artificial.
Hu utiliza como ejemplo histórico las afirmaciones de Justus von Liebig sobre el valor nutricional del extracto de carne. Liebig defendió que el concentrado de carne poseía un importante valor nutritivo y contribuyó a popularizar el llamado beef tea. Sin embargo, experimentos realizados posteriormente por Adolf Fick y Johannes Wislicenus apuntaron en otra dirección: eran principalmente las grasas y los carbohidratos, y no las proteínas, los que proporcionaban energía para el trabajo muscular. A pesar de ello, las ideas iniciales de Liebig sobrevivieron durante décadas y contribuyeron a consolidar una asociación entre carne, proteína y fuerza que continúa teniendo influencia en la cultura alimentaria contemporánea.
A partir de este ejemplo, el autor introduce el concepto de “consenso sintético”Se trataría de una situación en la que la credibilidad de una afirmación no procede fundamentalmente de una nueva validación empírica, sino de su repetición, agregación y reproducción dentro de diferentes sistemas de conocimiento. Una afirmación puede aparecer en artículos, revisiones, libros, bases de datos y posteriormente en sistemas de IA. Al aparecer tantas veces, parece estar respaldada por múltiples fuentes, aunque todas esas apariciones procedan en última instancia de la misma afirmación original y no constituyan verificaciones independientes.
El fenómeno se desarrolla, según Hu, mediante tres fuerzas: persistencia, suministro y recursividad. La persistencia significa que un error puede continuar circulando incluso después de que el artículo original haya sido retractado. El autor cita el caso de un ensayo sobre suplementos de omega-3 en pacientes con EPOC que fue retractado en 2008 por falsificación de datos y que, once años después, seguía siendo citado positivamente en más de un centenar de publicaciones y otros materiales. La retractación afecta al documento original, pero con frecuencia no acompaña a todas las copias, citas, revisiones y afirmaciones derivadas que ya se han incorporado al sistema científico.
El suministro hace referencia al crecimiento de los paper mills, organizaciones que producen artículos científicos fraudulentos o de baja calidad de forma industrializada. El problema deja de ser entonces detectar ocasionalmente un artículo defectuoso y pasa a consistir en hacer frente a un volumen de información potencialmente fraudulenta que puede superar la capacidad de editores, revisores, instituciones y organismos de integridad científica para examinarla. El sistema de control se encuentra así ante una asimetría: la producción de contenidos problemáticos puede escalar mucho más rápidamente que su detección y retirada.
La tercera fuerza, y quizá la más novedosa, es la recursividad introducida por la IA generativa. Los grandes modelos de lenguaje pueden sintetizar y reproducir información existente a un coste marginal muy bajo. Si entre esa información existen afirmaciones erróneas, sin fundamento o incluso inventadas, la IA puede incorporarlas a nuevos textos. Estos nuevos textos pueden volver a alimentar otros sistemas de IA, creando un ciclo en el que una afirmación se repite y se transforma sucesivamente. Con cada repetición puede disminuir la percepción de incertidumbre y aumentar la apariencia de corroboración, aunque la evidencia original no haya mejorado.
El artículo conecta esta dinámica con dos problemas relacionados: el “model collapse” y la aparición de una posible “monocultura científica”. El primero describe el deterioro que puede producirse cuando los modelos se entrenan indiscriminadamente con contenidos generados por otros modelos. El segundo hace referencia a la tendencia de los sistemas de IA a favorecer la convergencia de temas, métodos y formas de expresión cuando se utilizan cada vez más para generar ideas, sintetizar literatura y formular preguntas de investigación. El riesgo es que la IA no solo reproduzca errores existentes, sino que contribuya a reducir la diversidad intelectual del sistema científico.
Esto plantea una limitación importante para los mecanismos tradicionales de revisión por pares, supervisión editorial y retractación. Estos mecanismos fueron diseñados fundamentalmente para corregir errores dentro de la literatura científica. Pero actualmente el conocimiento ya no está contenido exclusivamente en los artículos publicados. Las afirmaciones científicas pasan a bases de datos, revisiones, materiales docentes, herramientas de decisión, motores de búsqueda y modelos de IA. Por ello, retirar o corregir un artículo puede resultar insuficiente: el error puede continuar existiendo en todos los sistemas que ya lo han incorporado.
La propuesta central de Hu es construir una auténtica “capa de propagación” de las correcciones. Si una afirmación errónea puede viajar de un artículo a una revisión, de esta a una base de datos y posteriormente a un modelo de IA, las correcciones deberían poder realizar exactamente el mismo recorrido. El autor menciona iniciativas como United2Act, los trabajos de la STM Association sobre el uso responsable de contenidos científicos en IA, Crossmark, la base de datos de Retraction Watch y las recomendaciones de NISO sobre comunicación de retractaciones. Sin embargo, señala que todavía existe una adopción desigual y, sobre todo, que los modelos de IA permanecen en gran medida fuera del circuito de corrección científica.
La conclusión es especialmente relevante para la integridad científica en la era de la IA: el desafío ya no consiste únicamente en impedir que un artículo falso o defectuoso llegue a publicarse. Hay que garantizar que, cuando aparezca un error, la corrección sea capaz de viajar tan lejos y tan rápido como viajó el error original. De lo contrario, podemos terminar en un sistema en el que la repetición produzca una apariencia de consenso y donde una afirmación parezca verdadera simplemente porque ha sido reproducida miles de veces por personas, bases de datos y máquinas.
La metáfora final del artículo resulta muy apropiada: lo que se incorpora a una estructura tiende a permanecer. La pregunta que plantea Hu para el ecosistema académico es, por tanto, qué estamos incorporando a las infraestructuras que conservarán y transmitirán el conocimiento del futuro y si esas infraestructuras serán capaces de recordar no solo las afirmaciones, sino también sus correcciones. Es un cambio de perspectiva importante: la integridad científica deja de ser únicamente una cuestión de revisar publicaciones y pasa a convertirse también en un problema de arquitectura, metadatos, trazabilidad, interoperabilidad y gobernanza de la información científica.
Universo Abierto 