Archivo de la etiqueta: Inteligencia artificial

La inteligencia artificial generativa y la integridad científica: guía de la Office of Research Integrity de Estados Unidos

U.S. Department of Health and Human Services (HHS), Office of Research Integrity (ORI). Public Health Service Policies on Research Misconduct: 42 CFR Part 93 Guidance on Generative Artificial Intelligence.

Texto completo

Office of Research Integrity (ORI) del Departamento de Salud y Servicios Humanos de Estados Unidos ha publicado en agosto de 2026 una guía específica sobre el uso de inteligencia artificial generativa en el contexto de la investigación científica y las posibles conductas de mala conducta investigadora.

El documento está dirigido especialmente a las instituciones y entidades que reciben financiación del Public Health Service (PHS) para investigación biomédica o conductual. Su propósito es orientar la evaluación de posibles casos de mala conducta científica en los que intervengan herramientas de IA generativa, dentro del marco establecido por la normativa 42 CFR Part 93. La guía es de carácter no vinculante y, en caso de conflicto, prevalece la regulación federal.

El documento parte de una idea importante: el uso de IA generativa no constituye por sí mismo una conducta de mala conducta científica. Los investigadores y las instituciones deben aplicar, en términos generales, las mismas buenas prácticas que utilizarían cuando no interviene la IA. Sin embargo, la utilización de estas herramientas puede generar situaciones de fabricación, falsificación o plagio, por lo que resulta fundamental evaluar si su empleo supone una desviación significativa de las prácticas aceptadas por la comunidad científica correspondiente. Para ello, los comités de investigación deben analizar todas las evidencias disponibles y contar con expertos científicos en el área de investigación afectada; además, ORI considera útil incorporar especialistas en IA cuando sea necesario comprender las herramientas utilizadas.

Uno de los principios centrales de la guía es la transparencia en el uso de IA. ORI recomienda que los investigadores identifiquen las herramientas de IA generativa empleadas durante la investigación, la preparación de manuscritos o la elaboración de propuestas de financiación y que expliquen cómo fueron utilizadas. Esta información puede contribuir a la reproducibilidad de la investigación y también servir como elemento de defensa frente a determinadas acusaciones de mala conducta. No obstante, declarar el uso de IA no garantiza que dicho uso sea considerado legítimo: si la utilización de la herramienta contradice las prácticas aceptadas por la comunidad científica, puede seguir constituyendo evidencia de mala conducta. Asimismo, el uso de IA para generar o procesar datos debe ser cuidadosamente verificado.

La guía presta especial atención a los problemas de fabricación y falsificación de datos. Un investigador debe comprobar los resultados obtenidos mediante procesos que incorporen IA, ya que la generación o modificación no declarada de datos puede constituir fabricación o falsificación. ORI incluso señala que algunas tecnologías aparentemente rutinarias pueden incorporar procesos automáticos de alteración de imágenes, como ocurre con determinadas cámaras de teléfonos inteligentes. En estos casos, corresponde al investigador demostrar, cuando proceda, que la alteración fue consecuencia de un error honesto y no de una conducta intencionada, consciente o imprudente.

La IA se convierte en asistente habitual de los investigadores

AI for Science 2026: The State of AI Use among Researchers. Fudan University, Shanghai Academy of AI for Science & Nature Research Intelligence, 2026.

Texto completo

El informe muestra que la IA generativa ya está integrada en buena parte del trabajo cotidiano de los investigadores, aunque principalmente como herramienta de apoyo y no como sustituto del juicio científico. Su utilización se concentra especialmente en las primeras fases del proceso investigador: búsqueda y descubrimiento de información, exploración de literatura, redacción, edición y mejora de textos. Casi la mitad de los investigadores afirma utilizar IA con frecuencia para recopilar información y para mejorar o editar artículos.

El informe muestra que la inteligencia artificial está incorporándose rápidamente al trabajo cotidiano de los investigadores, aunque su utilización no es homogénea. La IA se emplea sobre todo en las fases exploratorias y generativas de la investigación, especialmente para recopilar información, descubrir literatura, planificar investigaciones y mejorar o editar artículos. El 43,8 % de los investigadores utiliza IA frecuente o muy frecuentemente para recopilar información y el 44,6 % para mejorar o editar artículos. En cambio, su utilización disminuye considerablemente cuando las tareas requieren evaluación, responsabilidad y juicio profesional.

Una de las principales conclusiones es que la IA actúa más como asistente que como sustituto del investigador. El uso es mucho menor en actividades como la revisión de artículos científicos o la toma de decisiones sobre la publicación. Solo el 23,5 % utiliza IA para revisar artículos y el 25,7 % para decisiones relacionadas con su presentación. Esto refleja que los investigadores siguen reservando para las personas aquellas tareas en las que son fundamentales el criterio experto, la responsabilidad profesional y la evaluación crítica.

Existe además una importante diferencia generacional. Los investigadores más jóvenes recurren a la IA con mayor frecuencia que los investigadores con más experiencia. Entre quienes llevan menos de tres años investigando, el 46,8 % utiliza frecuentemente IA para mejorar o editar artículos, frente al 36,1 % entre quienes acumulan 20 años o más de experiencia. Para la recopilación de información, las cifras son del 47,8 % y el 33,4 %, respectivamente. La diferencia se explica tanto por una mayor utilización entre los investigadores jóvenes como por una mayor resistencia de los investigadores sénior a utilizar estas herramientas.

En cuanto a las herramientas utilizadas, los modelos generalistas dominan claramente el panorama. Representan el 75,9 % de las menciones entre las tres herramientas de IA más utilizadas por los investigadores. ChatGPT aparece en primer lugar, con el 36,8 % de las menciones, seguido de Gemini, con el 19,4 %, y Claude, con el 6,5 %. Las herramientas específicas para escritura y edición representan el 7,2 %, mientras que las destinadas al descubrimiento de literatura y evidencias alcanzan el 5,6 %.

El informe también revela diferencias geográficas. El uso intensivo de IA para descubrir contenidos científicos es especialmente elevado en Asia oriental. En el conjunto de la muestra, el 5,7 % de los investigadores depende principalmente o exclusivamente de herramientas de IA para identificar investigaciones relevantes, pero entre los investigadores jóvenes la proporción llega al 21,2 % en Japón y al 15,2 % en China, frente al 5,7 % en Estados Unidos y el 8,9 % en Europa.

Otro aspecto significativo es la forma de financiación de estas herramientas. La mayoría de los investigadores accede a ellas de manera independiente: el 45,4 % utiliza principalmente herramientas gratuitas y el 41,3 % las paga personalmente. Solo el 11,1 % señala que su institución financia la licencia. Esto indica que la adopción de IA está avanzando más rápidamente que el establecimiento de políticas y sistemas institucionales de apoyo, formación y financiación.

La satisfacción con la IA es relativamente elevada cuando se utiliza para descubrir información científica. El 65,2 % de los investigadores se declara satisfecho o muy satisfecho con la ayuda que proporciona su herramienta principal para descubrir nuevos contenidos. Las razones principales son su capacidad para localizar fuentes relevantes y proporcionar referencias, además de la precisión de las respuestas y el incremento de la productividad.

Sin embargo, la confianza sigue siendo el principal problema. Las respuestas abiertas muestran que los investigadores valoran especialmente la posibilidad de aumentar la productividad, facilitar el descubrimiento de literatura y ampliar el acceso al conocimiento, pero manifiestan importantes preocupaciones sobre la fiabilidad de los resultados. Entre más de 7.500 respuestas abiertas, las alucinaciones y los problemas de exactitud acumularon 4.935 menciones, muy por encima de otros riesgos. También aparecen el temor a la pérdida de pensamiento crítico, mencionado 1.167 veces, y las preocupaciones relacionadas con la integridad de la investigación, con 702 menciones.

En definitiva, el estudio presenta una imagen de una investigación científica cada vez más asistida por IA, pero todavía lejos de una investigación autónoma. La IA está penetrando especialmente en la búsqueda y descubrimiento de información, la organización de ideas, la redacción y la edición, mientras que los investigadores mantienen un mayor control humano sobre la evaluación y las decisiones científicas. El gran reto que plantea el informe no es tanto conseguir que los investigadores utilicen IA —algo que ya está sucediendo— como garantizar que sepan utilizarla de forma crítica, verificable, ética y responsable, especialmente ante las alucinaciones, la pérdida potencial de pensamiento crítico, la integridad científica y la seguridad de los datos.

Manual apegado a APA 7.a edición para citar, documentar y transparentar el uso de Inteligencia Artificial Generativa (IAGen)

Ruiz Mendoza, K. K. Manual apegado a APA 7.ª edición para citar, documentar y transparentar el uso de IAGen. 2026. El documento ofrece orientaciones prácticas para documentar de manera transparente el uso de herramientas de inteligencia artificial generativa en trabajos académicos y de investigación

Texto completo

El documento propone un marco práctico para transparentar el uso de la inteligencia artificial generativa (IAGen) en la producción académica, partiendo de una idea fundamental: no basta con declarar de forma genérica que se ha utilizado IA. La transparencia exige explicar qué herramienta se empleó, con qué finalidad, qué partes del trabajo fueron afectadas, cómo se verificó la información generada y qué responsabilidad asumieron finalmente los autores.

El principio central es que la utilización de IA debe ser documentable y auditable, manteniendo siempre la contribución intelectual humana como elemento fundamental del trabajo académico.

Uno de los principios más importantes del manual es la responsabilidad humana final. La inteligencia artificial puede ayudar a organizar ideas, redactar, traducir, revisar la claridad de un texto, elaborar tablas, generar imágenes o apoyar determinados análisis, pero no puede asumir la responsabilidad ética, académica o legal del trabajo. Las decisiones sobre las ideas, la interpretación de los resultados, las conclusiones, la selección de fuentes y la edición definitiva corresponden a las personas autoras. Por esta razón, el documento recomienda que la IA nunca aparezca como autora o coautora de una investigación.

El manual insiste especialmente en la verificación de los resultados producidos por la IA. Toda afirmación, dato, cita, DOI, referencia bibliográfica, tabla, figura o resultado sugerido por una herramienta generativa debe contrastarse con fuentes originales o documentación primaria. La salida de un modelo de lenguaje no debe considerarse por sí misma una fuente de conocimiento. Esta recomendación resulta especialmente relevante porque los sistemas generativos pueden producir información incorrecta, referencias inexistentes o interpretaciones que parecen plausibles pero carecen de respaldo documental.

Una aportación práctica del documento es la creación de una bitácora de uso de IA generativa. Esta debería registrar elementos como la fecha, la herramienta y el modelo utilizado, el objetivo académico, el prompt, la salida que finalmente se empleó y las modificaciones o verificaciones realizadas por el autor. De este modo, el uso de IA deja de ser una actividad opaca y pasa a formar parte de la metodología documentada de la investigación. El manual señala que el registro debe ser suficientemente claro para que otra persona pueda comprender qué intervención tuvo la IA, aunque no necesariamente pueda reproducir exactamente la misma respuesta.

El documento también ofrece modelos concretos para redactar una declaración metodológica sobre el uso de IA. La fórmula propuesta consiste en indicar qué herramienta se utilizó, para qué finalidad y dejar constancia de que la persona autora revisó, verificó y modificó la salida antes de incorporarla al trabajo. Se pretende así evitar declaraciones ambiguas como “se utilizó inteligencia artificial” y sustituirlas por explicaciones específicas sobre la naturaleza y alcance de la intervención tecnológica.

Otro aspecto destacado es la documentación de los prompts y de las salidas relevantes mediante apéndices. El manual recomienda identificar la herramienta, el modelo y la fecha de utilización, explicar el objetivo académico, conservar el prompt suficientemente completo, registrar la salida relevante, documentar las modificaciones humanas y señalar las fuentes utilizadas para verificar los resultados. Esta documentación proporciona una especie de rastro de auditoría que permite reconstruir cómo intervino la IA en el proceso de elaboración del trabajo.

La guía presta también atención a la privacidad y protección de datos. No recomienda incorporar a los apéndices conversaciones que contengan nombres, matrículas, correos electrónicos, rostros, direcciones, datos médicos u otra información sensible. Del mismo modo, deben evitarse prompts que revelen contraseñas, credenciales, documentos internos o información protegida. La transparencia sobre el uso de IA no debe convertirse, por tanto, en una nueva fuente de exposición de información personal o confidencial.

En cuanto a la presentación formal, el manual adapta estas prácticas al estilo APA 7.ª edición. Propone modelos para las declaraciones metodológicas, las notas de figuras generadas con IA, las tablas elaboradas con asistencia de IA y las referencias de chats específicos. También explica cómo organizar los apéndices y cómo numerar sus tablas y figuras: por ejemplo, Tabla A1 o Figura A1 para el Apéndice A.

En definitiva, el documento plantea que la cuestión no es prohibir o permitir genéricamente la inteligencia artificial en la investigación, sino establecer condiciones de uso responsable. La IA puede convertirse en una herramienta legítima para mejorar determinados procesos académicos siempre que exista supervisión humana, transparencia, trazabilidad y verificación. La idea esencial podría resumirse así: la IA puede participar en el proceso de producción del conocimiento, pero la responsabilidad sobre ese conocimiento continúa siendo humana.

Cuando el error se convierte en consenso: la ciencia ya no puede corregirse al ritmo al que se propagan los errores

Scientists reviewing evidence beneath text reading “Science Cannot Self-Correct.”

Hu, Jason. “When Errors Become Consensus: Science’s Self-Correction Can No Longer Keep Up”. The Scholarly Kitchen, 17 de agosto de 2026

Ver original

La ciencia siempre ha cometido errores, pero tradicionalmente se confiaba en que su propio sistema de autocorrección acabaría detectándolos y sustituyéndolos por conocimientos más sólidos. El problema actual es que esa capacidad de corrección ya no parece avanzar al mismo ritmo que la producción y difusión de información.

Antes, los errores podían tardar años en propagarse porque las publicaciones, revisiones, libros y manuales evolucionaban lentamente. Esa lentitud actuaba, paradójicamente, como una forma de contención. Ahora, una afirmación errónea puede difundirse prácticamente de inmediato a través de artículos, bases de datos, redes académicas y sistemas de inteligencia artificial.

Hu utiliza como ejemplo histórico las afirmaciones de Justus von Liebig sobre el valor nutricional del extracto de carne. Liebig defendió que el concentrado de carne poseía un importante valor nutritivo y contribuyó a popularizar el llamado beef tea. Sin embargo, experimentos realizados posteriormente por Adolf Fick y Johannes Wislicenus apuntaron en otra dirección: eran principalmente las grasas y los carbohidratos, y no las proteínas, los que proporcionaban energía para el trabajo muscular. A pesar de ello, las ideas iniciales de Liebig sobrevivieron durante décadas y contribuyeron a consolidar una asociación entre carne, proteína y fuerza que continúa teniendo influencia en la cultura alimentaria contemporánea.

A partir de este ejemplo, el autor introduce el concepto de “consenso sintético”Se trataría de una situación en la que la credibilidad de una afirmación no procede fundamentalmente de una nueva validación empírica, sino de su repetición, agregación y reproducción dentro de diferentes sistemas de conocimiento. Una afirmación puede aparecer en artículos, revisiones, libros, bases de datos y posteriormente en sistemas de IA. Al aparecer tantas veces, parece estar respaldada por múltiples fuentes, aunque todas esas apariciones procedan en última instancia de la misma afirmación original y no constituyan verificaciones independientes.

El fenómeno se desarrolla, según Hu, mediante tres fuerzas: persistencia, suministro y recursividad. La persistencia significa que un error puede continuar circulando incluso después de que el artículo original haya sido retractado. El autor cita el caso de un ensayo sobre suplementos de omega-3 en pacientes con EPOC que fue retractado en 2008 por falsificación de datos y que, once años después, seguía siendo citado positivamente en más de un centenar de publicaciones y otros materiales. La retractación afecta al documento original, pero con frecuencia no acompaña a todas las copias, citas, revisiones y afirmaciones derivadas que ya se han incorporado al sistema científico.

El suministro hace referencia al crecimiento de los paper mills, organizaciones que producen artículos científicos fraudulentos o de baja calidad de forma industrializada. El problema deja de ser entonces detectar ocasionalmente un artículo defectuoso y pasa a consistir en hacer frente a un volumen de información potencialmente fraudulenta que puede superar la capacidad de editores, revisores, instituciones y organismos de integridad científica para examinarla. El sistema de control se encuentra así ante una asimetría: la producción de contenidos problemáticos puede escalar mucho más rápidamente que su detección y retirada.

La tercera fuerza, y quizá la más novedosa, es la recursividad introducida por la IA generativa. Los grandes modelos de lenguaje pueden sintetizar y reproducir información existente a un coste marginal muy bajo. Si entre esa información existen afirmaciones erróneas, sin fundamento o incluso inventadas, la IA puede incorporarlas a nuevos textos. Estos nuevos textos pueden volver a alimentar otros sistemas de IA, creando un ciclo en el que una afirmación se repite y se transforma sucesivamente. Con cada repetición puede disminuir la percepción de incertidumbre y aumentar la apariencia de corroboración, aunque la evidencia original no haya mejorado.

El artículo conecta esta dinámica con dos problemas relacionados: el “model collapse” y la aparición de una posible “monocultura científica”. El primero describe el deterioro que puede producirse cuando los modelos se entrenan indiscriminadamente con contenidos generados por otros modelos. El segundo hace referencia a la tendencia de los sistemas de IA a favorecer la convergencia de temas, métodos y formas de expresión cuando se utilizan cada vez más para generar ideas, sintetizar literatura y formular preguntas de investigación. El riesgo es que la IA no solo reproduzca errores existentes, sino que contribuya a reducir la diversidad intelectual del sistema científico.

Esto plantea una limitación importante para los mecanismos tradicionales de revisión por pares, supervisión editorial y retractación. Estos mecanismos fueron diseñados fundamentalmente para corregir errores dentro de la literatura científica. Pero actualmente el conocimiento ya no está contenido exclusivamente en los artículos publicados. Las afirmaciones científicas pasan a bases de datos, revisiones, materiales docentes, herramientas de decisión, motores de búsqueda y modelos de IA. Por ello, retirar o corregir un artículo puede resultar insuficiente: el error puede continuar existiendo en todos los sistemas que ya lo han incorporado.

La propuesta central de Hu es construir una auténtica “capa de propagación” de las correcciones. Si una afirmación errónea puede viajar de un artículo a una revisión, de esta a una base de datos y posteriormente a un modelo de IA, las correcciones deberían poder realizar exactamente el mismo recorrido. El autor menciona iniciativas como United2Act, los trabajos de la STM Association sobre el uso responsable de contenidos científicos en IA, Crossmark, la base de datos de Retraction Watch y las recomendaciones de NISO sobre comunicación de retractaciones. Sin embargo, señala que todavía existe una adopción desigual y, sobre todo, que los modelos de IA permanecen en gran medida fuera del circuito de corrección científica.

La conclusión es especialmente relevante para la integridad científica en la era de la IA: el desafío ya no consiste únicamente en impedir que un artículo falso o defectuoso llegue a publicarse. Hay que garantizar que, cuando aparezca un error, la corrección sea capaz de viajar tan lejos y tan rápido como viajó el error original. De lo contrario, podemos terminar en un sistema en el que la repetición produzca una apariencia de consenso y donde una afirmación parezca verdadera simplemente porque ha sido reproducida miles de veces por personas, bases de datos y máquinas.

La metáfora final del artículo resulta muy apropiada: lo que se incorpora a una estructura tiende a permanecer. La pregunta que plantea Hu para el ecosistema académico es, por tanto, qué estamos incorporando a las infraestructuras que conservarán y transmitirán el conocimiento del futuro y si esas infraestructuras serán capaces de recordar no solo las afirmaciones, sino también sus correcciones. Es un cambio de perspectiva importante: la integridad científica deja de ser únicamente una cuestión de revisar publicaciones y pasa a convertirse también en un problema de arquitectura, metadatos, trazabilidad, interoperabilidad y gobernanza de la información científica.

Cuando la IA escribe a la IA: quién controla las comunicaciones en la empresa del futuro

Hoque, Faisal. “Your AI is emailing my AI—and nobody’s in charge”. Fast Company, 17 de agosto de 2026. El artículo aborda la creciente automatización de las comunicaciones laborales y el problema de la responsabilidad cuando los sistemas de IA empiezan a comunicarse entre sí en nombre de los trabajadores. Artículo original en Fast Company

Hay una situación que empieza a dejar de ser excepcional: una persona recibe un correo electrónico perfectamente redactado, con información sobre un proyecto, próximos pasos y responsables, pero descubre que el mensaje ha sido generado y enviado íntegramente por un agente de inteligencia artificial que actúa en nombre de otra persona. Al mismo tiempo, incluso cuando la IA no envía directamente los mensajes, cada vez más trabajadores recurren a ella para redactarlos.

Según datos de Gallup citados por Fast Company, más de la mitad de los empleados estadounidenses utilizan IA en el trabajo y el uso más habitual, señalado por el 51 %, es precisamente escribir y editar contenidos.

El resultado es una transformación silenciosa de la comunicación profesional: aparentemente los humanos siguen hablando con humanos, pero debajo de la superficie las IA empiezan a hablar entre sí. Una persona puede recibir un mensaje elaborado por un agente, introducirlo en su propio chatbot y enviar la respuesta generada por este. De esta manera se crea una nueva capa de comunicación en la que los interlocutores humanos pueden quedar cada vez más alejados de la elaboración efectiva de sus propios mensajes.

El autor considera que este proceso es difícilmente reversible y que tampoco sería necesariamente deseable detenerlo. La IA puede producir comunicaciones mejores que las humanas en determinadas circunstancias. Fast Company cita el caso de Allstate, donde la IA se emplea para redactar unas 50.000 comunicaciones de reclamaciones al día y los mensajes generados resultaron más claros, menos cargados de jerga y más empáticos que los redactados anteriormente por empleados. Además, la enorme cantidad de comunicaciones que reciben actualmente los trabajadores hace comprensible que deleguen parte de esta tarea en sistemas automatizados.

El problema, por tanto, no es simplemente utilizar IA para comunicarse, sino determinar qué grado de autonomía resulta aceptable. El autor establece un continuo que va desde la IA que simplemente ayuda a perfeccionar un texto, pasando por aquella que redacta el mensaje y el trabajador lo revisa, hasta llegar a la IA que representa directamente a una persona y mantiene conversaciones sin que esta llegue necesariamente a revisar los intercambios. El peligro aparece cuando las organizaciones avanzan por este continuo sin haber tomado conscientemente la decisión de hacerlo.

Una de las principales advertencias se refiere a las comunicaciones que no deberían delegarse nunca. El artículo pone como ejemplo las evaluaciones del desempeño, el mentoring o determinadas conversaciones difíciles entre directivos y empleados. Una evaluación laboral no consiste solamente en producir un documento correcto: su valor reside en que un responsable haya observado, valorado y pensado personalmente sobre el trabajo de otra persona. Automatizar completamente ese proceso puede ahorrar tiempo, pero también puede eliminar precisamente el componente humano que le da sentido.

El autor propone, por ello, establecer una “línea humana”: identificar aquellas conversaciones cuyo valor depende de la presencia, el juicio o la empatía de una persona y mantenerlas fuera del alcance de la automatización. Para el resto de comunicaciones, la cuestión no debería ser prohibir la delegación, sino hacerla explícita y consciente. La organización debe saber si un mensaje ha sido escrito personalmente, asistido por IA, delegado completamente a una IA o producido por un agente que representa autónomamente al trabajador.

La tercera cuestión fundamental es la responsabilidad. Si un agente puede enviar correos, concertar reuniones, realizar compras o comprometer a una empresa, debe existir un mandato claro sobre aquello que puede decidir y una persona responsable de sus actuaciones. El artículo insiste en que no basta con darle instrucciones al agente, porque esas instrucciones también son texto y el sistema puede interpretarlas de manera imperfecta. Los controles verdaderamente importantes deben situarse fuera de la IA: límites de gasto, permisos restringidos, credenciales específicas y mecanismos que exijan aprobación humana antes de determinadas acciones.

En este sentido, la idea central del artículo es que la autonomía de la IA exige reforzar, no eliminar, la responsabilidad humana. No sería necesario que una persona revisara cada correo generado por un agente, porque eso acabaría anulando las ventajas de la automatización. Pero sí debe existir una persona identificada que responda por lo que el agente hace y unos límites técnicos que impidan que pueda tomar decisiones que excedan su mandato.

Fast Company propone que las organizaciones comiencen auditando dónde se está produciendo ya comunicación entre IA y IA, establezcan qué conversaciones deben seguir siendo exclusivamente humanas, identifiquen los diferentes grados de delegación y definan para cada agente qué puede hacer, qué no puede hacer y quién responde por sus acciones. La conclusión es especialmente relevante para la evolución de los agentes de IA: las organizaciones que triunfarán no serán necesariamente las que más automaticen, sino aquellas capaces de decidir conscientemente dónde debe hablar la máquina y dónde debe seguir hablando el ser humano.

Claude incorporará marcas de agua invisibles al texto generado por IA

Keverenge, Hillary. “Claude will hide a watermark in your AI-written text, and it’ll follow you around”. Android Authority, 11 de agosto de 2026.
Artículo original en Android Authority

Anthropic ha anunciado que los nuevos modelos de Claude lanzados a partir del 2 de agosto de 2026 incorporarán marcas de agua invisibles y legibles por máquinas en los textos generados por inteligencia artificial.

La medida está relacionada con la adhesión de Anthropic al Código de Prácticas del artículo 50(2) de la Ley de Inteligencia Artificial de la Unión Europea (EU AI Act), centrado en la transparencia del contenido generado mediante IA. Sin embargo, la compañía ha decidido aplicar este sistema a escala mundial, no únicamente dentro de la Unión Europea. La marca se incorpora directamente en el contenido textual y está diseñada para resultar imperceptible para el usuario, sin modificar el significado, la calidad ni la legibilidad de las respuestas.

Una de las características más relevantes es que esta marca de agua puede acompañar al texto cuando el usuario lo copia y pega fuera de Claude, e incluso puede mantenerse después de determinadas modificaciones. La tecnología se aplica a nivel del modelo, por lo que estará presente en diferentes productos y servicios de Anthropic, entre ellos Claude, la API de Claude, Claude Code, Claude Cowork y Claude Tag, además de determinados servicios de computación en la nube compatibles. Los modelos de Claude utilizados a través de AWS, Google Cloud o Microsoft Foundry también podrán incorporar estas marcas cuando la funcionalidad esté disponible. Esto supone un cambio importante respecto a los sistemas tradicionales de detección de IA, porque la identificación no dependería únicamente del análisis estadístico posterior del estilo de escritura, sino de una señal introducida durante la generación del contenido.

No obstante, Anthropic advierte que la marca de agua no debe interpretarse como una prueba absoluta de autoría mediante IA. La detección de la marca indicaría que un texto pudo haber sido procesado por Claude, pero no demostraría necesariamente que Claude haya escrito originalmente todo su contenido. Por ejemplo, una persona podría utilizar Claude únicamente para corregir, traducir, resumir o reformatear un texto que había escrito previamente. Del mismo modo, que no se encuentre la marca tampoco demostraría que un texto no haya sido generado o manipulado mediante inteligencia artificial. Una edición intensa, la paráfrasis, la traducción, los fragmentos demasiado cortos o la combinación de texto generado por Claude con contenido escrito por una persona pueden hacer que la marca resulte indetectable.

Anthropic todavía no ha explicado públicamente todos los detalles técnicos sobre cómo podrán detectarse estas marcas. La empresa señala que posteriormente proporcionará documentación técnica y mecanismos de detección. Este aspecto será especialmente importante para universidades, editoriales, medios de comunicación y organizaciones que pretendan utilizar la señal como mecanismo de transparencia o procedencia. La existencia de una marca persistente podría facilitar determinadas formas de trazabilidad, pero sus propias limitaciones hacen que no pueda considerarse por sí sola un detector fiable de textos producidos por IA.

La iniciativa también se extiende al contenido visual. Anthropic está incorporando metadatos de procedencia firmados en determinados formatos de archivo, como PNG, JPG y SVG, utilizando el estándar C2PA (Coalition for Content Provenance and Authenticity). Estos metadatos pueden indicar que un archivo ha sido procesado por Claude y forman parte de una tendencia más amplia de la industria hacia sistemas de procedencia digital que permitan conocer el origen o las transformaciones experimentadas por un contenido. Google y Meta también se han adherido al código europeo de transparencia, lo que apunta hacia una progresiva generalización de mecanismos de identificación y procedencia del contenido generado o modificado mediante IA.

Finalmente, los modelos de Claude anteriores al 2 de agosto de 2026 no incorporan inmediatamente este sistema, aunque Anthropic trabaja para añadir la funcionalidad durante el periodo transitorio previsto por la legislación europea. La decisión resulta especialmente significativa porque plantea un nuevo escenario para la integridad académica, la publicación científica y la alfabetización en inteligencia artificial: en lugar de intentar determinar únicamente mediante algoritmos si un texto “parece” escrito por una IA, se avanza hacia mecanismos de procedencia incorporados en el propio proceso de generación. Al mismo tiempo, las limitaciones reconocidas por Anthropic muestran que estas marcas deben entenderse como señales de procedencia y no como pruebas concluyentes de autoría, una distinción fundamental para evitar falsos positivos en contextos educativos, científicos y profesionales.

Zuckerberg defiende una IA abierta y accesible para todos frente a la concentración del poder tecnológico

Associated Press, “Zuckerberg manifesto pushes an open-source approach on AI as Meta releases its latest model”, publicado en Yahoo Tech, 10 de agosto de 2026. https://tech.yahoo.com/ai/meta-ai/articles/zuckerberg-manifesto-pushes-open-source-154146152.html?utm_source=chatgpt.com

Zuckerberg plantea que el futuro de la IA no debería estar determinado por un pequeño grupo de compañías que controle los modelos más avanzados, sino por una inteligencia artificial ampliamente distribuida, accesible y utilizable por individuos y organizaciones. La gran cuestión que queda abierta es si la estrategia de Meta representa realmente una democratización de la IA o una nueva forma de consolidar su posición dominante dentro del ecosistema de inteligencia artificial.

Mark Zuckerberg ha presentado una nueva visión sobre el futuro de la inteligencia artificial en un manifiesto en el que defiende que las tecnologías de IA avanzada deben estar ampliamente disponibles y no quedar bajo el control exclusivo de unas pocas grandes empresas, instituciones o gobiernos. Su planteamiento aparece acompañado del lanzamiento por parte de Meta de Muse Glimmer, un modelo de IA de pesos abiertos que puede ejecutarse en un ordenador personal, así como del anuncio de que los desarrolladores tendrán acceso a un modelo más potente, Muse Spark 1.2.

El argumento central de Zuckerberg es que la denominada superinteligencia artificial debería distribuirse de la forma más amplia posible. Según su visión, una concentración de estas capacidades en unas pocas organizaciones podría generar una enorme acumulación de poder y limitar las posibilidades de innovación. Frente a los planteamientos de empresas que mantienen sus modelos como tecnologías propietarias y sometidas a un control más estricto, Meta pretende presentarse como defensora de una IA más abierta, que permita a investigadores, desarrolladores y usuarios experimentar y construir nuevas aplicaciones sobre ella.

El manifiesto también refleja una visión muy optimista sobre las consecuencias económicas y sociales de la IA. Zuckerberg sostiene que la inteligencia artificial no tiene por qué traducirse necesariamente en una destrucción masiva de empleo. Por el contrario, considera que las herramientas de IA pueden permitir que pequeñas empresas y equipos reduzcan sus costes, aumenten enormemente su capacidad productiva y creen nuevos productos y servicios. Los asistentes personales inteligentes podrían actuar como auténticos colaboradores capaces de ayudar a las personas a aprender, programar, crear contenidos o desarrollar proyectos que anteriormente requerían equipos mucho mayores.

Otro aspecto importante es su defensa de una regulación equilibrada. Zuckerberg advierte de que un exceso de regulación podría ralentizar la innovación occidental y favorecer a competidores internacionales, especialmente China. Su posición combina, por tanto, la defensa de determinadas medidas de seguridad con una oposición a marcos regulatorios que, en su opinión, puedan impedir el desarrollo rápido de la IA. Esta postura sitúa a Meta en el debate sobre hasta dónde deben llegar los gobiernos en la supervisión de una tecnología que puede tener consecuencias económicas, sociales y geopolíticas profundas.

Sin embargo, el planteamiento de Zuckerberg también ha generado críticas importantes. Una de las principales cuestiones es la utilización del término open source. Algunos especialistas señalan que los modelos de pesos abiertos no son necesariamente equivalentes al software de código abierto tradicional: disponer de los pesos de un modelo no implica necesariamente conocer o poder modificar libremente sus datos de entrenamiento, procesos de entrenamiento, código completo o mecanismos de seguridad. Por ello, la estrategia de Meta puede considerarse «abierta» en determinados aspectos, pero no necesariamente plenamente abierta en el sentido clásico del open source.

En conjunto, el manifiesto constituye también una declaración estratégica de Meta. La compañía intenta diferenciarse de sus principales competidores presentándose como la alternativa que quiere democratizar el acceso a la IA avanzada. Al mismo tiempo, esta apertura puede favorecer a Meta al crear un amplio ecosistema de desarrolladores que utilicen sus modelos y tecnologías. El discurso de Zuckerberg combina así una defensa filosófica de la democratización de la inteligencia artificial con un claro interés empresarial: hacer que el ecosistema de IA se construya alrededor de las tecnologías de Meta.

Idea central:

La revolución de la inteligencia artificial en el trabajo: más evolución que sustitución

Soundararajan, Vivek. AI and Work: An Expert Assesses How Far This Revolution Still Has to Run. The Conversation, 9 de marzo de 2026. Disponible en: https://theconversation.com/ai-and-work-an-expert-assesses-how-far-this-revolution-still-has-to-run-277650

Vivek Soundararajan, profesor de Trabajo e Igualdad de la Universidad de Bath, examina críticamente el impacto real que la inteligencia artificial está teniendo sobre el empleo y cuestiona tanto el entusiasmo desmedido como las predicciones catastrofistas que dominan el debate público. Frente a los discursos que anuncian una transformación inmediata del mercado laboral o la desaparición masiva de puestos de trabajo, el autor sostiene que la evidencia empírica disponible muestra una realidad mucho más matizada.

La revolución de la IA ya ha comenzado, pero su desarrollo es desigual, sectorial y mucho más lento de lo que sugieren los titulares. En lugar de una sustitución generalizada del trabajo humano, lo que se observa es una incorporación gradual de herramientas de IA que mejoran determinadas tareas sin alterar todavía la estructura básica del empleo en la mayoría de las organizaciones.

El artículo reúne diversos estudios recientes que demuestran que la inteligencia artificial puede generar importantes aumentos de productividad en actividades intensivas en conocimiento. Entre ellos destaca un experimento en el que profesionales que utilizaron ChatGPT para tareas de redacción completaron su trabajo un 40 % más rápido y con una calidad aproximadamente un 18 % superior respecto a quienes no emplearon estas herramientas. Del mismo modo, investigaciones realizadas en centros de atención al cliente muestran incrementos significativos en el número de incidencias resueltas por hora gracias al apoyo de sistemas de IA. Estos resultados confirman que la tecnología puede mejorar la eficiencia en determinadas ocupaciones, especialmente aquellas basadas en la producción y el procesamiento de información. Sin embargo, Soundararajan advierte que estos éxitos experimentales no deben confundirse con una transformación completa del mercado laboral.

El autor destaca que las predicciones sobre una destrucción masiva de empleo aún no se han materializado. Los mercados laborales de los países desarrollados continúan mostrando niveles históricamente elevados de ocupación y, hasta el momento, las investigaciones no encuentran evidencias sólidas de pérdidas generalizadas de empleo ni de reducciones salariales atribuibles directamente a la adopción de la inteligencia artificial. Incluso estudios realizados en empresas pioneras en el uso de chatbots muestran efectos muy limitados sobre las horas trabajadas o los ingresos de los empleados. La explicación reside en que muchas tareas siguen requiriendo juicio humano, conocimiento tácito, interacción social, experiencia acumulada y presencia física, capacidades que la IA todavía no puede reproducir de forma fiable.

Uno de los aspectos más interesantes del análisis se refiere a la desigual distribución de los beneficios de la IA. Soundararajan observa que quienes más se benefician son, en muchos casos, los trabajadores con menor experiencia. La inteligencia artificial actúa como una herramienta que reduce la brecha de productividad entre empleados noveles y expertos al proporcionar asistencia inmediata en tareas complejas. Paradójicamente, esta ventaja plantea un problema de largo plazo: si las empresas reducen la contratación de perfiles junior porque la IA puede realizar parte de las tareas de aprendizaje inicial, podrían debilitar el proceso mediante el cual se forman los futuros profesionales expertos. Es decir, la tecnología puede mejorar el rendimiento presente mientras compromete el desarrollo del capital humano necesario para el futuro.

El artículo también analiza las diferencias entre sectores económicos. La adopción de la inteligencia artificial avanza de manera muy desigual: las empresas tecnológicas y los servicios basados en información incorporan estas herramientas con mucha mayor rapidez que sectores como la hostelería, el comercio o los servicios presenciales. Además, existe una diferencia importante entre experimentar con aplicaciones de IA e integrarlas realmente en los procesos organizativos. Muchas empresas utilizan herramientas de inteligencia artificial de forma puntual, pero todavía no han rediseñado su estructura de trabajo, sus flujos de información o sus modelos de negocio para aprovechar plenamente su potencial. Esto explica por qué el impacto agregado sobre la productividad de las economías sigue siendo relativamente modesto pese a la enorme atención mediática que recibe la IA.

Soundararajan sostiene que el verdadero reto no consiste únicamente en desarrollar modelos cada vez más potentes, sino en gestionar adecuadamente la transición organizativa y social que implica su adopción. La revolución tecnológica dependerá menos de la capacidad de los algoritmos que de la habilidad de las empresas para rediseñar procesos, formar a sus trabajadores y distribuir equitativamente las ganancias de productividad. Si la automatización elimina determinadas tareas de entrada sin crear nuevas oportunidades de aprendizaje y desarrollo profesional, podrían agravarse las desigualdades laborales y reducirse las posibilidades de movilidad profesional para las nuevas generaciones.

El autor defiende una posición equilibrada entre el optimismo tecnológico y el alarmismo. La inteligencia artificial está produciendo mejoras reales en productividad y modificará profundamente muchas ocupaciones, pero la transformación será gradual, heterogénea y dependerá tanto de decisiones organizativas como del propio avance tecnológico. El verdadero desafío no es determinar si la IA sustituirá a los trabajadores, sino cómo adaptar los sistemas educativos, las políticas laborales y las estrategias empresariales para que los beneficios de esta nueva revolución tecnológica se traduzcan en empleos de mayor calidad, oportunidades de aprendizaje continuo y un crecimiento económico más inclusivo.

La IA generativa amenaza con desbordar las revistas científicas: el creciente desafío del fraude académico

Scott, Alex. Can we stop AI from flooding scientific journals? Chemical & Engineering News (C&EN), vol. 104, julio de 2026. Publicado por la American Chemical Society. https://cen.acs.org/policy/publishing/ai-fraud-science-journal-generative-ai/104/web/2026/07

La rápida expansión de la inteligencia artificial generativa está transformando el fraude científico al reducir drásticamente el tiempo y el esfuerzo necesarios para producir artículos aparentemente rigurosos. Lo que antes requería semanas o meses de trabajo —incluida la fabricación de datos, imágenes y referencias— ahora puede realizarse en cuestión de horas mediante herramientas de IA capaces de redactar manuscritos convincentes y difíciles de distinguir de investigaciones legítimas.

Según diversos expertos citados en el reportaje, la IA no ha creado el problema del fraude científico, pero sí ha multiplicado su escala y velocidad, actuando como un potente acelerador de un sistema ya afectado por la presión del «publicar o perecer». Como resume Ivan Oransky, cofundador de Retraction Watch, «la IA es un acelerador, no la chispa»: el sistema de «publicar o perecer» ya incentivaba malas prácticas, pero la IA ha multiplicado la velocidad y la escala con la que pueden cometerse.

El reportaje sostiene que el verdadero problema no es únicamente que existan investigadores deshonestos, sino que el ecosistema editorial carece de recursos suficientes para detectar el creciente volumen de manuscritos fraudulentos. Muchas revistas científicas dependen de editores y revisores voluntarios, sometidos a una enorme carga de trabajo, que difícilmente pueden comprobar la autenticidad de todos los datos, imágenes, referencias y análisis estadísticos que reciben. Esta vulnerabilidad convierte el sistema editorial en un objetivo especialmente atractivo para quienes utilizan la IA para fabricar investigaciones falsas.

El artículo explica que la IA permite automatizar prácticamente todas las fases de un fraude científico. Un modelo puede generar hipótesis plausibles, redactar una introducción convincente, describir una metodología aparentemente coherente, inventar resultados compatibles con esa metodología e incluso producir referencias bibliográficas inexistentes pero verosímiles. A ello se añade la posibilidad de crear gráficos, tablas e imágenes sintéticas difíciles de distinguir de las reales, lo que incrementa el riesgo de que estudios completamente ficticios lleguen a superar los controles editoriales iniciales.

Uno de los aspectos más preocupantes es el crecimiento de una auténtica industria del fraude científico. El artículo describe cómo las denominadas paper mills (fábricas de artículos científicos) están incorporando herramientas de IA para aumentar enormemente su productividad. Estas organizaciones venden manuscritos completos o autorías a investigadores necesitados de publicaciones para obtener promociones, financiación o estabilidad laboral. La IA reduce sus costes de producción y les permite generar cantidades de artículos que hace pocos años habrían resultado imposibles.

Frente a esta amenaza, está surgiendo un mercado paralelo de empresas especializadas en detectar fraudes científicos asistidos por IA. Estas compañías desarrollan herramientas capaces de identificar patrones lingüísticos sospechosos, analizar imágenes manipuladas, localizar referencias inexistentes, detectar duplicaciones de datos y descubrir inconsistencias estadísticas. Sin embargo, el artículo advierte que esta situación se asemeja a una carrera armamentística: conforme mejoran los sistemas de detección, también evolucionan las herramientas utilizadas por quienes producen investigaciones fraudulentas.

El texto insiste en que las soluciones puramente tecnológicas serán insuficientes si no cambian los incentivos del sistema científico. Mientras la carrera académica siga premiando principalmente el número de publicaciones, el factor de impacto o determinados indicadores bibliométricos, continuará existiendo una fuerte presión para producir artículos rápidamente, lo que favorece tanto el uso irresponsable de la IA como el crecimiento del fraude organizado. En consecuencia, los autores y expertos consultados consideran necesario revisar los modelos de evaluación científica y reforzar la cultura de la integridad investigadora.

El artículo también pone de relieve la importancia de aumentar la transparencia durante todo el proceso editorial. Entre las medidas propuestas figuran exigir la declaración explícita del uso de IA generativa, mejorar la revisión por pares, reforzar la comprobación de datos e imágenes antes de la publicación y promover mecanismos que faciliten la reproducibilidad de los resultados. Estas prácticas no eliminarían el fraude, pero elevarían considerablemente el coste y la dificultad de producir investigaciones falsas.

La conclusión del reportaje es que la inteligencia artificial no representa una amenaza aislada, sino un factor que acelera debilidades estructurales ya existentes en la comunicación científica. La tecnología facilita la creación de artículos fraudulentos a una velocidad sin precedentes, mientras que las revistas científicas, los revisores y las editoriales disponen de recursos limitados para detectarlos. Frenar esta tendencia requerirá combinar herramientas automáticas de detección, reformas en los procesos editoriales y, sobre todo, cambios profundos en los incentivos que gobiernan la evaluación y la publicación de la investigación científica.

Las bibliotecas reivindican el equilibrio entre inteligencia artificial y derechos de autor

Klosek, Katherine, y Marjory Blumenthal. Revisiting the Library Copyright Alliance Statement on AI and Copyright. Association of Research Libraries (ARL), 10 de diciembre de 2025. https://www.arl.org/blog/revisiting-the-library-copyright-alliance-statement-on-ai-and-copyright/

Library Copyright Alliance (LCA), integrada por la Association of Research Libraries (ARL) y la American Library Association (ALA), ha revisado y actualizado su posición sobre la relación entre la inteligencia artificial y los derechos de autor a la luz de la evolución jurídica y tecnológica de los dos últimos años.

La organización reafirma que la legislación estadounidense sobre copyright continúa siendo suficientemente sólida y flexible para abordar los desafíos planteados por la IA generativa, sin necesidad de introducir modificaciones legislativas específicas. Esta postura se apoya tanto en la doctrina del fair use (uso legítimo) como en las primeras resoluciones judiciales relacionadas con el entrenamiento de modelos de inteligencia artificial.

Uno de los argumentos centrales del documento es que el entrenamiento de modelos de IA mediante el análisis de grandes cantidades de obras protegidas constituye, en la mayoría de los casos, un uso altamente transformador. La LCA sostiene que estos sistemas no reproducen las obras para sustituirlas en el mercado, sino que las utilizan para extraer patrones estadísticos y generar nuevas capacidades computacionales, una finalidad comparable a la reconocida como transformadora en precedentes como el caso Google Books. Desde esta perspectiva, exigir licencias obligatorias para entrenar modelos de IA supondría un obstáculo innecesario para la innovación científica y tecnológica, además de limitar la investigación y el desarrollo de nuevos servicios basados en inteligencia artificial.

La actualización de la declaración también tiene en cuenta las primeras decisiones judiciales en litigios de gran relevancia, como Bartz v. Anthropic y Kadrey v. Meta, en los que los tribunales comenzaron a analizar el uso de obras protegidas durante el entrenamiento de modelos generativos. Aunque estas resoluciones no cierran definitivamente el debate, la LCA considera que refuerzan su interpretación de que el entrenamiento de IA puede encajar dentro del uso legítimo cuando el proceso es transformador y no sustituye económicamente a las obras originales. No obstante, la organización recuerda que la cuestión sigue evolucionando y que futuros pronunciamientos judiciales podrían matizar algunos aspectos de esta interpretación.

El documento también aborda una cuestión especialmente relevante para bibliotecas y universidades: las consecuencias sociales y laborales derivadas de la expansión de la inteligencia artificial generativa. La LCA reconoce que estas tecnologías pueden provocar importantes transformaciones en numerosos sectores profesionales, pero advierte que el derecho de autor no debe utilizarse como herramienta para resolver problemas económicos o laborales que exceden su finalidad. En cambio, propone que las bibliotecas desempeñen un papel activo impulsando programas de alfabetización en inteligencia artificial, formación continua y reciclaje profesional, ayudando a ciudadanos e investigadores a comprender las capacidades, limitaciones y riesgos de estas tecnologías.

La alianza reafirma su compromiso con un sistema de propiedad intelectual equilibrado, que proteja los intereses de los creadores sin obstaculizar el acceso al conocimiento ni el progreso científico. La organización continuará supervisando la evolución de la jurisprudencia y de las políticas públicas para adaptar su posición cuando sea necesario, manteniendo como principio fundamental que el derecho de autor debe seguir promoviendo la creatividad, la investigación y el interés público en un contexto marcado por el desarrollo acelerado de la inteligencia artificial.