Archivo de la etiqueta: Inteligencia artificial

Guiando a la generación de la IA: Por qué la protección y la alfabetización digital deben ir de la mano.

Google. “Guiding the AI Generation: Why Safeguarding and Digital Literacy Must Go Hand-in-Hand”. Google in Europe, 10 de junio de 2026. Disponible en: Google in Europe

El artículo de Google plantea una reflexión de gran relevancia sobre el papel de la inteligencia artificial en la vida de los jóvenes y la necesidad de equilibrar dos dimensiones inseparables: la protección digital y la alfabetización crítica. A partir de una investigación realizada con 6.000 adolescentes del Reino Unido, la compañía concluye que la IA ya se ha convertido en una herramienta central para el aprendizaje, la creatividad y la vida cotidiana de las nuevas generaciones. Los jóvenes utilizan sistemas de IA para estudiar, resolver dudas, crear contenidos, explorar ideas y desarrollar proyectos personales. Sin embargo, ese uso creciente también expone a los menores a riesgos como la desinformación, la manipulación, los sesgos algorítmicos, la privacidad insuficiente y los contenidos dañinos.

El artículo analiza uno de los grandes desafíos educativos y sociales de nuestro tiempo: cómo acompañar a los jóvenes en un entorno digital cada vez más influido por la inteligencia artificial. Basándose en una investigación encargada por Google y desarrollada junto con la consultora juvenil Livity, que recogió las opiniones de más de 6.000 adolescentes británicos, el texto sostiene que la discusión pública no debe centrarse exclusivamente en restringir el acceso de los menores a determinadas tecnologías, sino en dotarlos de las capacidades necesarias para utilizarlas de forma crítica, segura y provechosa.

Uno de los hallazgos más relevantes del estudio es que la inteligencia artificial ya forma parte de la vida cotidiana de los adolescentes. Lejos de ser una tecnología marginal o experimental, los jóvenes la utilizan para aprender, crear contenidos, traducir textos, resolver problemas, preparar tareas escolares e incluso explorar posibles trayectorias profesionales. Según los datos presentados, el 67 % de los adolescentes emplea herramientas de IA para proyectos creativos de forma diaria o casi diaria, mientras que el 65 % las utiliza para actividades relacionadas con el aprendizaje más de una vez por semana. Estos porcentajes muestran que la IA se está convirtiendo rápidamente en una infraestructura básica de la educación informal y formal de las nuevas generaciones.

El informe también desmonta la imagen simplista de los jóvenes como usuarios pasivos o ingenuos de la tecnología. Una amplia mayoría declara preocuparse por la fiabilidad de la información que encuentra en internet y en las herramientas de IA. El 77 % afirma que suele reflexionar sobre la credibilidad de los contenidos que consulta para aprender. Sin embargo, el estudio revela diferencias significativas según la edad. Los adolescentes más jóvenes, entre 13 y 15 años, utilizan la IA principalmente como apoyo para los deberes y la investigación escolar, mientras que los mayores, entre 16 y 18 años, la emplean cada vez más para la gestión de su vida cotidiana, la orientación profesional y el desarrollo personal. Además, estos últimos muestran una actitud más crítica hacia la información generada por IA, verificando con mayor frecuencia posibles sesgos o errores.

A partir de estos resultados, el artículo introduce una idea central: la necesidad de sustituir los modelos de control rígido por un enfoque de “andamiaje” o scaffolding. En educación, este concepto hace referencia al apoyo progresivo que se ofrece a una persona mientras desarrolla nuevas competencias. Aplicado al ámbito digital, significa que la protección de los menores no debería consistir únicamente en imponer prohibiciones o barreras, sino en proporcionar acompañamiento, orientación y herramientas que evolucionen conforme aumenta la madurez de los jóvenes. Las medidas de supervisión más estrictas tendrían sentido en edades tempranas, pero deberían transformarse gradualmente en espacios de diálogo, confianza y toma compartida de decisiones.

Los autores advierten que la regulación sigue siendo imprescindible. Las plataformas digitales deben asumir una mayor responsabilidad en la reducción de riesgos asociados a diseños adictivos, algoritmos que amplifican contenidos perjudiciales o sistemas de denuncia ineficaces. No obstante, incluso una regulación perfecta no eliminaría todos los peligros. Por ello, la alfabetización digital y mediática se presenta como un complemento indispensable de cualquier estrategia de protección. Los jóvenes necesitan aprender a identificar la manipulación, detectar la desinformación, proteger su privacidad, comprender el funcionamiento de los algoritmos y evaluar críticamente las respuestas generadas por la inteligencia artificial.

El artículo concede asimismo un papel fundamental a las familias. Los datos muestran que los adolescentes siguen considerando a padres y madres como sus principales referentes cuando enfrentan problemas relacionados con el ciberacoso, la privacidad o la seguridad en línea. Sin embargo, muchos jóvenes expresan preocupación porque los adultos no siempre poseen los conocimientos necesarios para comprender fenómenos como la inteligencia artificial generativa, los contenidos sintéticos o las noticias falsas. Ante esta situación, se propone el desarrollo de campañas nacionales de alfabetización digital dirigidas también a padres, madres y otros adultos de confianza, con el fin de reducir la brecha generacional tecnológica.

Otra aportación importante del texto es la defensa de una alfabetización digital entendida en sentido amplio. No basta con enseñar a utilizar herramientas tecnológicas; es necesario desarrollar competencias críticas que permitan comprender cómo se producen los contenidos digitales, qué intereses económicos intervienen en las plataformas, cómo se recopilan y utilizan los datos personales y cuáles son las implicaciones éticas de la inteligencia artificial. Esta visión coincide con las tendencias actuales en educación mediática, que consideran la alfabetización digital una condición básica para la participación ciudadana en sociedades altamente tecnologizadas.

En última instancia, el artículo plantea que la verdadera cuestión no es si los jóvenes deben utilizar inteligencia artificial, sino cómo ayudarles a hacerlo de manera responsable y beneficiosa. La IA ya forma parte de sus procesos de aprendizaje, socialización y construcción de identidad. Pretender excluirla de sus vidas resulta poco realista. La prioridad, según los autores, debería ser crear un ecosistema en el que regulación, protección, educación y autonomía evolucionen conjuntamente. El objetivo final no es únicamente reducir los daños potenciales, sino garantizar que los adolescentes puedan aprovechar las oportunidades que ofrece la inteligencia artificial para aprender, crear y participar activamente en la sociedad digital del futuro.

Estrategia Nacional de Inteligencia Artificial de Canadá: “IA para todos”

Government of Canada – Innovation, Science and Economic Development Canada (ISED). “Canada’s National Artificial Intelligence Strategy: AI for All.” 2026

Texto completo

La estrategia nacional de inteligencia artificial de Canadá, titulada “AI for All”, plantea una visión integral para posicionar al país como un actor líder en el desarrollo, adopción y gobernanza de la inteligencia artificial.

El documento parte de la idea de que la IA ya está transformando profundamente la vida cotidiana —en el trabajo, la educación, los servicios públicos y la economía—, y que este cambio debe ser guiado de manera deliberada para asegurar beneficios sociales amplios, así como confianza pública en las tecnologías emergentes. La estrategia subraya que el reto no es solo tecnológico, sino también institucional, económico y cultural, ya que implica adaptar el país a una nueva economía basada en datos, automatización y sistemas inteligentes.

Uno de los ejes centrales del plan es la adopción masiva de la IA en la economía canadiense, especialmente entre pequeñas y medianas empresas, con el objetivo de aumentar la productividad y la competitividad internacional. El gobierno reconoce que Canadá posee una base sólida en investigación en IA, pero enfrenta dificultades para convertir ese conocimiento en aplicaciones industriales y comerciales a gran escala. Para corregir esta brecha, la estrategia impulsa la creación de infraestructura soberana de computación, la ampliación del acceso a datos estratégicos y el fortalecimiento de ecosistemas de innovación nacionales. En este contexto, se contempla la construcción de centros de datos de gran capacidad y el desarrollo de capacidades propias en computación avanzada.

Otro pilar fundamental es el impacto en el empleo y la formación de habilidades. La estrategia sostiene que la IA no solo transformará los puestos de trabajo existentes, sino que también generará nuevas oportunidades laborales. En este sentido, se proyecta la creación de cientos de miles de empleos vinculados a la economía de la IA antes de 2031. Para acompañar esta transformación, el gobierno propone un amplio programa de alfabetización en IA dirigido a estudiantes, trabajadores y ciudadanos en general, con el fin de garantizar que la población pueda comprender, utilizar y beneficiarse de estas tecnologías. También se promueve la colaboración con instituciones educativas, bibliotecas y organizaciones comunitarias como nodos clave para la formación digital.

Finalmente, la estrategia pone un fuerte énfasis en la soberanía tecnológica, la regulación y la confianza pública. Canadá busca reducir su dependencia de proveedores extranjeros de infraestructura digital y asegurar que los sistemas de IA se desarrollen bajo principios de transparencia, seguridad, privacidad y rendición de cuentas. Asimismo, se incluyen medidas para mitigar riesgos asociados a la IA, como los sesgos algorítmicos, la desinformación o los posibles impactos laborales negativos. En conjunto, “AI for All” presenta una visión de la inteligencia artificial como motor de crecimiento económico, pero también como un ámbito que requiere gobernanza activa para garantizar su alineación con los valores democráticos y el bienestar social.

La Inteligencia Artificial es a la vez una poderosa herramienta y la mayor generadora de desinformación

Team discussing AI misinformation research with data visualizations on screens and projector
A diverse team analyzing misinformation data in a modern lab setting

Kupferschmidt, Kai. “To misinformation researchers, AI is a scourge—and a powerful new tool.” Science, 2026. https://www.science.org/content/article/misinformation-researchers-ai-scourge-and-powerful-new-tool

En septiembre de 2023, los investigadores que analizaban una campaña de desinformación rusa observaron un cambio repentino en un sitio web de noticias falsas que estaban siguiendo. El medio, DCWeekly.org, normalmente copiaba artículos completos de fuentes como Fox News, cambiando el nombre del periodista y muy poco más. Las noticias reales servían como cobertura para que Rusia lanzara ocasionalmente una historia falsa, cuidadosamente elaborada, como un artículo de ataque contra el presidente ucraniano Volodímir Zelenski, una técnica conocida como lavado narrativo. “Están construyendo un bosque para poder esconder un árbol concreto ahí dentro”, dice Morgan Wack, investigador de comunicación política en la Universidad de Zúrich.

Pero de la noche a la mañana, Wack y sus colegas se dieron cuenta de que ya no podían identificar de dónde obtenía el sitio sus noticias diarias. “Se vio un estilo de escritura totalmente distinto, y había más artículos”, explica. Los investigadores sospecharon que la operación había pasado a utilizar inteligencia artificial generativa, sospecha que se confirmó después de encontrar restos de instrucciones (prompts) de IA en algunos textos, como uno que decía: “Tenga en cuenta: el tono del artículo es crítico con la posición de EE. UU. de apoyo a la guerra en Ucrania y adopta un tono cínico al hablar del gobierno estadounidense, la OTAN o los políticos estadounidenses”.

Fue una oportunidad poco común para que el equipo de Wack estudiara cómo la IA está moldeando el mundo de la desinformación. El volumen de producción del sitio aumentó drásticamente, según los investigadores. En experimentos, las personas no encontraron la propaganda generada por IA más persuasiva que los textos anteriores escritos por humanos, pero el cambio a IA seguía siendo una victoria para los propagandistas, afirma Wack. “No perdieron credibilidad y pudieron aumentar mucho más el contenido”. La IA les había permitido, en esencia, construir un bosque más grande y mejor para ocultar sus árboles.

DCWeekly.org no es el único que ha adoptado la IA generativa: esta tecnología se está integrando en campañas de desinformación en todo el mundo. (La misinformación se refiere a información incorrecta o engañosa en general; si se difunde con la intención de engañar, se denomina desinformación). Según un informe de la Unión Europea publicado en marzo, el 27 % de los intentos de potencias extranjeras de manipular información global en 2025 implicaron el uso de IA, casi el triple que en 2024. “Es una herramienta poderosa, y definitivamente está en manos de quienes tienen interés en manipular opiniones, ya sea por dinero o por razones geopolíticas”, afirma Filippo Menczer, científico informático de la Universidad de Indiana Bloomington.

A medida que crece la influencia de la IA, el campo de investigación sobre desinformación se enfrenta a cómo estudiar sus efectos. Los modelos de lenguaje grande (LLM) que sustentan chatbots como ChatGPT hacen que el contenido falso sea cada vez más difícil de detectar y pueden difundir mensajes con apariencia humana a una escala sin precedentes. Además, la IA evoluciona tan rápidamente que investigaciones que hoy parecen sólidas podrían dejar de ser relevantes en pocos meses. “Ni siquiera el polvo ha empezado a asentarse, y es difícil separar lo que esperamos que ocurra a medida que la IA se vuelve ubicua de lo que realmente está ocurriendo”, afirma Kate Starbird, investigadora de desinformación de la Universidad de Washington.

Pero aunque ha complicado el problema, la IA generativa también ha proporcionado a los investigadores una herramienta poderosa para estudiarlo y probar intervenciones. Incluso mientras las herramientas de IA transforman la desinformación, dice Jennifer Allen, científica social computacional de la Universidad de Nueva York, “creo que también han transformado el campo”.

Inteligencia artificial y educación

Díaz-Noguera, María Dolores, Carlos Hervás-Gómez y Fulgencio Sánchez-Vera (coords.). 2024. Artificial Intelligence and Education. Granada: Editorial Octaedro. https://octaedro.com/libro/artificial-intelligence-and-education/

El libro ofrece una visión amplia y multidisciplinar sobre el impacto de la inteligencia artificial (IA) en la educación contemporánea, analizando sus implicaciones pedagógicas, éticas y sociales. A través de diferentes capítulos escritos por especialistas internacionales, la obra examina cómo la IA está transformando los procesos de enseñanza y aprendizaje, desde la educación primaria hasta la universidad, y cómo estas tecnologías están redefiniendo las competencias docentes y estudiantiles en la era digital.

Uno de los ejes centrales del volumen es el potencial de la IA para mejorar la accesibilidad y la inclusión educativa. Se presentan experiencias y estudios sobre el uso de chatbots, sistemas adaptativos y herramientas digitales que favorecen el aprendizaje personalizado y la atención a la diversidad, especialmente en contextos de discapacidad o necesidades educativas específicas. Al mismo tiempo, se subraya la importancia de diseñar estas tecnologías desde principios de equidad y diseño universal del aprendizaje.

Otro bloque relevante aborda los desafíos éticos y académicos derivados de la incorporación de la IA en la educación, como la integridad académica, la privacidad de los datos, la fiabilidad de los sistemas automatizados y el desarrollo del pensamiento crítico. Los autores insisten en la necesidad de una implementación responsable, donde la tecnología actúe como apoyo y no como sustituto del juicio humano.

La obra plantea una reflexión de fondo sobre la colaboración entre humanos y máquinas en la sociedad del conocimiento. Lejos de una visión puramente instrumental, se defiende un enfoque en el que la IA amplía las capacidades humanas, pero exige también nuevas competencias críticas, pedagógicas y éticas para garantizar una educación más justa, inclusiva y sostenible.

La inteligencia artificial transforma la publicación científica

Harvey, Laura y Adam Hyde. “Guest Post — Trust & Community Are the Moat, Infrastructure Is Your Leverage: Dispatches from PurePub.AI”. The Scholarly Kitchen, 9 de junio de 2026

Ver noticia

Se recogen las principales conclusiones surgidas del encuentro PurePub.AI, un evento que reunió a 47 expertos en 15 sesiones dedicadas a explorar el impacto de la inteligencia artificial en la publicación académica. La elevada participación —más de 800 asistentes en directo y centenares de intervenciones en los debates— demuestra que la IA ha dejado de ser una cuestión futurista para convertirse en una preocupación estratégica inmediata para editoriales, sociedades científicas y proveedores de servicios. Las discusiones revelaron que los grandes temas que dominan actualmente el sector son la transformación de los flujos de trabajo, la evolución de los modelos de negocio, el papel creciente de las máquinas como consumidoras de contenidos y la necesidad de replantear los procesos editoriales tradicionales.

Uno de los mensajes centrales del encuentro es que la transición hacia la llamada “IA agéntica” ya está en marcha. En una primera fase, las organizaciones utilizan la IA para realizar más rápidamente tareas que ya existían, como la búsqueda de revisores, la detección de fraude científico, la realización de controles técnicos o el enriquecimiento de metadatos. Sin embargo, la evolución apunta hacia una segunda etapa en la que la IA no solo automatiza procesos, sino que mejora significativamente los servicios ofrecidos a investigadores, autores y lectores. Ejemplos de ello son los asistentes inteligentes para la consulta de contenidos científicos, las herramientas de revisión automatizada o los sistemas capaces de generar nuevos servicios de apoyo a la investigación. Aun así, la mayoría de las organizaciones siguen en una fase experimental y todavía no han alcanzado un despliegue generalizado de estas tecnologías.

La revisión por pares constituye uno de los ámbitos donde los cambios resultan más visibles. Los participantes señalaron que los modelos de IA más avanzados ya son capaces de realizar numerosas tareas asociadas al proceso de evaluación científica. La cuestión ya no es si la IA puede participar en la revisión, sino qué aspectos deberían seguir dependiendo del juicio humano. Mientras los sistemas automáticos destacan en tareas de verificación técnica, análisis estadístico, detección de inconsistencias o comprobación de la transparencia metodológica, los revisores humanos continúan siendo esenciales para valorar la originalidad, la relevancia científica, la pertinencia de las preguntas de investigación o la importancia potencial de los resultados. El futuro parece orientarse hacia una colaboración complementaria entre humanos y máquinas más que hacia una sustitución completa de los expertos.

Precisamente esta complementariedad lleva a una reflexión más amplia sobre el valor diferencial que los seres humanos aportan en un entorno cada vez más automatizado. Según los autores, atributos como el criterio, el gusto, la responsabilidad, la capacidad de generar confianza y el mantenimiento de relaciones dentro de las comunidades científicas se perfilan como espacios donde la intervención humana seguirá siendo indispensable. No obstante, también aparecen interrogantes sobre cómo afectará esta transformación a los perfiles profesionales existentes. Muchos participantes expresaron preocupación por la posibilidad de que ciertos trabajadores terminen desempeñando funciones limitadas a supervisar sistemas automáticos, una tarea poco estimulante si no se redefine adecuadamente el papel humano dentro de los nuevos ecosistemas editoriales.

Otro fenómeno destacado es el auge del denominado vibe coding, una metodología que permite a profesionales sin formación avanzada en programación crear prototipos funcionales mediante herramientas de IA. Durante el evento se presentaron trece proyectos desarrollados mediante este enfoque, que abarcan desde gestores de noticias hasta plataformas de transferencia de manuscritos o sistemas de revisión de textos alternativos para imágenes. La importancia de esta tendencia radica en que democratiza la innovación tecnológica, permitiendo que expertos en edición, marketing, operaciones o gestión editorial puedan diseñar soluciones adaptadas a sus necesidades sin depender completamente de equipos técnicos especializados.

Sin embargo, la conclusión más relevante del artículo gira en torno a la idea expresada en su título: la confianza y la comunidad constituyen la auténtica “muralla defensiva” de los editores científicos, mientras que la infraestructura representa su principal fuente de ventaja competitiva. En un contexto en el que la generación de contenidos se vuelve cada vez más barata y abundante gracias a la IA, la capacidad de filtrar, validar y contextualizar la información adquiere un valor extraordinario. Los autores sostienen que las marcas editoriales consolidadas y las comunidades científicas que las respaldan poseen un activo difícilmente replicable por las plataformas tecnológicas: la confianza acumulada durante décadas. Esta visión coincide con otros análisis recientes que consideran que el verdadero valor de las sociedades científicas y los editores no reside únicamente en los contenidos, sino en las relaciones, la reputación y la capacidad de proporcionar señales fiables en un entorno saturado de información.

La infraestructura tecnológica emerge como el segundo gran factor estratégico. Diversos expertos insistieron en que el éxito de la IA depende mucho menos de los modelos lingüísticos que de la capacidad para integrarlos con sistemas, datos y flujos de trabajo existentes. Según una de las citas más repetidas del encuentro, un agente de IA es apenas un 5 % modelo y un 95 % ingeniería de procesos. Esto significa que disponer de datos estructurados, sistemas interoperables y arquitecturas capaces de conectar múltiples fuentes de información será mucho más importante que simplemente adoptar la última tecnología disponible. La verdadera ventaja competitiva se construirá alrededor de la calidad de los datos y de la capacidad organizativa para utilizarlos eficazmente.

Para terminar, los autores plantean una visión de la publicación científica en 2030. Prevén que los agentes inteligentes estarán completamente integrados en los flujos editoriales, que las personas concentrarán su trabajo en tareas relacionadas con la responsabilidad, el juicio crítico y la construcción de comunidades, y que las organizaciones más exitosas serán aquellas que hayan invertido con suficiente anticipación en infraestructuras robustas y flexibles. En este escenario, la inteligencia artificial no sustituirá el valor humano, sino que aumentará la importancia de aquello que las máquinas todavía no pueden ofrecer: confianza, criterio y pertenencia a una comunidad científica reconocida.

“Chat ha muerto”: OpenAI prepara la mayor transformación de ChatGPT desde su lanzamiento

Scientist using holographic display to analyze neural networks and cognitive evolution data
A researcher interacts with holographic neural network data in a high-tech lab

Pearl, Mike. “Chat Is Dead: OpenAI Reportedly Planning Radical Changes to ChatGPT”. Gizmodo, 7 de junio de 2026. Basado en información publicada originalmente por el Financial Times.

Ver noticia

El artículo analiza una de las transformaciones más ambiciosas que estaría preparando OpenAI para ChatGPT. Según información obtenida por el Financial Times a partir de entrevistas con empleados y ex empleados de la compañía, OpenAI ya no vería el futuro de la inteligencia artificial centrado en simples conversaciones con un chatbot. En palabras atribuidas a un alto responsable de la empresa, “Chat is dead” (“el chat ha muerto”), una frase que resume el cambio estratégico que estaría impulsando la organización.

La idea fundamental consiste en convertir ChatGPT en una especie de “superaplicación” o superapp, mucho más parecida a un asistente digital integral que a una interfaz de preguntas y respuestas. OpenAI considera que el verdadero potencial económico y tecnológico de la IA no reside únicamente en responder consultas, sino en ejecutar tareas completas en nombre de los usuarios. Esto incluiría organizar agendas, reservar viajes, gestionar información personal, coordinar flujos de trabajo e incluso desarrollar software de manera autónoma.

El informe señala que uno de los grandes protagonistas de esta transformación será Codex, la plataforma de programación de OpenAI. La compañía pretende otorgarle una posición mucho más visible dentro de ChatGPT, impulsando el uso de herramientas capaces de escribir código, crear aplicaciones y automatizar procesos complejos. Este movimiento responde tanto a las oportunidades de negocio que ofrece el mercado empresarial como a la creciente competencia con otras empresas especializadas en IA, especialmente Anthropic y su asistente Claude.

Otro aspecto destacado es el rediseño de la propia interfaz de ChatGPT. OpenAI estaría trabajando para que los usuarios sean dirigidos de forma más natural hacia funciones avanzadas, como la generación de imágenes, la programación o las aplicaciones desarrolladas por socios externos. En lugar de limitarse a escribir preguntas en una ventana de chat, los usuarios encontrarían un entorno orientado a la realización de tareas y proyectos completos.

La visión a largo plazo va incluso más lejos. Según las fuentes citadas, OpenAI aspira a que sus modelos comprendan automáticamente las intenciones de los usuarios sin necesidad de depender de instrucciones detalladas o de conversaciones estructuradas. El objetivo sería disponer de un agente personal inteligente capaz de acompañar al usuario en distintos dispositivos —ordenador, móvil o incluso sistemas integrados en vehículos— y actuar como intermediario entre la persona y los servicios digitales que utiliza diariamente.

El contexto económico también resulta importante para entender esta estrategia. OpenAI afronta una creciente presión para aumentar ingresos y demostrar una senda clara hacia la rentabilidad mientras se prepara para una posible salida a bolsa. Actualmente, una parte muy significativa de sus ingresos procede de clientes empresariales, y la compañía espera incrementar todavía más ese porcentaje. Por ello, las herramientas profesionales, los agentes autónomos y los sistemas de automatización aparecen como áreas con mayor potencial económico que el uso tradicional del chatbot gratuito.

Más allá de los aspectos financieros, esta evolución refleja un cambio profundo en la concepción de la inteligencia artificial. Si durante los últimos años el paradigma dominante ha sido el del chatbot conversacional, OpenAI parece apostar ahora por sistemas capaces de actuar, decidir y ejecutar tareas de forma autónoma. En ese escenario, la conversación dejaría de ser el producto principal para convertirse en una simple puerta de entrada hacia una inteligencia artificial mucho más integrada en la vida cotidiana y profesional de las personas.

Citas científicas falsas generadas por IA: un problema creciente que amenaza la integridad de la literatura académica

Mondal, S. (2026, 18 de mayo). AI-generated fake citations are flooding scientific literature across publications, scientists warn. Phys.org. https://phys.org/news/2026-05-ai-generated-fake-citations-scientific.html

Se informa de una creciente preocupación en la comunidad científica ante la proliferación de citas bibliográficas falsas generadas por sistemas de inteligencia artificial en artículos académicos. Según un estudio reciente citado por Phys.org, el uso cada vez más extendido de modelos de lenguaje en la redacción científica está provocando que aparezcan referencias que no corresponden a publicaciones reales, lo que compromete la trazabilidad del conocimiento científico y la fiabilidad de la literatura académica.

Las citas al final de un artículo de investigación deberían representar una base sólida del conocimiento existente sobre un campo concreto, un conjunto de fuentes revisadas por pares construido a lo largo de años de investigación y estudio. Sin embargo, con el uso creciente de la IA y de los modelos de lenguaje de gran tamaño en la redacción de trabajos científicos, existe una posibilidad cada vez mayor de que la cita en la que alguien hace clic ni siquiera exista, y de que el estudio, la fuente o incluso los propios investigadores sean completamente falsos.

Uno de los hallazgos más relevantes del estudio es la magnitud del fenómeno: los investigadores detectaron aproximadamente 146.900 citas inexistentes en artículos científicos publicados en 2025, distribuidos en repositorios de gran relevancia como arXiv, bioRxiv, SSRN y PubMed Central. Este dato sugiere que el problema no es marginal ni anecdótico, sino estructural y extendido a múltiples disciplinas y plataformas de publicación.

El artículo explica que estas “alucinaciones bibliográficas” no suelen aparecer como errores masivos en un solo documento, sino como pequeñas cantidades de referencias falsas dispersas en numerosos artículos. Esto dificulta su detección mediante los sistemas tradicionales de revisión por pares, que no siempre verifican de forma exhaustiva la existencia real de cada fuente citada. El resultado es que estas referencias pueden incorporarse al registro científico y ser reutilizadas en trabajos posteriores, amplificando el problema.

Asimismo, el estudio sugiere que el fenómeno está relacionado con la adopción creciente de herramientas de inteligencia artificial en el proceso de escritura académica. Los modelos generativos pueden producir citas plausibles en apariencia, pero carentes de correspondencia real con publicaciones existentes, lo que introduce un riesgo sistémico en la producción de conocimiento científico. Esto afecta especialmente a la confianza en los mecanismos de validación académica y plantea la necesidad de reforzar los controles editoriales y las herramientas automáticas de verificación de referencias.

En este estudio, el equipo realizó una auditoría a gran escala de 111 millones de referencias extraídas de 2,5 millones de artículos científicos. Mediante una combinación de comprobaciones automáticas y manuales, buscaron títulos de citas que no pudieran vincularse a ninguna publicación real.

Más del 95% de las referencias fueron verificadas con éxito. En las restantes, corrigieron errores tipográficos con ayuda de IA hasta encontrar una coincidencia, y para los pocos títulos aún no identificados recurrieron a Google Scholar para asegurarse de que no se pasaba por alto ninguna publicación poco conocida.

Para aislar el papel de la IA, el equipo también analizó las tasas de citas no coincidentes antes de 2023, es decir, antes de la aparición generalizada de ChatGPT, Gemini y otros modelos de lenguaje, lo que sirvió como línea base para medir cuánto del problema podía atribuirse a la IA frente al error humano.

Los datos también revelaron lagunas en los sistemas de control, como la moderación de preprints, los editores de revistas y la revisión por pares, que solo detectaban una pequeña parte de estos errores. Por ejemplo, aunque la moderación de arXiv detectó algunos casos, se estima que el 78,8% de las citas inexistentes pasaron el filtro y fueron publicadas en la plataforma.

El estudio encontró que los científicos en etapas iniciales de su carrera y los equipos pequeños eran los más dados a incluir estas citas falsas, y en algunos casos estos mismos investigadores habían visto aumentar su productividad aproximadamente tres veces desde la llegada de la IA.

En conjunto, el artículo subraya que la expansión de la inteligencia artificial en la investigación científica está generando beneficios en términos de productividad, pero también nuevos riesgos para la integridad del sistema científico. La aparición de citas falsas no solo afecta a la calidad de los artículos individuales, sino que puede erosionar la base de conocimiento sobre la que se construye la ciencia contemporánea, lo que obliga a replantear los procesos de revisión, edición y validación de la literatura académica.

Google anuncia cambios en la Búsqueda

Comparación visual de búsquedas en Google tradicional y con inteligencia artificial mostrando diferencias en resultados para restaurantes en Madrid.
Comparación entre búsqueda tradicional y búsqueda potenciada con IA en Google para restaurantes en Madrid.

Perez, Sarah. “Google Search as You Know It Is Over”. TechCrunch, 19 de mayo de 2026. https://techcrunch.com/2026/05/19/google-search-as-you-know-it-is-over/

Google está realizando cambios importantes en su experiencia de búsqueda. En lugar de ofrecer la lista de enlaces habitual que ha existido durante décadas, las consultas a veces dirigirán a los usuarios a una interfaz interactiva con IA donde podrán interactuar directamente con las respuestas y hacer preguntas adicionales. Estas actualizaciones también implementarán nuevos formatos publicitarios, incluyendo anuncios con funciones de IA que permiten a los usuarios interactuar con ellos.

Muchos estadounidenses ya encuentran resúmenes generados por IA en sus resultados de búsqueda, pero las opiniones sobre su utilidad son diversas. En agosto pasado, una encuesta del Pew Research Center reveló que el 65% de los adultos estadounidenses (incluida una mayoría aún mayor de adultos jóvenes) afirmó haber visto estos resúmenes al menos en alguna ocasión. Entre quienes habían visto resúmenes de búsqueda con IA, uno de cada cinco afirmó que los consideraba extremadamente o muy útiles, y el 6% dijo confiar mucho en la información de estos resúmenes.

Los motores de búsqueda como Google son una forma común en que muchos estadounidenses se informan: el 63% de los adultos estadounidenses afirma informarse de esta manera al menos en ocasiones.

Google anunció en su conferencia anual Google I/O 2026 la mayor transformación de su buscador desde su lanzamiento hace más de veinticinco años. Según la compañía, la era de los tradicionales “diez enlaces azules” está llegando a su fin para dar paso a una experiencia impulsada por inteligencia artificial, donde las respuestas, las interacciones y las acciones ocuparán un lugar mucho más importante que la simple lista de resultados web.

El cambio gira en torno a una nueva “caja de búsqueda inteligente”, diseñada para que los usuarios formulen preguntas largas y complejas de manera conversacional. En lugar de obligar a las personas a buscar mediante palabras clave, el sistema interpreta intenciones, sugiere consultas más sofisticadas y mantiene conversaciones de seguimiento sin que el usuario tenga que reformular constantemente su pregunta. La búsqueda se convierte así en un diálogo continuo con la inteligencia artificial.

Uno de los aspectos más innovadores es la incorporación de agentes de información. Estos asistentes pueden trabajar en segundo plano las veinticuatro horas del día, rastreando cambios en la web, recopilando datos y notificando al usuario cuando se cumplen determinadas condiciones. Por ejemplo, podrán vigilar movimientos financieros, seguir la evolución de un mercado específico o monitorizar cualquier tema de interés para proporcionar actualizaciones sintetizadas y contextualizadas. Esta funcionalidad supone una evolución significativa respecto a herramientas anteriores como Google Alerts.

La inteligencia artificial también permitirá que los resultados de búsqueda adopten la forma de experiencias interactivas. Gracias a técnicas de interfaz generativa, Search podrá construir visualizaciones, simulaciones, paneles de información y herramientas personalizadas adaptadas a cada consulta. Una búsqueda sobre agujeros negros, por ejemplo, podría convertirse en una representación gráfica interactiva que responda dinámicamente a nuevas preguntas formuladas por el usuario.

Otra novedad destacada es la posibilidad de crear pequeñas aplicaciones personalizadas directamente desde el buscador. Mediante instrucciones en lenguaje natural, los usuarios podrán desarrollar herramientas adaptadas a sus necesidades concretas, como planificadores de comidas, aplicaciones de seguimiento deportivo o gestores de proyectos personales. Google deja entrever una visión en la que la búsqueda deja de ser únicamente una herramienta para encontrar información y pasa a convertirse en una plataforma para realizar tareas y tomar decisiones.

Esta transformación se apoya en la integración de los modelos Gemini y de la plataforma Antigravity, desarrollada por Google para aplicaciones autónomas basadas en IA. La compañía afirma que la nueva experiencia será gratuita para todos los usuarios, aunque algunas funciones avanzadas relacionadas con agentes inteligentes y aplicaciones personalizadas llegarán inicialmente a los suscriptores de los planes Google AI Pro y Ultra.

Sin embargo, el anuncio también ha despertado preocupación entre medios de comunicación, creadores de contenidos y editores digitales. Al proporcionar respuestas completas dentro del propio buscador, los usuarios tendrán menos necesidad de visitar las páginas originales donde se encuentra la información. Diversos analistas advierten de que esta tendencia podría reducir aún más el tráfico web hacia los sitios de noticias, blogs y otros recursos en línea, agravando un problema que ya comenzó con la introducción de los resúmenes automáticos AI Overviews.

Las reacciones en comunidades tecnológicas han sido encontradas. Mientras algunos usuarios valoran la rapidez y comodidad de obtener respuestas directas, otros temen una creciente concentración del control de la información en manos de una única empresa. También se plantean interrogantes sobre la sostenibilidad económica de la web abierta, ya que muchos sitios dependen de las visitas generadas por los motores de búsqueda tradicionales.

Anthropic pide una pausa global en el desarrollo de la inteligencia artificial avanzada

Pigman, Alex. “Anthropic Calls for Pause of Global AI Development.” AFP News, 4 de junio de 2026. Reproducido en Yahoo Finance, 5 de junio de 2026.

Ver noticia

La empresa de inteligencia artificial Anthropic, desarrolladora de la familia de modelos Claude, ha planteado la posibilidad de una pausa temporal y coordinada en el desarrollo de los sistemas de IA más avanzados del mundo. La compañía sostiene que la velocidad a la que progresan estos modelos podría superar la capacidad de las instituciones, los gobiernos y la sociedad para comprenderlos, regularlos y garantizar que actúen de forma segura.

El argumento central de Anthropic es que las nuevas generaciones de IA están mostrando capacidades cada vez más autónomas y podrían acercarse a un escenario denominado recursive self-improvement (auto-mejora recursiva). Este concepto describe una situación en la que un sistema de inteligencia artificial sería capaz de diseñar y desarrollar versiones más avanzadas de sí mismo con una intervención humana mínima. Según la empresa, aunque este escenario todavía no se ha producido, la tendencia observada apunta a que podría convertirse en una posibilidad real en un futuro relativamente cercano.

La compañía considera que disponer de la opción de ralentizar o suspender temporalmente el desarrollo de los modelos de frontera permitiría que la investigación en alineamiento, seguridad y gobernanza avanzara al mismo ritmo que la tecnología. Desde esta perspectiva, una pausa no tendría como objetivo detener permanentemente la innovación, sino conceder tiempo para construir mecanismos de supervisión y control que reduzcan los riesgos asociados a sistemas cada vez más poderosos.

Sin embargo, Anthropic reconoce que una suspensión unilateral sería ineficaz. Si una sola empresa decidiera frenar sus investigaciones mientras otras continuaran avanzando, estas últimas obtendrían una ventaja competitiva significativa. Por ello, la compañía insiste en que cualquier medida de este tipo debería ser internacional, verificable y coordinada entre los principales laboratorios de IA y las grandes potencias tecnológicas, especialmente Estados Unidos y China.

La propuesta ha generado un intenso debate en el sector tecnológico. Algunos expertos y responsables políticos consideran que la advertencia es razonable y refleja preocupaciones legítimas sobre la seguridad y el control de sistemas cada vez más sofisticados. Otros, en cambio, sostienen que la iniciativa podría responder también a intereses estratégicos de la propia Anthropic, buscando influir en la regulación del sector o limitar el avance de competidores.

El trasfondo de esta discusión es la creciente preocupación por el impacto social, económico y político de la inteligencia artificial. Anthropic advierte de que la cuestión ya no se limita a la automatización del empleo o a la productividad, sino que afecta a problemas más profundos relacionados con la capacidad humana para mantener el control sobre sistemas que podrían llegar a superar nuestras capacidades en determinadas tareas. La empresa considera que este desafío exige una conversación global sobre gobernanza, regulación y seguridad antes de que la tecnología alcance niveles aún más avanzados.

Cómo citar la inteligencia artificial en los trabajos académicos: guía práctica para investigadores y estudiantes

Universitat Oberta de Catalunya (UOC). ¿Cómo citar la IA en los trabajos? Barcelona: Biblioteca de la UOC. Disponible en: https://hdl.handle.net/10609/148823

La guía elaborada por la Biblioteca de la Universitat Oberta de Catalunya ofrece orientaciones prácticas para el uso responsable y la correcta citación de herramientas de inteligencia artificial generativa en trabajos académicos y científicos.

El documento parte de la premisa de que la IA puede ser un apoyo útil para la investigación y la redacción, pero advierte que sus resultados deben verificarse siempre, ya que estas herramientas pueden proporcionar información incorrecta o incluso inventar fuentes bibliográficas. Por ello, recomienda solicitar las fuentes utilizadas por la IA, contrastarlas críticamente y citar directamente las fuentes originales cuando sean fiables. Además, cuando la IA forme parte del proceso de investigación, su utilización debe describirse explícitamente en la metodología del trabajo.

La publicación distingue entre la citación de una conversación mantenida con una herramienta de IA y la citación de la propia herramienta. Una conversación solo debería citarse cuando exista un enlace permanente y público que permita a otras personas recuperar y consultar el contenido exacto del diálogo. En aquellos casos en que la conversación no pueda compartirse por razones técnicas, éticas o de privacidad, la recomendación es citar únicamente la herramienta empleada, indicando claramente que se utilizó como apoyo durante la elaboración del trabajo.

La guía también aclara cuándo no es necesario citar la IA. Por ejemplo, no se requiere referencia cuando la herramienta se utiliza únicamente para localizar fuentes de información, del mismo modo que no se cita un buscador web o una base de datos. Tampoco suele ser necesario citar funciones de IA integradas en programas de uso cotidiano. Sin embargo, cuando la inteligencia artificial constituye una parte relevante del método de investigación, su utilización debe documentarse obligatoriamente.

Uno de los aspectos más valiosos del documento es su análisis comparativo de distintos estilos de citación. La UOC señala que, aunque todavía no existe una normalización universal, algunos estilos han comenzado a desarrollar pautas específicas. Entre ellos destaca especialmente APA, considerado el sistema que ofrece actualmente las orientaciones más completas y detalladas para referenciar contenidos generados mediante inteligencia artificial. Además, se subraya que las respuestas de los sistemas generativos son dinámicas y pueden variar entre sesiones, por lo que es importante documentar el texto exacto utilizado, incorporándolo en anexos o materiales suplementarios cuando resulte relevante para la comprensión del trabajo.

El documento dedica apartados específicos a los estilos APA, Vancouver, ISO 690, Chicago y Harvard. Para cada uno de ellos proporciona modelos concretos de referencia bibliográfica y ejemplos de citas dentro del texto. En términos generales, la recomendación es incluir la conversación en la bibliografía únicamente cuando exista una URL pública y permanente. En caso contrario, la referencia debe limitarse al texto o a notas explicativas. La guía adapta además las normas de estilos que todavía no contemplan oficialmente la inteligencia artificial, ofreciendo propuestas prácticas para mantener la coherencia académica y la trazabilidad de las fuentes utilizadas.

Finalmente, la guía insiste en la necesidad de actuar con transparencia académica. Los autores recomiendan informar siempre del uso de herramientas de IA cuando estas hayan intervenido en la elaboración, revisión, traducción o generación de contenidos. Esta transparencia permite evaluar adecuadamente el proceso de trabajo, favorece la reproducibilidad de la investigación y contribuye a mantener la integridad académica en un contexto en el que las tecnologías generativas están adquiriendo un papel cada vez más relevante en la producción de conocimiento