Archivo de la etiqueta: Inteligencia artificial

La nueva función de detección de Turnitin ayuda a identificar el uso de herramientas de humanización de IA

Kelly, Rhea. “New Turnitin Bypasser Detection Feature Helps Identify Use of AI Humanizer Tools.” THE Journal, 2 de septiembre de 2025. https://thejournal.com/articles/2025/09/02/new-turnitin-bypasser-detection-feature-helps-identify-use-of-ai-humanizer-tools.aspx

Turnitin lanzó una función para detectar textos modificados por herramientas “humanizadoras” de IA, evitando que los estudiantes oculten contenido generado artificialmente. Esto fortalece la integridad académica al identificar fácilmente el uso indebido de IA en los trabajos.

Turnitin ha ampliado sus capacidades de detección de escritura con inteligencia artificial (IA) mediante la incorporación de una nueva función denominada «detección de bypassers». Esta herramienta está diseñada para identificar textos que han sido modificados por programas conocidos como «humanizadores«, los cuales alteran contenido generado por IA para que parezca escrito por humanos.

La disponibilidad de estos humanizadores representa una amenaza creciente para la integridad académica, ya que permite a los estudiantes ocultar el uso de IA, dificultando la verificación de la originalidad de los trabajos entregados. La nueva función de detección de bypassers se integra dentro de la función general de detección de escritura de Turnitin, permitiendo a los usuarios verificar automáticamente si un texto contiene contenido generado por IA o modificado por humanizadores, todo desde la misma plataforma, sin necesidad de integraciones adicionales o herramientas externas. Actualmente, esta función está limitada a interacciones en inglés.

Annie Chechitelli, directora de productos de Turnitin, destacó que, aunque el plagio siempre ha sido una preocupación para los educadores, con el auge de la IA ha surgido una nueva categoría de proveedores de trampas que se benefician del mal uso de la IA por parte de los estudiantes, proporcionando acceso fácil y gratuito a humanizadores para ocultar contenido generado por IA. En respuesta a este desafío emergente, Turnitin ha actualizado su software para detectar las principales modificaciones realizadas por bypassers de IA, permitiendo a los educadores mantener la integridad académica.

El problema de la “endogamia” en la IA: modelos que se retroalimentan a sí mismos

Lavoué, Alix. “AI Inbreeding: The Phenomenon Threatening Artificial Intelligence.” Worldcrunch, 7 de septiembre de 2025. https://worldcrunch.com/tech-science/ai-inbreeding-the-phenomenon-threatening-artificial-intelligence/

La «endogamia» en la inteligencia artificial ocurre cuando los modelos se entrenan utilizando contenido generado por otros modelos de IA, en lugar de datos originales creados por humanos. Este ciclo de retroalimentación puede llevar a una degradación progresiva de la calidad y diversidad de los resultados producidos por los modelos.

La endogamia de la IA, o colapso del modelo, se produce cuando un modelo de IA generativa se entrena con datos que han sido generados por una IA, lo que provoca una degradación de la calidad, la precisión y la diversidad de los resultados futuros del modelo, lo que a menudo da lugar a contenidos sin sentido, repetitivos o sesgados.

Lo que conlleva a que los sesgos se amplifiquen, la diversidad de información se colapse y las respuestas se vuelvan cada vez más ruidosas e imprecisas. Un ejemplo de este fenómeno se observó en un estudio publicado en la revista Nature, donde investigadores británicos y canadienses entrenaron un modelo de IA para dibujar números manuscritos basándose en un conjunto de datos real. Al repetir el proceso utilizando los números generados por la IA en cada etapa, se observó que después de 20 generaciones, los números se volvían borrosos, y después de 30 generaciones, convergían en una forma indistinta. Este estudio demuestra que en solo cinco generaciones de entrenamiento con datos autogenerados, los sesgos y fallos del sistema ya se amplifican, disminuyendo la variación y la precisión de las respuestas.

Este proceso degenerativo se debe a la falta de diversidad en los datos de entrenamiento, lo que lleva a que el sistema se enfoque en respuestas promedio y elimine las excepciones. Esto se conoce como colapso temprano, seguido de un colapso tardío, donde las respuestas se vuelven agotadas y, a veces, muy alejadas de la realidad.

El problema es que los atajos sintéticos no solo amplían la cantidad de datos, sino que los distorsionan. Cuando un sistema se entrena principalmente con su propio output, termina siendo una versión “promedio potenciada” de sí mismo: segura, insípida y progresivamente incorrecta. Para las empresas que dependen de mejoras continuas de modelos, esto significa que cada nueva generación puede resultar menos confiable. Al mismo tiempo, las compañías con grandes reservas de datos originales podrían convertirse en los únicos guardianes reales de la ventaja competitiva.

Para mitigar este problema, es esencial diversificar las fuentes de datos utilizadas para entrenar los modelos de IA, asegurando que incluyan una variedad de perspectivas y contextos. Además, se deben implementar técnicas de validación y monitoreo para

El futuro de la IA en las bibliotecas públicas: oportunidades, desafíos y alfabetización digital

WebJunction. “What’s on the Horizon for AI and Public Libraries?” WebJunction, 28 de agosto de 2025. https://www.webjunction.org/news/webjunction/public-libraries-ai-future.html

La inteligencia artificial (IA) está impulsando un cambio drástico en nuestro mundo. Es una herramienta transformadora que revoluciona las industrias e impacta la vida cotidiana. Al concluir nuestra serie sobre IA, queremos explorar qué se avecina en el panorama de la IA.

Al mantenerse al tanto de estos problemas en constante evolución, el personal bibliotecario puede desarrollar sus habilidades informativas para posicionarse como expertos en alfabetización en IA, educar al público y participar activamente en la definición del impacto social de la IA.

El enorme poder de la IA

El poder de la IA reside en su capacidad para analizar grandes cantidades de datos, aprender de la experiencia y realizar tareas que normalmente requieren inteligencia humana, a menudo con mayor precisión, velocidad y eficiencia. Recopilar, interpretar y generar informes de datos son funciones cruciales para las bibliotecas, por lo que no sorprende que el poder de la IA esté transformando las bibliotecas públicas.

A medida que las bibliotecas desempeñan funciones más complejas y adoptan sistemas más sofisticados, se dispone de más datos para facilitar la toma de decisiones y contar la historia de la biblioteca. Esta realidad puede presentar desafíos a la hora de saber qué datos utilizar y cómo extraer conclusiones precisas. La IA puede procesar y sintetizar conjuntos de datos grandes y mixtos para generar rápidamente información y crear narrativas. Los productos o soluciones de IA independientes, fácilmente disponibles e integrados en las herramientas bibliotecarias existentes, pueden utilizarse para automatizar procesos, informar y representar colecciones, impulsar programas y la participación de la comunidad, y ofrecer servicios completamente nuevos. Sin embargo, siempre se debe tener en cuenta la privacidad de los usuarios y se debe eliminar la información de identificación personal de los datos de la biblioteca enviados a las herramientas de IA.

La Biblioteca de Pottsboro participó en un taller intensivo de consultoría sobre preparación de IA para organizaciones sin fines de lucro y colaboró ​​con miembros del equipo de Dell de todo el mundo para identificar las necesidades que la IA podría abordar. El equipo de la Biblioteca de Pottsboro se centró en los datos recopilados en su ILS, así como en los datos de la comunidad, para comprender qué información les podría proporcionar sobre las tendencias de los usuarios y las mejoras en los servicios, la colección o la difusión que convenía implementar. Por ejemplo, para orientar las decisiones de compra, el personal utilizó la IA para encontrar libros que se prestaban con frecuencia en Libby (una suscripción de libros electrónicos), pero que no tenían ejemplares impresos en su colección. También realizaron un análisis por código postal, observando la distribución de los usuarios que utilizan la biblioteca para ver si la difusión o la promoción en un código postal en particular contribuían a un aumento de titulares de tarjetas en esa zona. Finalmente, pudieron utilizar un lenguaje sencillo para consultar con la IA los datos de circulación de libros infantiles en formato físico y digital para su informe anual, sin necesidad de conocimientos avanzados de Excel para presentar los datos de forma eficaz y eficiente.

Algunas limitaciones e inquietudes

Si bien el poder de la IA puede ser notable, las precauciones que conlleva esta tecnología son significativas. El volumen de resultados de IA que circula en la web es inmenso y está en crecimiento. Es importante evaluar siempre con cuidado el contenido generado por IA para evitar sesgos y desinformación.

Según el New York Times, a medida que las empresas de IA buscan en la web nuevos datos para entrenar sus próximos modelos, es probable que incorporen parte de su propio contenido generado por IA, «creando un ciclo de retroalimentación involuntario en el que lo que antes era el resultado de una IA se convierte en la entrada de otra». Este proceso resulta en un rango más reducido de resultados de IA con el tiempo, una etapa temprana de lo que los investigadores han denominado «colapso del modelo». Cuando estos modelos se entrenan con sus propias palabras, su resultado muestra una menor diversidad lingüística. Además, este proceso puede amplificar el sesgo en los datos. Esta es una información de referencia importante para el personal de bibliotecas que podría impartir talleres sobre IA con el público.

La capacidad de la IA para suplantar la voz de alguien ha mejorado drásticamente, por lo que incidentes como el de alguien que se hace pasar por el secretario de Estado estadounidense, Marco Rubio, y contacta con ministros de Asuntos Exteriores, un gobernador y un senador estadounidense serán cada vez más comunes. Esta sofisticación de la IA está provocando que incluso el director ejecutivo de The Atlantic, Nicholas Thompson, diga: «Es difícil distinguir la realidad; muy difícil». El trabajo del personal bibliotecario que participa activamente en la enseñanza de habilidades de alfabetización informacional se está volviendo cada vez más difícil.

Los problemas legales relacionados con los derechos de autor y la privacidad se están abriendo camino en el sistema judicial estadounidense. Un juez federal de San Francisco declaró que Anthropic hizo un uso legítimo de los libros de varios autores sin su consentimiento para entrenar su modelo de lenguaje Claude Large. En el fallo, el juez afirma: «Como cualquier lector que aspira a ser escritor, los LLM de Anthropic se entrenaron con obras para no adelantarse a los demás».

Detección del uso de inteligencia artificial en artículos científicos y revisiones por pares: el caso de la AACR

Naddaf, Miryam. “AI Tool Detects LLM-Generated Text in Research Papers and Peer Reviews.” Nature, 11 de septiembre de 2025. https://doi.org/10.1038/d41586-025-02936-6

Un análisis reciente realizado por la American Association for Cancer Research (AACR) ha revelado un fuerte aumento en el uso de texto generado mediante modelos de lenguaje grande (LLMs) en artículos de investigación y revisiones por pares, particularmente desde la aparición pública de ChatGPT en noviembre de 2022

Se examinó un conjunto de más de 46.500 resúmenes, 46.000 secciones de métodos y cerca de 30.000 comentarios de revisores, usando una herramienta de detección desarrollada por Pangram Labs. Esta herramienta identificó que en 2024 el 23 % de los resúmenes de manuscritos y el 5 % de los informes de revisión contenían texto que probablemente fue generado por LLMs.

Pese a que la política de la AACR obliga a los autores a declarar el uso de inteligencia artificial en sus manuscritos, menos de una cuarta parte de quienes usaron LLMs lo hicieron.

Además, los autores de instituciones en países no anglófonos fueron más propensos a usar LLMs para mejorar el lenguaje en secciones como los métodos, aunque esto conlleva riesgos de introducir errores si se modifican descripciones técnicas.

En cuanto a las revisiones por pares, se observó que tras la prohibición del uso de LLMs para revisores por parte de la AACR, a finales de 2023 disminuyó la detección de texto generado por IA en comentarios de revisión; sin embargo, a comienzos de 2024 la presencia de estos textos volvió a aumentar significativamente.

La IA y el futuro de la educación: perturbaciones, dilemas y orientaciones.

UNESCO. “AI and the Future of Education: Disruptions, Dilemmas and Directions.” UNESCO, 2 de septiembre de 2025. https://unesdoc.unesco.org/ark:/48223/pf0000395236_eng

La UNESCO presenta una antología que explora cómo la inteligencia artificial (IA) está transformando la educación, sus disrupciones, los dilemas éticos y las posibles orientaciones futuras. Se reconoce que la IA ya está modificando la forma en que enseñamos, aprendemos y entendemos el mundo, pero estas transformaciones no se distribuyen por igual. Aproximadamente un tercio de la humanidad sigue sin acceso adecuado a la conectividad, y quienes tienen suscripciones, buena infraestructura o ventaja lingüística son los que más se benefician.

Este desequilibrio implica que no solo el acceso tecnológico sea desigual, sino también qué tipos de conocimientos, valores e idiomas predominan en los sistemas educativos impulsados por IA. Los sistemas tienden a reflejar las estructuras dominantes que ya existen, lo que plantea preguntas sobre equidad, diversidad cultural e inclusión

Además, la antología aborda dilemas filosóficos, éticos y pedagógicos: ¿cómo evaluar a los estudiantes en la era de la IA?, ¿cómo asegurarse de que estas tecnologías promuevan el cuidado, la justicia y los derechos humanos? ¿Cómo diseñar políticas, currículos y pedagogías que reconozcan la cooperación humano-máquina sin deshumanizar ni reforzar desigualdades?

Para enfrentar estos retos, la UNESCO propone fomentar un “commons global” para el diálogo: un espacio global compartido para pensar juntos, debatir diferencias y reimaginar una educación inclusiva en la era de la IA. Se apoya en sus recomendaciones sobre ética de la IA, orientaciones para IA generativa en educación e investigación, y marcos de competencias para docentes y estudiantes.

Anthropic acuerda pagar 1.500 millones de dólares a autores por uso no autorizado de libros en IA

Knibbs, Kate. «Anthropic Agrees to Pay Authors at Least $1.5 Billion in AI Copyright Settlement.» WIRED, 5 de septiembre de 2025. https://www.wired.com/story/anthropic-settlement-lawsuit-copyright/

Anthropic, la empresa estadounidense de inteligencia artificial creadora del chatbot Claude, ha acordado pagar 1.500 millones de dólares para resolver una demanda colectiva presentada por autores cuyos libros fueron utilizados sin autorización para entrenar su modelo de IA.

Este acuerdo, aún pendiente de aprobación judicial, constituye el mayor pago por infracción de derechos de autor en la historia de Estados Unidos.

Los demandantes, entre ellos Andrea Bartz, Charles Graeber y Kirk Wallace Johnson, acusaron a Anthropic de descargar millones de libros desde sitios pirata como Library Genesis y Pirate Library Mirror, vulnerando los derechos de autor de los creadores. Aunque la justicia había establecido previamente que usar libros adquiridos legalmente para entrenar inteligencia artificial podía considerarse un uso legítimo, la demanda continuó debido al uso de material obtenido ilegalmente.

El acuerdo estipula que cada autor recibirá aproximadamente 3.000 dólares por obra, cubriendo unas 465.000 obras en total. Anthropic también se comprometió a destruir las copias pirata almacenadas, sin admitir responsabilidad legal. Sin embargo, el juez William Alsup expresó dudas sobre la falta de detalles del acuerdo y solicitó información adicional antes de la audiencia prevista para el 25 de septiembre de 2025.

Este caso es un precedente importante en la regulación del uso de contenido protegido por derechos de autor para entrenar modelos de inteligencia artificial, con implicaciones significativas para otras compañías tecnológicas que desarrollan herramientas de IA.

SLMs: Modelos de lenguaje de IA pequeños, eficientes y especializados

Kumar, Ajay; Thomas H. Davenport; y Randy Bean. “The Case for Using Small Language Models.” Harvard Business Review, 8 de septiembre de 2025. https://hbr.org/2025/09/the-case-for-using-small-language-models?ab=HP-hero-latest-2

Los SLMs (Small Language Models) son modelos de IA más pequeños y eficientes que los LLMs, capaces de procesar lenguaje natural con menos recursos.
Destacan por su rapidez, bajo consumo y fácil implementación en dispositivos locales

Un SLM (Small Language Model, o modelo de lenguaje pequeño) es un modelo de inteligencia artificial entrenado para procesar y generar lenguaje natural, pero con muchos menos parámetros y recursos que los grandes modelos de lenguaje (LLMs, como GPT-4 o Gemini).

Hasta ahora, la revolución de la IA se ha definido por el tamaño: cuanto más grande es el modelo, más ambiciosas las expectativas. No obstante, se está produciendo un giro notable: los modelos de lenguaje pequeños (SLMs, por sus siglas en inglés), podrían convertirse en la columna vertebral de la próxima generación de empresas inteligentes. Esta tendencia sugiere que el futuro podría favorecer el enfoque de “más pequeño = más inteligente”.

La rapidez, eficiencia y rentabilidad de los SLMs son factores clave que los hacen atractivos frente a los grandes modelos de lenguaje (LLMs). Además, su diseño compacto facilita su implementación en dispositivos periféricos, lo que permite una toma de decisiones en tiempo real sin depender de la nube. Estas características los hacen ideales para aplicaciones como vehículos autónomos, asistentes de voz y tecnología portátil.

Los SLMs también consumen menos energía y requieren menos recursos, lo que los convierte en una alternativa sostenible y más accesible para su adopción masiva. Por otro lado, la posibilidad de afinarlos para dominios específicos mejora su precisión y reduce las respuestas irrelevantes, algo especialmente útil en sectores como salud, finanzas y agricultura.

Otro punto destacado es que los SLMs ofrecen mayor control, privacidad y transparencia, lo que favorece el procesamiento seguro de datos y el cumplimiento normativo. Su integración en infraestructuras existentes es sencilla, lo que permite un desarrollo ágil y la creación rápida de prototipos sin necesidad de realizar cambios de infraestructura significativos.

¿Es realmente posible detectar con precisión el contenido generado por inteligencia artificial?

Edwards, Benj. “Why AI Detectors Think the US Constitution Was Written by AI.” Ars Technica, 14 de julio de 2023.

Los expertos en inteligencia artificial de la UMD, Soheil Feizi y Furong Huang, comparten sus últimas investigaciones sobre los grandes modelos lingüísticos como ChatGPT, las posibles implicaciones de su uso y lo que nos depara el futuro.

Los detectores actuales se han convertido en herramientas populares en entornos educativos y profesionales, pero la evidencia muestra que su fiabilidad es muy limitada. En muchos casos, un texto auténticamente humano puede ser clasificado como artificial, mientras que uno generado por IA puede pasar inadvertido. Este margen de error refleja que los algoritmos todavía no cuentan con mecanismos suficientemente sólidos para distinguir entre los matices del lenguaje humano y los patrones que produce una máquina.

Una de las principales dificultades radica en que los detectores suelen basarse en métricas lingüísticas como la “perplejidad”, que miden la complejidad o previsibilidad de un texto. Sin embargo, la escritura humana no siempre responde a un mismo patrón: puede ser sencilla o repetitiva, como ocurre en exámenes, informes técnicos o incluso documentos históricos. Este es el motivo por el que se han dado casos llamativos, como el de la Constitución de Estados Unidos, que fue identificada erróneamente como un texto creado por inteligencia artificial. Este tipo de fallos no solo muestran las limitaciones técnicas, sino también los riesgos de utilizar estas herramientas como árbitros definitivos de la autenticidad textual.

El artículo también menciona que las estrategias de detección basadas en marcas de agua digitales, que se presentan como una alternativa, tampoco están libres de problemas. Aunque permiten incrustar señales invisibles en los textos generados por IA para poder rastrearlos, estas señales pueden ser eliminadas o modificadas mediante técnicas de reescritura o edición, lo que vuelve a poner en entredicho la seguridad del sistema. Así, tanto los detectores tradicionales como las técnicas más recientes pueden ser engañados con relativa facilidad.

A pesar de estas limitaciones, hay un horizonte de mejora. Investigadores apuntan que la fiabilidad de los detectores podría aumentar si se entrenan con más datos de referencia de escritura humana y si, en lugar de analizar frases o fragmentos cortos, se valoran textos completos en los que se puedan identificar patrones más amplios. De este modo, aunque hoy la detección de IA se perciba como una tarea frágil y llena de falsos positivos, aún existe la posibilidad de desarrollar métodos más precisos y robustos que permitan distinguir con mayor seguridad entre lo humano y lo artificial.

La cultura en la era de la inteligencia artificial: ¿creación humana o producción algorítmica?

Rothman, Joshua. “A.I. Is Coming for Culture.” The New Yorker, August 25, 2025. https://www.newyorker.com/magazine/2025/09/01/ai-is-coming-for-culture

Joshua Rothman abre reflexionando sobre cómo, en la era de los smartphones, nuestra rutina cotidiana está profundamente marcada por el algoritmo

Estamos acostumbrados a que los algoritmos guíen nuestras elecciones. Sin embargo, cuando las máquinas pueden generar sin esfuerzo el contenido que consumimos, ¿qué queda para la imaginación humana?

El ensayo reflexiona sobre cómo la inteligencia artificial está transformando la producción cultural. Comienza con la idea de que nuestra vida diaria ya está profundamente mediada por algoritmos que moldean lo que leemos, vemos y escuchamos. A este ritmo, la IA no solo multiplicará la cantidad de contenidos disponibles —música, vídeos, textos o imágenes—, sino que dará lugar a nuevas formas de creación todavía imprevisibles.

Sin embargo, las limitaciones de estas obras generadas por máquinas: carecen de individualidad, intención y agencia artística, pues se basan en patrones preexistentes. Aun así, para muchos creadores la IA representa una oportunidad, ya que reduce costes, facilita la experimentación y permite realizar proyectos antes inalcanzables.

También se plantea un escenario futuro en el que los contenidos culturales no sean productos fijos, sino experiencias creadas en tiempo real para cada usuario, diseñadas para provocar una reacción inmediata. Esto transformaría radicalmente la forma en que concebimos el arte y el entretenimiento.

El texto concluye con una advertencia: si todo lo que consumimos procede de máquinas, corremos el riesgo de diluir la creatividad humana. Pero, paradójicamente, esta situación podría reforzar nuestro aprecio por lo genuinamente humano en la cultura, frente a la avalancha de producciones artificiales.

Evaluación de la eficacia de las herramientas de detección de contenido generado por IA

Elkhatat, Ahmed M., Khaled Elsaid y Saeed Almeer. «Evaluating the efficacy of AI content detection tools in differentiating between human and AI-generated text.» International Journal for Educational Integrity 19, artículo 17 (2023). https://doi.org/10.1007/s40979-023-00140-5.

Se evalúa la eficacia de diversas herramientas de detección de contenido generado por inteligencia artificial (IA), como OpenAI, Writer, Copyleaks, GPTZero y CrossPlag, para diferenciar entre textos escritos por humanos y generados por IA.

Para la investigación, se generaron 15 párrafos con el modelo ChatGPT 3.5, 15 con el modelo 4 y 5 respuestas de control escritas por humanos, todas sobre el tema de torres de enfriamiento en procesos de ingeniería. Las herramientas evaluadas incluyeron OpenAI, Writer, Copyleaks, GPTZero y CrossPlag.

Los resultados indicaron que las herramientas de detección fueron más precisas al identificar contenido generado por GPT-3.5 que por GPT-4. Sin embargo, al aplicarlas a las respuestas de control escritas por humanos, las herramientas mostraron inconsistencias, produciendo falsos positivos y clasificaciones inciertas. Estos hallazgos subrayan la necesidad de desarrollar y perfeccionar las herramientas de detección de contenido generado por IA, ya que el contenido generado por IA se vuelve más sofisticado y difícil de distinguir del texto escrito por humanos.

Aunque las herramientas de detección de IA ofrecen una funcionalidad valiosa, su fiabilidad y precisión actuales son limitadas. Es crucial abordar estos desafíos para garantizar una evaluación justa y precisa en diversos contextos académicos y profesionales.