Archivo de la etiqueta: Investigación

Características deseables de los identificadores persistentes

Chodacki, John, y Todd Carpenter. «Desirable Characteristics of Persistent Identifiers». Upstream, 19 de marzo de 2024. https://upstream.force11.org/desirable-characteristics-for-persistent-identifiers/.

En un panorama digital en rápida evolución, los identificadores persistentes (PID) se erigen en componentes cruciales para el avance y la difusión de la investigación, apuntalando la eficiencia, la transparencia y la interconectividad de la comunicación académica. Su aplicación estratégica, guiada por principios y prácticas reconocidos internacionalmente, es esencial para fomentar un entorno de investigación abierto y colaborativo.

Los identificadores persistentes (PIDs) en la investigación académica han recibido una creciente atención, particularmente en el contexto de la ciencia abierta. Varios principios, como los Principios FAIR (Encontrable, Accesible, Interoperable y Reutilizable) y los Principios de Infraestructura Académica Abierta (POSI), destacan la importancia de los PIDs para mejorar la eficiencia y transparencia de la comunicación académica.

Open Science Toolkit, publicado en 2022 por la UNESCO como parte de la fase de aplicación de su Recommendation on Open Science, incluye una guía sobre Bolstering Open Science Infrastructure for All, que detalla lo que la UNESCO considera «factores [que] deben tener en cuenta quienes desarrollan, financian y/o utilizan infraestructuras de ciencia abierta». Entre ellos figuran:

● Transparencia de costes y beneficios;
● Interoperabilidad para potenciar la reutilización;
● Cocreación cooperativa;
● Atención y beneficios compartidos; y
● Armonización con la política de ciencia abierta y supervisión.

Es importante señalar que en el apartado «Infraestructura básica», la UNESCO escribe: «Debe prestarse la debida atención a los identificadores únicos persistentes de los objetos digitales», dejando claro que consideran los PID una parte crucial de la infraestructura más amplia de la ciencia abierta a la que se aplican las consideraciones anteriores.

Los Principios de la Infraestructura Académica Abierta (POSI), desarrollado originalmente en 2015 y actualizado más recientemente en 2023, «ofrece un conjunto de directrices por las que las organizaciones e iniciativas de infraestructura académica abierta que apoyan a la comunidad investigadora pueden ser dirigidas y sostenidas». Algunas de las consideraciones que POSI enumera en el apartado de gobernanza, en particular que la infraestructura abierta debe tener, son las más relevantes para nuestra orientación sobre los PID:

● Cobertura en toda la empresa académica, siendo inclusiva para una amplia gama de disciplinas académicas, geografías, instituciones y actores;
● Gobernada por las partes interesadas, ya que esto «genera confianza en que la organización tomará decisiones impulsadas por el consenso de la comunidad y un equilibrio de intereses»;
● Gobernanza transparente, ya que esto ayuda a construir y mantener la confianza en la comunidad; e
● Incentivos para cumplir la misión, en particular que «las organizaciones y los servicios revisen periódicamente el apoyo de la comunidad y la necesidad de sus actividades».

Scholarly Communication Infrastructure Guide,, publicada por el Grupo de Trabajo de Infraestructura Compartida de HELIOS en 2023, se basa en la visión de la UNESCO de una infraestructura científica abierta. Esta guía hace hincapié en la transparencia, la colaboración, las capacidades técnicas, la gobernanza, el cumplimiento de las normas de acceso público y la puntualidad. Aunque no presiona a favor de proveedores o soluciones concretos, guía a los responsables institucionales a través de las preguntas importantes que deben plantearse a la hora de decidir comprar, construir o asociarse en infraestructuras académicas. Estas mismas preguntas podrían adaptarse y plantearse a la hora de decidir si adoptar determinados PID o servicios relacionados. Por ejemplo:

● ¿Son transparentes y asequibles los precios a corto plazo y los costes a largo plazo?
● ¿Existen oportunidades de asociación con proveedores de código abierto o sin ánimo de lucro?
● ¿Se basa la infraestructura en formatos y protocolos estándar e interoperables?
● ¿Cuál es el plan de sostenibilidad de la organización u organizaciones rectoras que apoyan la infraestructura?
● ¿Pueden los usuarios proporcionar orientación sobre su dirección, usabilidad y desarrollo?
● ¿La infraestructura es propiedad y/o está gobernada por miembros de la comunidad académica?
● ¿Permitirá la infraestructura cumplir los requisitos políticos de los organismos de financiación?

Otra fuente de orientación sobre las características y principios deseables para los PID es el artículo fundacional de 2017 “Identifiers for the 21st Century,», que hace hincapié en varios criterios clave para la infraestructura de EPI:

● Construida para la conexión y la expansión
● Promover la interoperabilidad
● Llenar las lagunas específicas de la comunicación de la investigación
● Garantizar la disponibilidad abierta de los metadatos
● Establecer la fiabilidad de los identificadores persistentes
● Hacer hincapié en la propiedad y la gobernanza de la comunidad
● Fomentar la sostenibilidad de la organización

La implementación estratégica de PIDs, alineada con estos principios y prácticas, es esencial para fomentar un entorno de investigación abierto y colaborativo. Algunas características deseables de la infraestructura de PIDs incluyen la disponibilidad abierta de metadatos básicos, el uso de servicios de resolución establecidos, la documentación de políticas de identificación, servicios de monitoreo y reporte, facilidad de asignación y curación de metadatos, estructuras estandarizadas y extensibilidad, y gobernanza comunitaria. Estas características, combinadas con la adopción de principios globales de ciencia abierta y una colaboración entre la comunidad académica, financiadores y responsables de políticas, pueden garantizar que los PIDs contribuyan a un paisaje académico más inclusivo y transparente.

Competencias de los investigadores

European Commission, European Research Executive Agency, Researchers’ skills, Publications Office of the European Union, 2024, https://data.europa.eu/doi/10.2848/6977

Este informe aborda las competencias de los investigadores, como parte de una serie de tres informes de retroalimentación a las políticas, que hacen balance de los avances y las prácticas prometedoras generadas por una selección de proyectos financiados por la UE sobre competencias, la reforma de la evaluación de la investigación y las actividades de I+i de los proyectos «Ciencia con y para la sociedad» (SWAFS) de Horizonte 2020 que apoyan las alianzas. Este informe es el primero que recoge las contribuciones de los proyectos financiados por la UE sobre desarrollo de capacidades desde el lanzamiento del sitio web del marco europeo de competencias para los investigadores (ResearchComp) en 2023. Ofrece una visión general de los avances logrados hasta la fecha, sobre la base de actividades y resultados emergentes e intermedios. Sin embargo, sólo incluye los avances de las primeras fases; es probable que en los próximos años se desarrollen a gran velocidad otras actividades, productos y resultados en este ámbito.

50 aspectos esenciales de la comunicación científica

Bertemes, Jean Paul, Haan, Serge and Hans, Dirk. 50 Essentials on Science Communication, Berlin, Boston: De Gruyter Mouton, 2024. https://www.degruyter.com/document/doi/10.1515/9783110763577/html?lang=en

Descargar

La comunicación científica es cada vez más importante. Las instituciones de investigación, los científicos y los comunicadores científicos quieren comprometerse con la sociedad, compartir sus conocimientos y generar confianza. Al mismo tiempo, se trata de competir por los fondos de investigación y el personal de alto nivel. ¿Cómo hacerlo bien y qué hay que tener en cuenta a la hora de desarrollar una estrategia de comunicación?

Este libro, práctico y ameno, ofrece los fundamentos de la comunicación científica orientada a objetivos. Está dirigido a científicos en formación y a cualquiera que quiera dar sus primeros pasos en el campo de la comunicación científica. Autores internacionales con experiencia en este campo comparten sus reflexiones esenciales sobre aspectos importantes de la comunicación científica contemporánea.

El oscuro mundo de los carteles de citación

The Chronicle of Higher Education. «Opinion | The Dark World of ‘Citation Cartels’», 6 de marzo de 2024. https://www.chronicle.com/article/the-dark-world-of-citation-cartels.


En el complejo panorama de la investigación contemporánea, el lema «publicar o perecer» ha evolucionado gradualmente hacia un mantra diferente: «Se citado o tu carrera se verá perjudicada». Las citas son la nueva moneda académica y las carreras ahora dependen firmemente de esta forma de reconocimiento académico. De hecho, la citación se ha vuelto tan importante que ha impulsado una nueva forma de engaño: redes clandestinas diseñadas para manipular citas.

Los investigadores, impulsados por el imperativo de asegurar impacto académico, recurren a la formación de anillos de citas: círculos colaborativos diseñados para aumentar artificialmente la visibilidad de su trabajo. Al hacerlo, comprometen la integridad del discurso académico y socavan los fundamentos de la búsqueda académica. La historia del moderno «cartel de citas» no es solo resultado de la presión de publicación. El surgimiento de las mega revistas también juega un papel, al igual que las revistas depredadoras y los esfuerzos institucionales por sobresalir en las clasificaciones académicas globales.

En la última década, el panorama de la investigación académica ha sido significativamente alterado por el gran número de académicos que participan en empresas científicas. El número de académicos que contribuyen a publicaciones indexadas en matemáticas se ha duplicado, por ejemplo. En respuesta a la creciente demanda de espacio en publicaciones científicas, una nueva generación de emprendedores editoriales ha aprovechado la oportunidad, y el resultado es el surgimiento de mega revistas que publican miles de artículos anualmente. Mathematics, una revista de acceso abierto producida por el Multidisciplinary Digital Publishing Institute, publicó más de 4.763 artículos en 2023, lo que representa el 9.3 por ciento de todas las publicaciones en el campo, según Web of Science. Tiene un factor de impacto de 2.4 y una medida de influencia de artículos de solo 0.37, pero, crucialmente, está indexada por Web of Science de Clarivate, Scopus de Elsevier y otros indexadores, lo que significa que sus citas cuentan hacia una variedad de métricas profesionales. (En comparación, Annals of Mathematics, publicada por la Universidad de Princeton, contenía 22 artículos el año pasado, y tiene un factor de impacto de 4.9 y una medida de influencia de artículos de 8.3.)

Las mega revistas prosperan en la era del acceso abierto, proporcionando una plataforma conveniente para investigadores ansiosos por ver su trabajo publicado y ampliamente leído. Sin barreras de pago, los artículos en esas revistas pueden compartirse (y citarse) fácilmente. La revista gana «cargos por procesamiento de artículos» (APCs) pagados por los autores de un artículo o sus instituciones, con tarifas que suelen rondar en las cuatro cifras bajas en dólares estadounidenses por artículo. Los anillos de citas, que han existido durante décadas, ahora explotan los procesos de revisión por pares rápidos y fáciles de las mega revistas para canalizar miles de referencias a sus colaboradores. El resultado es una distorsión de los índices de citas académicas y los puntajes de factor de impacto que permiten que la erudición mediocre parezca mucho más influyente de lo que es, por el precio correcto para la revista, por supuesto.

Una métrica de citas importante objetivo para los juegos de manipulación es la prestigiosa lista de «Highly Cited Researchers» de Clarivate. «De la población mundial de científicos y científicos sociales, los Investigadores Altamente Citados™ son 1 de cada 1.000», explica Clarivate. La inclusión en la lista ocurre primero a través de la actividad de citación: «Cada investigador seleccionado ha sido autor de múltiples artículos altamente citados™ que se clasifican en el 1% superior por citaciones para su(s) campo(s)». Esa lista luego se «refina utilizando análisis cualitativo y juicio experto». En general, el sello Highly Cited Researchers de Clarivate es reconocido por la comunidad investigadora como un marcador de influencia.

La lista de investigadores altamente citados también alimenta un indicador en el Ranking de Shanghái, una clasificación académica de universidades mundiales. En un intento por obtener visibilidad internacional, las instituciones no siempre se oponen a que sus miembros de la facultad encuentren atajos para el reconocimiento académico, incluso aquellos que involucran prácticas de citas dudosas. El atractivo de subir en las tablas de clasificación internacionales

Guía para la regulación del uso de Inteligencia Artificial en revistas científico-académicas de ciencias sociales, en procesos de arbitraje y para reportar su uso en textos científicos

Penabad-Camacho, Liana, Maria Morera, y María Amalia Penabad-Camacho. «Guía para la regulación del uso de Inteligencia Artificial en revistas científico-académicas de ciencias sociales, en procesos de arbitraje y para reportar su uso en textos científicos», 16 de marzo de 2023. https://repositorio.una.ac.cr/handle/11056/27431.

Este documento introduce el concepto de Inteligencia Artificial (IA) y su impacto en la ciencia, proponiendo una reestructuración de los métodos tradicionales de investigación y publicación. Destaca la importancia de la transparencia en el uso de la IA y su congruencia con los estándares de comunicación científica. El objetivo principal es proporcionar orientación para el reporte del uso de la IA en la publicación científica, dirigido a editores, revisores y autores.

Se incluyen definiciones clave, como la de «prompts» y «prompt net», así como diagramas para conceptualizar su uso. La guía se divide en tres partes: una dirigida a editores y equipos editoriales, otra a revisores y la tercera a autores, ofreciendo recomendaciones específicas para cada uno de estos roles en relación con el uso ético y transparente de la IA en el proceso de comunicación del conocimiento científico.

Se enfatiza que el objetivo final del uso de la IA debe ser el bien común y la mejora de la calidad de vida, destacando la importancia de mitigar sesgos y desinformación. Además, se reconoce que la IA es un fenómeno en constante evolución, por lo que se sugiere la necesidad de futuras actualizaciones de la guía y sus conceptos para adaptarse a los avances tecnológicos y científicos.

El impacto de las imágenes y videos generados por IA en la investigación científica: ¿Beneficio o Perjuicio?

Wong, Carissa. «AI-Generated Images and Video Are Here: How Could They Shape Research?» Nature, 7 de marzo de 2024. https://doi.org/10.1038/d41586-024-00659-8.

Así como muchos investigadores están utilizando ChatGPT para transformar el proceso de escritura científica, otros están utilizando generadores de imágenes de IA como Midjourney, Stable Diffusion y DALL-E para reducir el tiempo y el esfuerzo necesarios para producir diagramas e ilustraciones. Sin embargo, los investigadores advierten que estas herramientas de IA podrían impulsar un aumento en los datos falsos y las imágenes científicas inexactas. Nature examina cómo los investigadores están utilizando estas herramientas y lo que su creciente popularidad podría significar para la ciencia.

¿Cómo funcionan las herramientas de texto a imagen? Muchas herramientas de IA de texto a imagen, como Midjourney y DALL-E, se basan en algoritmos de aprendizaje automático llamados modelos de difusión que están entrenados para reconocer los vínculos entre millones de imágenes extraídas de Internet y descripciones de texto de esas imágenes. Estos modelos han avanzado en los últimos años gracias a mejoras en hardware y la disponibilidad de grandes conjuntos de datos para el entrenamiento. Después del entrenamiento, los modelos de difusión pueden utilizar indicaciones de texto para generar nuevas imágenes.

¿Para qué los están utilizando los investigadores? Algunos investigadores ya están utilizando imágenes generadas por IA para ilustrar métodos en artículos científicos. Otros los están utilizando para promocionar artículos en publicaciones en redes sociales o para mejorar las diapositivas de presentaciones. «Están utilizando herramientas como DALL-E 3 para generar imágenes llamativas que enmarcan conceptos de investigación», dice el investigador de IA Juan Rodríguez de ServiceNow Research en Montreal, Canadá. «Di una charla el jueves pasado sobre mi trabajo y utilicé DALL-E 3 para generar imágenes atractivas para mantener la atención de las personas», dice.

También están aumentando las herramientas de texto a video, pero parecen ser menos utilizadas por investigadores que no están desarrollando o estudiando activamente estas herramientas, dice Rodríguez. Sin embargo, esto podría cambiar pronto. El mes pasado, OpenAI, creador de ChatGPT en San Francisco, California, lanzó videoclips generados por una herramienta de texto a video llamada Sora. «Con los experimentos que vimos con Sora, parece que su método es mucho más robusto para obtener resultados rápidamente», dice Rodríguez. «Estamos en una etapa temprana en términos de texto a video, pero supongo que este año descubriremos cómo se desarrolla esto», agrega.

¿Cuáles son los beneficios de utilizar estas herramientas? Las herramientas de IA generativas pueden reducir el tiempo necesario para producir imágenes o figuras para artículos, carteles de conferencias o presentaciones. Convencionalmente, los investigadores utilizan una variedad de herramientas no de IA, como PowerPoint, BioRender e Inkscape. «Si realmente sabes cómo usar estas herramientas, puedes hacer figuras realmente impresionantes, pero lleva tiempo», dice Rodríguez.

Las herramientas de IA también pueden mejorar la calidad de las imágenes para los investigadores que encuentran difícil traducir conceptos científicos en ayudas visuales, dice Rodríguez. Con la IA generativa, los investigadores aún crean la idea principal de la imagen, pero pueden usar la IA para refinarla, dice.

¿Cuáles son los riesgos? Actualmente, las herramientas de IA pueden producir obras de arte convincentes y algunas ilustraciones, pero aún no pueden generar figuras científicas complejas con anotaciones de texto. «No obtienen el texto correcto: a veces el texto es demasiado pequeño, mucho más grande o está girado», dice Rodríguez. El tipo de problemas que pueden surgir quedó claro en un artículo publicado en Frontiers in Cell and Developmental Biology a mediados de febrero, en el que los investigadores utilizaron Midjourney para representar los órganos reproductores de una rata. El resultado, que pasó la revisión por pares, fue una caricatura de un roedor con genitales enormes y anotados con garabatos.

Existe también la posibilidad de que estas herramientas faciliten la producción de datos u observaciones falsas por parte de estafadores científicos, ya que no hay un método robusto para detectar tales imágenes y videos generados por IA. Rodriguez expresa preocupación por el potencial impacto de «una inundación de datos falsos y sintéticamente generados».

Algunos campos han mostrado una fuerte resistencia a la inclusión de imágenes generadas por IA en publicaciones científicas. Una encuesta realizada por el paleoartista Henry Sharpe reveló que solo uno de cada cuatro paleontólogos profesionales estaba a favor de permitir la inclusión de imágenes generadas por IA en publicaciones científicas. Se argumenta que estas imágenes pueden inducir a error tanto a científicos como al público, ya que simplemente copian elementos existentes sin la capacidad de interpretar textos científicos. Además, los procesos iterativos de reconstrucción de formas de vida antiguas, realizados en consulta con paleontólogos, revelan características anatómicas plausibles que se pierden al usar IA.

En cuanto a las políticas de las revistas científicas, Springer Nature ha prohibido el uso de imágenes, videos e ilustraciones generados por IA en la mayoría de los artículos que no tratan específicamente sobre IA. Journals de la familia Science no permiten el uso de texto, figuras o imágenes generadas por IA sin el permiso explícito de los editores, a menos que el artículo se centre en IA o aprendizaje automático. Por otro lado, PLOS ONE permite el uso de herramientas de IA, pero los investigadores deben declarar la herramienta utilizada, cómo la utilizaron y cómo verificaron la calidad del contenido generado.

Preparando los ecosistemas nacionales de investigación para la inteligencia artificial: estrategias y progreso en 2024

International Science Council. «Preparing National Research Ecosystems for AI: Strategies and Progress in 2024». Accedido 30 de marzo de 2024. https://council.science/publications/ai-science-systems/.

Descargar


El informe ofrece un análisis completo de la integración de la inteligencia artificial en la ciencia y la investigación en varios países. Aborda tanto los avances realizados como los desafíos enfrentados en este campo, lo que lo convierte en una lectura valiosa para líderes científicos, formuladores de políticas, profesionales de la IA y académicos.

Este documento de trabajo proporciona información fundamental y acceso a recursos de países de todo el mundo, en diversas etapas de integración de la IA en sus ecosistemas de investigación:

  • Australia: Preparándose para el uso centrado en el humano de la inteligencia artificial.
  • Benin: Anticipando los impactos de la inteligencia artificial en el aspirante a centro de servicios digitales de África Occidental.
  • Brasil: Aprovechando los beneficios de la inteligencia artificial con algunas notas de precaución.
  • Camboya: Buscando enfoques de inteligencia artificial para misiones nacionales de investigación.
  • Chile: Encontrando posibilidades para aplicar inteligencia artificial en un ecosistema de financiamiento de investigación existente.
  • China: Promoviendo el enfoque de Inteligencia Artificial para la Ciencia.
  • India: Obteniendo información sobre tecnologías transformadoras y su integración social.
  • Malasia: Facilitando la Cuarta Revolución Industrial.
  • México: Creando una agencia nacional líder en inteligencia artificial.
  • Omán: Fomentando la innovación a través de un Programa Ejecutivo.
  • Uruguay: Siguiendo una hoja de ruta para preparar los sistemas nacionales de ciencia para la inteligencia artificial.
  • Uzbekistán: Creando las condiciones y habilidades adecuadas para la inteligencia artificial.

Bitácora de herramienta digitales: la inteligencia artificial en la investigación y las producciones académicas

Bitácora de herramienta digitales: la inteligencia artificial en la investigación y las producciones académicas / Jhonatan Hinojosa Mamani, Edison Catacora Lucana, Javier Elías Mamani Gamarra. – Guarujá-SP: Científica Digital, 2024.

Texto completo

En el transcurso de esta travesía por la convergencia entre la inteligencia artificial y la investigación científica, nos sumergimos en las profundidades conceptuales delineadas por pensadores que han esbozado las complejidades de este terreno intrincado. Seremos orientados por las teorías que han moldeado nuestra apreciación de cómo las herramientas digitales, potenciadas por la inteligencia artificial, reestructuran los cimientos esenciales de la investigación científica. Este análisis crítico nos invita a explorar las intersecciones entre el desarrollo tecnológico y las metodologías científicas, desentrañando la influencia de la inteligencia artificial en la evolución misma de la investigación y sus implicaciones epistemológicas.

Una revista científica publica una rata generada por inteligencia artificial con un pene gigantesco que se aprobó por un comité de revisión científica de Frontiers

Pearson, J. «Scientific Journal Publishes AI-Generated Rat with Gigantic Penis In Worrying Incident». Vice. February 15, 2024. https://www.vice.com/en/article/dy3jbz/scientific-journal-frontiers-publishes-ai-generated-rat-with-gigantic-penis-in-worrying-incident

Una revista científica publicó esta semana un artículo lleno de imágenes generadas por inteligencia artificial (IA) que carecían de sentido, incluyendo un diagrama erróneo de un pene de rata, en un episodio preocupante que refleja cómo la IA generativa está ingresando en la academia con efectos preocupantes.

El artículo, titulado «Funciones celulares de las células madre espermatogénicas en relación con la vía de señalización JAK/STAT«, fue publicado en la revista de acceso abierto Frontiers in Cell Development and Biology por investigadores de la Hospital de Hong Hui y la Universidad Jiaotong en China. Aunque el contenido del artículo en sí podría ser de interés específico para aquellos con un interés particular en las células madre de mamíferos pequeños, las figuras publicadas con el artículo son otra historia completamente diferente.

Una de las figuras incluye un diagrama de un pene de rata disecado, con texto garabateado y etiquetas incorrectas que sugieren que el pene de la rata es más del doble del tamaño de su cuerpo. Otras figuras generadas por IA en el artículo también presentan un abundante sinsentido textual y visual, como diagramas celulares que parecen más pizzas alienígenas que cualquier cosa relacionada con la biología. Es incierto cómo estas imágenes pudieron pasar por el proceso de edición, revisión por pares y publicación.

A pesar de que uno de los revisores del artículo señaló que no era su responsabilidad evaluar la precisión de las imágenes generadas por IA, la política de la revista Frontiers establece que el autor es responsable de verificar la precisión factual de cualquier contenido creado por la tecnología IA generativa. Esta discrepancia resalta la creciente preocupación sobre el manejo de la IA generativa en la investigación académica.

La tendencia creciente de la IA generativa en la academia preocupa a científicos y observadores, y algunas publicaciones, como Nature, han comenzado a adoptar políticas para abordar este problema. Nature, por ejemplo, prohibió el uso de IA generativa para imágenes y figuras en artículos el año pasado, citando riesgos para la integridad científica. Este incidente subraya la necesidad de que la comunidad científica establezca estándares claros y políticas efectivas para abordar los desafíos éticos y de calidad relacionados con el uso de la IA en la investigación.

Se estima que al menos 60.000 artículos de todos los publicados en 2023 podrían haber sido asistidos por Inteligencia Artificial

Gray, Andrew. «ChatGPT “contamination”: estimating the prevalence of LLMs in the scholarly literature». arXiv, 25 de marzo de 2024. https://doi.org/10.48550/arXiv.2403.16887.

El uso de ChatGPT y herramientas similares de Large Language Model (LLM) en la comunicación académica y la publicación académica ha sido ampliamente discutido desde que se volvieron fácilmente accesibles para una audiencia general a fines de 2022.

Las herramientas de Modelos de Lenguaje Grande (LLM) ofrecen una forma de generar grandes cantidades de texto de calidad razonablemente alta automáticamente, en respuesta a indicaciones humanas. Aunque estas herramientas han estado disponibles durante algunos años, el lanzamiento de ChatGPT 3.5 a finales de 2022, que ofrece una interfaz fácil y amplia publicidad para la herramienta, las hizo disponibles y visibles para el público en general. Desde entonces, ha habido una amplia discusión sobre su uso en las comunicaciones académicas. El entusiasmo inicial de que podrían reemplazar de manera confiable la mayoría de las formas de escritura seria, incluidos los intentos de enumerarlas como autores en documentos, ha sido reemplazado por una comprensión más matizada de sus capacidades y sus considerables limitaciones.

A fines de 2023, las encuestas encontraron que el 30% de los investigadores había utilizado herramientas para ayudar a escribir manuscritos, y muchos editores habían comenzado a ofrecer orientación sobre su uso. Por ejemplo, Wiley permite el uso de herramientas para desarrollar contenido, pero solo si los autores asumen plena responsabilidad por las declaraciones realizadas, y cuando este uso se divulga de manera transparente en el documento. Sin embargo, «las herramientas que se utilizan para mejorar la ortografía, la gramática y la edición general no están incluidas en el alcance de estas pautas».

El uso de LLMs para generar documentos fue ampliamente predicho después del lanzamiento, particularmente en «fábricas de documentos» (Paper Mills) que producen grandes cantidades de artículos de calidad deficiente. Sin embargo, es desafiante evaluar el efecto a gran escala. Algunos elementos distintivos de ChatGPT (como su conocida propensión a «alucinar» referencias) son difíciles de identificar que con el análisis caso por caso, y es probable que sean detectados por editores de todas formas.

Recientes investigaciones han identificado evidencia sólida de que ChatGPT y herramientas similares están siendo utilizados por investigadores para generar revisiones por pares para documentos de conferencias en el campo de la inteligencia artificial. Sin embargo, no se encontraron indicios de un patrón similar en las revisiones por pares para el portafolio de revistas de Nature.

Para identificar potencialmente documentos asistidos por LLM, se han identificado palabras conocidas por estar desproporcionadamente asociadas con textos generados por LLM. Estas palabras pueden ser señales de un aumento en el uso de texto generado por LLM en la literatura en su conjunto.

El estudio ha analizado la prevalencia de ciertas palabras clave y ha encontrado un aumento significativo en el uso de estas palabras en 2023, indicativo del posible uso extendido de LLM en la escritura académica. Se estima que al menos 60.000 artículos publicados en 2023 podrían haber sido asistidos por LLM, representando ligeramente más del 1% de todos los artículos académicos publicados.

Se han observado implicaciones significativas tanto para la integridad de la investigación como para el desarrollo futuro de los LLMs. Es importante abordar estas implicaciones para garantizar la calidad y la integridad de la investigación académica en el futuro.