Archivo de la etiqueta: Investigación

Los editores de revistas publican unas orientaciones sobre el uso de la IA en la publicación científica

Kaebnick, Gregory E., David Christopher Magnus, Audiey Kao, Mohammad Hosseini, David Resnik, Veljko Dubljević, Christy Rentmeester, Bert Gordijn, y Mark J. Cherry. «Editors’ Statement on the Responsible Use of Generative AI Technologies in Scholarly Journal Publishing». Hastings Center Report n/a, n.o n/a. Accedido 2 de noviembre de 2023. https://doi.org/10.1002/hast.1507.

Los editores de siete revistas académicas publicaron recomendaciones sobre el uso responsable de herramientas de inteligencia artificial generativa por parte de autores, revisores y editores. Las recomendaciones prohíben que las herramientas de IA generativa sean consideradas como autores, pero permiten su uso para generar texto e ilustraciones.

«Estas restricciones son necesarias en parte para proteger la calidad académica, como han señalado otras declaraciones, pero también son vitales por razones sociales más amplias», afirmó Gregory E. Kaebnick, autor principal de las recomendaciones y editor del Informe del Hastings Center.

Estas herramientas «tienen el potencial de transformar la publicación académica de maneras que pueden ser perjudiciales pero también valiosas», dice la declaración, que fue publicada en varias de las revistas de bioética y humanidades editadas por los autores y firmantes. Entre los firmantes se encuentran Karen J. Maschke, editora de la revista Ética e Investigación Humana del Hastings Center, y Laura Haupt, editora jefe del Informe del Hastings Center y Ética e Investigación Humana. Seis editores adicionales también son firmantes.

Las cinco recomendaciones son las siguientes:

  1. Las LLMs [modelos de lenguaje grandes] u otras herramientas de IA generativa no deben figurar como autores en los artículos.
  2. Los autores deben ser transparentes sobre su uso de la IA generativa, y los editores deben tener acceso a herramientas y estrategias para garantizar la transparencia de los autores.
  3. Los editores y revisores no deben depender únicamente de la IA generativa para revisar los artículos enviados.
  4. Los editores tienen la responsabilidad final de seleccionar revisores y deben ejercer una supervisión activa de esa tarea.
  5. La responsabilidad final de la edición de un artículo recae en los autores y editores humanos.

Si bien estas recomendaciones son coherentes con las tomadas por el Comité de Ética en Publicación y muchos editores de revistas, difieren en algunos aspectos. Por un lado, abordan las responsabilidades de los revisores hacia los autores. Además, la nueva declaración toma una posición diferente a la de la revista Science, que sostiene que no solo una herramienta de IA generativa no puede ser considerada autora, sino que «el texto generado por ChatGPT (u otras herramientas de IA) no puede ser utilizado en el trabajo, ni pueden los gráficos, imágenes o ilustraciones ser producto de tales herramientas».

«Una prohibición así es demasiado amplia y puede ser imposible de hacer cumplir, en nuestra opinión», afirma la nueva declaración.

Las recomendaciones son preliminares. «No pretendemos haber resuelto las numerosas cuestiones sociales que creemos que la IA generativa plantea para la publicación académica, pero en aras de fomentar una conversación más amplia sobre estas cuestiones, hemos desarrollado un conjunto preliminar de recomendaciones sobre la IA generativa en la publicación académica», señala la declaración. «Esperamos que las recomendaciones y argumentos aquí establecidos ayuden a la comunidad académica a avanzar hacia una comprensión más profunda de las fortalezas, limitaciones y desafíos de la IA para el trabajo académico responsable».

Perspectivas de las Humanidades sobre la Inteligencia Artificial

Humanities Perspectives on Artificial Intelligence (AI), National Endowment For the Humanities (NEH), 2023

Acceder a la noticia

National Endowment For the Humanities (NEH) anuncia hoy una nueva e importante iniciativa de investigación, Humanities Perspectives on Artificial Intelligence (Perspectivas de las Humanidades sobre la Inteligencia Artificial). En el marco de esta iniciativa, la NEH apoyará proyectos de investigación que traten de comprender y abordar las implicaciones éticas, jurídicas y sociales de la inteligencia artificial (IA). El NEH está especialmente interesado en proyectos que exploren el impacto de las tecnologías relacionadas con la IA en la verdad, la confianza y la democracia; la seguridad y la protección; y la privacidad, los derechos civiles y las libertades civiles.

La IA es una de las tecnologías más potentes de nuestro tiempo. Las cuestiones sobre las implicaciones éticas, jurídicas y sociales de la IA están fundamentalmente enraizadas en las humanidades, que incluyen la ética, el derecho, la historia, la filosofía, la antropología, la sociología, el estudio de los medios de comunicación y los estudios culturales. De hecho, la legislación fundacional del NEH encomienda a la agencia hacer que el pueblo estadounidense sea «dueño de su tecnología y no su sirviente irreflexivo».

La iniciativa Perspectivas Humanas de la Inteligencia Artificial del NEH responde a la Executive Order on Safe, Secure, and Trustworthy Artificial Intelligence del Presidente Biden, que establece nuevas normas para la seguridad de la IA, protege la privacidad de los estadounidenses y fomenta la equidad y los derechos civiles. La inversión del NEH en la investigación de la IA también está en consonancia con las prioridades de la Administración Biden-Harris en materia de investigación y desarrollo (I+D) sobre IA, tal y como se recoge en el National AI R&D Strategic Plan de la Casa Blanca publicado a principios de este año.

«El rápido desarrollo de la inteligencia artificial tiene consecuencias de gran alcance para la sociedad, la cultura y la democracia estadounidenses», declaró la Presidenta del NEH, Shelly C. Lowe (Navajo). «Las humanidades proporcionan la brújula ética y el contexto histórico para ayudarnos a comprender todas las implicaciones de las tecnologías de IA, dando tanto a los creadores como a los usuarios de la IA las herramientas necesarias para navegar por sus riesgos y recompensas de manera responsable, crítica y deliberada.»

La iniciativa Humanities Perspectives on Artificial Intelligence del NEH apoyará numerosos proyectos de humanidades relacionados con la IA a través de las siguientes oportunidades de financiación:

  • Las universidades u organizaciones de investigación independientes que estén considerando establecer un centro de investigación centrado en la investigación humanística de la IA deberían considerar el programa de subvenciones más reciente del NEH,  Humanities Research Centers on Artificial Intelligence. Esta oportunidad de financiación ofrece hasta 750.000 dólares para apoyar la creación de centros de investigación en humanidades centrados en las implicaciones éticas, jurídicas o sociales de la inteligencia artificial.
  • Los académicos individuales o los equipos académicos con sede en una institución (por ejemplo, colegios y universidades) pueden considerar Peligros y oportunidades de la tecnología: Perspectivas desde las Humanidades. Los investigadores independientes o afiliados a una institución pueden solicitar becas, premios para profesores de HBCU, HSI y TCU, estipendios de verano o becas públicas.
  • Los equipos de colaboración interesados en planificar un proyecto internacional de investigación sobre IA o en organizar una reunión académica sobre IA deben considerar la investigación en colaboración.
  • Las instituciones interesadas en acoger programas de desarrollo profesional sobre las últimas investigaciones relacionadas con la IA humanística deben considerar los Institutos de Temas Avanzados en Humanidades Digitales.

Política, gestión y evaluación de la investigación y la vinculación en América Latina y el Caribe

Política, gestión y evaluación de la investigación y la vinculación en América Latina y el Caribe / Diego Aguiar… [et al.] ; editado por Liliana Córdoba ; Laura Rovelli ; Pablo A. Vommaro ; prólogo de Liliana Córdoba ; Laura Rovelli ; Pablo A. Vommaro. – 1a ed. – Ciudad Autónoma de Buenos Aires : CLACSO, 2021

Texto completo

Construir conocimientos con perspectiva crítica es un sentido fundante que orienta a la Facultad de Ciencias Sociales de la Universidad Nacional de Córdoba y al Consejo Latinoamericano de Ciencias Sociales. Actualizar lo que entendemos por perspectivas críticas es una tarea permanente del pensamiento emancipatorio y este libro pretende ser un aporte más en ese esfuerzo colectivo.

Por ello, nos proponemos desnaturalizar, cuestionar y deconstruir el conocimiento perezoso, el autorreferenciado, el “superior”, el inalcanzable, el incomprensible para otros, el dogmático en tanto legitima solo lo igual a sí mismo, el que impone un espacio y un tiempo, el que prioriza las causas e ignora las consecuencias, el que no se deja conmover, el que promueve la neutralidad.

Aspiramos a construir un conocimiento científico público, abierto, que circule, se mueva, que dialogue con otr0s, que sea comprendido por otros y que comprenda a otr0s, que reconozca y se interese por espacios y tiempos diversos, el situado, el que considere siempre las consecuencias, el que se conmueve.

Número de artículos académicos publicados por año en todo el mundo

«Number of Academic Papers Published Per Year – WordsRated», 1 de junio de 2023. https://wordsrated.com/number-of-academic-papers-published-per-year/.

Hasta el año 2022, el número de artículos académicos publicados por año se estima de la siguiente manera:

  • En 2022, se publicaron 5.14 millones de artículos académicos.
  • En 2021, se publicaron 5.03 millones de artículos académicos, lo que representa un aumento del 7.62% con respecto al año anterior.
  • En 2020, se publicaron 4.68 millones de artículos académicos.
  • En 2019, se publicaron 4.43 millones de artículos académicos.
  • En 2018, se publicaron 4.18 millones de artículos académicos.
  • En los últimos cinco años, ha habido un aumento del 22.78% en el número de artículos publicados.

El país que publica la mayor cantidad de artículos académicos en 2022 es China, con más de 1.009 millones de artículos, lo que representa el 19.67% de todos los documentos académicos publicados en un año. Le sigue de cerca Estados Unidos, con 702,840 artículos, lo que representa el 17.04% del total global. Otros países en el top 10 incluyen India, el Reino Unido, Alemania, Italia, Japón, Canadá, Australia y Francia.

Hasta 2020, hay 46,736 revistas académicas publicando papers en todo el mundo. El número de revistas académicas ha ido aumentando constantemente a lo largo de los años, con una tasa de crecimiento anual promedio del 2.56% en la última década. La mayoría de estas revistas, aproximadamente el 75.04%, publican en inglés, con 35,070 revistas en inglés en 2020. Las revistas en otros idiomas han experimentado un crecimiento más lento, con una ligera disminución del 0.42% en 2020.

El país que publica la mayor cantidad de revistas académicas es el Reino Unido, con 5,856 revistas publicadas anualmente, lo que representa el 12.53% de la producción global. Estados Unidos es el segundo productor más grande de revistas académicas, con alrededor de 5,712 revistas, lo que representa el 12.22% de la producción global. Los Países Bajos y Alemania son los únicos otros países que publican más de 1,000 revistas académicas al año. China, a pesar de ser un importante productor de artículos académicos, representa solo el 1.36% de las revistas publicadas por año.

Los investigadores que aceptan manipular las citas tienen más probabilidades de que se publiquen sus trabajos

Singh Chawla, Dalmeet. «Researchers Who Agree to Manipulate Citations Are More Likely to Get Their Papers Published». Nature, 3 de mayo de 2023. https://doi.org/10.1038/d41586-023-01532-w.


Un estudio publicado en la revista Research Policy revela que los investigadores que son presionados por los editores para agregar citas superfluas en sus manuscritos tienen más probabilidades de tener éxito en la publicación de sus artículos que aquellos que se resisten.

El estudio se basa en una encuesta realizada en 2012 a 1.169 académicos que informaron haber sido solicitados para agregar citas innecesarias, de los cuales 1.043 cumplieron con la solicitud y agregaron al menos una cita.

Cuando los científicos son presionados para inflar sus trabajos con citas, el editor de la revista puede estar buscando aumentar el recuento de citas de su propia revista o el suyo propio. En otros casos, los revisores por pares pueden tratar de persuadir a los autores para que citen su trabajo. Los «anillos de citas», en los que varios académicos o revistas acuerdan citarse excesivamente entre sí, pueden ser más difíciles de detectar, ya que involucran a varias partes interesadas en lugar de solo dos académicos citándose desproporcionadamente.

Aunque los datos de la encuesta se recopilaron hace una década, los hallazgos siguen siendo relevantes hoy y la situación es poco probable que haya cambiado significativamente, según el autor del estudio, Eric Fong, de la Universidad de Alabama en Huntsville.

El estudio también encontró que los investigadores que cumplían plenamente con las solicitudes coercitivas de los editores tenían una tasa de aceptación del 85%, en comparación con el 77% para aquellos que cumplían parcialmente y el 39% para aquellos que se negaban a cumplir.

Para abordar este problema, Fong sugiere que las autocitas de las revistas deben excluirse de métricas como el factor de impacto de la revista, lo que reduciría la razón para solicitar más citas a otros trabajos publicados en la misma revista.

El director de integridad de la investigación en la Oficina de Integridad de la Investigación del Reino Unido y miembro del Consejo de Ética de Publicación (COPE), Matt Hodgkinson, está de acuerdo y afirma que es necesario eliminar el incentivo para realizar estas prácticas distorsionadoras.

Los editores que toman decisiones basadas en la coerción están distorsionando la literatura, y la educación de los editores individuales es una tarea pendiente. Los editores y revistas deben monitorear activamente las solicitudes de citas por parte de revisores y editores.

En febrero, una revista de la editorial holandesa Elsevier generó controversia al afirmar en una carta de rechazo a un autor que una de las razones para rechazar su artículo era la falta de citas a trabajos publicados en la misma revista. Elsevier aclaró que tenía una política clara contra la manipulación de citas y que los editores no deben intentar aumentar la clasificación de la revista inflando artificialmente las métricas.

El desarrollo de herramientas para detectar y señalar el exceso de referencias entre revistas y personas podría ser una solución para combatir estas prácticas.

IA generativa: el último chivo expiatorio de la evaluación de la investigación

Danny Kingsley. «Generative AI – the Latest Scapegoat for Research Assessment», LSE, 13 de octubre de 2023. https://blogs.lse.ac.uk/impactofsocialsciences/2023/10/13/generative-ai-the-latest-scapegoat-for-research-assessment/.

Reflexionando sobre el debate en torno a la inteligencia artificial generativa y su impacto en la comunicación académica, Danny Kingsley argumenta que, al igual que el acceso abierto hace veinte años, la IA refleja las deficiencias duraderas en la publicación y evaluación de la investigación.

Ha sido interesante observar la explosión de discusión en torno a ChatGPT y la IA generativa. Los comentarios oscilan entre el gran potencial que ofrece (en términos de eficiencia) y las preocupaciones sobre el daño que causará a sistemas de confianza de larga data. Uno de esos sistemas es la publicación académica.

A pesar de los desafíos planteados, ChatGPT simplemente refleja los problemas que ya aquejan al sistema de publicación académica actual. De hecho, de la misma manera en que hace una década, el acceso abierto fue un chivo expiatorio de la comunicación académica, ahora la IA generativa es un chivo expiatorio del sistema de publicación académica. Estas preocupaciones parten de una suposición subyacente: que el sistema actual está funcionando. Debemos preguntarnos: ¿es así?

No hay espacio aquí para una lista exhaustiva de los muchos y variados problemas del ecosistema actual de publicación académica. A modo de muestra, hay que tener en cuenta que por ejemplo las revistas depredadoras lamentablemente están aquí para quedarse, la preocupante cantidad de fraude en la investigación médica y que los investigadores que aceptan manipular citas tienen más probabilidades de que se publiquen sus artículos.

Dos estudios recientes, uno en Europa y otro en Australia, revelan el nivel de presión al que se ven sometidos los doctorandos y los investigadores en sus primeros años para proporcionar autoría regalada. También se han revelado alarmantes detalles sobre el intercambio de dinero por autoría, con precios que dependen de dónde se publicará el trabajo y el área de investigación. Las investigaciones sobre esto están llevando a una serie de retractaciones. Incluso la «naturaleza autocorrectiva» del sistema no funciona, con la revelación de un gran número de citas a artículos que habían sido retractados, y más de una cuarta parte de estas citas ocurrieron después de la retractación.

Consideremos algunas de las preocupaciones planteadas sobre la IA y la publicación académica. La incapacidad actual de la IA para documentar el origen de sus fuentes de datos a través de citas, y la falta de identificadores de esas fuentes de datos, significa que no hay capacidad para replicar los «hallazgos» generados por la IA. Esto ha llevado a llamados para el desarrollo de una especificación o estándar formal para la documentación de la IA respaldado por un modelo de datos sólido. Nuestro entorno actual de publicación no prioriza la reproducibilidad, con el intercambio de código como algo opcional y una adopción lenta de requisitos para compartir datos. En este entorno, la generación de datos falsos es motivo de preocupación. Sin embargo, ChatGPT «no es el creador de estos problemas; en cambio, permite que este problema exista en una escala mucho mayor».

A pesar de toda la preocupación, la IA generativa ofrece una forma de abordar las desigualdades en el sistema académico de publicación actual. Por ejemplo, escribir artículos en inglés cuando no es el primer idioma del autor puede ser una barrera significativa para participar en el discurso de investigación. La IA generativa ofrece una solución potencial para estos autores, argumentada en el contexto de la publicación médica. Otro argumento es que las reacciones impulsivas de los editores al uso de ChatGPT en artículos significa que estamos perdiendo la oportunidad de nivelar el campo de juego para los autores que tienen el inglés como segundo idioma (ESL).

Después de todo, la práctica de recibir asistencia en la redacción de artículos no es algo nuevo. Un estudio que investiga a autores prolíficos en revistas científicas de alto impacto que no eran investigadores encontró un sorprendente nivel de publicación en múltiples áreas de investigación. Estos autores son humanos (en su mayoría con títulos en periodismo), no IA.

Hablando de autoría, recientemente se informó que un radiólogo utilizó ChatGPT para escribir artículos y los publicó con éxito en áreas que estaban muy alejadas de su experiencia, incluyendo agricultura, seguros, derecho y microbiología. Esto es una representación excelente de las preocupaciones que muchos han expresado sobre la producción excesiva de artículos «escritos» por la IA generativa. Aunque las acciones del radiólogo son impactantes, este tipo de comportamiento no se limita al uso de la IA, como lo demuestra la admisión de un experto en carne español que había publicado 176 artículos en un año en múltiples áreas a través de asociaciones cuestionables.

El único impulsor de casi todas las prácticas de investigación cuestionables es la actual importancia del artículo publicado como la única producción que cuenta. El rabo está moviendo al perro.

Si un exceso de revistas y artículos de revista ya está alimentando las «fábricas de artículos» (que a su vez pueden generarse mediante IA), es posible que todo el ecosistema de publicación académica esté a punto de colapsar. Un comentario ha preguntado si el uso de la IA para ayudar a escribir artículos aumentará aún más la presión para publicar, dado que los niveles de publicación han aumentado drásticamente en la última década.

Estamos haciendo las preguntas equivocadas. Un buen ejemplo es este artículo que pregunta si los editores deberían preocuparse de que ChatGPT haya escrito un artículo sobre sí mismo. El artículo continúa discutiendo «otras preocupaciones éticas y morales» y pregunta: «¿Es correcto usar la IA para escribir artículos cuando la publicación de artículos se utiliza como un barómetro de la competencia, la permanencia y la promoción de los investigadores?».

Reformularía la pregunta como: «¿Es correcto que la publicación de artículos se utilice como la principal herramienta de evaluación de los investigadores?» El único impulsor de casi todas las prácticas de investigación cuestionables es la importancia actual del artículo publicado como la única producción que cuenta. El rabo está moviendo al perro.

Quince años de investigación sobre Comunicación en universidades españolas

MAPCOM. Quince años de investigación sobre Comunicación en universidades españolas. Fifteen years of research into Communication in Spanish universities, bajo la dirección académica Carmen Caffarel Serra, Carlos Lozano Ascencio, Juan Antonio Gaitán Moya y José Luis Piñuel Raigada (Editores), publicada por Comunicación Social Ediciones y Publicaciones en su colección «Metodologías Iberoamericanas de la Comunicación», en 2023.

Texto completo

El libro MapCom. Quince años de investigación sobre comunicación en universidades españolas recoge los principales resultados de sucesivos proyectos de investigación realizados entre 2007 y 2022, en los que participaron cerca de 90 investigadores de varias universidades españolas.

Estas investigaciones fueron coordinadas inicialmente por José Luis Piñuel Raigada y Juan Antonio Gaitán Moya y, posteriormente, por Carmen Caffarel Serra y Carlos Lozano Ascencio, editores, ahora, de la edición de este libro. Su objetivo era elaborar un banco de datos —de acceso abierto y participativo— que permitiese mapear el estado de la investigación en nuestro campo.

MapCom venía a cumplir una misión específica dentro de la política de investigación en comunicación: dar a conocer experiencias y facilitar contactos entre las distintas universidades de España y América Latina, de acuerdo con el espíritu fundacional de propia AE-IC.

MDPI, Hindawi y Frontiers en la lista negra de la política científica de China y Malasia

MDPI, Frontiers e Hindawi son revistas de acceso abierto, lo que significa que todos los lectores pueden descargarlas gratuitamente, pero los autores tienen que pagar una cuota, que no es barata (APCs). En los últimos años, muchas de las revistas de estas editoriales han sido incluidas en la lista de advertencia del Instituto de Literatura de la Academia China de Ciencias, aunque algunas de sus revistas están incluidas en los cuartiles Q1 y Q2 de Clarivate Analytics

Estas editoriales cobran a los autores elevados gastos de procesamiento de artículos (APC) para que sus artículos sean aceptados (la mayoría de las veces con rapidez). Sin embargo, debido a su rapidez, las revistas de estas editoriales son muy populares entre los académicos con fondos suficientes. Muchos investigadores noveles y estudiantes de doctorado publican artículos en sus revistas mientras sus «ricos» supervisores pagan el APC.

MDPI fue incluida en la lista de Jeffrey Beall de empresas editoriales depredadoras de acceso abierto en febrero de 2014. En octubre de 2015, Frontiers también se añadió a su lista de editoriales de acceso abierto depredadoras «potenciales, posibles o probables». En 2010, Beall incluyó un subconjunto de revistas de Hindawi en una lista de presuntas editoriales de acceso abierto depredadoras. La lista de Beall se cerró en 2017 por presiones de su empleador.

Ahora, el Ministerio de Universidades de Malasia ha emitido una directiva que prohíbe a las universidades públicas del país utilizar fondos del presupuesto estatal para respaldar la publicación de artículos en revistas asociadas a MDPI, Hindawi y Frontiers, tres destacados editores. Esta decisión se basa en preocupaciones relacionadas con la integridad académica y la precisión de la autoría en trabajos académicos dentro del país. Para hacer cumplir estas restricciones, el Ministerio ha establecido un comité dedicado para supervisar las publicaciones en revistas depredadoras o de baja calidad, con el objetivo de mejorar la ética académica y salvaguardar la reputación de las universidades y el país en su conjunto.

La Universidad de Industria y Comercio de Zhejiang en China también incluyó en una lista negra todas las revistas afiliadas a MDPI, Hindawi y Frontiers a principios de 2023. Los artículos publicados en revistas de estos editores no serán considerados al evaluar las capacidades de investigación y los logros de los docentes, según la votación del consejo universitario.

Además, el Fondo de Innovación Vingroup (VINIF), bajo el Instituto de Investigación de Big Data, ha introducido regulaciones que rigen su Programa de Subvención para Proyectos de Ciencia y Tecnología y las becas postdoctorales nacionales. Estas regulaciones establecen que los proyectos de investigación respaldados por VINIF deben cumplir con criterios específicos, incluida la publicación en revistas internacionales u organizaciones de investigación reputadas clasificadas como Q1 o su equivalente. Es importante destacar que los artículos de revistas relacionadas con MDPI y Hindawi no son elegibles bajo estas pautas.

Además de estas acciones, muchas revistas de MDPI, Hindawi y Frontiers figuran en la lista de advertencia de la Academia China de Ciencias. Esta lista tiene como objetivo advertir a los investigadores chinos sobre la selección de revistas y alentar a los editores a mejorar la calidad de sus artículos. La mayoría de las revistas en esta lista pertenecen a las categorías Q1 y Q2 según la clasificación ISI/WoS.

MDPI Publishing, Hindawi Publishing y Frontiers Publishing son los tres editores incluidos en esta lista negra. MDPI es uno de los editores más grandes del mundo de artículos científicos, con más de 429 revistas de acceso abierto. Hindawi, fundado originalmente en Egipto en 1997 y adquirido por el grupo editorial estadounidense Wiley en 2021, publica actualmente más de 282 revistas. Frontiers Publishing, con sede en Suiza y fundado en 2007, supervisa más de 221 revistas académicas.

Futuros de la ciencia para la política en Europa: escenarios e implicaciones políticas

European Commission, Directorate-General for Research and Innovation, Sarvaranta, L., Bravo-Biosca, A., De Marchi, B. et al., Futures of science for policy in Europe – Scenarios and policy implications, Publications Office of the European Union, 2023, https://data.europa.eu/doi/10.2777/121857

Este informe analiza las tendencias más importantes para el futuro de la ciencia al servicio de las políticas en Europa y los retos y oportunidades que plantean para el desarrollo de ecosistemas científicos al servicio de las políticas en la Unión Europea. En un contexto de creciente protagonismo de la ciencia en los debates públicos y de mayor disposición de los gobiernos a movilizar el asesoramiento científico, el informe explora las tendencias que configuran las prácticas y los procesos de intercambio de información entre los agentes del conocimiento y los responsables políticos, con la intención de elaborar políticas con base científica en Europa, y enmarca importantes retos y oportunidades para los ecosistemas de ciencia y política en la UE.

Editores, ¡no utilicen herramientas de detección de IA!

Staiman, Avi. «Publishers, Don’t Use AI Detection Tools!» The Scholarly Kitchen, 14 de septiembre de 2023. https://scholarlykitchen.sspnet.org/2023/09/14/publishers-dont-use-ai-detection-tools/.

La semana pasada recibí una llamada desesperada de un estudiante de máster de Austria que estaba inconsolable. Acababa de enviar su tesis a su universidad para que la revisaran y había sido marcada como escrita por IA. La universidad le había dado una oportunidad más para revisar y volver a presentar su trabajo. Si pasaba la herramienta de detección de IA, revisarían el trabajo y le darían una nota final. Si no superaba la comprobación automática, lo rechazarían automáticamente y lo expulsarían deshonrosamente de su programa, tirando por la borda dos años de estudio.

¿Herramientas de detección de IA para defender la integridad de la investigación?

El reciente auge en el desarrollo de tecnologías de IA en el ámbito de la escritura ha provocado el aumento y la proliferación de detectores de IA en el mundo académico. Estos detectores prometen ser los guardianes de la integridad académica combatiendo el plagio y los contenidos generados por IA. Aunque la ambición es noble, su aplicación práctica ha tenido su buena dosis de deficiencias críticas.

El supuesto fundamental que subyace a la creación de herramientas de detección de IA parece ser que la escritura con IA debería poder detectarse del mismo modo que se detecta el plagio. Sin embargo, hay una diferencia fundamental: el plagio simplemente busca coincidencias exactas con obras existentes, un criterio objetivo que puede identificarse, medirse y reproducirse. Por otro lado, la escritura de IA es original por derecho propio (aunque se extraiga de fuentes no originales) y no puede rastrearse fácilmente hasta su fuente.

Mi oposición a que las editoriales académicas recurran a herramientas de detección obedece a razones tanto pragmáticas como ideológicas. Empecemos por las cuestiones pragmáticas.

Problemas con los falsos positivos

Los grandes modelos lingüísticos aprenden de la escritura humana y se construyen para parecerse a ella en sus resultados. Ya con el lanzamiento de ChatGPT, quedó claro que la IA generativa podía producir una escritura que imitara con éxito la de los humanos. Cuantificar los respectivos componentes humanos y de IA en un documento concreto es todo un reto y, a menudo, los autores mezclan sus propias palabras con las sugeridas por la herramienta de IA.

Las imperfecciones de los detectores de IA son cada vez más evidentes, ya que a menudo identifican erróneamente contenidos genuinamente generados por humanos. Los estudios han mostrado tasas de error de hasta el 9% o más, una cifra demasiado alta para vivir con ella. Un caso notable fue el de una herramienta de IA que marcó la Constitución de EE.UU. como producida por IA. Este falso positivo no sólo pone de manifiesto la flagrante imperfección de estos detectores, sino que también subraya las posibles trampas que aguardan a los autores académicos que tratan estos informes como fidedignos. Un caso humorístico pero inquietante de este tipo de confusión surgió después de que un profesor de Texas A&M suspendiera toda su clase después de que ChatGPT respondiera afirmativamente cuando le preguntó si había escrito los trabajos entregados por los estudiantes.

En un vídeo reciente, Turnitin admitió con sorprendente franqueza que su software de detección de IA debe tomarse «con cautela». Además, dicen que los profesores tendrán que ser los que «hagan la interpretación final» de lo que crea la IA generativa.

¿No es esa precisamente la razón por la que los profesores recurren a estas herramientas?

Las universidades están empezando a comprender las implicaciones de estas admisiones y han empezado a tomar medidas aconsejando a su profesorado que no utilice estas herramientas. En un informe de orientación publicado por la Universidad de Vanderbilt, señalan que Turnitin, su proveedor de software contra el plagio, afirmó originalmente tener una tasa positiva del 1% en la detección de trabajos escritos con IA tras el lanzamiento de su herramienta de detección de IA, pero luego aumentó esa tasa al 4% tras un uso y unas pruebas más amplias. Aunque esas cifras mejoren, no sería difícil para los autores malintencionados pasar los resultados de la IA por un software de parafraseo para eliminar rastros del original. La propia OpenAI cerró un proyecto que intentaba detectar sus propios resultados. Muchas universidades ya han cambiado de rumbo y están buscando políticas alternativas.

Daños colaterales de las falsas acusaciones

La falacia de los detectores de IA tiene consecuencias en el mundo real. Timnit Gebru, fundadora y directora ejecutiva del Distributed AI Research Institute (DAIR), compartió recientemente un angustioso correo electrónico que recibió en el que se acusaba injustamente a un escritor de emplear IA. Este tipo de incidentes pueden causar una angustia emocional indebida y empañar potencialmente la reputación profesional de un investigador. El efecto dominó puede traducirse en desconfianza, escepticismo y descarrilamiento de la carrera académica, por no hablar de las prolongadas batallas legales.

Peor aún, es más probable que estos detectores marquen como generados por IA los trabajos de hablantes de inglés como lengua adicional (EAL) que los de sus homólogos nativos de habla inglesa. Lo último que querría cualquier editor es arriesgarse a introducir aún más prejuicios y discriminación contra los autores EAL.

¿Por qué corremos de nuevo a prohibir la escritura asistida por IA?

Las editoriales académicas deberían ser cautelosas a la hora de adoptar herramientas de detección de IA por razones que van más allá de la integridad de la investigación.

Si bien es probable que la mayoría de los editores no quieran publicar investigaciones que hayan sido obviamente realizadas por ChatGPT, adoptar políticas en las que los verificadores de IA sean estándar es también hacer una declaración educativa y de valores sobre cómo vemos el uso de la IA generativa en la expresión de hallazgos académicos. En lugar de rechazar las herramientas de IA en la escritura académica, ¿qué pasaría si las utilizáramos como herramientas educativas y como medio para igualar las condiciones de los académicos de la EAL?

Instituciones como la Universidad de Yale son pioneras en la utilización de la IA para mejorar el proceso de escritura. Ethan y Lilach Mollick, de la Wharton School, han creado un curso práctico en línea sobre IA para el aula que incluye la integración de la GPT en las tareas. Estos avances ponen de relieve un posible camino a seguir en el que la IA ayude a la escritura académica en lugar de entorpecerla.

Conclusión

Aunque la motivación para integrar los detectores de IA en la revisión académica es bienintencionada, los retos que introducen exigen un enfoque diferente. El sector de las publicaciones académicas debe estar alerta, sopesar los posibles escollos frente a las promesas y explorar formas de integrar armoniosamente la IA en la bibliografía académica.