Archivo de la etiqueta: Investigación

Directrices vivas sobre el uso responsable de la IA generativa en la investigación

Living guidelines on the responsible use of generative AI in research: ERA Forum
Stakeholders’ document. European Commission, 2024

Texto completo

La inteligencia artificial (IA) ha permeado nuestras vidas, transformando cómo vivimos y trabajamos. En los últimos años, ha ocurrido una aceleración rápida y disruptiva del progreso en IA, impulsada por avances significativos en la disponibilidad generalizada de datos, poder de cómputo y aprendizaje automático. Se han logrado avances notables, en particular, en el desarrollo de modelos fundamentales, es decir, modelos de IA entrenados en volúmenes extensos de datos no etiquetados. Esta innovación ha dado lugar a lo que se conoce como ‘IA de propósito general’, capaz de realizar una amplia gama de tareas, incluida la generación de diversos tipos de contenido nuevo (texto, código, datos, imágenes, música, voz, videos, etc.), comúnmente denominado ‘IA generativa’, generalmente basado en instrucciones (también conocidas como indicaciones) proporcionadas por el usuario. La calidad de la salida producida por estos modelos es tal que es difícil distinguirla del contenido generado por humanos.

La adopción generalizada y rápida de la IA generativa está creando mucha atención y amplias respuestas políticas e institucionales. La UE está liderando a nivel mundial con la Ley de IA, y se están llevando a cabo otros esfuerzos de gobernanza internacional. Estos incluyen el proceso de Hiroshima liderado por el G7 o la Declaración de Bletchley firmada después de la Cumbre de Seguridad de la IA.

La investigación es uno de los sectores que podría ser más significativamente interrumpido por la IA generativa. La IA tiene un gran potencial para acelerar el descubrimiento científico y mejorar la efectividad y el ritmo de los procesos de investigación y verificación. Ejemplos positivos del uso de estas herramientas por parte de los investigadores incluyen el apoyo a hablantes no nativos en la producción de textos en múltiples idiomas, la producción de resúmenes de texto a partir de diferentes fuentes en corpus extremadamente grandes de manera rápida y la recuperación automática y contextualización de un amplio cuerpo de conocimiento. Sin embargo, la tecnología también entraña el riesgo de abuso. Algunos riesgos se deben a las limitaciones técnicas de la herramienta, y otros tienen que ver con el uso (intencional o no intencional) de la herramienta de maneras que erosionan las prácticas de investigación sólidas. Otros riesgos para la investigación en Europa podrían derivarse de la naturaleza propietaria de algunas de las herramientas (por ejemplo, falta de apertura, tarifas para acceder al servicio, uso de datos de entrada) o de la concentración de propiedad.

El impacto de la IA generativa en la investigación y en varios aspectos del proceso científico requiere reflexión, por ejemplo, al trabajar con texto (resumir documentos, hacer lluvias de ideas o explorar ideas, redactar o traducir). En muchos aspectos, estas herramientas podrían dañar la integridad de la investigación y plantear preguntas sobre la capacidad de los modelos actuales para combatir prácticas científicas engañosas y desinformación.

Criterios de evaluación y requisitos mínimos de referencia de los méritos y competencias requeridos para obtener la acreditación 2024

Criterios de evaluación y requisitos mínimos de referencia de los méritos y competencias requeridos para obtener la acreditación. ANECA, 2024

Texto completo


La evaluación para la acreditación estatal de los cuerpos docentes universitarios se rige por el procedimiento establecido por la Agencia Nacional de Evaluación de la Calidad y Acreditación (ANECA) en aplicación del Real Decreto 678/2023. Se requiere la presentación de un currículo abreviado que destaque las contribuciones más relevantes en investigación, transferencia de conocimiento, docencia y, en el caso de aspirar a Catedrático/a de Universidad (CU), competencias de liderazgo. La evaluación se basa en la selección y narrativa de las contribuciones, considerando su calidad, relevancia e impacto. La evaluación puede ser favorable o desfavorable, siendo necesaria una puntuación mínima de 50 sobre 100 en cada bloque establecido. Los requisitos mínimos varían según el cuerpo docente y el área de especialización, con énfasis en la investigación, la docencia y, en áreas clínicas de Ciencias de la Salud, la actividad profesional. Se establecen excepciones para solicitantes con trayectorias destacadas en investigación internacionalmente reconocida. En el caso de Profesor/a Titular de Escuela Universitaria, la acreditación se otorga a quienes obtengan 90 puntos o más en el bloque de actividad docente, según lo dispuesto en el Real Decreto 678/2023.

Las revistas científicas publican artículos con textos generados por inteligencia artificial

Maiberg ·, Emanuel. «Scientific Journals Are Publishing Papers With AI-Generated Text». 404 Media, 18 de marzo de 2024. https://www.404media.co/scientific-journals-are-publishing-papers-with-ai-generated-text/.

La frase ChatGPT «A partir de mi última actualización de conocimientos» aparece en varios trabajos publicados por revistas académicas. Las revistas científicas están publicando artículos con texto generado por IA

La inclusión de lenguaje aparentemente generado por herramientas de IA como ChatGPT en artículos científicos publicados muestra cuán omnipresente se ha vuelto la tecnología, y destaca los problemas que arrastra desde tiempo atrás la publicación académica en algunas revistas académicas revisadas por pares.

Al buscar la frase «As of my last knowledge update» en Google Scholar, una herramienta de búsqueda gratuita que indexa artículos publicados en revistas académicas, se obtienen 115 resultados. La frase es utilizada frecuentemente por ChatGPT de OpenAI para indicar cuándo se está obteniendo los datos que proporciona a los usuarios, y los meses y años específicos encontrados en estos artículos académicos corresponden a actualizaciones de conocimiento previas de ChatGPT.

«Hasta la última actualización de mis conocimientos, en septiembre de 2021, no existe una correlación científica ampliamente aceptada entre el entrelazamiento cuántico y las ondas escalares longitudinales», una frase que frecuentemente utiliza ChatGPT, se lee en un artículo titulado «Quantum Entanglement: Examining its Nature and Implications» publicado en el «Journal of Material Sciences & Manfacturing [sic] Research», una publicación que afirma estar revisada por expertos.

La mayoría de los artículos científicos que se observan y que incluyen esta frase fueron publicados en revistas que son pequeñas, no muy conocidas y parecen ser «fábricas de artículos«, revistas con bajos estándares editoriales que publicarán casi cualquier cosa rápidamente. Una publicación donde se encontró la frase generada por IA, la revista Open Access Research Journal of Engineering and Technology,, solicita «cargos por publicación bajos», un «certificado electrónico» de publicación, y actualmente está anunciando una convocatoria de artículos, prometiendo la aceptación dentro de 48 horas y la publicación dentro de cuatro días.

Este tipo de revistas son un problema bien conocido en la comunidad académica, y preceden a la llegada de las herramientas de IA generativas. En febrero, The Guardian informó que el año pasado se retiraron 10.000 «artículos fraudulentos» de revistas académicas. Un estudio en Nature también destacó estafas de «pago por publicación», que son revistas que cobran tarifas exorbitantes a cambio de publicar un artículo rápidamente. Separar este tipo de artículos y revistas de la ciencia legítima a veces puede ser difícil, porque muchas revistas respetables también cobran a los científicos «tarifas de procesamiento de artículos» (APCs) para ser publicadas.

Sin embargo, también se encontró lenguaje generado por IA en revistas académicas más respetables. La semana pasada, la investigadora de Bellingcat Kolina Koltai tuiteó un artículo publicado en Superficies e Interfaces, que incluía la frase «Certainly, here is a possible introduction for your topic:» (He aquí una posible introducción para su tema) al comienzo de la introducción del artículo. El título del artículo es “The three-dimensional porous mesh structure of Cu-based metal-organic-framework – aramid cellulose separator enhances the electrochemical performance of lithium metal anode batteries.”

Michael J. Naughton, profesor de física en Boston College y uno de los editores de Superficies e Interfaces, dijo que la publicación es consciente del artículo y está «retractándolo». Naughton también señaló la política existente de la publicación sobre IA.

«Cuando los autores utilizan inteligencia artificial generativa (IA) y tecnologías asistidas por IA en el proceso de escritura, los autores solo deben usar estas tecnologías para mejorar la legibilidad y el lenguaje», establece la política. «La aplicación de la tecnología debe hacerse con supervisión y control humanos, y los autores deben revisar cuidadosamente y editar el resultado, ya que la IA puede generar una salida que suena autoritaria pero que puede ser incorrecta, incompleta o sesgada.»

La política también establece que los autores deben revelar si usan IA en el artículo.

Algunos de los artículos indexados en Google Scholar que usan respuestas estándar de ChatGPT no son necesariamente investigaciones generadas por IA. Algunos de los artículos son estudios que investigan los tipos de respuestas que da ChatGPT, y simplemente citan las respuestas que obtienen. Por ejemplo, uno de los artículos que utiliza el término está investigando los «modelos de falla» de varios sistemas de chat de IA.

Esta no es la primera vez que se observa a revistas académicas publicar contenido generado por IA. En febrero, una revista llamada Frontiers in Cell Development and Biology publicó un artículo con varias imágenes claramente generadas por IA, incluida una de una rata con un pene gigante.

La cita más famosa de Einstein es totalmente malinterpretada


Big Think. «Einstein’s Most Famous Quote Is Totally Misunderstood», 11 de abril de 2023. https://bigthink.com/starts-with-a-bang/einstein-famous-quote-misunderstood/.

El famoso dicho de Einstein, «La imaginación es más importante que el conocimiento», a menudo se interpreta como que las concepciones superan lo que es real. Sin embargo, esa no fue su intención original.

Durante una entrevista con George Sylvester Viereck para el Saturday Evening Post en 1929, Einstein discutió su creencia en intuiciones y inspiraciones. Explicó que, aunque confiaba en su teoría de la relatividad, esperaba que las expediciones científicas financiadas por la Royal Academy confirmaran sus hipótesis. Cuando se le preguntó si confiaba más en su imaginación que en su conocimiento, Einstein respondió que era lo suficientemente artista como para aprovechar su imaginación libremente. Expresó que la imaginación es más importante que el conocimiento, ya que este último es limitado, mientras que la imaginación abarca el mundo.

En resumen, Einstein destacó la importancia de la imaginación sobre el conocimiento en el contexto de confiar en su intuición científica durante una entrevista, enfatizando que su éxito se basaba en gran medida en la capacidad de visualizar posibilidades más allá de lo que el conocimiento establecido permitía.

¿Cómo utilizar ChatGPT para la investigación científica?

Morales Chan, M. (2023). ¿Cómo utilizar ChatGPT para la investigación científica?. Recuperado 4 de marzo de 2024

Texto completo

Este guía básica ha sido creado para ayudar a desbloquear el poder de ChatGPT en la investigación. Su objetivo principal es compartir sugerencias de preguntas efectivas como punto de partida. Es importante destacar que ha sido concebido como un recurso de apoyo y no pretende sustituir el juicio crítico, la experiencia y la responsabilidad inherente al investigador.

Aunque ChatGPT puede apoyar el proceso de investigación, su eficacia está directamente relacionada con la claridad y precisión de las preguntas generadas.

En este guía, encontrarás:

  • Cómo ChatGPT puede ser tu aliado en la investigación. Aprende cómo hacer que ChatGPT sea un miembro de tu equipo de investigación, siempre disponible para ayudarte a explorar, analizar y sintetizar información relevante.
  • Dominio inmediato: Estrategias para formular preguntas que generen respuestas precisas y útiles. Domina el arte de la comunicación con ChatGPT para obtener información precisa y relevante para tus investigaciones.
  • Importancia de los prompts: Entiende por qué la forma en que formulas tus preguntas es crucial para la calidad de tus respuestas.
  • +30 Ejemplos de prompts de investigación: Una colección de prompts diseñados específicamente para investigadores, para inspirarte y guiarte en la formulación de tus propias preguntas efectivas.
  • Ética y responsabilidad: Claves para integrar la IA en tu investigación, manteniendo altos estándares éticos.
  • Recomendaciones generales: Consejos prácticos para el uso correcto de ChatGPT en investigaciones, garantizando resultados eficaces y éticos.

¿Cuán confiables son los DOI? Un 3% de los enlaces DOI fallan

Crossref, «What, though, do we actually know about the state of persistence of these links?,» Crossref Blog, acceso el 3 de marzo de 2024, https://www.crossref.org/blog/what-do-we-know-about-dois/.

Crossref guarda metadatos de aproximadamente 150 millones de artefactos académicos. Estos van desde artículos de revistas revisados por pares hasta libros académicos y entradas de blog científico. De hecho, en medio de tal heterogeneidad, el único factor singular que une a estos elementos es que se les ha asignado un identificador de objeto de documento (DOI, por sus siglas en inglés); una cadena de identificación única que se puede utilizar para resolver a un recurso relacionado con dichos metadatos (a menudo, aunque no siempre, una copia del trabajo identificado por los metadatos).

Pero, ¿qué sabemos realmente sobre el estado de persistencia de estos enlaces? ¿Cuántos DOIs se resuelven correctamente? ¿Cuántas páginas de destino, al otro extremo de la resolución del DOI, contienen la información que se supone que debe estar allí, incluido el título y el propio DOI? ¿Cómo podemos averiguarlo?

Hablemos de las estadísticas de resolución. Otros estudios, que examinan los enlaces generales en la web, han encontrado una tasa de descomposición de enlaces de aproximadamente del 60% al 70% en un período de diez años (Lessig, Zittrain y Albert 2014; Stox 2022). La tasa de resolución de DOIs que tenemos, con el 97% de los enlaces resueltos (o una tasa de descomposición de enlaces del 3%), es mucho mejor y más sólida que un enlace web en general.

¿Es un 3% un número bueno o malo? Es más sólido que la web en general, pero aún significa que, de cada 100 DOIs, casi 3 no se resolverán. Además, no podemos determinar si estos DOIs se están resolviendo al objetivo correcto, excepto mediante el uso de métricas de detección de metadatos (¿están el título y el DOI en la página de destino, lo cual solo podríamos detectar a una tasa mucho más baja?). Es completamente posible que un sitio web se resuelva con una respuesta HTTP 200 (OK), pero que la página en cuestión sea algo muy diferente a lo que el usuario esperaba, un fenómeno llamado deriva de contenido. Un buen ejemplo es el secuestro de dominios, donde un nombre de dominio expira y empresas de spam los compran. Estos todavía se resuelven a una página web, pero en lugar de un artículo sobre ARN, por ejemplo, el usuario recibe anuncios de mangueras de soldadura de caucho. Dicho esto, otros estudios también son propensos a esto y no hay garantía de que la deriva de contenido no afecte a una gran proporción de enlaces supuestamente buenos en los otros estudios también.

Dimensions Research GPT: Conectando la IA y la Investigación Científica

Dimensions. «Dimensions Research GPT on ChatGPT», 28 de febrero de 2024. https://www.dimensions.ai/products/all-products/dimensions-research-gpt/.

En Dimensions Research GPT se fusiona la interfaz conversacional de ChatGPT con los vastos registros de publicaciones de Dimensions, ofreciendo respuestas rápidas y confiables a consultas de investigación. Esta combinación de tecnología de IA y datos científicos garantiza una herramienta eficiente y precisa para acceder a información relevante.

Los usuarios pueden obtener respuestas generadas por IA a preguntas relacionadas con la investigación en la plataforma GPT, informadas por la enorme base de datos de Dimensions, lo que hace que ChatGPT sea más específico para la exploración de temas de investigación.

De este modo, Dimensions Research GPT combina la interfaz conversacional de ChatGPT con los extensos registros de publicaciones de Dimensions, proporcionando respuestas rápidas y confiables para consultas de investigación. Al aprovechar la tecnología de IA y estar fundamentado en evidencia científica, ofrece a los usuarios una herramienta eficiente y confiable para acceder a información.

Esta herramienta aprovecha el extenso repositorio de publicaciones de acceso abierto de Dimensions para proporcionar a los usuarios resultados generativos respaldados por evidencia científica sólida. De esta manera, los investigadores pueden confiar en la credibilidad y la calidad de la información obtenida.

Disponible exclusivamente para usuarios de ChatGPT Plus y Enterprise, Dimensions Research GPT garantiza que una amplia gama de investigadores tenga acceso a esta valiosa herramienta. Además, ofrece referencias accesibles para todo el contenido generado, lo que permite a los usuarios validar la información y explorar más a fondo el material fuente.

Los usuarios pueden navegar fácilmente por la lista de referencias y acceder a la página de detalles de Dimensions, lo que facilita una investigación más profunda sobre el artículo fuente. Esto proporciona una experiencia de usuario intuitiva y eficiente para profundizar en los temas de interés.

Para utilizar Dimensions Research GPT, los usuarios deben tener una cuenta de ChatGPT Plus o Enterprise. Una vez iniciada sesión, pueden acceder a la herramienta a través de la tienda GPT dentro de la aplicación y comenzar a realizar preguntas relacionadas con la investigación.

Así, Dimensions Research GPT se presenta como un asistente de IA transformador para la comunidad de investigación, ofreciendo respuestas rápidas y precisas basadas en evidencia científica. Su integración de la interfaz conversacional de ChatGPT y los registros de publicaciones de Dimensions proporciona una poderosa herramienta para acceder a información confiable y avanzar en la investigación científica.

Los documentos científicos fraudulentos están comprometiendo la confiabilidad en la ciencia

McKie, Robin. «‘The Situation Has Become Appalling’: Fake Scientific Papers Push Research Credibility to Crisis Point». The Observer, 3 de febrero de 2024, sec. Science. https://www.theguardian.com/science/2024/feb/03/the-situation-has-become-appalling-fake-scientific-papers-push-research-credibility-to-crisis-point.


Los científicos están haciendo sonar la alarma sobre la publicación masiva de miles de documentos de investigación falsos en revistas, lo que constituye un creciente escándalo internacional. Esta situación está comprometiendo la investigación médica, obstaculizando el desarrollo de medicamentos y poniendo en peligro la prometedora investigación académica. Una ola global de ciencia fraudulenta está afectando gravemente a laboratorios y universidades.

El año pasado, el número anual de documentos retractados por revistas de investigación superó los 10.000 por primera vez. La mayoría de los analistas creen que la cifra es solo la punta de un iceberg de fraude científico.

«La situación se ha vuelto alarmante», dijo la profesora Dorothy Bishop de la Universidad de Oxford. «El nivel de publicación de documentos fraudulentos está creando problemas serios para la ciencia. En muchos campos, está volviéndose difícil construir un enfoque acumulativo hacia un tema, porque nos falta una base sólida de hallazgos confiables. Y va empeorando más y más».

El sorprendente aumento en la publicación de documentos de ciencia falsa tiene sus raíces en China, donde a jóvenes médicos y científicos que buscaban ascensos se les exigía haber publicado documentos científicos. Organizaciones clandestinas, conocidas como «fábricas de documentos» (Paper mills), comenzaron a suministrar trabajos fabricados para su publicación en revistas allí.

La práctica se ha extendido desde entonces a India, Irán, Rusia, estados de la antigua Unión Soviética y Europa del Este, con «fábricas de documentos» suministrando estudios fabricados a más y más revistas a medida que aumenta el número de jóvenes científicos que intentan impulsar sus carreras al reclamar una falsa experiencia de investigación. En algunos casos, los editores de revistas han sido sobornados para aceptar artículos, mientras que las «fábricas de documentos» han logrado establecer a sus propios agentes como editores invitados que luego permiten que se publiquen montones de trabajos falsificados.

«Los editores no están cumpliendo adecuadamente con sus roles y los revisores por pares no están haciendo su trabajo. Y algunos están siendo pagados grandes sumas de dinero», dijo la profesora Alison Avenell de la Universidad de Aberdeen. «Es profundamente preocupante».

Los productos de las «fábricas de documentos» a menudo parecen artículos regulares pero se basan en plantillas en las que se insertan nombres de genes o enfermedades al azar entre tablas y figuras ficticias. Preocupantemente, estos artículos pueden ser incorporados a grandes bases de datos utilizadas por aquellos que trabajan en el descubrimiento de medicamentos.

Otros son más extraños e incluyen investigaciones no relacionadas con el campo de una revista, lo que deja en claro que no se ha llevado a cabo una revisión por pares en relación con ese artículo. Un ejemplo es un documento sobre la ideología marxista que apareció en la revista Computational and Mathematical Methods in Medicine. Otros son distintivos debido al lenguaje extraño que utilizan, incluyendo referencias a «peligro del seno» en lugar de cáncer de seno y «afección de Parkinson» en lugar de enfermedad de Parkinson.

Grupos de vigilancia, como Retraction Watch, han rastreado el problema y han notado retractaciones por parte de revistas que se vieron obligadas a actuar en ocasiones cuando se descubrieron fabricaciones. Un estudio, realizado por Nature, reveló que en 2013 hubo poco más de 1.000 retractaciones. En 2022, la cifra superó los 4.000 antes de saltar a más de 10.000 el año pasado.

De los más de 10.000 documentos retractados el año pasado, más de 8,000 habían sido publicados en revistas propiedad de Hindawi, una subsidiaria de Wiley. Estas cifras han obligado a la empresa a tomar medidas drásticas. Un portavoz de Wiley anunció: «Vamos a eliminar la marca Hindawi y hemos comenzado a integrar completamente los más de 200 diarios de Hindawi en el portafolio de Wiley». Además, la compañía ha identificado a cientos de estafadores en su cartera de revistas y ha removido a aquellos que desempeñaron roles editoriales. Aunque Wiley reconoce que no puede abordar la crisis por sí sola, otras editoriales también se ven afectadas por los «paper mills». Los académicos se muestran cautelosos, ya que en muchos países son remunerados según la cantidad de artículos publicados. El daño causado por la publicación de investigaciones deficientes o falsas se evidencia con el caso del fármaco antiparasitario ivermectina, que inicialmente se creyó que podría tratar el Covid-19 pero posteriormente se descubrió evidencia clara de fraude en los estudios. Este incidente ilustra cómo la ciencia se ve afectada por el material fabricado. Los expertos advierten sobre la creciente amenaza de los «paper mills» y la investigación fraudulenta, señalando que la integridad del conocimiento científico está en peligro y que la corrupción está infiltrándose en el sistema.

El reto de la comunicación científica

Meyer, Gitte. The Science Communication Challenge : Truth and Disagreement in Democratic Knowledge Societies. Anthem Press, 2018.

Texto completo

El Desafío de la Comunicación Científica explora y debate los porqués -a diferencia de los cómos- de la comunicación científica. Argumentando que el paradigma dominante de la comunicación científica es didáctico, defiende una categoría política de la comunicación científica, destinada a fomentar los debates sobre asuntos públicos relacionados con la ciencia y a dar cabida a intercambios civilizados y razonables entre distintos puntos de vista. Como sociedades civiles y sociedades del conocimiento, las sociedades democráticas modernas se enfrentan al reto de dar cabida tanto a la lógica científica de la búsqueda de la verdad como a la lógica política clásica del pluralismo.

Sin embargo, el paradigma didáctico de la comunicación científica es inadecuado para tratar desacuerdos sustanciales. Por lo tanto, tampoco es adecuado para facilitar la comunicación sobre el creciente número de cuestiones políticas relacionadas con la ciencia. El libro explora los posibles orígenes del paradigma didáctico, relacionándolo con determinadas concepciones del conocimiento, la política y el público, y con el supuesto generalizado de que existe una dicotomía entre ciencia y política. El libro critica esta suposición y sugiere que la ciencia y la política se consideren actividades sustancialmente diferentes, adecuadas para tratar distintos tipos de cuestiones y para distintas variedades de comunicación científica.

Dirigir un equipo de investigación científica

Jansen, Ritsert C. Leading Your Research Team in Science. Cambridge University Press, 2018.

Texto completo

Esta breve y práctica guía ofrece valiosas recomendaciones, historias y ejercicios, para orientar a los lectores hacia una carrera realmente exitosa como investigador independiente en el campo de la ciencia. Una lectura obligada para los investigadores que inician su carrera, así como para quienes les asesoran y cualquier otra persona que se tome en serio la ciencia. Este título está disponible en acceso abierto a través de Cambridge Core.