Archivo de la etiqueta: Ética de la información

Cambridge University Press publica los principios de política de ética en la investigación de la IA, que prohíbe tratarla como «autora» de artículos y libros académicos.

Cambridge principles for generative AI in research publishing, Cambridge University Press, 2023

Las normas se recogen en la primera política ética de la IA de Cambridge University Press y se aplican a artículos de investigación, libros y otros trabajos académicos.

Incluyen la prohibición de que la IA sea tratada como «autora» de los artículos académicos y libros que publicamos. Esta medida aporta claridad a los académicos en medio de la preocupación por el uso erróneo o engañoso de potentes modelos lingüísticos de gran tamaño como ChatGPT en la investigación, junto con el entusiasmo por su potencial.

Mandy Hill, Directora General de Publicaciones Académicas de Cambridge, ha declarado: «La IA generativa puede abrir nuevas vías de investigación y experimentación. Los investigadores nos han pedido que les orientemos sobre su uso».

Creemos que los autores académicos, los revisores y los editores deben tener libertad para utilizar las tecnologías emergentes como consideren oportuno dentro de unas directrices adecuadas, al igual que hacen con otras herramientas de investigación».

«Al igual que nuestra comunidad académica, abordamos esta nueva tecnología con un espíritu de compromiso crítico. Al dar prioridad a la transparencia, la responsabilidad, la precisión y la originalidad, vemos tanto continuidad como cambio en el uso de la IA para la investigación.

Los principios de Cambridge para la IA generativa en la publicación de investigaciones incluyen que:

  • La IA debe declararse y explicarse claramente en publicaciones como los trabajos de investigación, al igual que hacen los académicos con otros programas informáticos, herramientas y metodologías.
  • La IA no cumple los requisitos de Cambridge sobre autoría, dada la necesidad de rendir cuentas. Las herramientas de IA y LLM no pueden figurar como autor en ningún trabajo académico publicado por Cambridge.
  • Cualquier uso de la IA no debe infringir la política de plagio de Cambridge. Los trabajos académicos deben ser propios del autor y no presentar ideas, datos, palabras u otro material de otros sin una citación adecuada y una referenciación transparente.
  • Los autores son responsables de la exactitud, integridad y originalidad de sus trabajos de investigación, incluido cualquier uso de la IA.

Ética e integridad de la investigación en el contexto del compromiso público

Europe, Science. «2022 High Level Workshop Report: Research Ethics and Integrity in the Context of Public Engagement». Science Europe, 2022

Texto completo

El taller High Level Workshop on the European Research Area 2022 se centró en la ética y la integridad cuando la ciencia se relaciona con el público, por ejemplo al asesorar a los responsables de la toma de decisiones, comunicarse con los ciudadanos o hacer que el público participe en el proceso de investigación.

En la situación actual, en la que nos enfrentamos a muchos retos diferentes, los responsables de la toma de decisiones y el público esperan que los investigadores hablen con una voz clara y ofrezcan orientación y soluciones. Al mismo tiempo, a veces se cuestiona la pertinencia, fiabilidad y responsabilidad de los conocimientos de los expertos.

El compromiso con el público se convierte en una prioridad cada vez más importante. Puede ajustar mejor las expectativas y necesidades de la sociedad a lo que la ciencia puede hacer, y permite a la ciencia responder mejor a las preocupaciones de la sociedad. El taller examinó cómo puede llevarse a cabo este compromiso con las normas éticas y de integridad más estrictas.

ChatGPT y ética de la investigación: la posición del Committee on Publication Ethics (COPE)

COPE: Committee on Publication Ethics. «Authorship and AI Tools». Accedido 16 de febrero de 2023. https://publicationethics.org/cope-position-statements/ai-author.

El uso de herramientas de inteligencia artificial (IA) como ChatGPT o Large Language Models en las publicaciones de investigación se está extendiendo rápidamente. COPE se une a organizaciones como WAME y la Red JAMA, entre otras, para afirmar que las herramientas de IA no pueden figurar como autoras de un artículo.

Las herramientas de IA no pueden cumplir los requisitos de autoría, ya que no pueden asumir la responsabilidad del trabajo presentado. Como entidades no jurídicas, no pueden afirmar la presencia o ausencia de conflictos de intereses ni gestionar los derechos de autor y los acuerdos de licencia.

Los autores que utilicen herramientas de IA en la redacción de un manuscrito, la producción de imágenes o elementos gráficos del artículo, o en la recogida y análisis de datos, deben ser transparentes al revelar en los Materiales y Métodos (o sección similar) del artículo cómo se ha utilizado la herramienta de IA y qué herramienta se ha utilizado. Los autores son plenamente responsables del contenido de su manuscrito, incluso de las partes producidas por una herramienta de IA, y por tanto son responsables de cualquier infracción de la ética de publicación.

Los creadores de ChatGPT han lanzado una herramienta para detectar texto escrito con IA

AI Text Classifier

Con las nuevas tecnologías basadas en Inteligencia artificial que están llegando al mercado, es esencial detectar si un documento es original o escrito por un chatbot de IA. AI Classifier es una herramienta de IA que distingue si una persona ha generado un texto a través de una aplicación o lo ha escrito manualmente.

AI Text Classifier es una nueva herramienta de la empresa Open AI, los mismos creadores de ChatGPT, que detecta si un pasaje de texto ha sido escrito o no con ChatGPT y herramientas de escritura de IA similares. Para utilizar AI Text Classifier es necesario registrarse para obtener una cuenta gratuita en Open AI. Una vez que tengas una cuenta, podrás utilizar AI Text Classifier. Para utilizar AI Text Classifier sólo tiene que pegar un bloque del documento a analizar (al menos 1.000 caracteres, aproximadamente 175 palabras) en el campo de texto y hacer clic en el botón de envío. AI Text Classifier clasificará el texto como muy improbable, probable, poco probable, posiblemente o probablemente escrito con una herramienta de Inteligencia artificial

Para detectar si los contenidos son escritos por un humano o un chatbot, la herramienta trabaja a partir de:

Análisis aritmético. En este enfoque, se calculan varias cifras, como la regularidad de los términos, la extensión de las frases y la construcción lingüística, a partir de una enorme cantidad de texto generado por la IA y de contenido escrito por humanos. A continuación, el clasificador de IA establece una equivalencia entre las cifras del contenido introducido y los datos de la escritura humana y la generada por la IA en el cuerpo del texto para realizar un cálculo. La herramienta se entrena de tal modo que detecta cómo un usuario ha expuesto el contenido y lo ha hecho suyo, para ello necesita actualizarse regularmente para determinar realmente si un texto está generado por IA.

Aprendizaje profundo. El sistema aprende a detectar formas en el contenido y a hacer predicciones sobre su origen basándose en estas formas y patrones. Hay formas en las que AI Text Classifier aprende por sí mismo y sigue mejorando a medida que profundiza en el contenido.

Dispersión lingüística natural. Esta táctica comprende el consumo de procedimientos como el escrutinio del sentimiento, denominado identificación de objetos, y la clasificación lingüística, para extraer datos evocadores del contenido. A continuación, el clasificador de IA utiliza estos datos para hacer una estimación aproximada sobre la fuente del contenido.

En cuanto a las limitaciones de la herramienta. AI Classifier no es fiable al 100%, ya que no puede detectar contenidos con total precisión. Hay ocasiones en las que el clasificador de IA etiquetará contenido escrito por humanos con contenido generado por IA, ya que es posible que después de que una herramienta de IA genere el texto, una persona pueda editarlo manualmente y retocarlo para que parezca escrito por un humano, lo que es difícil de detectar por la herramienta.

Bibliografía:

Greyling, Cobus. «Testing OpenAI’s New AI Text Classifier For Identifying AI-Written Content». Medium (blog), 1 de febrero de 2023. https://cobusgreyling.medium.com/testing-openais-new-ai-text-classifier-for-identifying-ai-written-content-7b2ec3c3a35.

Cubix. «How is AI Classifier Detecting AI-Generated Text», 8 de febrero de 2023. https://www.cubix.co/blog/ai-classifier-detecting-ai-generated-text.

OpenAI. «New AI Classifier for Indicating AI-Written Text», 31 de enero de 2023. https://openai.com/blog/new-ai-classifier-for-indicating-ai-written-text/.

«The Makers of ChatGPT Have Launched a Tool to Detect Text Written With AI». Accedido 13 de febrero de 2023. https://www.freetech4teachers.com/2023/02/the-makers-of-chatgpt-have-launched.html.

Letras impostoras: reflexiones sobre el plagio

Ochoa, Camilo Ayala. Letras impostoras Reflexiones sobre el plagio. Universidad Autónoma de Aguascalientes. Portal de libros de la Universidad Autónoma de Aguascalientes, 2023

Texto completo

El plagio es la forma superlativa del menosprecio. Existen autores plagiarios que confían que la revisión editorial o dictamen serán lo suficientemente laxos como para quedar impunes, también hay escritores que involuntariamente plagian; pero el proceso editorial implica la lectura, corrección, cotejo, revisión, marcaje y diseño de textos y, en este devenir, se detectan descuidos y transgresiones. En las editoriales interesadas en sus concurrencias lectoras, son varios los profesionales del libro que custodian la reputación del trayecto construido y la permanencia de la empresa. Los procesos editoriales son ejercicios de buena fe y siempre es posible que algo escape a todo un equipo editorial, pero la responsabilidad obliga a estar en guardia. La cultura editorial sólo puede tener como piso una cultura de la legalidad y, como cimiento, la probidad intelectual. Letras impostoras. Reflexiones sobre el plagio examina los tipos de plagio y plagiarios.

¿Hasta qué punto es importante el problema de la publicación depredadora?

Linacre, Simon  «Just How Important Is the Problem of Predatory Publishing?», SE 21 de noviembre de 2022.

Ver completo

El fenómeno de las publicaciones depredadoras es bien conocido gracias a la labor de Jeffrey Beall y otros que han destacado y popularizado el tema. En un nuevo libro titulado The Predator Effect (El efecto depredador), Simon Linacre se basa en su experiencia en la lucha contra las prácticas editoriales engañosas e insta al sector de las comunicaciones académicas a centrarse menos en la publicación depredadora como cuestión teórica y más en las repercusiones negativas que pueden tener las revistas depredadoras en el mundo real.

¿Qué hay en un nombre? Cuando decidí escribir un libro sobre las revistas depredadoras a principios de 2021, casi la primera decisión que tomé fue llamarlo «El efecto depredador«. Después de trabajar en el mundo de la publicación académica durante casi 20 años y de conocer el fenómeno de las publicaciones depredadoras durante la mayor parte de ese tiempo, sabía que el problema se había enredado en definiciones y discusiones sobre criterios subjetivos. Ya era hora de comprender el impacto real de las prácticas editoriales depredadoras.

Pero antes hay que abordar la definición de lo que significa realmente la publicación depredadora. Aquí es donde ha surgido parte de la controversia en torno a la publicación predatoria en el pasado, por un par de razones. En primer lugar, cuando Jeffrey Beall acuñó la frase en 2010, no la definió realmente como tal, sino que se limitó a destacar la estafa que suponen las revistas que piden a los autores que paguen una tasa de procesamiento de artículos (APC) por una publicación de calidad inferior. Utilizó el término «editoriales académicas de acceso abierto depredadoras potenciales, posibles o probables» en su sitio web, ya desaparecido, que contenía la «Lista de Beall«, pero esta descripción circular tampoco es realmente útil.

Un intento más exitoso de definir las prácticas depredadoras fue realizado en 2019 por Grudniewicz et al. como

«entidades que priorizan el interés propio a expensas de la erudición y se caracterizan por la información falsa o engañosa, la desviación de las mejores prácticas editoriales y de publicación, la falta de transparencia y/o el uso de prácticas de solicitud agresivas e indiscriminadas.»

Esta definición llevó al profesor Björn Brembs a la conclusión de que la mayor editorial del mundo, Elsevier, también podría definirse como editorial depredadora.

El problema de las revistas depredadoras ha sido igualmente descartado en el pasado, alegando que algunos estudios sobre la publicación depredadora han sido defectuosos, que hay peces más grandes que pescar en las prácticas de publicación académica y que la educación de los autores proporcionaría una respuesta. Sin embargo, el problema persiste, ya que más de 16.000 revistas figuran en la base de datos de informes sobre prácticas predatorias de Cabells, y la educación todavía tiene que avanzar, como demuestra el reciente estudio realizado en la India, según el cual el 41% de los autores académicos encuestados no conocían las revistas predatorias.

Definir o medir el problema es intrínsecamente difícil, dada la naturaleza turbia de las prácticas editoriales depredadoras, y esto ha llevado a otros a concluir que es mejor comprender el espectro de actividades que abarca la publicación depredadora, en lugar de obsesionarse con las definiciones. Pero la comunidad académica y otras partes interesadas en las comunicaciones académicas necesitarán más claridad para evitar con éxito tanto la publicación como la lectura de contenidos de revistas depredadoras.

Una parte interesada que evidentemente sí crees que las revistas depredadoras son un problema importante es la Comisión Federal de Comercio de los Estados Unidos, que en 2019 determinó que la editorial OMICS International era culpable de defraudar a los autores que pagaban por publicar artículos en cientos de sus revistas, emitiendo una multa de algo más de 50 millones de dólares. El hecho de que esto represente un pequeño porcentaje de todos los APCs que han sido pagados a lo largo de los años por los autores a las editoriales depredadoras – a cambio de un pdf en un sitio web que casi nadie encontrará y aún menos leerá o citará – esto en sí mismo sugiere que el impacto de las revistas depredadoras ha visto al menos millones de dólares del dinero de los financiadores, las universidades y los autores ser desperdiciados.

El problema también ha provocado un sesgo en el comportamiento académico, especialmente cuando las revistas depredadoras se han colado en las listas oficiales de revistas en las que se anima a los autores a publicar. Si a esto se añaden los problemas personales de los autores que caen involuntariamente en las trampas de las editoriales depredadoras –que ahora se extienden a los libros, las conferencias y los eventos virtuales-, es innegable que el impacto del comportamiento depredador repercute en el mundo académico y en la difusión del conocimiento.

Sin embargo, quizá el verdadero «efecto depredador» sea el riesgo al que se expone la sociedad en general cuando las revistas que pretenden ser académicas y revisadas por pares presentan en cambio artículos que no han sido validados y contienen desinformación o «ciencia basura». En un estudio aún no publicado sobre una serie de revistas depredadoras que habían publicado artículos relacionados con el COVID-19, se descubrió que:

  • La mayoría de los artículos informaban sobre métodos preventivos para controlar la infección por COVID, modelos para predecir la propagación de la infección o medicamentos y vacunas para prevenir la propagación del virus o tratamientos para el COVID-19
  • También se encontraron estudios que informaban del uso exitoso de hidroxicloroquina, cloroquina, ivermectina y tratamientos como la terapia de plasma de convalecencia, u otras terapias medicinales complementarias sin ensayos clínicos y con tamaños de muestra pequeños
  • En un breve plazo de tiempo, el 85% de los artículos depredadores que investigamos recibieron al menos una sola cita, lo que es mucho más elevado de lo que habían mostrado estudios anteriores.

Se han puesto de manifiesto problemas similares en los casos en los que se ha publicado la experimentación con personas y animales sin ninguno de los controles de integridad habituales de los que se informa. Es en esta área donde el impacto de la publicación depredadora es quizás más claro, con artículos publicados en revistas depredadoras que también impulsan afirmaciones de teoría de la conspiración como que las antenas 5G causan que la gente se contagie de COVID -19. Estos pueden ser leídos, informados y amplificados por los medios de comunicación, contribuyendo significativamente a la «infodemia» de los últimos tiempos. Por lo tanto, aunque el problema de la publicación depredadora a menudo puede parecer remoto o difícil de cuantificar, el efecto de las prácticas depredadoras puede ser muy real.

El efecto depredador: comprender el pasado, el presente y el futuro del engaño

Linacre, Simon. The Predator Effect: Understanding the Past, Present and Future of Deceptive Academic Journals. Against the Grain (Media), LLC, 2022.

Texto completo

ePub

PDF

Las revistas depredadoras -incluso el término es controvertido- han sido un problema molesto durante muchos años, y ciertamente han sido objeto de cobertura en Retraction Watch y en otros lugares. Nos complace presentar un extracto de un nuevo libro, The Predator Effect: Understanding the Past, Present and Future of Deceptive Academic Journals (El efecto depredador: comprender el pasado, el presente y el futuro de las revistas académicas engañosas), escrito por el veterano observador de la industria editorial Simon Linacre. Las citas del texto se encuentran en el libro, que está disponible en acceso abierto.

Los problemas a los que se enfrentan los autores con respecto a las revistas depredadoras pueden resumirse con la situación de un académico que este autor conoció en Kuwait a mediados de la década de 2010. Presionado por su institución para que publicara en revistas en inglés, presentó, pagó y publicó un artículo en una revista que posteriormente descubrió que era depredadora. Presa del pánico, preguntó a su superior qué debía hacer, y el comprensivo académico superior le aconsejó que volviera a publicar el artículo en una revista diferente y de mayor reputación.

La confianza en la investigación: los investigadores en el punto de mira

Confidence in research: researchers in the spotlight. Elsevier, 2022

Texto completo

La pandemia demostró lo importante que es la investigación de calidad para afrontar los retos mundiales y encontrar soluciones que beneficien a la gente de todo el mundo. Aceleró la práctica de la ciencia y los avances, con datos compartidos de forma abierta y rápida, ya que los investigadores colaboraron a través de las fronteras, los sectores y las disciplinas. Ya sea un científico, un profesional sanitario, un responsable político, un regulador o un editor, todos estábamos unidos en torno a un objetivo: salvar vidas. La ciencia se convirtió en el tema que a todo el mundo le interesaba y sobre el que quería leer y comentar.

Por un lado, estos cambios suponen una oportunidad para la comunidad investigadora. Los investigadores pueden participar más fácilmente y compartir sus conocimientos con un grupo más amplio de personas, lo que ayuda a aumentar la comprensión, crear oportunidades de colaboración y estimular el progreso.

Por otro lado, estas tendencias aceleradas suponen un reto. La investigación se crea en mayor cantidad y más rápido que nunca, lo que dificulta la identificación de la información tanto para los investigadores como para el público.

El estudio de  Confidence in research: researchers in the spotlight, apoyado por Elsevier, encuestó a más de 3.000 investigadores de todo el mundo, de diferentes etapas profesionales y disciplinas académicas, para conocer sus experiencias, su propia confianza en el proceso de investigación, y qué habilidades, apoyo o estructuras de incentivos necesitan en este entorno cada vez más complejo y de cara al público.

He aquí algunas de las conclusiones de la investigación:

  • Casi dos tercios de los investigadores científicos encuestados (63%) creen que la pandemia ha aumentado la atención del público sobre la investigación. Pero sólo el 38% cree que una mejor comprensión pública de la investigación será un legado de la pandemia.
  • La mitad de los investigadores encuestados (51%) dicen que sienten la responsabilidad de participar en el debate en línea, y más de dos tercios (68%) creen que la pandemia ha aumentado la importancia de separar la investigación de calidad de la desinformación. Casi una cuarta parte de los encuestados (23%) considera ahora que contrarrestar públicamente la desinformación es una de sus principales funciones en la sociedad.
  • Ser publicado en una revista revisada por pares es el marcador más importante de fiabilidad, según el 74% de los investigadores encuestados. El estudio también revela que más de la mitad de los investigadores (52%) considera que la pandemia ha aumentado la importancia de publicar la investigación con antelación, antes de la revisión por pares.
  • Más de la mitad de los encuestados expresan su preocupación por los retos de la simplificación excesiva (52%) y la politización de la investigación (56%) como resultado de la mayor atención pública sobre la investigación y el proceso de investigación.
  • Casi un tercio (32%) de los encuestados ha sufrido, o conoce a un colega cercano que ha sufrido, abusos tras publicar una investigación en línea.

Entonces, ¿qué creen los expertos consultados que se necesita para hacer frente a estos retos y presiones? El informe The Economist Impact resume las recomendaciones prácticas para apoyar a la comunidad investigadora y aumentar la confianza en la investigación:

  • Formación formal en materia de comunicación para dotar a los investigadores de las herramientas y la orientación necesarias para comunicarse de forma ética, eficaz y con confianza, e incentivar las habilidades de comunicación sólidas como parte del desarrollo de la carrera.
  • Elaborando códigos de conducta claros y orientaciones sobre cómo gestionar la interacción en línea.
  • Incorporando las estructuras adecuadas de incentivos y recompensas para garantizar que las contribuciones de los investigadores a la promoción de la confianza en la ciencia reciban el reconocimiento adecuado, en particular su papel en la enseñanza, el compromiso público y la participación en el proceso de revisión por pares.
  • Proporcionando incentivos financieros para que los investigadores colaboren en equipos más grandes y faciliten ensayos y estudios de calidad por encima de la cantidad.
  • Dirigiendo la financiación de la investigación a los países y comunidades de investigación que más la necesitan.
  • Adoptando resúmenes más digeribles y formatos de fácil uso para que los responsables políticos, los periodistas o el público en general puedan comprender e identificar mejor la investigación de calidad.
  • Dar prioridad a la coherencia del gasto en I+D para garantizar que los investigadores puedan planificar adecuadamente sus necesidades de investigación, personal e infraestructuras.

El estado de la confianza y la integridad en la investigación

The State of Trust & Integrity in Research. Ripeta, 2022

Texto completo

Este informe ha puesto de manifiesto el importante y decisivo papel que desempeñan los organismos de financiación y otras partes interesadas en la investigación para mejorar la integridad de la misma. En la primera sección, los expertos proporcionan el contexto y un ejemplo de una agencia de financiación sobre las políticas de toda la organización para mejorar la integridad de la investigación.

La segunda sección del informe presenta un panorama más amplio de las políticas de datos y ciencia abierta en todo el mundo, junto con un análisis de cómo se ponen en práctica estas políticas. Por último, presentamos un estudio de caso y un análisis de las prácticas y políticas de una agencia de financiación para la investigación abierta como lente para evaluar el impacto.

En conjunto, estos artículos ejemplifican la necesidad de un enfoque más coordinado entre las agencias de financiación y otras partes interesadas en las comunicaciones científicas y en el flujo de trabajo de la investigación para abordar de forma integral la integridad de la investigación. En el centro de estos esfuerzos de coordinación debería estar el enfoque en los incentivos para los investigadores y las instituciones para el cumplimiento y para la formación y la educación.

La mala conducta en la investigación en los campos de la ética y la filosofía: percepciones de los investigadores en España

Percepción de la mala conducta investigadora en la publicación entre el profesorado universitario español y los investigadores del ámbito de la filosofía y la ética

Feenstra, R.A., López-Cózar, E.D. & Pallarés-Domínguez, D. Correction to: Research Misconduct in the Fields of Ethics and Philosophy: Researchers’ Perceptions in SpainSci Eng Ethics 27, 33 (2021).

Texto completo

Los estudios empíricos han revelado una preocupante prevalencia de la mala conducta investigadora en una amplia variedad de disciplinas, aunque no, hasta la fecha, en las áreas de ética y filosofía. Este estudio pretende aportar evidencias empíricas sobre la percepción de la gravedad del problema de la mala conducta investigadora en estas dos disciplinas en España, en particular en lo que se refiere a los efectos que el modelo utilizado para evaluar el rendimiento investigador de los académicos puede tener sobre su comportamiento ético.

La triangulación metodológica aplicada en el estudio combina un cuestionario, un debate en la reunión anual de la asociación científica y entrevistas en profundidad. De los 541 cuestionarios enviados, se obtuvieron 201 respuestas (37,1% del total de la muestra), con una diferencia significativa en la participación de los investigadores de filosofía (30,5%) y de ética (52,8%); en el debate participaron 26 investigadores y se realizaron 14 entrevistas. Los resultados del cuestionario revelan que el 91,5% de los encuestados considera que la mala conducta en la investigación va en aumento; el 63,2% considera que al menos tres de las prácticas fraudulentas mencionadas en el estudio son habituales, y el 84,1% identificó dos o más prácticas de este tipo.

Los investigadores percibieron una alta prevalencia de la publicación duplicada (66,5%) y del autoplagio (59,0%), del uso de la influencia personal (57,5%) y de la manipulación de citas (44,0%), en contraste con una baja incidencia percibida de la falsificación o fabricación de datos (10,0%). El debate y las entrevistas corroboraron estos datos. Los investigadores asociaron la difusión de estas faltas con el modelo de evaluación de la investigación aplicado en España.