Archivo de la etiqueta: Ética de la información

Comprender la ética y la seguridad de la inteligencia artificial

Leslie, D. (2019). Understanding artificial intelligence ethics and safety: A guide for the responsible design and implementation of AI systems in the public sector. The Alan Turing Institute. https://doi.org/10.5281/zenodo.3240529

Texto completo

Comprender la ética y la seguridad de la inteligencia artificial
Una guía sobre la ética de la IA, que incluye el diseño y la implantación responsables de sistemas de IA en el sector público.

 

La convergencia de la disponibilidad cada vez mayor de macrodatos, la velocidad y la extensión de las plataformas de computación en la nube y el avance de algoritmos de aprendizaje automático cada vez más sofisticados han dado paso a una época extraordinaria para la humanidad.

Las innovaciones en IA ya están dejando huella en la administración pública, al mejorar la provisión de bienes y servicios sociales esenciales, desde la sanidad, la educación y el transporte hasta el suministro de alimentos, la energía y la gestión medioambiental. Es probable que estas recompensas sean sólo el principio.

La perspectiva de que los avances en IA ayuden a las administraciones públicas a afrontar algunos de sus retos más urgentes es apasionante, pero también suscita legítimas preocupaciones. Como ocurre con cualquier tecnología nueva y en rápida evolución, una curva de aprendizaje pronunciada significa que se cometerán errores y errores de cálculo y que se producirán efectos nocivos e imprevistos.

ChatGPT y una nueva realidad académica: los trabajos de investigación escritos con Inteligencia Artificial y la ética en la publicación

Lund, Brady D., Ting Wang, Nishith Reddy Mannuru, Bing Nie, Somipam Shimray, y Ziang Wang. «ChatGPT and a New Academic Reality: Artificial Intelligence-Written Research Papers and the Ethics of the Large Language Models in Scholarly Publishing». Journal of the Association for Information Science and Technology n/a, n.o n/a. Accedido 20 de marzo de 2023. https://doi.org/10.1002/asi.24750.

Texto completo

En este artículo se analiza ChatGPT de OpenAI, un transformador generativo preentrenado que utiliza el procesamiento del lenguaje natural para satisfacer las peticiones de texto de los usuarios (es decir, un «chatbot»). Se analizan la historia y los principios en los que se basan ChatGPT y otros modelos similares. A continuación, se analiza el impacto potencial de esta tecnología en el mundo académico y en la investigación y publicación académicas. ChatGPT se considera un modelo potencial para la preparación automatizada de ensayos y otros tipos de manuscritos académicos. Los posibles problemas éticos que podrían surgir con la aparición de grandes modelos lingüísticos como GPT-3, la tecnología subyacente detrás de ChatGPT y su uso por académicos e investigadores, se discuten y se sitúan en el contexto de avances más amplios en inteligencia artificial, aprendizaje automático y procesamiento del lenguaje natural para la investigación y la publicación académica.

Cambridge University Press publica los principios de política de ética en la investigación de la IA, que prohíbe tratarla como «autora» de artículos y libros académicos.

Cambridge principles for generative AI in research publishing, Cambridge University Press, 2023

Las normas se recogen en la primera política ética de la IA de Cambridge University Press y se aplican a artículos de investigación, libros y otros trabajos académicos.

Incluyen la prohibición de que la IA sea tratada como «autora» de los artículos académicos y libros que publicamos. Esta medida aporta claridad a los académicos en medio de la preocupación por el uso erróneo o engañoso de potentes modelos lingüísticos de gran tamaño como ChatGPT en la investigación, junto con el entusiasmo por su potencial.

Mandy Hill, Directora General de Publicaciones Académicas de Cambridge, ha declarado: «La IA generativa puede abrir nuevas vías de investigación y experimentación. Los investigadores nos han pedido que les orientemos sobre su uso».

Creemos que los autores académicos, los revisores y los editores deben tener libertad para utilizar las tecnologías emergentes como consideren oportuno dentro de unas directrices adecuadas, al igual que hacen con otras herramientas de investigación».

«Al igual que nuestra comunidad académica, abordamos esta nueva tecnología con un espíritu de compromiso crítico. Al dar prioridad a la transparencia, la responsabilidad, la precisión y la originalidad, vemos tanto continuidad como cambio en el uso de la IA para la investigación.

Los principios de Cambridge para la IA generativa en la publicación de investigaciones incluyen que:

  • La IA debe declararse y explicarse claramente en publicaciones como los trabajos de investigación, al igual que hacen los académicos con otros programas informáticos, herramientas y metodologías.
  • La IA no cumple los requisitos de Cambridge sobre autoría, dada la necesidad de rendir cuentas. Las herramientas de IA y LLM no pueden figurar como autor en ningún trabajo académico publicado por Cambridge.
  • Cualquier uso de la IA no debe infringir la política de plagio de Cambridge. Los trabajos académicos deben ser propios del autor y no presentar ideas, datos, palabras u otro material de otros sin una citación adecuada y una referenciación transparente.
  • Los autores son responsables de la exactitud, integridad y originalidad de sus trabajos de investigación, incluido cualquier uso de la IA.

Ética e integridad de la investigación en el contexto del compromiso público

Europe, Science. «2022 High Level Workshop Report: Research Ethics and Integrity in the Context of Public Engagement». Science Europe, 2022

Texto completo

El taller High Level Workshop on the European Research Area 2022 se centró en la ética y la integridad cuando la ciencia se relaciona con el público, por ejemplo al asesorar a los responsables de la toma de decisiones, comunicarse con los ciudadanos o hacer que el público participe en el proceso de investigación.

En la situación actual, en la que nos enfrentamos a muchos retos diferentes, los responsables de la toma de decisiones y el público esperan que los investigadores hablen con una voz clara y ofrezcan orientación y soluciones. Al mismo tiempo, a veces se cuestiona la pertinencia, fiabilidad y responsabilidad de los conocimientos de los expertos.

El compromiso con el público se convierte en una prioridad cada vez más importante. Puede ajustar mejor las expectativas y necesidades de la sociedad a lo que la ciencia puede hacer, y permite a la ciencia responder mejor a las preocupaciones de la sociedad. El taller examinó cómo puede llevarse a cabo este compromiso con las normas éticas y de integridad más estrictas.

ChatGPT y ética de la investigación: la posición del Committee on Publication Ethics (COPE)

COPE: Committee on Publication Ethics. «Authorship and AI Tools». Accedido 16 de febrero de 2023. https://publicationethics.org/cope-position-statements/ai-author.

El uso de herramientas de inteligencia artificial (IA) como ChatGPT o Large Language Models en las publicaciones de investigación se está extendiendo rápidamente. COPE se une a organizaciones como WAME y la Red JAMA, entre otras, para afirmar que las herramientas de IA no pueden figurar como autoras de un artículo.

Las herramientas de IA no pueden cumplir los requisitos de autoría, ya que no pueden asumir la responsabilidad del trabajo presentado. Como entidades no jurídicas, no pueden afirmar la presencia o ausencia de conflictos de intereses ni gestionar los derechos de autor y los acuerdos de licencia.

Los autores que utilicen herramientas de IA en la redacción de un manuscrito, la producción de imágenes o elementos gráficos del artículo, o en la recogida y análisis de datos, deben ser transparentes al revelar en los Materiales y Métodos (o sección similar) del artículo cómo se ha utilizado la herramienta de IA y qué herramienta se ha utilizado. Los autores son plenamente responsables del contenido de su manuscrito, incluso de las partes producidas por una herramienta de IA, y por tanto son responsables de cualquier infracción de la ética de publicación.

Los creadores de ChatGPT han lanzado una herramienta para detectar texto escrito con IA

AI Text Classifier

Con las nuevas tecnologías basadas en Inteligencia artificial que están llegando al mercado, es esencial detectar si un documento es original o escrito por un chatbot de IA. AI Classifier es una herramienta de IA que distingue si una persona ha generado un texto a través de una aplicación o lo ha escrito manualmente.

AI Text Classifier es una nueva herramienta de la empresa Open AI, los mismos creadores de ChatGPT, que detecta si un pasaje de texto ha sido escrito o no con ChatGPT y herramientas de escritura de IA similares. Para utilizar AI Text Classifier es necesario registrarse para obtener una cuenta gratuita en Open AI. Una vez que tengas una cuenta, podrás utilizar AI Text Classifier. Para utilizar AI Text Classifier sólo tiene que pegar un bloque del documento a analizar (al menos 1.000 caracteres, aproximadamente 175 palabras) en el campo de texto y hacer clic en el botón de envío. AI Text Classifier clasificará el texto como muy improbable, probable, poco probable, posiblemente o probablemente escrito con una herramienta de Inteligencia artificial

Para detectar si los contenidos son escritos por un humano o un chatbot, la herramienta trabaja a partir de:

Análisis aritmético. En este enfoque, se calculan varias cifras, como la regularidad de los términos, la extensión de las frases y la construcción lingüística, a partir de una enorme cantidad de texto generado por la IA y de contenido escrito por humanos. A continuación, el clasificador de IA establece una equivalencia entre las cifras del contenido introducido y los datos de la escritura humana y la generada por la IA en el cuerpo del texto para realizar un cálculo. La herramienta se entrena de tal modo que detecta cómo un usuario ha expuesto el contenido y lo ha hecho suyo, para ello necesita actualizarse regularmente para determinar realmente si un texto está generado por IA.

Aprendizaje profundo. El sistema aprende a detectar formas en el contenido y a hacer predicciones sobre su origen basándose en estas formas y patrones. Hay formas en las que AI Text Classifier aprende por sí mismo y sigue mejorando a medida que profundiza en el contenido.

Dispersión lingüística natural. Esta táctica comprende el consumo de procedimientos como el escrutinio del sentimiento, denominado identificación de objetos, y la clasificación lingüística, para extraer datos evocadores del contenido. A continuación, el clasificador de IA utiliza estos datos para hacer una estimación aproximada sobre la fuente del contenido.

En cuanto a las limitaciones de la herramienta. AI Classifier no es fiable al 100%, ya que no puede detectar contenidos con total precisión. Hay ocasiones en las que el clasificador de IA etiquetará contenido escrito por humanos con contenido generado por IA, ya que es posible que después de que una herramienta de IA genere el texto, una persona pueda editarlo manualmente y retocarlo para que parezca escrito por un humano, lo que es difícil de detectar por la herramienta.

Bibliografía:

Greyling, Cobus. «Testing OpenAI’s New AI Text Classifier For Identifying AI-Written Content». Medium (blog), 1 de febrero de 2023. https://cobusgreyling.medium.com/testing-openais-new-ai-text-classifier-for-identifying-ai-written-content-7b2ec3c3a35.

Cubix. «How is AI Classifier Detecting AI-Generated Text», 8 de febrero de 2023. https://www.cubix.co/blog/ai-classifier-detecting-ai-generated-text.

OpenAI. «New AI Classifier for Indicating AI-Written Text», 31 de enero de 2023. https://openai.com/blog/new-ai-classifier-for-indicating-ai-written-text/.

«The Makers of ChatGPT Have Launched a Tool to Detect Text Written With AI». Accedido 13 de febrero de 2023. https://www.freetech4teachers.com/2023/02/the-makers-of-chatgpt-have-launched.html.

Letras impostoras: reflexiones sobre el plagio

Ochoa, Camilo Ayala. Letras impostoras Reflexiones sobre el plagio. Universidad Autónoma de Aguascalientes. Portal de libros de la Universidad Autónoma de Aguascalientes, 2023

Texto completo

El plagio es la forma superlativa del menosprecio. Existen autores plagiarios que confían que la revisión editorial o dictamen serán lo suficientemente laxos como para quedar impunes, también hay escritores que involuntariamente plagian; pero el proceso editorial implica la lectura, corrección, cotejo, revisión, marcaje y diseño de textos y, en este devenir, se detectan descuidos y transgresiones. En las editoriales interesadas en sus concurrencias lectoras, son varios los profesionales del libro que custodian la reputación del trayecto construido y la permanencia de la empresa. Los procesos editoriales son ejercicios de buena fe y siempre es posible que algo escape a todo un equipo editorial, pero la responsabilidad obliga a estar en guardia. La cultura editorial sólo puede tener como piso una cultura de la legalidad y, como cimiento, la probidad intelectual. Letras impostoras. Reflexiones sobre el plagio examina los tipos de plagio y plagiarios.

¿Hasta qué punto es importante el problema de la publicación depredadora?

Linacre, Simon  «Just How Important Is the Problem of Predatory Publishing?», SE 21 de noviembre de 2022.

Ver completo

El fenómeno de las publicaciones depredadoras es bien conocido gracias a la labor de Jeffrey Beall y otros que han destacado y popularizado el tema. En un nuevo libro titulado The Predator Effect (El efecto depredador), Simon Linacre se basa en su experiencia en la lucha contra las prácticas editoriales engañosas e insta al sector de las comunicaciones académicas a centrarse menos en la publicación depredadora como cuestión teórica y más en las repercusiones negativas que pueden tener las revistas depredadoras en el mundo real.

¿Qué hay en un nombre? Cuando decidí escribir un libro sobre las revistas depredadoras a principios de 2021, casi la primera decisión que tomé fue llamarlo «El efecto depredador«. Después de trabajar en el mundo de la publicación académica durante casi 20 años y de conocer el fenómeno de las publicaciones depredadoras durante la mayor parte de ese tiempo, sabía que el problema se había enredado en definiciones y discusiones sobre criterios subjetivos. Ya era hora de comprender el impacto real de las prácticas editoriales depredadoras.

Pero antes hay que abordar la definición de lo que significa realmente la publicación depredadora. Aquí es donde ha surgido parte de la controversia en torno a la publicación predatoria en el pasado, por un par de razones. En primer lugar, cuando Jeffrey Beall acuñó la frase en 2010, no la definió realmente como tal, sino que se limitó a destacar la estafa que suponen las revistas que piden a los autores que paguen una tasa de procesamiento de artículos (APC) por una publicación de calidad inferior. Utilizó el término «editoriales académicas de acceso abierto depredadoras potenciales, posibles o probables» en su sitio web, ya desaparecido, que contenía la «Lista de Beall«, pero esta descripción circular tampoco es realmente útil.

Un intento más exitoso de definir las prácticas depredadoras fue realizado en 2019 por Grudniewicz et al. como

«entidades que priorizan el interés propio a expensas de la erudición y se caracterizan por la información falsa o engañosa, la desviación de las mejores prácticas editoriales y de publicación, la falta de transparencia y/o el uso de prácticas de solicitud agresivas e indiscriminadas.»

Esta definición llevó al profesor Björn Brembs a la conclusión de que la mayor editorial del mundo, Elsevier, también podría definirse como editorial depredadora.

El problema de las revistas depredadoras ha sido igualmente descartado en el pasado, alegando que algunos estudios sobre la publicación depredadora han sido defectuosos, que hay peces más grandes que pescar en las prácticas de publicación académica y que la educación de los autores proporcionaría una respuesta. Sin embargo, el problema persiste, ya que más de 16.000 revistas figuran en la base de datos de informes sobre prácticas predatorias de Cabells, y la educación todavía tiene que avanzar, como demuestra el reciente estudio realizado en la India, según el cual el 41% de los autores académicos encuestados no conocían las revistas predatorias.

Definir o medir el problema es intrínsecamente difícil, dada la naturaleza turbia de las prácticas editoriales depredadoras, y esto ha llevado a otros a concluir que es mejor comprender el espectro de actividades que abarca la publicación depredadora, en lugar de obsesionarse con las definiciones. Pero la comunidad académica y otras partes interesadas en las comunicaciones académicas necesitarán más claridad para evitar con éxito tanto la publicación como la lectura de contenidos de revistas depredadoras.

Una parte interesada que evidentemente sí crees que las revistas depredadoras son un problema importante es la Comisión Federal de Comercio de los Estados Unidos, que en 2019 determinó que la editorial OMICS International era culpable de defraudar a los autores que pagaban por publicar artículos en cientos de sus revistas, emitiendo una multa de algo más de 50 millones de dólares. El hecho de que esto represente un pequeño porcentaje de todos los APCs que han sido pagados a lo largo de los años por los autores a las editoriales depredadoras – a cambio de un pdf en un sitio web que casi nadie encontrará y aún menos leerá o citará – esto en sí mismo sugiere que el impacto de las revistas depredadoras ha visto al menos millones de dólares del dinero de los financiadores, las universidades y los autores ser desperdiciados.

El problema también ha provocado un sesgo en el comportamiento académico, especialmente cuando las revistas depredadoras se han colado en las listas oficiales de revistas en las que se anima a los autores a publicar. Si a esto se añaden los problemas personales de los autores que caen involuntariamente en las trampas de las editoriales depredadoras –que ahora se extienden a los libros, las conferencias y los eventos virtuales-, es innegable que el impacto del comportamiento depredador repercute en el mundo académico y en la difusión del conocimiento.

Sin embargo, quizá el verdadero «efecto depredador» sea el riesgo al que se expone la sociedad en general cuando las revistas que pretenden ser académicas y revisadas por pares presentan en cambio artículos que no han sido validados y contienen desinformación o «ciencia basura». En un estudio aún no publicado sobre una serie de revistas depredadoras que habían publicado artículos relacionados con el COVID-19, se descubrió que:

  • La mayoría de los artículos informaban sobre métodos preventivos para controlar la infección por COVID, modelos para predecir la propagación de la infección o medicamentos y vacunas para prevenir la propagación del virus o tratamientos para el COVID-19
  • También se encontraron estudios que informaban del uso exitoso de hidroxicloroquina, cloroquina, ivermectina y tratamientos como la terapia de plasma de convalecencia, u otras terapias medicinales complementarias sin ensayos clínicos y con tamaños de muestra pequeños
  • En un breve plazo de tiempo, el 85% de los artículos depredadores que investigamos recibieron al menos una sola cita, lo que es mucho más elevado de lo que habían mostrado estudios anteriores.

Se han puesto de manifiesto problemas similares en los casos en los que se ha publicado la experimentación con personas y animales sin ninguno de los controles de integridad habituales de los que se informa. Es en esta área donde el impacto de la publicación depredadora es quizás más claro, con artículos publicados en revistas depredadoras que también impulsan afirmaciones de teoría de la conspiración como que las antenas 5G causan que la gente se contagie de COVID -19. Estos pueden ser leídos, informados y amplificados por los medios de comunicación, contribuyendo significativamente a la «infodemia» de los últimos tiempos. Por lo tanto, aunque el problema de la publicación depredadora a menudo puede parecer remoto o difícil de cuantificar, el efecto de las prácticas depredadoras puede ser muy real.

El efecto depredador: comprender el pasado, el presente y el futuro del engaño

Linacre, Simon. The Predator Effect: Understanding the Past, Present and Future of Deceptive Academic Journals. Against the Grain (Media), LLC, 2022.

Texto completo

ePub

PDF

Las revistas depredadoras -incluso el término es controvertido- han sido un problema molesto durante muchos años, y ciertamente han sido objeto de cobertura en Retraction Watch y en otros lugares. Nos complace presentar un extracto de un nuevo libro, The Predator Effect: Understanding the Past, Present and Future of Deceptive Academic Journals (El efecto depredador: comprender el pasado, el presente y el futuro de las revistas académicas engañosas), escrito por el veterano observador de la industria editorial Simon Linacre. Las citas del texto se encuentran en el libro, que está disponible en acceso abierto.

Los problemas a los que se enfrentan los autores con respecto a las revistas depredadoras pueden resumirse con la situación de un académico que este autor conoció en Kuwait a mediados de la década de 2010. Presionado por su institución para que publicara en revistas en inglés, presentó, pagó y publicó un artículo en una revista que posteriormente descubrió que era depredadora. Presa del pánico, preguntó a su superior qué debía hacer, y el comprensivo académico superior le aconsejó que volviera a publicar el artículo en una revista diferente y de mayor reputación.

La confianza en la investigación: los investigadores en el punto de mira

Confidence in research: researchers in the spotlight. Elsevier, 2022

Texto completo

La pandemia demostró lo importante que es la investigación de calidad para afrontar los retos mundiales y encontrar soluciones que beneficien a la gente de todo el mundo. Aceleró la práctica de la ciencia y los avances, con datos compartidos de forma abierta y rápida, ya que los investigadores colaboraron a través de las fronteras, los sectores y las disciplinas. Ya sea un científico, un profesional sanitario, un responsable político, un regulador o un editor, todos estábamos unidos en torno a un objetivo: salvar vidas. La ciencia se convirtió en el tema que a todo el mundo le interesaba y sobre el que quería leer y comentar.

Por un lado, estos cambios suponen una oportunidad para la comunidad investigadora. Los investigadores pueden participar más fácilmente y compartir sus conocimientos con un grupo más amplio de personas, lo que ayuda a aumentar la comprensión, crear oportunidades de colaboración y estimular el progreso.

Por otro lado, estas tendencias aceleradas suponen un reto. La investigación se crea en mayor cantidad y más rápido que nunca, lo que dificulta la identificación de la información tanto para los investigadores como para el público.

El estudio de  Confidence in research: researchers in the spotlight, apoyado por Elsevier, encuestó a más de 3.000 investigadores de todo el mundo, de diferentes etapas profesionales y disciplinas académicas, para conocer sus experiencias, su propia confianza en el proceso de investigación, y qué habilidades, apoyo o estructuras de incentivos necesitan en este entorno cada vez más complejo y de cara al público.

He aquí algunas de las conclusiones de la investigación:

  • Casi dos tercios de los investigadores científicos encuestados (63%) creen que la pandemia ha aumentado la atención del público sobre la investigación. Pero sólo el 38% cree que una mejor comprensión pública de la investigación será un legado de la pandemia.
  • La mitad de los investigadores encuestados (51%) dicen que sienten la responsabilidad de participar en el debate en línea, y más de dos tercios (68%) creen que la pandemia ha aumentado la importancia de separar la investigación de calidad de la desinformación. Casi una cuarta parte de los encuestados (23%) considera ahora que contrarrestar públicamente la desinformación es una de sus principales funciones en la sociedad.
  • Ser publicado en una revista revisada por pares es el marcador más importante de fiabilidad, según el 74% de los investigadores encuestados. El estudio también revela que más de la mitad de los investigadores (52%) considera que la pandemia ha aumentado la importancia de publicar la investigación con antelación, antes de la revisión por pares.
  • Más de la mitad de los encuestados expresan su preocupación por los retos de la simplificación excesiva (52%) y la politización de la investigación (56%) como resultado de la mayor atención pública sobre la investigación y el proceso de investigación.
  • Casi un tercio (32%) de los encuestados ha sufrido, o conoce a un colega cercano que ha sufrido, abusos tras publicar una investigación en línea.

Entonces, ¿qué creen los expertos consultados que se necesita para hacer frente a estos retos y presiones? El informe The Economist Impact resume las recomendaciones prácticas para apoyar a la comunidad investigadora y aumentar la confianza en la investigación:

  • Formación formal en materia de comunicación para dotar a los investigadores de las herramientas y la orientación necesarias para comunicarse de forma ética, eficaz y con confianza, e incentivar las habilidades de comunicación sólidas como parte del desarrollo de la carrera.
  • Elaborando códigos de conducta claros y orientaciones sobre cómo gestionar la interacción en línea.
  • Incorporando las estructuras adecuadas de incentivos y recompensas para garantizar que las contribuciones de los investigadores a la promoción de la confianza en la ciencia reciban el reconocimiento adecuado, en particular su papel en la enseñanza, el compromiso público y la participación en el proceso de revisión por pares.
  • Proporcionando incentivos financieros para que los investigadores colaboren en equipos más grandes y faciliten ensayos y estudios de calidad por encima de la cantidad.
  • Dirigiendo la financiación de la investigación a los países y comunidades de investigación que más la necesitan.
  • Adoptando resúmenes más digeribles y formatos de fácil uso para que los responsables políticos, los periodistas o el público en general puedan comprender e identificar mejor la investigación de calidad.
  • Dar prioridad a la coherencia del gasto en I+D para garantizar que los investigadores puedan planificar adecuadamente sus necesidades de investigación, personal e infraestructuras.