Conjunto de herramientas para la defensa del derechos al conocimiento

‘A Toolkit for Knowledge Rights Advocacy’ – KR21 Workshop Report (via LIBER)

Descargar

Durante la Conferencia Anual de LIBER celebrada en julio, Knowledge Rights 21 organizó el taller «A Toolkit for Knowledge Rights Advocacy». Los organizadores, Stephen Wyber (Director de Política y Promoción de la IFLA) y Giannis Tsakonas (Director del Centro de Biblioteconomía e Información de la Universidad de Patras y Vicepresidente de LIBER), adoptaron un enfoque atractivo e interactivo para suscitar la reflexión de los participantes y motivarlos a unirse al creciente movimiento KR21. Knowledge Rights 21 (KR21) aboga por un cambio progresivo y positivo en la forma en que facilitamos el acceso al conocimiento, tanto sobre el terreno como a través de reformas legales.

Knowledge Rights 21 (KR21), el programa financiado por Arcadia en el que LIBER participa junto con IFLA y SPARC Europe, celebró en mayo su primera reunión de red en Bruselas. Miembros de la red KR21 de Europa y Estados Unidos participaron en este evento de tres días de duración, cuyo objetivo era aumentar la concienciación entre la red culturalmente diversa y las partes interesadas en la elaboración de políticas sobre los retos y oportunidades de las prácticas legislativas y no legislativas en toda Europa. El objetivo general era reforzar el derecho al conocimiento.

El taller se abrió con un debate sobre la situación de los distintos ámbitos políticos en los que se centra KR21. El proyecto une a LIBER, SPARC Europa e IFLA para capacitar a las bibliotecas en la defensa de políticas que apoyen sus misiones. Los participantes debatieron sobre el panorama político del acceso al conocimiento, a través de herramientas digitales de encuesta y diálogos exploratorios.

Al taller asistieron participantes en representación de países de todo el continente, desde Irlanda a Suiza, pasando por Croacia y los Países Bajos. Los participantes señalaron la falta de concienciación, tanto por parte de las bibliotecas como de los principales legisladores, sobre lo que las bibliotecas pueden hacer en aras de la apertura del conocimiento y la investigación. Además, el índice de conocimiento del marco jurídico de la ciencia y la investigación es bastante bajo, así como el conocimiento del papel que pueden desempeñar las bibliotecas.

Los participantes creen que, en general, el marco normativo no apoya el acceso abierto y que, cuando lo hace, es relativamente débil o se inclina hacia el acceso abierto dorado. El Acceso Abierto Verde parece ocupar un lugar destacado en la agenda de las bibliotecas, ya que los participantes le dieron prioridad evidente a través de sus esfuerzos por fortalecer las infraestructuras, cambiar las culturas institucionales y reformar la legislación.

La segunda parte del taller se centró en los factores que fomentan o desalientan el compromiso con los legisladores y en los pasos necesarios para llevar a cabo la reforma. LIBER presentó su trabajo sobre los derechos secundarios de publicación (DSP), incluidos los resultados de una encuesta sobre el panorama de los DSP en siete países europeos. Esto proporcionó una base útil para reflexionar sobre los factores que permiten o dificultan a los defensores del Acceso Abierto promover una legislación más progresista, así como los problemas a los que se enfrentan.

Compartir datos de investigación es cada vez más importante. Cómo pueden ayudar las bibliotecas

F1000. «Sharing Research Data Is Becoming More Important. Here’s How Libraries Can Help». Library Journal. Accedido 27 de septiembre de 2023. https://www.libraryjournal.com/story/sharing-research-data-is-becoming-more-important.-heres-how-libraries-can-help-lj230921.

Los datos de investigación son las pruebas subyacentes que sustentan las afirmaciones que se hacen en las publicaciones académicas, y poner estos datos a disposición del público es un aspecto fundamental de la publicación de acceso abierto. Sin embargo, debido a una serie de obstáculos -algunos reales, otros percibidos-, muchos investigadores son reacios a compartir sus datos con la comunidad investigadora en general.

Editores y bibliotecarios pueden colaborar para ayudar a los investigadores a superar estos obstáculos, afirma Jamie Hutchins, director de investigación abierta en las Américas del grupo Taylor & Francis. Hacerlo tiene importantes beneficios para los investigadores, sus instituciones y la sociedad en su conjunto.

Los datos de investigación pueden adoptar muchas formas, y no sólo se refieren a los números que aparecen en las hojas de cálculo. El aspecto de los datos de investigación varía según la disciplina y puede incluir elementos como notas, cuadernos de laboratorio y bocetos; medios como fotos, vídeos y diapositivas; respuestas a encuestas y transcripciones de entrevistas; modelos y algoritmos; y el software o código escrito para ejecutar simulaciones y analizar información.

Poner esta información a disposición del público ayuda a otros investigadores a reproducir los resultados de un estudio o a basarse en este corpus de conocimientos. Fomenta una mayor conexión y colaboración entre investigadores, lo que da lugar a nuevos avances.

El intercambio de datos suele fomentarse dentro de la comunidad científica, y las nuevas directrices federales, como el memorando Nelson, ampliarán aún más esta práctica. Sin embargo, hacer públicos los datos de investigación requiere mucho tiempo, esfuerzo y esfuerzo.

La falta de tiempo y de conocimientos son los principales obstáculos

En la encuesta «State of Open Data» de Digital Science de 2020, los investigadores identificaron una serie de problemas o preocupaciones que tienen a la hora de compartir públicamente sus datos de investigación.

Por ejemplo, es posible que no sepan cómo formatear y preparar sus datos para que puedan compartirse y reutilizarse, o que no tengan tiempo para hacerlo. Muchos investigadores tampoco están seguros de qué información tienen permiso para compartir y de los problemas de licencias y derechos de autor que pueden surgir.

Como señala el informe Digital Science «Esperamos que [los investigadores] sean expertos en su propia disciplina. … Pero también esperamos que los investigadores sepan una o dos cosas, preferiblemente más, sobre seguridad de la información: Dónde y cómo almacenar los datos de forma que puedan utilizarse no sólo ahora, sino también en el futuro, sin que sean accesibles a personas que no tienen nada que ver con ellos. … [Esperamos de ellos que] sean expertos jurídicos y, en esa capacidad, sepan cómo navegar con éxito por un panorama a veces muy difícil de derechos de propiedad intelectual, licencias, privacidad y quizá también patentes».

Se trata de retos que los bibliotecarios, como expertos en trabajar con datos y navegar por cuestiones de derechos de autor, pueden ayudar a resolver a los investigadores. Los editores también desempeñan un papel clave: Una plataforma como F1000 de Taylor & Francis incluye herramientas para ayudar a los investigadores a almacenar y compartir sus datos y, al mismo tiempo, mantener segura esta información.

Superar las preocupaciones de los investigadores

Más allá de estos obstáculos técnicos, los investigadores han expresado su preocupación por el posible uso indebido de sus datos. Algunos investigadores son reacios a ceder el control sobre sus datos de investigación y punto. «Para muchos, incluso la idea de que los datos puedan ser reutilizados por otros investigadores ha sido un obstáculo para la adopción de los principios de la investigación abierta», afirma Hutchins.

Sin embargo, Hutchins señala que compartir ampliamente los datos no sólo beneficia a la sociedad, sino que también aporta ventajas claras y directas a los propios investigadores. Por ejemplo, aumenta las posibilidades de descubrir su trabajo, ayudando a otros a encontrar, utilizar y citar sus resultados de investigación. Esto, a su vez, mejora la imagen de los investigadores y de las instituciones que los emplean.

De hecho, un estudio reveló que los artículos de revistas que enlazaban con datos de repositorios de investigación tenían hasta un 25% más de citas que los que no tenían acceso a los datos subyacentes.

«Desde el punto de vista de los editores, tenemos pruebas de que incluso el paso mínimo de incluir una declaración de disponibilidad de datos en un artículo de investigación -algo que exige F1000 y que ahora están adoptando otras revistas- puede aumentar su impacto», afirma Hutchins.

Algunas instituciones, como la Universidad de Florida (UF), han rediseñado sus servicios bibliotecarios para apoyar más eficazmente la investigación en su universidad, por ejemplo ofreciendo servicios de consultoría y orientación sobre las mejores prácticas para compartir datos de investigación. «A menudo oímos decir a investigadores de todas las etapas de su carrera que no son conscientes de los recursos y servicios de apoyo de que disponen», afirma Hutchins. «Este parece un ámbito claro para la colaboración entre bibliotecas y editoriales».

Impacto de las bibliotecas universitarias en el éxito académico de los estudiantes

Impact of Libraries on Student Success Sponsored by 2023 Survey Report Perspectives from Academic Faculty and Libraries. Library Journal, 2023

Texto completo

Una encuesta doble, desde la perspectiva de los bibliotecarios universitarios y del profesorado, revela cómo contribuyen las bibliotecas universitarias al éxito de los estudiantes, cuáles son los obstáculos y qué podría hacerse para aumentar el impacto de la biblioteca. Al final del informe se puede acceder a tablas de datos detalladas.

El éxito de los estudiantes es un concepto fundamental en la educación superior, pero su definición puede variar mucho. puede variar mucho. Comprensiblemente, la mayoría de las definiciones de éxito estudiantil hacen hincapié en la mejora del rendimiento académico, el aumento de las tasas de graduación y la reducción del tiempo necesario para obtener un título. Sin embargo, las instituciones también están muy interesadas en mejorar la experiencia de los estudiantes en sus campus y prepararles para el éxito tras la graduación.

El 91% de los directores están totalmente de acuerdo en que los bibliotecarios de sus instituciones contribuyen significativamente al aprendizaje de los estudiantes ayudándoles a a encontrar, acceder y utilizar una serie de fuentes secundarias y primarias en sus asignaturas, el 90% que los bibliotecarios contribuyen al aprendizaje de los estudiantes ayudándoles a desarrollar sus habilidades de investigación, y el 63% que los bibliotecarios contribuyen significativamente a ayudar a los estudiantes a desarrollar habilidades para identificar la manipulación mediática y la desinformación.

La Encuesta sobre el uso de las bibliotecas por los estudiantes universitarios de 2022 de Library Journal reveló que más de tres cuartas partes de los estudiantes estaban de acuerdo con la afirmación «Creo que la biblioteca contribuye a mi éxito como estudiante», y un tercio (35%) estaba muy de acuerdo. como estudiante»

Ahora Library Journal ha realizado un estudio para cuantificar lo mejor posible el papel de la biblioteca en la optimización de los resultados académicos de los estudiantes universitarios. El estudio incluyó dos encuestas: una para las bibliotecarios universitarios y otra para los profesores, en las que se les plantean las mismas preguntas básicas sobre el papel de la biblioteca en el éxito de los estudiantes.

¿Qué contribuye al éxito de los estudiantes y cómo pueden las bibliotecas contribuir aún más a él? Si nos fijamos en la parte del profesorado, los profesores tienen sentimientos encontrados sobre la biblioteca de su institución. Evidentemente, consideran que la biblioteca es un recurso importante para los estudiantes y que contribuye en gran medida a su éxito, pero la relación de trabajo diaria con la biblioteca a veces socava esta idea. Los profesores afirman que se esfuerzan por tener en cuenta los recursos de la biblioteca a la hora de planificar los cursos, pero algunos se encuentran con que sus bibliotecas no disponen de los recursos específicos que desean y, en una minoría de casos, se niegan deliberadamente a adquirirlos (probablemente por motivos presupuestarios).

Todos están de acuerdo en que la alfabetización informacional, enseñar a los estudiantes a descubrir y evaluar críticamente los recursos, es una parte vital del éxito de los estudiantes . Sin embargo, la biblioteca parece ser un recurso infrautilizado para ello. La formación bibliotecaria, ya sea a través de interacciones individuales con los estudiantes que utilizan la biblioteca o a través de la presencia de bibliotecarios en las aulas, es fundamental para el éxito de los estudiantes, pero pocos profesores afirman que recurren a ella. ¿De quién es la culpa? ¿De los bibliotecarios, que pueden tener tiempo u otras limitaciones, o en el profesorado, que puede no querer dedicar tiempo a la enseñanza propiamente dicha, la respuesta probablemente sea un poco de ambas.

Quizá el mayor problema con respecto al éxito de los estudiantes es que parece haber muy pocas métricas para cuantificarlo. Como se ha señalado en la introducción, las definiciones básicas de éxito estudiantil varían mucho, aunque en general se admite que el rendimiento académico es una parte clave del mismo.

o que se necesita en el futuro es

  • Definir claramente qué se entiende por «éxito de los estudiantes».
  • Desarrollar una metodología para medirlo.
  • Identificar las funciones del profesorado y de la biblioteca en la consecución del éxito de los estudiantes y determinar cómo medir hasta qué punto ambas partes están cumpliendo sus funciones.
  • Reunir al profesorado y a las bibliotecas y alinearlos de manera que puedan trabajar más estrecha y eficazmente para alcanzar los objetivos de éxito de los estudiantes.
    – ¿Por qué no se dispone de recursos bibliotecarios y cómo puede solucionarse?
    o Involucrar más a las bibliotecas en el proceso de planificación de los cursos para que los recursos bibliotecarios puedan integrarse de forma más eficaz para que los recursos bibliotecarios puedan integrarse de forma más eficaz.
    – ¿Por qué no se recurre más a menudo a los bibliotecarios en las aulas para impartir
    alfabetización informacional y cómo se puede rectificar?
    – Desarrollar una métrica para que la biblioteca pueda medir con precisión hasta qué punto los bibliotecarios integrados en el aula repercuten en el éxito de los estudiantes.
    – Utilizar herramientas y software diseñados para facilitar la colaboración y la comunicación entre el profesorado y los bibliotecarios.
  • Conseguir que los estudiantes aprovechen más la biblioteca y sus recursos. El truco está en cómo. ¿Hacer que el uso de la biblioteca forme parte de su su nota global? ¿Tareas de clase específicas centradas en la biblioteca?

La alfabetización digital será clave en un mundo transformado por la IA

Valérie Kindarji, Wendy H. Wong «Opinion: Digital Literacy Will Be Key in a World Transformed by AI». The Globe and Mail.11 de marzo de 2023. https://www.theglobeandmail.com/opinion/article-digital-literacy-will-be-key-in-a-world-transformed-by-ai/.

El reciente lanzamiento de chatbots impulsados ​​por IA, como ChatGPT, el nuevo Bing y Bard de Google, ha alimentado un torbellino de posibilidades y pánico. Estos grandes modelos de lenguaje (LLM) imitan y aumentan la interacción humana, ya sea respondiendo preguntas, completando formularios o resumiendo grandes cantidades de literatura. Microsoft y Google nos dicen que es la próxima frontera de la búsqueda, y muchos de nuestros colegas lo ven como una sentencia de muerte para el ensayo universitario.

La innovación disruptiva ya ha cambiado vidas humanas antes. La imprenta aumentó las tasas de alfabetización lingüística, trastocó estructuras políticas y sociales arraigadas y abrió un mundo de conocimiento a las masas. Hoy en día, la IA y la recopilación generalizada de datos están cambiando radicalmente nuestras vidas y creando la necesidad de un nuevo tipo de alfabetización: la alfabetización digital.

La alfabetización digital es un conjunto de habilidades y un marco conceptual que nos ayuda a funcionar de manera más significativa en nuestro mundo impulsado por la tecnología. La alfabetización digital nos brinda herramientas para buscar, evaluar y gestionar el volumen de información al que estamos expuestos. Nos ayuda a utilizar tecnologías algorítmicas y a comprender en general cómo producen respuestas. Nos ayuda a comprender la máquina y los datos detrás de la IA.

Es hora de que empecemos a tomar en serio la alfabetización digital y empecemos a pensar en cómo implementar estas habilidades en nuestras prácticas sociales y llevar estas ideas a la legislación. Hasta la fecha, la atención pública se ha centrado en las propias tecnologías de IA. Desafortunadamente, las tecnologías que se están desatando avanzan más rápido de lo que el gobierno puede responder con regulaciones punitivas. Muchas políticas gubernamentales, incluidas las regulaciones canadienses, se han centrado en controlar la tecnología, como imponer requisitos sobre el contenido o encontrar fallas en las prácticas corporativas. Los debates públicos recientes sobre el LLM señalan la precisión o los peligros.

Si bien es importante examinar los productos corporativos, también debemos invertir en ayudar a los ciudadanos a adaptarse a las nuevas realidades que trae la IA. Una forma de incorporar tecnologías disruptivas es brindar a los ciudadanos el conocimiento y las herramientas que necesitan para hacer frente a estas innovaciones en su vida diaria. Es por eso que deberíamos abogar por una inversión generalizada en programas de alfabetización digital. El hecho de que vivamos en un mundo tecnológicamente infundido no va a cambiar. La alfabetización digital puede ayudarnos a empezar a ver las tecnologías relacionadas con la IA tal como son: sistemas masivos de agrupación, clasificación y procesamiento de datos que son máquinas de predicción.

La alfabetización digital es particularmente importante en las democracias, sistemas políticos que dependen del conocimiento, la participación y las opciones de los ciudadanos para gobernar. Algunos países están por delante de la curva. Por ejemplo, la alfabetización digital forma parte del plan de estudios básico de las escuelas en Finlandia y Estonia. Los estudiantes aprenden a codificar desde una edad temprana y toman cursos sobre medios y desinformación. Sin embargo, la mayoría de los demás países, incluido Canadá, están rezagados. Los programas de alfabetización digital existentes son irregulares y es posible que la política educativa no corresponda a una sola jurisdicción. Además, actualmente la carga de impartir formación en alfabetización digital recae en las organizaciones que ofrecen educación complementaria, como bibliotecas públicas o programas comunitarios. La falta de financiación y de intercambio de conocimientos entre programas complica la impartición y el acceso a los cursos.

La importancia de la alfabetización digital va más allá del alcance de nuestras interacciones cotidianas con el entorno de información en línea. Los LLM representan un grave riesgo para la democracia porque interrumpen nuestra capacidad de acceder a información de alta calidad, un pilar fundamental de la participación democrática. Derechos básicos como la libertad de expresión y de reunión se ven obstaculizados cuando nuestra información está distorsionada. Necesitamos ser consumidores de información perspicaces para poder tomar decisiones lo mejor que podamos y participar políticamente.

La alfabetización digital es una inversión a largo plazo. Se trata de ayudar a los ciudadanos a navegar sus vidas. Las tecnologías impulsadas por la IA serán cada vez más precisas, menos detectables y más extendidas. Los observadores tienden a burlarse cuando la IA comete errores (y pueden ser divertidos), pero ésta no es la mejor manera de rechazar los algoritmos.

Necesitamos comprender cómo los LLM (y otras tecnologías de inteligencia artificial) generan sus respuestas para poder utilizar estas poderosas herramientas. Tendemos a ser víctimas del sesgo de la automatización, degradando la toma de decisiones humana en favor de la máquina. Pero tal vez eso se deba a que no solemos pensar en cómo funciona la máquina para producir respuestas. ¿Cómo recopila y me entrega información una herramienta como ChatGPT? ¿Cómo puedo utilizar el chatbot para despertar mi creatividad en lugar de hacer que hable por mí? ¿Cuáles son las limitaciones de esta herramienta? ¿Cómo influyen las elecciones algorítmicas en el resultado de estas herramientas?

Las percepciones distorsionadas de la realidad afectan nuestra confianza en nuestras instituciones y nuestra confianza mutua, especialmente en aquellos con quienes no estamos de acuerdo. Los algoritmos de las redes sociales ya nos están filtrando hacia campos opuestos que cada vez más no se hablan entre sí. Pero hay motivos para tener esperanzas. Recientemente, en el podcast Hard Fork, Sam Altman, director ejecutivo de OpenAI (que creó ChatGPT), dijo: «Y dado lo firmemente que creo que [la IA] va a cambiar muchos, tal vez la gran mayoría de los aspectos de la sociedad, la gente necesita ser incluido temprano”.

Señor. Altman tiene razón: necesitamos que nos incluyan. Sobre qué y de quién, con qué conocimientos previos y con qué desarrolladores de tecnología siguen siendo preguntas abiertas. La alfabetización digital es una parte importante de la respuesta y actualmente no tiene prioridad. Puede ser el arma sigilosa para combatir la desinformación y convertirnos en consumidores más activos y confiados de tecnologías de inteligencia artificial.

Escritura universitaria para estudiantes internacionales: un enfoque basado en el uso

Carol Lynn Moder, Alys Avalos-Rivera, Ho’omana Nathan Horton, Miriam Kinfe. «University Academic Writing for International Students: A Usage-Based Approach», Open Textbook, Library.2020.

Texto completo

PDF

ePub

Este recurso está diseñado específicamente para satisfacer las necesidades de redacción académica de los estudiantes internacionales que estudian en universidades de los Estados Unidos. Los materiales del libro se pueden cubrir en un semestre de 14 semanas, pero cada capítulo o sección también se puede utilizar de forma independiente. Basado en una serie de proyectos de análisis de necesidades, este recurso proporciona una descripción general de los principales patrones retóricos de escritura que se utilizan comúnmente en entornos universitarios de los Estados Unidos. Estos géneros comúnmente requeridos incluyen resúmenes descriptivos y evaluativos, ensayos cortos, tareas de comparación y contraste, revisiones de literatura, informes descriptivos y propuestas. El recurso incluye capítulos que abordan la estructura y el propósito de estos géneros más comunes, incluida la conciencia de las formas en que el público objetivo y la situación deben dar forma a la escritura de cada uno.

Argumentos informados: un beneficio para la escritura y la investigación

Terri Pantuso, Sarah LeMire, Kathy Anders. «Informed Arguments: A Guide to Writing and Research. Revised Second Edition», Open Textbook library.2022. 

Texto completo

PDF

ePub

Este texto fue diseñado no sólo para enseñar a los estudiantes sobre composición y retórica, sino también sobre habilidades de investigación. Los editores de este texto sostienen que las habilidades de investigación, o la alfabetización informacional, como la llaman los bibliotecarios, tienen elementos retóricos. Los procesos de escritura e investigación están entrelazados y, a medida que las personas escriben, filtran lo que han oído o leído de otros, y a menudo buscan y evalúan información a lo largo del camino. Los pasos de escribir e investigar también son iterativos y se complementan entre sí en bucles, giros, borradores y revisiones.

La escritura, tal como la presenta este texto, es contextual. Está ambientado en un lugar, tiempo y conversación. La información es el medio del contexto. Encontrar, evaluar, usar y crear información son partes integrales del proceso de escritura universitaria, y los editores querían asegurarse de que estos procesos estuvieran representados en el mismo libro de texto. La escritura y la investigación no son discretas; Los editores compilaron este libro de texto para garantizar que se presenten como conceptos interconectados, lo que refleja su realidad interconectada.

Algunos de los detectores de plagio por IA consideran que la Constitución de EE.UU. o el Génesis fueron escritos utilizando una herramienta de IA generativa

Harwood, Michelle. «AI Wrote the US Constitution, Says AI Content Detector». Medium (blog), 7 de septiembre de 2023. https://medium.com/@michellehwd/ai-wrote-the-us-constitution-says-ai-content-detector-f24681fdc75f.

Si se introdujeran algunos extractos de la Constitución de EE.UU. en las herramientas de detección de IA, éstas afirmarían que fue escrita por herramientas de IA como ChatGPT y Google Bard, etc. ZeroGPT parece estar seguro en un 94% de que la IA escribió la Constitución, mientras que originality.ai lo está en un 60%. La Constitución se redactó en el año 1787, es decir, hace más de 200 años. Entonces, ¿crees que es posible que ese viejo documento tenga orígenes de IA? Bueno, eso sólo puede ocurrir si los propios redactores eran robots o si utilizaron una máquina del tiempo para llegar a la era de la tecnología de IA.

La pregunta es, ¿por qué estas herramientas parecen estar tan seguras de etiquetar el documento de hace un año como generado por la IA? Cuando los detectores de IA reciben un texto para analizar, normalmente comprueban la estructura del texto, lo comparan con sus conocimientos y concluyen si ellos habrían escrito de la misma manera al recibir la misma consulta. En caso afirmativo, la herramienta simplemente clasifica el texto como escrito por la IA.

Al analizar la estructura del texto, las herramientas de detección de IA suelen utilizar dos variables diferentes: la perplejidad y la explosividad. Cuanto menor sea el porcentaje de estas dos variables detectadas en el texto, mayores serán las probabilidades de que el contenido esté generado por IA.

Los detectores de IA que etiquetan la Constitución de EE.UU. como generada por IA han suscitado dudas sobre su precisión. De hecho, este no es el único caso en que una herramienta de detección de contenidos de IA ha dado falsos positivos. Anteriormente, también se había descubierto que el Libro del Génesis había sido escrito por IA.

Varios expertos han cuestionado la fiabilidad de los detectores de IA y han expresado su preocupación por sus vulnerabilidades. «No existe ninguna herramienta que pueda detectar de forma fiable la escritura ChatGPT-4/Bing/Bard», tuiteó Mollick recientemente. «Las herramientas existentes están entrenadas en GPT-3.5, tienen altas tasas de falsos positivos (10%+), y son increíblemente fáciles de engañar». Además, ChatGPT por sí mismo no puede evaluar si el texto está escrito por IA o no, añadió, por lo que no se puede simplemente pegar un texto y preguntar si fue escrito por ChatGPT.

En el caso del detector de IA basado en marcas de agua, la robustez reveló que «un atacante puede utilizar un parafraseador para eliminar las firmas LLM de un texto generado por IA para evitar su detección» e incluso puede falsear el detector de marcas de agua para hacer que un texto humano auténtico se detecte como generado por IA.

En una conversación con Ars Technica, Tian de GPTZero pareció darse cuenta de lo que se avecinaba y dijo que planea redirigir su empresa lejos de la detección de IA convencional hacia algo más ambiguo. «En comparación con otros detectores, como Turn-it-in, estamos cambiando nuestra atención lejos de construir detectores para atrapar a los estudiantes, y en su lugar, la próxima versión de GPTZero no estará detectando IA, sino resaltando lo más humano y ayudando a profesores y estudiantes a navegar juntos el nivel de participación de la IA en la educación», dijo.

Sin embargo, a pesar de los problemas inherentes con la precisión, GPTZero sigue anunciándose como «construido para educadores», y su sitio muestra con orgullo una lista de universidades que supuestamente utilizan la tecnología. Existe una extraña tensión entre los objetivos declarados de Tian de no castigar a los estudiantes y su deseo de ganar dinero con su invento. Pero sean cuales sean los motivos, el uso de estos productos defectuosos puede tener efectos terribles en los estudiantes. Quizá el resultado más perjudicial del uso de estas herramientas inexactas e imperfectas sea el coste personal de las falsas acusaciones.

Un caso publicado por USA Today pone de relieve la cuestión de forma llamativa. Un estudiante fue acusado de hacer trampas basándose en herramientas de detección de texto de IA y tuvo que presentar su caso ante una junta de honor. Su defensa incluyó mostrar su historial de Google Docs para demostrar su proceso de investigación. A pesar de que el tribunal no encontró pruebas de que hubiera hecho trampas, el estrés de prepararse para defenderse llevó al estudiante a sufrir ataques de pánico. Situaciones similares se han producido docenas (si no cientos) de veces en los EE.UU. y se documentan comúnmente en hilos desesperados de Reddit.

Las sanciones habituales por deshonestidad académica suelen incluir suspensos, libertad condicional académica, suspensión o incluso expulsión, dependiendo de la gravedad y la frecuencia de la infracción. Es una acusación difícil de afrontar, y el uso de tecnología defectuosa para imponer esos cargos parece casi una caza de brujas académica moderna.

Así pues, finalmente, no existe una fórmula perfecta en la que podamos confiar para diferenciar entre texto escrito por humanos y texto generado por máquinas.

Editores, ¡no utilicen herramientas de detección de IA!

Staiman, Avi. «Publishers, Don’t Use AI Detection Tools!» The Scholarly Kitchen, 14 de septiembre de 2023. https://scholarlykitchen.sspnet.org/2023/09/14/publishers-dont-use-ai-detection-tools/.

La semana pasada recibí una llamada desesperada de un estudiante de máster de Austria que estaba inconsolable. Acababa de enviar su tesis a su universidad para que la revisaran y había sido marcada como escrita por IA. La universidad le había dado una oportunidad más para revisar y volver a presentar su trabajo. Si pasaba la herramienta de detección de IA, revisarían el trabajo y le darían una nota final. Si no superaba la comprobación automática, lo rechazarían automáticamente y lo expulsarían deshonrosamente de su programa, tirando por la borda dos años de estudio.

¿Herramientas de detección de IA para defender la integridad de la investigación?

El reciente auge en el desarrollo de tecnologías de IA en el ámbito de la escritura ha provocado el aumento y la proliferación de detectores de IA en el mundo académico. Estos detectores prometen ser los guardianes de la integridad académica combatiendo el plagio y los contenidos generados por IA. Aunque la ambición es noble, su aplicación práctica ha tenido su buena dosis de deficiencias críticas.

El supuesto fundamental que subyace a la creación de herramientas de detección de IA parece ser que la escritura con IA debería poder detectarse del mismo modo que se detecta el plagio. Sin embargo, hay una diferencia fundamental: el plagio simplemente busca coincidencias exactas con obras existentes, un criterio objetivo que puede identificarse, medirse y reproducirse. Por otro lado, la escritura de IA es original por derecho propio (aunque se extraiga de fuentes no originales) y no puede rastrearse fácilmente hasta su fuente.

Mi oposición a que las editoriales académicas recurran a herramientas de detección obedece a razones tanto pragmáticas como ideológicas. Empecemos por las cuestiones pragmáticas.

Problemas con los falsos positivos

Los grandes modelos lingüísticos aprenden de la escritura humana y se construyen para parecerse a ella en sus resultados. Ya con el lanzamiento de ChatGPT, quedó claro que la IA generativa podía producir una escritura que imitara con éxito la de los humanos. Cuantificar los respectivos componentes humanos y de IA en un documento concreto es todo un reto y, a menudo, los autores mezclan sus propias palabras con las sugeridas por la herramienta de IA.

Las imperfecciones de los detectores de IA son cada vez más evidentes, ya que a menudo identifican erróneamente contenidos genuinamente generados por humanos. Los estudios han mostrado tasas de error de hasta el 9% o más, una cifra demasiado alta para vivir con ella. Un caso notable fue el de una herramienta de IA que marcó la Constitución de EE.UU. como producida por IA. Este falso positivo no sólo pone de manifiesto la flagrante imperfección de estos detectores, sino que también subraya las posibles trampas que aguardan a los autores académicos que tratan estos informes como fidedignos. Un caso humorístico pero inquietante de este tipo de confusión surgió después de que un profesor de Texas A&M suspendiera toda su clase después de que ChatGPT respondiera afirmativamente cuando le preguntó si había escrito los trabajos entregados por los estudiantes.

En un vídeo reciente, Turnitin admitió con sorprendente franqueza que su software de detección de IA debe tomarse «con cautela». Además, dicen que los profesores tendrán que ser los que «hagan la interpretación final» de lo que crea la IA generativa.

¿No es esa precisamente la razón por la que los profesores recurren a estas herramientas?

Las universidades están empezando a comprender las implicaciones de estas admisiones y han empezado a tomar medidas aconsejando a su profesorado que no utilice estas herramientas. En un informe de orientación publicado por la Universidad de Vanderbilt, señalan que Turnitin, su proveedor de software contra el plagio, afirmó originalmente tener una tasa positiva del 1% en la detección de trabajos escritos con IA tras el lanzamiento de su herramienta de detección de IA, pero luego aumentó esa tasa al 4% tras un uso y unas pruebas más amplias. Aunque esas cifras mejoren, no sería difícil para los autores malintencionados pasar los resultados de la IA por un software de parafraseo para eliminar rastros del original. La propia OpenAI cerró un proyecto que intentaba detectar sus propios resultados. Muchas universidades ya han cambiado de rumbo y están buscando políticas alternativas.

Daños colaterales de las falsas acusaciones

La falacia de los detectores de IA tiene consecuencias en el mundo real. Timnit Gebru, fundadora y directora ejecutiva del Distributed AI Research Institute (DAIR), compartió recientemente un angustioso correo electrónico que recibió en el que se acusaba injustamente a un escritor de emplear IA. Este tipo de incidentes pueden causar una angustia emocional indebida y empañar potencialmente la reputación profesional de un investigador. El efecto dominó puede traducirse en desconfianza, escepticismo y descarrilamiento de la carrera académica, por no hablar de las prolongadas batallas legales.

Peor aún, es más probable que estos detectores marquen como generados por IA los trabajos de hablantes de inglés como lengua adicional (EAL) que los de sus homólogos nativos de habla inglesa. Lo último que querría cualquier editor es arriesgarse a introducir aún más prejuicios y discriminación contra los autores EAL.

¿Por qué corremos de nuevo a prohibir la escritura asistida por IA?

Las editoriales académicas deberían ser cautelosas a la hora de adoptar herramientas de detección de IA por razones que van más allá de la integridad de la investigación.

Si bien es probable que la mayoría de los editores no quieran publicar investigaciones que hayan sido obviamente realizadas por ChatGPT, adoptar políticas en las que los verificadores de IA sean estándar es también hacer una declaración educativa y de valores sobre cómo vemos el uso de la IA generativa en la expresión de hallazgos académicos. En lugar de rechazar las herramientas de IA en la escritura académica, ¿qué pasaría si las utilizáramos como herramientas educativas y como medio para igualar las condiciones de los académicos de la EAL?

Instituciones como la Universidad de Yale son pioneras en la utilización de la IA para mejorar el proceso de escritura. Ethan y Lilach Mollick, de la Wharton School, han creado un curso práctico en línea sobre IA para el aula que incluye la integración de la GPT en las tareas. Estos avances ponen de relieve un posible camino a seguir en el que la IA ayude a la escritura académica en lugar de entorpecerla.

Conclusión

Aunque la motivación para integrar los detectores de IA en la revisión académica es bienintencionada, los retos que introducen exigen un enfoque diferente. El sector de las publicaciones académicas debe estar alerta, sopesar los posibles escollos frente a las promesas y explorar formas de integrar armoniosamente la IA en la bibliografía académica.

Intercambio de conocimientos y lugar: una revisión de la literatura

Martin Wain, Cristina Rosemberg, Dr Kristine Farla, Vivek Seth, Nadia Maki, Felix Dijkstal, Laura Sutinen, Julie D’hont. Knowledge exchange and place: A review of literature. Final report.

Texto completo

Se trata de un estudio exploratorio, encargado para comprender la forma en que interactúan las actividades de intercambio de conocimientos de los proveedores de enseñanza superior y el lugar. Esto incluye examinar si el lugar impulsa determinadas actividades de intercambio de conocimientos, y de qué manera, y cuáles pueden ser las posibles repercusiones del intercambio de conocimientos en el lugar. El trabajo pretende para el diseño del método de la próxima evaluación completa del Fondo de Innovación para la Educación Superior (HEIF). La revisión bibliográfica abarca tanto la literatura para examinar las definiciones de lugar en la política económica, el cambio de enfoque de la política de la política, el papel de los proveedores de educación superior (HEP) en sus entornos locales y regionales, y los tipos de políticas y actividades de intercambio de conocimientos que pueden repercutir en el lugar.

Esta revisión de la literatura ha puesto de relieve una serie de puntos de debate relacionados con las interacciones entre el lugar y el intercambio de conocimientos, pero también ha encontrado limitaciones en la bibliografía. Si bien el papel de los centros europeos de educación superior en sus sistemas regionales y locales está bien fundamentado, la revisión bibliográfica concluye que existe poca coincidencia entre el intercambio de conocimientos y el lugar en lo que respecta a los factores impulsores, y que en la bibliografía se concede más importancia a las características institucionales en la elección de la actividad de intercambio de conocimientos.

Plataformas alternativas de publicación en el ecosistema de la comunicación académica abierta. ¿Qué hemos aprendido?

Lutz, Jean Francois, Jeroen Sondervan, Xenia van Edig, Alexandra Freeman, Bianca Kramer, y Claus Hansen Rosenkrantz. «Knowledge Exchange Analysis Report on Alternative Publishing Platforms». Alternative Publishing Platforms, 21 de septiembre de 2023. https://doi.org/10.21428/996e2e37.0eafc1a8.

En los últimos años han aparecido diferentes plataformas de publicación alternativas. Pero, ¿cuáles son sus pros y sus contras? ¿Difieren significativamente de las revistas académicas tradicionales? Para comprender mejor qué hacen las distintas plataformas de publicación y cómo encajan en el ecosistema de la comunicación académica abierta, Knowledge Exchange invitó a las plataformas que trabajan en la publicación de acceso abierto a participar en una encuesta. Los resultados de la encuesta ofrecen una visión valiosa e interesante del mundo de las plataformas de publicación alternativas. Este estudio, el conjunto de datos que lo sustenta y la herramienta de visualización interactiva revelan los primeros resultados. El trabajo servirá de base para la siguiente fase de nuestra actividad en torno a las plataformas de publicación alternativas.

En total, se plantearon 25 preguntas. Las preguntas iban desde el tipo de disciplinas de investigación para las que están diseñadas las plataformas, la estructura de gobierno que siguen, quién es su propietario, hasta las funciones que cubren, los tipos de publicación que abarcan y cuándo publican la investigación. Algunas conclusiones clave son:

  • La mayoría de las plataformas alternativas de este estudio piloto estaban basadas en instituciones e impulsadas por comunidades académicas o similares.
  • De la muestra no se desprende que ninguna disciplina sea más innovadora que las demás y, de hecho, la mayoría de las plataformas alternativas parecen estar abiertas a todos los campos.
  • La mayoría de las plataformas de este estudio sustituían la función de las editoriales existentes en la publicación de artículos de investigación, libros y actas de congresos.
  • Hubo alguna innovación en torno a la revisión por pares. Teniendo en cuenta estos dos aspectos, probablemente sólo un pequeño grupo de menos de 10 de las 45 plataformas debería describirse como que realmente exploran «formas alternativas de hacer las cosas».
  • Sólo 11 de las plataformas afirmaron que se centraban exclusivamente en la calidad metodológica del trabajo, 2 únicamente en el impacto del trabajo. La mayoría afirmó que correspondía a los editores decidir los criterios de evaluación; las propias plataformas se mostraron agnósticas. Se trata de un ámbito en el que la labor futura podría ayudar a dilucidar las filosofías de las distintas plataformas en lo que respecta a la evaluación de la investigación.

Jean Francois Lutz, Director de Apoyo a la Investigación (Biblioteca) de la Universidad de Lorena, y Jeroen Sondervan, Responsable del Programa de Comunicación Académica Abierta del Consejo de Investigación de los Países Bajos (NWO), han declarado lo siguiente: «Nos embarcamos en este trabajo con la intención de concienciar a la comunidad investigadora y a las instituciones de apoyo sobre las plataformas de publicación alternativas y ofrecer una imagen más clara de cómo son. Esperamos que este informe ayude a la comunidad a comprender mejor las funciones, las similitudes y las diferencias de dichas plataformas. Esperamos que este trabajo dé lugar a más debates y compromisos entre todas las partes interesadas sobre cómo podemos trabajar para facilitar la evaluación de estas plataformas.»