Archivo de la etiqueta: Invesgttigación

Recomendaciones éticas para la investigación en inteligencia artificial del Comité Español de Ética de la Investigación (CEEI)

Recomendaciones éticas para la investigación en inteligencia artificial. Comité Español de Ética de la Investigación (CEEI), 2024

Descargar

Este informe, elaborado en colaboración con la Oficina Española de Prospectiva Tecnológica, analiza los desafíos éticos que plantea el desarrollo y la aplicación de la inteligencia artificial (IA). El CEEI ofrece una serie de recomendaciones para garantizar que la investigación en IA se lleve a cabo de forma responsable y ética, teniendo en cuenta los posibles riesgos y beneficios para la sociedad.

RESPONSABILIDAD EN EL DESARROLLO Y EL USO DE SISTEMAS AUTÓNOMOS

Este conjunto de desafíos se centra en la capacidad de los sistemas de IA para tomar decisiones de manera automática, siempre bajo supervisión humana, conforme a las Directrices Éticas para una IA Fiable publicadas por la Comisión Europea en 2018 y las de la UNESCO de 2021. Aspectos específicos relacionados con la investigación en IA incluyen:

  1. Salvaguardar los derechos humanos y fundamentales: Los investigadores y las instituciones deben asegurar que los sistemas de IA respeten la dignidad, la autodeterminación y los derechos humanos y democráticos.
  2. Salvaguardar el medioambiente: Los sistemas de IA deben desarrollarse considerando su consumo energético y su impacto ambiental.
  3. Responsabilidad: Los investigadores deben proporcionar orientación sobre las decisiones y acciones de los sistemas de IA y colaborar con sus instituciones y otras partes interesadas.
  4. Inspeccionabilidad y trazabilidad: Es necesario identificar las fuentes de datos utilizadas por el sistema y la forma en que toma decisiones para garantizar su transparencia y justicia.
  5. Divulgación de la investigación: Los investigadores deben contribuir al debate público sobre los riesgos y oportunidades de la IA y presentar un balance equilibrado entre ambos.

CONSECUENCIAS SOCIALES Y RESPONSABILIDAD SOCIAL DE LA INVESTIGACIÓN

La IA tiene un gran potencial para generar cambios en diversas áreas de aplicación. En la investigación, es esencial:

  1. Reconocer la incertidumbre: Asesorar adecuadamente sobre la incertidumbre asociada con la investigación en IA y fomentar la investigación interdisciplinar.
  2. Asegurar una participación amplia: Comunicar los riesgos y oportunidades de manera transparente e involucrar a aquellos que se ven más afectados por las decisiones.
  3. Protección de datos y consideración a los individuos: Seguir los principios fundamentales de la protección de datos y asegurar el consentimiento adecuado en el uso de datos personales.

DATOS

El uso de datos, especialmente de grandes cantidades, plantea desafíos éticos en la investigación en IA. Es esencial:

  1. Asegurar la calidad de los datos: Cuestionar la calidad y relevancia de los datos, facilitar el acceso a fuentes de datos abiertas y garantizar la verificabilidad.
  2. Acceso justo a los datos: Asegurar que la investigación, los datos utilizados y los resultados obtenidos estén disponibles públicamente, evitando la evasión de los requisitos de transparencia.

Proyecto de tesis: guía práctica para investigación cuantitativa

Hinojosa Mamani, J, Mamani Gamarra, JE, Catacora Lucana, E. Proyecto de tesis: guía práctica para investigación cuantitativa. Editora Científica Digital, 2024

Texto completo

En la actualidad, es habitual escuchar la palabra proyecto en referencia a diversas actividades cotidianas. Por ejemplo, escuchamos a un arquitecto hablar sobre el proyecto de un edificio que tiene la intención de construir, a un empresario analizar detenidamente el proyecto de expansión de su empresa y a amigos discutir emocionados el proyecto de un viaje pendiente, entre otras situaciones comunes. En este contexto, el término «proyecto» en su sentido genérico se refiere principalmente a la planificación de una iniciativa.

A partir de diciembre de 2025 los datos de investigaciones financiadas estarán públicos en Estados Unidos

Steinhart, Gail, y Katherine Skinner. «The Cost and Price of Public Access to Research Data: A Synthesis», 29 de febrero de 2024. https://zenodo.org/records/10729575.

Texto completo

A partir del 31 de diciembre de 2025, o antes, todos los beneficiarios de fondos de investigación federales de los Estados Unidos estarán obligados a hacer que sus resultados académicos financiados por el gobierno federal, incluidos los datos científicos, estén disponibles gratuitamente a través de lugares de acceso público sin demoras ni embargos. Este documento se centra en los datos de investigación como uno de los tipos principales de resultados académicos afectados por los requisitos delineados en el Memorándum sobre Garantizar el Acceso Gratuito, Inmediato y Equitativo a la Investigación Financiada por el Gobierno Federal emitido por la Oficina de Política Científica y Tecnológica (OSTP) de los EE. UU., comúnmente llamado el “memo Nelson”.

Este documento establece definiciones operativas de cuatro términos clave: costo, precio, razonable y permitido. Utilizando estos términos, describimos algunos de los caminos que toman los datos de investigación hacia su publicación final, y resumimos parte del extenso cuerpo de investigación sobre los costos de la curación y compartición de datos de investigación. En el proceso, examinamos la experimentación de modelización de costos en los campos de la gestión de datos de investigación y la preservación digital para considerar qué podría ser relevante de sus enfoques.

¿Dónde falló el Movimiento de Acceso Abierto?: Una entrevista con Richard Poynder.

Anderson, Rick. 2023. «Where Did the Open Access Movement Go Wrong?: An Interview with Richard Poynder». The Scholarly Kitchen. 7 de diciembre de 2023. https://scholarlykitchen.sspnet.org/2023/12/07/where-did-the-open-access-movement-go-wrong-an-interview-with-richard-poynder/.

Richard Poynder, un respetado comentarista en el ecosistema de la comunicación académica, que siempre fue un firme propulsor del movimiento de acceso abierto (OA), recientemente anunció que considera que el movimiento ha fallado y ha decidido dedicar su atención a otros temas. En una entrevista, Poynder expone sus frustraciones con el OA, destacando la falta de soluciones a los problemas de accesibilidad, asequibilidad y equidad, que eran los objetivos originales del movimiento.

Poynder argumenta que el fracaso fundamental del OA se debe a la falta de propiedad y organización por parte de los defensores del movimiento, así como a la falta de una definición canónica clara. La falta de claridad permitió a las editoriales incorporar el OA para sus propios fines, introduciendo embargos y el modelo de pago por publicación (APC), que ha exacerbado los problemas de asequibilidad y equidad.

El OA, que inicialmente fue concebido como un movimiento voluntario de abajo hacia arriba, se convirtió en un sistema burocrático de arriba hacia abajo, alejando a los investigadores y generando desconfianza. Poynder sostiene que, aunque se están explorando iniciativas para reiniciar el OA mediante infraestructuras sin fines de lucro, es improbable que se obtengan los fondos necesarios para llevar a cabo estos cambios significativos.

En cuanto al posicionamiento de marca (rebranding), Poynder señala que el OA ha sido reinterpretado para centrarse únicamente en la mejora de la accesibilidad, ignorando la falta de resolución de los problemas de asequibilidad y equidad. Ante la creciente complejidad y opresión del proceso OA, los investigadores se han alejado, y Poynder sugiere que podríamos estar presenciando intentos de reimaginar los objetivos del OA mediante nuevas iniciativas, como «Scholar-Led»*, aunque sigue siendo cuestionable si estas serán efectivas.

Poynder concluye destacando que, 20 años después de la Iniciativa de Acceso Abierto de Budapest (BOAI), un movimiento de OA exitoso habría abordado significativamente los problemas de accesibilidad, asequibilidad y equidad, y que actualmente no se vislumbra una solución clara para los problemas restantes. Además, señala que la era de la inteligencia artificial generativa podría requerir un mayor control de calidad y posiblemente el retorno de las barreras de pago.

* ScholarLed es un consorcio de editoriales de libros de acceso abierto, sin fines de lucro y lideradas por académicos, que se formó en 2018. Individualmente, Mattering Press, meson press, Open Book Publishers, punctum books, African Minds y mediastudies.press, que colectivamente buscan desarrollar formas poderosas y prácticas para que las editoriales de acceso abierto, pequeñas y lideradas por académicos, crezcan y prosperen en un panorama editorial que está cambiando rápidamente.

Cómo y por qué citar fuentes en trabajos académicos

Ayala Aceves, Marcela [et al.]. Cómo y por qué citar fuentes en trabajos académicos México: UNAM, 2023

Texto completo

El conocimiento se construye de manera colectiva, requiriendo la síntesis, análisis y reflexión sobre saberes previos y fuentes de información para generar ideas o conocimientos innovadores.

En el ámbito académico, es esencial otorgar crédito de manera sistemática y precisa a las fuentes y trabajos previos, reconociendo que el conocimiento se forma de manera colaborativa. El propósito de esta obra es mostrar la forma adecuada de citar fuentes y libros, resaltando la importancia de llevar a cabo este proceso, según señala en una entrevista.

Hacer referencia a las fuentes que respaldan el trabajo de manera sistemática es fundamental. Al hacerlo, reconocemos adecuadamente la autoría, permitimos la verificación de la información y tomamos conciencia de la naturaleza colaborativa del conocimiento.

Esta guía ofrece una explicación concisa sobre cómo y por qué citar diversos tipos de fuentes. Se recomienda utilizarla como referencia principal y consultar recursos adicionales, como los enlistados en la bibliografía. Para enriquecer los ejemplos y adaptarlos a casos específicos, se sugiere revisar las páginas siguientes en compañía de otras personas.

‘ChatGPT Detector’ detecta documentos generados por IA con una precisión sin precedentes

Prillaman, McKenzie. «‘ChatGPT Detector’ Catches AI-Generated Papers with Unprecedented Accuracy». Nature, 6 de noviembre de 2023. https://doi.org/10.1038/d41586-023-03479-4.

Los grandes modelos lingüísticos como ChatGPT pueden generar textos que parecen auténticos a la velocidad del rayo, si bien, la gran mayoría de editores de revistas rechazan los modelos lingüísticos como autores de manuscritos. Por tanto, se necesita inmediatamente un medio para distinguir con precisión el texto generado por humanos del generado por inteligencia artificial (IA).

Según un estudio publicado el 6 de noviembre en Cell Reports Physical Science, una herramienta de aprendizaje automático puede identificar fácilmente cuándo los documentos de química están escritos utilizando el chatbot ChatGPT. El clasificador especializado, que superó a dos detectores de inteligencia artificial (IA) existentes, podría ayudar a las editoriales académicas a identificar documentos creados por generadores de texto de IA.

Se trata de un detector preciso de texto de IA para revistas científicas probando su capacidad en una serie de situaciones complejas, incluido el texto humano de una amplia variedad de revistas de química, el texto de IA del modelo de lenguaje más avanzado disponible públicamente (GPT-4) y, lo que es más importante, el texto de IA generado mediante mensajes diseñados para ocultar el uso de IA. En todos los casos, los textos humanos y de IA se asignaron con gran precisión. El texto generado por ChatGPT puede detectarse fácilmente en las revistas de química; este avance es un requisito previo fundamental para entender cómo afectará la generación automatizada de texto a las publicaciones científicas de ahora en adelante.

«La mayoría de la comunidad de análisis de texto busca un detector realmente general que funcione en cualquier cosa», dice la coautora Heather Desaire, una química de la Universidad de Kansas en Lawrence. Pero al crear una herramienta que se centra en un tipo específico de documento, «realmente estábamos buscando la precisión».

Los hallazgos sugieren que los esfuerzos para desarrollar detectores de IA podrían mejorar al adaptar el software a tipos específicos de escritura, dice Desaire. «Si puedes construir algo rápidamente y fácilmente, entonces no es tan difícil construir algo para diferentes dominios».

Métricas de la producción académica : evaluación de la investigación desde América Latina y el Caribe

Métricas de la producción académica : evaluación de la investigación desde América Latina y el Caribe / Lorena Ruiz Serna … [et al.] ; compilación de Gabriel Vélez Cuartas … – 1a ed . – Ciudad Autónoma de Buenos Aires: CLACSO; Medellín : Latmétricas, 2022.

Texto completo

Este libro propone una alternativa concreta, así como acciones conjuntas para la evaluación científica a nivel regional. Los criterios impuestos por parte del paradigma internacional de calidad, con fuerte influencia de empresas comerciales que producen las bases de datos bibliográficas y de las oficinas de fomento a la investigación que actúan como organismos evaluadores, tienen consecuencias perversas para las revistas de nuestra región, muchas de las cuales tienen un rol importante en la comunicación científica regional, ya que abordan temáticas de interés local, llenan brechas y tienden puentes de conocimiento, al tiempo que contribuyen a la capacitación de investigadores en principio de carrera.

Un artículo aprobado y aceptado en una revista de Springer Nature aparece con la frase «Regenerate response» comando de ChatTGPT para reformular los resultados

Joelving, Author Frederik. «Signs of Undeclared ChatGPT Use in Papers Mounting». Retraction Watch (blog), 6 de octubre de 2023. https://retractionwatch.com/2023/10/06/signs-of-undeclared-chatgpt-use-in-papers-mounting/.

La semana pasada, una revista ambiental publicó un artículo sobre el uso de energía renovable en la limpieza de tierras contaminadas, con un costo de acceso de 40 euros, y aparentemente escrito por investigadores chinos. El artículo incluía una frase peculiar, «Regenerate response», lo que planteó dudas sobre la posibilidad de contenido generado por IA. Este incidente destaca una tendencia creciente de uso de IA, en particular ChatGPT, en la investigación sin una debida declaración. El autor del artículo y la persona de contacto de la empresa no respondieron a las solicitudes de comentarios. Springer Nature, el editor, declaró que están investigando cuidadosamente el asunto de acuerdo con las mejores prácticas, pero no pudieron proporcionar más detalles en este momento.

Supuestamente escrito por investigadores en China, «Revitalizing our earth: unleashing the power of green energy in soil remediation for a sustainable future» incluye la frase superflua «Regenerate response» al final de una sección de métodos. Para aquellos que no están familiarizados, «Regenerate response» es un botón en ChatGPT de OpenAI que incita al chatbot a reformular una respuesta insatisfactoria.

«¿Los autores copiaron y pegaron la salida de ChatGPT e incluyeron por error la etiqueta del botón?» se preguntó Guillaume Cabanac, profesor de informática en la Universidad de Toulouse, en Francia, en un comentario en PubPeer..

Y agregó: «¿Cómo es que esta expresión sin sentido sobrevivió a la revisión de pruebas por parte de los coautores, editores, revisores, correctores de estilo y maquetadores?»

Este caso es el ejemplo más reciente de una creciente tendencia de uso descuidado y no declarado de ChatGPT en la investigación. Hasta ahora, Cabanac, cuyo trabajo fue cubierto en Nature el mes pasado, ha publicado más de 30 artículos en PubPeer que contienen esas dos palabras reveladoras y sueltas. Y eso no incluye los artículos que aparecen en revistas depredadoras, dijo el investigador científico a Retraction Watch.

«El software informático se ha utilizado durante décadas para ayudar a los autores», dijo Cabanac. «Solo piensa en Grammarly o DeepL para personas como yo. No soy hablante nativo de inglés, así que voy a WordReference, a veces voy a DeepL. Pero lo que hago es mirar el resultado y corregir los errores».

ChatGPT y otras herramientas que utilizan sistemas de IA conocidos como modelos de lenguaje a gran escala tienden a inventar cosas. Como informamos a principios de este año, ese trabajo independiente puede ser un problema para los investigadores que buscan ayuda para encontrar referencias.

«A veces elabora cosas que no estaban en la mente de los investigadores», dijo Cabanac. «Y ese es el punto de inflexión para mí. Cuando las personas utilizan el sistema para generar algo que no tenían en mente, como fabricar datos, generar texto con referencias a trabajos que ni siquiera leyeron, esto es inaceptable».

Según algunos editores, los chatbots tienen usos legítimos al escribir artículos. La clave es informar a los lectores sobre lo que se hizo.

El autor correspondiente del artículo ambiental, Kangyan Li de ESD China Ltd., no respondió a las solicitudes de comentarios. Tampoco lo hizo una persona de contacto mencionada en el sitio web de su empresa.

Un portavoz de Springer Nature, que publica la revista Environmental Science and Pollution Research en la que apareció el artículo, dijo que el editor estaba «investigando cuidadosamente el problema de acuerdo con las mejores prácticas de COPE» pero no pudo compartir más detalles en este momento.

No está claro cómo los autores, y mucho menos la revista, pudieron pasar por alto la extraña frase. «Tal vez no se trate de los autores, sino de una fábrica de papel», dijo Cabanac, refiriéndose a organizaciones poco fiables que venden espacios de autor en artículos científicos que pueden contener datos falsos.

«Regenerar respuesta» no es la única señal de participación no declarada de un chatbot que ha visto Cabanac. Un ejemplo aún más atroz es la frase «Como modelo lingüístico de IA, yo…«, que ha encontrado en nueve artículos hasta ahora.

A Cabanac le preocupa que un descuido tan flagrante, posiblemente la punta del iceberg, pueda pasar desapercibido tanto para el personal editorial como para los revisores.

Cómo llevar a cabo un proyecto de ciencia ciudadana en la biblioteca

Los proyectos de ciencia ciudadana en bibliotecas pueden enriquecer la experiencia de la comunidad al fomentar la participación activa en la ciencia y la investigación, al mismo tiempo que promueven la educación, la colaboración y la conexión con temas científicos y ambientales importantes.


La ciencia ciudadana, también conocida como «ciencia participativa» o «ciencia colaborativa», es una forma de investigación científica en la que individuos no profesionales, es decir, ciudadanos comunes y corrientes que no necesariamente tienen formación científica formal, colaboran con científicos y expertos en la recopilación de datos, observaciones y análisis de fenómenos naturales, culturales o científicos. En resumen, la ciencia ciudadana implica la participación activa de la comunidad en la investigación científica.

Ejemplos de proyectos de ciencia ciudadana incluyen la observación de aves, la identificación de especies en peligro de extinción, la monitorización de la calidad del agua, la recolección de datos meteorológicos, la búsqueda de patrones en grandes conjuntos de datos, la identificación de galaxias en imágenes astronómicas y mucho más. Estos proyectos a menudo se basan en la contribución voluntaria y el entusiasmo de los ciudadanos para abordar cuestiones científicas y ambientales importantes.

La ciencia ciudadana ha crecido en popularidad en todo el mundo debido a la disponibilidad de tecnologías digitales y plataformas en línea que facilitan la participación y la colaboración entre ciudadanos y científicos. Esta forma de investigación amplía la base de conocimientos científicos y empodera a las comunidades para involucrarse activamente en la resolución de problemas y en la toma de decisiones basadas en la evidencia.

El papel de las bibliotecas en la Ciencia Ciudadana

Los proyectos de ciencia ciudadana ofrecen una valiosa oportunidad para que los miembros de la comunidad se sumerjan en el mundo de la ciencia de una manera práctica y participativa. Al hacerlo, se fomenta la alfabetización científica al volver la ciencia accesible y relevante para un público más amplio. Estos proyectos no solo tienen el potencial de estrechar los lazos dentro de la comunidad al involucrar a los residentes en actividades colaborativas que impactan directamente su entorno, sino que también generan datos que pueden resultar invaluables para la investigación científica.

Además, la ciencia ciudadana tiene el poder de avivar la curiosidad y el interés por la ciencia en individuos de todas las edades. Las bibliotecas, con su oferta de recursos como acceso a internet, computadoras y espacios de reunión, se convierten en el entorno perfecto para que las personas exploren su fascinación por la ciencia de manera informal.

Por otro lado, estos proyectos pueden ser una poderosa herramienta para atraer a nuevos usuarios a la biblioteca y elevar su visibilidad en la comunidad. Esto se vuelve especialmente relevante para aquellas bibliotecas que buscan ampliar su alcance y consolidar su relevancia en la era moderna.

Finalmente, la ciencia ciudadana en las bibliotecas tiene el potencial de estimular la innovación y la creatividad al desafiar a los participantes a abordar cuestiones científicas y ambientales desde múltiples perspectivas. En última instancia, estos proyectos no solo contribuyen a la comunidad científica, sino que también enriquecen la vida de quienes participan y fortalecen los lazos entre la biblioteca y la sociedad que sirve.

Llevar a cabo un proyecto de ciencia ciudadana en una biblioteca es una excelente manera de involucrar a la comunidad local en la investigación científica y fomentar la participación ciudadana en cuestiones científicas. Aquí hay una guía general sobre cómo realizar un proyecto de ciencia ciudadana en una biblioteca:

  1. Identifica un tema o proyecto: Elige un proyecto de ciencia ciudadana que sea relevante para tu comunidad y que se adapte a los recursos de la biblioteca. Puedes buscar proyectos existentes en plataformas en línea de ciencia ciudadana o trabajar en colaboración con organizaciones de investigación científica.
  2. Forma un equipo: Recluta a un equipo de bibliotecarios y posiblemente a expertos en el tema del proyecto para liderar la iniciativa. Es importante tener un grupo comprometido y capacitado para coordinar y facilitar el proyecto.
  3. Capacitación de los bibliotecarios: Asegúrate de que los bibliotecarios estén bien informados sobre el proyecto y tengan las habilidades necesarias para guiar a los participantes y responder a sus preguntas.
  4. Comunicación y promoción: Promociona el proyecto entre los miembros de la comunidad utilizando medios de comunicación social, el sitio web de la biblioteca, carteles y otros métodos de marketing. Explica claramente los objetivos del proyecto y cómo las personas pueden participar.
  5. Registro de participantes: Establece un sistema para registrar a los participantes y recopilar su información de contacto. Esto facilitará la comunicación y el seguimiento del proyecto.
  6. Proporciona recursos y herramientas: Asegúrate de que los participantes tengan acceso a las herramientas y recursos necesarios para participar en el proyecto. Esto podría incluir kits de recolección de datos, acceso a bases de datos científicas, software de análisis, etc.
  7. Recopilación de datos: Ayuda a los participantes a recopilar datos de acuerdo con los protocolos del proyecto. Proporciona orientación y apoyo continuo para garantizar la calidad de los datos.
  8. Comunicación continua: Mantén una comunicación regular con los participantes a través de boletines informativos, reuniones, correos electrónicos u otros medios. Anima a los participantes a hacer preguntas y compartir sus experiencias.
  9. Análisis de datos: Trabaja con expertos o facilita el análisis de datos recopilados. Puedes organizar talleres o sesiones informativas para que los participantes comprendan los resultados y su relevancia.
  10. Presentación de resultados: Organiza eventos o presentaciones donde los resultados del proyecto se compartan con la comunidad. Esto puede incluir charlas, exposiciones o informes escritos.
  11. Evaluación y retroalimentación: Pide a los participantes que evalúen su experiencia y dales la oportunidad de proporcionar retroalimentación sobre el proyecto. Utiliza esta información para mejorar futuros proyectos.
  12. Fomenta la continuidad: Después de completar un proyecto, considera la posibilidad de continuar con otros proyectos de ciencia ciudadana o crear una comunidad de participantes activos en la biblioteca.

Recuerda que la clave para un proyecto exitoso de ciencia ciudadana en la biblioteca es la planificación adecuada, la comunicación efectiva y la participación activa de la comunidad. Además, debes estar dispuesto a adaptarte y aprender a medida que avanzas en este emocionante camino de involucrar a la comunidad en la investigación científica.

Algunos de los detectores de plagio por IA consideran que la Constitución de EE.UU. o el Génesis fueron escritos utilizando una herramienta de IA generativa

Harwood, Michelle. «AI Wrote the US Constitution, Says AI Content Detector». Medium (blog), 7 de septiembre de 2023. https://medium.com/@michellehwd/ai-wrote-the-us-constitution-says-ai-content-detector-f24681fdc75f.

Si se introdujeran algunos extractos de la Constitución de EE.UU. en las herramientas de detección de IA, éstas afirmarían que fue escrita por herramientas de IA como ChatGPT y Google Bard, etc. ZeroGPT parece estar seguro en un 94% de que la IA escribió la Constitución, mientras que originality.ai lo está en un 60%. La Constitución se redactó en el año 1787, es decir, hace más de 200 años. Entonces, ¿crees que es posible que ese viejo documento tenga orígenes de IA? Bueno, eso sólo puede ocurrir si los propios redactores eran robots o si utilizaron una máquina del tiempo para llegar a la era de la tecnología de IA.

La pregunta es, ¿por qué estas herramientas parecen estar tan seguras de etiquetar el documento de hace un año como generado por la IA? Cuando los detectores de IA reciben un texto para analizar, normalmente comprueban la estructura del texto, lo comparan con sus conocimientos y concluyen si ellos habrían escrito de la misma manera al recibir la misma consulta. En caso afirmativo, la herramienta simplemente clasifica el texto como escrito por la IA.

Al analizar la estructura del texto, las herramientas de detección de IA suelen utilizar dos variables diferentes: la perplejidad y la explosividad. Cuanto menor sea el porcentaje de estas dos variables detectadas en el texto, mayores serán las probabilidades de que el contenido esté generado por IA.

Los detectores de IA que etiquetan la Constitución de EE.UU. como generada por IA han suscitado dudas sobre su precisión. De hecho, este no es el único caso en que una herramienta de detección de contenidos de IA ha dado falsos positivos. Anteriormente, también se había descubierto que el Libro del Génesis había sido escrito por IA.

Varios expertos han cuestionado la fiabilidad de los detectores de IA y han expresado su preocupación por sus vulnerabilidades. «No existe ninguna herramienta que pueda detectar de forma fiable la escritura ChatGPT-4/Bing/Bard», tuiteó Mollick recientemente. «Las herramientas existentes están entrenadas en GPT-3.5, tienen altas tasas de falsos positivos (10%+), y son increíblemente fáciles de engañar». Además, ChatGPT por sí mismo no puede evaluar si el texto está escrito por IA o no, añadió, por lo que no se puede simplemente pegar un texto y preguntar si fue escrito por ChatGPT.

En el caso del detector de IA basado en marcas de agua, la robustez reveló que «un atacante puede utilizar un parafraseador para eliminar las firmas LLM de un texto generado por IA para evitar su detección» e incluso puede falsear el detector de marcas de agua para hacer que un texto humano auténtico se detecte como generado por IA.

En una conversación con Ars Technica, Tian de GPTZero pareció darse cuenta de lo que se avecinaba y dijo que planea redirigir su empresa lejos de la detección de IA convencional hacia algo más ambiguo. «En comparación con otros detectores, como Turn-it-in, estamos cambiando nuestra atención lejos de construir detectores para atrapar a los estudiantes, y en su lugar, la próxima versión de GPTZero no estará detectando IA, sino resaltando lo más humano y ayudando a profesores y estudiantes a navegar juntos el nivel de participación de la IA en la educación», dijo.

Sin embargo, a pesar de los problemas inherentes con la precisión, GPTZero sigue anunciándose como «construido para educadores», y su sitio muestra con orgullo una lista de universidades que supuestamente utilizan la tecnología. Existe una extraña tensión entre los objetivos declarados de Tian de no castigar a los estudiantes y su deseo de ganar dinero con su invento. Pero sean cuales sean los motivos, el uso de estos productos defectuosos puede tener efectos terribles en los estudiantes. Quizá el resultado más perjudicial del uso de estas herramientas inexactas e imperfectas sea el coste personal de las falsas acusaciones.

Un caso publicado por USA Today pone de relieve la cuestión de forma llamativa. Un estudiante fue acusado de hacer trampas basándose en herramientas de detección de texto de IA y tuvo que presentar su caso ante una junta de honor. Su defensa incluyó mostrar su historial de Google Docs para demostrar su proceso de investigación. A pesar de que el tribunal no encontró pruebas de que hubiera hecho trampas, el estrés de prepararse para defenderse llevó al estudiante a sufrir ataques de pánico. Situaciones similares se han producido docenas (si no cientos) de veces en los EE.UU. y se documentan comúnmente en hilos desesperados de Reddit.

Las sanciones habituales por deshonestidad académica suelen incluir suspensos, libertad condicional académica, suspensión o incluso expulsión, dependiendo de la gravedad y la frecuencia de la infracción. Es una acusación difícil de afrontar, y el uso de tecnología defectuosa para imponer esos cargos parece casi una caza de brujas académica moderna.

Así pues, finalmente, no existe una fórmula perfecta en la que podamos confiar para diferenciar entre texto escrito por humanos y texto generado por máquinas.