Archivo de la categoría: Tecnologías de la información

Un monje raspó los escritos originales de Arquímedes y lo transformó en un libro de oraciones y en la actualidad ha sido redescubierto con los avances de la tecnología

Beth A. Keiser, «The Monk Who Erased Archimedes: How a Particle Accelerator is Unraveling HistoryAP News, 1999. https://www.thearchaeologist.org/blog/a-monk-erased-a-book-by-archimedes-and-wrote-prayers-over-it

El Palimpsesto de Arquímedes, un manuscrito de 174 páginas, es un puente entre el genio de la Antigüedad, las limitaciones de la Edad Media y los avances de la tecnología moderna. Este texto, que conserva algunos de los tratados más innovadores del matemático griego Arquímedes, fue redescubierto en el siglo XX tras siglos de permanecer oculto bajo capas de escritura cristiana.

En el siglo XII, la escasez de pergamino llevó a un monje a reutilizar el documento: raspó los escritos originales y lo transformó en un libro de oraciones. Lo que podría interpretarse como un acto de destrucción, terminó siendo, irónicamente, una forma de preservación. Los avances en tecnología de imagen y el uso de rayos X han permitido que hoy podamos redescubrir las ideas revolucionarias que Arquímedes dejó plasmadas.

Arquímedes, nacido en Siracusa en el siglo III a.C., es considerado uno de los mayores genios de la humanidad. Sus contribuciones abarcaban desde la geometría hasta la mecánica, incluyendo descubrimientos que precedieron conceptos modernos como el cálculo integral y los principios de la flotación. Sus tratados no solo definieron teorías matemáticas y físicas, sino que también influyeron en campos como la ingeniería y la astronomía.

Gran parte de su obra se perdió tras la caída del Imperio Romano, sobrevivieron únicamente copias fragmentarias realizadas en épocas posteriores. Una de esas copias es el Palimpsesto de Arquímedes, un manuscrito del siglo X basado en sus textos originales. Este documento contiene tratados fundamentales como:

  • El método de los teoremas mecánicos: Donde Arquímedes combina principios mecánicos con problemas geométricos, estableciendo una base conceptual para el cálculo integral.
  • Sobre los cuerpos flotantes: Un análisis pionero de la flotación y el equilibrio, que se convirtió en la base de la mecánica de fluidos moderna.
  • Otros textos menos conocidos, como fragmentos de tratados perdidos y comentarios de autores posteriores sobre su obra.

En el siglo XII, en un contexto marcado por la falta de materiales, un monje transformó este valioso manuscrito científico en un libro de oraciones. La decisión no fue un acto deliberado contra el conocimiento, sino una respuesta a las necesidades prácticas de su época.

El pergamino, elaborado con pieles de animales, era caro y escaso. Para ahorrar recursos, el texto original fue raspado y sustituido por oraciones religiosas en griego. Aunque el conocimiento de Arquímedes quedó oculto durante siglos, la técnica de reescritura, conocida como palimpsesto, permitió que el texto se preservara físicamente hasta la actualidad.

En 1998, el Palimpsesto de Arquímedes fue subastado y adquirido por un coleccionista anónimo por 2 millones de dólares. Reconociendo su relevancia histórica, el nuevo propietario lo donó al Walters Art Museum de Baltimore, donde comenzó el Proyecto del Palimpsesto de Arquímedes. Este equipo multidisciplinario, compuesto por historiadores, físicos e ingenieros, se dedicó a descifrar las capas ocultas de escritura mediante tecnologías avanzadas de imagen.

Entre los métodos utilizados destacan:

  • Imagen ultravioleta e infrarroja: Estas técnicas iluminaron parte del texto oculto, revelando alrededor del 80% del contenido.
  • Procesamiento digital: Software avanzado permitió filtrar el ruido visual y reconstruir palabras y diagramas ocultos bajo capas de escritura medieval.

A pesar de estos logros, algunas páginas permanecían indescifrables debido a la complejidad de las capas de escritura.

En 2004, el físico Uwe Bergmann propuso usar el acelerador lineal de Stanford (SLAC) para analizar el manuscrito. Este método innovador se basa en los rayos X altamente concentrados, que detectan partículas de hierro presentes en la tinta del texto original. Hasta ahora, esta técnica ha permitido descifrar tres páginas inéditas, y se espera que las secciones restantes se revelen en un lapso de tres a cuatro años.

El Palimpsesto de Arquímedes no solo contiene los únicos ejemplares conocidos de algunos de sus tratados, sino que también preserva diagramas que podrían ser similares a los que Arquímedes trazó en la arena de Siracusa hace más de 2,000 años. Estos diagramas aportan una perspectiva visual única sobre cómo el matemático conceptualizaba sus ideas.

Entre los hallazgos más destacados están:

  • El uso de infinitesimales en El método de los teoremas mecánicos, un precursor directo del cálculo.
  • Descripciones detalladas de principios de equilibrio y flotación en Sobre los cuerpos flotantes.

Cada descubrimiento proporciona nuevas claves para comprender no solo el genio de Arquímedes, sino también la transmisión del conocimiento a lo largo de la historia.

Aunque el acto del monje medieval puede parecer un retroceso para la ciencia, su decisión, nacida de necesidad, resultó ser una salvaguarda accidental de los textos de Arquímedes. Sin su intervención, estos escritos podrían haberse perdido para siempre.

El redescubrimiento del Palimpsesto de Arquímedes es un recordatorio de la fragilidad del conocimiento y de cómo la tecnología moderna puede desentrañar los secretos de la historia, devolviendo a la humanidad tesoros intelectuales que parecían irremediablemente perdidos.

El uso no declarado de herramientas de inteligencia artificial (IA) generativa en la redacción de literatura científica



Glynn, Alex. “Suspected Undeclared Use of Artificial Intelligence in the Academic Literature: An Analysis of the Academ-AI Dataset.” arXiv, November 30, 2024. https://arxiv.org/abs/2411.15218.

El artículo aborda un problema creciente en el ámbito académico: el uso no declarado de herramientas de inteligencia artificial (IA) generativa en la redacción de literatura científica. Estas herramientas, como ChatGPT de OpenAI, han ganado popularidad en los últimos años, permitiendo a los investigadores utilizarlas para tareas como la generación de texto y la edición de manuscritos. Sin embargo, el uso de estas tecnologías plantea serias preocupaciones éticas cuando no se revela explícitamente en los trabajos publicados, a pesar de que las normativas de las editoriales lo exigen.

El estudio utiliza el conjunto de datos Academ-AI, diseñado para documentar ejemplos de uso sospechoso de IA en la literatura académica. Según Glynn, estos casos pueden identificarse gracias a patrones lingüísticos idiosincráticos que son característicos de los modelos de lenguaje generativo, como frases repetitivas o construcciones poco naturales que no encajan con el estilo habitual de los autores. De los primeros 500 casos analizados, el autor concluye que el uso no declarado de IA está ampliamente extendido, incluso en revistas científicas de prestigio y congresos relevantes. Sorprendentemente, estas prácticas se detectaron con mayor frecuencia en publicaciones con altos índices de citación y elevados costos de procesamiento de artículos (Article Processing Charges, APCs), lo que sugiere que incluso las editoriales con mayores recursos no están logrando prevenir este tipo de irregularidades.

Uno de los problemas más graves que destaca el análisis es la limitada capacidad de detección y corrección de estas irregularidades. Glynn señala que, aunque en algunos casos se han identificado textos sospechosos, las correcciones post-publicación son extremadamente escasas y, en la mayoría de las ocasiones, insuficientes para solucionar el problema de fondo. Esto deja en evidencia la falta de un sistema robusto que permita identificar y rectificar el uso indebido de IA en la etapa de revisión o tras la publicación.

Además, el autor subraya que muchos casos de uso no declarado de IA probablemente sean indetectables. Esto se debe a la creciente sofisticación de las herramientas de IA generativa, que permiten a los usuarios generar contenido que resulta más difícil de distinguir del texto escrito por humanos. Este fenómeno plantea un desafío significativo para las editoriales académicas, que deben encontrar formas de garantizar la transparencia sin depender exclusivamente de sistemas automatizados de detección.

El uso no declarado de IA en la literatura académica tiene profundas implicaciones para la ética y la integridad científica. Glynn advierte que estas prácticas no solo comprometen la credibilidad de los artículos afectados, sino que también amenazan la confianza en el sistema de publicación académica en su conjunto. El hecho de que los casos detectados sean más frecuentes en publicaciones de alto impacto amplifica la gravedad del problema, ya que estos trabajos suelen ser citados más ampliamente y, por lo tanto, tienen un impacto desproporcionado en la comunidad científica.

El estudio también pone de relieve las desigualdades que podrían surgir de esta situación. Mientras que algunos investigadores y editoriales tienen acceso a herramientas y recursos avanzados para verificar la autenticidad de los textos, otros carecen de estas capacidades, lo que podría generar un terreno desigual en la producción y evaluación de conocimiento académico.

Para mitigar este fenómeno, Glynn enfatiza la necesidad de que las editoriales refuercen sus políticas contra el uso no declarado de IA, especialmente en los casos que sean detectables. Esto implica no solo mejorar los procesos de revisión para identificar patrones sospechosos, sino también implementar sanciones claras y medidas correctivas efectivas. El autor sugiere que la transparencia y la rendición de cuentas deben convertirse en pilares fundamentales del proceso de publicación académica en la era digital.

En última instancia, el artículo concluye que abordar este problema de manera proactiva es esencial para preservar la calidad y la credibilidad de la literatura científica. En un contexto donde la inteligencia artificial desempeña un papel cada vez más importante, la comunidad académica debe establecer normas claras y efectivas para garantizar que el uso de estas herramientas sea transparente y ético. Esto no solo protegerá la integridad de las publicaciones científicas, sino que también fomentará un entorno de investigación más equitativo y confiable.

Un estudio propone cómo convertir el acceso gratuito a internet en un derecho humano

Reglitz, Merten. Free Internet Access as a Human Right. Cambridge University Press, 2024. https://www.cambridge.org/core/books/free-internet-access-as-a-human-right/B34F7618F9794B5F983314442E5C53F0.

Un nuevo libro, Free Internet Access as a Human Right, del Dr. Merten Reglitz, profesor asociado de Filosofía en la Universidad de Birmingham, propone que las instituciones públicas reconozcan el acceso gratuito a internet como un derecho humano.

Publicado el 21 de noviembre por Cambridge University Press, el estudio argumenta que este derecho debe incluir la protección contra la censura gubernamental, la vigilancia, el abuso y la recolección de datos por parte de empresas privadas.

El Dr. Reglitz explica que, en la actualidad, la falta de acceso a internet es impensable para muchas personas, ya que se necesita para el trabajo, las relaciones personales, el aprendizaje, el acceso a servicios y la libre expresión. Sin embargo, el internet actual presenta problemas, como la limitación del acceso por parte de algunos gobiernos para controlar la crítica y la falta de regulación de las plataformas de redes sociales que recogen datos para obtener ganancias, lo que afecta derechos fundamentales como la libertad de expresión, la privacidad y las elecciones libres.

El libro presenta un artículo propuesto que establece que “todas las personas tendrán el derecho de acceder y utilizar internet sin interferencias arbitrarias por parte de terceros”. El artículo establece que los gobiernos deben proporcionar los medios tecnológicos y las habilidades necesarias para garantizar un acceso de calidad al internet, asegurando que las restricciones sean justificadas, necesarias y proporcionales.

A pesar de la vital importancia del internet en la vida moderna, el acceso sigue siendo desigual, limitando la capacidad de aquellos que permanecen desconectados para disfrutar de otros derechos humanos. El Dr. Reglitz argumenta que los gobiernos deben invertir en servicios de datos y digitales, infraestructura de banda ancha y habilidades digitales básicas para que todos puedan acceder a internet.

Una de las principales amenazas a este derecho es la desigualdad global y la pobreza, ya que un tercio de la población mundial no tiene acceso debido a la falta de recursos. Para superar esto, el estudio propone que las autoridades inviertan en infraestructura digital y servicios básicos para asegurar que todos puedan cumplir con los requisitos mínimos para acceder a internet, como tener acceso a datos digitales suficientes y dispositivos móviles adecuados.

El Dr. Reglitz concluye que, aunque los países más pobres pueden no poder ofrecer acceso gratuito, los países pueden trabajar para ello implementando obligaciones mínimas como planes nacionales de banda ancha y conexiones en espacios públicos, así como unirse a organizaciones internacionales para acceder a financiamiento que permita asegurar el acceso gratuito y justo. Reconocer y defender este derecho podría hacer un mundo mejor para todos, utilizando las posibilidades que el internet ofrece.

Cómo incorporar IA generativa al aula

Cómo incorporar IA generativa al aula: una orientación en ChatGPT para docentes. Ciudad Autónoma de Buenos Aires: Educ.ar S.E., 2024.

Texto completo

El texto aborda cómo la inteligencia artificial, representada por herramientas como ChatGPT, está transformando la educación. Plantea que esta tecnología supone una revolución en el ámbito educativo, ofreciendo tanto desafíos como oportunidades para docentes, estudiantes e instituciones.

Capítulo 1: ChatGPT, definición y primeros pasos
Se describe qué es ChatGPT, cómo funciona y sus principales funcionalidades. Además, se reflexiona sobre aspectos éticos y de privacidad necesarios para un uso responsable de la herramienta en contextos educativos.

Capítulo 2: Cómo optimizar la gestión institucional con IA
Este capítulo explora las aplicaciones de la IA en la organización y gestión institucional, como la planificación de reuniones escolares, la implementación de actividades interactivas y la elaboración de informes sobre el desempeño de los estudiantes.

Capítulo 3: Cómo transformar la enseñanza con IA
Se analiza cómo la IA puede personalizar el aprendizaje, gestionar el aula, planificar clases, enseñar idiomas y fomentar la creatividad. También se incluyen aplicaciones como la creación de estudios de caso y el diseño de evaluaciones sumativas.

Capítulo 4: Aportes de la IA generativa en proyectos sociocomunitarios
Se destaca el potencial de la IA para crear materiales educativos destinados a proyectos comunitarios, promoviendo el aprendizaje más allá del aula y fortaleciendo el vínculo entre la escuela y su entorno.

Capítulo 5: ChatGPT como herramienta educativa: reflexiones finales
El texto concluye con precauciones sobre el uso de ChatGPT, como el plagio y el uso indebido, y reflexiona sobre el papel de la formación docente y la investigación educativa. Finalmente, se proyecta el impacto futuro de la IA en la educación, subrayando las nuevas oportunidades que esta tecnología puede ofrecer.

Con Talpa ya puedes buscar un libro por el color de la portada en su búsqueda impulsada por Inteligencia Artificial

Talpa Search

Talpa es un sistema de búsqueda diseñado para mejorar la experiencia de encontrar libros y materiales en bibliotecas. Utiliza inteligencia artificial combinada con datos confiables sobre libros para ofrecer resultados precisos y útiles, adaptados a las necesidades de cada usuario.

Talpa se creó para integrarse con los catálogos de bibliotecas, mejorando su capacidad de búsqueda. La versión para bibliotecas, disponible por suscripción, no tiene límites de uso y está vinculada directamente con los fondos y el catálogo de cada institución. También existe una versión abierta para usuarios individuales, que requiere iniciar sesión con una cuenta de Google y permite hasta 50 búsquedas diarias.

Esta herramienta destaca por su capacidad para responder a búsquedas complejas. No solo funciona con palabras clave tradicionales, sino que también permite identificar libros a partir de descripciones más detalladas o específicas. Por ejemplo, es capaz de encontrar un libro de ficción «sobre zombis inspirado en un clásico literario» o identificar títulos basándose en características visuales como el color de la portada o elementos gráficos.

Entre los ejemplos de búsqueda que Talpa facilita se incluyen:

  • «Un libro sobre el poder con una portada roja.»
  • «El diario de Ana Frank con una ilustración en la portada.»
  • «Una historia relacionada con una librería japonesa.»

El sistema combina modelos de lenguaje avanzado (LLMs) con una base de datos de más de 30 millones de títulos y 100 millones de ediciones. Esto permite interpretar búsquedas en lenguaje natural, como «ficción sobre Francia durante la Segunda Guerra Mundial», desglosándolas en criterios específicos que cruzan datos de bibliotecas y la industria editorial. El sistema obtiene su información de diversas fuentes confiables: de las bibliotecas, aprovecha registros de más de 70 millones de libros a nivel mundial; de las editoriales, utiliza datos detallados proporcionados por Bowker Book Data y Syndetics Unbound; y de LibraryThing, extrae información sobre series, premios y recomendaciones, basada en las contribuciones de su comunidad de tres millones de usuarios.

Estas funcionalidades permiten a los usuarios explorar las colecciones desde enfoques diferentes, ya sea recordando un detalle específico o buscando algo nuevo por curiosidad.

LA herramienta organiza los resultados priorizando los materiales disponibles en la colección de la biblioteca. Sin embargo, si el recurso no está en la biblioteca, también puede mostrar opciones externas, aunque estas aparecen en posiciones más bajas. De esta manera, combina el acceso a los fondos locales con la posibilidad de ampliar la búsqueda a otros recursos.

Esta herramienta supone un avance significativo en la manera de acceder a la información, haciéndola más accesible y adaptada a diferentes formas de búsqueda. El sistema busca facilitar el acceso al conocimiento y la cultura, adaptándose tanto a quienes tienen una idea clara de lo que buscan como a quienes exploran con detalles más abstractos.

ChatGPT para tareas complejas de evaluación de textos

Thelwall, M. (2024). ChatGPT for complex text evaluation tasksJournal of the Association for Information Science and Technology, 1–4. https://doi.org/10.1002/asi.24966

ChatGPT y otros modelos de lenguaje a gran escala (LLMs) han demostrado ser efectivos en tareas de procesamiento de lenguaje natural y computacional con diversos niveles de complejidad. Este documento resume las lecciones aprendidas de una serie de investigaciones sobre su uso en la evaluación de calidad de investigaciones, una tarea compleja de análisis de textos.

En términos generales, ChatGPT destaca por su capacidad para comprender y ejecutar tareas complejas de procesamiento de textos, produciendo respuestas plausibles con un mínimo de intervención por parte del investigador. Sin embargo, los resultados deben ser evaluados sistemáticamente, ya que pueden ser engañosos. A diferencia de las tareas simples, los resultados en tareas complejas son muy variables, y se pueden obtener mejores resultados repitiendo los comandos en sesiones diferentes y promediando las respuestas obtenidas. Modificar los parámetros de configuración de ChatGPT respecto a sus valores predeterminados no parece ser útil, excepto en lo relacionado con la extensión del texto solicitado en las respuestas.

Capacidad de Procesamiento Complejo: ChatGPT es muy hábil para realizar tareas de análisis textual complejo, generando respuestas plausibles con instrucciones detalladas. Sin embargo, sus resultados no siempre son precisos y requieren validación sistemática.

Variabilidad en Tareas Complejas: A diferencia de tareas simples (como análisis de sentimiento), los resultados en evaluaciones complejas varían significativamente. Mejores resultados se obtienen al repetir los comandos múltiples veces y promediando las respuestas.

Configuración del Modelo: Cambiar parámetros predeterminados no suele mejorar los resultados, salvo ajustes en la longitud de la salida. Modelos más avanzados (como GPT-4o frente a 4o-mini) ofrecen mejor desempeño, pero versiones económicas pueden ser una opción práctica.

Estructura de las Instrucciones: Instrucciones complejas y detalladas, adaptadas del formato usado por evaluadores humanos, producen mejores resultados. Sin embargo, instrucciones más breves y simplificadas tienden a disminuir la precisión.

Evaluación y Limitaciones: ChatGPT puede producir salidas plausibles, pero estas no siempre reflejan una evaluación significativa. Por ejemplo, al evaluar artículos basándose en títulos y resúmenes en lugar del texto completo, ChatGPT ofrece mejores resultados, probablemente debido a la concisión de la información.

Uso de Información Condensada: Aunque puede manejar textos extensos, ChatGPT parece ser más efectivo al trabajar con entradas resumidas, como títulos y resúmenes, en lugar de textos completos, evitando sobrecarga de información irrelevante.

Financiación y Costos: Realizar evaluaciones sistemáticas con múltiples iteraciones implica altos costos en el uso de la API. Por ello, las versiones más económicas de los modelos, aunque menos precisas, pueden ser adecuadas para ciertos proyectos.

Fine-Tuning: La personalización del modelo mediante fine-tuning es efectiva en tareas simples, pero no parece prometedora para evaluaciones complejas debido a la diversidad de salidas posibles y la falta de patrones consistentes en evaluaciones humanas.

Como conclusión puede decirse que ChatGPT muestra un gran potencial en la evaluación académica, pero sus limitaciones subrayan la necesidad de realizar validaciones exhaustivas. Los investigadores deben considerar enfoques sistemáticos, como repetir comandos y ajustar configuraciones, para optimizar resultados. Aunque aún quedan cuestiones abiertas, como el papel del fine-tuning en estas tareas, los resultados sugieren que LLMs pueden complementar, pero no reemplazar, las evaluaciones humanas en tareas complejas.

¿Puede la inteligencia artificial revisar la literatura científica y descifrar su significado?

Pearson, Helen. «Can AI Review the Scientific Literature — and Figure out What It All Means?» Nature 635, n.o 8038 (13 de noviembre de 2024): 276-78. https://doi.org/10.1038/d41586-024-03676-9.


La inteligencia artificial (IA) está revolucionando la revisión de la literatura científica al ofrecer herramientas que pueden resumir grandes volúmenes de información de manera rápida. Sin embargo, esta innovación plantea tanto beneficios como riesgos.

La IA en la ciencia no es un tema nuevo. Los investigadores han utilizado herramientas de software durante décadas para buscar y analizar la literatura científica. Sin embargo, los recientes modelos de lenguaje de gran escala (LLM), como ChatGPT, han generado entusiasmo por la automatización de la síntesis de información. Estos modelos no solo encuentran y resumen artículos, sino que ahora pueden, en teoría, generar revisiones narrativas de literatura científica, aunque todavía no alcanzan el nivel de rigor de las revisiones sistemáticas.

Este campo está en auge debido a la dificultad de los investigadores para mantenerse al día con la creciente cantidad de publicaciones científicas. Tal es el caso de Sam Rodriques, quien, junto a su equipo de la startup FutureHouse, ha creado un sistema de IA llamado PaperQA2, diseñado para sintetizar información científica. Con él, lograron producir artículos sobre 17.000 genes humanos, muchos de los cuales carecían de una página en Wikipedia.

Los motores de búsqueda de IA en ciencia

Algunos motores de búsqueda con IA, como Consensus y Elicit, se han diseñado específicamente para facilitar la revisión de literatura académica. Estos motores primero realizan una búsqueda en bases de datos científicas como Semantic Scholar y PubMed, y luego utilizan un LLM para resumir los estudios encontrados y generar respuestas sintetizadas. El usuario puede ver referencias y filtros para ajustar los resultados. Estas herramientas pueden hacer que el proceso de revisión y redacción sea más eficiente al encargarse de las tareas más laboriosas, aunque la calidad de sus resúmenes no es comparable aún a la de una revisión realizada por expertos.

Desafíos y limitaciones

Los expertos advierten que pedirle a una IA como ChatGPT que redacte revisiones completas desde cero sería poco fiable. Los LLM entrenan con grandes volúmenes de texto y generan respuestas basadas en probabilidad, sin evaluar la credibilidad de las fuentes. Esto significa que pueden combinar información académica válida con fuentes menos confiables, sin dar prioridad a la literatura de mayor calidad. Además, pueden generar errores o «alucinaciones», es decir, referencias o afirmaciones inexistentes.

Para evitar estos problemas, algunos investigadores emplean un método llamado “generación aumentada por recuperación”, que consiste en cargar en el modelo únicamente artículos seleccionados previamente. Esta técnica reduce los errores, pero no los elimina por completo.

Revisión sistemática y el papel de la IA

Mientras las revisiones narrativas son confiables, la revisión sistemática presenta mayores obstáculos. Este tipo de revisión requiere pasos estrictos, como búsqueda exhaustiva, evaluación de la calidad de los estudios, síntesis de datos y, a menudo, un meta-análisis. Cada paso es revisado por al menos dos investigadores para garantizar precisión y transparencia. En 2019, un equipo de investigadores, incluido Paul Glasziou, estableció un récord al completar una revisión sistemática en solo dos semanas, empleando herramientas como RobotSearch y RobotReviewer, que usan IA para identificar estudios y evaluar riesgos de sesgo. Sin embargo, aunque estas herramientas reducen el tiempo de revisión, la IA aún no puede completar una revisión sistemática de forma autónoma.

Elicit y otros sistemas afirman ayudar en la revisión sistemática, pero no la automatizan completamente. En su lugar, permiten a los investigadores acelerar pasos específicos, como la clasificación de artículos y la extracción de datos, mientras que otros procesos siguen dependiendo del juicio humano. La limitación de estos sistemas es que solo pueden buscar en artículos de acceso abierto y abstracts, dejando fuera gran parte de la literatura científica, que suele estar bajo pago.

Riesgos y futuro de la IA en revisiones científicas

Aunque la IA puede ayudar a mejorar la velocidad y eficiencia de las revisiones, también podría dar lugar a revisiones menos rigurosas y de menor calidad. La tentación de utilizar herramientas de IA para realizar revisiones rápidamente podría resultar en artículos poco precisos, contaminando la literatura científica. Sin embargo, hay quienes creen que la IA también podría elevar los estándares en la revisión de literatura al hacer que más científicos consulten la literatura existente antes de lanzar nuevos estudios.

Algunos expertos sugieren que el desarrollo de herramientas de IA para la ciencia debería estar en manos de organizaciones sin fines de lucro que promuevan la transparencia y la evaluación rigurosa. Recientemente, en el Reino Unido se ha anunciado una inversión significativa en herramientas de síntesis de evidencia, lo que refleja el creciente interés en abordar estos desafíos. La clave para el futuro parece estar en equilibrar la eficiencia que la IA puede aportar con la necesidad de mantener estándares rigurosos en la investigación científica.

Google ya incluye marcas de agua en sus textos generados por inteligencia artificial

«Google DeepMind Debuts Watermarks for AI-Generated Text – IEEE Spectrum». Accedido 13 de noviembre de 2024. https://spectrum.ieee.org/watermark.

Google DeepMind ha lanzado un innovador sistema de marca de agua para textos generados por IA llamado SynthID-Text, el cual tiene como objetivo facilitar la identificación de contenidos creados por modelos de lenguaje como su chatbot Gemini.

Esta tecnología añade una “firma estadística” o marca de agua en el texto generado, de manera que un detector especializado puede verificar si el contenido proviene de una IA, todo sin afectar la calidad, creatividad ni velocidad de la generación de respuestas. A diferencia de otros métodos que también intentan identificar texto de IA, SynthID-Text no altera visiblemente el texto para el lector humano, pero sí deja una señal detectable para su propio sistema.

Este sistema es la respuesta de Google al creciente problema de proliferación de contenido generado por IA, que ha inundado plataformas digitales como redes sociales y entornos académicos. Aunque existen herramientas para detectar textos de IA o incluso para hacerlos parecer escritos por humanos, su precisión ha sido limitada y, a medida que los chatbots mejoran, distinguir entre textos humanos e IA se vuelve más difícil. Con la implementación de SynthID-Text, Google espera dar un paso adelante en la solución de este problema.

SynthID-Text opera discretamente en el proceso de generación de texto: el sistema asigna puntuaciones a palabras candidatas en la respuesta generada por el chatbot, eligiendo aquellas que crean un patrón estadístico. Este patrón es imperceptible para los usuarios, pero detectable mediante el sistema SynthID. La marca de agua es esencialmente un “sello” que permite a los sistemas de Google o a desarrolladores que usen Gemini verificar si el texto proviene de un modelo de lenguaje de Google.

Sin embargo, los investigadores admiten que la marca de agua puede ser fácilmente eliminada o alterada si el texto se modifica de manera significativa. Por ejemplo, un usuario que edite el texto o que lo resuma con otro chatbot puede remover la firma, lo cual representa un desafío considerable para la tecnología. A pesar de estas limitaciones, Google ha asegurado que las respuestas marcadas con SynthID-Text son igual de satisfactorias que las respuestas no marcadas, basándose en pruebas realizadas con 20 millones de solicitudes a Gemini.

Undermind.ai: una nueva herramienta de búsqueda de información científica con IA que mejora la precisión

Undermind.ai

https://undermind.ai

Undermind.ai es una herramienta de búsqueda avanzada impulsada por IA, diseñada especialmente para investigadores académicos. A diferencia de otras herramientas de búsqueda como Elicit.com y SciSpace, Undermind combina búsquedas basadas en palabras clave y búsqueda semántica utilizando algoritmos que imitan el proceso de descubrimiento humano. Esto permite realizar búsquedas sucesivas de palabras clave, citas y semántica, mejorando la precisión y la exhaustividad de los resultados. Cada búsqueda toma entre 2 y 3 minutos debido a este proceso iterativo.

Una característica única de Undermind es su modelo estadístico, que estima la cantidad total de artículos relevantes sobre un tema, ayudando a los usuarios a saber si están agotando los contenidos relevantes. Además, clasifica los artículos encontrados en tres niveles de relevancia y genera resúmenes con IA de cada artículo, similar a herramientas como Scite.ai.

Aunque el interfaz web es intuitivo y permite compartir resultados fácilmente, la herramienta aún carece de funciones de ordenación y filtros adicionales en la sección de referencias. Además, algunos usuarios no encuentran útil la función de red de citas y cronograma, ya que los controles para ajustar la visualización son poco prácticos.

El servicio es gratuito con limitaciones, pero ofrece suscripciones mensuales y anuales para usuarios individuales y académicos. A pesar de ser prometedora, Undermind aún carece de pruebas de rendimiento oficiales frente a otras herramientas, lo que obliga a los usuarios potenciales a probar la herramienta según sus necesidades específicas. A pesar de esto, tiene el potencial de mejorar la calidad de las revisiones literarias, especialmente en temas complejos, mediante un proceso de búsqueda más preciso y eficiente.

El papel de los bibliotecarios universitarios en relación a la AI: el ser humano en el centro

Guzman, Dani. «Human at the Center, AI in the Loop: The Role of Librarians in Shaping Academic AI.» Katina Magazine, 2024. https://katinamagazine.org/content/article/sponsored/2024/human-at-the-center-ai-in-the-loop-clarivate.

A medida que la IA se ha ido desplegando en diversos sectores, las bibliotecas, en particular las universitarias, se encuentran en una posición clave para integrar estas tecnologías de manera que potencien su misión educativa, en lugar de reemplazar la labor humana. Según el artículo, la clave está en equilibrar la automatización con la experiencia humana, utilizando la IA como una herramienta de apoyo en lugar de como un sustituto de las habilidades de los bibliotecarios.

La rápida expansión de la inteligencia artificial (IA) ha generado una variedad de opiniones sobre su impacto en el trabajo, especialmente en campos del conocimiento que requieren habilidades especializadas, como las bibliotecas universitarias. Mientras que algunos temen que la IA pueda reemplazar a los humanos, otros la ven como una oportunidad para mejorar y transformar la manera en que se lleva a cabo el trabajo intelectual. Entre estas posturas, muchos, incluidos los bibliotecarios, consideran que la IA abre nuevas posibilidades para optimizar los servicios y mejorar la eficiencia.

Una de las primeras consideraciones que aborda es cómo las bibliotecas deben identificar los casos de uso adecuados de la IA, como la mejora en la productividad, la investigación y el apoyo a los estudiantes. Los bibliotecarios tienen un papel fundamental en priorizar estas aplicaciones, ayudando a asegurar que la implementación de la IA se alinee con los objetivos estratégicos y operativos de las bibliotecas. La IA ya está siendo utilizada para tareas como el descubrimiento de investigación, la mejora en la búsqueda de literatura y la gestión de metadatos, lo que permite a los bibliotecarios centrarse en tareas más estratégicas.

El primer paso en la implementación de IA es identificar áreas donde la tecnología pueda agregar valor sin afectar la misión principal de las bibliotecas, que incluye el descubrimiento de investigaciones, el apoyo a los estudiantes y la mejora de la productividad interna. Los bibliotecarios, con su experiencia en gestionar información y procesos, tienen un papel crucial en determinar los casos de uso más efectivos de la IA, ayudando a priorizar las herramientas que pueden tener el mayor impacto.

El artículo también aborda cómo la IA puede transformar los servicios bibliotecarios. Por ejemplo, la implementación de herramientas basadas en IA puede simplificar tareas complejas como las revisiones de literatura o el análisis de datos, mejorando la experiencia de los estudiantes y de los investigadores. Además, la IA tiene el potencial de crear nuevos servicios, como sistemas de análisis de datos que permiten descubrir patrones y tendencias en la información, lo que puede ser útil tanto para la investigación académica como para la enseñanza. Pero sobre todo se destaca la importancia de que los bibliotecarios mantengan un control humano en el uso de estas herramientas para asegurar la integridad académica.

Otro aspecto importante que se menciona es la relación entre la IA y los principios éticos y de transparencia. Las bibliotecas deben garantizar que las herramientas de IA que utilicen estén basadas en fuentes académicas confiables y que ofrezcan a los usuarios acceso a la información utilizada. Esto es esencial para mantener la confianza en los sistemas impulsados por IA. Además, la ética en la implementación de la IA es crucial para evitar problemas como la desinformación o los sesgos. En este sentido, la seguridad y la protección de los datos de los usuarios también deben ser una prioridad, especialmente dado el entorno regulatorio en constante cambio en torno a la privacidad de los datos.

A medida que la IA se integra más en los servicios bibliotecarios, es crucial establecer un equilibrio adecuado entre la autonomía de las máquinas y el juicio humano. La transparencia, la ética y la seguridad son tres áreas clave donde los bibliotecarios deben intervenir para garantizar que la IA se utilice de manera responsable.

  1. Transparencia: Los bibliotecarios deben asegurarse de que las herramientas de IA sean transparentes sobre las fuentes de información que utilizan. Esto es fundamental para mantener la confianza de los usuarios en los resultados generados por la IA. Asegurarse de que las fuentes sean académicamente válidas y accesibles es una prioridad para preservar la integridad de la información.
  2. Ética: Los sistemas de IA deben diseñarse para evitar la desinformación, los sesgos y otros problemas éticos, como las «alucinaciones» (información incorrecta generada por IA). Los bibliotecarios desempeñan un papel esencial en la evaluación de la ética de las herramientas de IA, asegurando que los usuarios reciban información precisa y confiable.
  3. Seguridad: La privacidad de los datos de los usuarios es una prioridad. Los bibliotecarios deben asegurarse de que las herramientas de IA cumplan con los estándares de seguridad y las regulaciones globales de privacidad, protegiendo los datos sensibles mientras se brindan servicios personalizados a los usuarios.

Por último, se resalta que el futuro de las bibliotecas universitarias dependerá de cómo logren integrar la IA de manera efectiva, preservando la experiencia humana y el juicio profesional. A través de la promoción de la alfabetización digital y la colaboración con otras instituciones académicas y proveedores de tecnología, los bibliotecarios podrán asegurar que la IA se utilice de manera ética y efectiva, contribuyendo al desarrollo de la investigación y la enseñanza sin perder de vista los valores fundamentales de las bibliotecas.