Guía para el uso de IA generativa en educación e investigación

UNESCO. «Guía para el uso de IA generativa en educación e investigación», UNESCO 2024. https://unesdoc.unesco.org/ark:/48223/pf0000389227.

El documento describe cómo las herramientas de Inteligencia Artificial Generativa (IAGen) están avanzando rápidamente, superando la capacidad de adaptación de los marcos regulatorios nacionales. Esta situación plantea riesgos para la privacidad de los datos de los usuarios y deja a las instituciones educativas mal preparadas para validar estas herramientas. La UNESCO ha emitido una guía global para apoyar a los países en la implementación de acciones inmediatas, el desarrollo de políticas a largo plazo y la construcción de capacidades humanas, con un enfoque en la protección de valores humanísticos como la inclusión, la equidad y la diversidad.

La guía propone que los gobiernos regulen el uso de IAGen, protejan la privacidad de los datos y consideren establecer límites de edad para su uso. Además, establece requisitos para que los proveedores de IAGen garanticen un uso ético y efectivo en la educación. También se subraya la importancia de que las instituciones educativas validen la idoneidad ética y pedagógica de estas herramientas. Finalmente, la guía ofrece recomendaciones para diseñar el uso de IAGen en la educación, asegurando que estas herramientas realmente beneficien a los estudiantes, aprendices e investigadores, y protejan la intervención humana en el proceso educativo.


Informática inteligente para el patrimonio cultural

Wang, Xiaoguang, Marcia Lei Zeng, Jin Gao, y Ke Zhao, eds. Intelligent Computing for Cultural Heritage : Global Achievements and China’s Innovations. Taylor & Francis, 2025. https://directory.doabooks.org/handle/20.500.12854/140416.

Este libro ofrece una perspectiva global sobre los últimos avances y tendencias en las humanidades digitales y la computación inteligente aplicada al patrimonio cultural. Editado por Xiaoguang Wang, Marcia Lei Zeng, Jin Gao y Ke Zhao, el volumen reúne investigaciones académicas y estudios de caso de instituciones culturales de diversas regiones, como Asia, Europa, África, América del Norte y Australia.

El texto destaca enfoques innovadores y estudios de caso relacionados con los datos de humanidades y métodos digitales. Se enfoca especialmente en la investigación y pedagogía de las humanidades digitales, así como en la organización y preservación del patrimonio cultural, con énfasis en el desarrollo de repositorios de conocimiento digital y métodos de inteligencia digital en el patrimonio cultural.

Cada estudio de caso presenta características culturales y contextos académicos únicos, lo que da lugar a prioridades y direcciones temáticas diversas. Sin embargo, esta diversidad también puede generar desequilibrios y aislamiento en el campo. El libro proporciona valiosos conocimientos sobre las tendencias complejas en el desarrollo de las humanidades digitales, mostrando contribuciones globales de académicos e instituciones.

Este título está dirigido a investigadores y estudiantes de humanidades digitales y ciencias de la información, especialmente aquellos interesados en la gestión del patrimonio y la computación inteligente. También será de gran interés para profesionales que trabajan en la intersección de la tecnología y el patrimonio cultural.


La epidemia de la soledad: la crisis de salud de los usuarios de bibliotecas

«The Epidemic of Loneliness: The Library User Health Crisis». The Journal of Creative Library Practice (blog), 13 de agosto de 2024. https://creativelibrarypractice.org/2024/08/13/loneliness/.

Este ensayo examina los efectos negativos de la soledad en los usuarios de bibliotecas, su impacto en la salud y estrategias para que los trabajadores de bibliotecas aborden esta apremiante preocupación de salud pública. Se destaca cómo los trabajadores de bibliotecas tienen el potencial de transformar las bibliotecas en centros de conexión, apoyando a quienes luchan contra la soledad mediante empatía, creatividad y dedicación. Finalmente, el ensayo ofrece medidas prácticas para que los trabajadores de bibliotecas y otros profesionales de la información promuevan la conexión social dentro de sus instituciones y comunidades.

La soledad podría parecer, a primera vista, fuera de la misión de las bibliotecas. Sin embargo, los cinco valores fundamentales de la Asociación Americana de Bibliotecas (2024) subrayan la necesidad de que los individuos estén conectados consigo mismos, con el mundo que los rodea y con los demás. Como profesionales de bibliotecas, es parte de nuestra pasión y misión ayudar a las personas a alcanzar su mejor versión. Las bibliotecas ya están ofreciendo servicios y recursos para ayudar a las personas a conectarse. Este ensayo profundiza en los efectos negativos de la soledad, su impacto en la salud, y estrategias para que los trabajadores de bibliotecas aborden esta preocupación de salud pública. Los trabajadores de bibliotecas tienen el potencial de transformar las bibliotecas en espacios de conexión y pueden apoyar a aquellos que luchan contra la soledad mediante una combinación de empatía, creatividad y dedicación.

En el mundo actual, estamos más interconectados que en generaciones anteriores gracias a la tecnología. Sin embargo, muchas personas siguen experimentando una profunda soledad. Diversos estudios muestran una correlación positiva entre el consumo excesivo de medios y el aumento de la soledad. La soledad es una emoción inquietante que surge cuando una persona percibe una brecha entre sus necesidades sociales y la calidad o cantidad de sus interacciones sociales. A pesar de estar rodeados de otros, las personas pueden sentirse profundamente solas si sus relaciones carecen de profundidad y conexión significativa.

La soledad está asociada con graves riesgos para la salud, incluyendo enfermedades cardiovasculares, obesidad, demencia, depresión y muerte prematura. La soledad tiene implicaciones serias para el bienestar individual y social, afectando a personas de todas las edades y orígenes.

Las bibliotecas son un último refugio social, proporcionando una variedad de servicios esenciales para la comunidad. Los trabajadores de bibliotecas desempeñan un papel crucial en combatir la soledad al crear un ambiente inclusivo y ofrecer oportunidades para la interacción significativa. Estos esfuerzos mejoran la salud y la longevidad de las personas al fomentar la actividad social.

Se han propuesto diversas estrategias para fomentar la conexión social, como la prescripción social, que vincula a las personas con recursos locales, incluyendo bibliotecas, para crear un sistema de apoyo más integrado. Las bibliotecas, con su enfoque en el bienestar social y emocional, son un lugar ideal para implementar estas estrategias.

Las bibliotecas no solo proporcionan información, sino que también ofrecen apoyo emocional crucial. Al fomentar la diversidad, la equidad y la inclusión, y al crear programas y eventos que aborden las necesidades físicas, emocionales y sociales de los usuarios, las bibliotecas pueden jugar un papel fundamental en la mejora del bienestar de la comunidad y en la lucha contra la epidemia de soledad. Para ello es esencial que los trabajadores de bibliotecas identifiquen signos de soledad en los usuarios, ya que estos pueden no reconocer sus propios sentimientos de aislamiento. Al prestar atención a estas señales, el personal puede intervenir a tiempo y mejorar la experiencia del usuario mediante varios pasos prácticos.

Crear espacios acogedores: Las bibliotecas deben ser entornos cálidos e inclusivos para combatir la soledad. Se recomienda ofrecer diversas opciones de asientos y espacios para actividades grupales o interacción social. Señalización clara y accesibilidad para todos, incluidos aquellos con discapacidades, son esenciales para hacer sentir bienvenidos a los usuarios. Algunos consejos prácticos erían:

Ofrecer programas y colecciones diversas: Organizar clubes de lectura, talleres y foros comunitarios ayuda a conectar a las personas con intereses comunes. Es fundamental diseñar programas que atraigan a diferentes demografías e intereses, y que se adapten a las necesidades locales. Incluir colecciones de libros y materiales que reflejen la diversidad cultural y las preferencias de la comunidad es también clave.

Fomentar grupos de interés: Las bibliotecas pueden animar a grupos comunitarios a utilizar sus espacios para reuniones, ofreciendo recursos y asistencia para facilitar la conversación y la conexión entre los participantes.

Promover la alfabetización digital: Ofrecer talleres sobre herramientas de comunicación en línea y redes sociales ayuda a los usuarios a mantenerse conectados. Colaborar con expertos locales y crear guías accesibles para mejorar las habilidades digitales es crucial para reducir barreras en la interacción social.

Colaborar con socios comunitarios: Asociarse con organizaciones locales, escuelas y negocios para ofrecer programas diversos e innovadores puede atraer a un público más amplio y reforzar la integración de la biblioteca en la comunidad.

Ofrecer servicios de alcance: Llevar la biblioteca a la comunidad mediante bibliotecas móviles, eventos pop-up y servicios de entrega a domicilio ayuda a conectar con personas que no pueden acceder físicamente a la biblioteca, promoviendo la inclusión.

Fomentar oportunidades de voluntariado: Los programas de voluntariado bien organizados pueden proporcionar un sentido de propósito y pertenencia, mejorando el bienestar de los participantes y fortaleciendo la relación entre la biblioteca y la comunidad.

Fomentar conexiones interpersonales: Entrenar al personal en habilidades de comunicación efectiva y en la promoción de eventos puede hacer que los usuarios se sientan valorados y conectados. También es crucial proporcionar formación en sensibilidad racial y cultural para mejorar el servicio a comunidades marginadas.

Archivos Abiertos: el patrimonio documental cubano y la transformación digital

Kraft, Tobias, Rojas Castro, Antonio and Terrón Quintero, Grisel. Archivos Abiertos: el patrimonio documental cubano y la transformación digital, Berlin, Boston: De Gruyter, 2024. https://doi.org/10.1515/9783111187846

La era digital está transformando la forma en que preservamos, publicamos e investigamos nuestro patrimonio cultural: los archivos y las bibliotecas se reorganizan, las colecciones patrimoniales resucitan bajo nuevas formas. Este volumen presenta la producción del «Proyecto Humboldt Digital» (La Habana/Berlín) y los resultados de una conferencia de 2022 que reunió a bibliotecarios, archiveros, académicos e instituciones patrimoniales del contexto cubano e iberoamericano.

Cómo pueden utilizarse los chatbots de inteligencia artificial para mejorar la investigación científica

Pividori, Milton. «Chatbots in Science: What Can ChatGPT Do for You?» Nature, 14 de agosto de 2024. https://doi.org/10.1038/d41586-024-02630-z.

El artículo de Milton Pividori explora cómo los chatbots de inteligencia artificial, como ChatGPT, pueden ser utilizados para mejorar la investigación científica. A lo largo de 18 meses, su equipo se dedicó a estudiar cómo integrar esta tecnología en tareas diarias como revisiones de literatura, redacción de textos académicos y programación, con el objetivo de aumentar la productividad y mejorar la calidad de la ciencia.

Milton Pividori, un investigador financiado por organizaciones sin fines de lucro como la Fundación Alfred P. Sloan y la Iniciativa Chan Zuckerberg, ha dedicado 18 meses a explorar cómo ChatGPT, un chatbot de inteligencia artificial (IA) basado en un modelo de lenguaje de gran escala, puede ser utilizado para mejorar la investigación científica. Desde su lanzamiento en noviembre de 2022, ChatGPT ha captado la atención mundial por su capacidad para responder preguntas complejas, redactar ensayos sofisticados y generar código fuente. Pividori y su equipo se han centrado en integrar esta tecnología en tareas cotidianas de la investigación, como la revisión de literatura, la redacción de textos académicos y la programación de código, con el objetivo de mejorar la productividad y la calidad del trabajo científico.

Una de las lecciones clave que Pividori destaca es la importancia de la ingeniería de prompts, es decir, la forma en que se formulan las preguntas o comandos para interactuar con el chatbot. Un buen prompt debe ser claro y específico, detallando exactamente lo que se espera que el modelo haga. Esto incluye pedir al chatbot que asuma un rol específico, como el de un editor profesional, y proporcionar ejemplos claros de lo que se espera en la respuesta. Según Pividori, la capacidad de un chatbot para proporcionar resultados útiles depende en gran medida de la calidad de los prompts que recibe.

Otra lección importante es la necesidad de identificar qué tareas son adecuadas para delegar en un chatbot y cuáles no. Pividori señala que no todas las fases del trabajo científico son aptas para ser manejadas por una IA. Por ejemplo, en la etapa inicial de revisión de literatura, donde se requiere creatividad y pensamiento crítico para formular preguntas de investigación y analizar profundamente los artículos, es esencial que los investigadores participen activamente. Sin embargo, una vez que se ha definido el marco de investigación y se necesita realizar tareas más rutinarias o menos críticas, como resumir artículos menos relevantes, los chatbots pueden ser de gran ayuda.

Además, Pividori argumenta que utilizar chatbots para escribir es menos riesgoso que utilizarlos para leer y analizar textos científicos. Al redactar, el investigador mantiene control sobre el resultado final y puede corregir errores o «alucinaciones» del modelo. En contraste, al confiar en un chatbot para leer y resumir un artículo, se corre el riesgo de que se omitan detalles importantes o se interpreten mal los datos. Pividori sugiere un enfoque en el que el investigador escriba primero el texto y luego use el chatbot para revisar y mejorar la redacción, aplicando reglas específicas para la estructura de manuscritos científicos. Este enfoque permite mantener un alto nivel de precisión y control sobre el contenido generado.

En conclusión, aunque los chatbots como ChatGPT tienen un gran potencial para aumentar la eficiencia en la investigación científica, es crucial entender sus limitaciones y utilizarlos de manera estratégica. Los investigadores deben identificar cuidadosamente qué tareas pueden delegarse a la IA y cuáles requieren la intervención directa y el juicio creativo del ser humano. Al hacerlo, es posible aprovechar lo mejor de ambos mundos: la capacidad de procesamiento y automatización de la IA y la creatividad y el pensamiento crítico humanos.

Estrategias para ayudar a las bibliotecas universitarias a lograr el éxito de los estudiantes

IFLA. «Three (and a Half) Strategies to Help Academic Libraries Achieve Student Success». Accedido 22 de agosto de 2024. https://www.ifla.org/news/three-and-a-half-strategies-to-help-academic-libraries-achieve-student-success/.

El artículo explora estrategias clave que las bibliotecas universitarias pueden adoptar para impulsar el éxito estudiantil, con un enfoque particular en las iniciativas implementadas por las bibliotecas de la Universidad Nacional de Singapur (NUS). El éxito estudiantil, en este contexto, no se define únicamente por el rendimiento académico, sino también por factores holísticos que incluyen la comunidad, las relaciones sociales y otros resultados que enriquecen la experiencia educativa.

1. Reimaginar el sentido de lugar a través de la creación de espacios (placemaking): NUS ha adoptado la «creación de espacios» como una estrategia central para redefinir el papel de las bibliotecas en la vida estudiantil. Esta iniciativa se enfoca en transformar las bibliotecas en centros comunitarios vibrantes que van más allá de ser simples lugares para estudiar. Las bibliotecas han sido renovadas para ofrecer áreas de estudio ampliadas, zonas dedicadas a la exploración tecnológica y espacios sociales como cafeterías. Además de satisfacer las necesidades universitarias de los estudiantes, estas transformaciones han permitido a las bibliotecas albergar una variedad de eventos, desde conferencias universitarias hasta talleres culturales, que fomentan tanto el desarrollo intelectual como social. Estos eventos, que incluyen actividades como talleres de cocina coreana y conferencias sobre botánica comparativa, subrayan el rol central de las bibliotecas como lugares que integran aprendizaje y comunidad.

2. Innovar el aprendizaje a través de la tecnología: Las bibliotecas de NUS han adoptado un papel activo en la integración de la tecnología en la enseñanza y la investigación, alineándose con la tendencia de la universidad hacia el aprendizaje híbrido. Una de las formas en que las bibliotecas han innovado es mediante la creación de experiencias digitales inmersivas que hacen que las colecciones cobren vida. Un ejemplo destacado es «Panji Across SEA: Love That Transcends Time», un proyecto de narración en 3D basado en una de las versiones más conocidas de los cuentos javaneses de Panji, disponible en la colección Singapur-Malasia de NUS. Además, las bibliotecas han utilizado conceptos de juegos, como salas de escape, para ofrecer experiencias de aprendizaje gamificadas que no solo promueven la interacción con la tecnología, sino que también permiten a los estudiantes explorar las colecciones de manera innovadora. Estas iniciativas tecnológicas no solo enriquecen el aprendizaje, sino que también posicionan a las bibliotecas como catalizadores de la innovación educativa.

3. Aumentar la visibilidad de las colecciones: Para incrementar la visibilidad y el uso de sus amplias colecciones, NUS ha implementado iniciativas como la Beca de Investigación para Estudiantes Universitarios (URLF), que proporciona a los estudiantes no solo acceso privilegiado a las colecciones, sino también apoyo financiero y de investigación. Estos becarios, además de avanzar en sus propios proyectos de investigación, contribuyen al desarrollo de las colecciones al identificar áreas de necesidad y brechas, trabajando en estrecha colaboración con los bibliotecarios. Este enfoque colaborativo no solo enriquece las colecciones, sino que también convierte a los estudiantes en embajadores de la biblioteca, quienes pueden compartir de primera mano el valor de los recursos disponibles para la comunidad académica.

Estrategia adicional (media estrategia): Co-creación con la comunidad: La co-creación es un pilar esencial de la estrategia de NUS. Reconociendo que la biblioteca no tiene todas las respuestas a las necesidades de su comunidad, NUS enfatiza la importancia de trabajar junto con estudiantes y profesores para desarrollar soluciones que realmente respondan a los desafíos educativos actuales. Este enfoque colaborativo es visto como una relación simbiótica, donde los aportes de la comunidad informan y mejoran las ofertas de la biblioteca, lo que a su vez retroalimenta la comunidad con experiencias de aprendizaje mejoradas. La co-creación también fortalece la capacidad de la biblioteca para adaptar sus servicios y recursos a las necesidades específicas de su comunidad, lo que a largo plazo contribuye al aprendizaje continuo y mejora la empleabilidad futura de los estudiantes.

En conclusión, estas estrategias no solo destacan cómo las bibliotecas pueden apoyar el éxito estudiantil, sino que también demuestran cómo pueden evolucionar más allá de su rol tradicional de custodios de información, para convertirse en creadores de experiencias significativas y centros de descubrimiento para sus comunidades. NUS ejemplifica cómo la innovación, la tecnología y la colaboración pueden transformar las bibliotecas universitarias en instituciones dinámicas y centradas en el estudiante, que responden a las demandas cambiantes del entorno educativo.

Construyendo una Red Nacional de Guías de Archivo (NAFAN)

Turner, A., Schiff, L., Mitchell, C., & Waibel, G. (2024). Building a National Finding Aid Network: Final Report. UC Office of the President: California Digital Library. Retrieved from https://escholarship.org/uc/item/6xr6q38m

El informe final del proyecto de investigación «»Building a National Finding Aid Network» (NAFAN) para el periodo 2020-2023, traza un plan para crear y lanzar una red nacional de guías de archivo que sea impulsada, sostenida y gobernada por la comunidad. El proyecto aborda un desafío fundamental para los investigadores: las barreras significativas para localizar materiales archivísticos relevantes en un campo vasto y distribuido de instituciones de patrimonio cultural, muchas de las cuales carecen de recursos suficientes.

Las guías de archivo, que proporcionan descripciones y resúmenes de colecciones archivísticas, son esenciales para la investigación, pero muchas de estas guías no están disponibles en línea. Además, los esfuerzos regionales y estatales para agrupar estas guías suelen ser limitados y están en riesgo debido al envejecimiento de la infraestructura y la reducción de presupuestos. Como resultado, gran parte del contenido archivado en Estados Unidos permanece relativamente invisible, lo que implica que muchas voces documentadas están subrepresentadas en el registro histórico.

El proyecto NAFAN se propone abordar estos desafíos estableciendo una red nacional accesible para todos los contribuyentes e investigadores. Para ello, se llevaron a cabo varias líneas de trabajo: construcción de comunidad y compromiso con las partes interesadas, investigación para entender las necesidades de los investigadores y archivos, evaluación técnica de sistemas potenciales para la red, y modelos de negocio y gobernanza para asegurar la sostenibilidad a largo plazo.

Los hallazgos subrayan la necesidad de una infraestructura centralizada y sostenible que aumente la capacidad y visibilidad de los archivos. También destacan la importancia de centrar las prioridades locales y de incluir a los archivos comunitarios en la planificación y ejecución del proyecto desde el principio.

El proyecto propone un modelo de membresía basado en la «capacidad de pago» para mantener la red, lo que permitiría a los archivos acceder a una infraestructura compartida y reducir costos. La gobernanza de la red también estaría en manos de la comunidad, garantizando que la equidad, inclusión y necesidades de todas las instituciones participantes sean atendidas.

Finalmente, el informe recomienda un enfoque gradual y comunitario para desarrollar la red en tres fases durante un horizonte de 4 a 5 años: establecer una coalición y liderazgo expandido, desarrollar y lanzar un «Producto Mínimo Viable» de la red, y expandir la funcionalidad para apoyar una red más completa y una estructura de gobernanza robusta. Esta iniciativa podría tener un impacto transformador al reducir las barreras para la investigación, expandir el registro histórico y ofrecer un nuevo camino hacia una agregación sostenible de archivos a nivel nacional.

Europeana Impact Playbook ayuda a elaborar recomendaciones sobre metadatos del patrimonio cultural

Europeana PRO. «Europeana Impact Playbook Helps to Develop Recommendations for Cultural Heritage Metadata». Accedido 22 de agosto de 2024. https://pro.europeana.eu/post/europeana-impact-playbook-helps-to-develop-recommendations-for-cultural-heritage-metadata.

Europeana Pro que el Europeana Impact Playbook ofrece un enfoque paso a paso para que los profesionales del patrimonio cultural diseñen, midan y narren el impacto. Un grupo de trabajo en Alemania utilizó este manual para desarrollar recomendaciones destinadas a ayudar a los museos a preparar los metadatos de sus colecciones para su publicación en línea.

En la Deutsche Digitale Bibliothek, se detectó que los museos tenían dificultades para entender los requisitos técnicos de metadatos necesarios para publicar sus datos en la plataforma. Para resolver esto, se decidió crear recomendaciones accesibles que ayudaran a los museos a cumplir con los estándares de documentación y a preparar los metadatos de sus objetos para la publicación en línea. Desde 2022, más organizaciones se unieron al grupo de trabajo para desarrollar estas recomendaciones.

Se optó por utilizar el Impact Playbook para garantizar que las recomendaciones fueran ampliamente aceptadas. Se realizó un ejercicio basado en el Change Pathway, que ayudó a definir claramente los objetivos y actividades del grupo. Se crearon subgrupos para analizar estándares existentes y definir el impacto, manteniendo el enfoque en las necesidades de los interesados.

También se identificaron varias categorías de interesados, como profesionales de museos, consultores, proveedores de software y beneficiarios de datos de patrimonio cultural. Utilizando el Empathy Map del Playbook, se recopilaron opiniones de usuarios potenciales y se realizaron entrevistas con proveedores de software. Esta retroalimentación ayudó a ajustar la recomendación y a lograr que varios proveedores de software modificaran sus funciones de exportación de datos.

Europeana Impact Playbook está disponible para su uso y puede ser una herramienta útil para quienes trabajan en el ámbito del patrimonio cultural. También se puede unirse a la Comunidad de Impacto de Europeana para conectar con otros profesionales, desde principiantes hasta expertos.

El grupo de trabajo espera que la recomendación mínima ayude a preparar los datos para el espacio de datos europeo común y para la formación de aplicaciones de inteligencia artificial, y planea consultar nuevamente el Europeana Impact Playbook para extender la recomendación a nivel internacional.

 “AI Scientist” de Sakana AI investiga de forma autónoma desafiando las normas científicas

AI, Sakana. «Sakana AI The AI Scientist: Towards Fully Automated Open-Ended Scientific Discovery», 13 de agosto de 2024. https://sakana.ai/.

AI Scientist” es el primer sistema integral para la investigación científica completamente automática. Este sistema permite que los Modelos de Lenguaje Grande (LLMs) realicen investigaciones de manera independiente.

Uno de los grandes desafíos de la inteligencia artificial es desarrollar agentes capaces de realizar investigaciones científicas y descubrir nuevo conocimiento. Aunque los modelos actuales ya ayudan a los científicos humanos en tareas como generar ideas o escribir código, aún requieren mucha supervisión y están limitados a tareas específicas.

Sakana AI, junto con científicos de las universidades de Oxford y British Columbia, ha desarrollado un sistema de inteligencia artificial llamado “AI Scientist”. Este innovador sistema es capaz de realizar investigaciones científicas de manera autónoma, cubriendo todo el proceso de investigación, desde la generación de ideas hasta la elaboración de manuscritos científicos completos.

“AI Scientist” automatiza diversas etapas, como la creación y evaluación de nuevas ideas, la ejecución de experimentos, la recopilación de datos y la redacción de informes científicos. Sin embargo, este avance también suscita preguntas importantes sobre el rol futuro de los científicos humanos. Aunque la IA es eficaz en el procesamiento de grandes cantidades de datos y en la identificación de patrones, la intuición, creatividad y juicio ético humanos continúan siendo indispensables.

Este proceso incluye:

  1. Generación de Ideas: El Científico de IA «brainstormea» nuevas direcciones de investigación, basándose en un código inicial y en búsquedas en Semantic Scholar para asegurar la novedad de las ideas.
  2. Iteración Experimental: Ejecuta los experimentos propuestos, produce gráficos y notas que se usan en la redacción del artículo.
  3. Redacción del Artículo: Redacta un informe conciso y claro en LaTeX, citando autonomamente artículos relevantes.
  4. Revisión Automatizada de Artículos: Desarrolla un revisor automático basado en LLM que evalúa los artículos con una precisión casi humana, mejorando continuamente la producción científica del sistema.

Pese a su potencial, “AI Scientist” tiene varias limitaciones. No es capaz de hacer preguntas a los autores ni de interpretar figuras, y frecuentemente genera propuestas similares en diferentes ejecuciones. Además, puede fallar en la implementación de ideas y presenta desafíos en aspectos visuales y de citación. Los resultados producidos deben considerarse como sugerencias para futuras investigaciones más que como ciencia definitiva.

“AI Scientist” abre una caja de Pandora de nuevos problemas, aunque el informe completo discute estos temas en mayor detalle. Entre los problemas clave se encuentran las consideraciones éticas y el impacto potencial en el proceso académico. Aunque “AI Scientist” puede ser una herramienta útil para los investigadores, su capacidad para crear y enviar automáticamente artículos puede aumentar significativamente la carga de trabajo de los revisores y tensar el proceso académico, afectando el control de calidad científica. Esto es similar a las preocupaciones en torno a la IA generativa en otras aplicaciones, como la generación de imágenes.

Además, el Revisor Automatizado, si se despliega en línea, podría reducir significativamente la calidad de las revisiones e imponer sesgos indeseables en los artículos. Por ello, es fundamental que los artículos y revisiones generados por IA sean identificados como tales para asegurar la transparencia total.

Como con muchas tecnologías anteriores, “AI Scientist” tiene el potencial de ser utilizado de manera poco ética. Por ejemplo, podría realizar investigaciones no éticas o peligrosas si se le da acceso a laboratorios virtuales para realizar experimentos biológicos. Esto podría dar lugar a la creación de virus o sustancias tóxicas antes de que se detecten los riesgos. Del mismo modo, podría desarrollar virus informáticos peligrosos si se le solicita crear software funcional. Estas capacidades en mejora subrayan la necesidad urgente de alinear estos sistemas con valores éticos y garantizar que exploren de manera segura.

En cuanto a los modelos utilizados, se emplearon modelos de frontera propietarios, como GPT-4o y Sonnet, pero también se exploraron modelos abiertos como DeepSeek y Llama-3. Aunque los modelos propietarios actuales producen los mejores artículos, no hay razón fundamental para que un solo modelo mantenga esta ventaja. Se espera que todos los LLMs, incluidos los modelos abiertos, continúen mejorando. La competencia entre LLMs ha llevado a su mayor disponibilidad y capacidades mejoradas, y el trabajo busca ser independiente del proveedor del modelo base. Los modelos abiertos ofrecen beneficios significativos, como menor costo, disponibilidad garantizada, mayor transparencia y flexibilidad. El objetivo es usar estos modelos en un sistema cerrado de investigación automejorado.

Finalmente, aunque se imagina un ecosistema científico completamente impulsado por IA que incluya investigadores, revisores y conferencias, no se cree que el papel del científico humano se vea disminuido. Más bien, este rol evolucionará y se adaptará a la nueva tecnología, moviéndose hacia tareas de mayor nivel.

El coste del ciberataque informático a la British Library se estima en 400.000 libras

The Stack. «British Library Reveals £400,000 Plan to Rebuild after “Catastrophic” Ransomware Attack», 21 de agosto de 2024. https://www.thestack.technology/british-library-ransomware/.

En octubre de 2023, la Biblioteca Británica sufrió un ataque de ransomware tan grave que un exdirector del Centro Nacional de Ciberseguridad lo calificó como «uno de los peores incidentes cibernéticos en la historia del Reino Unido». Ahora, casi un año después, la biblioteca ha presentado un plan de 400.000£ para recuperarse de esta catástrofe, que dejó su sitio web sin un sistema de gestión de contenido (CMS) adecuado y forzó el cierre continuo de archivos físicos y virtuales.

La biblioteca ha lanzado una licitación de 400.000£ para la primera fase de su proyecto «Web Foundations», que tiene como objetivo reconstruir su sitio web para que sea «robusto, escalable, sostenible y seguro». Este proyecto no solo busca ofrecer una excelente experiencia a usuarios y editores, sino también permitir la expansión rápida de otras áreas de contenido y sentar las bases para futuras integraciones con sistemas backend.

El ataque ocurrió el 28 de octubre de 2023, cuando el grupo de ransomware Rhysida accedió a través de un servidor vulnerable. La biblioteca se negó a pagar un rescate de 20 bitcoins (aproximadamente £600,000 en ese momento) y los atacantes filtraron 600GB de datos en la web oscura. Estos datos incluían información personal de usuarios y empleados de la biblioteca.

El ciberataque no solo comprometió datos, sino que también destruyó servidores, lo que ha complicado la recuperación de las colecciones digitales de la biblioteca. Aunque la biblioteca tiene copias seguras de sus colecciones, la falta de infraestructura viable ha retrasado la restauración. La vulnerabilidad de la biblioteca se vio exacerbada por la dependencia de aplicaciones antiguas que, en su mayoría, no pueden ser restauradas debido a la obsolescencia técnica y la falta de soporte.

En julio de 2024, la biblioteca seguía lidiando con las secuelas del ataque. Su director ejecutivo, Sir Roly Keating, destacó el tiempo que ha tomado restaurar los servicios, lo que refleja la magnitud del daño. Se espera que algunos servicios no estén disponibles hasta septiembre de 2024, y partes importantes de la colección física aún no han sido restauradas.

El ataque probablemente involucró la obtención de credenciales privilegiadas a través de phishing o ataques de fuerza bruta, y los métodos utilizados por los atacantes incluyeron evasión de defensas y técnicas anti-forenses para borrar evidencias.