Archivo de la etiqueta: Evaluación

Manifiesto por las métricas socioterritoriales de la ciencia la tecnología y la innovación

Cancino, Ronald and Albis Salas, Nadia and Villarroel Valenzuela, Jacqueline and Robles Belmont, Eduardo and Oliveira [et al.] Manifiesto por las métricas socioterritoriales de la ciencia la tecnología y la innovación 2024

Ver

La ciencia, la tecnología y la innovación han devenido en un verdadero motor de transformaciones de toda índole en escalas locales y globales. Sin embargo, las capacidades desigualmente distribuidas a nivel mundial han generado desarrollos desproporcionales en estas distribuciones. No es tan solo un problema de la ciencia en sí, sino del modo en cómo se han desarrollado las sociedades, las relaciones entre ellas, y el rol que han jugado la ciencia y la tecnología en la dinámica y el desarrollo de las sociedades. Hoy, a los problemas de asimetrías, desigualdad, exclusión y marginalidad, se suman pandemias, migraciones forzadas, extractivismo y los efectos visibles de la autonomización del cambio climático como generador de transformaciones y desastres locales y globales en los que la ciencia y la tecnología juegan un rol central en su comprensión, mitigación, prevención y solución. De este modo, el desarrollo de capacidades y el conocimiento sobre su distribución local y global son fundamentales para una actuación en el mundo contemporáneo. En este contexto, una verdadera transformación en la ciencia parece experimentarse. La conformación de redes, la demanda por impactos, la investigación mediante y en mundos virtuales y simulados, junto al creciente movimiento por el acceso y la ciencia abierta y ciudadana, son acompañados por permanentes ajustes y rediseños institucionales, actualizaciones de políticas, nuevas prioridades, instrumentos y una tendencia creciente a alinearse, por ejemplo, a los Objetivos de Desarrollo Sostenible. En este contexto, los esfuerzos para conocer, comprender y gestionar las capacidades de ciencia, tecnología e innovación, mediante métricas y formas de evaluación científica, continúan centrados en formas tradicionales y en métricas de impacto de citaciones articuladas a formas de evaluación, financiación y gasto en sistemas de publicaciones transnacionales. Los movimientos locales, nacionales y globales por la apertura de la ciencia y su evaluación son cada vez más activos, y permean de manera muy incipiente las políticas de ciencia, tecnología e innovación. Proponemos que, en estos esfuerzos, debemos incorporar un conjunto de principios que permitan construir métricas para la medición de capacidades y formas de evaluación que consideren las características, requerimientos y demandas socioterritoriales respecto de las cuales actúan y se desarrollan capacidades científicas y tecnológicas.

Los científicos que dedican tiempo a revisar manuscritos no reciben recompensas por sus esfuerzos. Es hora de cambiar eso.

Magazine, Undark. «The Misplaced Incentives in Academic Publishing». Undark Magazine, 4 de julio de 2024. https://undark.org/2024/07/04/opinion-misplaced-incentives-academic-publishing/.

Las lamentaciones sobre los modelos actuales de publicación académica provienen de todos los rincones de la comunidad científica. ¿Cómo funciona el sistema? El científico redacta los resultados de su estudio en forma de artículo. Ese artículo es revisado por «pares» (normalmente otros científicos) para una revista. Con pocas excepciones, esta es la ruta necesaria para publicar trabajos en el ecosistema profesional de la ciencia.

Los argumentos en contra son muchos, pero tienden a centrarse en características dudosas de la revisión por pares y el modelo de negocio de las revistas que publican informes revisados por pares sobre nuevas investigaciones. Las revistas cobran a las instituciones por suscripciones, y a menudo los investigadores individuales pagan hasta miles de dólares por artículo para su publicación. Todo esto mientras las revistas utilizan mano de obra gratuita o de bajo costo de editores y revisores. La hipocresía relacionada es que estas revistas se benefician de investigaciones pagadas por los contribuyentes, financiadas a través de organismos federales como la National Science Foundation y los National Institutes of Health.

A pesar de que el público financia gran parte de este trabajo, la mayor parte permanece tras un muro de pago, accesible gratuitamente solo para aquellos afiliados a instituciones que pueden pagar suscripciones (y los raros individuos que pueden pagar por sí mismos), eliminando así a la mayoría del público de la ciencia ciudadana. Muchas de las revistas que ofrecen artículos de «acceso abierto» lo hacen cobrando una tarifa exorbitante a los investigadores para publicar.

Pero por condenables que sean estos cargos, solo capturan un aspecto de la hipocresía y la irracionalidad en el modelo de publicación académica. Esto ha llevado a concluir que muchos de los mayores pecados, no apreciados, de la publicación no surgen de las revistas en sí, sino del ecosistema profesional que define la academia moderna. La estructura de incentivos fomenta un comportamiento que refuerza el modelo de publicación actual, que está roto.

El sistema actual recompensa la productividad individual mucho más que las contribuciones al sistema que fomenta la productividad. Es decir, la ciencia académica ha creado un desajuste entre los deseos y necesidades de los científicos individuales y el esfuerzo necesario para mantener una empresa científica sostenible, donde los comentarios de sus pares son necesarios.

Los científicos más experimentados suelen aconsejar dejar de lado la revisión de manuscritos o el servicio como editor de una revista y en su lugar centrarse en la propia producción. Este es un excelente consejo para un proceso pervertido: la revisión por pares de calidad es lo que da confianza en que la investigación que se lee en las revistas es de alta calidad. Pero la centralidad de la revisión por pares se basa en la suposición de que las personas evaluarán cuidadosamente el trabajo de otros por buena voluntad, o que los autores reconocerán las horas de trabajo que requieren las publicaciones de los revisores devolviendo el favor.

Seguramente, la participación de los científicos en el proceso puede ayudar a su propia productividad: los académicos construyen relaciones con los editores de revistas en las que podrían publicar sus propios manuscritos, y leer y revisar manuscritos les expone a nuevos trabajos. Pero en el mejor de los casos, estos beneficios son indirectos. Hablando claramente, prácticamente nadie en la historia de la ciencia profesional ha sido promovido o recompensado significativamente por proporcionar revisiones estelares del trabajo de otros. Aquellos que pasan horas mejorando el trabajo de sus pares a menudo lo hacen como un favor (o más bien, como una «donación»).

El sistema actual recompensa la productividad individual mucho más que las contribuciones al sistema que fomenta la productividad.

No es necesario estar versado en teoría de juegos evolutiva para reconocer cómo este sistema selecciona el comportamiento egoísta: las perspectivas de carrera de un científico son mucho mejores si decide solo producir manuscritos, en lugar de participar en su evaluación. El problema aquí puede describirse en términos termodinámicos: para que el sistema funcione responsablemente, la energía invertida debería ser aproximadamente igual a la energía que se obtiene. Muchos manuscritos publicados de impacto fueron producto del trabajo de dos o tres (o más) revisores. La única forma de agregar balance energético sería que cada investigador revisara dos o tres manuscritos por cada uno que publican como autor principal o corresponsal (uno de los que lideraron el esfuerzo de investigación). Desafortunadamente, los propios intereses de los científicos tienen prioridad.

Impresionantemente, el incentivo al egoísmo funciona tanto para científicos junior como senior. Los científicos junior deben centrarse en sí mismos porque la productividad es la clave para el ascenso profesional. Para los científicos senior, no hay razón para participar porque su (a menudo bien ganada) seguridad laboral elimina prácticamente cualquier consecuencia de no participar. Debido a la falta de incentivos, incluso las revistas de alto impacto pueden tener dificultades para encontrar revisores capacitados para los manuscritos enviados.

Los asociados postdoctorales y los estudiantes de posgrado pueden y deben participar formalmente en la revisión por pares porque muchos están calificados para hacerlo, y porque evaluar manuscritos es un excelente ejercicio de formación para el científico en desarrollo. Pero la motivación para incluir a los aprendices en la revisión por pares no es un nuevo deseo de formar a los científicos junior en todos los aspectos de la ciencia. Más bien, se necesita incluirlos porque se está quedando sin voluntarios más experimentados, y se debe encontrar la mano de obra donde pueda encontrarse.

La crisis de revisores tiene otros efectos perniciosos. Si todos los que son autores principales de un manuscrito que es revisado no devuelven el esfuerzo, entonces las matemáticas resultantes no cuadran tan bien: menos personas revisan manuscritos que las que los escriben. ¿El problema aquí? Las mentes que revisan nuevos trabajos deberían idealmente ser tan diversas en perspectiva como los autores que generan el trabajo. Este no es un problema de equilibrio, sino uno relacionado con la innovación: las diferentes perspectivas están mejor equipadas para apreciar la vasta gama de ciencia que se está llevando a cabo en todo el mundo.

Sin una gran y diversa base de revisores, un número relativamente pequeño de individuos moldea el trabajo que termina en las revistas. Incluso si esta pequeña fracción de súper-revisores son personas honestas y confiables, sus sesgos, metodológicos o de otro tipo, seguramente sesgarán los tipos de investigación que terminan en las páginas de nuestras revistas favoritas.

Al final, señalar estos defectos podría ser poco más que otra contribución al popular universo de quejas académicas. Se pueden identificar cosas del sistema que no gustan, que socavan la calidad, la originalidad y la inclusividad. Y algunos de estos elementos son legítimamente difíciles de cambiar.

Las mentes que revisan nuevos trabajos deberían idealmente ser tan diversas en perspectiva como los autores que generan el trabajo.

Sin embargo, la publicación académica es diferente de muchos otros rincones defectuosos de la ciencia profesional. Y algunas de las soluciones se pueden lograr con actividades relativamente de bajo esfuerzo. El pago por la revisión es una solución propuesta popular. Pero otras pueden lograrse sin consideraciones financieras. Por ejemplo, los decanos de ciencia en instituciones de élite podrían reunirse mañana (vía Zoom) y decidir una forma formal de incentivar fuertemente la participación en todos los aspectos del proceso de publicación. Podrían reconocer una verdad no reconocida: el científico que evalúa manuscritos regularmente, reanaliza datos y proporciona comentarios reflexivos y extensos es tanto un protector y promotor de la ciencia original como el que publica exclusivamente manuscritos por su cuenta. Estas son áreas factibles donde el liderazgo puede cambiar la conversación en relativamente poco tiempo. Por supuesto, existen grandes barreras para que algo de este tipo se ponga en práctica.

Al final, los intentos de racionalizar el sistema existente con argumentos como «Esto es lo que todos los demás están haciendo y lo que se ha hecho en el pasado» no pueden ser defendidos por ningún tipo de pensamiento maduro. Los caminos hacia muchos tipos de infierno están pavimentados con «Solo trabajo aquí».

Es necesario ser empático. Cambiar las cosas requiere tiempo y energía. Los sistemas que sustentan la publicación académica son subproductos de decisiones y no decisiones de personas ostensiblemente inteligentes que son hábiles en revelar las maravillas del mundo natural. Es hora de que dirijan su ingenio hacia adentro, hacia la creación de un nuevo sistema que recompense activamente a todos los que mantienen viva la ciencia.

Las altmetrics en tiempos de la IA


Stuart, David. Have we reached the limits of altmetrics? | Research Information. (2024.). Recuperado 29 de junio de 2024,

Ver original



Las altmetrics han crecido en popularidad, pero la IA amenaza su legitimidad al facilitar la manipulación de métricas. A medida que la creación de contenido automatizado aumenta, la relevancia y precisión de las altmetrics se debilitan. Las métricas web deberán adaptarse para seguir siendo útiles en el futuro.

Es fascinante observar el crecimiento de las altmetrics y otras métricas web en los últimos 20 años. Han pasado de ser una curiosidad a estar integradas en las páginas web de las universidades y editoriales académicas más grandes del mundo. Los desarrollos tecnológicos, la estandarización y el creciente interés en métricas alternativas han llevado a que la información sobre el número de vistas o menciones en redes sociales de una publicación se destaque junto a otras métricas más establecidas.

Sin embargo, el éxito pasado no garantiza el crecimiento futuro, y la web está en constante cambio. El mayor disruptor de la web hoy en día es indudablemente la inteligencia artificial (IA), y aunque el impacto futuro completo de la IA es actualmente desconocido, surge la pregunta de si hemos llegado a los límites de las altmetrics.

En un mundo que cambia rápidamente, las métricas apelan a la objetividad. Ya sea que se utilicen para evaluación, motivación o celebración, ofrecen la promesa de algo más sólido que una simple opinión individual. Durante mucho tiempo, en la publicación académica, las métricas dominantes se basaron en citas. A pesar de que se reconocen las limitaciones del análisis de citas, se siente que al agregar y normalizar citas de diferentes maneras, se puede indicar algo de valor.

El cambio a la publicación en línea aumentó considerablemente las métricas disponibles. La rica variedad de datos en tiempo real sobre el uso de una publicación y el surgimiento de altmetrics de las redes sociales prometieron proporcionar una comprensión más rápida y matizada del impacto de la investigación, más allá del ámbito académico y de las publicaciones formales. Sin embargo, las publicaciones informales son más susceptibles a la manipulación que las formales, y parece que justo cuando las altmetrics comienzan a ganar mayor aceptación, su legitimidad podría verse socavada. Hasta ahora, los problemas de manipulación han sido mínimos, pero con la IA, existe el riesgo de que estas métricas informales se vuelvan rápidamente insignificantes.

La IA incrementa tanto el riesgo de manipulación deliberada de métricas como el ruido general en el sistema de publicaciones académicas. Todas las métricas están abiertas a la manipulación, y es inevitable que individuos y organizaciones actúen de manera que logren la impresión más favorable. Como establece la ley económica de Goodhart: “Cuando una medida se convierte en un objetivo, deja de ser una buena medida”. Aunque las consecuencias negativas de las métricas en la publicación académica pueden no ser tan evidentes como cuando un médico solo quiere atender a pacientes con resultados favorables, o la policía solo registra delitos que son fáciles de resolver, el énfasis excesivo en las métricas corre el riesgo de socavar el sistema. El problema de las fábricas de artículos de investigación, que producen artículos que luego son retractados, ha crecido recientemente, y es probable que el problema aumente a medida que las mejoras en la IA generativa hagan cada vez más difícil identificar dichos artículos. En la publicación académica, sin embargo, todavía hay muchos controles humanos, pocos de los cuales se aplican a las altmetrics.

La historia de las métricas web ha sido tanto de la creciente facilidad con la que se pueden recopilar como de la facilidad con la que se pueden manipular. Hace casi 20 años, la unidad de elección para contar era el hipervínculo. Aunque cualquiera podría haber creado múltiples sitios web con diferentes dominios para aumentar el impacto de su presencia en línea, el costo en tiempo y dinero, y el poco interés en las métricas web en la comunidad académica, significaba que la mayoría de las personas preferían dedicar su tiempo a crear mejores publicaciones académicas. La estandarización de los grandes sitios de redes sociales, sin embargo, proporcionó tanto mayor interés en las métricas web como una menor barrera para crear un impacto en línea. Ya no era necesario crear múltiples sitios web, solo diferentes perfiles en múltiples plataformas de redes sociales. El costo, en su mayoría, se había reducido a cero, todo lo que se necesitaba era tiempo. Con la IA, sin embargo, el tiempo involucrado también puede reducirse a cero, al menos después de la configuración inicial.

No es difícil imaginar un futuro cercano en el que, si se desea generar cientos o incluso miles de cuentas de microblogging para elogiar la calidad de una investigación, simplemente se puede pedir a un programa de IA generativa que lo haga. No será necesario curar cuidadosamente la imagen de cada cuenta para distinguirlas de los spambots, ya que el contenido se generará automáticamente. Puede resultar un poco molesto descubrir que los insights artificiales ganan más seguidores que los posts cuidadosamente curados, pero el rápido aumento de la puntuación de atención sin duda aliviará el dolor.

No todo el ruido será deliberado. A medida que el contenido se crea automáticamente, la idea de que las piezas de contenido pueden contarse como si cada una hubiera sido creada por un ser humano se volverá cada vez más defectuosa. Proporciones crecientes de la web ya vienen con una advertencia de que «esta página ha sido creada automáticamente con la ayuda de IA», y estas secciones inevitablemente crecerán más rápido que las creadas por humanos. A medida que la creación de contenido se basa cada vez más en otro contenido que ya ha sido creado, la ventaja de ser el primer artículo mencionado sobre un tema será cada vez más difícil de superar.

Con una distribución de atención cada vez más sesgada, también se vuelve cada vez más importante asegurarse de que las menciones se asocien con el documento académico correcto. La mala atribución de menciones académicas y las fluctuaciones resultantes en las métricas solo aumentarán a medida que se genere más contenido automáticamente.

A primera vista, parecería que el uso creciente de la IA generativa inevitablemente anunciará el fin de las altmetrics, pero eso solo si todo lo demás permanece igual. Sin duda, no será así. Los sitios y servicios de redes sociales también cambiarán de muchas maneras. Es posible que los sitios de redes sociales gratuitos sean reemplazados por servicios de suscripción o distribuidos, donde haya mayores restricciones en la generación de contenido, permitiendo que formen la base de nuevas y más robustas métricas. El interés en el impacto académico en un servicio genérico como X podría ser reemplazado por el interés en cuentas verificadas o en servidores seleccionados que formen parte de una red distribuida.

También parece probable que se amplíe el interés en las métricas web más allá de las altmetrics. Se puede obtener una amplia gama de insights de la web, o de rincones de la misma, desde el análisis de las actividades de búsqueda de las personas en Google Trends para conocer el estado de la sociedad hasta cómo el enlace entre sitios web proporciona información sobre las relaciones en el mundo real y la robustez de una economía local. Sin embargo, estas alternativas a menudo han sido marginadas con un enfoque en las métricas evaluativas a gran escala.

Las métricas web siempre han tenido que adaptarse a medida que surgían nuevas tecnologías. Aunque la IA indudablemente marcará el fin de una era de las altmetrics, surgirán nuevas áreas de investigación. La inclusión de literatura gris y citas de patentes que anteriormente se habrían excluido de la bibliometría probablemente continuará, pero la idea de capturar contenido informal a gran escala puede ser cada vez más dudosa.

Las métricas web siempre han tenido fundamentos más suaves que las bibliométricas, más propensas a ofrecer insights interesantes que autoritativos, y no es necesariamente malo que eso sea hasta donde lleguen. Las métricas evaluativas a menudo tienen un impacto negativo, especialmente cuando se les da demasiada credibilidad, por lo que limitar las altmetrics justo cuando están ganando interés no es necesariamente algo negativo.

Publicación de CiteScore 2023 (2024)

«CiteScore 2023: A comprehensive, clear and current metric for journal impact | Elsevier Scopus Blog». Accedido 13 de junio de 2024. https://blog.scopus.com/posts/citescore-2023-a-comprehensive-clear-and-current-metric-for-journal-impact.

Scopus anuncia el próximo lanzamiento de CiteScore 2023, una métrica que proporciona información sobre el impacto de las citas de las revistas.

Desarrollado por el equipo del International Center for the Study of Research (ICSR), CiteScore ofrece una evaluación equilibrada y completa de las contribuciones basadas en la investigación de una revista. CiteScore permite a investigadores, bibliotecarios, editores y oficinas de investigación tomar decisiones bien informadas sobre dónde publicar y estrategias de publicación.

Aspectos destacados del lanzamiento de CiteScore 2023:

  1. Cobertura ampliada: CiteScore 2023 incluye 29.777 títulos activos, con 2.212 títulos recibiendo su primer CiteScore. Esta cobertura más amplia asegura un conjunto de datos más completo para evaluar el impacto de las revistas.
  2. Más títulos de acceso abierto: El lanzamiento incluye 6.943 títulos de acceso abierto, con 52 de ellos clasificándose como número 1 en sus respectivas categorías, destacando la creciente importancia de la investigación de acceso abierto.
  3. Diversas categorías temáticas: CiteScore cubre 334 categorías temáticas, con Historia siendo el área más grande, comprendiendo 1.760 títulos. Esta diversidad permite a los usuarios explorar el impacto en varios campos.
  4. Títulos de alto impacto: CiteScore 2023 identifica 11.144 títulos con CiteScore pero sin Factor de Impacto en 2022. Entre ellos, 416 títulos están altamente clasificados en sus respectivas áreas, ubicándolos en el top 10%.
  5. Representación global: El 22% de las revistas CiteScore son publicaciones no en inglés en más de 50 idiomas, proporcionando una perspectiva global sobre el impacto de la investigación.
  6. Impacto creciente: 668 títulos experimentaron un aumento de CiteScore del 100% o más entre 2022 y 2023, mostrando la naturaleza dinámica del impacto de la investigación.

La metodología de CiteScore refleja el impacto de citación de las contribuciones basadas en la investigación de una revista con mayor estabilidad, consistencia en los períodos de tiempo utilizados, y permanece integral, actual, clara y gratuita. Fue desarrollada por el equipo del ICSR (International Center for the Study of Research), basado en una investigación de mercado extensa y según Scopus aprovecha las debilidades inherentes del JIF como métrica de citación a nivel de revista.

Los usuarios están cada vez más frustrados con la calidad de búsqueda de Google

ReShare, Author Project. «News Release: Project ReShare Launches ReShare Digital Software Development Initiative and Pledge Drive», 5 de junio de 2024. https://projectreshare.org/2024/06/05/news-release-reshare-digital/.

Los motores de búsqueda están destinados a ayudar a las personas a encontrar la información que desean o necesitan. Esta encuesta indica que los resultados y experiencias deficientes en los motores de búsqueda pueden estar fallando en ayudar a los usuarios a cumplir sus tareas, lo que los frustra.

Se preguntó a los encuestados cuál era la parte más frustrante del proceso de búsqueda de servicios en línea. Los tres principales fueron:

  1. Buscar entre los resultados de búsqueda: 26%
  2. Encontrar el término de búsqueda correcto: 22%
  3. Visitar múltiples sitios web: 21%

Estos son problemas que los resúmenes de inteligencia artificial de Google, ChatGPT y otros motores de respuestas podrán resolver algún día (¿pronto?). Sin embargo, la promesa completa de la inteligencia artificial generativa en la búsqueda aún no se ha realizado.

La mayoría de los encuestados dijeron que buscan más resultados de búsqueda en comparación con hace cinco años:

Más: 54% (19% «mucho más»; 35% «un poco más»). Menos: 27% (19% «un poco menos»; 8% «mucho menos»). Igual: 20%.

Una mayoría de los encuestados también dijo que pasa más tiempo buscando cuando busca servicios en línea:

Más tiempo: 51% (16% «mucho más»; 35% «un poco más»). Menos tiempo: 28% (18% «un poco menos»; 10% «mucho menos»). La misma cantidad de tiempo: 21%.

Los usuarios están cada vez más frustrados con la calidad de búsqueda de Google, y esto es una confirmación adicional de que no lo estamos imaginando, a pesar de que Google nos dice que a la gente le encantan los resúmenes de inteligencia artificial y los resultados de búsqueda. Google nos dijo que el uso de la búsqueda está aumentando debido a los resúmenes de inteligencia artificial, ¿pero es porque están investigando más a fondo o porque no pueden encontrar las respuestas correctas?

Solo el 12% de los encuestados dijo que los anuncios de búsqueda eran relevantes para ellos. Más encuestados dijeron que encuentran más anuncios relevantes en otros seis canales: televisión (41%), YouTube (37%), Facebook (32%), Instagram (32%), TikTok (19%), sitios web (18%).

Otros hallazgos. En las páginas de resultados del motor de búsqueda, el 35% de los encuestados dijo que omiten (supongo que pasan por alto) los anuncios para ir a los resultados del sitio web (orgánicos). Además:

El 33% busca fuentes/empresas que reconoce por nombre (hola, reconocimiento de marca). El 33% busca resultados con calificaciones de estrellas más altas. Menos sorprendente. Otros hallazgos de interés:

El 30% de los encuestados cree que los servicios que aparecen más arriba en los resultados de búsqueda suelen ser más relevantes. El 46% de los encuestados dijo que tener resultados «creíbles» haría que la experiencia de búsqueda fuera más agradable. El 86% de los encuestados cree que casi siempre, o más a menudo que no, pueden distinguir entre los resultados orgánicos y pagados. El 47% cree que es más fácil distinguir entre resultados orgánicos y pagados; el 37% piensa que es más difícil; el 16% cree que no es diferente en comparación con hace cinco años.

Pero. También es posible que algunos, o muchos, de los encuestados no sean los más expertos tecnológicamente.

La encuesta de 1.000 adultos estadounidenses fue diseñada para garantizar una representación nacional en términos de género, edad y región. Se llevó a cabo a fines de febrero por Scorpion, un proveedor de soluciones de marketing digital y tecnología, en colaboración con Dynata, una empresa de investigación de mercado independiente.

Indicadores para una evaluación del impacto de los datos abiertos

Bas, P., Page, M., Indicators for an open data impact assessment, Publications Office of the European Union, 2024, https://data.europa.eu/doi/10.2830/323236

Aunque el impacto de los datos abiertos ha sido estudiado anteriormente, generalmente de manera ad hoc, aún es necesario explorar métodos estructurados e indicadores para medir su impacto y la posibilidad de basar estos indicadores en conjuntos de datos existentes. Este informe representa el segundo paso en la definición de una metodología para una evaluación a nivel europeo del impacto de los datos abiertos. La serie de estudios tiene como objetivo crear una herramienta interactiva de monitoreo para la evaluación del impacto de los datos abiertos. Este segundo estudio busca proporcionar una base teórica para desarrollar una metodología que analice el impacto de los recursos de datos públicos, enfocándose en los diferentes impactos a considerar y los indicadores que podrían cuantificarlos. Este informe utiliza los resultados y conclusiones presentados en el primer estudio sobre «repensar el impacto de los datos abiertos» como base. Los resultados de este estudio podrían incorporarse en un tercer estudio, donde se podría desarrollar y pilotar una metodología preliminar para medir el impacto de los datos abiertos.

Medición del impacto social de la Biblioteca Pública de Toronto con Experience Impact Compass

Toronto Public Library. «Measuring the Social Impact of Toronto Public Library». Accedido 5 de junio de 2024.

Resultados

Experience Impact compas Guide

Otros materiales

El valor de la Biblioteca Pública de Toronto va más allá del impacto económico; afecta profundamente las vidas de las personas. Este nuevo estudio de impacto social mide este valor difícilmente incuantificable. Este nuevo estudio de impacto social busca medir este valor difícilmente cuantificable. En un mundo dominado por algoritmos que segmentan nuestras comunidades en burbujas cada vez más estrechas, la biblioteca es un lugar para reunirse y encontrarse con nuevas ideas con personas de diferentes ámbitos de la vida.

Financiado por la Fundación de la Biblioteca Pública de Toronto gracias a una generosa donación de Richard y Joan Boxer, la Biblioteca Pública de Toronto se asoció con la innovadora firma danesa Seismonaut para abordar esta medición única en su tipo en América del Norte, utilizando su Experience Impact Compass.

Los resultados demuestran cuán vital es la Biblioteca Pública de Toronto para el alma de la ciudad, permitiendo que los habitantes de Toronto crezcan y prosperen, y subrayan la necesidad de seguir invirtiendo en servicios bibliotecarios en un momento en que la cohesión social es más importante que nunca.

Las bibliotecas son el corazón de sus comunidades. Con servicios en línea y 100 sucursales en toda la ciudad, la Biblioteca Pública de Toronto (TPL) es esencial para muchos, especialmente para aquellos sin otro acceso a los servicios y espacios que ofrece. En tiempos de crisis, la biblioteca proporciona cohesión social, recordándonos lo que nos une.

Los hallazgos principales del estudio incluyen:

  • La biblioteca combate la aislamiento social, ofreciendo un lugar donde todos son bienvenidos y donde convergen diversas comunidades y puntos de vista.
  • Es un lugar para el desarrollo personal, proporcionando programas, servicios y colecciones que ayudan a las personas a alcanzar sus metas.
  • Es un portal crucial para los recursos y servicios destinados a las personas más vulnerables de la ciudad, quienes no pueden acceder a estos servicios en ningún otro lugar.

Metodología

Experience Impact Compass es un sistema de medición único de cinco puntos. Evalúa el impacto en las cuatro dimensiones de Emocional, Social, Intelectual y Creativa, y tres parámetros dentro de cada dimensión. La puntuación se basa en la respuesta promedio y probablemente será entre 2 y 4, siendo 4 extremadamente alto. Las respuestas promedio rara vez superan 4, ya que algunos encuestados pueden calificar un elemento como 1, no porque el servicio no sea valioso, sino porque puede no ser cómo utiliza la biblioteca el encuestado. Por ejemplo, un individuo puede usar la tecnología para completar formularios fiscales y calificar esa experiencia como alta en la dimensión Intelectual, pero darle una puntuación baja en la dimensión Creativa.

Colecciones: una clave para el crecimiento personal a través del aprendizaje y nuevas perspectivas

Las colecciones de la Biblioteca Pública de Toronto tuvieron un impacto profundo en los usuarios, siendo el servicio más utilizado de los cinco pilares. Estas obtuvieron una puntuación sin precedentes en la dimensión Intelectual, con 4.0 o más en cada parámetro. Este impacto intelectual se complementó con altas puntuaciones, justo por debajo de 4.0, en la dimensión Emocional del Compass, con la mayoría de los usuarios experimentando bienestar, compromiso emocional y sensación de inmersión. En general, las colecciones obtuvieron una puntuación de 3.6 en el Compass. Los usuarios no solo adquirieron conocimientos, sino que también se expusieron a diferentes perspectivas y fomentaron una nueva empatía hacia personas diferentes a ellos. El estudio concluye que las colecciones juegan un papel crítico en proteger y promover la libertad de expresión, además de apoyar el compromiso de la TPL con la equidad y la inclusión.

Espacios: un refugio versátil e inclusivo que acoge experiencias diversas

Los espacios de la biblioteca permiten que personas de todas las procedencias se reúnan y conecten en un momento en que los espacios no monetizados son escasos. Los usuarios valoran estos espacios no solo como lugares para sentarse y leer, sino como entornos inclusivos que facilitan desde el trabajo y estudio hasta la recreación y relajación. Estos espacios contribuyen significativamente al Impacto Emocional, con una sensación de bienestar puntuando 3.7 entre la mayoría de los usuarios, seguida de la concentración y la inmersión. Los jóvenes experimentan el mayor impacto, considerando la biblioteca un entorno seguro y libre de distracciones para estudiar, aprender nuevas habilidades y conectarse con amigos y adultos de apoyo.

Programas: creando experiencias de transformación profunda

Los programas de la Biblioteca Pública de Toronto enriquecen profundamente la vida de quienes los utilizan, desde un recién llegado en busca de apoyo laboral hasta un nuevo padre buscando consejos para que su hijo duerma toda la noche. Críticamente, estos programas ofrecen un portal hacia un mundo de aprendizaje y conexión para personas que de otra manera no tendrían acceso. El estudio encontró que los programas involucran solo a aproximadamente una quinta parte de todos los usuarios, pero tuvieron la puntuación general más alta en todo el estudio con 3.7, siendo el único pilar que obtuvo 3.5 o más en todas las dimensiones y parámetros del Compass. Esto les indica que hay un espacio significativo para crecer e invertir en su oferta de programas para llegar a más personas. No solo ofrecen experiencias transformadoras para el crecimiento personal y profesional, sino que también pueden ser una solución para la soledad, brindando la oportunidad de construir nuevas relaciones y socializar.

Personal: una fuente confiable de conocimiento y empatía

Los usuarios de la biblioteca ven al personal de la TPL como un oasis de conexión humana en una ciudad de desconocidos: brindan experiencia y se relacionan con usuarios de todos los ámbitos con cortesía y respeto. Las personas que trabajan en la TPL son altamente valoradas por los usuarios de la biblioteca, no solo por su conocimiento y ayuda con las colecciones y servicios, sino también por su empatía, amabilidad y dedicación a la inclusión social de algunas de las poblaciones más vulnerables de la ciudad. El apoyo del personal obtuvo una alta puntuación de impacto Intelectual de 3.6 relacionada con la provisión de nuevos conocimientos e información para la mayoría de los usuarios que interactuaron con el personal, y una puntuación de impacto Emocional de 3.4 relacionada con el sentido de bienestar.

Tecnología: proporcionando acceso digital, inclusión y alfabetización

El estudio encontró que la tecnología de la TPL es un salvavidas para muchos que no tienen acceso a herramientas digitales o carecen de habilidades de alfabetización digital. La tecnología obtuvo altas puntuaciones en las dimensiones Intelectual (3.4) relacionada con la provisión de nuevos conocimientos e información, y Creativa (3.3) relacionada con el desarrollo de nuevas habilidades, entre la mayoría de los usuarios que interactúan con las ofertas tecnológicas de la TPL. Los datos cualitativos reforzaron aún más el significado y el valor de esos servicios. Para aquellos que tienen acceso y dominio de los fundamentos digitales, los Hubs de Innovación Digital de la TPL están proporcionando un trampolín para los proyectos creativos y profesionales de los usuarios: el acceso a software especializado y capacitación les ayuda a hacer realidad sus sueños.

En general, la Biblioteca Pública de Toronto (TPL) obtuvo puntuaciones muy altas en el Experience Impact Compass. La TPL obtuvo una puntuación de 3.5 en las dimensiones Emocional e Intelectual, 3.2 en la dimensión Social y 3.3 en la dimensión Creativa, superando a otras bibliotecas evaluadas por estas métricas y proporcionando evidencia empírica de un sistema de biblioteca de clase mundial que ayuda a los habitantes de Toronto a crecer y prosperar. El estudio también reveló nuevas perspectivas sobre las diversas formas en que los diferentes usuarios de la biblioteca valoran sus servicios.

Consideraciones sobre la evaluación de herramientas de IA generativa en el ámbito académico

Hendrick, R . «Considering RAG When Evaluating Generative AI Tools», Choice 360 13 de mayo de 2024. https://www.choice360.org/libtech-insight/considering-rag-when-evaluating-generative-ai-tools/.

La evaluación de herramientas de inteligencia artificial generativa (IA) requiere considerar varios aspectos, especialmente en el ámbito académico. La introducción de la Retrieval Augmented Generation (RAG) ha añadido una nueva dimensión a esta evaluación, destacando la importancia de comprender su funcionamiento y sus implicaciones para la investigación.

La creciente proliferación de herramientas de IA ha generado un desafío para los bibliotecarios académicos, quienes se enfrentan a la tarea de evaluar y seleccionar las herramientas más adecuadas para sus instituciones. En medio de esta diversidad de opciones, es esencial entender las distintas categorías de aplicaciones de IA, desde la IA conversacional hasta la IA generativa, y reconocer cómo estas aplicaciones pueden impactar en la investigación y el aprendizaje.

En particular, la IA generativa, que tiene la capacidad de crear nueva información, ha despertado el interés de la comunidad académica. Sin embargo, estas herramientas también plantean desafíos éticos y prácticos, como la falta de citas, la propensión a las alucinaciones y las preocupaciones sobre los derechos de autor y la privacidad del usuario.

Es aquí donde entra en juego la RAG. Esta tecnología, al mejorar las capacidades de las redes neuronales de la IA generativa, ofrece una solución parcial a estos problemas al permitir la incorporación de nueva información, la optimización de resultados y la provisión de citas y enlaces para los resultados de búsqueda. La RAG representa un paso importante hacia la creación de herramientas de IA generativa que sean verdaderamente útiles y confiables para la educación superior.

La diferencia entre una herramienta de IA generativa estándar y una herramienta que utiliza RAG es evidente en la experiencia del usuario. Mientras que las herramientas convencionales pueden ofrecer respuestas imprecisas o incompletas, aquellas que emplean RAG pueden proporcionar resultados más precisos y fiables, junto con la capacidad de personalizar la búsqueda y verificar las fuentes de información.

Invertir en bibliotecas escolares y bibliotecarios para mejorar los resultados de la alfabetización

Center for American Progress. «Investing in School Libraries and Librarians To Improve Literacy Outcomes», 18 de abril de 2024. https://www.americanprogress.org/article/investing-in-school-libraries-and-librarians-to-improve-literacy-outcomes/.

El papel de las bibliotecas y bibliotecarios escolares es fundamental para revertir los bajos puntajes en las evaluaciones de lectura. Sin embargo, estos recursos a menudo se consideran un lujo en lugar de una parte esencial del sistema educativo público. Más de 50 años de investigación respaldan la idea de que los estudiantes con acceso a bibliotecas escolares bien dotadas y a bibliotecarios certificados tienen un mejor rendimiento académico. A pesar de esto, desde el año 2000 ha habido una disminución del 20% en los puestos de bibliotecarios escolares en Estados Unidos, lo que equivale a 10.000 bibliotecarios menos en todo el país. Se ha observado una correlación positiva entre programas de bibliotecas escolares sólidos y el logro estudiantil, incluso cuando se incluye el estatus socioeconómico.

Los datos muestran que la presencia de un bibliotecario de tiempo completo está asociada con un aumento en los puntajes de lectura avanzada. Los estudiantes de grupos vulnerables, como aquellos de minorías raciales o con discapacidades, se benefician especialmente de las bibliotecas escolares bien equipadas. Es necesario aumentar la financiación para las bibliotecas escolares y exigir la presencia de bibliotecarios certificados a tiempo completo en cada escuela. Además, las definiciones de los bibliotecarios escolares en las encuestas federales deben actualizarse para reflejar las certificaciones estatales. Integrar las bibliotecas escolares como indicadores de rendimiento en los planes de rendición de cuentas estatales también puede proporcionar una visión más completa de su impacto en el logro estudiantil. En conclusión, es fundamental invertir en las bibliotecas escolares y los bibliotecarios para mejorar los resultados educativos y promover una ciudadanía informada y comprometida.

Algunas recomendaciones:

  1. Aumentar la financiación de las bibliotecas escolares: Las bibliotecas escolares a menudo sufren recortes presupuestarios o falta de financiamiento en general, lo que afecta su efectividad. Se propone el «Right to Read Act» para aumentar la financiación federal para las bibliotecas escolares, pero también se insta a los responsables de políticas estatales y locales a aumentar los niveles de financiamiento para garantizar que todas las escuelas tengan acceso a una biblioteca bien equipada y a un bibliotecario certificado.
  2. Exigir la presencia de bibliotecarios escolares: Algunos estados ya requieren que los distritos escolares tengan bibliotecarios certificados en todas sus escuelas, y se observa que los estados emplean más bibliotecarios escolares cuando tienen mandatos al respecto. Se insta a los responsables de políticas a codificar la importancia de los bibliotecarios escolares y garantizar un financiamiento adecuado para sus posiciones.
  3. Actualizar los datos federales de las bibliotecas escolares con definiciones apropiadas: La definición actual de quién califica como bibliotecario escolar utilizada por NCES es obsoleta, lo que puede afectar negativamente la precisión de los datos. Se sugiere actualizar esta definición para garantizar que los bibliotecarios sean certificados por el estado.
  4. Incluir las bibliotecas escolares como indicadores escolares en los planes de rendición de cuentas estatales: Se alienta a los estados a incluir las bibliotecas escolares y los bibliotecarios como indicadores en los paneles de oportunidades de ESSA, así como a agregar indicadores adicionales que hablen sobre la disponibilidad de recursos y servicios de las bibliotecas escolares. Esto permitiría una mejor evaluación de cómo las bibliotecas escolares sirven a los estudiantes y la creación de planes medibles para mejorarlas.

Declaración de Barcelona. Los investigadores necesitan bases de datos bibliográficas «abiertas»

Barcelona Declaration on Open Research Information

Español

Los investigadores necesitan bases de datos bibliográficas «abiertas», según una nueva declaración Las principales plataformas, como Web of Science, ampliamente utilizadas para generar métricas y evaluar a los investigadores, están protegidas por derechos de propiedad intelectual.


Cuando las universidades están decidiendo a quién contratar y promocionar, o cuando las organizaciones de financiamiento están seleccionando proyectos para financiar, es muy probable que estén consultando más que solo los materiales de solicitud. Muchas organizaciones confían en bases de datos que recopilan información sobre publicaciones, incluidos autores, afiliaciones, citas y fuentes de financiamiento, para crear métricas destinadas a cuantificar la productividad de un investigador y la calidad de su trabajo.

Algunas de las bases de datos más conocidas, como Web of Science y Scopus, son propietarias y ofrecen datos y servicios de acceso pago que respaldan estas y otras métricas, incluidos los rankings universitarios y los factores de impacto de las revistas. Pero en una declaración publicada hoy, más de 30 organizaciones de investigación y financiamiento llaman a la comunidad a comprometerse con plataformas que, en cambio, sean gratuitas para todos, más transparentes sobre sus métodos y sin restricciones sobre cómo se puede utilizar los datos.

La Declaración de Barcelona sobre la Información de Investigación Abierta afirma que «en un momento en que la toma de decisiones en ciencia está cada vez más guiada por indicadores y análisis, abordar los problemas de la información de investigación cerrada debe ser una prioridad absoluta». Los firmantes hasta ahora incluyen a financiadores como la Fundación Bill y Melinda Gates y la Agencia Nacional de Investigación de Francia, así como a más de una docena de instituciones académicas.

La Universidad de la Sorbona, que canceló su suscripción a Web of Science el año pasado y cambió a una plataforma más nueva y abierta llamada OpenAlex, dijo en un comunicado que “al firmar la Declaración, queremos demostrar que no solo este movimiento hacia la información de investigación abierta debería ser un objetivo, sino que también se puede lograr”. El cambio puede ayudar a remediar el enfoque de las bases de datos existentes en las revistas en inglés, dicen los defensores. También podría ayudar a mejorar “la circulación del conocimiento científico y local producido en diferentes idiomas, formatos y en diferentes regiones geográficas”, dice otro signatario, el Consejo Latinoamericano de Ciencias Sociales a través del Foro Latinoamericano para la Evaluación Científica.

Jason Portenoy, ingeniero de datos senior en OurResearch, reconoce esta necesidad de aporte de la comunidad, diciendo que es comprensible que las instituciones puedan dudar en volver a hacer el trabajo. “Pero la diferencia es que con OpenAlex, está sucediendo de manera abierta”, dice. Cualquier brecha en la calidad de los datos se está cerrando rápidamente, agrega Jason Priem, CEO de OurResearch. “OpenAlex está evolucionando muy rápidamente, y a menudo los problemas descubiertos por nuestra comunidad se solucionan en unos pocos meses”. Cuando uno de los coordinadores de la declaración, Ludo Waltman, director científico del Centro de Estudios de Ciencia y Tecnología en la Universidad de Leiden, y colegas recientemente usaron OpenAlex para clasificar más de 1400 universidades en todo el mundo, concluyeron que, aunque necesita mejorar, el enfoque produjo “datos de calidad sorprendentemente buenos”.

Daniel Hook, CEO de Digital Science, que opera la base de datos propietaria Dimensions, acoge esta idea. (Dimensions ya ofrece una versión gratuita para uso no comercial, aunque los usuarios deben suscribirse para acceder a todas las funciones). Sin embargo, Hook dice que tal transición llevará tiempo. Las bases de datos propietarias necesitan recuperar los costos de establecer, mejorar y mantener conjuntos de datos tan grandes, un desafío que los equivalentes abiertos como OpenAlex también podrían enfrentar a largo plazo.

La declaración es un «excelente desarrollo», dice Elizabeth Gadd, experta en comunicaciones académicas y jefa de cultura e evaluación de investigación e innovación en la Universidad de Loughborough, que no estuvo involucrada en su preparación. “Muchas organizaciones han hecho compromisos públicos con prácticas de investigación abierta pero continúan utilizando fuentes de datos bibliográficos cerradas y comerciales para análisis de investigación”. El anuncio debería “estimular a una gama más amplia de organizaciones a ‘poner su dinero donde está su boca’”.

Con ese fin, los partidarios de la declaración esperan establecer una Coalición para la Información de Investigación Abierta para planificar los próximos pasos, dice la coordinadora Bianca Kramer, experta en comunicaciones académicas de la consultora Sesame Open Science. “Queremos facilitar que las organizaciones trabajen hacia esa transición, entre otras cosas, beneficiándose de la experiencia de los demás y explorando la acción colectiva”.

COMPROMISOS


1 – Haremos que la apertura sea la norma para la información de investigación que utilizamos y producimos

  • La apertura será la norma para la información sobre investigación que utilizamos, por ejemplo, para evaluar a investigadores e instituciones, apoyar la toma de decisiones estratégicas y encontrar resultados de investigación relevantes.
  • La apertura será la norma para la información de investigación que produzcamos, por ejemplo, la información sobre nuestras actividades y resultados, con excepción de la información cuya apertura sería inapropiada (‘tan abierta como sea posible y tan
    cerrada como sea necesario’


2. – Trabajaremos con servicios y sistemas que apoyen y hagan posible
la información abierta sobre investigación

  • En cuanto a los servicios y plataformas de publicación, requeriremos que la información de investigación generada en los procesos de publicación (por ejemplo, metadatos de artículos de investigación y otros resultados) esté disponible de forma abierta a través de infraestructuras académicas abiertas, utilizando protocolos e identificadores estándar cuando estén disponibles.
  • En el caso de los sistemas y plataformas para la gestión interna de la información de investigación (por ejemplo, los actuales sistemas de información de investigación), requeriremos que toda la información de investigación pertinente pueda exportarse y hacerse abierta, utilizando protocolos e identificadores estándares cuando estén disponibles.


3. Apoyaremos la sostenibilidad de las infraestructuras para la información abierta sobre investigación

  • Asumimos la responsabilidad de apoyar infraestructuras para la información abierta sobre investigación, por ejemplo participando en la creación de comunidades y en la gobernanza de las mismas y aportando contribuciones justas y equitativas a la estabilidad financiera y al desarrollo de estas infraestructuras.
  • Esperamos que las infraestructuras que apoyamos apliquen buenas prácticas
    de gobernanza comunitaria y sostenibilidad (por ejemplo, los Principios de la
    Infraestructura Académica Abierta).


4. Apoyaremos actuaciones colectivas para acelerar la transición hacia la apertura de la información sobre investigación

  • Reconocemos la importancia de compartir experiencias y coordinar acciones para promover en todo el sistema la transición de cerrada a abierta de la información de investigación.
  • Para facilitarlo, apoyamos la creación de una Coalición para la Información
    Abierta sobre Investigación y el refuerzo de la colaboración con otras iniciativas y organizaciones afines.