Una cuarta parte de los ensayos clínicos podrían ser problemáticos o incluso totalmente inventados

Van Noorden, Richard. «Medicine Is Plagued by Untrustworthy Clinical Trials. How Many Studies Are Faked or Flawed?» Nature 619, n.o 7970 (18 de julio de 2023): 454-58. https://doi.org/10.1038/d41586-023-02299-w.

Las investigaciones sugieren que, en algunos campos, al menos una cuarta parte de los ensayos clínicos podrían ser problemáticos o incluso totalmente inventados, advierten algunos investigadores. Instan a un mayor escrutinio.

¿Cuántos estudios de ensayos clínicos publicados en revistas médicas son falsos o contienen errores fatales? En octubre de 2020, John Carlisle publicó una sorprendente estimación. El anestesista John Carlisle, conocido por detectar datos dudosos en ensayos médicos, revisó más de 500 estudios durante tres años y encontró que el 26% tenía problemas tan graves que no se podían confiar, lo que él llamó «ensayos zombis». Estos ensayos, que se asemejan a la investigación real pero son huecos, pueden pasar desapercibidos sin acceso a los datos individuales de los participantes.

Por ello, se sugiere que los editores de revistas revisen los datos de los participantes antes de publicar ensayos controlados aleatorios. La preocupación por la integridad de la investigación también se extiende a otras áreas médicas, como la salud de la mujer, la anestesiología y la COVID-19, donde se han encontrado numerosos ensayos sospechosos.

Los problemas con los ensayos falsificados o poco confiables plantean serias amenazas, ya que pueden influir en las decisiones médicas y distorsionar el conocimiento científico. Aunque se están realizando más estudios para evaluar la magnitud del problema, la detección y corrección de ensayos problemáticos sigue siendo un desafío importante para la comunidad científica.

Wiley cerró 19 revistas científicas a raíz de problemas con las llamadas «fábricas de artículos» con inteligencia artificial

Claburn, Thomas. «Wiley Shuts 19 Scholarly Journals amid AI Paper Mill Problem». Accedido 21 de mayo de 2024. https://www.theregister.com/2024/05/16/wiley_journals_ai/.

Wiley cerró 19 revistas científicas a raíz de problemas con «fábricas de artículos» con inteligencia artificial. Estas revistas pertenecían a su subsidiaria Hindawi, centro de un escándalo de publicación académica.

En diciembre de 2023 Wiley anunció que dejaría de utilizar la marca Hindawi, adquirida en 2021, tras su decisión en mayo de 2023 de cerrar cuatro de sus revistas «para mitigar la manipulación sistemática del proceso de publicación» Se descubrió que las revistas de Hindawi estaban publicando artículos provenientes de «fábricas de artículos» (Papel Mills), organizaciones que intentan manipular el proceso de publicación académica con fines financieros. En respuesta a esto, Wiley ha retiró más de 11.300 artículos de su cartera de Hindawi. La preocupación por la integridad de la investigación académica no se limita a las publicaciones de Wiley, ya que estudios sugieren que hasta una cuarta parte de los ensayos clínicos pueden ser problemáticos o completamente fabricados.

Según un preprint publicado en febrero, el volumen de artículos enviados a ArXiv aumentó considerablemente en las tres categorías principales entre 2019 y 2023, un período que coincide aproximadamente con la puesta a disposición del público de herramientas como ChatGPT. Los artículos de ciencias de la computación aumentaron un 200 por ciento durante estos cuatro años, seguidos por los artículos de física (45 por ciento) y matemáticas (22 por ciento).

Como se describe en un libro blanco de Wiley publicado el pasado diciembre, «Tackling publication manipulation at scale: Hindawi’s journey and lessons for academic publishing», las fábricas de artículos recurren a diversas prácticas contrarias a la ética, como el uso de inteligencia artificial en la fabricación de manuscritos y la manipulación de imágenes, así como la manipulación del proceso de revisión por pares.

La creciente disponibilidad y sofisticación de la inteligencia artificial generativa está facilitando estas prácticas. Wiley ha implementado una nueva tecnología de detección para identificar artículos con posibles usos indebidos de la inteligencia artificial generativa antes de su publicación. «El sector reconoce que las editoriales utilizan la IA para generar contenidos fraudulentos», explica el portavoz de Wiley. «Recientemente hemos introducido una nueva tecnología de cribado que ayuda a identificar artículos con un potencial mal uso de la IA generativa antes del punto de publicación».

Las editoriales académicas, sin embargo, parecen apoyar los beneficios de la ayuda de la IA a la redacción sin sus inconvenientes. Springer Nature, por ejemplo, lanzó el pasado mes de octubre «Curie», un asistente de escritura basado en IA para ayudar a los científicos cuya lengua materna no es el inglés. De ahí las peticiones de mejores herramientas para detectar los resultados generativos de la IA, una petición a la que han respondido los recientes esfuerzos por mejorar la marca de agua de los contenidos de IA, que según algunos investigadores no funcionará.

Aunque Wiley caracterizó el cierre de las 19 revistas como parte de su plan anunciado previamente para integrar las carteras de Hindawi y Wiley, y distinto del problema de las fábricas de artículos, este incidente destaca los desafíos en la integridad de la investigación académica frente a la proliferación de prácticas fraudulentas facilitadas por la inteligencia artificial.

Mientras tanto, el informe de ganancias del tercer trimestre fiscal de 2024 de Wiley, el editor indicó que se anticipa que los ingresos de su división de aprendizaje se sitúen en el extremo superior de las proyecciones, debido a «acuerdos de derechos de contenido del cuarto trimestre para el entrenamiento de modelos de IA».

Diseñar para las comunidades contando con las comunidades: un proyecto de diseño de bibliotecas públicas

Hider, Philip, Jane Garner, Ann Godfrey, Hamid R. Jamali, y Simon Wakeling. «Designing for Communities with Communities: A Public Library Codesign Project». Journal of the Australian Library and Information Association 0, n.o 0 (2024): 1-29. https://doi.org/10.1080/24750158.2024.2332973.

El artículo aboga por un codiseño más genuino de los espacios de bibliotecas públicas, señalando que actualmente la práctica se limita a la consulta con los usuarios finales en lugar de otorgarles un papel como codiseñadores reales.

Se examinan críticamente los desafíos predominantes para lograr un verdadero codesign en el desarrollo de bibliotecas públicas. Se presenta un proyecto de investigación de dos años financiado por el Australian Research Council Linkage, titulado ‘Diseñando para Comunidades con Comunidades’.

El objetivo del proyecto es proporcionar al personal de bibliotecas públicas un conjunto de herramientas de codesign que puedan adaptar a sus propios proyectos. Mediante estudios de casos comparativos, el proyecto identificará los desafíos de integrar el codesign en el desarrollo de espacios de bibliotecas públicas y los factores clave en la efectividad de proyectos que buscan la participación y compromiso de sus comunidades.

El artículo también presenta la teoría de participación y codesign, estableciendo el marco conceptual básico para el proyecto. Informa sobre sus etapas iniciales, incluidas entrevistas preliminares con protagonistas clave y encuestas preliminares a usuarios sobre espacios existentes. Además, se discute el diseño de talleres comunitarios de estudio de casos, donde se llevará a cabo la mayor parte del codesign, con un análisis de las actividades que podrían incluirse en estos talleres.

La Universidad de Maine en Estados Unidos presentó la impresora 3D más grande del mundo que pretende construir casas para la población sin hogar del estado.

Ver video

La Universidad de Maine, que presume de tener la impresora 3D más grande del mundo, desarrolló una aún más grande que podría algún día crear barrios enteros. La impresora de polímero termoplástico fue apodada «Fábrica del Futuro 1.0».

La Universidad de Maine en Estados Unidos presentó la impresora 3D más grande del mundo. El modelo de 2019 de la universidad, que era el más grande hasta ahora, imprimió una casa completa. La nueva impresora es cuatro veces más grande y podría imprimir barrios enteros, informó Associated Press. Puede imprimir objetos de hasta 29 m por 9,75 metros,, y uno de sus primeros proyectos incluye casas para la población sin hogar del estado. Esto incluye ampliar su tecnología de impresión 3D de hogares utilizando materiales biológicos para eventualmente demostrar cómo los vecindarios impresos pueden ofrecer una solución asequible a la vivienda para abordar la falta de hogar en la región.

Los diseñadores esperan que las impresoras puedan crear viviendas a una fracción de los costos ambientales y laborales de los métodos existentes: el sector de la construcción representa el 37% de las emisiones gracias al uso de cemento y acero, pero la versión impresa en 3D podría hacerse con fibra de madera fácilmente disponible y bio-resina que se puede reciclar fácilmente.

Ben Franklin Inventó la Biblioteca como la Conocemos Hoy

Foto: La sala de lectura de la Library Company en la calle Juniper en Filadelfia, alrededor de 1935, una de las principales ubicaciones del grupo desde 1880 hasta 1935. La Library Company de Filadelfia.

Elizabeth Webster. «How Ben Franklin Invented the Library as We Know It». Smithsonian Magazine. Accedido 21 de mayo de 2024. https://www.smithsonianmag.com/history/how-ben-franklin-invented-library-as-we-know-it-180983983/.

En la América colonial, los libros eran raros y caros, pero Benjamin Franklin tenía una idea para abordar esta escasez. En 1727, Franklin fundó el grupo de discusión Junto en Filadelfia, enfocado en la «mejora mutua» mediante el diálogo intelectual. A pesar de disfrutar de los debates del Junto, Franklin creía que necesitaban una biblioteca autoritativa para referenciar hechos básicos.

En 1731, Franklin fundó la Library Company of Philadelphia, una biblioteca con una tarifa de suscripción. Esta permitió a sus miembros, inicialmente artesanos de medios modestos, comprar acciones a bajo costo y acumular «riqueza intelectual» que podían legar a sus descendientes. Franklin se aseguró de que la biblioteca tuviera libros útiles en inglés, accesibles a un público más amplio. La biblioteca no solo respondió a los intereses de los lectores, sino que también permitió a los no accionistas tomar libros prestados pagando una pequeña cuota como garantía. Este modelo innovador rápidamente inspiró imitaciones, y para 1800, había más de 40 bibliotecas de préstamo en los Estados Unidos.

En Gran Bretaña, los filántropos donaban libros a las bibliotecas para el enriquecimiento comunitario, pero estos no circulaban. En algunos casos, los libros estaban encadenados a las estanterías para prevenir robos.

En 1771, Franklin reflexionó en su autobiografía sobre el papel crucial de la biblioteca en la promoción de la democracia, destacando que estas bibliotecas habían mejorado la conversación general de los estadounidenses y hecho a los trabajadores y agricultores tan inteligentes como los caballeros de otros países. Durante la Guerra Revolucionaria y hasta 1800, la Library Company sirvió como la primera Biblioteca del Congreso de facto mientras el gobierno federal estaba en Filadelfia.

Hoy en día, la Library Company sigue siendo una biblioteca de investigación independiente, gratuita y abierta al público, apoyada por accionistas. Conserva algunas de sus primeras colecciones, como la copia original de Franklin de «Logic, or, the Art of Thinking» de Antoine Arnauld y Pierre Nicole. Aunque actualmente se especializa en la historia estadounidense antes de 1900, su misión sigue siendo la misma. Según Michael J. Barsanti, exdirector de la Library Company, la institución se dedica a la educación pública, siguiendo la inspiración del Junto y promoviendo el aprendizaje colectivo como base para sostener una democracia.

Evolución hacia el trabajo híbrido y no presencial en bibliotecas universitarias

Connell, Ruth, y Meris Longmeier. «An Analysis of Hybrid/Remote Work Eligibility in Academic Librarian Job Advertisements». College & Research Libraries forthcoming (1 de julio de 2025). https://scholar.valpo.edu/ccls_fac_pub/129.

El artículo analiza las políticas y enfoques en evolución hacia el trabajo híbrido y remoto en bibliotecas universitarias tras la pandemia de COVID-19. El estudio incluye la recopilación de anuncios de empleo para posiciones en bibliotecas universitarias y encuestas a los responsables de contratación.

Los resultados principales muestran que las posiciones híbridas/remotas ofrecen salarios competitivos. Además, diversos tipos de puestos en bibliotecas universitarias son elegibles para modalidades de trabajo híbrido.

Las políticas de campus y bibliotecas respecto al trabajo híbrido/remoto continúan evolucionando, y su inclusión en los anuncios de empleo es inconsistente. A pesar de los beneficios potenciales en términos de reclutamiento que ofrecen estos arreglos de trabajo flexibles, muchas instituciones no mencionan explícitamente estas opciones en sus anuncios de empleo.

El estudio sugiere que los candidatos a empleo deberían preguntar proactivamente o negociar la posibilidad de trabajo híbrido/remoto durante el proceso de contratación.

La mayoría de las instituciones de los encuestados (46/58 o 64%) adoptaron opciones de trabajo híbrido y/o remoto para bibliotecarios durante o después de marzo de 2020, el período de COVID-19. Solo 12/58 (17%) tenían acuerdos de trabajo flexibles antes del inicio de COVID-19, una diferencia en comparación con los hallazgos de directores de ARL, donde el 52% indicó disponibilidad de FWAs antes de la pandemia.

Al comparar la elegibilidad para trabajo híbrido y remoto a partir de los resultados de la encuesta con los salarios mínimos publicados en los anuncios de empleo, los autores de este estudio encontraron que las posiciones elegibles para trabajo híbrido/remoto tenían salarios competitivos con las posiciones exclusivamente presenciales. Al examinar las diferencias entre los arreglos híbridos/remotos y en sitio según las funciones laborales, algunos tipos de posiciones, como recursos electrónicos, tenían más elegibilidad para trabajo híbrido/remoto que otras; aunque debido al pequeño tamaño de la muestra, esto puede no ser generalizable.

Las instituciones grandes y con alta intensidad en investigación eran más propensas que otros tipos de instituciones a publicar información salarial e indicar si las opciones híbridas/remotas eran posibles. Al publicar anuncios de empleo, aquellos que incluían elegibilidad para trabajo híbrido/remoto eran más propensos a haber considerado la influencia en el reclutamiento que aquellos que omitieron la modalidad de trabajo.

Aunque la mayoría de los encuestados de esta encuesta no incluyeron opciones híbridas/remotas en la descripción del trabajo, dos tercios de ellos indicaron que algún trabajo flexible era posible. Como reclutadores en el campo de la biblioteconomía y ciencias de la información en un entorno post-pandemia de COVID-19, se ha vuelto más común permitir una mayor flexibilidad en la ubicación de trabajo y, por lo tanto, si es posible para la posición, debería indicarse en la descripción del trabajo para reclutar el grupo de candidatos más robusto. Al igual que muchos estudios sobre anuncios de empleo, este trabajo busca capturar una instantánea en el tiempo de las políticas y enfoques cambiantes tras la pandemia de COVID-19.

Por qué las bibliotecas están en primera línea en el apoyo a la salud mental

The Seattle Times. «Why Libraries Are on the Front Lines in Supporting Mental Health», 15 de mayo de 2024. https://www.seattletimes.com/seattle-news/mental-health/watch-why-libraries-are-on-the-front-lines-in-supporting-mental-health/.

Ver video

¿De quién es el trabajo de cuidar a los residentes más vulnerables de una ciudad, y cómo encajan las bibliotecas en el espectro de servicios? Las bibliotecas pueden desempeñar un papel crucial al proporcionar recursos, espacios seguros y programas de apoyo que promuevan la salud mental y el bienestar de la comunidad

El Proyecto de Salud Mental es una iniciativa del Seattle Times centrada en cubrir temas de salud mental y conductual. Está financiado por Ballmer Group, una organización nacional centrada en la movilidad económica de niños y familias. Además, cuenta con el apoyo de la City University de Seattle. El Seattle Times mantiene el control editorial sobre el trabajo realizado por este equipo.

El lunes, Taylor Blatchford, periodista del Seattle Times especializado en el Proyecto de Salud Mental, moderó un debate en directo sobre la salud mental y el papel de las bibliotecas. El acto fue organizado conjuntamente con la Fundación de la Biblioteca Pública de Seattle.

El panel incluía a:

El diputado Adam Smith, demócrata de Washington, autor de «Lost and Broken: Mi viaje de vuelta del dolor crónico y la ansiedad paralizante».
Ly Huynh, especialista en recursos comunitarios del equipo de servicios sociales de la Biblioteca Pública de Seattle.
Juan Rubio, director del programa de medios digitales y aprendizaje de la SPL y director del proyecto Caring About Teen Mental Health.


Cuando el contenido en línea desaparece: el 38% de las páginas web que existían en 2013 no están disponibles hoy

Rivero, Athena Chapekis, Samuel Bestvater, Emma Remy and Gonzalo. «When Online Content Disappears». Pew Research Center (blog), 17 de mayo de 2024. https://www.pewresearch.org/data-labs/2024/05/17/when-online-content-disappears/.

Un nuevo análisis del Pew Research Center muestra lo efímeros que son los contenidos en línea. Una cuarta parte de todas las páginas web que existieron en algún momento entre 2013 y 2023 ya no son accesibles, a partir de octubre de 2023. En la mayoría de los casos, esto se debe a que una página individual fue eliminada o suprimida de un sitio web que, por lo demás, funcionaba.

En el caso de los contenidos más antiguos, la tendencia es aún más marcada. Alrededor del 38% de las páginas web que existían en 2013 no están disponibles hoy en día, en comparación con el 8% de las páginas que existían en 2023. Un gráfico de líneas que muestra que el 38% de las páginas web de 2013 ya no están accesibles

Esta «decadencia digital» se produce en muchos espacios en línea diferentes. Hemos examinado los enlaces que aparecen en sitios web gubernamentales y de noticias, así como en la sección «Referencias» de las páginas de Wikipedia en la primavera de 2023. Este análisis reveló que:

  • El 23% de las páginas web de noticias contienen al menos un enlace roto, al igual que el 21% de las páginas web de sitios gubernamentales. Los sitios web de noticias con un alto nivel de tráfico y los que tienen menos tráfico tienen casi las mismas probabilidades de contener enlaces rotos. Las páginas de las administraciones locales (ayuntamientos) son especialmente propensas a tener enlaces rotos.
  • El 54% de las páginas de Wikipedia contienen al menos un enlace en su sección «Referencias» que apunta a una página que ya no existe.

Para ver cómo se desarrolla la decadencia digital en las redes sociales, también se recogió una muestra en tiempo real de tuits durante la primavera de 2023 en la plataforma de redes sociales X (entonces conocida como Twitter) y los seguimos durante tres meses. Descubrimos que

  • Casi uno de cada cinco tuits ya no son visibles públicamente en el sitio apenas unos meses después de haber sido publicados.
  • En el 60% de los casos, la cuenta que publicó originalmente el tuit se hizo privada, se suspendió o se eliminó por completo. En el 40% restante, el titular de la cuenta eliminó el tuit, pero la cuenta seguía existiendo.
  • Ciertos tipos de tuits tienden a desaparecer con más frecuencia que otros. Más del 40% de los tuits escritos en turco o árabe dejan de ser visibles en el sitio a los tres meses de su publicación.
  • Y los tuits de cuentas con la configuración de perfil por defecto son especialmente propensos a desaparecer de la vista del público.

¿Qué tienen en cuenta los investigadores a la hora de elegir una revista a la que enviar un artículo para su publicación?

Maggio, Lauren A., Natascha Chtena, Juan Pablo Alperin, Laura L. Moorhead, y John M. Willinsky. «“The Best Home for This Paper”: A Qualitative Study of How Authors Select Where to Submit Manuscripts». bioRxiv, 17 de mayo de 2024. https://doi.org/10.1101/2024.05.14.594165.

Para los investigadores, seleccionar una revista objetivo para enviar un manuscrito es una decisión crítica con implicaciones en su carrera. En el contexto de la investigación médica, una investigación realizada en 2016 encontró que los autores eran influenciados por múltiples factores como el prestigio de una revista y su misión. Sin embargo, desde que se realizó esta investigación, el panorama editorial ha cambiado para incluir una variedad más amplia de revistas, una amenaza aumentada de revistas depredadoras y nuevos modelos de publicación. Este estudio actualiza y amplía cómo los autores de educación médica deciden a qué revista enviar con el objetivo de describir los factores motivacionales y las características de las revistas que guían la toma de decisiones de los autores.

Métodos: Los autores llevaron a cabo cinco grupos focales cualitativos en los que participaron veintidós autores y editores de educación médica. Durante los grupos focales, los participantes participaron en una discusión sobre cómo seleccionan una revista para enviar sus manuscritos. Se transcribió el audio de todos los grupos focales. Las transcripciones fueron analizadas utilizando análisis temático con un código de libro.

Resultados: Los participantes consideraron múltiples factores al seleccionar una revista objetivo. Los factores incluyeron el impacto de una revista, el alcance de una revista, la calidad de la revista y factores técnicos (por ejemplo, límites de palabras). Los participantes también describieron cómo los factores sociales influenciaron su proceso y que el acceso abierto juega un papel que podría tanto fomentar como disuadir la presentación.

Discusión: Los hallazgos describen los factores motivacionales y las señales influyentes que guían a los autores en su toma de decisiones sobre la selección de revistas. Estos hallazgos confirman, amplían y actualizan los factores de selección de revistas reportados en educación médica y otras disciplinas. Especialmente, estos hallazgos enfatizan el papel de los factores sociales, las relaciones y las experiencias personales, que estaban ausentes en trabajos previos. Además, observamos una mayor consideración del acceso abierto y un alejamiento del énfasis en el prestigio de la revista.

La seguridad de la IA avanzada, en el punto de mira del primer informe científico internacional independiente

GOV.UK. «International Scientific Report on the Safety of Advanced AI». Accedido 20 de mayo de 2024.

El informe provisional International Scientific Report on the Safety of Advanced AI (Informe científico internacional sobre la seguridad de la inteligencia artificial avanzada) presenta una visión actualizada y con base científica de la seguridad de los sistemas avanzados de inteligencia artificial. Este informe independiente, internacional e integrador constituye un hito en la colaboración internacional. Es la primera vez que la comunidad internacional se reúne para respaldar los esfuerzos encaminados a lograr una comprensión científica compartida y basada en pruebas de los riesgos de la IA de vanguardia.

Inicialmente lanzado como el informe Estado de la Ciencia en noviembre pasado, el informe reunió a un equipo global de expertos en IA, incluido un Panel Asesor de Expertos de 30 naciones líderes en IA de todo el mundo, así como representantes de la ONU y la UE, para reunir la mejor investigación científica existente sobre las capacidades y riesgos de la IA. El informe tiene como objetivo proporcionar a los responsables políticos de todo el mundo una única fuente de información para informar sus enfoques sobre la seguridad de la IA.

El informe reconoce que la IA avanzada puede utilizarse para impulsar el bienestar, la prosperidad y nuevos avances científicos, muchos de los cuales ya se han visto en campos como la atención médica, el descubrimiento de medicamentos y en cómo podemos abordar el cambio climático. Pero señala que, como todas las tecnologías poderosas, los desarrollos actuales y futuros podrían generar daños. Por ejemplo, los actores maliciosos pueden usar la IA para desencadenar campañas de desinformación a gran escala, fraude y estafas. Los avances futuros en la IA avanzada también podrían plantear riesgos más amplios, incluida la interrupción del mercado laboral, y desequilibrios e desigualdades en el poder económico.

Sin embargo, el informe destaca la falta de acuerdo universal entre los expertos en IA en una serie de temas, incluido tanto el estado actual de las capacidades de la IA como cómo podrían evolucionar con el tiempo. También explora las opiniones divergentes sobre la probabilidad de riesgos extremos que podrían afectar a la sociedad, como el desempleo a gran escala, el terrorismo habilitado por la IA y la pérdida de control sobre la tecnología. Con un amplio acuerdo de expertos que destaca la necesidad de priorizar la mejora de nuestra comprensión, las decisiones futuras de las sociedades y los gobiernos tendrán un impacto enorme.

La Secretaria de Estado de Ciencia, Innovación y Tecnología, Michelle Donelan dijo:

La IA es el desafío tecnológico definitorio de nuestro tiempo, pero siempre he dejado claro que garantizar su desarrollo seguro es un problema global compartido. Cuando encargué al profesor Bengio que produjera este informe el año pasado, dejé claro que debía reflejar la enorme importancia de la cooperación internacional para construir una comprensión científica basada en evidencia de los riesgos de la IA avanzada. Esto es exactamente lo que hace el informe. Este informe asegurará que podamos tener en cuenta las increíbles oportunidades de la IA de manera segura y responsable durante décadas.

Esta publicación provisional se centra en la IA avanzada «de propósito general». Esto incluye sistemas de IA de última generación que pueden producir texto, imágenes y tomar decisiones automatizadas. Se espera que el informe final se publique a tiempo para la Cumbre de Acción de IA que está prevista que sea organizada por Francia, pero ahora tomará en consideración evidencia de la industria, la sociedad civil y una amplia gama de representantes de la comunidad de IA. Este feedback significará que el informe mantendrá el ritmo con el desarrollo de la tecnología, actualizándose para reflejar las últimas investigaciones y expandiéndose en una variedad de otras áreas para garantizar una visión integral de los riesgos de la IA avanzada.

Este informe resume la evidencia científica existente sobre la seguridad de la IA hasta la fecha, y el trabajo liderado por una amplia gama de científicos y miembros del panel de 30 naciones, la UE y la ONU durante los últimos seis meses ahora ayudará a informar el próximo capítulo de las discusiones de los responsables de políticas en la Cumbre de IA de Seúl y más allá. Cuando se utiliza, se desarrolla y se regula de manera responsable, la IA tiene un potencial increíble para ser una fuerza de cambio.

El informe provisional destaca varias conclusiones clave, incluyendo:

  1. La IA de propósito general puede ser utilizada para promover el interés público, lo que conduce a un mayor bienestar, prosperidad y descubrimientos científicos.
  2. Según varios indicadores, las capacidades de la IA de propósito general están avanzando rápidamente. Si ha habido un progreso significativo en desafíos fundamentales como el razonamiento causal es motivo de debate entre los investigadores.
  3. Los expertos discrepan sobre el ritmo esperado de progreso futuro de las capacidades de la IA de propósito general, apoyando varias posibilidades de progreso lento, rápido o extremadamente rápido.
  4. Hay una comprensión limitada de las capacidades y el funcionamiento interno de los sistemas de IA de propósito general. Mejorar nuestra comprensión debería ser una prioridad.
  5. Al igual que todas las tecnologías poderosas, la IA de propósito general actual y futura puede ser utilizada para causar daño. Por ejemplo, los actores maliciosos pueden usar la IA para operaciones de desinformación e influencia a gran escala, fraude y estafas.
  6. El mal funcionamiento de la IA de propósito general también puede causar daño, por ejemplo, a través de decisiones sesgadas con respecto a características protegidas como raza, género, cultura, edad y discapacidad.
  7. Los futuros avances en la IA de propósito general podrían plantear riesgos sistémicos, incluida la interrupción del mercado laboral y desigualdades en el poder económico. Los expertos tienen diferentes opiniones sobre el riesgo de que la humanidad pierda el control sobre la IA de una manera que podría resultar en resultados catastróficos.
  8. Varios métodos técnicos (incluidas la evaluación comparativa, las pruebas de penetración y la auditoría de los datos de entrenamiento) pueden ayudar a mitigar los riesgos, aunque todos los métodos actuales tienen limitaciones y se requieren mejoras.
  9. El futuro de la IA es incierto, con una amplia gama de escenarios que parecen posibles. Las decisiones de las sociedades y los gobiernos tendrán un impacto significativo en su futuro.