Archivo de la etiqueta: Investigación

Tres autores demandan a Anthropic por infracción de derechos de autor en el entrenamiento de IA

Roth, E. (2024, agosto 20). Authors sue Anthropic for training AI using pirated books. The Verge. https://www.theverge.com/2024/8/20/24224450/anthropic-copyright-lawsuit-pirated-books-ai

La compañía de inteligencia artificial Anthropic enfrenta una demanda colectiva en un tribunal federal de California, interpuesta por tres autores que afirman que la empresa utilizó sus libros y cientos de miles de obras más para entrenar su chatbot Claude, impulsado por IA.

Un grupo de autores ha demandado a la compañía de inteligencia artificial Anthropic, acusándola de entrenar sus modelos de IA con libros pirateados, según informó Reuters. La demanda colectiva, presentada en un tribunal de California, alega que Anthropic «construyó un negocio multimillonario robando cientos de miles de libros con derechos de autor.»

La demanda sostiene que Anthropic utilizó un conjunto de datos de código abierto conocido como «The Pile» para entrenar su familia de chatbots Claude. Dentro de este conjunto de datos se encuentra «Books3», una vasta biblioteca de ebooks pirateados que incluye obras de Stephen King, Michael Pollan y miles de otros autores. A principios de agosto, Anthropic confirmó a Vox que utilizó «The Pile» para entrenar a Claude.

La demanda afirma que Anthropic descargó y reprodujo copias de «The Pile» y «Books3», sabiendo que estos conjuntos de datos contenían contenido con derechos de autor extraído de sitios pirata como Bibiliotik. Los autores buscan que el tribunal certifique la demanda colectiva, exija a Anthropic el pago de daños y perjuicios propuestos, y prohíba a la compañía utilizar material protegido por derechos de autor en el futuro.

Los escritores que demandan a Anthropic incluyen a Andrea Bartz, autora de We Were Never Here; Charles Graeber, autor de The Good Nurse; y Kirk Wallace Johnson, autor de The Feather Thief. Aunque se reconoce que «Books3» ha sido eliminado de la versión «más oficial» de «The Pile», la versión original supuestamente sigue disponible en línea. Una investigación reciente también descubrió que compañías como Anthropic y Apple entrenaron sus modelos de IA con miles de subtítulos de videos de YouTube extraídos de «The Pile».

El año pasado, el exgobernador de Arkansas Mike Huckabee y otros autores presentaron una demanda similar contra Meta, Microsoft y EleutherAI, la organización sin fines de lucro detrás de «The Pile», por acusaciones de uso indebido de sus obras para entrenar modelos de IA. Otros autores, como George R.R. Martin, Jodi Picoult y Michael Chabon, también han demandado a OpenAI por el supuesto uso de su contenido protegido por derechos de autor.

Explorando las capacidades de ChatGPT como bibliotecario investigador, ético de la investigación, generador de datos y predictor de datos.

Lehr, Steven A., Aylin Caliskan, Suneragiri Liyanage, y Mahzarin R. Banajii. «ChatGPT as Research Scientist: Probing GPT’s Capabilities as a Research Librarian, Research Ethicist, Data Generator, and Data Predictor.» Proceedings of the National Academy of Sciences 121, no. 35 (2024): e2404328121. https://doi.org/10.1073/pnas.2404328121

¿Hasta qué punto es ChatGPT un buen investigador científico? Se probó sistemáticamente las capacidades de GPT-3.5 y GPT-4 en cuatro componentes centrales del proceso científico: como bibliotecario de investigación, ético de investigación, generador de datos y predictor de datos novedosos, utilizando la ciencia psicológica como campo de pruebas.

En el Estudio 1 (Bibliotecario de Investigación), a diferencia de los investigadores humanos, GPT-3.5 y GPT-4 alucinaron, generando autoritariamente referencias ficticias el 36,0% y el 5,4% de las veces, respectivamente, aunque GPT-4 mostró una capacidad evolutiva para reconocer sus ficciones.

En el Estudio 2 (Ética de la investigación), GPT-4 (aunque no GPT-3.5) demostró ser capaz de detectar infracciones como el p-hacking en protocolos de investigación ficticios, corrigiendo el 88,6% de los problemas presentados de forma flagrante y el 72,6% de los presentados de forma sutil.

En el Estudio 3 (Generador de datos), ambos modelos reprodujeron sistemáticamente patrones de sesgo cultural descubiertos previamente en grandes corpus lingüísticos, lo que indica que ChatGPT puede simular resultados conocidos, un antecedente de utilidad tanto para la generación de datos como para habilidades como la generación de hipótesis.

Por el contrario, en el Estudio 4 (Predictor de datos novedosos), ninguno de los modelos logró predecir resultados nuevos ausentes en sus datos de entrenamiento, y ninguno pareció aprovechar información sustancialmente nueva a la hora de predecir resultados más o menos novedosos.

En conjunto, estos resultados sugieren que GPT es un bibliotecario defectuoso pero en rápida mejora, un ético de la investigación ya decente, capaz de generar datos en dominios simples con características conocidas, pero deficiente en la predicción de nuevos patrones de datos empíricos para ayudar en futuras experimentaciones.

Manifiesto por las métricas socioterritoriales de la ciencia la tecnología y la innovación

Cancino, Ronald and Albis Salas, Nadia and Villarroel Valenzuela, Jacqueline and Robles Belmont, Eduardo and Oliveira [et al.] Manifiesto por las métricas socioterritoriales de la ciencia la tecnología y la innovación 2024

Ver

La ciencia, la tecnología y la innovación han devenido en un verdadero motor de transformaciones de toda índole en escalas locales y globales. Sin embargo, las capacidades desigualmente distribuidas a nivel mundial han generado desarrollos desproporcionales en estas distribuciones. No es tan solo un problema de la ciencia en sí, sino del modo en cómo se han desarrollado las sociedades, las relaciones entre ellas, y el rol que han jugado la ciencia y la tecnología en la dinámica y el desarrollo de las sociedades. Hoy, a los problemas de asimetrías, desigualdad, exclusión y marginalidad, se suman pandemias, migraciones forzadas, extractivismo y los efectos visibles de la autonomización del cambio climático como generador de transformaciones y desastres locales y globales en los que la ciencia y la tecnología juegan un rol central en su comprensión, mitigación, prevención y solución. De este modo, el desarrollo de capacidades y el conocimiento sobre su distribución local y global son fundamentales para una actuación en el mundo contemporáneo. En este contexto, una verdadera transformación en la ciencia parece experimentarse. La conformación de redes, la demanda por impactos, la investigación mediante y en mundos virtuales y simulados, junto al creciente movimiento por el acceso y la ciencia abierta y ciudadana, son acompañados por permanentes ajustes y rediseños institucionales, actualizaciones de políticas, nuevas prioridades, instrumentos y una tendencia creciente a alinearse, por ejemplo, a los Objetivos de Desarrollo Sostenible. En este contexto, los esfuerzos para conocer, comprender y gestionar las capacidades de ciencia, tecnología e innovación, mediante métricas y formas de evaluación científica, continúan centrados en formas tradicionales y en métricas de impacto de citaciones articuladas a formas de evaluación, financiación y gasto en sistemas de publicaciones transnacionales. Los movimientos locales, nacionales y globales por la apertura de la ciencia y su evaluación son cada vez más activos, y permean de manera muy incipiente las políticas de ciencia, tecnología e innovación. Proponemos que, en estos esfuerzos, debemos incorporar un conjunto de principios que permitan construir métricas para la medición de capacidades y formas de evaluación que consideren las características, requerimientos y demandas socioterritoriales respecto de las cuales actúan y se desarrollan capacidades científicas y tecnológicas.

El futuro de la edición y la comunicación académica: Informe del Grupo de Expertos a la Comisión Europea

Guédon, Jean-Claude, ed. El futuro de la edición y la comunicación académica: Informe del Grupo de Expertos a la Comisión Europea. Books2bits, 2024. https://doi.org/10.51438/B2Binfoce2024.

PDF

El informe propone una visión del futuro de la comunicación académica; examina el sistema actual -con sus puntos fuertes y débiles- y sus principales actores. Considera el papel de los investigadores, las instituciones de investigación, las financiadoras y responsables políticos, los editores y otros proveedores de servicios, así como los ciudadanos, y formula recomendaciones dirigidas a cada uno de ellos. El informe sitúa a los investigadores y sus necesidades en el centro de la comunicación académica del futuro y considera que el conocimiento y la comprensión creados por los investigadores son bienes públicos. Los desarrollos actuales, propiciados principalmente por la tecnología, han dado lugar a una ampliación de los tipos de actores que intervienen en la comunicación académica y, en algunos casos, a la desagregación de las funciones tradicionales en el sistema.

El informe considera que la evaluación de la investigación es una piedra angular de la comunicación científica que afecta a todos los actores. Los investigadores, las comunidades y todas las organizaciones, en particular las financiadoras, tienen la posibilidad de mejorar el actual sistema de comunicación y edición académicas: deberían empezar por introducir cambios en el sistema de evaluación de la investigación. La colaboración entre los actores es esencial para lograr un cambio positivo y permitir la innovación en el sistema de comunicación y publicación académicas en el futuro.

Retiran más de 16.000 artículos científicos generados con Inteligencia Artificial

Agencia AFP. «Alerta en la ciencia: se han retirado más de 16 mil artículos científicos hechos con la ayuda de la Inteligencia ArtificialEl Colombiano, 12 de agosto de 2024. https://www.elcolombiano.com/tecnologia/retiran-miles-de-articulos-cientificos-hechos-con-inteligencia-artificial-HP25195741

La ciencia enfrenta una alerta preocupante debido al retiro de más de 16.000 artículos científicos que fueron elaborados con la ayuda de inteligencia artificial (IA). Se espera que esta cifra aumente en los próximos meses. Estos artículos, que presentan errores graves y absurdos, como una imagen de una rata con genitales sobredimensionados o una pierna humana con un número incorrecto de huesos, han sido publicados en revistas científicas importantes.

Aunque la IA, como ChatGPT, se reconoce por su utilidad en tareas como la traducción, su uso en la redacción de artículos científicos ha generado preocupaciones por prácticas deshonestas. Un ejemplo de esto ocurrió en marzo de 2024, cuando un artículo comenzó con una frase típica de ChatGPT, lo que llevó a su retiro.

El empleo de IA en la literatura científica es cada vez más difícil de detectar y está en aumento. Según estudios, al menos 60.000 artículos en 2023 fueron realizados con ayuda de la IA, lo que representa un 1% de la producción científica anual. Esta tendencia está contribuyendo a un aumento significativo en el número de artículos retirados, que alcanzó un récord de 13.000 en 2023.

La IA ha facilitado la creación masiva de artículos científicos de baja calidad, plagiados o falsos, a menudo producidos por «fábricas» de artículos financiadas por investigadores. Se estima que estas «fábricas» son responsables de un 2% de los estudios publicados, cifra que podría estar aumentando considerablemente debido a la IA.

Publicar y perecer

AKABAYASHI, Akira Publish and perish: New issues in publication ethics. Indian Journal of Medical Ethics, [S.l.], v. IX, n. 2 (NS), p. 147, mar. 2024. ISSN 0975-5691. Avaialble at: Recuperado 10 de agosto de 2024, de https://ijme.in/articles/publish-and-perish-new-issues-in-publication-ethics/?galley=html

Tradicionalmente, la frase «Publica o perece» ha reflejado la presión sobre los académicos para publicar trabajos como medio para avanzar en sus carreras y asegurar fondos de investigación. Sin embargo, Akabayashi sugiere que esta expresión debería evolucionar a «Publica y perece», dado el impacto negativo que los crecientes costos de publicación están teniendo sobre la capacidad de los investigadores para difundir sus hallazgos.

El autor describe su propia experiencia en 2022, cuando publicó 35 artículos en revistas académicas. De estos, 24 fueron en revistas de acceso abierto y 11 en revistas híbridas. Las revistas de acceso abierto permiten que los artículos estén disponibles gratuitamente para todos los lectores, pero exigen que los autores paguen una tarifa por la publicación. Las revistas híbridas, por otro lado, suelen mantener los artículos tras un muro de pago, aunque los autores pueden optar por pagar una tarifa adicional para que sus artículos sean de acceso libre.

Akabayashi destaca los altos costos asociados con la publicación en acceso abierto, incluyendo las tarifas de procesamiento de artículos (APC) y los costos de edición del lenguaje, particularmente onerosos para investigadores que no tienen el inglés como lengua materna. En su caso, los costos totales por la publicación de sus 35 artículos en un solo año ascendieron a más de 62,000 dólares, incluyendo tanto las tarifas de publicación como los gastos de edición de idioma. Estos costos no solo afectan a los investigadores individuales, sino que también tienen un impacto desproporcionado en aquellos de países de ingresos bajos y medios, exacerbando las inequidades en la producción y difusión del conocimiento científico.

El artículo también aborda la problemática de las revisiones editoriales que exigen ediciones adicionales en inglés, lo que incrementa aún más los costos para los autores que deben pagar por servicios de traducción. Además, Akabayashi discute cómo las políticas de algunas revistas y las relaciones entre universidades y editoriales podrían ser reestructuradas para aliviar estos costos, sugiriendo que las universidades podrían negociar contratos con editoriales para eximir a sus investigadores de las tarifas de publicación.

El autor concluye enfatizando que la finalidad de la investigación es beneficiar a la sociedad, y que los altos costos actuales están minando este propósito. Propone que las revistas consideren modelos más flexibles, como el «Pay What You Want» (Paga lo que quieras), para las tarifas de publicación, o que reduzcan los costos en función de los gastos reales incurridos. Akabayashi argumenta que, si no se toman medidas para reducir estos costos, la capacidad de los investigadores para publicar y aplicar sus descubrimientos científicos se verá gravemente comprometida, lo que podría tener consecuencias negativas para el avance del conocimiento y, en última instancia, para la humanidad.

Integridad académica en la era de la Inteligencia Artificial Generativa (IAG)

Alonso-Arévalo, Julio. Integridad académica en la era de la Inteligencia Artificial Generativa (IAG). Desiderata, n. 24. (2024)

Texto completo

La Inteligencia Artificial Generativa (IAG) se refiere a sistemas de inteligencia artificial capaces de crear contenido original a partir de datos existentes mediante el aprendizaje automático. Estos sistemas, entrenados con vastos corpus de texto e imágenes, pueden generar textos coherentes, responder preguntas, redactar artículos y crear imágenes detalladas. Herramientas como ChatGPT permiten a los investigadores generar borradores de artículos, reducir el tiempo de escritura y mejorar la coherencia del texto. La IAG tiene usos legítimos, como la revisión y corrección de manuscritos, la visualización de tendencias que puede inspirar nuevas formas de pensar y enfoques creativos de investigación, o ayudar a los investigadores a analizar grandes cantidades de datos y extraer información relevante.

La necesidad de reformar la publicación científica

Abdullah, Abrizah, Subbiah Arunachalam, Dominique Babini, Michael Barbour, Ahmed Bawa, Geoffrey Boulton, Amy Brand, et al. «The Case for Reform of Scientific Publishing». Report, 17 de noviembre de 2023. http://eprints.rclis.org/45342/.

Texto completo

El informe «The Case for Reform of Scientific Publishing» discute la importancia de la publicación y diseminación de los resultados científicos como procesos esenciales para la circulación y el intercambio de conocimientos. La publicación científica ha sido fundamental para el avance de la ciencia abierta, y la era digital ofrece nuevas oportunidades para mejorar este sistema. Sin embargo, el informe señala que el sistema actual ha fallado en aprovechar plenamente estas oportunidades, principalmente debido al predominio de intereses comerciales que priorizan las ganancias sobre las necesidades de la ciencia.

Los autores destacan problemas clave como los altos costos de las publicaciones, la proliferación de resultados científicos no reproducibles o fraudulentos, y el uso excesivo de índices bibliométricos para evaluar carreras científicas, lo cual ha fomentado una cultura de «publicar o perecer» y la expansión de la industria de publicaciones depredadoras.

El Consejo Internacional de Ciencias (ISC, por sus siglas en inglés) propone ocho principios fundamentales para la publicación científica, con un énfasis en tratar los resultados científicos como un bien público global. Entre las reformas sugeridas se incluyen:

  1. Abandonar los índices bibliométricos como únicos indicadores de excelencia.
  2. Crear un índice integral del registro científico.
  3. Asegurar el acceso abierto a los trabajos científicos.
  4. Mejorar el proceso de revisión por pares.
  5. Hacer que el sistema de publicación sea más responsable ante la comunidad científica.

El ISC busca liderar y estructurar la transformación del sistema de publicación científica para evitar que intereses ajenos a la ciencia dicten su futuro, promoviendo un sistema que sirva mejor a la comunidad científica global.

Los científicos que dedican tiempo a revisar manuscritos no reciben recompensas por sus esfuerzos. Es hora de cambiar eso.

Magazine, Undark. «The Misplaced Incentives in Academic Publishing». Undark Magazine, 4 de julio de 2024. https://undark.org/2024/07/04/opinion-misplaced-incentives-academic-publishing/.

Las lamentaciones sobre los modelos actuales de publicación académica provienen de todos los rincones de la comunidad científica. ¿Cómo funciona el sistema? El científico redacta los resultados de su estudio en forma de artículo. Ese artículo es revisado por «pares» (normalmente otros científicos) para una revista. Con pocas excepciones, esta es la ruta necesaria para publicar trabajos en el ecosistema profesional de la ciencia.

Los argumentos en contra son muchos, pero tienden a centrarse en características dudosas de la revisión por pares y el modelo de negocio de las revistas que publican informes revisados por pares sobre nuevas investigaciones. Las revistas cobran a las instituciones por suscripciones, y a menudo los investigadores individuales pagan hasta miles de dólares por artículo para su publicación. Todo esto mientras las revistas utilizan mano de obra gratuita o de bajo costo de editores y revisores. La hipocresía relacionada es que estas revistas se benefician de investigaciones pagadas por los contribuyentes, financiadas a través de organismos federales como la National Science Foundation y los National Institutes of Health.

A pesar de que el público financia gran parte de este trabajo, la mayor parte permanece tras un muro de pago, accesible gratuitamente solo para aquellos afiliados a instituciones que pueden pagar suscripciones (y los raros individuos que pueden pagar por sí mismos), eliminando así a la mayoría del público de la ciencia ciudadana. Muchas de las revistas que ofrecen artículos de «acceso abierto» lo hacen cobrando una tarifa exorbitante a los investigadores para publicar.

Pero por condenables que sean estos cargos, solo capturan un aspecto de la hipocresía y la irracionalidad en el modelo de publicación académica. Esto ha llevado a concluir que muchos de los mayores pecados, no apreciados, de la publicación no surgen de las revistas en sí, sino del ecosistema profesional que define la academia moderna. La estructura de incentivos fomenta un comportamiento que refuerza el modelo de publicación actual, que está roto.

El sistema actual recompensa la productividad individual mucho más que las contribuciones al sistema que fomenta la productividad. Es decir, la ciencia académica ha creado un desajuste entre los deseos y necesidades de los científicos individuales y el esfuerzo necesario para mantener una empresa científica sostenible, donde los comentarios de sus pares son necesarios.

Los científicos más experimentados suelen aconsejar dejar de lado la revisión de manuscritos o el servicio como editor de una revista y en su lugar centrarse en la propia producción. Este es un excelente consejo para un proceso pervertido: la revisión por pares de calidad es lo que da confianza en que la investigación que se lee en las revistas es de alta calidad. Pero la centralidad de la revisión por pares se basa en la suposición de que las personas evaluarán cuidadosamente el trabajo de otros por buena voluntad, o que los autores reconocerán las horas de trabajo que requieren las publicaciones de los revisores devolviendo el favor.

Seguramente, la participación de los científicos en el proceso puede ayudar a su propia productividad: los académicos construyen relaciones con los editores de revistas en las que podrían publicar sus propios manuscritos, y leer y revisar manuscritos les expone a nuevos trabajos. Pero en el mejor de los casos, estos beneficios son indirectos. Hablando claramente, prácticamente nadie en la historia de la ciencia profesional ha sido promovido o recompensado significativamente por proporcionar revisiones estelares del trabajo de otros. Aquellos que pasan horas mejorando el trabajo de sus pares a menudo lo hacen como un favor (o más bien, como una «donación»).

El sistema actual recompensa la productividad individual mucho más que las contribuciones al sistema que fomenta la productividad.

No es necesario estar versado en teoría de juegos evolutiva para reconocer cómo este sistema selecciona el comportamiento egoísta: las perspectivas de carrera de un científico son mucho mejores si decide solo producir manuscritos, en lugar de participar en su evaluación. El problema aquí puede describirse en términos termodinámicos: para que el sistema funcione responsablemente, la energía invertida debería ser aproximadamente igual a la energía que se obtiene. Muchos manuscritos publicados de impacto fueron producto del trabajo de dos o tres (o más) revisores. La única forma de agregar balance energético sería que cada investigador revisara dos o tres manuscritos por cada uno que publican como autor principal o corresponsal (uno de los que lideraron el esfuerzo de investigación). Desafortunadamente, los propios intereses de los científicos tienen prioridad.

Impresionantemente, el incentivo al egoísmo funciona tanto para científicos junior como senior. Los científicos junior deben centrarse en sí mismos porque la productividad es la clave para el ascenso profesional. Para los científicos senior, no hay razón para participar porque su (a menudo bien ganada) seguridad laboral elimina prácticamente cualquier consecuencia de no participar. Debido a la falta de incentivos, incluso las revistas de alto impacto pueden tener dificultades para encontrar revisores capacitados para los manuscritos enviados.

Los asociados postdoctorales y los estudiantes de posgrado pueden y deben participar formalmente en la revisión por pares porque muchos están calificados para hacerlo, y porque evaluar manuscritos es un excelente ejercicio de formación para el científico en desarrollo. Pero la motivación para incluir a los aprendices en la revisión por pares no es un nuevo deseo de formar a los científicos junior en todos los aspectos de la ciencia. Más bien, se necesita incluirlos porque se está quedando sin voluntarios más experimentados, y se debe encontrar la mano de obra donde pueda encontrarse.

La crisis de revisores tiene otros efectos perniciosos. Si todos los que son autores principales de un manuscrito que es revisado no devuelven el esfuerzo, entonces las matemáticas resultantes no cuadran tan bien: menos personas revisan manuscritos que las que los escriben. ¿El problema aquí? Las mentes que revisan nuevos trabajos deberían idealmente ser tan diversas en perspectiva como los autores que generan el trabajo. Este no es un problema de equilibrio, sino uno relacionado con la innovación: las diferentes perspectivas están mejor equipadas para apreciar la vasta gama de ciencia que se está llevando a cabo en todo el mundo.

Sin una gran y diversa base de revisores, un número relativamente pequeño de individuos moldea el trabajo que termina en las revistas. Incluso si esta pequeña fracción de súper-revisores son personas honestas y confiables, sus sesgos, metodológicos o de otro tipo, seguramente sesgarán los tipos de investigación que terminan en las páginas de nuestras revistas favoritas.

Al final, señalar estos defectos podría ser poco más que otra contribución al popular universo de quejas académicas. Se pueden identificar cosas del sistema que no gustan, que socavan la calidad, la originalidad y la inclusividad. Y algunos de estos elementos son legítimamente difíciles de cambiar.

Las mentes que revisan nuevos trabajos deberían idealmente ser tan diversas en perspectiva como los autores que generan el trabajo.

Sin embargo, la publicación académica es diferente de muchos otros rincones defectuosos de la ciencia profesional. Y algunas de las soluciones se pueden lograr con actividades relativamente de bajo esfuerzo. El pago por la revisión es una solución propuesta popular. Pero otras pueden lograrse sin consideraciones financieras. Por ejemplo, los decanos de ciencia en instituciones de élite podrían reunirse mañana (vía Zoom) y decidir una forma formal de incentivar fuertemente la participación en todos los aspectos del proceso de publicación. Podrían reconocer una verdad no reconocida: el científico que evalúa manuscritos regularmente, reanaliza datos y proporciona comentarios reflexivos y extensos es tanto un protector y promotor de la ciencia original como el que publica exclusivamente manuscritos por su cuenta. Estas son áreas factibles donde el liderazgo puede cambiar la conversación en relativamente poco tiempo. Por supuesto, existen grandes barreras para que algo de este tipo se ponga en práctica.

Al final, los intentos de racionalizar el sistema existente con argumentos como «Esto es lo que todos los demás están haciendo y lo que se ha hecho en el pasado» no pueden ser defendidos por ningún tipo de pensamiento maduro. Los caminos hacia muchos tipos de infierno están pavimentados con «Solo trabajo aquí».

Es necesario ser empático. Cambiar las cosas requiere tiempo y energía. Los sistemas que sustentan la publicación académica son subproductos de decisiones y no decisiones de personas ostensiblemente inteligentes que son hábiles en revelar las maravillas del mundo natural. Es hora de que dirijan su ingenio hacia adentro, hacia la creación de un nuevo sistema que recompense activamente a todos los que mantienen viva la ciencia.

Actitudes hacia la IA

Insights 2024: Attitudes toward AI. Elsevier, 2024

Texto completo

Los avances en la ciencia, la tecnología y la atención médica dan forma al progreso humano. La inteligencia artificial (IA) ha emergido como una fuerza formidable en los últimos años, ayudando a transformar cómo trabajamos, consumimos información, innovamos y muchos otros aspectos de nuestras vidas. En particular, los avances recientes en IA generativa tienen el potencial de ser transformadores.

La mayoría de los investigadores y clínicos son conscientes de la IA, pero su uso regular es bajo, aunque se espera que crezca. Las instituciones aún no han comunicado claramente sus restricciones o preparativos para el uso incrementado de la IA.

Las actitudes hacia la IA son variadas, pero el sentimiento general es más positivo que negativo entre los investigadores y clínicos. Se pueden tomar medidas específicas para aumentar la confianza en las herramientas de IA, y comunicarlas puede mejorar la comodidad de los usuarios.

El panorama de la inteligencia artificial (IA) está cambiando rápidamente, y para asegurar que la tecnología tenga un impacto positivo en la investigación y la atención médica, es crucial monitorear las opiniones de quienes podrían utilizarla.

La investigación «Insights 2024: Attitudes toward AI.» se propuso hacer esto mediante una encuesta a casi 3,000 personas que trabajan en investigación (incluidos líderes e investigadores corporativos) y en salud (clínicos) de todo el mundo.

El estudio examina las actitudes de investigadores y clínicos hacia la inteligencia artificial, incluida la IA generativa. Analiza su atractivo, impacto percibido, los beneficios para ellos y para la sociedad en general, el grado de transparencia necesario para sentirse cómodos utilizando herramientas basadas en esta tecnología, y los desafíos que ven con la IA. También revisa el uso actual de la IA y lo que los encuestados creen que ayudaría a aumentar la confianza en las herramientas de IA.

El Panorama Actual de la IA Explora la conciencia, percepciones y uso de la IA (incluida la GenAI) entre investigadores y clínicos a nivel mundial:

  • El 96% ha oído hablar de la IA (incluida la GenAI); las estadísticas subsiguientes excluyen al 4% que no está familiarizado con la IA.
  • El 54% de los que conocen la IA la han usado; el 31% la ha utilizado para fines laborales, siendo mayor en China (39%) que en EE.UU. (30%) e India (22%).
  • El 11% está muy familiarizado con la IA, es decir, la ha usado mucho.
  • ChatGPT es el producto de IA más conocido (89%).
  • El 25% ha utilizado ChatGPT para fines laborales.
  • El 49% de los que no han usado IA citan la falta de tiempo como razón.
  • El 72% cree que la IA (incluida la GenAI) tendrá un impacto transformador o significativo en su área de trabajo.

Una Perspectiva Futura sobre la IA Descubre las expectativas de investigadores y clínicos, incluyendo los posibles beneficios y desventajas de la tecnología:

  • El 95% cree que la IA ayudará a acelerar el descubrimiento de conocimiento.
  • El 94% piensa que la IA aumentará rápidamente el volumen de investigación científica y médica.
  • El 92% espera ver ahorros de costos para instituciones y empresas.
  • El 67% de los que no usan IA esperan utilizarla en los próximos 2-5 años.
  • El 42% de quienes tienen preocupaciones éticas sobre la IA citan como principal desventaja su incapacidad para reemplazar la creatividad, el juicio y/o la empatía humana.
  • El 71% espera que los resultados de las herramientas dependientes de la IA generativa se basen únicamente en fuentes de alta calidad y confiables.

Modelando un Futuro Impulsado por la IA Examina las preocupaciones de investigadores y clínicos en el contexto de construir confianza y comodidad en las herramientas de IA, y lee recomendaciones para desarrolladores e instituciones:

  • El 94% cree que la IA podría usarse para desinformación.
  • El 86% está preocupado de que la IA cause errores críticos o contratiempos.
  • El 81% piensa que la IA erosionará en cierta medida el pensamiento crítico, con el 82% de los doctores expresando preocupación por una posible dependencia excesiva de la IA para tomar decisiones clínicas.
  • El 58% dice que entrenar el modelo para que sea factualmente preciso, moral y no dañino (seguridad) aumentaría mucho su confianza en la herramienta.
  • Conocer la información que utiliza el modelo y que esté actualizada fue lo más valorado por los encuestados para aumentar su comodidad en el uso de una herramienta de IA.

Comprender no solo las preocupaciones, sino también los factores que construyen la confianza y la comodidad de los investigadores y clínicos con las herramientas de IA, puede ayudar a los desarrolladores de tecnología a crear mejores herramientas y a las instituciones a maximizar sus beneficios. La mayoría de los encuestados están preocupados por el uso de la IA para desinformación y por la posibilidad de errores críticos o contratiempos. La precisión factual y la información actualizada son claves para aumentar la confianza entre los usuarios.