Foresight: Use and Impact of Artificial Intelligence in the Scientific Process. European Research Council (ERC) , 2023
Este informe analiza cómo los investigadores del Consejo Europeo de Investigación (ERC) están utilizando la inteligencia artificial (IA), así como los posibles usos futuros de la IA en las prácticas científicas y académicas, junto con las oportunidades y riesgos potenciales asociados.
La inteligencia artificial (IA) se ha establecido como una herramienta ampliamente utilizada en diversos campos de investigación, gracias a su variedad de modelos y enfoques que van desde tareas específicas del dominio hasta aplicaciones transversales. Este informe ofrece una visión actual del uso de la IA en el proceso científico según los beneficiarios de subvenciones del Consejo Europeo de Investigación (ERC), así como una perspectiva orientada al futuro sobre posibles desarrollos, oportunidades y riesgos proyectados para 2030.
Una oportunidad futura destacada en la encuesta fue el uso de la IA para el análisis y procesamiento de datos, lo que podría acelerar significativamente aspectos específicos del proceso científico, como la síntesis de literatura, el descubrimiento de patrones y el diseño de experimentos.
Otra dirección clara resaltada fue la necesidad de directrices éticas que regulen el uso de la IA, abarcando áreas como la privacidad y protección de datos, equidad algorítmica y prevención del uso indebido. Esto se acompañó de preocupaciones sobre la falta de transparencia y posibles problemas con sistemas de IA intrusivos, manipuladores o discriminatorios.
Sin embargo, hubo cierto escepticismo respecto al grado en que los sistemas de IA pueden contribuir al descubrimiento científico para 2030, especialmente en escenarios que imaginan a la IA como un agente completamente autónomo. En cambio, la opinión predominante fue que la IA funciona como una herramienta o soporte para los investigadores humanos, enfatizando la colaboración en lugar de la sustitución o amenaza a las carreras científicas.
Las herramientas de IA generativa, especialmente los grandes modelos de lenguaje, recibieron comentarios positivos por su utilidad actual y futura cercana, particularmente en el manejo de tareas repetitivas o laboriosas como revisiones de literatura, generación de contenido (desde presentaciones hasta artículos) y mejora del acceso a documentos en diferentes idiomas. A pesar de ello, persisten preocupaciones sobre la difusión de información falsa o conocimiento científico inexacto, así como amenazas a la integridad de la investigación, notablemente en forma de plagio y representación incorrecta de fuentes.
Universo Abierto 