Living guidelines on the responsible use of generative AI in research: ERA Forum
Stakeholders’ document. European Commission, 2024
Texto completo
La inteligencia artificial (IA) ha permeado nuestras vidas, transformando cómo vivimos y trabajamos. En los últimos años, ha ocurrido una aceleración rápida y disruptiva del progreso en IA, impulsada por avances significativos en la disponibilidad generalizada de datos, poder de cómputo y aprendizaje automático. Se han logrado avances notables, en particular, en el desarrollo de modelos fundamentales, es decir, modelos de IA entrenados en volúmenes extensos de datos no etiquetados. Esta innovación ha dado lugar a lo que se conoce como ‘IA de propósito general’, capaz de realizar una amplia gama de tareas, incluida la generación de diversos tipos de contenido nuevo (texto, código, datos, imágenes, música, voz, videos, etc.), comúnmente denominado ‘IA generativa’, generalmente basado en instrucciones (también conocidas como indicaciones) proporcionadas por el usuario. La calidad de la salida producida por estos modelos es tal que es difícil distinguirla del contenido generado por humanos.
La adopción generalizada y rápida de la IA generativa está creando mucha atención y amplias respuestas políticas e institucionales. La UE está liderando a nivel mundial con la Ley de IA, y se están llevando a cabo otros esfuerzos de gobernanza internacional. Estos incluyen el proceso de Hiroshima liderado por el G7 o la Declaración de Bletchley firmada después de la Cumbre de Seguridad de la IA.
La investigación es uno de los sectores que podría ser más significativamente interrumpido por la IA generativa. La IA tiene un gran potencial para acelerar el descubrimiento científico y mejorar la efectividad y el ritmo de los procesos de investigación y verificación. Ejemplos positivos del uso de estas herramientas por parte de los investigadores incluyen el apoyo a hablantes no nativos en la producción de textos en múltiples idiomas, la producción de resúmenes de texto a partir de diferentes fuentes en corpus extremadamente grandes de manera rápida y la recuperación automática y contextualización de un amplio cuerpo de conocimiento. Sin embargo, la tecnología también entraña el riesgo de abuso. Algunos riesgos se deben a las limitaciones técnicas de la herramienta, y otros tienen que ver con el uso (intencional o no intencional) de la herramienta de maneras que erosionan las prácticas de investigación sólidas. Otros riesgos para la investigación en Europa podrían derivarse de la naturaleza propietaria de algunas de las herramientas (por ejemplo, falta de apertura, tarifas para acceder al servicio, uso de datos de entrada) o de la concentración de propiedad.
El impacto de la IA generativa en la investigación y en varios aspectos del proceso científico requiere reflexión, por ejemplo, al trabajar con texto (resumir documentos, hacer lluvias de ideas o explorar ideas, redactar o traducir). En muchos aspectos, estas herramientas podrían dañar la integridad de la investigación y plantear preguntas sobre la capacidad de los modelos actuales para combatir prácticas científicas engañosas y desinformación.