Archivo de la categoría: Tecnologías de la información

¿Cómo están utilizando los investigadores la IA? Una encuesta revela pros y contras para la ciencia.

How Are Researchers Using AI? Survey Reveals Pros and Cons For Science. Wileym, 2025

Texto completo

Una encuesta de la editorial Wiley realizada a casi 5.000 investigadores en más de 70 países sugiere que el uso de herramientas de inteligencia artificial (IA) para redactar manuscritos, solicitudes de subvenciones y realizar revisiones por pares será ampliamente aceptado en los próximos dos años.

La mayoría de los encuestados considera que la IA será clave en la investigación y publicación científica, con más de la mitad opinando que ya supera a los humanos en tareas como revisar grandes volúmenes de literatura, resumir hallazgos, detectar errores en la escritura, verificar plagios y organizar citas. Se espera que en los próximos dos años la IA se vuelva común en 34 de 43 casos de uso analizados.

Sin embargo, el uso real de la IA aún es limitado. Solo el 45% de los primeros 1.043 encuestados ha empleado IA en su trabajo, principalmente para traducción, corrección y edición de textos. Aunque el 81% ha usado ChatGPT de OpenAI, solo un tercio conoce otras herramientas como Gemini de Google o Copilot de Microsoft. El uso varía según el país y la disciplina, siendo más frecuente en China y Alemania, así como en investigadores de informática y medicina.

El estudio destaca barreras globales para la adopción de la IA, como la falta de directrices claras y formación, citadas por más del 60% de los investigadores. Además, un 70% considera que las editoriales deben establecer normas sobre el uso aceptable de la IA en la investigación académica.

Un estudio sobre 43 posibles casos de uso de la IA en la investigación científica revela tendencias clave:

  • Alto interés en la IA: La mayoría de los investigadores desean usar IA en 39 de los 43 casos analizados, lo que indica que su adopción limitada hasta ahora no se debe a falta de interés.
  • Reconocimiento de la capacidad de la IA: En 23 casos, los investigadores ya creen que la IA supera a los humanos, mostrando confianza en la tecnología y su potencial actual.
  • Rápida aceptación esperada: Se prevé que en dos años, 34 de los 43 casos de uso sean ampliamente aceptados, lo que sugiere una aceleración en la adopción de la IA en la investigación.
  • Incluso los adoptantes tardíos se preparan: Aunque algunos investigadores son más cautelosos, la mayoría espera que en poco tiempo la IA se convierta en una herramienta esencial en su trabajo.

En cuanto a en el interés de los investigadores respecto a los uso y en la comparación entre el rendimiento de la IA y el humano. Los hallazgos clave incluyen:

  • Promoción y difusión del artículo: Aunque la IA supera a los humanos en varias tareas de post-publicación, los investigadores muestran menor interés en estas aplicaciones, salvo en aquellas que mejoran la accesibilidad de sus trabajos.
  • Determinación del tema de investigación: Los investigadores están dispuestos a usar IA para revisar grandes volúmenes de información, pero no confían en su capacidad para anticipar nuevas tendencias en sus campos.
  • Realización de la investigación: Aunque esta fase genera menos interés, la IA es vista como útil para gestionar grandes cantidades de datos.
  • Preparación para la publicación: Es una de las áreas donde la IA tiene mayor aceptación, especialmente en la autoevaluación y asistencia en la redacción de manuscritos.
  • Revisión por pares: La mayoría de los investigadores prefieren que los humanos sigan desempeñando el papel principal en este proceso, destacando la importancia del juicio humano.

Casos actuales de uso de la IA en investigación

  • Redacción y preparación de manuscritos: 72% de los investigadores están interesados, y 62% consideran que la IA supera a los humanos en tareas como detección de errores, asistencia en escritura, verificación de plagio y generación automática de citas.
  • Manejo de grandes volúmenes de información: 67% de interés y 60% ven a la IA como superior en revisión de estudios, monitoreo de publicaciones y procesamiento de datos.
  • Accesibilidad y difusión de la investigación: 65% de interés y 58% consideran que la IA es útil en resúmenes en lenguaje sencillo y gestión del conocimiento.

Oportunidades en desarrollo

  • Generación de predicciones y recomendaciones: 64% de interés, pero 56% creen que los humanos aún lideran. Aplica a identificación de tendencias y selección de referencias.
  • Automatización de tareas administrativas: 58% de interés y 57% consideran que los humanos siguen siendo clave en gestiones como búsqueda de financiación.

Futuras aplicaciones de la IA en investigación

  • Mejora de métodos de investigación y colaboración: 54% de interés en identificación de colaboradores y optimización de experimentos.
  • Generación automatizada de contenido: 53% de interés en crear contenido multimedia y educativo basado en investigaciones.
  • Revisión por pares asistida por IA: 56% de interés en herramientas para estandarizar comentarios y agilizar el proceso.

El papel de las editoriales científicas en el uso de la IA

  • 70% de los investigadores quieren que los editores establezcan guías claras sobre el uso de IA en publicaciones.
  • 69% desean que ayuden a evitar errores y sesgos.
  • Más de la mitad buscan mejores prácticas para un uso seguro y responsable de la IA.

La Authors Guild lanza la certificación «Human Authored» para preservar la autenticidad en la literatura en un mundo impulsado por la IA

Authors Guild. «Authors Guild Launches ‘Human Authored’ Certification to Preserve Authenticity in Literature.» Authors Guild, January 29, 2025. https://authorsguild.org/news/ag-launches-human-authored-certification-to-preserve-authenticity-in-literature/

El Authors Guild ha lanzado «Human Authored», una certificación oficial destinada a preservar la autenticidad en la literatura en un mundo saturado por la inteligencia artificial (IA). Con el creciente número de libros generados por IA que se parecen y a veces incluso leen como libros escritos por humanos, los lectores pueden no saber si lo que están leyendo fue creado por IA o por un autor humano. El Authors Guild sostiene que los lectores tienen derecho a saber si un texto fue escrito por IA o por un humano y que los autores deben poder distinguir su trabajo en mercados cada vez más llenos de contenido generado por IA.

La certificación «Human Authored» permitirá a los escritores y editores usar un sello para indicar que el texto de un libro fue escrito por un humano, incluso si se utilizó IA para herramientas menores como la corrección ortográfica o de gramática. Este sello será registrado en la Oficina de Patentes y Marcas de EE. UU. y estará respaldado por un sistema de registro que permitirá verificar el origen humano de un libro a través de una base de datos pública.

El proceso de certificación es sencillo pero riguroso: los autores deben registrarse en el portal, verificar la información de su libro, firmar un acuerdo de licencia y recibir un sello único que podrán utilizar en las portadas, lomos o materiales promocionales. La iniciativa no rechaza la tecnología, sino que busca crear transparencia y resaltar los elementos humanos en la narrativa, en un mercado cada vez más saturado de contenido generado por IA.

Actualmente, la certificación está disponible solo para miembros del Authors Guild y para libros de un solo autor, pero se expandirá en el futuro para incluir libros con varios autores y a escritores fuera de la organización.

La Oficina de Derechos de Autor de EE.UU. publica la segunda parte del informe sobre inteligencia artificial

U.S. Copyright Office Releases Part 2 of Artificial Intelligence Report

Library Copyright Alliance (LCA) principles 

Part 1

Part 2

La Oficina de Derechos de Autor de EE.UU. publicó la segunda parte de su informe sobre los problemas legales y políticos relacionados con la inteligencia artificial (IA). En él, se afirma que los trabajos generados por IA pueden estar protegidos por derechos de autor solo si un humano determina los elementos expresivos. La oficina también concluye que no es necesario modificar la ley para proteger los productos generados por IA y destaca que la creatividad humana sigue siendo clave para la protección por derechos de autor.

Academ-AI, un proyecto que rastrea el uso no declarado de la inteligencia artificial en la literatura académica.

Academ-AI

https://www.academ-ai.info/

Academ-AI es un proyecto que documenta los efectos adversos del uso de inteligencia artificial (IA) en el ámbito académico, en particular, casos sospechosos de investigaciones redactadas con IA sin la debida declaración.

El sitio enumera artículos en los que se han detectado frases que sugieren fuertemente el uso de IA, las cuales se destacan en cada cita presentada. Los usuarios pueden reportar artículos que consideren incluidos erróneamente o enviar sospechas sobre otros trabajos.

Por el momento, la documentación se limita a artículos de revistas científicas y ponencias en congresos, excluyendo libros, capítulos de libros, preprints, blogs y otros medios.

Los textos generados por IA pueden identificarse por:

  • Frases características como “As of my last knowledge update…” o “As an AI language model…”.
  • Estilo conversacional que no encaja con la prosa académica.
  • Uso excesivo de pronombres en primera persona y marcadores discursivos como “ciertamente”.
  • Explicaciones extensas sobre limitaciones del conocimiento o referencias genéricas a expertos.

Si un artículo ha sido corregido por uso no declarado de IA, se etiqueta con el tipo de errata y la fecha de publicación. En casos donde los editores corrigen errores de IA sin notificar a los lectores, se marcan como “stealth revision” (revisión encubierta) sin fecha.

Se etiqueta cada artículo si pertenece a bases de datos reconocidas, como Web of Science, Scopus, PubMed Central, DOAJ, entre otras. También se validan los ISSN de las revistas y los ISBN de ponencias en congresos.

El uso de buscadores podría caer en un 25% con la llegada de la IA

«Gartner Predicts Search Engine Volume Will Drop 25% by 2026, Due to AI Chatbots and Other Virtual Agents.» Gartner Newsroom, 19 de febrero de 2024. https://www.gartner.com/en/newsroom/press-releases/2024-02-19-gartner-predicts-search-engine-volume-will-drop-25-percent-by-2026-due-to-ai-chatbots-and-other-virtual-agents.

Gartner predice que el volumen de los motores de búsqueda disminuirá un 25 % para 2026 debido a los chatbots de IA y otros agentes virtuales

Según un informe de Gartner, para 2026 el volumen de búsquedas en los motores tradicionales disminuirá un 25%, debido al crecimiento de los chatbots con inteligencia artificial (IA) generativa y otros agentes virtuales. Esto plantea un desafío para los equipos de marketing, ya que canales clave como las búsquedas orgánicas y de pago perderán relevancia frente a estas nuevas herramientas, que están sustituyendo consultas que antes se realizaban en buscadores tradicionales.

El uso de la IA generativa está reduciendo los costos de creación de contenido, lo que afecta estrategias como el uso de palabras clave y el puntaje de autoridad de dominio de los sitios web. En respuesta, los algoritmos de los buscadores darán más valor a la calidad y utilidad del contenido para contrarrestar la avalancha de material generado automáticamente.

Además, habrá un énfasis creciente en la autenticación del contenido, como el uso de marcas de agua digitales. También se anticipa que las regulaciones gubernamentales exigirán que las empresas identifiquen claramente el contenido creado por IA, lo cual influirá en cómo se muestran estos materiales en los buscadores.

Gartner aconseja a las empresas enfocarse en producir contenido único, útil y de alta calidad que refleje principios como la expertise, experiencia, autoridad y confianza (E-E-A-T, por sus siglas en inglés). Esto será crucial para mantenerse competitivos en los resultados de búsqueda y en la generación de valor para los clientes.

MyMap: creador de gráficos con IA Gratuito

MyMap

https://www.mymap.ai/es/ai-chart-maker

Con el Creador de Gráficos con IA de MyMap, puedes diseñar gráficos visualmente impactantes de forma rápida y sencilla. Gracias a la inteligencia artificial, no necesitas habilidades avanzadas de diseño ni conocimientos técnicos; solo describe lo que necesitas y deja que la IA haga el resto. Esta herramienta convierte tus datos en gráficos profesionales, ideales para presentaciones, informes o materiales educativos.

¿Cómo Funciona?

1. Ingresa tus Datos
El proceso comienza con la entrada de información. Puedes escribir un tema, pegar una URL, subir un archivo o introducir datos directamente en la plataforma. La inteligencia artificial analizará tu información y te sugerirá los tipos de gráficos más adecuados para representarla, asegurando que se adapte perfectamente a tus necesidades.

2. Personaliza tu Gráfico
Después de generar un gráfico inicial, tienes la opción de personalizarlo. Puedes ajustar colores, cambiar etiquetas, modificar estilos o añadir detalles específicos usando simples indicaciones. La IA aplicará automáticamente los cambios, lo que te permite refinar el diseño en tiempo real y asegurarte de que el resultado cumpla con tus expectativas.

3. Exporta y Comparte
Una vez que estés satisfecho con tu gráfico, puedes exportarlo fácilmente como un archivo en formato PNG o PDF. Además, si necesitas compartirlo con otras personas, la plataforma genera una URL única que permite la colaboración en línea o la presentación directa. Esto facilita que otros accedan al gráfico sin necesidad de descargas adicionales.

Nuevos horizontes de la inteligencia artificial en las bibliotecas

Balnaves, E., Bultrini, L., Cox, A. & Uzwyshyn, R. (2025). New Horizons in Artificial Intelligence in Libraries. Berlin, Boston: De Gruyter Saur. https://doi.org/10.1515/9783111336435

Texto completo

El libro reúne proyectos en curso y observaciones sobre la ética y la práctica de la IA en el ámbito bibliotecario, explorando tanto las implicaciones tecnológicas como éticas de la IA en las bibliotecas. El libro aborda aplicaciones actuales y potenciales de la IA en bibliotecas y presenta consideraciones sobre gobernanza ética y la integración de herramientas y técnicas de IA para mejorar los servicios y la competitividad de las bibliotecas.

El uso de tecnologías de inteligencia artificial (IA) está aumentando en diversos aspectos de las operaciones y tipos de bibliotecas, incluyendo bibliotecas públicas, nacionales, de investigación, académicas y especializadas. Esto abarca desde servicios públicos y de referencia, clasificación automatizada, colecciones especiales y de investigación, hasta archivos y atención al cliente mediante chatbots y sistemas de descubrimiento. Los proveedores también están incorporando elementos de IA en productos nuevos y existentes, como plataformas de búsqueda y descubrimiento, y sistemas de recomendación. El rol e impacto de la IA presentan oportunidades y desafíos, abriendo posibilidades futuras.

Las tecnologías de la información (TI) desempeñan un papel crucial en el desarrollo y uso de la IA, pero las consideraciones éticas y un pensamiento organizacional más amplio deben ser igualmente significativos. El uso de la IA puede tener un impacto considerable y posibles consecuencias no deseadas en las operaciones y servicios bibliotecarios, así como implicaciones sociales más amplias. Este texto aborda tanto los aspectos pragmáticos como los filosóficos más amplios, ofreciendo la oportunidad de explorar paradigmas emergentes de la IA en las bibliotecas, incluyendo la implementación práctica de casos de uso actuales, oportunidades futuras, y cuestiones éticas grandes relacionadas con la transparencia, la planificación de escenarios y las implicaciones del sesgo en los sistemas de IA bibliotecarios, tanto en el presente como en el futuro colectivo.

Este libro se presenta como un recurso para los bibliotecarios interesados en aprender más sobre las oportunidades y desafíos de la IA en el ámbito bibliotecario, promoviendo un futuro prometedor para su aplicación en este contexto. Además, se resalta la creación de un Grupo de Interés Especial de IA patrocinado por la IFLA, que difunde proyectos clave relacionados con la IA en el ámbito bibliotecario, como el desarrollo de respuestas estratégicas de las bibliotecas ante la IA y el uso de IA generativa para profesionales de la información.

Los aspectos de la IA tratados en el libro incluyen:

  1. Aprendizaje automático y profundo, indexación de contenido, metadatos, etiquetado y resumen: La IA puede automatizar la indexación y resumen de documentos, imágenes y medios audiovisuales, mejorando su accesibilidad y descubrimiento en diversos contextos.
  2. Recuperación y análisis de información: Utilizando tecnologías como el procesamiento de lenguaje natural y redes neuronales, la IA puede ayudar a los usuarios a encontrar y analizar información relevante de grandes fuentes de datos complejas.
  3. Compromiso con el usuario y personalización: La IA puede mejorar la experiencia del usuario mediante recomendaciones personalizadas, asistencia a través de chatbots y análisis de sentimientos.
  4. Gestión y operaciones bibliotecarias: La IA promete optimizar los flujos de trabajo de las bibliotecas, automatizando tareas y reduciendo errores, con el potencial de ofrecer nuevas opciones de servicios, como soporte 24/7, resúmenes y anotaciones de investigación, entre otros.

El libro se divide en cuatro secciones:

  1. Direcciones actuales de la IA para bibliotecas: Una visión general de la IA y su intersección con las bibliotecas y la robótica.
  2. Implicaciones del uso de IA en bibliotecas y educación: Un análisis de las consideraciones éticas, políticas de gobernanza, implicaciones educativas y de infraestructura del uso de IA.
  3. Proyectos en aprendizaje automático y procesamiento de lenguaje natural: Proyectos que demuestran el uso de la IA en aplicaciones clave para las bibliotecas en estas áreas tecnológicas.
  4. Inteligencia artificial en servicios bibliotecarios: Casos prácticos de la implementación de IA en diversos servicios bibliotecarios.

La publicación es de acceso abierto y proporciona al lector la oportunidad de explorar las recientes aplicaciones de la IA en el contexto bibliotecario, con una visión global de los avances y proyectos que marcan el futuro de la tecnología en las bibliotecas.

Artículos científicos fabricados con GPT en Google Scholar: características principales, difusión e implicaciones

Harvard Kennedy School Misinformation Review. “GPT-Fabricated Scientific Papers on Google Scholar: Key Features, Spread, and Implications for Preempting Evidence Manipulation.” Harvard Kennedy School Misinformation Review. Última modificación enero 24, 2025. https://misinforeview.hks.harvard.edu/article/gpt-fabricated-scientific-papers-on-google-scholar-key-features-spread-and-implications-for-preempting-evidence-manipulation/.

La investigación aborda el creciente fenómeno de publicaciones académicas creadas total o parcialmente mediante herramientas de IA generativa, como ChatGPT. Estos documentos, muchas veces fraudulentas, se encuentran fácilmente en Google Scholar, junto a investigaciones legítimas.

Se recuperó, descargó y analizó una muestra de artículos científicos con indicios de uso de GPT encontrados en Google Scholar mediante una combinación de codificación cualitativa y estadísticas descriptivas. Todos los artículos contenían al menos una de dos frases comunes generadas por agentes conversacionales que utilizan modelos de lenguaje extensos (LLM), como ChatGPT de OpenAI. Luego, se utilizó la búsqueda en Google para determinar en qué medida las copias de estos artículos cuestionables, fabricados con GPT, estaban disponibles en diversos repositorios, archivos, bases de datos de citas y plataformas de redes sociales.

Aproximadamente dos tercios de los artículos recuperados fueron producidos, al menos en parte, mediante el uso no declarado y potencialmente engañoso de GPT. La mayoría (57 %) de estos artículos cuestionables trataban temas relevantes para políticas (es decir, medio ambiente, salud, informática), que son susceptibles a operaciones de influencia. La mayoría estaban disponibles en varias copias en diferentes dominios (por ejemplo, redes sociales, archivos y repositorios).

De un análisis de 139 artículos, la mayoría (89) se encontraba en revistas no indexadas, mientras que 19 estaban en revistas indexadas. Además, varios se habían replicado en redes sociales, repositorios y otras plataformas, dificultando su control o eliminación. La mayoría de los artículos trataban temas sensibles y de relevancia política, como medio ambiente (19,5%), salud (14,5%) y computación (23%). Esto los hace propensos a ser utilizados en campañas de desinformación o manipulación de la opinión pública.

Algunos de los riesgos principales es que el aumento de estos artículos amenaza con saturar el sistema de comunicación académica y erosionar la confianza en el conocimiento científico y la manipulación malintencionada, ya que se trata de un fenómeno denominado evidence hacking, en el que estas publicaciones se emplean para socavar consensos científicos o respaldar narrativas engañosas en temas controvertidos.

El artículo propone implementar filtros más rigurosos en buscadores académicos, como Google Scholar, para identificar y excluir artículos no revisados por pares o de origen cuestionable. Además, sugiere crear motores de búsqueda académicos de acceso público y no comerciales, así como promover la alfabetización mediática entre los actores clave, como periodistas y legisladores.

Estos hallazgos subrayan que el fenómeno de publicaciones científicas fabricadas por GPT plantea un riesgo significativo para la confianza en la ciencia y requiere atención inmediata para mitigar sus efectos.

Cómo desarrollar la alfabetización en IA

Hennig, Nicole, y Daniel Pfeiffer. «A Tech Librarian Explains How to Build AI Literacy.» Choice: The Leading Online Resource for Library and Information Professionals, 26 de abril de 2023. https://www.choice360.org/libtech-insight/a-tech-librarian-explains-how-to-build-ai-literacy/.

El concepto de alfabetización en inteligencia artificial (IA) ha cobrado una relevancia creciente debido al impacto de tecnologías como ChatGPT y otras herramientas basadas en IA. Esta alfabetización se ha convertido en una habilidad imprescindible para la sociedad moderna, y los bibliotecarios, como profesionales clave en la educación, jugarán un papel fundamental en su enseñanza. En una entrevista con Nicole Hennig, experta en experiencia del usuario y tecnologías emergentes, se abordan los aspectos clave de la alfabetización en IA y cómo los bibliotecarios pueden integrarla en su labor educativa.

¿Qué es la alfabetización en IA? La alfabetización en IA no es solo el conocimiento básico sobre el funcionamiento de estas tecnologías, sino un conjunto de competencias que capacitan a los individuos para:

  1. Evaluar críticamente las tecnologías de IA.
  2. Comunicarse y colaborar eficazmente con la IA.
  3. Usar la IA de manera ética y efectiva tanto en el hogar como en el trabajo.

Además de estas competencias, Hennig añade la necesidad de entender cómo funciona la IA, incluidos temas como el aprendizaje automático, las redes neuronales y los modelos de lenguaje grande, así como la capacidad para tomar decisiones informadas sobre el uso de estas tecnologías.

La conexión entre alfabetización en IA y otras formas de alfabetización La alfabetización en IA está estrechamente relacionada con otras formas de alfabetización digital y de datos, ya que la IA se basa en datos digitales y algoritmos. Los bibliotecarios, que ya están involucrados en la enseñanza de la alfabetización digital, de datos y mediática, deben incorporar la alfabetización en IA en sus programas debido a la creciente integración de la IA en herramientas cotidianas y su presencia en diversas industrias.

El impacto de la IA en el trabajo de los bibliotecarios La adopción de la IA, y en particular herramientas como ChatGPT, plantea nuevas oportunidades y desafíos en el ámbito bibliotecario. Hennig señala que la alfabetización en IA se está convirtiendo en una habilidad clave que los bibliotecarios deben adquirir, no solo para educarse a sí mismos, sino también para educar a los usuarios. La IA está cada vez más presente en los requisitos laborales en diferentes campos, lo que hace que su comprensión sea crucial para todos los profesionales, incluidos los bibliotecarios.

La IA y sus críticas Aunque la IA está rodeada de críticas, especialmente en torno a temas como la desinformación, el plagio y los sesgos, Hennig destaca que la alfabetización en IA puede ayudar a navegar estos problemas. Al entender mejor cómo funciona la IA, los usuarios pueden aprender a utilizarla de manera ética y efectiva, y también podrán evaluar los riesgos y las limitaciones de estas tecnologías. Además, destaca que la IA está ayudando a democratizar la creación de contenido, lo que puede ser un aspecto positivo cuando se aborda de manera adecuada.

Ejemplo de uso efectivo de ChatGPT Hennig también ofrece ejemplos prácticos de cómo usar ChatGPT de manera efectiva. Un consejo clave es cómo formular preguntas adecuadas o «prompts» para obtener respuestas útiles. Por ejemplo, si un bibliotecario necesita ideas para una clase sobre alfabetización informacional, puede pedir a ChatGPT que genere un esquema detallado y actividades relacionadas.

Primeros pasos para bibliotecarios sin experiencia técnica Para aquellos bibliotecarios que no tienen una formación técnica en IA, Hennig recomienda comenzar con recursos accesibles como cursos cortos. Ejemplos incluyen una serie de lecciones por correo electrónico publicada por The New York Times y el curso Nano Tips for Using ChatGPT de LinkedIn Learning, que ofrece lecciones breves pero efectivas.

Mantenerse al día con los avances en IA Dado el ritmo acelerado de la evolución de la IA, es esencial seguir a expertos en el campo para mantenerse actualizado. Hennig sugiere seguir a investigadores y profesionales de la IA a través de sus boletines y redes sociales para estar al tanto de las últimas tendencias y avances.

En resumen, la alfabetización en IA es una habilidad esencial para los bibliotecarios en la actualidad. No solo deben educarse a sí mismos sobre la IA, sino que también deben ser capaces de enseñar a sus usuarios cómo utilizarla de manera ética y efectiva. Esta competencia se integra cada vez más en las herramientas que usamos diariamente y será crucial en la educación de las generaciones futuras.

Estrategia inicial y hoja de ruta de despliegue de la Inteligencia Artificial – 2024-2025

European Court of Auditors, Artificial Intelligence initial strategy and deployment roadmap – 2024-2025, Publications Office of the European Union, 2024, https://data.europa.eu/doi/10.2865/317443

En octubre de 2023, el Tribunal de Cuentas Europeo (ECA) inició una reflexión interna sobre la aplicación de la inteligencia artificial (IA) en sus actividades, tras una serie de avances en este campo. Esta reflexión dio lugar al documento “Oportunidades y desafíos en la respuesta y uso de la inteligencia artificial”, que establece un análisis inicial y propone una estrategia de IA y una hoja de ruta para su implementación. La estrategia actual del ECA cubre el período 2021-2025 y se prevé que la próxima incorpore aspectos relacionados con la IA. El objetivo es iniciar las actividades de IA de manera estructurada y proporcionar insumos para la siguiente estrategia del ECA.

Si bien la IA es una tecnología transformadora, se destaca que no reemplazará el juicio profesional ni el pensamiento crítico de los auditores, sino que los asistirá, mejorando la eficiencia y la base de las auditorías. El uso de la IA se centrará en aumentar las capacidades del personal del ECA para realizar auditorías más rápidas, eficaces y fundamentadas. Además, se subraya la importancia de mantener los más altos estándares éticos, priorizando la transparencia y aplicando un escepticismo profesional.

El documento también aclara la distinción entre el uso de la IA para la auditoría y la auditoría de los sistemas de IA, proponiendo un conjunto de objetivos y acciones concretas. Aunque el campo de la IA es aún incipiente, se consideran realistas las acciones propuestas basadas en pruebas de concepto exitosas y en la experiencia de otras instituciones. Además, se incluye un análisis preliminar sobre las herramientas de IA, considerando soluciones basadas en la nube y locales.

Se reconoce que la IA no revolucionará los procesos principales ni aumentará la productividad de manera significativa en el corto y medio plazo, pero se espera un aumento de la productividad de alrededor del 10%, lo que tendrá un impacto positivo en la eficiencia general. A medida que la IA sigue evolucionando, se ha diseñado un plan de comunicación para mantener a los empleados del ECA informados sobre las actualizaciones de este ámbito.

En cuanto a la auditoría, la IA se utilizará para mejorar la eficiencia del proceso auditivo, realizando tareas repetitivas y análisis de documentos, evaluación de riesgos y automatización de procesos rutinarios. Para aprovechar al máximo la IA, será esencial la capacitación del personal, que deberá entender tanto los aspectos operativos de las herramientas de IA como sus limitaciones, los posibles sesgos y las implicaciones éticas de su uso.

Finalmente, la auditoría de los sistemas de IA será un componente adicional en las metodologías tradicionales de auditoría de TI. Se deberá evaluar el uso de la IA por parte de las entidades auditadas, su impacto en los resultados, la toma de decisiones y el cumplimiento de estándares éticos y normativos, incluyendo los riesgos asociados con el uso de IA por terceros con los que las entidades auditadas tengan relaciones contractuales.