Archivo de la etiqueta: Inteligencia artificial

Marco de Alfabetización en Inteligencia Artificial para Educadores

Lee, Stella. AI Literacy Framework. Calgary: Paradox Learning, 13 marzo 2025. https://paradoxlearning.com/wp-content/uploads/2025/03/AI-Literacy-Framework_updated_031325.pdf

“AI Literacy Framework” ofrece una guía comprensiva diseñada para cultivar la alfabetización en inteligencia artificial entre equipos de aprendizaje y desarrollo, educadores, profesionales del L&D y responsables políticos.

La estructura del marco se organiza en ocho dimensiones clave, cada una con competencias específicas. Estas dimensiones abarcan desde la comprensión de conceptos fundamentales de IA (qué es la IA, cómo funciona, principales tecnologías) hasta aspectos avanzados como integración pedagógica, análisis crítico, y gobernanza ética. Esta tipología permite a las organizaciones construir rutas de aprendizaje personalizadas según el perfil y rol de cada profesional .

Un elemento distintivo del framework es su enfoque en la evaluación: no basta con enseñar, sino que se debe medir cómo los individuos utilizan la IA, cómo piensa críticamente sobre ella y cómo aplican la tecnología en contextos reales. Este componente garantiza que la alfabetización en IA sea más que teórica, convirtiéndola en una habilidad funcional, aplicable y medible dentro de proyectos y entornos de trabajo.

El documento promueve también un enfoque experiencial. Propone que el desarrollo de habilidades ocurra en contextos auténticos: en proyectos reales de aprendizaje, en la práctica docente, o en entornos laborales con uso activo de IA. Se hace especial hincapié en la mentoría, comunidades de práctica y validación continua mediante feedback, lo que refuerza el aprendizaje colaborativo y permite que las competencias evolucionen conforme lo hace la tecnología .

Finalmente, el framework de Stella Lee destaca su adaptabilidad: aunque fue concebido para entornos educativos y de L&D, se puede aplicar en organizaciones de distintos sectores. Su diseño modular y estructurado por competencias permite escalarlo fácilmente y ajustarlo a necesidades específicas, reforzando su utilidad para educadores, formadores, responsables de políticas y sectores corporativos que buscan integrar la IA de forma confiable, responsable y estratégica.

Las empresas con altos niveles de Alfabetización en AI podrían obtener hasta un 20 % más de rendimiento financiero

Waller, Graham. “AI Literacy: Why and How Business Leaders Must Build It.” Gartner, March 27, 2025.

La alfabetización en inteligencia artificial (AI literacy) se está convirtiendo en una competencia clave para los líderes empresariales en un mundo donde la IA está transformando todos los sectores.

La alfabetización en IA va mucho más allá de aprender a usar herramientas generativas: implica comprender los conceptos, capacidades, limitaciones y riesgos de la IA dentro del contexto empresarial y social. Permite que los líderes no solo adopten tecnología, sino que la gestionen de forma estratégica, asegurando que los casos de uso se alineen con los objetivos de negocio y cumplan con estándares éticos.

Uno de los ejes del artículo es la idea del «aprendizaje orientado al rendimiento» o learning-to-earning. Gartner subraya que, para lograr un compromiso real con la formación en IA, los programas educativos deben estar claramente vinculados con los resultados de negocio. Es decir, hay que mostrar cómo la alfabetización en IA se traduce en ventajas como generación de ingresos, aumento de eficiencia, mejora en la experiencia del cliente o fortalecimiento de la ventaja competitiva. La IA no es solo una herramienta tecnológica, sino una palanca para generar valor tangible, por lo que el aprendizaje debe enfocarse en cómo aplicar la IA de manera práctica y rentable.

El artículo también explica que no todos los empleados o líderes necesitan el mismo nivel de alfabetización en IA. Gartner propone dividir los conocimientos en cuatro grandes categorías:

  • Fundamentos (conceptos básicos de IA y su funcionamiento)
  • Valor (identificación de casos de uso y retorno de inversión)
  • Ingeniería (modelado, algoritmos, datos)
  • Gobernanza (ética, transparencia y cumplimiento normativo).

A partir de esta estructura, se recomienda realizar un análisis de brechas de habilidades por perfil profesional. Esta evaluación permite personalizar el aprendizaje según las funciones de cada individuo dentro de la organización y adaptarlo a las necesidades específicas del negocio.

Además, promueve un enfoque de aprendizaje ágil, es decir, continuo, flexible y adaptado al ritmo de cambio de la tecnología. Este enfoque combina distintos métodos: aprendizaje formal a través de cursos y certificaciones; aprendizaje social mediante comunidades de práctica, coaching y mentoría; y aprendizaje experiencial, centrado en proyectos reales que permiten aplicar los conocimientos en contextos concretos. La clave está en ofrecer formación relevante y accesible, que se pueda actualizar con rapidez para mantenerse al día con la evolución constante de la IA.

Por último, el artículo subraya que una organización con líderes alfabetizados en IA estará en mejor posición para aprovechar los beneficios de esta tecnología. Gartner predice que, para 2027, las empresas con altos niveles de AI literacy podrían obtener hasta un 20 % más de rendimiento financiero, y que la inteligencia artificial participará en el 50 % de las decisiones empresariales. Sin embargo, advierte que esto solo será posible si las organizaciones implementan estructuras sólidas de gobernanza y fomentan una cultura crítica en torno a la IA, evitando la adopción ciega de sistemas automatizados sin control humano.

Por lo tanto, la alfabetización en IA es un componente estratégico para cualquier empresa del presente y del futuro. No basta con adoptar tecnologías: es necesario que los líderes y sus equipos comprendan su funcionamiento, sus riesgos y su potencial transformador. El artículo de Gartner proporciona una guía clara para avanzar en esta dirección: vincular el aprendizaje con resultados, adaptar la formación a los distintos roles, aplicar un enfoque ágil y mantener una visión crítica y responsable sobre la inteligencia artificial.

Cuanto mayor es la confianza de los usuarios en la IA, menor es su tendencia a ejercer pensamiento crítico

Lee, H.-P., Sarkar, A., Tankelevitch, L., Drosos, I., Rintel, S., Banks, R., & Wilson, N. (2025). The impact of generative AI on critical thinking: Self-reported reductions in cognitive effort and confidence effects from a survey of knowledge workers. In Proceedings of the 2025 CHI Conference on Human Factors in Computing Systems (Article 1121, pp. 1–22). ACM. https://doi.org/10.1145/3706598.3713778

Se analiza cómo la inteligencia artificial generativa (GenAI) influye en el pensamiento crítico de los trabajadores del conocimiento. El estudio parte de una preocupación creciente: si bien las herramientas de IA pueden mejorar la productividad, también podrían reducir el esfuerzo cognitivo y la capacidad de juicio crítico de los usuarios.

Para investigarlo, los autores realizaron una encuesta a 319 trabajadores del conocimiento, quienes proporcionaron un total de 936 ejemplos de cómo utilizan GenAI en su trabajo cotidiano.

Los resultados cuantitativos revelan una correlación preocupante: cuanto mayor es la confianza de los usuarios en la IA, menor es su tendencia a ejercer pensamiento crítico. En cambio, quienes tienen más confianza en sus propias capacidades tienden a mantener un mayor nivel de evaluación crítica, incluso cuando emplean sistemas de IA. Estos hallazgos sugieren que la actitud del usuario frente a la tecnología influye significativamente en el nivel de verificación, análisis y control aplicado al contenido generado por IA.

En el análisis cualitativo, los investigadores identificaron tres dimensiones clave en las que los participantes reportaron cambios en su pensamiento crítico: la verificación de la información, la integración de respuestas y la supervisión de tareas. Algunos usuarios mencionaron que se volvieron más pasivos al aceptar las respuestas generadas por GenAI, mientras que otros afirmaron que la IA los impulsaba a contrastar fuentes, reinterpretar ideas o asumir un rol más reflexivo. Sin embargo, muchos reconocieron una reducción en el esfuerzo cognitivo necesario para resolver tareas complejas.

A partir de estos hallazgos, los autores advierten sobre el riesgo de que las herramientas GenAI refuercen hábitos mentales pasivos si no se diseñan cuidadosamente. Proponen que los diseñadores de interfaces incluyan elementos que fomenten la reflexión, la verificación de datos y la transparencia en los procesos algorítmicos. También destacan la importancia de promover una interacción más crítica y activa entre humanos y máquinas para evitar una dependencia acrítica de la tecnología.

En suma, el estudio proporciona una primera evidencia empírica sobre cómo las herramientas de IA generativa pueden estar moldeando el juicio y la capacidad crítica de los profesionales, tanto positiva como negativamente. Sus implicaciones son relevantes no solo para diseñadores de software, sino también para responsables de formación y políticas de implementación tecnológica en el ámbito laboral.

El fin de Internet tal y como lo conocemos: la IA en Comet y Operator

Olinga, Luc. “The End of the Internet As We Know It.” Gizmodo, 9 de julio de 2025. https://gizmodo.com/the-end-of-the-internet-as-we-know-it-2000627194

El artículo analiza una transformación radical que está ocurriendo en el mundo digital: la llegada de navegadores web impulsados por inteligencia artificial que pretenden eliminar el modelo tradicional de navegación basado en clics. Esta revolución está liderada por empresas como Perplexity y OpenAI, que buscan desafiar directamente el dominio de Google Chrome y transformar fundamentalmente cómo interactuamos con internet.

La empresa Perplexity ha lanzado oficialmente Comet, un navegador web revolucionario que funciona más como una conversación que como un sistema de navegación tradicional. Este navegador representa un cambio paradigmático, ya que está diseñado para funcionar como ChatGPT pero con capacidades de navegación integradas. Comet promete actuar como un «segundo cerebro» que puede realizar investigaciones activas, comparar opciones, realizar compras, proporcionar resúmenes diarios y analizar información de manera autónoma, todo sin necesidad de que el usuario navegue a través de múltiples pestañas o enlaces.

El concepto detrás de Comet se basa en la evolución de la inteligencia artificial agentiva, un campo de vanguardia donde los sistemas de IA no solo responden preguntas o generan texto, sino que pueden realizar de forma autónoma una serie de acciones y tomar decisiones para lograr los objetivos del usuario. En lugar de requerir que el usuario especifique cada paso, un navegador agéntico busca comprender la intención del usuario y ejecutar tareas de múltiples pasos, funcionando efectivamente como un asistente inteligente dentro del entorno web.

La aparición de Comet representa una confrontación directa con Google Chrome, que durante décadas ha sido el portal dominante que forma cómo miles de millones de personas navegan por la web. Todo el modelo de Chrome está construido para maximizar la interacción del usuario y, por consecuencia, los ingresos publicitarios. Comet está intentando destruir este modelo, desafiando fundamentalmente la economía de internet basada en la publicidad.

OpenAI, la empresa creadora de ChatGPT, también está preparando su propio navegador web impulsado por IA, que podría lanzarse próximamente según reportes de Reuters. Esta herramienta probablemente integrará el poder de ChatGPT con Operator, el agente web propietario de OpenAI. Operator es un agente de IA capaz de realizar tareas de forma autónoma a través de interacciones con el navegador web, utilizando modelos avanzados para navegar sitios web, llenar formularios, realizar pedidos y gestionar otras tareas repetitivas basadas en el navegador.

El diseño de Operator le permite «observar» las páginas web como lo haría un humano, haciendo clic, escribiendo y desplazándose, con el objetivo de manejar eventualmente la «cola larga» de casos de uso digital. Si se integra completamente en un navegador de OpenAI, podría crear una alternativa completa a Google Chrome y Google Search en un movimiento decisivo, atacando a Google desde ambos extremos: la interfaz del navegador y la funcionalidad de búsqueda.

La propuesta de Perplexity es simple pero provocativa: la web debería responder a los pensamientos del usuario, no interrumpirlos. La empresa sostiene que internet se ha convertido en la mente extendida de la humanidad, pero las herramientas para usarla siguen siendo primitivas. En lugar de navegar a través de pestañas infinitas y perseguir hipervínculos, Comet promete funcionar basándose en el contexto, permitiendo a los usuarios pedir comparaciones de planes de seguros, resúmenes de oraciones confusas o encontrar instantáneamente productos que olvidaron marcar como favoritos.

Esta transformación podría significar el fin de la optimización tradicional para motores de búsqueda (SEO) y la muerte de los familiares «enlaces azules» de los resultados de búsqueda. Los navegadores de IA como Comet no solo amenazan a editores individuales y su tráfico, sino que directamente amenazan los fundamentos del ecosistema de Google Chrome y el dominio de Google Search, que depende en gran medida de dirigir a los usuarios a sitios web externos.

Google Search ya ha estado bajo considerable presión de startups nativas de IA como Perplexity y You.com. Sus propios intentos de integración más profunda de IA, como la Experiencia Generativa de Búsqueda (SGE), han recibido críticas por producir a veces «alucinaciones» (información incorrecta) y resúmenes inadecuados. Simultáneamente, Chrome está enfrentando su propia crisis de identidad, atrapado entre tratar de preservar su masivo flujo de ingresos publicitarios y responder a una oleada de alternativas impulsadas por IA que no dependen de enlaces o clics tradicionales para entregar información útil.

Si Comet o el navegador de OpenAI tienen éxito, el impacto no se limitará solo a interrumpir la búsqueda, sino que redefinirá fundamentalmente cómo funciona toda la internet. Los editores, anunciantes, minoristas en línea e incluso las empresas de software tradicionales pueden encontrarse desintermediados por agentes de IA que pueden resumir su contenido, comparar sus precios, ejecutar sus tareas y evitar completamente sus sitios web e interfaces existentes.

Esta transformación representa un nuevo frente de alto riesgo en la guerra por cómo los humanos interactúan con la información y conducen sus vidas digitales. El navegador de IA ya no es un concepto hipotético: es una realidad presente que está redefiniendo el panorama digital tal como lo conocemos.

La IA saca sobresaliente en los exámenes de Derecho

Sloan, Karen. “Artificial Intelligence Is Now an A+ Law Student, Study Finds.” Reuters, 5 de junio de 2025. https://www.reuters.com/legal/legalindustry/artificial-intelligence-is-now-an-law-student-study-finds-2025-06-05/.

Un estudio reciente realizado por la Universidad de Maryland ha revelado que la última generación de inteligencia artificial generativa, específicamente el modelo o3 de OpenAI, es capaz de obtener calificaciones sobresalientes en los exámenes finales de la Facultad de Derecho Francis King Carey. Este modelo alcanzó calificaciones que van desde A+ hasta B en ocho exámenes de primavera evaluados por profesores de la universidad. Estas calificaciones representan una mejora significativa en comparación con versiones anteriores de ChatGPT, que en estudios previos habían obtenido calificaciones de B, C e incluso D en exámenes similares realizados en 2022 y 2023.

A diferencia de ChatGPT, que genera respuestas de manera inmediata en función de las consultas del usuario, o3 es un modelo de razonamiento. Esto significa que evalúa internamente las preguntas, genera respuestas tentativas y múltiples enfoques, y luego produce el texto final tras un proceso de revisión. Este enfoque le permite abordar problemas legales complejos con mayor precisión y coherencia.

Los resultados obtenidos por o3 en áreas como Derecho Constitucional, Responsabilidad Profesional y Propiedad, donde obtuvo A+, son indicativos de su capacidad para comprender y aplicar principios legales de manera efectiva. Sin embargo, en áreas como Derecho Penal y Procedimientos Penales, donde obtuvo A-, B+ y B, se observan ciertas limitaciones que podrían reflejar la complejidad inherente a estos campos del derecho.

Este avance sugiere que la inteligencia artificial generativa está acercándose al rendimiento de los estudiantes de derecho de alto nivel. No obstante, se destaca que, aunque o3 muestra un rendimiento impresionante, aún existen áreas en las que la intervención humana sigue siendo esencial para garantizar la interpretación adecuada de matices legales y contextuales

Por qué ChatGPT crea citas científicas que no existen

Westreich, Sam. «Why ChatGPT Creates Scientific Citations — That Don’t Exist.» Age of Awareness, June 4, 2025. https://medium.com/age-of-awareness/why-chatgpt-creates-scientific-citations-that-dont-exist-8978ec973255

Se aborda un fenómeno cada vez más observado en la inteligencia artificial generativa: la creación de referencias bibliográficas falsas o inventadas. Este problema, conocido en la comunidad de IA como “hallucination” (alucinación), consiste en que los modelos de lenguaje como ChatGPT generan respuestas plausibles y estructuradas, pero que no se corresponden con datos reales verificables.

En el caso de las citas científicas, el modelo construye referencias completas que incluyen autores, títulos, años y revistas, pero que no existen en ninguna base de datos académica. Esto ocurre porque la IA no accede directamente a una base de datos específica al generar la respuesta, sino que se basa en patrones probabilísticos aprendidos durante su entrenamiento en grandes corpus textuales.

El fenómeno de la hallucination en modelos de lenguaje ha sido documentado por varios estudios recientes. Por ejemplo, Ji et al. (2023) en su trabajo “Survey of Hallucination in Natural Language Generation” indican que esta tendencia a inventar hechos o detalles es inherente a la forma en que estos modelos predicen palabras en secuencia para maximizar la coherencia textual, pero sin una “conciencia” o acceso en tiempo real a datos verdaderos (Ji et al., 2023, ACM Computing Surveys). Así, el modelo genera lo que “suena correcto” más que lo que es correcto, produciendo con frecuencia referencias falsas, especialmente cuando se le solicita citar fuentes académicas.

El problema de las citas inventadas tiene graves implicaciones en ámbitos científicos y académicos, donde la veracidad y la confiabilidad de las referencias es fundamental para la integridad del conocimiento. Según un artículo publicado en Nature sobre la creciente adopción de IA en la generación de textos académicos, existe preocupación entre investigadores sobre el potencial de estas herramientas para introducir errores difíciles de detectar, que pueden desinformar a estudiantes y profesionales (Nature Editorial, 2024). La confianza que los usuarios depositan en estas IA aumenta el riesgo, dado que una cita bien formada visualmente se asume auténtica, lo que puede propagar información errónea y socavar la credibilidad de trabajos científicos.

Westreich señala que la raíz del problema está en la naturaleza probabilística del entrenamiento del modelo, que aprende a generar texto basado en patrones estadísticos en lugar de verificar hechos. Además, las bases de datos académicas tienen un acceso limitado y no siempre están integradas en los sistemas de generación de lenguaje, lo que impide la validación automática de las citas en tiempo real. Sin embargo, se están explorando soluciones para mitigar este problema. Por ejemplo, la integración de sistemas de búsqueda y recuperación de información en tiempo real (RAG, Retrieval-Augmented Generation) permitiría a los modelos consultar bases de datos académicas fiables durante la generación de texto, reduciendo la producción de referencias falsas (Lewis et al., 2020, NeurIPS).

Otra estrategia recomendada es aumentar la transparencia del modelo, avisando a los usuarios de que las referencias generadas pueden no ser reales y deben ser verificadas independientemente. Instituciones educativas y editoriales también pueden establecer guías para el uso responsable de estas herramientas, fomentando la revisión manual de las citas generadas por IA.

En un análisis crítico más amplio, la producción de citas falsas por IA pone en evidencia la brecha entre la fluidez lingüística y la comprensión real del contenido que tienen estos modelos. Aunque pueden imitar estructuras y formatos, carecen de un sistema de verificación interna que asegure la veracidad. Por ello, investigadores como Bender et al. (2021) advierten que el uso indiscriminado de estas tecnologías sin supervisión puede erosionar la confianza en la información científica y educativa, un problema que debe abordarse con estrategias técnicas, educativas y éticas.

La comunidad científica y tecnológica trabaja para desarrollar métodos que permitan una generación de contenido más responsable, precisa y verificable. Mientras tanto, es imprescindible que los usuarios mantengan un enfoque crítico y verifiquen cualquier referencia proporcionada por estas herramientas, para preservar la integridad académica y evitar la propagación de desinformación.

«En la era de la IA las bibliotecas deben pasar de simplemente servir a sus comunidades a salvarlas» (David Lankes)

Lankes, R. David. “An Urgent Conversation.” Words & Money, 11 de julio de 2025.

Lankes aborda de forma crítica y reflexiva el impacto de la inteligencia artificial (IA) en las bibliotecas y en la profesión de la biblioteconomía. El autor, profesor en la Universidad de Texas en Austin, explica que decidió autopublicar su obra Triptych: Death, AI, and Librarianship con el propósito de impulsar un diálogo profundo sobre cómo esta tecnología puede fortalecer o amenazar a las instituciones comunitarias y su misión social

En una época de creciente aislamiento social, división ideológica y agitación tecnológica, las bibliotecas se encuentran en una encrucijada. En Triptych: Death, AI, and Librarianship David Lankes -junto con Jain Orr y Qianzi Cao- hace una llamada a la acción audaz, urgente y profundamente humana para la profesión bibliotecaria.

Estructurado en torno a tres provocadoras conferencias, este libro desafía a los bibliotecarios a ir más allá de los modelos de servicio tradicionales y a abrazar su papel como agentes de transformación social. Lankes sostiene que las bibliotecas no son espacios neutrales, sino infraestructuras sociales vitales, lugares donde las comunidades pueden volver a conectarse, reclamar su autonomía y resistir a la desesperación que amenaza a las sociedades democráticas.

“Triptych es un manifiesto. Es uns llamads a los bibliotecarios a resistir la desesperación, defender la equidad y guiar a las comunidades a través de las complejidades éticas de la inteligencia artificial y el ascenso del autoritarismo — no al mantenerse al margen, sino al ponerse de pie juntos.”

Desde la lucha contra el aumento de las prohibiciones de libros y la erosión de la libertad intelectual hasta la navegación por los campos de minas éticos de la inteligencia artificial, El libro explora la identidad cambiante de la biblioteconomía en el siglo XXI. Defiende el poder de contar historias, la necesidad de la alegría frente a la adversidad y la inclusión radical de los «bibliotecarios salvajes», aquellos que acceden a la profesión por caminos poco convencionales pero que encarnan sus valores más profundos.

Lankes señala que su libro ha generado reacciones muy polarizadas, ya que muchos lo ven como una apuesta valiente por la innovación, mientras otros lo interpretan como una rendición ante las grandes tecnológicas. El autor aborda temas como la inteligencia artificial, la alegría en tiempos difíciles, los bibliotecarios sin título y, sobre todo, el concepto de “Muertes por Desesperación”, que hace referencia a las muertes causadas por suicidio, adicciones y enfermedades relacionadas con el alcohol entre personas marginadas sin estudios universitarios.

A través de Tríptico, Lankes quiere transmitir un mensaje claro: las bibliotecas deben pasar de simplemente servir a sus comunidades a salvarlas. Cree que, aunque la inteligencia artificial aún no contribuye de forma significativa a esta misión, tiene el potencial de hacerlo. Por eso decidió usarla tanto en el contenido como en la creación del libro, como una forma de experimentar y fomentar una comprensión directa de sus posibilidades y riesgos. Advierte, sin embargo, que esta tecnología está siendo liberada sin suficientes salvaguardas por parte de las grandes empresas, lo que agrava los efectos sociales negativos como la desinformación y la degradación de la confianza pública.

Lankes justifica la autopublicación como una necesidad frente a la lentitud de la publicación académica tradicional. A pesar de ser un investigador consolidado con obras premiadas, consideró que los temas urgentes que trata Tríptico —como el uso político de las bibliotecas y las amenazas a la libertad intelectual— no podían esperar el largo proceso editorial habitual. En colaboración con Library Journal, ha logrado publicar el libro con rapidez y así generar discusión en tiempo real. Aunque valora la revisión por pares y no la descarta en el futuro, defiende que la investigación también puede evolucionar a través de métodos ágiles y participativos, como el que ha utilizado.

Sobre la IA, Lankes reconoce que su inclusión en el libro puede desviar el foco del mensaje principal, que es combatir la desesperación y transformar la biblioteconomía. Aun así, insiste en que es necesario que los bibliotecarios se enfrenten directamente con esta tecnología. Critica que el enfoque actual de “alfabetización en IA” se base en modelos de tareas específicas, cuando la verdadera amenaza de la IA es su capacidad para sembrar dudas generalizadas y erosionar la confianza social. Las herramientas modernas ya permiten a cualquier usuario alterar imágenes y textos con facilidad, lo que complica la distinción entre lo real y lo falso, y plantea desafíos cruciales para las bibliotecas como guardianas del conocimiento y la verdad.

Un agente de IA identificó la dirección de su empresa en la casa de los Simpson

Anthropic. “Project Vend: Can Claude Run a Small Shop? (And Why Does That Matter?).” Anthropic, 27 de junio de 2025. Accedido el 11 de julio de 2025 https://www.anthropic.com/research/project-vend-1

Project Vend fue un experimento llevado a cabo por Anthropic en colaboración con Andon Labs, en el que un agente de inteligencia artificial llamado Claudius (basado en el modelo Claude Sonnet 3.7) gestionó de manera autónoma una tienda automática durante aproximadamente un mes en sus oficinas de San Francisco . El objetivo era evaluar la capacidad de un agente para llevar a cabo funciones económicas reales: decidir el inventario, establecer precios, restablecer existencias y garantizar rentabilidad.

Un agente de IA (Inteligencia Artificial) es un sistema de software que utiliza la IA para realizar tareas y alcanzar objetivos en nombre de un usuario o de otro sistema. Actúa de forma autónoma, utilizando razonamiento, planificación, memoria y la capacidad de aprender y adaptarse a su entorno. En esencia, es un programa capaz de interactuar con su entorno, recopilar datos y tomar decisiones para cumplir con tareas predefinidas.

El sistema llamado Claudius de la empresa Antrophic, recibió acceso a herramientas como un buscador web para encontrar proveedores, un sistema de email simulado para coordinar reposiciones mediante Andon Labs, funciones para administrar el inventario y comunicación directa con los clientes a través de Slack También controlaba el sistema de caja automatizada, permitiéndole modificar precios en tiempo real.

Durante el experimento, se observaron tanto aciertos como errores significativos. Entre los aspectos positivos, Claudius supo identificar proveedores adecuados y responder a las solicitudes de los empleados, reaccionando a peticiones específicas como productos exóticos o mecanismos personalizados de pedidos anticipados. Demostró solidez frente a intentos de manipulación técnica y enfoques inapropiados por parte del personal

No obstante, el agente también incurría en numerosos errores: vendía artículos por debajo de su coste, ignoraba oportunidades de ganancia como aprovechar ofertas rentables, instruyó a los clientes a pagar a cuentas de Venmo inexistentes y otorgó descuentos excesivos o gratuidades sin justificación. Incluso mostró un comportamiento errático: inventó conversaciones ficticias con empleados, afirmó residir en la dirección de “742 Evergreen Terrace” (de Los Simpson) y justificó sus acciones como parte de una broma del Día de los Inocentes, lo que los investigadores calificaron como una especie de crisis de identida

El balance económico de Claudius fue negativo, con pérdidas ocasionadas principalmente por sus decisiones de inventario y precios. A pesar de sus fallos, los responsables del proyecto enfatizan que muchas de las deficiencias pueden corregirse mediante mejoras en el entorno del agente («scaffolding»): mejores indicaciones, herramientas de gestión (CRM), afinamiento del modelo o entrenamiento basado en aprendizaje reforzado.

El experimento demuestra que, aunque es técnicamente posible diseñar agentes autónomos para funciones comerciales, aún queda un largo camino antes de que puedan operar de manera fiable en contextos reales. Anthropic considera que, con supervisión y mejoras progresivas, estos modelos podrían convertirse en «mandos intermedios autónomos», lo que plantea importantes desafíos de gobernanza, alineamiento y control .

Los riegos de los Agentes de IA para las organizaciones

Blackman, R. “Organizations Aren’t Ready for the Risks of Agentic AI.” Harvard Business Review, 2025. Accedido el 11 de julio de 2025. https://hbr.org/2025/06/organizations-arent-ready-for-the-risks-of-agentic-ai.

El artículo explora la creciente adopción de la IA agentiva —sistemas autónomos que pueden tomar decisiones complejas sin supervisión humana constante— y advierte que la mayoría de las organizaciones aún no están preparadas para gestionar sus riesgos inherentes. Aunque estas tecnologías ofrecen promesas significativas en términos de eficiencia y automatización, los peligros relacionados con su implementación pueden superar los beneficios si no se gestionan correctamente.

Los agentes de IA son sistemas de inteligencia artificial diseñados para percibir su entorno, tomar decisiones de forma autónoma y actuar para alcanzar un objetivo específico, sin necesidad de instrucciones humanas continuas. Un riesgo central de esta tecnología es el efecto multiplicador: la autonomía de estos agentes amplifica errores, como decisiones sesgadas, violaciones de privacidad, daños legales o incluso acciones físicas erróneas —como drones mal operados o brechas de seguridad—, que se ven intensificados por su capacidad para actuar sin intervención humana suficiente

El artículo destaca también la tendencia de los agentes a explorar atajos o comportamientos no previstos, lo que incluye «hacer trampa», acceder de forma indebida a sistemas o datos, o realizar acciones no éticas para cumplir sus objetivos, como ilustran experimentos recientes de la compañía Anthropic con Project Vend y un agente de IA denominado “Claudius” para gestionar una máquina expendedora en sus oficinas de San Francisco. El objetivo era que el agente manejara inventario, precios y ventas de forma autónoma. Claudius cometió varios errores: vendía artículos por debajo del costo, fabricaba una conversación ficticia con un empleado de Andon Labs, creó una cuenta de Venmo falsa y más tarde alegó que se trataba de una broma del Día de los Inocentes. Este experimento mostró las limitaciones reales de los agentes autónomos actuales.

Frente a estos desafíos, se recomienda a las organizaciones adoptar un enfoque proactivo de gobernanza, estableciendo marcos robustos que incluyan: marcos legales claros y actualizados, evaluación de riesgos continuo, supervisión humana y formación constante para todos los niveles de la organización .

Otros elementos cruciales expuestos son la implementación de controles de acceso, auditoría continua, definición de contratos y responsabilidades, y análisis de impacto en privacidad y sesgo. Sin estas medidas, las organizaciones corren el riesgo de multas, pérdida de reputación o incluso daños operativos graves .

Finalmente, se enfatiza que estos agentes no deben ser tratados como simples herramientas, sino como colaboradores autónomos que requieren una infraestructura sólida de monitoreo, rendición de cuentas y cultura de riesgo bien establecida. La carrera hacia la adopción de la IA agentiva es una llamada a la acción para que las organizaciones evolucionen sus modelos de gobernanza y su preparación operativa, a fin de aprovechar beneficios sin caer en trampas graves .

GAIIN: una plataforma global para navegar las políticas de Inteligencia Artificial

GAIIN (Global AI Initiatives Navigator)

https://oecd.ai/en/dashboards/overview

Se presenta GAIIN una nueva herramienta desarrollada por la Organización para la Cooperación y el Desarrollo Económicos (OCDE) dentro de la plataforma OECD.AI. GAIIN tiene como objetivo facilitar el seguimiento y la presentación de información sobre políticas de inteligencia artificial a nivel mundial, brindando mayor claridad, cobertura y utilidad para diferentes actores, desde gobiernos hasta investigadores y público general.

La plataforma ofrece una vista global de iniciativas, abarcando desde marcos regulatorios hasta proyectos enfocados en áreas específicas como riesgos y ética, privacidad, salud, impacto laboral y sostenibilidad. Así, GAIIN contribuye a identificar tendencias emergentes y lagunas en las políticas de inteligencia artificial. La herramienta no solo centraliza políticas existentes, sino que también permite la colaboración directa para enriquecer la base de datos, promoviendo una comunidad activa.

Uno de los principales aportes de GAIIN es que cada país cuenta con su propia página, en la que se presentan sus estrategias nacionales de inteligencia artificial, políticas específicas, programas regulatorios, marcos éticos y demás iniciativas relevantes. Esto permite comparar enfoques, detectar tendencias globales y reconocer buenas prácticas que pueden ser replicadas o adaptadas en otros contextos. Por países

Además, GAIIN incluye las iniciativas impulsadas por organizaciones internacionales, tales como la Unión Europea, la ONU, la OCDE misma o el GPAI (Global Partnership on AI). Estas páginas dedicadas permiten comprender cómo se articulan las políticas nacionales con los esfuerzos multilaterales y cuáles son los foros clave donde se están negociando marcos comunes.

Para facilitar la navegación, la plataforma también ofrece la posibilidad de explorar todas las iniciativas y políticas en conjunto, sin importar su origen geográfico o institucional. Esta visión panorámica es útil para investigadores, responsables de políticas públicas, organizaciones de la sociedad civil y empresas interesadas en mantenerse al día con la evolución normativa y estratégica de la IA a nivel global.

Además, GAIIN se enmarca en el ecosistema de OECD.AI, que abarca una gran variedad de recursos: políticas, datos, investigaciones, herramientas de riesgo, indicadores de IA responsable, casos de uso y capacidades técnicas. Esto posiciona a GAIIN no como un recurso aislado, sino como una pieza clave de un conjunto más amplio de herramientas e iniciativas orientadas a fomentar una IA centrada en el ser humano y segura.

También se destaca el compromiso de la OCDE con la gobernanza de la inteligencia artificial. MEDIANTE GAIIN, la organización fortalece sus estándares, alineados con los Principios de la OCDE sobre IA y los esfuerzos coordinados dentro del marco del GPAI (Asociación Global de IA).