Archivo de la etiqueta: Inteligencia artificial

Inteligencia artificial (IA) y derechos humanos – Uso de la IA como arma de represión y su impacto en los derechos humanos

European Parliament: Directorate-General for External Policies of the Union and Ünver, A., Artificial intelligence (AI) and human rights – Using AI as a weapon of repression and its impact on human rights – In-depth analysis, Publications Office of the European Union, 2024, https://data.europa.eu/doi/10.2861/52162

Este análisis profundo (IDA) examina a los actores, casos y técnicas más destacados del autoritarismo algorítmico, junto con el marco legal, regulatorio y diplomático relacionado con los sesgos y los usos indebidos de la inteligencia artificial (IA). A medida que el mundo avanza hacia la transformación digital, el uso de la IA en la toma de decisiones políticas, económicas y sociales ha introducido tendencias alarmantes en agendas represivas y autoritarias. Este mal uso se vuelve cada vez más relevante para el Parlamento Europeo, resonando con su compromiso de proteger los derechos humanos en el contexto de la transformación digital.

El estudio busca ofrecer una comprensión más amplia de los desafíos políticos, regulatorios y diplomáticos en la intersección de la tecnología, la democracia y los derechos humanos, destacando los patrones globales y las tecnologías emergentes del autoritarismo algorítmico. Al resaltar el papel de la IA en el fortalecimiento de tácticas autoritarias, se establece una base para las intervenciones políticas del Parlamento y su defensa de un marco internacional sólido para regular el uso de la IA, asegurando que el progreso tecnológico no debilite las libertades fundamentales.

Estudios de casos detallados y recomendaciones políticas sirven como recursos estratégicos para las iniciativas del Parlamento, subrayando la necesidad de vigilancia y medidas proactivas. Esto incluye la combinación de asociaciones (asistencia técnica), impulso industrial (Ley de IA), influencia (convergencia regulatoria) y fortaleza (sanciones, controles de exportación) para desarrollar enfoques estratégicos que contrarresten el control algorítmico.

Inteligencia artificial: un enfoque moderno

Russell Stuart y Norvig Peter, Artificial Intelligence: A Modern Approach (Upper Saddle River, 2010).

Texto completo

Artificial Intelligence: A Modern Approach (3ª edición) es el libro de texto más completo sobre la teoría y práctica de la inteligencia artificial. Líder en su campo, este libro es ideal para cursos de uno o dos semestres, a nivel de pregrado o posgrado en Inteligencia Artificial.

La IA «no sustituirá» a las habilidades creativas

«73% of AI Pros Are Looking to Change Jobs over the next Year», accedido 2 de octubre de 2024, https://www.zdnet.com/article/ai-wont-replace-creative-skills-study-finds/.

Un nuevo informe de Canva, titulado «Creatividad en la Educación 2024», destaca la importancia de fomentar la creatividad en los estudiantes para competir en la era de la inteligencia artificial (IA). La IA está transformando el mercado laboral, automatizando muchas tareas rutinarias. Por ello, el informe sugiere que las habilidades exclusivamente humanas, como la creatividad, son más cruciales que nunca.

El estudio, que encuestó a educadores, recién graduados y gerentes de contratación en EE. UU., Reino Unido y Australia, define la creatividad como la capacidad de usar la imaginación para resolver problemas, expresar ideas y crear algo nuevo. Aunque el 80% de los graduados recientes creen que la creatividad ha sido clave en su éxito profesional, solo el 56% de los gerentes de contratación y el 38% de los educadores sienten que los estudiantes están adecuadamente preparados en este aspecto.

El informe de Canva subraya que la creatividad no solo es una forma de autoexpresión, sino también una habilidad que fomenta la innovación y la resolución de problemas. Estas competencias son esenciales para adaptarse a condiciones laborales cambiantes. Además, más del 85% de los gerentes creen que el auge de la IA impulsará la creatividad en el futuro.

Sin embargo, el informe revela que el 34% de los educadores afirma que sus currículos actuales carecen de oportunidades para desarrollar la creatividad, citando la falta de tiempo y recursos como obstáculos principales. Aun así, el 62% de los educadores ha notado un aumento en la creatividad entre sus estudiantes, especialmente en el Reino Unido y Australia.

El estudio también señala que la IA puede ayudar a fomentar la creatividad al automatizar tareas repetitivas, liberando tiempo para enfoques más innovadores en la enseñanza.

Resultados clave del estudio:

  • Creatividad como habilidad crucial: Según el informe, tanto los recién graduados como los gerentes de contratación consideran la creatividad como una habilidad fundamental para el éxito profesional. Para los recién graduados, la creatividad ocupa el primer lugar como la habilidad más valiosa adquirida durante sus estudios universitarios. Esto incluye la capacidad de diseñar campañas originales, personalizar servicios al cliente y optimizar procesos dentro del entorno laboral.
  • Diferencias de percepción entre graduados, empleadores y educadores: A pesar de que el 69% de los graduados recientes se sienten preparados para entrar al mercado laboral, solo el 56% de los gerentes de contratación y el 38% de los educadores coinciden en que los estudiantes están listos, especialmente en términos de creatividad y diseño. Esto refleja una disparidad en la percepción de cuán efectiva es la educación en dotar a los estudiantes de estas competencias creativas.
  • Falta de creatividad en los planes de estudio: Uno de los desafíos más importantes identificados por el estudio es que un tercio de los educadores (34%) reconoce que sus planes de estudio carecen de oportunidades suficientes para fomentar la creatividad. Entre las barreras más comunes se incluyen la falta de tiempo (36%) y la escasez de recursos y financiamiento (32%).
  • El valor de la creatividad en el entorno laboral: La creatividad no solo es vista como una habilidad de autoexpresión, sino también como un componente clave para fomentar la innovación y mejorar la capacidad de los estudiantes para adaptarse a condiciones laborales cambiantes. Esto es especialmente relevante en carreras como marketing, diseño de productos, investigación y desarrollo, y gestión.

Por qué en IA lo más grande no siempre es lo mejor

«Why Bigger Is Not Always Better in AI», MIT Technology Review, accedido 2 de octubre de 2024, https://www.technologyreview.com/2024/10/01/1104744/why-bigger-is-not-always-better-in-ai/.

La creencia de que «más grande es mejor» en inteligencia artificial (IA) ha dominado la investigación en este campo, impulsada por la idea de que la cantidad de datos, la potencia de cómputo y el número de parámetros son los principales determinantes del rendimiento de un modelo. Esta mentalidad se consolidó con un artículo de 2017 de Google, que introdujo la arquitectura de transformer, y ha llevado a las grandes empresas tecnológicas a competir por la escala de sus modelos.

Sin embargo, expertos como Sasha Luccioni, líder de IA y clima en la startup Hugging Face, argumentan que los modelos actuales son “demasiado grandes”. Estos modelos no solo son difíciles de descargar y manipular, incluso si son de código abierto, sino que también presentan problemas significativos. Entre estos se encuentran prácticas invasivas de recolección de datos y la inclusión de contenido inapropiado en los conjuntos de datos, además de tener una mayor huella de carbono debido al alto consumo de energía necesario para su funcionamiento.

La escalabilidad de los modelos también conduce a una concentración extrema de poder en manos de unas pocas empresas tecnológicas grandes. Solo estas compañías tienen los recursos financieros y técnicos necesarios para desarrollar y operar modelos de gran escala, lo que crea un «cuello de botella» en el acceso a tecnologías de IA avanzadas y limita la diversidad de enfoques en el campo.

En contraposición a esta tendencia, el Allen Institute for Artificial Intelligence (Ai2) ha desarrollado un nuevo modelo de lenguaje multimodal llamado Molmo, que demuestra que se puede lograr un rendimiento impresionante utilizando modelos mucho más pequeños. Su modelo más grande, que cuenta con 72 mil millones de parámetros, supera en rendimiento a GPT-4, que se estima tiene más de un billón de parámetros, en tareas como la comprensión de imágenes, gráficos y documentos. Además, un modelo más pequeño de Molmo, con solo 7 mil millones de parámetros, se acerca al rendimiento de los modelos de vanguardia, gracias a métodos de recolección de datos y entrenamiento más eficientes.

Los investigadores de Ai2 han enfrentado el desafío de romper con la mentalidad de «más es mejor». Al iniciar el proyecto, el equipo se propuso pensar fuera de lo convencional y encontrar formas más efectivas de entrenar modelos que fueran accesibles y económicos. La filosofía detrás de Molmo subraya que «menos es más, lo pequeño es grande, y lo abierto es tan bueno como lo cerrado».

Otro argumento a favor de reducir la escala de los modelos es que los modelos más grandes suelen ser capaces de realizar una amplia gama de tareas, muchas de las cuales pueden no ser necesarias para los usuarios finales. Luccioni sostiene que, a menudo, los usuarios solo necesitan un modelo diseñado para tareas específicas, y que los modelos más grandes no siempre ofrecen ventajas en estos casos.

Para avanzar en la investigación y aplicación de IA, es fundamental cambiar las métricas utilizadas para evaluar el rendimiento de los modelos, enfocándose en factores relevantes como la precisión, la privacidad y la confiabilidad de los datos utilizados en su entrenamiento. Esto requiere un mayor nivel de transparencia en la industria, ya que muchos investigadores no comprenden completamente cómo y por qué sus modelos producen ciertos resultados, ni qué datos se han utilizado para entrenarlos.

Finalmente, se sugiere que es hora de reevaluar la suposición de que los modelos de IA son soluciones mágicas que resolverán todos los problemas. En lugar de seguir la tendencia de la escalabilidad, la comunidad de investigación y las empresas deben crear incentivos para fomentar un enfoque más consciente y sostenible en el desarrollo de inteligencia artificial, buscando hacer más con menos y utilizando recursos de manera más responsable.

Informe EDUCAUSE Horizon 2024: Edición de Ciberseguridad y Privacidad

Jenay Robert et al., «2024 EDUCAUSE Horizon Report: Cybersecurity and Privacy Edition», 2024

Texto completo

El Informe Cybersecurity and Privacy Edition is Now Available Online, disponible desde el 30 de septiembre de 2024, analiza las tendencias, tecnologías clave y prácticas que moldean el futuro de la ciberseguridad y privacidad en la educación superior. Elaborado a partir de la experiencia de un panel global de líderes, el informe aborda los desafíos que surgen en un contexto global de incertidumbre política, conflictos bélicos y avances tecnológicos impulsados por la inteligencia artificial (IA).

El informe destaca seis tecnologías y prácticas clave:

  1. Gobernanza de IA.
  2. Apoyo a la agencia, confianza, transparencia e implicación.
  3. Enfoque en la seguridad de los datos en lugar del perímetro.
  4. Expansión de la fuerza laboral habilitada por IA.
  5. Tecnologías para mejorar la privacidad.
  6. Capacitación en ciberseguridad respaldada por IA.

El informe también examina cómo los profesionales deben adaptarse a estos cambios para garantizar la seguridad de las instituciones y los estudiantes en el futuro.

Un análisis DAFO exhaustivo de la IA y la experiencia humana en la revisión por pares

Roohi Ghosh, «Strengths, Weaknesses, Opportunities, and Threats: A Comprehensive SWOT Analysis of AI and Human Expertise in Peer Review», The Scholarly Kitchen, 12 de septiembre de 2024, https://scholarlykistg.wpenginepowered.com/2024/09/12/strengths-weaknesses-opportunities-and-threats-a-comprehensive-swot-analysis-of-ai-and-human-expertise-in-peer-review/.

Roohi Ghosh aborda el papel de la revisión por pares en la era digital, especialmente a medida que se aproxima la Semana de la Revisión por Pares.

El auge del contenido generado por IA en revistas científicas plantea preguntas sobre la responsabilidad del proceso de revisión. La carga de trabajo de los revisores es abrumadora, con millones de artículos publicados cada año y un número limitado de revisores disponibles, quienes realizan este trabajo de manera voluntaria, a menudo en su tiempo libre.

Ghosh señala que la revisión por pares debe centrarse en fortalecer la ciencia, no en detectar contenido de IA. La expectativa de que los revisores busquen texto generado por IA desvía su atención de su verdadero objetivo, lo que diluye su experiencia. En lugar de añadir presión, la IA debería ser una herramienta que facilite el trabajo de los revisores.

Se plantean preguntas sobre cómo integrar herramientas de IA que puedan identificar contenido generado por IA antes de que los artículos lleguen a los revisores, permitiéndoles concentrarse en el contenido. También se sugiere que se debe ofrecer capacitación específica sobre el uso efectivo de estas herramientas y desarrollar un enfoque colaborativo entre revisores.

El análisis SWOT propone examinar las fortalezas, debilidades, oportunidades y amenazas tanto de la IA como de la experiencia humana en la revisión por pares. En lugar de culpar, se debe fomentar un diálogo sobre cómo utilizar la IA como un aliado en la preservación de la integridad de la investigación y replantear los roles dentro del proceso de revisión. La conversación debe cambiar de la culpa a la colaboración, reimaginando el futuro de la revisión por pares.

¿Cómo afectará la IA a la productividad y la economía? Podría impulsarla a un crecimiento sin precedentes… o colapsarla.


Dylan Matthews, «How AI Could Explode the Economy», Vox, 26 de marzo de 2024, https://www.vox.com/future-perfect/24108787/ai-economic-growth-explosive-automation.


El artículo examina el posible impacto de la inteligencia artificial (IA) en la economía global y si podría desencadenar un crecimiento económico sin precedentes o, por el contrario, quedarse como una tecnología más que mejora ciertos aspectos de la productividad sin cambiar fundamentalmente el panorama económico.

Actualmente, la IA está generando riqueza significativa para algunas empresas y figuras en la industria tecnológica. Un ejemplo claro es Jensen Huang, el cofundador y CEO de Nvidia, cuya empresa controla el 80% del mercado de chips para centros de datos que utilizan IA. En los últimos cinco años, su fortuna ha pasado de 4 mil millones a 83.1 mil millones de dólares debido a la creciente demanda de su tecnología. Además, compañías como OpenAI, Anthropic e Inflection han sido valuadas en miles de millones de dólares, lo que subraya el inmenso interés en las capacidades de la IA.

Algunos investigadores argumentan que la IA no solo enriquecerá a un pequeño grupo de empresarios tecnológicos, sino que podría transformar la economía a una escala nunca antes vista. Ajeya Cotra, investigadora de Open Philanthropy, estima que la IA podría llevar a tasas de crecimiento del 20-30% anual antes de 2100. Tom Davidson, en un informe más detallado, también argumenta que este tipo de crecimiento acelerado es plausible, lo que implicaría que la economía podría duplicarse en tamaño cada 2,5 años, un nivel de crecimiento sin precedentes en la historia económica mundial.

Para poner esto en perspectiva, las tasas actuales de crecimiento en países desarrollados como Estados Unidos son de alrededor de 2-3% anual, y el país no duplicará su economía hasta dentro de unos 35 años, a este ritmo. Un crecimiento del 30% anual significaría que en 25 años, seríamos mil veces más ricos que hoy. Este tipo de salto económico superaría incluso las revoluciones industriales anteriores, que llevaron a avances como la agricultura mecanizada, la electricidad o el internet.

Sin embargo, a pesar de las proyecciones optimistas, muchos economistas dudan que la IA pueda generar un crecimiento tan espectacular. Un ejemplo citado es la «paradoja de la productividad», en la que tecnologías como las computadoras han mejorado la eficiencia en muchas áreas, pero no han causado un aumento significativo en las tasas de crecimiento económico general. A pesar de los avances tecnológicos, la productividad en algunos sectores ha crecido muy poco.

Además, la «enfermedad de los costos» de Baumol señala que los sectores menos automatizables (como la educación, la salud y la construcción) continúan siendo grandes partes de la economía. Incluso si la IA automatiza completamente algunos sectores, como la agricultura o la manufactura, estos sectores se vuelven menos importantes en el panorama económico total, limitando el crecimiento general.

David Autor, economista del MIT, argumenta que la IA, aunque avanzada, no es capaz de sustituir todo el trabajo humano, especialmente en áreas que requieren razonamiento o pensamiento creativo. Esto sugiere que el crecimiento masivo impulsado por la IA está fuera de nuestro alcance en el futuro cercano. La tecnología podría mejorar la productividad en ciertos sectores, pero no necesariamente conducir a un crecimiento explosivo en todos los ámbitos.

El debate entre optimistas y escépticos sobre el crecimiento explosivo impulsado por la IA se centra en si es posible desarrollar IA que realice cualquier tarea económica útil, incluidas aquellas relacionadas con la innovación. Los creyentes en el crecimiento explosivo argumentan que si la IA puede automatizar completamente la investigación y el desarrollo, eso aceleraría las innovaciones y mejoraría la productividad de manera radical. Sin embargo, los escépticos, como David Autor, creen que la IA aún tiene limitaciones significativas, y que las mejoras en la productividad no llevarán necesariamente a una desaparición completa de la necesidad de trabajo humano.

El artículo explica que el crecimiento podría acelerarse debido a la capacidad de la IA para reemplazar trabajos humanos y aumentar la productividad. Sin embargo, esto también podría generar una más alta desigualdad, con la mayoría de la riqueza concentrada en pocas manos, mientras la demanda de trabajo humano disminuye drásticamente.

En conclusión, se puede decir, que aunque la IA tiene el potencial de transformar la economía y mejorar la productividad en muchos sectores, la cuestión de si puede provocar un crecimiento explosivo o simplemente mejorar algunos aspectos de la economía sigue abierta. De cualquier manera, incluso un crecimiento más moderado impulsado por la IA podría tener un impacto profundo en nuestras vidas.

Encuesta de NISO sobre inteligencia artificial generativa (Gen AI) en los servicios de descubrimiento de biblioteca

NISO Open Discovery Initiative (ODI) ha lanzado una encuesta para comprender las expectativas y preocupaciones relacionadas con la inteligencia artificial generativa (Gen AI) en los servicios de descubrimiento de bibliotecas a gran escala basados en búsquedas indexadas.

 NISO Open Discovery Initiative (ODI) busca definir estándares y mejores prácticas para estos servicios, y debido a que las tecnologías de descubrimiento están explorando formas de incorporar la IA generativa en sus productos, el Comité Permanente de ODI está interesado en conocer la opinión de los proveedores de descubrimiento, los proveedores de contenido y las bibliotecas.

La encuesta toma aproximadamente 10 minutos y estará abierta hasta el 31 de octubre de 2024. Los resultados se resumirán posteriormente en el sitio web de ODI. Se solicita que los participantes respondan desde su perspectiva personal. Para más información, se puede contactar a través del correo odi@niso.org.

Enlace a la encuesta: https://umich.qualtrics.com/jfe/form/SV_821DI6888SCjIDY

El 55% de los usuarios están usando menos las búsquedas tradicionales de Google desde la llegada de productos de IA generativa

En un contexto en el que la inteligencia artificial generativa está ganando protagonismo, un reciente análisis de las tendencias en el uso de motores de búsqueda ha revelado un cambio significativo en cómo los usuarios interactúan con herramientas de búsqueda tradicionales como Google.

Un reciente sondeo de The Information reveló que el 77% de 1.088 encuestados afirmaron que están utilizando motores de búsqueda tradicionales, como Google, menos debido a los productos de IA generativa. Sin embargo, un sondeo similar realizado en X (anteriormente Twitter) por Barry Schwartz mostró resultados diferentes, indicando que solo el 55% de los 917 votantes también usan menos Google.

Amir Efrati, quien compartió estos resultados en X, destacó que el uso de herramientas como ChatGPT y la IA conversacional está en aumento para ciertos tipos de consultas. Schwartz observó que su audiencia en X, compuesta principalmente por SEO y expertos en marketing digital, podría influir en estos números, sugiriendo que son más dados a seguir usando Google. La discrepancia en los resultados ha generado discusión sobre la percepción de la adopción de la IA generativa en relación con los motores de búsqueda tradicionales.

Resultados clave

  • Schwartz observó que su audiencia está compuesta principalmente por profesionales del SEO y marketing digital, quienes, por su formación y experiencia, pueden estar más inclinados a seguir utilizando Google para sus necesidades de búsqueda. Esto podría influir en la percepción de la adopción de herramientas de IA en comparación con el uso de motores de búsqueda tradicionales.
  • La cifra del 77% puede parecer alta, pero refleja una audiencia que es probablemente más experta y privilegiada en el uso de tecnologías emergentes. Esto sugiere que la adopción de la IA generativa puede estar más arraigada en ciertos segmentos de la población que en otros.
  • Los usuarios pueden estar buscando respuestas más rápidas y personalizadas que las que pueden obtener a través de una búsqueda convencional, lo que impulsa la adopción de la IA generativa. Esto podría llevar a una reevaluación de cómo se diseñan y utilizan las herramientas de búsqueda.
  • La disminución en el uso de motores de búsqueda puede no ser un rechazo total, sino más bien una evolución en cómo se busca información. Los usuarios podrían estar utilizando ambos métodos de forma complementaria, dependiendo de la naturaleza de la consulta.
  • Para los profesionales del SEO y el marketing digital, este cambio en el comportamiento del consumidor podría significar una transformación en las estrategias de marketing, haciendo que las técnicas de optimización de búsqueda y contenido necesiten adaptarse a un entorno en el que la IA juega un papel más prominente

En resumen, mientras que los datos de The Information sugieren un cambio notable hacia la IA generativa en la búsqueda de información, los resultados de Schwartz resaltan la necesidad de comprender mejor el comportamiento del usuario en diferentes contextos. Este es un tema que seguirá siendo relevante a medida que la tecnología evoluciona y los usuarios encuentran nuevas maneras de interactuar con la información.

Práctica responsable de la IA en bibliotecas y archivos: Una revisión de la literatura

Mannheimer, S., Bond, N., Young, S. W. H., Kettler, H. S., Marcus, A., Slipher, S. K., … Sheehey, B. (2024). Responsible AI Practice in Libraries and Archives: A Review of the Literature. Information Technology and Libraries, 43(3). https://doi.org/10.5860/ital.v43i3.17245

Texto completo

Se analiza la implementación de la inteligencia artificial (IA) en bibliotecas y archivos, enfocándose en dos preguntas clave: ¿Cómo se está utilizando la IA en estas instituciones? y ¿Qué preocupaciones éticas están surgiendo y siendo abordadas durante la implementación de la IA?

El estudio revela que el uso de la IA está creciendo, especialmente en grandes bibliotecas universitarias, con aplicaciones comunes en la extracción de metadatos y servicios de referencia. La mayoría de los proyectos utiliza textos e imágenes digitalizados, así como otros materiales como archivos web y mapas. Si bien más de la mitad de los artículos revisados mencionan cuestiones éticas, solo un tercio aborda preocupaciones más allá de la precisión técnica.

El artículo destaca que, aunque el uso de la IA ofrece beneficios claros, también plantea una serie de preocupaciones éticas. Solo poco más de la mitad de los estudios revisados mencionan temas éticos en relación con la implementación de la IA, y solo un tercio profundiza en problemas éticos más allá de cuestiones técnicas, como la precisión y la participación humana en el proceso.

Entre los temas éticos identificados, los más importantes incluyen:

  • Transparencia en el uso de algoritmos y toma de decisiones.
  • Fiabilidad de los sistemas de IA y su capacidad de ofrecer resultados precisos.
  • Impacto de los costos asociados a la implementación de estas tecnologías.
  • Sesgos algorítmicos y su potencial para perpetuar desigualdades.
  • Justicia social y el impacto de la IA en comunidades vulnerables.
  • Privacidad y consentimiento, particularmente en el uso de datos personales.
  • Accesibilidad y equidad en el acceso a los recursos que gestionan las bibliotecas y archivos.

El estudio también resalta que a medida que las bibliotecas y archivos adopten más ampliamente la IA, será crucial que las instituciones no solo consideren estos aspectos éticos a nivel local, sino que también los discuten de manera pública a través de publicaciones y documentación compartida. El artículo sugiere que las bibliotecas deberían desarrollar políticas claras y directrices que rijan el uso de la IA, fomentando una práctica transparente y ética.

Se espera que las discusiones sobre ética y valores en la implementación de la IA continúen en áreas como costos, transparencia, sesgos, justicia social, privacidad y accesibilidad. El artículo subraya la importancia de discutir estas preocupaciones de manera pública y documentada a medida que la IA se vuelva más común en bibliotecas y archivos.