Archivo de la categoría: Tecnologías de la información

Un análisis DAFO exhaustivo de la IA y la experiencia humana en la revisión por pares

Roohi Ghosh, «Strengths, Weaknesses, Opportunities, and Threats: A Comprehensive SWOT Analysis of AI and Human Expertise in Peer Review», The Scholarly Kitchen, 12 de septiembre de 2024, https://scholarlykistg.wpenginepowered.com/2024/09/12/strengths-weaknesses-opportunities-and-threats-a-comprehensive-swot-analysis-of-ai-and-human-expertise-in-peer-review/.

Roohi Ghosh aborda el papel de la revisión por pares en la era digital, especialmente a medida que se aproxima la Semana de la Revisión por Pares.

El auge del contenido generado por IA en revistas científicas plantea preguntas sobre la responsabilidad del proceso de revisión. La carga de trabajo de los revisores es abrumadora, con millones de artículos publicados cada año y un número limitado de revisores disponibles, quienes realizan este trabajo de manera voluntaria, a menudo en su tiempo libre.

Ghosh señala que la revisión por pares debe centrarse en fortalecer la ciencia, no en detectar contenido de IA. La expectativa de que los revisores busquen texto generado por IA desvía su atención de su verdadero objetivo, lo que diluye su experiencia. En lugar de añadir presión, la IA debería ser una herramienta que facilite el trabajo de los revisores.

Se plantean preguntas sobre cómo integrar herramientas de IA que puedan identificar contenido generado por IA antes de que los artículos lleguen a los revisores, permitiéndoles concentrarse en el contenido. También se sugiere que se debe ofrecer capacitación específica sobre el uso efectivo de estas herramientas y desarrollar un enfoque colaborativo entre revisores.

El análisis SWOT propone examinar las fortalezas, debilidades, oportunidades y amenazas tanto de la IA como de la experiencia humana en la revisión por pares. En lugar de culpar, se debe fomentar un diálogo sobre cómo utilizar la IA como un aliado en la preservación de la integridad de la investigación y replantear los roles dentro del proceso de revisión. La conversación debe cambiar de la culpa a la colaboración, reimaginando el futuro de la revisión por pares.

El 55% de los usuarios están usando menos las búsquedas tradicionales de Google desde la llegada de productos de IA generativa

En un contexto en el que la inteligencia artificial generativa está ganando protagonismo, un reciente análisis de las tendencias en el uso de motores de búsqueda ha revelado un cambio significativo en cómo los usuarios interactúan con herramientas de búsqueda tradicionales como Google.

Un reciente sondeo de The Information reveló que el 77% de 1.088 encuestados afirmaron que están utilizando motores de búsqueda tradicionales, como Google, menos debido a los productos de IA generativa. Sin embargo, un sondeo similar realizado en X (anteriormente Twitter) por Barry Schwartz mostró resultados diferentes, indicando que solo el 55% de los 917 votantes también usan menos Google.

Amir Efrati, quien compartió estos resultados en X, destacó que el uso de herramientas como ChatGPT y la IA conversacional está en aumento para ciertos tipos de consultas. Schwartz observó que su audiencia en X, compuesta principalmente por SEO y expertos en marketing digital, podría influir en estos números, sugiriendo que son más dados a seguir usando Google. La discrepancia en los resultados ha generado discusión sobre la percepción de la adopción de la IA generativa en relación con los motores de búsqueda tradicionales.

Resultados clave

  • Schwartz observó que su audiencia está compuesta principalmente por profesionales del SEO y marketing digital, quienes, por su formación y experiencia, pueden estar más inclinados a seguir utilizando Google para sus necesidades de búsqueda. Esto podría influir en la percepción de la adopción de herramientas de IA en comparación con el uso de motores de búsqueda tradicionales.
  • La cifra del 77% puede parecer alta, pero refleja una audiencia que es probablemente más experta y privilegiada en el uso de tecnologías emergentes. Esto sugiere que la adopción de la IA generativa puede estar más arraigada en ciertos segmentos de la población que en otros.
  • Los usuarios pueden estar buscando respuestas más rápidas y personalizadas que las que pueden obtener a través de una búsqueda convencional, lo que impulsa la adopción de la IA generativa. Esto podría llevar a una reevaluación de cómo se diseñan y utilizan las herramientas de búsqueda.
  • La disminución en el uso de motores de búsqueda puede no ser un rechazo total, sino más bien una evolución en cómo se busca información. Los usuarios podrían estar utilizando ambos métodos de forma complementaria, dependiendo de la naturaleza de la consulta.
  • Para los profesionales del SEO y el marketing digital, este cambio en el comportamiento del consumidor podría significar una transformación en las estrategias de marketing, haciendo que las técnicas de optimización de búsqueda y contenido necesiten adaptarse a un entorno en el que la IA juega un papel más prominente

En resumen, mientras que los datos de The Information sugieren un cambio notable hacia la IA generativa en la búsqueda de información, los resultados de Schwartz resaltan la necesidad de comprender mejor el comportamiento del usuario en diferentes contextos. Este es un tema que seguirá siendo relevante a medida que la tecnología evoluciona y los usuarios encuentran nuevas maneras de interactuar con la información.

Toolkit de Bellingcat para que los investigadores descubran herramientas útiles open source

A toolkit for open source researchers

Online Open Source Investigation Toolkit de Bellingcat es una plataforma diseñada para que los investigadores descubran herramientas útiles. Este kit incluye servicios de imágenes satelitales, herramientas para verificar fotos y videos, sitios para archivar páginas web, entre otros. La mayoría de las herramientas incluidas son gratuitas.

Bellingcat ha lanzado una nueva herramienta en línea llamada Online Investigations Toolkit, diseñada para ayudar a investigadores a descubrir y aprender a usar herramientas en categorías como imágenes satelitales, redes sociales, transporte y archivado. El toolkit proporciona descripciones detalladas, casos de uso comunes y especificaciones sobre los requisitos y limitaciones de cada herramienta, muchas de las cuales son gratuitas.

Uno de los principales problemas señalados por los entrevistados es que muchos toolkits no se actualizan regularmente. Ocho de los 40 entrevistados sugirieron un enfoque colaborativo para mantener la relevancia de las herramientas. Además, muchos investigadores solicitaron guías que expliquen cómo usar cada herramienta y detalles claros sobre sus costos o limitaciones, para evitar sorpresas costosas.

Bellingcat ha diseñado este toolkit con el objetivo de facilitar el acceso a herramientas útiles, con la posibilidad de seguir mejorándolo mediante la colaboración entre usuarios. La última versión del toolkit es especial, ya que se ha desarrollado en colaboración con la comunidad de voluntarios de Bellingcat. Al hacer clic en «Detalles» junto a cada entrada, se puede acceder a una descripción detallada de la herramienta.

Más de 120 proyectos de ley sobre IA están siendo discutidos en el Congreso de EE.UU.

«There Are More than 120 AI Bills in Congress Right Now», MIT Technology Review, accedido 19 de septiembre de 2024, https://www.technologyreview.com/2024/09/18/1104015/here-are-all-the-ai-bills-in-congress-right-now/.

En 2024, más de 120 proyectos de ley relacionados con la inteligencia artificial (IA) están siendo discutidos en el Congreso de EE.UU. Estos proyectos son muy variados, abarcando desde mejorar la educación sobre IA en escuelas públicas hasta exigir que los desarrolladores revelen el uso de material con derechos de autor en el entrenamiento de modelos de IA. Algunos tratan de mitigar los riesgos biológicos de la IA o regular el uso de deepfakes en campañas políticas y pornografía no consensual. Incluso hay un proyecto que prohíbe que la IA lance armas nucleares sin intervención humana.

La gran cantidad de propuestas refleja la urgencia con la que el Congreso está intentando regular una tecnología que avanza rápidamente. Sin embargo, debido al proceso legislativo, la mayoría de estos proyectos no se convertirán en ley. Muchos ni siquiera serán votados, ya que algunos líderes políticos no los impulsan si consideran que no tienen suficientes apoyos. En un entorno político polarizado, lograr que los proyectos reciban apoyo bipartidista es una tarea monumental.

Algunos avances legislativos han sido hechos, como la creación del Instituto de Seguridad en IA de EE.UU. (AISI), que se encargará de establecer guías voluntarias para el desarrollo seguro de IA. Otros proyectos buscan expandir la educación en IA y aumentar los recursos públicos para la investigación en esta área. Sin embargo, muchos de los proyectos evitan imponer regulaciones estrictas, lo cual responde al temor de frenar la innovación tecnológica.

Un aspecto notable es el papel que juegan las grandes empresas tecnológicas en este debate. Aunque algunas han solicitado más regulación, sus grupos de presión (lobbies) intentan suavizar o eliminar las restricciones. Esto preocupa a expertos que creen que las compañías pueden aprovechar los compromisos voluntarios para definir sus propios estándares sin cumplir con regulaciones significativas.

La falta de atención a temas de equidad y minorías en estos proyectos es también destacable. Aunque algunos intentos de abordar los sesgos en los modelos de IA han sido discutidos, han encontrado resistencia, especialmente entre los legisladores republicanos. A pesar de ello, algunos proyectos bipartidistas, como los que regulan los deepfakes, están avanzando debido a la preocupación compartida sobre su impacto en elecciones y la privacidad de las personas.

Los proyectos de ley actuales reflejan un enfoque mixto: promover el desarrollo tecnológico sin imponer barreras regulatorias estrictas. Sin embargo, lograr una regulación efectiva que también aborde temas de equidad y responsabilidad sigue siendo un desafío en evolución.

El rol de las bibliotecas como espacios públicos para contrarrestar la desinformación en la era de la IA generativa

The Role of Libraries as Public Spaces in Countering Misinformation, Disinformation, and Social Isolation in the Age of Generative AI. Urban Libraries Council, 2024

Texto completo

Urban Libraries Council (Consejo de Bibliotecas Urbanas, ULC) ha publicado un nuevo Informe de Liderazgo que aborda el aumento de la inteligencia artificial generativa (IA) y su contribución a la propagación de desinformación y misinformación. Ante el creciente aislamiento social, el informe explora cómo las bibliotecas públicas están en una posición única para enfrentar estos desafíos mediante la promoción de la alfabetización digital y el fomento de conexiones comunitarias.

El informe proporciona recomendaciones que las bibliotecas pueden implementar, como la actualización de los currículos de alfabetización digital, la creación de recursos para identificar desinformación y el desarrollo de programas que promuevan el compromiso cívico y la cohesión social. Subraya el papel vital de las bibliotecas en empoderar a las personas y fortalecer las comunidades frente a los desafíos tecnológicos y sociales.

Según Brooks Rainwater, presidente y CEO de ULC, los desafíos como la expansión de la IA, la información falsa y la soledad son temas recurrentes en las bibliotecas de América del Norte. El informe ofrece varias recomendaciones para que las bibliotecas refuercen su trabajo y comunidades.

Ejemplos de implementación de las recomendaciones en bibliotecas de EE.UU. y Canadá:

  • Biblioteca Pública de Boston: Organizó un taller sobre cómo combatir la desinformación, desarrollar habilidades de ciudadanía digital y utilizar herramientas para identificar información veraz.
  • Biblioteca Pública de Brooklyn: Colaboró con Women in AI Ethics™ en un evento con la congresista Yvette D. Clarke sobre los peligros de la IA generativa en los medios y la protección de las mujeres contra el abuso de imágenes.
  • Biblioteca Pública de Dallas: Alojó la exhibición del Smithsonian “The Bias Inside Us” y organizó programas para todas las edades para sensibilizar sobre cómo los prejuicios afectan el pensamiento.
  • Biblioteca Pública de Toronto: Desarrolló un kit de herramientas sobre “Noticias Falsas y Alfabetización Informativa” para ayudar a los usuarios a distinguir entre información veraz y desinformación.

Este informe reafirma la importancia de las bibliotecas en la construcción de comunidades resilientes en un mundo cada vez más influido por la IA.

La utilización de la IA generativa sin límites puede ser perjudicial para la educación

«Without Guardrails, Generative AI Can Harm Education», Knowledge at Wharton (blog), accedido 18 de septiembre de 2024, https://knowledge.wharton.upenn.edu/article/without-guardrails-generative-ai-can-harm-education/.

Un nuevo estudio realizado por investigadores de Wharton y Penn, liderado por Hamsa Bastani, muestra que el uso de inteligencia artificial generativa (IA) puede mejorar el rendimiento de los estudiantes, pero también dificultar su capacidad para aprender y adquirir nuevas habilidades.

El experimento, realizado con casi 1.000 estudiantes de matemáticas en Turquía, comparó tres grupos: uno con una IA tipo ChatGPT (GPT Base), otro con una versión guiada por profesores (GPT Tutor) y un grupo de control sin IA. El grupo que utilizó GPT Base mejoró su rendimiento un 48% durante la práctica, pero su desempeño en el examen fue un 17% peor que el grupo de control. En contraste, el grupo GPT Tutor, que recibió orientación, mostró mejoras significativas sin una caída posterior en el examen.

El estudio revela que los estudiantes que dependieron exclusivamente de la IA sin guía adicional no lograron profundizar en los conceptos matemáticos, resultando en un rendimiento deficiente en el examen. En cambio, aquellos que utilizaron la IA con orientación, como la proporcionada por GPT Tutor, no solo mejoraron durante la práctica, sino que también retuvieron mejor el conocimiento.

Conclusiones y Preocupaciones:

Dependencia de la IA: Los investigadores advierten que el uso indiscriminado de IA puede llevar a una dependencia que impida a los estudiantes desarrollar habilidades fundamentales. La IA puede ser beneficiosa si se usa correctamente, pero confiar en ella sin desarrollar una comprensión profunda puede ser perjudicial.

Optimismo de los Estudiantes: Los estudiantes que usaron IA tendían a ser demasiado optimistas sobre sus habilidades, incluso los de alto rendimiento.

Preocupaciones de los Profesores: Los docentes tienden a ser cautelosos con la IA, subestimando sus beneficios potenciales debido a la falta de capacitación sobre cómo integrarla eficazmente con métodos tradicionales de enseñanza.

El estudio sugiere que la IA debe usarse de manera controlada y bajo la supervisión de educadores para evitar la dependencia excesiva y asegurar que los estudiantes desarrollen las habilidades necesarias. Además, se subraya que la IA aún tiene limitaciones significativas, como la generación de información errónea, lo que requiere una verificación constante de los resultados.

Necesidad de reformar la educación para preparar a las futuras generaciones en un mundo impulsado por la inteligencia artificial (IA).

«Must-Have Competencies and Skills in Our New AI World: A Synthesis for Educational Reform», EDUCAUSE Review, accedido 18 de septiembre de 2024, https://er.educause.edu/articles/2024/9/must-have-competencies-and-skills-in-our-new-ai-world-a-synthesis-for-educational-reform.

El artículo resalta la urgente necesidad de reformar la educación para preparar a las futuras generaciones en un mundo impulsado por la inteligencia artificial (IA). Los sistemas educativos actuales deben evolucionar desde un enfoque en la memorización hacia un aprendizaje más dinámico, que potencie la creatividad, agilidad y el razonamiento ético. Esto no es solo para adaptarse a la IA, sino para liderar y moldear su desarrollo.

El autor, Fawzi BenMessaoud, propone un modelo educativo tripartito que integra tres conjuntos de competencias esenciales para prosperar en este nuevo entorno:

  1. Habilidades de Diseño Inteligente: Se refiere a la capacidad de combinar creatividad y tecnología. Involucra competencias como la alfabetización digital avanzada, la capacidad de estructurar ideas lógicas, comprender sistemas complejos y diseñar interfaces intuitivas centradas en el usuario.
  2. Habilidades Humanas Inteligentes: Estas habilidades son intrínsecamente humanas y esenciales para una IA ética y responsable. Incluyen la evaluación crítica, la toma de decisiones, la competencia ética, el aprendizaje continuo, la reflexión crítica y la habilidad para diseñar preguntas estratégicas para interactuar con la IA (ingeniería de prompts).
  3. Habilidades de Datos Inteligentes: En un mundo lleno de datos, la habilidad para interpretarlos y usarlos eficazmente es crucial. Se destacan la veracidad de los datos, la capacidad para digerir grandes cantidades de información, la visualización de datos y la curación adecuada de los mismos.

La propuesta de BenMessaoud es que estas competencias no sean complementarias, sino que se conviertan en la base de un sistema educativo reformado que se anticipe a la evolución de la IA, asegurando que los estudiantes puedan aprovechar su potencial de manera ética y responsable.

Además, señala que la educación del futuro debe integrar herramientas de IA para personalizar la enseñanza, hacerla más equitativa y democratizar el acceso a recursos. Sin embargo, también destaca la necesidad de abordar desafíos como los sesgos algorítmicos y la privacidad de los datos.

El artículo concluye que la integración de IA en la educación no debe ser vista como una amenaza, sino como una oportunidad para enriquecer la enseñanza y el aprendizaje humano. Los educadores, estudiantes y administradores deben trabajar juntos para garantizar que la IA se utilice de manera ética, inclusiva y al servicio del bien común, transformando así el sistema educativo para enfrentar los retos del futuro.

IA generativa: Cómo abordar la propiedad intelectual.

Organización Mundial de la Propiedad Intelectual (OMPI), IA generativa: Cómo abordar la propiedad intelectual. (World Intellectual Property Organization, 2024),

Texto completo

En la publicación IA generativa: cuestiones de propiedad intelectual se describen los principios rectores y se proporciona una lista de verificación para ayudar a las organizaciones a entender los riesgos que afectan a la PI, formular las preguntas correctas y considerar las posibles salvaguardias al adoptar herramientas de IA generativa en sus actividades.

IA generativa

Organización Mundial de la Propiedad Intelectual (OMPI), IA generativa (World Intellectual Property Organization, 2024),

Texto completo

La inteligencia artificial (IA) generativa tiene el potencial de revolucionar todos los sectores y gran parte de nuestras vidas y promete tanto ventajas competitivas como destrucción creativa. Con todo, ¿en qué medida resulta creativa e imaginativa la IA, cuáles son las posibles repercusiones para los creadores y cómo garantizamos que el sistema de PI siga fomentando la innovación y la creatividad en la era de la IA?

Inteligencia artificial generativa y alfabetización mediática en bibliotecas

Alonso-Arévalo, Julio Inteligencia artificial generativa y alfabetización mediática en bibliotecas. Mi Biblioteca, 2024, vol. 20, n. 78, pp. 54-58. 

Texto completo

La inteligencia artificial (IA) está emergiendo como una tecnología disruptiva que está remodelando rápidamente varios aspectos de nuestra sociedad. Aunque la IA ha estado en uso durante varios años, ha sido la IA generativa, con su capacidad para realizar tareas que normalmente requerirían inteligencia humana, la que ha suscitado este interés. La habilidad de generar contenido de manera similar a como lo haría un ser humano tiene aplicaciones en una amplia variedad de campos, desde la educación hasta la investigación o la salud, que involucran tanto a los profesionales de biblioteca como a las instituciones mismas.