Archivo de la etiqueta: Algoritmos

Del libro al algoritmo: impulsando el conocimiento sobre IA en las bibliotecas


Alonso Arévalo, J., & López Melguizo, I. (2025, 5–7 de noviembre). Del libro al algoritmo: Impulsando el conocimiento sobre IA en las bibliotecas [Comunicación en congreso]. XII Congreso Nacional de Bibliotecas Públicas, Palacio de Congresos de Granada, Granada, España.

Texto completo

Se plantea una profunda reflexión sobre el nuevo papel que deben desempeñar las bibliotecas en una sociedad donde la inteligencia artificial (IA) se ha convertido en una tecnología omnipresente. Los autores sostienen que la IA ya no constituye una innovación reservada a especialistas, sino un elemento que condiciona la vida cotidiana de millones de personas, desde los sistemas de recomendación que utilizan las plataformas digitales hasta los algoritmos que participan en procesos médicos, educativos, financieros o administrativos. Sin embargo, cuanto mayor es la presencia de la IA en nuestras vidas, menor suele ser el conocimiento que posee la ciudadanía sobre su funcionamiento, sus limitaciones y las implicaciones sociales, éticas y políticas que conlleva.

El trabajo parte de la idea de que la revolución provocada por la inteligencia artificial no es únicamente tecnológica, sino también cultural y social. Los algoritmos influyen cada vez más en la manera en que las personas acceden a la información, toman decisiones, consumen contenidos o interactúan con las instituciones. No obstante, la mayoría de estos procesos permanecen ocultos para los ciudadanos, funcionando como auténticas «cajas negras» cuyos mecanismos internos resultan prácticamente desconocidos. Esta falta de comprensión genera una nueva modalidad de analfabetismo, que los autores denominan analfabetismo digital crítico: la incapacidad para comprender cómo funcionan los sistemas algorítmicos que condicionan nuestra vida diaria.

Los autores advierten que esta situación tiene importantes consecuencias sociales. Las personas que desconocen el funcionamiento de la IA son mucho más vulnerables a la manipulación informativa, a la desinformación, a la pérdida de privacidad y a la exclusión de los debates sobre el desarrollo tecnológico. Además, la IA incorpora inevitablemente decisiones humanas, ya que los algoritmos son diseñados, entrenados y ajustados mediante datos que reflejan intereses, prioridades y, en muchos casos, prejuicios existentes en la sociedad. Por ello, la alfabetización en inteligencia artificial no debe limitarse a aprender a utilizar herramientas, sino que debe proporcionar capacidad crítica para comprender cómo se producen esas decisiones automatizadas, quién se beneficia de ellas y qué consecuencias generan para distintos colectivos sociales.

En este contexto, el artículo sitúa a las bibliotecas como las instituciones mejor preparadas para asumir una nueva misión educativa. Históricamente las bibliotecas han garantizado el acceso democrático al conocimiento, primero mediante los libros impresos, posteriormente facilitando el acceso a Internet y a los recursos digitales, y ahora deben contribuir a democratizar el conocimiento sobre la inteligencia artificial. Los autores consideran que las bibliotecas representan uno de los pocos espacios públicos donde cualquier ciudadano, independientemente de su edad, nivel educativo o situación económica, puede acceder gratuitamente tanto a recursos tecnológicos como a programas de formación. De esta manera, la biblioteca deja de ser únicamente un lugar de conservación documental para convertirse en un centro de aprendizaje permanente y participación ciudadana en la era digital.

El proyecto «Del libro al algoritmo» propone precisamente ampliar la misión tradicional de las bibliotecas sin abandonar sus valores históricos. Los libros continúan siendo fundamentales, pero ahora deben convivir con laboratorios digitales, espacios de creación, talleres tecnológicos y actividades relacionadas con la inteligencia artificial. La biblioteca pasa así de ser un lugar donde se consume conocimiento a un espacio donde también se crea, experimenta y reflexiona colectivamente sobre las nuevas tecnologías. Esta evolución resulta coherente con la transformación que ya han experimentado muchas bibliotecas mediante makerspaces, laboratorios de innovación y espacios colaborativos.

Uno de los aspectos centrales del artículo consiste en definir qué significa realmente la alfabetización en inteligencia artificial. Los autores adoptan el enfoque desarrollado por Stanford Teaching Commons, según el cual la alfabetización en IA comprende cuatro grandes dimensiones. La primera consiste en comprender cómo funcionan los sistemas de inteligencia artificial, incluyendo conceptos básicos como los datos de entrenamiento, los modelos de aprendizaje automático, las capacidades reales de estas herramientas y también sus limitaciones. La segunda dimensión se refiere a la ética de la IA, incorporando cuestiones relacionadas con los sesgos, la privacidad, la transparencia, la integridad académica y la fiabilidad de la información generada por los modelos. La tercera dimensión aborda la comunicación con la IA, enseñando a formular instrucciones eficaces mediante técnicas de prompting y comprendiendo cómo el lenguaje condiciona las respuestas obtenidas. Finalmente, la cuarta dimensión estudia el uso de la IA para mejorar los procesos de enseñanza y aprendizaje mediante metodologías pedagógicas innovadoras e inclusivas.

El artículo concede especial importancia al diseño pedagógico de los programas formativos. Los talleres no deben dirigirse únicamente a usuarios expertos, sino adaptarse a personas con distintos niveles de competencia digital. Para ello se propone una metodología gradual que comience utilizando ejemplos cotidianos fácilmente comprensibles, como recetas de cocina o procesos de organización de una biblioteca, para explicar qué es un algoritmo y cómo funciona. Posteriormente, el aprendizaje evoluciona hacia aplicaciones más complejas relacionadas con la salud, la educación, la administración pública o la justicia. Todo el proceso debe apoyarse en metodologías activas, colaborativas e inclusivas, donde los participantes aprendan experimentando directamente con herramientas de inteligencia artificial y compartiendo experiencias con otros usuarios.

Los autores consideran imprescindible que la formación sobre IA vaya mucho más allá del aprendizaje técnico. El objetivo principal consiste en desarrollar pensamiento crítico. Los participantes deben aprender no sólo cómo funcionan los algoritmos, sino también por qué funcionan de esa manera, quién los diseña, qué intereses reflejan y qué alternativas podrían existir. Para ello, los programas incluyen ejercicios destinados a analizar resultados generados por la IA, identificar errores, detectar sesgos y debatir las implicaciones éticas derivadas de su utilización. Esta dimensión crítica constituye uno de los pilares fundamentales del proyecto, ya que permite transformar a los usuarios en ciudadanos capaces de cuestionar la tecnología en lugar de aceptarla de forma pasiva.

Otro bloque del artículo describe con gran detalle los componentes que debería incluir un programa completo de alfabetización en IA desarrollado desde las bibliotecas. Los primeros módulos enseñan que los algoritmos están presentes en prácticamente todas las actividades cotidianas: buscadores de Internet, plataformas audiovisuales, filtros de correo electrónico, sistemas de navegación, asistentes virtuales o redes sociales. Posteriormente se introduce el aprendizaje automático explicando cómo las máquinas identifican patrones a partir de grandes cantidades de datos y cómo este proceso se diferencia del aprendizaje humano. El objetivo consiste en desmitificar la inteligencia artificial y mostrar que, aunque sus capacidades son extraordinarias, continúa dependiendo de datos, modelos matemáticos y decisiones humanas.

Uno de los apartados más desarrollados del trabajo analiza los sesgos algorítmicos. Los autores consideran que comprender este fenómeno constituye probablemente el aspecto más importante de toda la alfabetización en inteligencia artificial. Explican diferentes tipos de sesgos, entre ellos los derivados de los datos de entrenamiento, de la representación de determinados colectivos, de la confirmación de ideas previas o de los métodos utilizados para evaluar los sistemas. Para ilustrar estos problemas presentan casos reales de discriminación algorítmica en procesos de selección de personal, concesión de créditos bancarios y sistemas de justicia penal, demostrando cómo decisiones aparentemente técnicas pueden generar importantes desigualdades sociales. El programa propone que los participantes analicen estos casos mediante actividades prácticas para comprender de primera mano cómo se producen estos fenómenos.

El proyecto también dedica una atención significativa a la privacidad y al tratamiento de los datos personales. Los autores explican que la economía digital actual se basa en la recopilación masiva de información sobre los usuarios, convirtiendo los datos personales en uno de los principales activos económicos de las grandes empresas tecnológicas. Por ello, la alfabetización en IA debe incluir conocimientos sobre consentimiento informado, protección de la privacidad, configuración de redes sociales, navegación segura, cifrado de comunicaciones y comprensión de los modelos económicos basados en la vigilancia y la predicción del comportamiento humano. Los participantes aprenden que cuando utilizan servicios aparentemente gratuitos, en muchas ocasiones están intercambiando sus propios datos personales como forma de pago.

El artículo incorpora igualmente una dimensión jurídica y regulatoria mediante el análisis de la Ley Europea de Inteligencia Artificial (AI Act). Los autores explican que esta normativa establece un enfoque basado en el riesgo, imponiendo obligaciones de transparencia, evaluación de riesgos, supervisión y sanciones para los sistemas de IA de mayor impacto. La formación propuesta pretende que los ciudadanos comprendan estas normas y sean capaces de exigir responsabilidades cuando los sistemas automatizados afecten a sus derechos fundamentales. Para ello se plantean simulaciones donde los participantes representan distintos actores —desarrolladores, reguladores, usuarios o ciudadanos afectados— con el fin de comprender la complejidad de la gobernanza tecnológica.

Además de enseñar conocimientos técnicos, el programa desarrolla herramientas para evaluar críticamente cualquier sistema de inteligencia artificial. Los participantes aprenden a formular preguntas esenciales antes de confiar en una aplicación: qué problema pretende resolver, quién ha definido ese problema, qué datos utiliza, cómo fueron obtenidos, quién obtiene beneficios, qué riesgos existen para determinados colectivos y qué alternativas podrían plantearse. Esta metodología convierte la evaluación crítica en una competencia permanente que puede aplicarse a cualquier nueva tecnología que aparezca en el futuro.

Otro de los objetivos fundamentales consiste en reducir las desigualdades digitales. Los autores consideran que el conocimiento sobre IA no debe quedar restringido a universidades, grandes empresas tecnológicas o profesionales especializados. La alfabetización en inteligencia artificial debe llegar también a personas mayores, habitantes del medio rural, colectivos vulnerables y ciudadanos con escasa formación tecnológica. Las bibliotecas, por su carácter abierto e inclusivo, representan el entorno ideal para democratizar estos conocimientos y evitar que la revolución de la IA amplíe aún más las brechas sociales existentes.

El artículo dedica también un apartado específico al nuevo perfil profesional del bibliotecario. Según los autores, el bibliotecario del futuro ya no será únicamente un gestor de colecciones documentales, sino también un facilitador del aprendizaje digital, un curador de recursos tecnológicos y un mediador entre la complejidad técnica de la IA y las necesidades concretas de la ciudadanía. Para desempeñar esta función deberá adquirir conocimientos básicos sobre inteligencia artificial, metodologías docentes, experiencia de usuario, alfabetización digital y análisis de necesidades comunitarias. Asimismo, deberá organizar actividades participativas, foros de debate y programas de formación adaptados a los distintos perfiles de usuarios.

El artículo concluye afirmando que «Del libro al algoritmo» representa mucho más que un simple programa de formación tecnológica. Constituye una propuesta estratégica para redefinir el papel de las bibliotecas en la sociedad contemporánea. Al integrar la alfabetización en inteligencia artificial dentro de sus servicios, las bibliotecas fortalecen su misión histórica como instituciones democráticas dedicadas al acceso universal al conocimiento. La combinación entre el patrimonio bibliográfico tradicional y la comprensión crítica de los algoritmos permitirá que estas instituciones continúen siendo actores esenciales para la construcción de una ciudadanía informada, participativa y capaz de intervenir activamente en los debates sobre el futuro digital. Los autores sostienen que comprender la inteligencia artificial debe convertirse en un derecho ciudadano básico, y que las bibliotecas están llamadas a desempeñar un papel protagonista para hacerlo realidad.

El algoritmo de X puede desplazar las opiniones políticas hacia la derecha y sus efectos pueden ser duraderos, según un estudio en Nature

Gauthier, G., Hodler, R., Widmer, P. et al. The political effects of X’s feed algorithm. Nature 652, 416–423 (2026). https://doi.org/10.1038/s41586-026-10098-2

Un estudio reciente publicado en la revista Nature que investiga cómo el algoritmo de la red social X (antes Twitter) influye en las actitudes políticas de sus usuarios. La investigación parte de una preocupación creciente en torno al papel de los algoritmos de recomendación, que determinan qué contenidos aparecen en los feeds personalizados y en qué orden, funcionando como una especie de “editor invisible” de la información pública.

El estudio se basa en un experimento de campo con casi 5.000 usuarios activos en Estados Unidos. Los participantes fueron asignados aleatoriamente a dos tipos de experiencia en la plataforma: un grupo utilizó el feed algorítmico “Para ti”, que selecciona y prioriza contenidos en función de la probabilidad de interacción, mientras que el otro utilizó un feed cronológico, limitado a las cuentas seguidas y ordenado por tiempo. Esta diferencia permitió comparar directamente el impacto del algoritmo sobre las actitudes políticas.

Los resultados muestran que el uso del feed algorítmico provoca un desplazamiento significativo hacia posiciones más conservadoras en términos políticos. En concreto, los usuarios expuestos al algoritmo mostraron mayor tendencia a priorizar temas asociados a la agenda republicana en Estados Unidos, como la inflación, la delincuencia o la inmigración. Además, se observó un cambio en su percepción sobre conflictos internacionales y figuras políticas, con actitudes menos favorables hacia el presidente ucraniano Volodímir Zelenski y una mayor desconfianza hacia procesos judiciales contra Donald Trump.

Un aspecto especialmente relevante del estudio es que el algoritmo no solo modifica las opiniones de forma inmediata, sino que puede producir efectos persistentes en el tiempo. Incluso cuando los usuarios vuelven posteriormente a un feed cronológico, parte del cambio en sus actitudes se mantiene. Esto se debe a que el sistema algorítmico influye en el comportamiento de seguimiento de cuentas, modificando de forma más estable el entorno informativo del usuario.

El artículo también destaca que el algoritmo no es neutral. Los investigadores encontraron que el sistema tiende a aumentar la presencia de contenidos de orientación conservadora y a reducir la visibilidad de medios de comunicación tradicionales, al tiempo que amplifica publicaciones de activistas políticos. Esto sugiere que el diseño del algoritmo no solo organiza la información, sino que contribuye activamente a estructurar el ecosistema ideológico dentro de la plataforma.

El texto sitúa estos hallazgos en un debate más amplio sobre el poder de las plataformas digitales como infraestructuras informativas. En este sentido, se advierte que redes sociales como X no solo reflejan las preferencias de los usuarios, sino que también pueden moldearlas de forma sistemática. Esto plantea implicaciones importantes para la transparencia algorítmica, la regulación de plataformas y la comprensión del impacto político de los sistemas de recomendación en la esfera pública digital.

La sociedad algorítmica: datos, código y plataformas en la era de la desinformación

García Marín, David. La sociedad algorítmica: datos, código y plataformas en la era de la desinformación. Madrid: Dykinson, 2026.

Texto completo

La Sociedad Algorítmica. Datos, código y plataformas en la era de la desinformación esboza un modelo analítico y conceptual que explica las intrincadas conexiones entre tres elementos centrales del mundo actual: la información (los datos), los algoritmos y las plataformas. La obra pretende indagar en el papel que cada uno de ellos juega en la contemporaneidad, sus características esenciales y cómo influyen en el día a día del ciudadano. El modelo propone una estructura triangular donde cada uno de estos elementos (dato, algoritmo y plataforma) ocupa un vértice. La Sociedad Algorítmica es, por tanto, resultado de la intersección entre la extracción masiva de información, la codificación algorítmica de estos datos para darles significado y la necesidad de una infraestructura –la plataforma– donde se ejecutan estas operaciones.

Con un claro perfil humanístico, la obra resulta ideal como manual para docentes universitarios de Ciencias Sociales, sobre todo del área de Comunicación. Se puede utilizar como texto introductorio en actividades formativas sobre alfabetización algorítmica, incluso para trabajar aspectos anteriormente no abordados en el campo de la educación mediática. Asimismo, puede ser utilizado por investigadores como material de apoyo para construir marcos teóricos para sus proyectos.

Sesgo geográfico en la inteligencia artificial: por qué nunca deberías decirle a una IA que eres de Nápoles

Kayser‑Bril, Dr. Nicolas. 2026. “Never tell an AI you’re from Naples.” AlgorithmWatch, 20 de febrero de 2026. https://algorithmwatch.org/en/never-tell-an-ai-youre-from-naples/

Se analiza de forma crítica cómo los modelos de lenguaje de gran tamaño (LLM) reproducen y consolidan prejuicios geográficos presentes en los datos con los que fueron entrenados. El punto de partida es una conversación con un especialista encargada de poner a prueba los límites y salvaguardas de los sistemas de IA— quien explica que cualquier modelo estadístico generativo refleja inevitablemente los sesgos latentes en sus corpus de entrenamiento.

El trabajo consiste precisamente en forzar el sistema hasta que esos prejuicios afloran. Gracias a este tipo de pruebas, por ejemplo, los buscadores basados en IA evitan responder preguntas peligrosas; sin embargo, el artículo demuestra que basta reformular ligeramente una pregunta para sortear ciertas restricciones y revelar inclinaciones subyacentes.

El autor presenta un experimento metodológicamente ingenioso para detectar prejuicios geográficos. Dado que los LLM suelen negarse a responder preguntas directas como “¿En qué ciudad es la gente más inteligente?”, sí acceden a comparaciones binarias del tipo: “¿En qué ciudad es la gente más inteligente, París o Berlín?”. A partir de comparaciones por pares entre ciudades europeas, se elaboró una clasificación según cuatro modelos distintos: dos comerciales —Gemma 3 de Google y Mistral— y dos desarrollados por iniciativas públicas europeas —Lucie (OpenLLM France) y PLLuM (Ministerio de Digitalización de Polonia)—. El resultado fue sorprendentemente consistente: Estocolmo y Viena aparecían sistemáticamente en la parte alta de la jerarquía, mientras que Sofía, Marsella y Nápoles quedaban relegadas a los últimos puestos. Incluso modelos nacionales no mostraban favoritismo hacia sus propias capitales. Las correlaciones entre los resultados oscilaron entre 0,47 y 0,77, lo que indica una notable convergencia pese a haber sido entrenados con conjuntos de datos distintos.

El artículo cuestiona la idea de que los LLM simplemente “reflejan” opiniones sociales cambiantes. Para ilustrarlo, menciona el llamado “efecto Bilbao”, término acuñado en urbanismo para describir cómo la reputación de una ciudad puede transformarse radicalmente en pocos años gracias a un proyecto emblemático —como ocurrió con Bilbao tras la apertura del Museo Guggenheim—. Las percepciones humanas son volátiles, contradictorias y contextuales. En cambio, los modelos de lenguaje, al promediar millones de documentos y cristalizar correlaciones estadísticas, tienden a congelar prejuicios dominantes y a eliminar matices. En este sentido, los LLM serían estructuralmente inmunes al “efecto Bilbao”: no capturan la fluidez de la reputación urbana, sino que fijan estereotipos agregados.

El problema no es meramente teórico. Aunque parezca improbable que alguien utilice un modelo para clasificar las “ciudades más inteligentes”, estos sistemas sí pueden emplearse para evaluar currículos, analizar solicitudes de financiación o priorizar candidaturas. Si ciertos topónimos están estadísticamente asociados a atributos positivos o negativos, podrían producirse efectos discriminatorios reales, aunque difíciles de medir empíricamente. El texto también señala limitaciones metodológicas: los LLM son notoriamente inconsistentes. Cuando se les pidió identificar las ciudades “más estúpidas”, solo uno de los modelos mostró correlación negativa con su propio ranking de inteligencia. Otros tendían a colocar a Viena o Estocolmo en la cima incluso en categorías absurdas, llegando a generar clasificaciones para términos inexistentes. Esta plasticidad revela tanto la fragilidad lógica de los sistemas como la profundidad de sus asociaciones implícitas.

En conjunto, el análisis plantea una advertencia inquietante: los sistemas de IA no solo heredan prejuicios, sino que pueden consolidarlos y proyectarlos con una apariencia de objetividad algorítmica. En un mundo donde la automatización influye cada vez más en decisiones administrativas y económicas, comprender y auditar estos sesgos geográficos se vuelve una cuestión urgente de justicia y responsabilidad tecnológica.

La tecnología no es neutral

«La tecnología que mantiene internet funcionando no es neutral, y la que encontramos o instalamos en nuestros teléfonos móviles tampoco. En la última década, todas han evolucionado de una manera premeditada, con un objetivo muy específico: mantenerte pegado a la pantalla durante el mayor tiempo posible, sin que alcances nunca el punto de saturación».

Marta Peirano «El Enemigo Conoce el Sistema»

La cultura en la era de la inteligencia artificial: ¿creación humana o producción algorítmica?

Rothman, Joshua. “A.I. Is Coming for Culture.” The New Yorker, August 25, 2025. https://www.newyorker.com/magazine/2025/09/01/ai-is-coming-for-culture

Joshua Rothman abre reflexionando sobre cómo, en la era de los smartphones, nuestra rutina cotidiana está profundamente marcada por el algoritmo

Estamos acostumbrados a que los algoritmos guíen nuestras elecciones. Sin embargo, cuando las máquinas pueden generar sin esfuerzo el contenido que consumimos, ¿qué queda para la imaginación humana?

El ensayo reflexiona sobre cómo la inteligencia artificial está transformando la producción cultural. Comienza con la idea de que nuestra vida diaria ya está profundamente mediada por algoritmos que moldean lo que leemos, vemos y escuchamos. A este ritmo, la IA no solo multiplicará la cantidad de contenidos disponibles —música, vídeos, textos o imágenes—, sino que dará lugar a nuevas formas de creación todavía imprevisibles.

Sin embargo, las limitaciones de estas obras generadas por máquinas: carecen de individualidad, intención y agencia artística, pues se basan en patrones preexistentes. Aun así, para muchos creadores la IA representa una oportunidad, ya que reduce costes, facilita la experimentación y permite realizar proyectos antes inalcanzables.

También se plantea un escenario futuro en el que los contenidos culturales no sean productos fijos, sino experiencias creadas en tiempo real para cada usuario, diseñadas para provocar una reacción inmediata. Esto transformaría radicalmente la forma en que concebimos el arte y el entretenimiento.

El texto concluye con una advertencia: si todo lo que consumimos procede de máquinas, corremos el riesgo de diluir la creatividad humana. Pero, paradójicamente, esta situación podría reforzar nuestro aprecio por lo genuinamente humano en la cultura, frente a la avalancha de producciones artificiales.

¿Quién decide qué se lee en Goodreads? intereses comerciales, algoritmos opacos y estructuras de poder

Hu, Yuerong, Jana Diesner, Ted Underwood, Zoe LeBlanc, Glen Layne-Worthey, y John Stephen Downie. “Who Decides What Is Read on Goodreads? Uncovering Sponsorship and Its Implications for Scholarly Research.” Big Data & Society, vol. 12, no. 3 (julio–septiembre 2025): 1–17. https://doi.org/10.1177/20539517251359229.

Se analiza críticamente el papel de las reseñas incentivadas en Goodreads y su impacto tanto en la comprensión académica del comportamiento lector como en la dinámica cultural y económica de la crítica literaria en línea. Los autores parten de la premisa de que las reseñas en redes sociales de libros no son simples reflejos espontáneos de lectores amateurs, sino artefactos sociotécnicos moldeados por intereses comerciales, algoritmos opacos y estructuras de poder dentro de la industria editorial y las plataformas digitales.

A partir de un corpus histórico de más de 7,8 millones de reseñas (2006–2017), el estudio identifica 331.211 reseñas explícitamente incentivadas mediante un enfoque de diccionario de palabras clave relacionadas con patrocinios. Este método revela que, aunque representan un porcentaje reducido (alrededor del 4,23 % del total), su presencia ha crecido exponencialmente desde 2007, con picos notables en géneros altamente rentables como romance, misterio/thriller y fantasía. El análisis vincula el incremento a la adquisición de Goodreads por Amazon en 2013, lo que habría intensificado la comercialización de la visibilidad de los libros.

Los resultados muestran una concentración extrema: el 80 % de las reseñas incentivadas provienen de solo el 13,66 % de los usuarios que publican este tipo de contenido, y se concentran en libros de un 27 % de autores y un 10 % de editoriales. Asimismo, las redes de patrocinadores revelan que empresas como NetGalley, Amazon y Goodreads ocupan posiciones centrales, colaborando frecuentemente en co-patrocinios. NetGalley, por sí sola, está presente en un tercio de las reseñas incentivadas identificadas.

El trabajo discute cómo esta concentración reproduce desigualdades preexistentes del mundo editorial tradicional, limitando la diversidad de géneros y la representación de autores independientes. Además, se alerta sobre el uso de reseñas como herramienta de marketing —incluso cuando no son positivas— para aumentar visibilidad y ventas, y sobre la dificultad de distinguir entre reseñas auténticas, pagadas o generadas por IA. Los autores subrayan la necesidad de un análisis crítico de los datos culturales de plataformas sociales, dado el acceso restringido y las limitaciones metodológicas impuestas por algoritmos propietarios.

En sus conclusiones, el estudio señala que las reseñas incentivadas no deben tratarse como meros registros de opinión pública, sino como productos de un ecosistema que combina intereses corporativos, dinámicas algorítmicas y estrategias de autopromoción. Recomienda que investigadores, desarrolladores de IA y lectores aborden estos datos con cautela, considerando su contexto sociotécnico, para evitar interpretaciones distorsionadas y perpetuación de sesgos estructurales.

Las personas que utilizan motores de búsqueda para verificar noticias que sabían que eran inexactas terminaron confiando más en esas historias.

How online misinformation exploits ‘information voids’—And what to do about it. (2024). Nature, 625(7994), 215-216. https://doi.org/10.1038/d41586-024-00030-x

Este año marca el año electoral más grande registrado en la historia, con países que representan alrededor de la mitad de la población mundial celebrando elecciones. Sin embargo, surgen preocupaciones de que 2024 podría ser un año significativo para la propagación de información errónea y desinformación. Si bien ambos términos se refieren a contenido engañoso, la desinformación se fabrica intencionalmente.

La prevalencia de la búsqueda en línea y las redes sociales permite reclamaciones y contraargumentos interminables durante los períodos electorales. Un estudio reciente destacó la existencia de «vacíos de datos», espacios que carecen de evidencia en los que las personas que buscan precisión sobre temas controvertidos pueden caer. Esto subraya la necesidad de campañas de alfabetización mediática más sofisticadas para combatir la desinformación.

La investigación indica que las personas que utilizan motores de búsqueda para verificar noticias que sabían que eran inexactas terminaron confiando más en esas historias. Esto ocurre porque los resultados de la búsqueda pueden priorizar fuentes que corroboren la historia inexacta, contribuyendo al efecto de la verdad ilusoria.

Los esfuerzos para abordar este problema requieren una colaboración entre los proveedores de motores de búsqueda y las fuentes de conocimiento basado en evidencia. Si bien los sistemas automatizados despriorizan fuentes no confiables, se necesitan medidas adicionales. Google, por ejemplo, se basa en algoritmos para clasificar noticias según medidas de calidad, pero la incorporación de aportes humanos y el fortalecimiento de los sistemas internos de verificación de hechos podrían ofrecer soluciones más efectivas.

Las campañas de alfabetización mediática deben centrarse en educar a los usuarios para discernir entre diferentes fuentes en los resultados de búsqueda. Las iniciativas para mejorar la alfabetización mediática podrían comenzar exponiendo a personas influyentes a métodos de investigación, permitiéndoles influir positivamente en sus redes. Las lecciones de las campañas de alfabetización en salud también deberían informar las estrategias, considerando las diversas necesidades de los diferentes grupos de población.

Al abordar la información errónea y la desinformación, es crucial una colaboración entre los proveedores de motores de búsqueda, las fuentes de conocimiento basado en evidencia y las revistas de investigación. La urgencia surge a medida que la inteligencia artificial generativa y los modelos de lenguaje grandes tienen el potencial de amplificar la información errónea. Empoderar a las personas para ignorar noticias de fuentes no confiables se vuelve esencial en este año electoral crítico.

El algoritmo Q* y la destitución y readmisión de Sam Altman de Open AI

Melissa Heikkilä. «Unpacking the Hype around OpenAI’s Rumored New Q* Model». MIT Technology Review Accedido 28 de noviembre de 2023.

Ver original

Desde los dramáticos eventos de la semana pasada en OpenAI, el rumor se ha desatado sobre por qué el director científico de la compañía, Ilya Sutskever, y su junta decidieron destituir al CEO Sam Altman (solo para recontratarlo unos días después y reemplazar a las únicas dos mujeres en su junta con hombres blancos. ¡Con clase!).

Aunque aún no conocemos todos los detalles, ha habido informes de que los investigadores de OpenAI hicieron un «avance» en IA que alarmó a los miembros del personal. Reuters y The Information informaron que los investigadores habían ideado una nueva forma de crear sistemas de IA potentes y habían creado un nuevo modelo llamado Q* (pronunciado Q estrella) capaz de realizar operaciones matemáticas de nivel escolar.

Según personas que hablaron con Reuters, algunos en OpenAI creen que esto podría ser un hito en la búsqueda de la compañía para construir una inteligencia artificial general, un concepto muy promocionado de un sistema de IA más inteligente que los humanos. La compañía declinó hacer comentarios sobre Q*.

Las redes sociales están llenas de especulaciones y exageraciones, así que llamé a algunos expertos para saber qué importante sería realmente cualquier avance en matemáticas e IA.

Durante años, los investigadores han intentado que los modelos de IA resuelvan problemas matemáticos. Modelos de lenguaje como ChatGPT y GPT-4 pueden hacer algo de matemáticas, pero no muy bien ni de manera confiable. Actualmente, no tenemos los algoritmos ni las arquitecturas adecuadas para resolver problemas matemáticos de manera confiable con IA, según Wenda Li, profesora de IA en la Universidad de Edimburgo. El aprendizaje profundo y los transformers (un tipo de red neural), que es lo que usan los modelos de lenguaje, son excelentes para reconocer patrones, pero eso solo no es suficiente, agrega Li.

Las matemáticas son un referente para el razonamiento, dice Li. Una máquina que pueda razonar sobre matemáticas podría, en teoría, aprender a realizar otras tareas que se basen en información existente, como escribir código informático o sacar conclusiones de un artículo de noticias. Las matemáticas son un desafío particularmente difícil porque requieren que los modelos de IA tengan la capacidad de razonar y comprender realmente con qué están tratando.

Un sistema de IA generativo que pueda hacer matemáticas de manera confiable necesitaría tener un conocimiento sólido de definiciones concretas de conceptos particulares que pueden volverse muy abstractos. Muchos problemas matemáticos también requieren algún nivel de planificación a lo largo de múltiples pasos, dice Katie Collins, una investigadora de doctorado en la Universidad de Cambridge especializada en matemáticas e IA. De hecho, Yann LeCun, científico jefe de IA de Meta, publicó en X e LinkedIn el fin de semana que cree que Q* probablemente sea «un intento de OpenAI de planificación».

Las personas preocupadas por si la inteligencia artificial representa un riesgo existencial para los humanos, una de las preocupaciones fundacionales de OpenAI, temen que tales capacidades puedan llevar a la aparición de IA no controlada. Preocupaciones sobre la seguridad podrían surgir si se permite que dichos sistemas de IA establezcan sus propios objetivos y comiencen a interactuar con un mundo real, ya sea físico o digital, de alguna manera, dice Collins.

Pero aunque la capacidad matemática podría acercarnos un paso más a sistemas de IA más potentes, resolver este tipo de problemas matemáticos no señala el nacimiento de una superinteligencia.

«No creo que nos lleve de inmediato a la AGI o situaciones aterradoras», dice Collins. También es muy importante subrayar qué tipo de problemas matemáticos está resolviendo la IA, agrega.

«Resolver problemas de matemáticas de la escuela primaria es muy, muy diferente de empujar los límites de las matemáticas al nivel de algo que puede hacer un medallista Fields», dice Collins, refiriéndose a un prestigioso premio en matemáticas.

La investigación en aprendizaje automático se ha centrado en resolver problemas de la escuela primaria, pero los sistemas de IA de vanguardia aún no han superado completamente este desafío. Algunos modelos de IA fallan en problemas de matemáticas muy simples, pero luego pueden destacar en problemas realmente difíciles, dice Collins. OpenAI, por ejemplo, ha desarrollado herramientas dedicadas que pueden resolver problemas desafiantes planteados en competiciones para los mejores estudiantes de matemáticas en la escuela secundaria, pero estos sistemas superan a los humanos solo ocasionalmente.

Sin embargo, construir un sistema de IA que pueda resolver ecuaciones matemáticas es un desarrollo interesante, si eso es realmente lo que Q* puede hacer. Un entendimiento más profundo de las matemáticas podría abrir aplicaciones para ayudar a la investigación científica e ingeniería, por ejemplo. La capacidad de generar respuestas matemáticas podría ayudarnos a desarrollar una tutoría personalizada mejor, o ayudar a los matemáticos a hacer álgebra más rápido o resolver problemas más complicados.

Esto tampoco es la primera vez que un nuevo modelo ha generado hype sobre la AGI. Justo el año pasado, los expertos tecnológicos decían las mismas cosas sobre Gato de Google DeepMind, un modelo de IA «generalista» que puede jugar videojuegos de Atari, describir imágenes, chatear y apilar bloques con un brazo robot real. En ese momento, algunos investigadores de IA afirmaban que DeepMind estaba «a punto» de lograr la AGI debido a la capacidad de Gato para hacer tantas cosas diferentes bastante bien. La misma máquina de hype, diferente laboratorio de IA.

Y aunque puede ser una excelente estrategia de relaciones públicas, estos ciclos de hype hacen más daño que bien para todo el campo, distrayendo a las personas de los problemas reales y tangibles en torno a la IA. Los rumores sobre un nuevo y potente modelo de IA también podrían ser un gran autogol para el sector tecnológico que evita la regulación. La UE, por ejemplo, está a punto de finalizar su amplia Ley de IA. Una de las mayores disputas actualmente entre los legisladores es si dar a las empresas tecnológicas más poder para regular modelos de IA de vanguardia por sí mismas.

La junta de OpenAI fue diseñada como el interruptor de apagado interno y el mecanismo de gobierno de la compañía para evitar el lanzamiento de tecnologías dañinas. El drama de la junta de la semana pasada ha demostrado que la línea de fondo siempre prevalecerá en estas empresas. También dificultará argumentar por qué deberían confiarse a sí mismas la autorregulación. Legisladores, tomen nota.

Google presenta E-E-A-T (Experience, Expertise, Authoritativeness, and Trustworthiness) para ayudar valorar la calidad de las páginas

«Actualización más reciente de las directrices de evaluación de la calidad: el E-A-T adquiere una E adicional de Experiencia | Blog del Centro de la Búsqueda de Google». Google for Developers. Accedido 18 de octubre de 2023.

Ver

Google E-E-A-T (Experience, Expertise, Authoritativeness, and Trustworthiness) es un conjunto de criterios utilizados para evaluar los sitios web con el fin de impulsar mejoras en sus algoritmos y garantizar que se muestren contenidos de calidad a los usuarios.

Para mejorar el rendimiento de su sitio web en los resultados de búsqueda, es una buena práctica centrarse en crear contenido de alta calidad que demuestre experiencia, autoridad y confiabilidad en su campo. Construir una sólida reputación en línea y garantizar información precisa y confiable en su sitio web puede tener un impacto indirecto en sus clasificaciones en los motores de búsqueda. Sin embargo, los algoritmos y factores de clasificación exactos utilizados por los motores de búsqueda son propietarios y pueden cambiar con el tiempo. Se utiliza en la evaluación de calidad por los Evaluadores de Calidad de Búsqueda, pero no es un factor directo en el algoritmo de Google. En cambio, es un término utilizado en la comunidad de SEO para describir la calidad de un sitio web.


E-E-A-T significa «Experiencia, Autoridad y Confianza,» y es un concepto introducido por  Google’s Search Quality Rater Guidelines (SQRG) para ayudar a los evaluadores humanos a evaluar la calidad del contenido web. Si bien E-E-A-T no es un factor de clasificación directo utilizado por motores de búsqueda como Google, desempeña un papel importante en la determinación de la calidad y relevancia de las páginas web en los resultados de búsqueda.

Esto es lo que representa cada componente de E-E-A-T :

  • Experiencia (Experience): Google busca sitios web que ofrezcan una experiencia positiva a los usuarios. Esto implica una navegación fácil y amigable, una buena estructura de la página y un diseño que mejore la experiencia del visitante.
  • Experto (Expertise): Google valora la experiencia y conocimientos demostrados en un campo o temática específica. Se espera que el contenido esté respaldado por expertos o autoridades en la materia para garantizar su precisión y calidad.
  • Autoridad (Authoritativeness): La autoridad se refiere a la credibilidad y reputación del sitio web y sus creadores. Google evalúa la confianza que los usuarios pueden tener en la información proporcionada.
  • Confianza (Trustworthiness): La confianza se relaciona con la fiabilidad y veracidad de la información presentada en el sitio web. Los sitios web deben ser transparentes sobre sus propósitos y cumplir con las expectativas de los usuarios en cuanto a la precisión de la información.

Estos criterios son esenciales para garantizar que Google ofrezca resultados de búsqueda de alta calidad que sean útiles y confiables para los usuarios. Los sitios web que cumplen con los estándares de E-E-A-T tienen más posibilidades de obtener un buen posicionamiento en los resultados de búsqueda de Google y de ofrecer contenidos valiosos a sus visitantes.

E-E-A-T es particularmente relevante en campos donde la precisión y la credibilidad de la información son de suma importancia, como la salud, las finanzas y el asesoramiento legal. Los sitios web y creadores de contenido que establecen y mantienen un fuerte perfil de E-E-A-T son más propensos a ser considerados fuentes fiables tanto por los motores de búsqueda como por los usuarios, lo que puede tener un impacto indirecto en sus clasificaciones en los motores de búsqueda.

Si bien E-E-A-T no es un factor de clasificación directo, es un aspecto crucial de la optimización para motores de búsqueda (SEO) porque influye en cómo se evalúa y finalmente se clasifica su contenido por los motores de búsqueda como Google. Seguir las pautas de E-E-A-T puede ayudar a mejorar la calidad de su contenido y hacerlo más competitivo en los resultados de búsqueda.