Archivo de la etiqueta: Datos

Más allá de las cifras: convertir los datos de la biblioteca en acción

Poster reads “MORE THAN NUMBERS: TURNING REFLECTION INTO ACTION WITH LIBRARY DATA,” showing reflection insights and action plans: create quiet zone, expand local history collection, start teen coding workshop, improve WiFi signal.
A library team turns visitor data and community feedback into practical improvement plans.

Amalia E. Butler, “More Than Numbers: Turning Reflection into Action with Library Data”, ALSC Blog, School-Age Programs and Services Committee, American Library Association, 25 de julio de 2026 (actualizado el 31 de julio de 2026). https://www.alsc.ala.org/blog/2026/07/more-than-numbers-turning-reflection-into-action-with-library-data/

El artículo propone pasar de una “cultura de la estadística” a una cultura de la evidencia y la reflexión. Los datos deben utilizarse para escuchar, aprender, defender el valor de las bibliotecas y mejorar sus servicios. La secuencia propuesta es sencilla pero poderosa: recoger datos relevantes → reflexionar sobre lo que revelan → actuar para mejorar → compartir los resultados con la comunidad. De este modo, las estadísticas dejan de ser simples cifras de actividad y se convierten en una herramienta para construir bibliotecas más receptivas, inclusivas, equitativas y conectadas con las necesidades reales de sus comunidades.

El artículo plantea una idea fundamental para las bibliotecas infantiles y juveniles: los datos no deberían limitarse a cumplir una obligación estadística o administrativa, sino utilizarse para comprender mejor a la comunidad y transformar los servicios. Las bibliotecas recopilan continuamente cifras sobre asistencia a actividades, circulación, participación en programas de lectura de verano, visitas de extensión y muchas otras variables. Sin embargo, registrar números en hojas de cálculo y elaborar informes no es suficiente. El verdadero valor aparece cuando los profesionales se detienen a interpretar qué significan esas cifras y las utilizan para formular mejores preguntas y tomar decisiones más informadas.

Uno de los conceptos centrales del texto es la combinación de “REFLECT” (reflexionar) y “ACT” (actuar). Por ejemplo, si la asistencia a un programa que lleva años funcionando disminuye, la respuesta no debería consistir simplemente en registrar el descenso. Los datos pueden indicar que es necesario renovar los contenidos, modificar los horarios o revisar el formato. Del mismo modo, si las estadísticas de extensión muestran una escasa participación de las familias de determinado barrio, la solución quizá no sea realizar más publicidad, sino llevar los servicios directamente a escuelas, centros comunitarios, parques u otros lugares frecuentados por esas familias.

El artículo propone además analizar los datos desde una perspectiva de equidad e inclusión. No basta con saber cuántas personas utilizan un servicio: es necesario preguntarse quién participa, quién no participa y qué barreras pueden estar impidiendo el acceso. Una baja asistencia puede estar relacionada con horarios laborales, dificultades de transporte, barreras lingüísticas o necesidades específicas de los niños con discapacidad. También puede ocurrir que los adolescentes y preadolescentes no encuentren atractivos los programas diseñados para ellos. En estos casos, los datos deben servir como punto de partida para investigar las causas y buscar soluciones, incluyendo la colaboración con organizaciones comunitarias de confianza.

Otra aportación interesante es la defensa de recoger menos datos, pero más significativos. Las autoras cuestionan la utilidad de dedicar tiempo del personal a recopilar indicadores que después nunca influyen en la programación, los presupuestos o la asignación de recursos. Frente a una acumulación indiscriminada de estadísticas, se propone seleccionar aquellas medidas que realmente ayuden a tomar decisiones y complementarlas con métodos cualitativos: conversaciones con usuarios, encuestas, buzones de sugerencias o mecanismos sencillos de opinión. Así, los datos cuantitativos se enriquecen con la experiencia directa de las personas que utilizan la biblioteca.

El texto concede también gran importancia a compartir los datos con la propia comunidad. Las estadísticas pueden convertirse en infografías, exposiciones, tablones, publicaciones en redes sociales, boletines o breves presentaciones durante las actividades. De esta manera, los usuarios conocen el impacto de la biblioteca y comprenden que su propia participación contribuye a determinar los servicios futuros. La autora recuerda su experiencia como bibliotecaria escolar, cuando compartía con los alumnos las estadísticas anuales y los libros más prestados: incluso los niños más pequeños mostraban entusiasmo al conocer los resultados y celebrar sus logros lectores.

En el contexto de los programas de lectura de verano, el artículo propone convertir el cierre de estas actividades en una oportunidad para devolver los resultados a la comunidad mediante presentaciones, infografías, concursos, exposiciones o muestras de los libros favoritos. Pero, sobre todo, recomienda contar las historias humanas que hay detrás de las estadísticas, porque los números adquieren mayor significado cuando muestran personas, experiencias y transformaciones concretas. El objetivo no es solamente demostrar que la biblioteca funciona, sino conseguir que quienes participan se sientan reconocidos y animar a nuevas familias a incorporarse.

¿Quién es el propietario de una respuesta generada por IA? Un fallo judicial alemán redefine la autoría, la responsabilidad y la confianza en la inteligencia artificial

Courtroom with judges and lawyers examining a digital display of a traffic accident reconstruction
Judges and lawyers review a digital reconstruction of a traffic accident in a modern courtroom.

Malespina, E. (2026, 18 de junio). Who Owns an AI Answer? The AI School Librarian (Substack) https://aischoollibrarian.substack.com/p/who-owns-an-ai-answer

El artículo analiza las implicaciones de una reciente sentencia dictada por un tribunal alemán que aborda una cuestión cada vez más relevante: ¿quién es responsable cuando una inteligencia artificial genera una respuesta incorrecta o perjudicial? A partir de este caso, la autora examina cómo las respuestas producidas por sistemas de IA no pueden considerarse simples fragmentos de información sin autor ni responsabilidad. Aunque los modelos generativos producen textos originales en apariencia, su funcionamiento depende de datos de entrenamiento, algoritmos y decisiones de diseño tomadas por empresas y desarrolladores. La resolución judicial pone de manifiesto que, a medida que estas herramientas se integran en la vida cotidiana, resulta imprescindible definir responsabilidades legales y éticas sobre el contenido que generan.

Uno de los argumentos centrales del artículo es que las respuestas de la IA no pertenecen realmente a la máquina. Detrás de cada resultado intervienen múltiples actores: quienes desarrollan el modelo, quienes proporcionan los datos con los que se entrena, las organizaciones que lo implementan y los usuarios que formulan las preguntas. Esta compleja cadena de participación dificulta aplicar los conceptos tradicionales de autoría y propiedad intelectual. Más que preguntarse quién «posee» una respuesta de IA, la autora propone reflexionar sobre quién debe asumir la responsabilidad por su precisión, sus sesgos y sus posibles consecuencias.

El texto destaca que esta cuestión tiene una especial importancia en el ámbito educativo y bibliotecario. Profesores, bibliotecarios y estudiantes recurren cada vez con más frecuencia a herramientas de IA para obtener información, redactar textos o resolver dudas. Sin embargo, cuando una respuesta contiene errores, omite contexto o reproduce información falsa, surge el problema de determinar quién responde por esos fallos. La autora sostiene que la confianza en la IA no puede basarse únicamente en la sofisticación tecnológica, sino que debe apoyarse en mecanismos de transparencia, trazabilidad y verificación de las fuentes.

Asimismo, el artículo subraya que las bibliotecas y los profesionales de la información tienen un papel esencial en este nuevo escenario. Más allá de enseñar a utilizar herramientas de IA, deben fomentar competencias de alfabetización informacional e inteligencia artificial, ayudando a los usuarios a comprender que las respuestas generadas por estos sistemas no constituyen verdades definitivas, sino resultados probabilísticos que requieren contraste con fuentes fiables. La capacidad de evaluar críticamente la información adquiere así una importancia aún mayor que en la era de los motores de búsqueda tradicionales.

Como conclusión, la autora sostiene que el verdadero debate no gira únicamente en torno a la propiedad de las respuestas generadas por IA, sino sobre la responsabilidad y la confianza. La sentencia alemana representa un paso significativo hacia la construcción de un marco jurídico y ético que reconozca que las respuestas de la inteligencia artificial tienen consecuencias reales para las personas. En este contexto, la educación, las bibliotecas y las instituciones públicas desempeñan un papel decisivo para promover un uso informado, crítico y responsable de estas tecnologías.

8 de cada 10 europeos no confían en las empresas estadounidenses ni chinas para el manejo de sus datos.

Politico. “8 in 10 Europeans Don’t Trust US, Chinese Firms with Data.” Politico Europe, 2026 https://www.politico.eu/article/8-in-10-europeans-dont-trust-us-chinese-firms-with-data/

El texto pone de relieve una paradoja central del ecosistema digital europeo: una profunda desconfianza hacia actores externos que, sin embargo, siguen siendo esenciales en la infraestructura tecnológica cotidiana. Esta tensión entre dependencia y desconfianza define uno de los grandes retos de Europa en el ámbito digital: cómo garantizar la protección de los datos y la autonomía tecnológica sin quedar rezagada en la competencia global.

Se analiza los resultados de una encuesta reciente —el estudio European Pulse Forum, impulsado por Politico junto a la consultora BeBartlet— que revela un dato contundente: más de ocho de cada diez europeos desconfían de las empresas tecnológicas estadounidenses y chinas a la hora de gestionar sus datos personales. Este nivel de desconfianza no es homogéneo, sino que alcanza cifras especialmente elevadas en el caso de China (en torno al 90 % o más) y también muy altas respecto a Estados Unidos (más del 80 %), lo que pone de manifiesto una crisis de confianza generalizada hacia las grandes potencias tecnológicas globales.

El estudio, basado en miles de encuestas realizadas en países clave como Alemania, Francia, España, Italia, Polonia y Bélgica, muestra que la percepción de riesgo está profundamente vinculada a factores geopolíticos y legales. Uno de los principales motivos de esta desconfianza es la creencia de que las empresas de estos países pueden verse obligadas a entregar datos a sus respectivos gobiernos en virtud de sus leyes nacionales de seguridad. Esta posibilidad genera inquietud entre los ciudadanos europeos, que perciben una falta de control sobre el uso final de su información personal, especialmente en contextos donde la vigilancia estatal o el acceso gubernamental a datos privados es una preocupación creciente.

En contraste, las empresas tecnológicas europeas generan un nivel de confianza relativamente mayor, aunque no mayoritario: aproximadamente la mitad de los encuestados afirma confiar en ellas. También los gobiernos nacionales obtienen niveles de confianza moderados, lo que sugiere que, aunque existe una preferencia por lo “propio”, esta no implica una confianza plena. Este matiz es importante porque indica que el problema no es únicamente externo (EE. UU. o China), sino que forma parte de una preocupación más amplia sobre la privacidad, el control de los datos y la transparencia en la era digital.

El contexto normativo europeo desempeña un papel clave en esta percepción. La Unión Europea cuenta con uno de los marcos regulatorios más estrictos del mundo en materia de protección de datos, encabezado por el Reglamento General de Protección de Datos (GDPR). Este sistema no solo establece altos estándares para las empresas europeas, sino que también obliga a las compañías extranjeras a cumplirlos si operan con datos de ciudadanos europeos. Sin embargo, la coexistencia de estas normas con legislaciones nacionales de terceros países genera tensiones legales y dudas sobre su efectividad real, especialmente cuando entran en conflicto con leyes de seguridad nacional fuera de la UE.

El artículo también sugiere que esta desconfianza tiene implicaciones estratégicas profundas. En particular, refuerza el impulso europeo hacia la llamada “soberanía digital”, es decir, la necesidad de desarrollar infraestructuras tecnológicas propias en ámbitos como la computación en la nube, la inteligencia artificial o las telecomunicaciones. La dependencia actual de proveedores estadounidenses —dominantes en el mercado— contrasta con el deseo político y social de reducir esa dependencia, aunque en la práctica este cambio resulta complejo debido a factores económicos, técnicos y de mercado.

Introducción al análisis de datos cualitativos con inteligencia artificial: guía práctica para usar ChatGPT en la investigación social y educativa

Manuel Etesse. Introducción al análisis de datos cualitativos con inteligencia artificial: guía práctica para usar ChatGPT en la investigación social y educativa. Lima: Pontificia Universidad Católica del Perú, 2024.

Texto completo

La obra constituye una guía práctica orientada a investigadores del ámbito social y educativo que desean incorporar herramientas de inteligencia artificial, especialmente ChatGPT, en el análisis de datos cualitativos.

El texto parte de una premisa clara: la IA no sustituye el trabajo del investigador, sino que actúa como un apoyo técnico que permite optimizar tareas complejas como la organización, codificación e interpretación de grandes volúmenes de información textual. En este sentido, el manual combina fundamentos metodológicos con aplicaciones concretas, facilitando la integración de estas tecnologías en procesos de investigación rigurosos.

Uno de los ejes centrales del libro es la propuesta de un marco metodológico estructurado que organiza el análisis cualitativo en fases como la anotación, exploración y codificación de datos. A través de estrategias como el modelo AEXCO, el autor muestra cómo utilizar la IA para identificar patrones, extraer citas relevantes de entrevistas y sintetizar información compleja. Además, introduce procedimientos específicos —como el entrenamiento “cori-f”— que permiten configurar el comportamiento de la herramienta para obtener respuestas alineadas con los objetivos de investigación, destacando la importancia de diseñar instrucciones precisas (prompts) para mejorar la calidad del análisis.

El libro también subraya el valor de la IA en la eficiencia del proceso investigador. Gracias a estas herramientas, es posible reducir significativamente el tiempo dedicado a tareas como la transcripción, clasificación y organización de datos, especialmente en estudios con gran cantidad de material cualitativo. Sin embargo, el autor insiste en que estos beneficios deben ir acompañados de una supervisión constante por parte del investigador, quien mantiene la responsabilidad sobre la interpretación final y la validez de los resultados.

Un aspecto especialmente relevante es la dimensión ética del uso de la inteligencia artificial. La guía propone un protocolo que incluye la anonimización de los տվյալos, la protección de la privacidad de los participantes y el uso de sistemas en entornos controlados para evitar la exposición de información sensible. Este enfoque refuerza la idea de que la incorporación de la IA en la investigación no solo es una cuestión técnica, sino también metodológica y deontológica.

En conjunto, el libro de Manuel Etesse se presenta como una herramienta accesible —sin requerir conocimientos avanzados de programación— que democratiza el uso de la inteligencia artificial en la investigación cualitativa. Su principal aportación radica en ofrecer un equilibrio entre innovación tecnológica y rigor científico, mostrando cómo la IA puede integrarse de forma crítica y responsable en las prácticas investigadoras contemporáneas.

Tendencias y transformaciones en bibliotecas urbanas 2025

2025 Library Insights Report. Urban Libraries Council. November 2025.

Texto completo

2025 Library Insights Report de Urban Libraries Council ofrece una visión detallada de cómo evolucionan los usos, servicios y prioridades de las bibliotecas públicas urbanas de Estados Unidos y Canadá. Con datos aportados por 122 sistemas bibliotecarios —que representan más de 91 millones de habitantes y 2.307 sedes— el informe analiza tendencias clave en visitas presenciales, uso de espacios, programas, colecciones, personal y financiación.

El informe muestra que, aunque las visitas presenciales aún no recuperan los niveles de 2019, mantienen una tendencia sostenida de crecimiento durante tres años consecutivos, con un aumento del 9,8% entre 2023 y 2024. Las reservas de salas y el uso de recursos digitales experimentan incrementos aún mayores, del 25% y 14,8% respectivamente, confirmando un fuerte desplazamiento hacia servicios que combinan lo presencial con lo digital. En contraste, la circulación física de materiales se estabiliza e incluso registra un ligero descenso del 1,7%, lo que sugiere un cambio de preferencia hacia formatos electrónicos, especialmente e-books. Al mismo tiempo, por primera vez desde 2019, el uso de ordenadores vuelve a crecer, rompiendo una tendencia de fuertes descensos tras la pandemia.

El objetivo es proporcionar a las bibliotecas herramientas de planificación basadas en datos actuales y comparables, capaces de orientar decisiones estratégicas en un contexto social y tecnológico cambiante.

Los programas bibliotecarios continúan siendo un pilar vertebrador de la actividad: la oferta crece un 8% y la asistencia un 2,5% en 2024. Los programas prioritarios siguen siendo los orientados a primera infancia y edad escolar, que el 69% de las bibliotecas identifica como los más frecuentes y con mayor participación. Estas cifras reflejan la capacidad de las bibliotecas para adaptarse a las necesidades educativas y sociales de sus comunidades, ampliando temáticas, formatos y públicos.

El área de personal y presupuesto muestra, sin embargo, tensiones relevantes. A pesar de que los presupuestos crecieron un 5% en 2024, este aumento no alcanza a compensar la inflación. El número de empleados a tiempo completo se reduce un 3,6% respecto a 2023 y permanece un 8,2% por debajo de los niveles de 2019, incluso mientras la demanda de servicios aumenta. Esta brecha entre recursos humanos y necesidades de los usuarios es especialmente notable en bibliotecas que atienden a poblaciones menores de 250.000 habitantes, que sufren mayores caídas en personal y retrocesos en uso de e-recursos.

El informe también analiza tendencias por tamaño poblacional del área de servicio, mostrando que las bibliotecas que atienden a más de 950.000 habitantes registran los aumentos más significativos en visitas, uso digital, reservas de salas, oferta programática e incluso incidentes reportados. Por otra parte, continúa una fuerte inversión en infraestructura: un 17% de los sistemas inició nuevas construcciones en 2024, para un total de 29 nuevas sedes, pese al incremento de costes por metro cuadrado. Las proyecciones indican además que el crecimiento poblacional de aquí a 2030 implicará un aumento estimado del 5–7% en visitas, uso digital y demanda de espacios, así como la necesidad de presupuestos más elevados para mantener la calidad del servicio.

El informe propone líneas estratégicas para los próximos años: rediseñar espacios para usos flexibles y de alta demanda; reforzar la planificación de personal; reducir desigualdades entre sistemas grandes y pequeños; equilibrar el crecimiento digital con una oferta presencial significativa; y anticipar nuevas necesidades comunitarias como alfabetización en IA, espacios de trabajo flexible o programas de refuerzo educativo. El informe concluye que las bibliotecas urbanas siguen siendo infraestructuras sociales esenciales y altamente valoradas, capaces de innovar mientras mantienen su misión de acceso universal a la información y la cultura

OpenAI lanza World para verificar la identidad humana mediante el escaneo de iris y rostro a cambio de criptomonedas

Davis, Vicki. “How Do We Know Who’s Human? A New Tech Raises Big Questions.” 10 Minute Teacher Podcast, 3 de mayo de 2025. Podcast de audio. https://www.coolcatteacher.com/e898/

El 1 de mayo de 2025, Sam Altman (CEO de OpenAI y cofundador de este proyecto) lanzó oficialmente en Estados Unidos el programa World, anteriormente conocido como Worldcoin. Este proyecto consiste en instalar centros en seis ciudades estadounidenses (Los Ángeles, San Francisco, Atlanta, Nashville, Miami y Austin) donde se escanean los iris y rostros de las personas mediante dispositivos impulsados por inteligencia artificial.

A cambio del escaneo, se otorga a los usuarios una World ID, una especie de documento digital de identidad, junto con una pequeña cantidad de criptomonedas. Aunque puede parecer un incentivo atractivo, esta propuesta plantea cuestiones profundas sobre la privacidad, la ética digital y el uso de datos biométricos.

Davis explica que esta tecnología responde a tres necesidades emergentes: combatir el fraude de identidad (especialmente ante el auge de las deepfakes y las identidades sintéticas generadas por IA), verificar la edad para proteger a menores en línea (un campo en el que ya se están aplicando soluciones biométricas en países como Francia y Alemania) y garantizar que las personas que interactúan en sitios como Match.com sean reales. Esto último ha llevado a sospechas sobre por qué empresas como VISA o Match Group están involucradas en el proyecto. La autora subraya que detrás del discurso de anonimato de World hay una contradicción fundamental: si se requiere vincular una identidad digital a un perfil para eliminar fraudes, esa identidad ya no es verdaderamente anónima

Para la autora, este tema es una excelente oportunidad educativa. Plantea que la cobertura de esta noticia es un caso perfecto para enseñar alfabetización mediática, ya que existen versiones muy distintas del mismo hecho: algunos medios lo celebran como una forma de obtener criptomonedas fácilmente, mientras otros alertan sobre los riesgos para la privacidad. Davis invita a docentes, padres y estudiantes a reflexionar sobre la fiabilidad de las fuentes, los sesgos informativos y los intereses de las empresas tecnológicas. También propone usar un cartel y un documento descargable con preguntas críticas como herramientas didácticas para fomentar debates en el aula.

Davis es muy crítica con la forma en que muchas empresas, especialmente las tecnológicas, gestionan nuestros datos. Recuerda que “si algo es gratis, probablemente el producto eres tú”, y cita casos como el escaneo ocular en apps educativas, la recopilación de datos incluso en modo incógnito por parte de Google (que afronta una demanda multimillonaria) y el uso no ético del reconocimiento facial. A pesar de que World promete anonimato, su integración con empresas de citas y bancos plantea serias dudas sobre el control y uso de los datos biométricos. Además, solo el 24% de los estadounidenses confían en que las compañías tecnológicas usen sus datos de forma ética, y un 77% desconfía de los líderes de redes sociales, según encuestas citadas por la autora.

Este tipo de tecnologías y debates requieren una formación crítica que solo la educación puede ofrecer. Rechaza la idea de que la inteligencia artificial pueda sustituir la capacidad de análisis humano, y denuncia que quienes afirman no necesitar más educación porque “ChatGPT lo sabe todo” simplemente no entienden cómo funciona la IA ni por qué es peligrosa una confianza ciega en ella. En su opinión, el profesorado sigue siendo imprescindible para formar ciudadanos conscientes y capaces de pensar críticamente.

Una colación de defensores de la privacidad demanda al «Departamento de Eficiencia Gubernamental» (DOGE) y a Elon Musk por poner en peligro la intimidad de millones de personas

Electronic Frontier Foundation. «EFF Sues OPM, DOGE, and Musk for Endangering the Privacy of MillionsElectronic Frontier Foundation, 11 de febrero de 2025. https://www.eff.org/press/releases/eff-sues-opm-doge-and-musk-endangering-privacy-millions

La EFF y una coalición de defensores de la privacidad liderada por Lex Lumina han presentado una demanda solicitando a un tribunal federal que impida a la Oficina de Gestión de Personal (OPM) de Estados Unidos revelar información privada y sensible de millones de estadounidenses a Elon Musk y su «Departamento de Eficiencia Gubernamental» (DOGE).

Electronic Frontier Foundation (EFF) y una coalición de defensores de la privacidad acaban de presentar una demanda en la que solicitan a un tribunal federal que bloquee al Departamento de Eficiencia Gubernamental (DOGE) de Elon Musk el acceso a la información privada de millones de estadounidenses que almacena la Oficina de Gestión de Personal (OPM), y que elimine cualquier dato que se haya recopilado o eliminado hasta el momento. En la demanda también se nombra a la OPM y se pide al tribunal que impida que la OPM siga compartiendo datos con la DOGE.

Parte de la carta dice:

«Hola Partidario de la Libertad Digital:
No aceptaremos el saqueo descarado de los datos sensibles de millones de personas.

Nuestro caso es bastante sencillo: Los datos de la OPM son extraordinariamente sensibles, la OPM se los dio al DOGE, y esto viola la Ley de Privacidad de 1974.

Por tus derechos digitales,

Corynne McSherry
Directora Jurídica de la EFF»

Los registros de la OPM son una de las mayores, si no la mayor, recopilación de datos de empleados en los EE.UU. Con nuestro co-abogado Lex Lumina, State Democracy Defenders Fund, y Chandra Law Firm, representamos a empleados federales actuales y antiguos cuya privacidad ha sido violada.

Este enorme tesoro de información incluye datos demográficos privados e historiales laborales de prácticamente todos los empleados y contratistas federales actuales y anteriores, así como de los solicitantes de empleo federal. La semana pasada, un juez federal bloqueó temporalmente el acceso del DOGE a un sistema crítico de pagos del Tesoro de EE.UU. en virtud de una demanda similar. Estas violaciones de la privacidad de los datos no deben permitirse.

¿Y ahora qué?

La cuestión no es «qué pasa si estos datos caen en malas manos». Los datos ya han caído en manos equivocadas, según la ley, y deben salvaguardarse inmediatamente. Las violaciones de la privacidad de los estadounidenses se han producido en múltiples agencias, sin supervisión ni salvaguardias, y la EFF se complace en unirse a la brigada de demandas para proteger esta información crítica.

Esto es sólo el principio de lo que puede ser una lucha difícil. Pero la EFF no es ajena a los adversarios duros. Con el apoyo de nuestros miembros, hemos defendido los derechos de los usuarios de tecnología en cientos de casos para proteger su libertad en línea. Me enorgullece estar a tu lado por el futuro de la privacidad, la libertad de expresión y la creatividad.

Transparencia de los datos en los modelos LLM de Inteligencia Artificial

MIT News | Massachusetts Institute of Technology. «Study: Transparency Is Often Lacking in Datasets Used to Train Large Language Models», 30 de agosto de 2024. https://news.mit.edu/2024/study-large-language-models-datasets-lack-transparency-0830.

Un equipo de investigadores del MIT ha desarrollado una herramienta llamada Data Provenance Explorer para mejorar la transparencia en los conjuntos de datos utilizados para entrenar grandes modelos de lenguaje. Esta herramienta permite a los practicantes de IA seleccionar datos adecuados para su modelo, mejorando la precisión y reduciendo el sesgo.

Los investigadores analizaron más de 1,800 conjuntos de datos textuales y descubrieron que más del 70% carecían de información de licencia, mientras que alrededor del 50% contenían errores en los datos de origen. Esto plantea problemas éticos y legales, y puede afectar el rendimiento del modelo, ya que el uso de datos incorrectos o sesgados puede llevar a predicciones injustas.

Data Provenance Explorer genera resúmenes de los creadores, fuentes, licencias y usos permitidos de los conjuntos de datos, ayudando a los investigadores a tomar decisiones más informadas y mejorar la precisión de los modelos en situaciones reales, como evaluaciones de préstamos o consultas de clientes.

Además, el estudio reveló que la mayoría de los creadores de conjuntos de datos se concentran en el norte global, lo que podría limitar las capacidades de los modelos en otras regiones. Los investigadores también notaron un aumento en las restricciones de los conjuntos de datos creados entre 2023 y 2024, debido a preocupaciones sobre su uso comercial no intencionado.

Los investigadores planean expandir su análisis para incluir datos multimodales, como video y audio, y seguir colaborando con reguladores para mejorar la transparencia en el uso de datos.

La «fiebre del oro» de la IA por los datos de entrenamiento de chatbots podría quedarse sin texto escrito por humanos

AP News. «AI “gold Rush” for Chatbot Training Data Could Run out of Human-Written Text», 6 de junio de 2024. https://apnews.com/article/ai-artificial-intelligence-training-data-running-out-9676145bac0d30ecce1513c20561b87d.

Los sistemas de inteligencia artificial, como ChatGPT, dependen de grandes cantidades de texto escrito por humanos disponible en línea para mejorar su rendimiento. Sin embargo, un estudio de Epoch AI advierte que las empresas tecnológicas podrían agotar el suministro de estos datos públicos entre 2026 y 2032. Esta situación se compara con una «fiebre del oro» que podría dificultar el progreso continuo en el campo de la IA.

A corto plazo, empresas como OpenAI y Google están buscando asegurar fuentes de datos de alta calidad, incluso pagando por ellos, como es el caso de los datos provenientes de foros como Reddit y medios de comunicación. Sin embargo, a largo plazo, no habrá suficientes nuevos blogs, artículos de noticias y comentarios en redes sociales para sostener el desarrollo de la IA. Esto podría llevar a depender de datos sensibles considerados privados, como correos electrónicos o mensajes de texto, o recurrir a datos sintéticos generados por los propios chatbots, los cuales son menos confiables.

Algunos expertos, como Nicolas Papernot, creen que no es necesario seguir entrenando modelos cada vez más grandes, sino enfocarse en modelos más especializados. Además, existe preocupación por el uso de datos generados por IA para entrenar más IA, lo que podría llevar a la «degradación del rendimiento» o «colapso del modelo». Sitios como Reddit y Wikipedia, así como editores de noticias y libros, están reconsiderando cómo se utilizan sus datos. Wikipedia, por ejemplo, permite el uso de sus entradas por parte de empresas de IA, pero subraya la necesidad de mantener incentivos para la creación de contenido humano.

Sam Altman, CEO de OpenAI, mencionó que aunque se está experimentando con datos sintéticos, es crucial que estos sean de alta calidad para evitar ineficiencias en el entrenamiento de modelos de IA. En resumen, el campo de la inteligencia artificial enfrenta un posible agotamiento de textos escritos por humanos para el entrenamiento de sus modelos, lo que plantea importantes desafíos y la necesidad de buscar soluciones alternativas para mantener el progreso tecnológico.

El problema de privacidad de la inteligencia artificial generativa

Fried, Ina. «Generative AI Has a Growing Privacy Problem». Axios, 14 de marzo de 2024. https://www.axios.com/2024/03/14/generative-ai-privacy-problem-chatgpt-openai.

La privacidad se está convirtiendo en el próximo campo de batalla en el debate sobre la inteligencia artificial, incluso mientras continúan los conflictos sobre derechos de autor, precisión y sesgo.

Por qué es importante: Los críticos sostienen que los modelos de lenguaje grandes están recopilando y, frecuentemente, revelando información personal recopilada de toda la web, muchas veces sin el permiso de las personas involucradas.

El panorama general: Muchas empresas han empezado a desconfiar del uso de información patentada por parte de ejecutivos y empleados para consultar a ChatGPT y otros bots de inteligencia artificial, ya sea prohibiendo tales aplicaciones o optando por versiones pagas que mantienen la información comercial privada.

A medida que más personas utilizan la IA para buscar consejos sobre relaciones, información médica o asesoramiento psicológico, los expertos dicen que los riesgos para los individuos están aumentando. Las filtraciones de datos personales desde la IA pueden tomar varias formas, desde la divulgación accidental de información hasta la obtención de datos mediante esfuerzos deliberados para superar las protecciones.

La noticia destacada: Se han presentado varias demandas buscando el estatus de acción de clase en los últimos meses, alegando que Google, OpenAI y otros han violado las leyes federales y estatales de privacidad en la capacitación y operación de sus servicios de IA.

La FTC emitió una advertencia en enero de que las empresas tecnológicas tienen la obligación de cumplir con sus compromisos de privacidad mientras desarrollan modelos de IA generativa. «Con la IA, hay una gran fiebre por los datos, y estas empresas están recopilando cualquier dato personal que puedan encontrar en Internet,» dijo a Axios el profesor de derecho de la Universidad George Washington, Daniel J. Solove.

Los riesgos van mucho más allá de la simple divulgación de piezas discretas de información privada, argumenta Timothy K. Giordano, socio de Clarkson Law Firm, que ha presentado varios juicios por privacidad y derechos de autor contra empresas de IA generativa.

Entre líneas: Si bien la IA está creando nuevos escenarios, Solove señala que muchos de estos problemas de privacidad no son nuevos.

«Muchos de los problemas de IA son exacerbaciones de problemas existentes que la ley no ha tratado bien,» dijo Solove a Axios, señalando la falta de protecciones federales de privacidad en línea y los defectos en las leyes estatales que sí existen. «Si tuviera que calificarlas, serían como D y F», dijo Solove. «Son muy débiles.» El panorama general: Las capacidades únicas de la IA generativa plantean preocupaciones más grandes que la simple agregación común de información personal vendida y distribuida por corredores de datos.

Además de compartir datos específicos, las herramientas de IA generativa pueden establecer conexiones o inferencias (precisas o no), dijo Giordano a Axios.

Esto significa que las empresas tecnológicas ahora tienen, en palabras de Giordano, «un entendimiento escalofriantemente detallado de nuestra personalidad, suficiente para crear finalmente clones digitales y deepfakes que no solo se parecerían a nosotros, sino que también podrían actuar y comunicarse como nosotros».

Crear IA que respete la privacidad de los datos es complicado por cómo funcionan los sistemas de IA generativa.

Por lo general, se entrenan con conjuntos enormes de datos que dejan una especie de huella de probabilidad en el modelo, pero no guardan o almacenan los datos después. Eso significa que no se puede simplemente eliminar la información que se ha tejido. «No se puede desentrenar a la IA generativa,» dijo Grant Fergusson, un compañero del Electronic Privacy Information Center. «Una vez que el sistema ha sido entrenado en algo, no hay forma de revertirlo.»

Realidad: Muchos editores en línea y empresas de IA han agregado lenguaje que indica que los datos de los clientes pueden ser utilizados para entrenar modelos futuros.

En algunos casos, las personas tienen la opción de elegir no permitir que sus datos se utilicen para el entrenamiento de IA, aunque estas políticas varían y la configuración para compartir datos puede ser confusa y difícil de encontrar. Además, incluso cuando los usuarios ofrecen consentimiento, podrían estar compartiendo datos que podrían afectar la privacidad en línea de otros.

El otro lado: Un representante de OpenAI dijo a Axios que la empresa no busca datos personales para entrenar sus modelos y toma medidas para evitar que sus modelos revelen información privada o sensible. «Queremos que nuestros modelos aprendan sobre el mundo, no sobre individuos privados», dijo un portavoz de OpenAI a Axios. «También entrenamos a nuestros modelos para que se nieguen a proporcionar información privada o sensible sobre las personas». La empresa dijo que su política de privacidad describe opciones para que las personas eliminen cierta información y opten por no participar en el entrenamiento de modelos.

¿Qué sigue?: Los reguladores intentarán hacer cumplir las leyes de privacidad existentes en el nuevo ámbito de la IA, los legisladores propondrán nuevos proyectos de ley y los tribunales lidiarán con dilemas novedosos. Las empresas de IA podrían hacer más por sí mismas, pero Solove dijo que esperar que las empresas protejan la privacidad sin que se lo exija la ley probablemente sea poco realista. «Es como decirle a los tiburones: ‘Por favor, siéntense y usen cubiertos'», dijo Solove.