Archivo de la etiqueta: Seguridad

Search Party un sistema IA propiedad de Amazon para localizar perros perdidos que está generando controversia en torno a la vigilancia comunitaria

Koebler, Jason. “Leaked Email Suggests Ring Plans to Expand ‘Search Party’ Surveillance Beyond Dogs.” 404 Media, February 18, 2026. https://www.404media.co/leaked-email-suggests-ring-plans-to-expand-search-party-surveillance-beyond-dogs/

Un correo interno filtrado de Amazon‑propiedad Ring ha revelado que la controvertida funcionalidad de inteligencia artificial denominada Search Party, lanzada con el propósito de ayudar a encontrar perros perdidos utilizando cámaras conectadas en vecindarios, podría evolucionar hacia un sistema de vigilancia más amplio con objetivos de seguridad comunitaria, según un informe de 404 Media.

En el mensaje, enviado por el fundador y CEO de Ring, Jamie Siminoff, a los empleados poco después del lanzamiento de la herramienta en octubre de 2025, Siminoff describió que la función fue introducida “primero para encontrar perros” pero insinuó que esta plataforma podría ampliarse para “eliminar el crimen en los vecindarios”, mostrando la intención de que la infraestructura de cámaras y el aprendizaje automático asociado sirvan a usos más allá de su propósito original.

Search Party es una característica que se activa por defecto y crea una red de cámaras Ring en un área determinada que, mediante algoritmos de IA, analiza automáticamente el metraje grabado cuando se informa de un perro perdido para intentar localizarlo. Si una cámara detecta un posible avistamiento, se notifica al propietario del dispositivo, quien puede optar por compartir el video con quien busca al animal. La herramienta ha suscitado críticas por su activación por defecto y por la escala de la red de cámaras interconectadas, lo que ha despertado inquietudes sobre la normalización de una infraestructura de vigilancia en vecindarios.

La filtración ocurre en un contexto más amplio de escepticismo y rechazo público hacia las capacidades de vigilancia de Ring. La empresa enfrentó una reacción negativa importante tras la emisión de un anuncio en el Super Bowl que promocionaba Search Party, ya que muchos críticos interpretaron la publicidad como un preludio de un sistema de vigilancia encubierto que utiliza aparatos cotidianos como cámaras de puerta para monitorear barrios. Aunque Ring ha afirmado que Search Party no procesa biométricos humanos ni rastrea personas directamente, expertos en privacidad señalan que la tecnología subyacente y la expansión de funciones como Familiar Faces (identificación facial) y Fire Watch (detección de incendios) incrementan la capacidad de monitoreo automático y, por ende, los riesgos asociados a la protección de datos y libertades civiles.

Los defensores de la privacidad han advertido que una red tan extensa de dispositivos conectados por IA podría teoréticamente adaptarse para otros fines, incluidos la búsqueda de objetos o incluso personas, si futuros desarrollos así lo permiten. La reacción pública también llevó a Ring a cancelar una asociación planificada con la empresa de vigilancia Flock Safety, tras recibir críticas por el potencial uso de la herramienta para integrar a las fuerzas del orden en la recolección de evidencia a través de solicitudes de video. Ring declaró que la integración con Flock nunca se lanzó y que no se compartió ningún dato de usuario con esa empresa, enfatizando que la herramienta está diseñada para beneficiar a las comunidades y que la decisión de compartir videos recae en cada propietario.

Nuestros teléfonos móviles tienen un rastreador secreto y está activado

MakeUseOf. I didn’t realize my phone was tracking this by default. Publicado el 31 de enero de 2026 en MakeUseOf.com https://www.makeuseof.com/didnt-realize-phone-was-tracking-this-by-default/

Cada vez que una persona toma una fotografía con su teléfono móvil, el dispositivo guarda automáticamente información adicional conocida como datos EXIF.

Estos datos incluyen aspectos técnicos como el modelo de la cámara y sus ajustes, pero también pueden contener la ubicación exacta donde se tomó la foto, registrada mediante coordenadas GPS. Esta función viene activada por defecto en la mayoría de los teléfonos, por lo que muchas personas no son conscientes de que sus imágenes contienen información tan precisa sobre su ubicación.

El problema de los datos EXIF es que cualquiera con acceso a la imagen puede extraer esa información usando herramientas disponibles en internet y ver en un mapa el lugar exacto donde se tomó la fotografía. Esto representa un riesgo para la privacidad, especialmente cuando las fotos se comparten fuera de redes sociales, como por correo electrónico o aplicaciones de mensajería. En el caso de los niños y adolescentes, el riesgo es mayor, ya que suelen compartir imágenes sin conocer las consecuencias de revelar su ubicación.

Afortunadamente, tanto en Android como en iPhone es posible desactivar el guardado de la ubicación en la cámara desde los ajustes de privacidad. Al hacerlo, las fotos ya no incluirán coordenadas GPS. Sin embargo, esta opción no siempre es conveniente mantenerla desactivada de forma permanente, ya que aplicaciones como Google Fotos o Apple Fotos utilizan la ubicación para organizar imágenes por lugares y facilitar su búsqueda.

Por esta razón, se recomienda activar o desactivar el registro de ubicación según la situación. Si se van a compartir fotos con personas desconocidas o en contextos poco seguros, desactivar esta función ayuda a proteger la privacidad. En cambio, cuando se desea aprovechar las ventajas de organización y recuerdo que ofrece la geolocalización, se puede volver a activar sin problemas.

Aunque la tecnología de seguimiento de ubicación puede ser muy útil, es importante que los usuarios tengan control sobre la información que sus dispositivos recopilan y comparten. Conocer cómo funcionan los datos EXIF y saber gestionar la configuración de privacidad permite encontrar un equilibrio entre comodidad y seguridad, evitando riesgos innecesarios al compartir fotografías.

Herramienta de seguridad y protección para bibliotecas públicas

CULC/CBUC Safety and Security Toolkit Canadian Urban Libraries Council / Conseil des Bibliothèques Urbaines du Canada (CULC/CBUC), 2025

Texto completo

Public Library Safety & Security Toolkit es un recurso integral desarrollado por el Canadian Urban Libraries Council / Conseil des Bibliothèques Urbaines du Canada (CULC/CBUC) para ayudar a las bibliotecas públicas a gestionar de forma más eficaz los incidentes relacionados con la seguridad y protección dentro de sus espacios.

Frente al incremento en la frecuencia y la intensidad de estos incidentes —producto de diversas tensiones sociales, económicas y de salud pública— este documento ofrece estrategias probadas y una amplia gama de recomendaciones que tienen en cuenta las realidades variadas de distintas comunidades y sistemas bibliotecarios.

El toolkit fue creado por un grupo de trabajo especializado conformado por profesionales de distintas bibliotecas urbanas de Canadá, quienes recopilaron investigaciones, encuestas e insumos compartidos entre miembros para identificar áreas clave de acción. El documento está pensado como un documento vivo, lo que significa que se actualizará y enriquecerá continuamente con nuevas prácticas, ejemplos y recursos aportados por la comunidad de bibliotecas, con el fin de reflejar cambios en contextos sociales y operativos.

Los contenidos del toolkit abarcan temas diversos como las expectativas de los usuarios, estrategias de herramientas y procedimientos de seguridad, diseño de espacios, salud y bienestar del personal, desarrollo profesional, seguimiento y reporte de incidentes, reclutamiento, consideraciones legales y actividades de sensibilización. Cada sección incluye no sólo explicaciones del porqué y su importancia para la biblioteca, sino también ejemplos prácticos y plantillas que pueden adaptarse según las necesidades locales.

Además de presentar prácticas operativas, el toolkit promueve una estrategia de defensa pública para aumentar la comprensión y el apoyo de los gobiernos municipales, provinciales y federales respecto a los desafíos que enfrentan las bibliotecas públicas en materia de seguridad. Este enfoque busca atraer atención sobre la necesidad de soluciones colaborativas entre instituciones y servicios comunitarios para abordar no sólo la seguridad dentro de las bibliotecas, sino también cuestiones más amplias como la salud mental y la inclusión social.

El recurso subraya que, aunque los incidentes de seguridad representan una pequeña proporción de las interacciones diarias, su impacto puede ser significativo tanto en la percepción pública de las bibliotecas como en el sentimiento de seguridad de los empleados. Por eso, el toolkit combina estrategias preventivas y de respuesta con un enfoque en el bienestar del personal, reconociendo que la seguridad eficaz también implica apoyar la salud física y emocional de quienes trabajan en estas instituciones.

Cuando se invierte en bibliotecas la delincuencia tiende a disminuir

EveryLibrary. “Want Safer Neighborhoods? Invest in Libraries”, Medium, 18 de julio de 2025. https://medium.com/everylibrary/want-safer-neighborhoods-invest-in-libraries-8c5259ad32e2

Invertir en bibliotecas públicas contribuye directamente a la seguridad y la calidad de vida de los vecindarios, mostrando que cuando aumenta la financiación de las bibliotecas, tiende a disminuir la delincuencia y mejorar la percepción de seguridad en las comunidades.

Esta idea se basa en investigaciones académicas y datos empíricos que analizan no solo la relación entre recursos y crimen, sino también las funciones sociales más amplias que desempeñan las bibliotecas como espacios públicos abiertos, inclusivos y accesibles para todas las personas.

Un estudio citado en el texto, publicado en el Journal of Cultural Economics, examinó el impacto de la apertura de una nueva sucursal de biblioteca (Woodneath Public Library) en Kansas City, Missouri. Los investigadores compararon las tasas delictivas antes y después de su inauguración: aunque no todos los tipos de delitos disminuyeron, sí se observaron reducciones claras en categorías como el vandalismo, los robos y los allanamientos en las áreas más cercanas a la biblioteca. Esta evidencia sugiere que la presencia de una biblioteca puede influir positivamente en la seguridad del entorno inmediato, posiblemente debido a un aumento del tráfico peatonal, mejor iluminación urbana y una mayor atención policial en sus proximidades.

Además de la disminución de ciertos delitos, el artículo señala que las bibliotecas funcionan como espacios seguros donde las personas se sienten cómodas y protegidas. Según estudios mencionados, aproximadamente el 69 % de los estadounidenses considera que su biblioteca local es un lugar seguro para reunirse y pasar el tiempo, lo cual convierte a estas instituciones en refugios para personas que de otra forma podrían estar expuestas a entornos menos seguros. Esta percepción pública de seguridad refuerza el argumento de que las bibliotecas son más que centros de lectura: son puntos de encuentro comunitario con un papel cultural y social profundo.

El texto también señala que las bibliotecas ofrecen una amplia gama de servicios que contribuyen indirectamente a la seguridad y al bienestar comunitario, incluidos programas de aprendizaje de nuevas habilidades, oportunidades de conexión social, acceso a tecnología, actividades educativas y apoyo en momentos de crisis. Estas funciones hacen que las bibliotecas actúen como catalizadores de cohesión social, reduciendo factores asociados a la inseguridad como la exclusión, la falta de educación y la carencia de recursos.

La pieza concluye con una recomendación hacia líderes locales, legisladores y responsables de políticas públicas para que consideren los efectos positivos de las bibliotecas al decidir sobre su financiación, entendiendo que invertir en estas instituciones no solo fortalece la cultura y la educación, sino también la estabilidad y seguridad de los barrios. El artículo resalta que apoyar a las bibliotecas equivale a invertir en comunidades más resilientes, saludables y cohesionadas, especialmente en zonas de bajos ingresos donde estos efectos suelen ser más pronunciados.

El 64 % de las aplicaciones de terceros acceden a datos confidenciales sin autorización.

Reflectiz. The State of Web Exposure 2026. 2026. Reflectiz, enero 2026.

Texto completo

El informe The State of Web Exposure 2026 de Reflectiz presenta un análisis exhaustivo de la exposición de datos sensibles y riesgos de seguridad en la web derivados principalmente del uso de aplicaciones de terceros y herramientas digitales integradas en sitios web.

A partir del análisis de más de 4 700 sitios web de alto tráfico a nivel global, el estudio revela que el 64 % de las aplicaciones de terceros accede actualmente a datos sensibles sin una justificación de negocio válida, lo que representa un incremento significativo respecto al 51 % reportado en 2024. Esta tendencia señala una brecha de gobernanza y supervisión cada vez mayor en lo que concierne a la gestión de componentes web externos y su impacto en la seguridad de los datos.

El informe destaca varios hallazgos clave que ayudan a entender cómo se distribuyen y generan estos riesgos. En primer lugar, los equipos de marketing y digitales son responsables del 43 % de las exposiciones de terceros, superando con creces el 19 % generado por los departamentos de TI, lo que sugiere que la proliferación de etiquetas, scripts y herramientas para análisis y publicidad sin la debida supervisión técnica amplía la superficie de ataque. Asimismo, el riesgo en los entornos de pago ha aumentado, con un ascenso del 10 % al 14 % de aplicaciones en marcos de pago que carecen de una justificación clara, lo que puede abrir puertas a ataques de skimming y otras amenazas orientadas a la captura de información financiera.

Además de esto, sectores críticos como el gubernamental y el educativo muestran aumentos alarmantes en compromisos de seguridad: los sitios web de entidades gubernamentales con actividad maliciosa pasaron del 2 % al 12,9 %, mientras que uno de cada siete sitios del sector educativo presenta algún tipo de compromiso activo, cifra que cuadruplica la registrada el año anterior. El informe también identifica patrones técnicos asociados con sitios comprometidos, los cuales tienden a conectarse con 2,7 veces más dominios externos, cargar el doble de rastreadores y emplear dominios recientemente registrados 3,8 veces más que los sitios sin compromiso, lo que apunta a nuevos vectores de actividad maliciosa que dificultan aún más la gestión de la exposición web.

Para finalizar el documento proporciona indicadores de compromiso y mejores prácticas de control para equipos de seguridad y digitales, junto con benchmarks actualizados de liderazgo en seguridad. Estos benchmarks revelan que muy pocas organizaciones cumplen con los ocho criterios de seguridad evaluados, y únicamente un sitio web analizado —ticketweb.uk— logró una puntuación perfecta en el marco evaluado. Esta carencia de madurez en la gestión de la exposición web subraya la necesidad urgente de implementar soluciones especializadas y enfoques colaborativos entre los equipos de seguridad, TI y negocio para reducir riesgos, proteger datos sensibles y atender las crecientes expectativas de cumplimiento normativo y privacidad en un paisaje digital cada vez más complejo.

Las bibliotecas espacios comunitarios seguros, inclusivos y esenciales más allá de los libros

Ferreira, Beatriz. “Are Toronto Libraries the City’s Most Underrated Third Space?” Now Toronto, January 2026. https://nowtoronto.com/culture/are-toronto-libraries-the-citys-most-underrated-third-space/

Las bibliotecas públicas de Toronto han recibido recientemente atención en redes sociales por parte de residentes que las elogian no solo como lugares para tomar prestados libros, sino como espacios comunitarios seguros, inclusivos y esenciales para la vida urbana. Los usuarios comparten experiencias personales donde las bibliotecas fueron refugios en la infancia, espacios de pertenencia para personas marginadas o lugares de actividades y aprendizaje que han marcado momentos significativos de sus vidas. Este debate surge en un contexto donde encontrar “espacios terceros” —lugares públicos distintos al hogar y al trabajo— se percibe cada vez más escaso.

Representantes de la Toronto Public Library (TPL) han respondido a estas apreciaciones recordando que sus sucursales están diseñadas para ser puntos de encuentro abiertos a todos, ya sea para estudiar, socializar, buscar tranquilidad, o participar en programas y actividades. En 2024, las bibliotecas de la ciudad recibieron cerca de 45 millones de visitas, dividiéndose en 13,4 millones en persona y 31,5 millones en formato digital, y el 81 % de los habitantes de Toronto utiliza servicios de la TPL. Además, se registraron 28 millones de préstamos de materiales y más de 750 000 asistentes a programas presenciales, con otros 23 000 accesos en línea.

Más allá de los libros, la TPL ofrece una amplia gama de recursos que fortalecen su papel como espacio comunitario: acceso gratuito a wi-fi y ordenadores, salas virtuales, impresión, centros de innovación digital, materiales en más de 40 idiomas y millones de libros electrónicos y audiolibros disponibles para descarga. Las bibliotecas también brindan herramientas educativas y de desarrollo profesional, como cursos de LinkedIn Learning, apoyo para emprendedores, clubes de lectura, talleres de escritura y programas sobre clima o inteligencia artificial. Esta variedad de servicios refuerza la idea de que las bibliotecas funcionan como polos sociales multifuncionales en una ciudad donde los espacios públicos gratuitos para reunirse, aprender y compartir siguen siendo valiosos.

Formular solicitudes peligrosas en forma de poesía puede hacer que chatbots de IA generen contenido prohibido

Gault, Matthew. “Poems Can Trick AI Into Helping You Make a Nuclear Weapon.” Wired, November 28, 2025. https://www.wired.com/story/poems-can-trick-ai-into-helping-you-make-a-nuclear-weapon/

Un estudio reciente de Icaro Lab ha descubierto una brecha importante en los sistemas de seguridad de los grandes modelos de lenguaje (LLMs): formular solicitudes peligrosas en forma de poesía puede hacer que chatbots de IA generen contenido prohibido, como instrucciones sobre cómo fabricar armas nucleares o malware, que normalmente rechazarían si la petición fuese directa. La técnica, denominada “poetic jailbreak”, logra evadir las barreras de seguridad tradicionales al enmascarar la intención dañina en versos con metáforas, sintaxis fragmentada y secuencias de palabras inesperadas que confunden los mecanismos de clasificación y filtrado de las IA. Estas solicitudes diseñadas para reconocer y bloquear solicitudes dañinas basadas en palabras clave u otros patrones, resultan sorprendentemente frágiles ante variaciones estilísticas del lenguaje, como las que presenta la poesía.

Los investigadores probaron su método en 25 modelos de chatbot de diferentes proveedores importantes, incluidos sistemas de OpenAI, Meta y Anthropic, y encontraron que la poesía logró tasas significativas de “jailbreak” —es decir, de respuesta a solicitudes peligrosas— con un promedio de alrededor del 62% en poemas elaborados a mano y alrededor del 43% en conversiones automáticas de prosa a verso. En algunos casos con modelos de vanguardia, las tasas de éxito alcanzaron hasta el 90%, lo que demuestra que incluso peticiones sofisticados pueden fracasar cuando se enfrentan a formas creativas de lenguaje que alteran las rutas de procesamiento interno del modelo sin cambiar el contenido semántico básico de la pregunta.

En términos técnicos, los autores explican que los elementos poéticos —como la elección de palabras de baja probabilidad y las estructuras inusuales— pueden desplazar las representaciones internas de los prompts fuera de las regiones del espacio semántico que las herramientas de seguridad escanean habitualmente. Para los humanos, un verso enmascarado y una pregunta directa pueden tener el mismo significado, pero para las IA y sus sistemas de protección automatizados, la poesía puede alterar cómo se interpreta y evalúa una petición, evitando que se active una alarma o un “shutdown” ante contenidos sensibles. Este hallazgo subraya limitaciones fundamentales en los métodos actuales de alineación y evaluación de seguridad de los modelos, y plantea interrogantes urgentes sobre cómo reforzar las defensas contra ataques lingüísticos creativos que explotan este tipo de vulnerabilidades.

Los chatbots de IA pueden ser engañados mediante peticiones dañinas redactadas en forma de poesía.

Euronews. 2025. “Poetry Can Trick AI Chatbots into Ignoring Safety Rules, New Research Shows.” Publicado el 1 de diciembre de 2025. https://www.euronews.com/next/2025/12/01/poetry-can-trick-ai-chatbots-into-ignoring-safety-rules-new-research-shows

Estudio

Investigadores de Icaro Lab, perteneciente a la firma ética de inteligencia artificial DexAI, descubrieron que los chatbots avanzados pueden ser engañados mediante peticiones redactadas en forma de poesía.

En su estudio, emplearon veinte poemas compuestos en inglés e italiano, cada uno de ellos ocultando al final una petición prohibida, como la generación de discurso de odio, pornografía infantil, instrucciones para el suicidio o métodos de fabricación de armas. Lo sorprendente fue que la forma poética —con su sintaxis irregular, metáforas y estructuras no convencionales— resultó capaz de confundir los sistemas de seguridad que suelen detectar estas solicitudes cuando están formuladas de manera directa.

Las pruebas se realizaron con veinticinco modelos de lenguaje de nueve grandes compañías tecnológicas. Los resultados fueron preocupantes: de media, el 62 % de las peticiones poéticas lograron que los modelos produjeran contenido inseguro. Algunos sistemas actuaron de forma mucho más robusta —por ejemplo, un modelo pequeño de OpenAI no cayó en ninguna trampa—, mientras que otros resultaron especialmente vulnerables y respondieron a todas las solicitudes disfrazadas de poema. La variedad de comportamientos demuestra que la vulnerabilidad no es uniforme y depende tanto del entrenamiento del modelo como del diseño de sus mecanismos de seguridad.

El estudio concluye que los filtros de seguridad actuales están optimizados para detectar amenazas explícitas, formuladas con lenguaje directo. Cuando las peticiones se camuflan en una escritura artística, las salvaguardas fallan, pues no identifican la intención dañina. Esto convierte a la poesía adversarial en una herramienta de evasión accesible para cualquier usuario, a diferencia de otras técnicas de jailbreak más complejas que requieren conocimientos especializados. Los autores advierten que esta debilidad supone un riesgo real para el uso seguro de la IA y subrayan la necesidad de desarrollar mecanismos capaces de interpretar no solo el contenido literal, sino la intención profunda de un texto, incluso cuando adopta formas creativas o ambiguas.

¿Quieres barrios más seguros? Inviertan en bibliotecas. Cuando aumenta la financiación de las bibliotecas, la delincuencia tiende a disminuir

EveryLibrary. 2022. “Want Safer Neighborhoods? Invest in Libraries.” Medium. https://medium.com/everylibrary/want-safer-neighborhoods-invest-in-libraries-8c5259ad32e2 (consultado el 21 de julio de 2025).

El artículo plantea que invertir en bibliotecas públicas es una estrategia eficaz y comprobada para mejorar la seguridad y la calidad de vida en los vecindarios. Contrario a enfoques tradicionales que destinan presupuestos principalmente a la policía y la vigilancia, la pieza sugiere que las bibliotecas contribuyen de manera significativa a la reducción de la delincuencia y la violencia, además de fomentar el desarrollo social y económico de las comunidades.

Las bibliotecas públicas funcionan como espacios abiertos, accesibles e inclusivos que ofrecen recursos y programas para personas de todas las edades y condiciones. Son lugares de encuentro donde se promueve la educación, la cultura y la cohesión social, elementos esenciales para la prevención del crimen. En barrios vulnerables, las bibliotecas pueden ser refugios que ofrecen actividades constructivas y apoyo a jóvenes en riesgo, alejándolos de entornos potencialmente peligrosos.

El artículo cita estudios y ejemplos concretos que vinculan la presencia y actividad de las bibliotecas con una disminución en las tasas de violencia y delincuencia. Un caso destacado es el de bibliotecas en ciudades de Estados Unidos que, mediante programas de alfabetización, empleo, apoyo psicosocial y actividades extracurriculares, han contribuido a reducir el crimen juvenil y mejorar la percepción de seguridad en sus comunidades. En estos espacios, el acceso gratuito a tecnología, educación y servicios sociales fortalece la resiliencia comunitaria.

Un estudio reciente publicado en el Journal of Cultural Economics examina lo que ocurre cuando se abre una nueva sucursal de una biblioteca en Kansas City (Misuri). La ciudad tuvo doce sucursales de biblioteca durante muchos años. En 2013, añadieron la decimotercera sucursal, conocida como Woodneath Public Library Branch. Este estudio se centra en la sucursal de Woodneath. Los investigadores compararon los índices de delincuencia antes y después de la apertura de la biblioteca de Woodneath. Aunque no se redujeron todos los delitos, hubo un claro descenso en algunos tipos, como el vandalismo, los allanamientos y los robos. Esta reducción de la delincuencia fue más notable en la zona más cercana a la biblioteca.

El estudio también citaba las conclusiones de EveryLibrary, según las cuales, a medida que la financiación de las bibliotecas por persona aumentaba de 1995 a 2016, los índices nacionales de delincuencia descendían casi en la misma proporción. Esta tendencia parece exclusiva de las bibliotecas y no se aplica a todas las demás instituciones culturales públicas.

Los investigadores del estudio sobre bibliotecas de Missouri también descubrieron que las bibliotecas influyen en la forma en que la gente piensa sobre el riesgo de delincuencia. El artículo explicaba que cuando se construye una nueva biblioteca, suele haber más tráfico peatonal, mejor iluminación, cámaras de seguridad y nuevas rutas de patrulla policial. Todas estas mejoras ayudan a la gente a sentirse más segura y hacen que los barrios sean más acogedores.

De hecho, la mayoría de los estadounidenses ya ven las bibliotecas como espacios seguros. El 69% de los encuestados afirma sentirse cómodo en su biblioteca local. El estudio sugiere que esta reputación convierte a las bibliotecas en un excelente refugio para personas que, de otro modo, pasarían el tiempo en entornos menos seguros.

Invertir en bibliotecas se presenta como una política pública de prevención más eficiente y sostenible a largo plazo que la mera represión o vigilancia policial. Las bibliotecas proporcionan servicios integrales que abordan causas profundas de la inseguridad, como la pobreza, la falta de educación y la exclusión social. La financiación adecuada permite ampliar programas, mantener horarios accesibles y garantizar que las bibliotecas respondan a las necesidades cambiantes de la población.

Por qué ChatGPT crea citas científicas que no existen

Westreich, Sam. «Why ChatGPT Creates Scientific Citations — That Don’t Exist.» Age of Awareness, June 4, 2025. https://medium.com/age-of-awareness/why-chatgpt-creates-scientific-citations-that-dont-exist-8978ec973255

Se aborda un fenómeno cada vez más observado en la inteligencia artificial generativa: la creación de referencias bibliográficas falsas o inventadas. Este problema, conocido en la comunidad de IA como “hallucination” (alucinación), consiste en que los modelos de lenguaje como ChatGPT generan respuestas plausibles y estructuradas, pero que no se corresponden con datos reales verificables.

En el caso de las citas científicas, el modelo construye referencias completas que incluyen autores, títulos, años y revistas, pero que no existen en ninguna base de datos académica. Esto ocurre porque la IA no accede directamente a una base de datos específica al generar la respuesta, sino que se basa en patrones probabilísticos aprendidos durante su entrenamiento en grandes corpus textuales.

El fenómeno de la hallucination en modelos de lenguaje ha sido documentado por varios estudios recientes. Por ejemplo, Ji et al. (2023) en su trabajo “Survey of Hallucination in Natural Language Generation” indican que esta tendencia a inventar hechos o detalles es inherente a la forma en que estos modelos predicen palabras en secuencia para maximizar la coherencia textual, pero sin una “conciencia” o acceso en tiempo real a datos verdaderos (Ji et al., 2023, ACM Computing Surveys). Así, el modelo genera lo que “suena correcto” más que lo que es correcto, produciendo con frecuencia referencias falsas, especialmente cuando se le solicita citar fuentes académicas.

El problema de las citas inventadas tiene graves implicaciones en ámbitos científicos y académicos, donde la veracidad y la confiabilidad de las referencias es fundamental para la integridad del conocimiento. Según un artículo publicado en Nature sobre la creciente adopción de IA en la generación de textos académicos, existe preocupación entre investigadores sobre el potencial de estas herramientas para introducir errores difíciles de detectar, que pueden desinformar a estudiantes y profesionales (Nature Editorial, 2024). La confianza que los usuarios depositan en estas IA aumenta el riesgo, dado que una cita bien formada visualmente se asume auténtica, lo que puede propagar información errónea y socavar la credibilidad de trabajos científicos.

Westreich señala que la raíz del problema está en la naturaleza probabilística del entrenamiento del modelo, que aprende a generar texto basado en patrones estadísticos en lugar de verificar hechos. Además, las bases de datos académicas tienen un acceso limitado y no siempre están integradas en los sistemas de generación de lenguaje, lo que impide la validación automática de las citas en tiempo real. Sin embargo, se están explorando soluciones para mitigar este problema. Por ejemplo, la integración de sistemas de búsqueda y recuperación de información en tiempo real (RAG, Retrieval-Augmented Generation) permitiría a los modelos consultar bases de datos académicas fiables durante la generación de texto, reduciendo la producción de referencias falsas (Lewis et al., 2020, NeurIPS).

Otra estrategia recomendada es aumentar la transparencia del modelo, avisando a los usuarios de que las referencias generadas pueden no ser reales y deben ser verificadas independientemente. Instituciones educativas y editoriales también pueden establecer guías para el uso responsable de estas herramientas, fomentando la revisión manual de las citas generadas por IA.

En un análisis crítico más amplio, la producción de citas falsas por IA pone en evidencia la brecha entre la fluidez lingüística y la comprensión real del contenido que tienen estos modelos. Aunque pueden imitar estructuras y formatos, carecen de un sistema de verificación interna que asegure la veracidad. Por ello, investigadores como Bender et al. (2021) advierten que el uso indiscriminado de estas tecnologías sin supervisión puede erosionar la confianza en la información científica y educativa, un problema que debe abordarse con estrategias técnicas, educativas y éticas.

La comunidad científica y tecnológica trabaja para desarrollar métodos que permitan una generación de contenido más responsable, precisa y verificable. Mientras tanto, es imprescindible que los usuarios mantengan un enfoque crítico y verifiquen cualquier referencia proporcionada por estas herramientas, para preservar la integridad académica y evitar la propagación de desinformación.