Archivo de la etiqueta: Privacidad

Cuando la nevera piensa por ti: Samsung da un paso decisivo hacia una inteligencia artificial realmente útil en el hogar

Rutherford, Sam. “Samsung’s Bespoke Update Is Big Step Towards A Useful AI For Your Fridge.” Engadget, 10 de mayo de 2026.

Se analiza una importante actualización de software lanzada por Samsung Electronics para su línea de frigoríficos inteligentes Samsung Bespoke AI Refrigerator, un movimiento que representa uno de los avances más significativos hasta ahora en la incorporación de inteligencia artificial realmente funcional dentro del entorno doméstico.

Aunque la idea de actualizar el software de un frigorífico sigue pareciendo extraña para muchos consumidores, el autor sostiene que esta actualización marca un punto de inflexión en la evolución de los electrodomésticos inteligentes, especialmente porque por primera vez la IA parece aportar utilidades concretas y no simples funciones llamativas con escaso valor práctico.

Hasta este momento, los frigoríficos inteligentes de Samsung ya incorporaban sistemas de reconocimiento visual capaces de identificar alimentos almacenados en su interior. Sin embargo, las versiones anteriores resultaban bastante limitadas: el sistema apenas reconocía alrededor de sesenta tipos de alimentos frescos y aproximadamente cincuenta productos envasados. Además, requería que el usuario introdujera manualmente información adicional, como cantidades o fechas de incorporación, algo que terminaba haciendo la experiencia tediosa y reduciendo considerablemente la utilidad real de la tecnología. Según el análisis, el usuario terminaba dedicando demasiado tiempo a alimentar al sistema, lo que contradecía precisamente la promesa de automatización inteligente que la IA debería ofrecer.

La gran novedad de esta actualización reside en la integración de Google Gemini, el modelo de inteligencia artificial generativa desarrollado por Google, que ahora complementa el sistema de reconocimiento visual propio de Samsung. Gracias a esta combinación entre procesamiento local y capacidades de computación en la nube, la capacidad de identificación del frigorífico se multiplica enormemente: pasa de reconocer poco más de un centenar de productos a ser capaz de identificar más de 2.000 tipos diferentes de alimentos. Esto supone un salto enorme en términos de funcionalidad práctica, ya que el sistema comienza a comportarse más como un verdadero asistente doméstico capaz de comprender el contenido real del frigorífico.

Uno de los aspectos que más destaca el autor del artículo es la mejora en el reconocimiento de productos específicos y marcas concretas. El sistema no solo identifica alimentos genéricos, sino que puede distinguir entre variantes muy concretas de un mismo producto, por ejemplo diferenciando entre una lata de Coca-Cola Zero y una Diet Coke, algo que requiere un nivel considerablemente más avanzado de visión computacional. Incluso ingredientes poco comunes o especializados, como determinadas salsas asiáticas de escasa presencia en mercados occidentales, fueron reconocidos correctamente durante las pruebas realizadas. Esta precisión transforma el frigorífico en una especie de inventario automatizado que monitoriza de manera casi autónoma el estado de los alimentos disponibles.

Otra función especialmente interesante es la capacidad del sistema para realizar seguimiento temporal de los productos almacenados. El frigorífico puede registrar cuánto tiempo lleva un alimento dentro del electrodoméstico y emitir alertas cuando detecta que ciertos productos están próximos a caducar o podrían deteriorarse pronto. Esto introduce una dimensión preventiva muy relevante, ya que permite reducir el desperdicio alimentario, un problema doméstico y medioambiental considerable. La inteligencia artificial deja de ser un mero asistente pasivo para convertirse en un sistema capaz de intervenir activamente en la gestión eficiente del consumo alimentario familiar.

Samsung también ha incorporado nuevas funciones relacionadas con el mantenimiento técnico del aparato mediante lo que denomina Repairability AI. El frigorífico monitoriza constantemente métricas internas de funcionamiento y puede detectar potenciales averías antes de que se produzca un fallo crítico. Con autorización explícita del propietario, esta información puede compartirse con técnicos de reparación, permitiendo que el servicio técnico llegue con un diagnóstico previo y pueda solucionar incidencias de manera más rápida y eficiente. Este enfoque introduce una nueva filosofía en la industria: electrodomésticos cuyo valor evoluciona mediante software incluso después de haber sido comprados, algo similar a lo que ocurre actualmente con automóviles eléctricos o smartphones.

Sin embargo, el artículo también deja entrever algunas dudas y preocupaciones. El crecimiento de la inteligencia artificial integrada en dispositivos domésticos plantea interrogantes sobre privacidad, dependencia tecnológica y posibles problemas de fiabilidad. Algunos sectores críticos han cuestionado si realmente resulta necesario incorporar IA avanzada a electrodomésticos tradicionalmente simples como un frigorífico. Durante el Consumer Electronics Show 2026 (CES 2026) incluso aparecieron críticas hacia este tipo de productos por considerar que representan un ejemplo de sobreingeniería tecnológica: añadir complejidad innecesaria a dispositivos cuya función básica históricamente ha sido sencilla y robusta. También existen preocupaciones sobre la recopilación constante de datos domésticos y sobre la dificultad futura de reparación si el software falla o queda obsoleto.

Esta actualización del ecosistema Samsung Bespoke AI Family Hub muestra un escenario diferente: una tecnología capaz de reconocer alimentos, organizar inventarios, sugerir recetas, reducir desperdicios, anticipar averías y personalizar información para cada miembro del hogar. Aunque persisten desafíos importantes relacionados con privacidad, mantenimiento y confianza del consumidor, el artículo plantea que quizás estamos viendo el inicio de una nueva generación de hogares donde la inteligencia artificial deja de ser experimental y empieza a convertirse en una infraestructura invisible integrada en la vida cotidiana

Privacidad de los usuarios de bibliotecas en la era de la inteligencia artificial

Lucie Daignault, Samuel Lim and Catherine Ferri. Library Patron Privacy in the Age of Artificial Intelligence. EveryLibrary Institute, 2026.

Texto completo

El EveryLibrary Institute ha dado a conocer un informe de gran relevancia titulado Library Patron Privacy in the Age of Artificial Intelligence, centrado en uno de los debates más urgentes para las bibliotecas contemporáneas: cómo proteger la privacidad de los usuarios en un contexto marcado por la expansión acelerada de la inteligencia artificial y de los servicios digitales.

Durante décadas, la confidencialidad de los hábitos de lectura, consulta e investigación ha sido uno de los principios fundamentales de las bibliotecas, especialmente en Estados Unidos, donde la defensa de la libertad intelectual ha estado estrechamente vinculada al derecho a la privacidad. Sin embargo, la llegada de nuevas herramientas basadas en IA está poniendo a prueba estos marcos tradicionales, generando interrogantes legales, éticos y tecnológicos que requieren respuestas actualizadas.

El estudio ha sido elaborado por Lucie Daignault, Samuel Lim y Catherine Ferri, integrantes de la Georgetown University Communications and Technology Law Clinic, en colaboración con EveryLibrary Institute. Su principal aportación consiste en ofrecer una revisión exhaustiva de las leyes de privacidad bibliotecaria vigentes en los cincuenta estados de EE. UU. y en el Distrito de Columbia, con el fin de determinar hasta qué punto estas normativas siguen siendo eficaces frente a los desafíos actuales. El informe analiza si las leyes estatales existentes contemplan adecuadamente cuestiones como la recopilación masiva de datos, el almacenamiento prolongado de información personal, la intervención de proveedores externos y el uso de sistemas automatizados capaces de perfilar comportamientos de lectura o búsqueda.

Uno de los aspectos más novedosos del documento es su atención específica a la inteligencia artificial generativa y a las nuevas formas de tratamiento de datos que esta implica. Muchas plataformas digitales utilizadas por bibliotecas incorporan tecnologías desarrolladas por terceros, capaces de registrar consultas, recomendaciones, patrones de navegación o interacciones textuales de los usuarios. Esto plantea un conflicto entre la mejora de servicios mediante herramientas inteligentes y la obligación histórica de las bibliotecas de garantizar anonimato, neutralidad y libertad de acceso a la información. El informe advierte que, sin controles adecuados, podrían abrirse vías de vigilancia indirecta o explotación comercial de datos tradicionalmente protegidos.

Asimismo, el trabajo examina la creciente dependencia de las bibliotecas respecto a proveedores tecnológicos externos. Los sistemas de préstamo digital, bases de datos académicas, plataformas de descubrimiento o asistentes automatizados suelen operar bajo contratos con empresas privadas que gestionan infraestructuras y datos sensibles. El informe invita a revisar cuidadosamente estas relaciones contractuales, reclamando mayor transparencia sobre qué datos se recogen, cómo se almacenan, durante cuánto tiempo se conservan y si pueden reutilizarse para entrenar modelos de inteligencia artificial u otros fines comerciales.

El valor práctico del informe reside también en su enfoque comparativo y aplicado. Al ofrecer un panorama actualizado estado por estado, se convierte en una herramienta útil para bibliotecarios, responsables institucionales, legisladores, investigadores y defensores de los derechos civiles. No se limita a diagnosticar problemas, sino que pretende impulsar conversaciones más profundas entre los sectores bibliotecario, jurídico y tecnológico. En este sentido, propone pensar la privacidad no como un obstáculo para la innovación, sino como un elemento esencial del diseño de cualquier servicio digital bibliotecario.

En última instancia, el documento subraya que la rápida evolución de la inteligencia artificial obliga a redefinir el papel de las bibliotecas como instituciones públicas de confianza en una sociedad gobernada cada vez más por datos. Si históricamente las bibliotecas han protegido la libertad de leer sin vigilancia, hoy deben extender esa misión al entorno digital. La cuestión no es solo tecnológica, sino democrática: preservar espacios donde las personas puedan informarse, aprender e investigar sin temor a ser monitorizadas o perfiladas. Por ello, este informe se perfila como una referencia clave para el futuro de la ética bibliotecaria y de la gobernanza de la IA.

La UE acusa a Meta de incumplir la normativa digital por no proteger a menores en Instagram y Facebook

Officials at EU meeting discussing Meta and children's digital rule breaches
EU officials discussing Meta’s compliance with children’s digital rules

Euronews. “EU finds Meta in breach of digital rules over children on Instagram and Facebook.” Euronews Next, 29 de abril de 2026. https://www.euronews.com/next/2026/04/29/eu-finds-meta-in-breach-of-digital-rules-over-children-on-instagram-and-facebook

La Comisión Europea ha emitido una conclusión preliminar en la que sostiene que Meta incumple la Digital Services Act al no implementar medidas eficaces para impedir que menores de 13 años utilicen sus plataformas, especialmente Instagram y Facebook.

La investigación, que se ha prolongado durante cerca de dos años, concluye que los sistemas actuales de control de edad son insuficientes, ya que permiten a los usuarios registrarse introduciendo fechas de nacimiento falsas sin mecanismos reales de verificación. Como resultado, entre un 10% y un 12% de los menores de 13 años en la Unión Europea estarían utilizando estos servicios, contradiciendo las propias evaluaciones internas de la compañía.

El informe también critica que Meta no ha evaluado adecuadamente los riesgos que estas plataformas suponen para los menores. Según la Comisión, la empresa habría ignorado evidencia científica disponible que señala la especial vulnerabilidad de los niños frente a contenidos perjudiciales y dinámicas potencialmente adictivas en redes sociales. Esto implica un incumplimiento no solo técnico, sino también conceptual, ya que la normativa europea exige que las grandes plataformas identifiquen, analicen y mitiguen los riesgos sistémicos derivados de sus servicios, especialmente cuando afectan a colectivos vulnerables como los menores.

Otro aspecto relevante del caso es la debilidad de los mecanismos para detectar y eliminar cuentas de menores una vez creadas. La Comisión considera que las herramientas de supervisión y reporte no funcionan con la eficacia necesaria, lo que permite que muchos usuarios por debajo de la edad mínima permanezcan activos en las plataformas. Este fallo estructural evidencia una brecha entre las políticas declaradas por la empresa —que fijan los 13 años como edad mínima— y su aplicación real en el entorno digital.

Por su parte, Meta ha rechazado las conclusiones preliminares, defendiendo que ya dispone de herramientas para identificar y eliminar cuentas de menores y subrayando que la verificación de edad es un desafío que afecta a toda la industria tecnológica. La empresa ha anunciado que seguirá colaborando con las autoridades europeas y que introducirá nuevas medidas en el corto plazo para reforzar la protección de los usuarios jóvenes.

El procedimiento aún no ha concluido y Meta tiene la oportunidad de responder a las acusaciones antes de una decisión final. No obstante, si se confirma el incumplimiento, la compañía podría enfrentarse a sanciones significativas, que en el marco de la legislación europea pueden alcanzar hasta el 6% de su facturación global anual. Más allá del caso concreto, este proceso refleja una creciente preocupación en Europa por el impacto de las redes sociales en la infancia y refuerza la tendencia hacia una regulación más estricta de las grandes plataformas digitales en materia de seguridad y bienestar de los usuarios

8 de cada 10 europeos no confían en las empresas estadounidenses ni chinas para el manejo de sus datos.

Politico. “8 in 10 Europeans Don’t Trust US, Chinese Firms with Data.” Politico Europe, 2026 https://www.politico.eu/article/8-in-10-europeans-dont-trust-us-chinese-firms-with-data/

El texto pone de relieve una paradoja central del ecosistema digital europeo: una profunda desconfianza hacia actores externos que, sin embargo, siguen siendo esenciales en la infraestructura tecnológica cotidiana. Esta tensión entre dependencia y desconfianza define uno de los grandes retos de Europa en el ámbito digital: cómo garantizar la protección de los datos y la autonomía tecnológica sin quedar rezagada en la competencia global.

Se analiza los resultados de una encuesta reciente —el estudio European Pulse Forum, impulsado por Politico junto a la consultora BeBartlet— que revela un dato contundente: más de ocho de cada diez europeos desconfían de las empresas tecnológicas estadounidenses y chinas a la hora de gestionar sus datos personales. Este nivel de desconfianza no es homogéneo, sino que alcanza cifras especialmente elevadas en el caso de China (en torno al 90 % o más) y también muy altas respecto a Estados Unidos (más del 80 %), lo que pone de manifiesto una crisis de confianza generalizada hacia las grandes potencias tecnológicas globales.

El estudio, basado en miles de encuestas realizadas en países clave como Alemania, Francia, España, Italia, Polonia y Bélgica, muestra que la percepción de riesgo está profundamente vinculada a factores geopolíticos y legales. Uno de los principales motivos de esta desconfianza es la creencia de que las empresas de estos países pueden verse obligadas a entregar datos a sus respectivos gobiernos en virtud de sus leyes nacionales de seguridad. Esta posibilidad genera inquietud entre los ciudadanos europeos, que perciben una falta de control sobre el uso final de su información personal, especialmente en contextos donde la vigilancia estatal o el acceso gubernamental a datos privados es una preocupación creciente.

En contraste, las empresas tecnológicas europeas generan un nivel de confianza relativamente mayor, aunque no mayoritario: aproximadamente la mitad de los encuestados afirma confiar en ellas. También los gobiernos nacionales obtienen niveles de confianza moderados, lo que sugiere que, aunque existe una preferencia por lo “propio”, esta no implica una confianza plena. Este matiz es importante porque indica que el problema no es únicamente externo (EE. UU. o China), sino que forma parte de una preocupación más amplia sobre la privacidad, el control de los datos y la transparencia en la era digital.

El contexto normativo europeo desempeña un papel clave en esta percepción. La Unión Europea cuenta con uno de los marcos regulatorios más estrictos del mundo en materia de protección de datos, encabezado por el Reglamento General de Protección de Datos (GDPR). Este sistema no solo establece altos estándares para las empresas europeas, sino que también obliga a las compañías extranjeras a cumplirlos si operan con datos de ciudadanos europeos. Sin embargo, la coexistencia de estas normas con legislaciones nacionales de terceros países genera tensiones legales y dudas sobre su efectividad real, especialmente cuando entran en conflicto con leyes de seguridad nacional fuera de la UE.

El artículo también sugiere que esta desconfianza tiene implicaciones estratégicas profundas. En particular, refuerza el impulso europeo hacia la llamada “soberanía digital”, es decir, la necesidad de desarrollar infraestructuras tecnológicas propias en ámbitos como la computación en la nube, la inteligencia artificial o las telecomunicaciones. La dependencia actual de proveedores estadounidenses —dominantes en el mercado— contrasta con el deseo político y social de reducir esa dependencia, aunque en la práctica este cambio resulta complejo debido a factores económicos, técnicos y de mercado.

EE. UU. impulsa una “caza” digital de críticos del ICE: cientos de citaciones del DHS exigen a Google, Meta y Reddit revelar identidades

Toohey, Ellsworth. “DHS sent hundreds of subpoenas to Google, Meta, and Reddit demanding names of people who criticize ICE.” Boing Boing, February 16, 2026. https://boingboing.net/2026/02/16/dhs-sent-hundreds-of-subpoenas-to-google-meta-and-reddit-demanding-names-of-people-who-criticize-ice.html

Un informe reciente revela que el Departamento de Seguridad Nacional (DHS) de los Estados Unidos ha intensificado su uso de citaciones administrativas para intentar identificar a usuarios de internet que critican al Servicio de Inmigración y Control de Aduanas (ICE) en plataformas de redes sociales.

Según un artículo de Boing Boing, el DHS ha enviado cientos de citaciones sin orden judicial a gigantes tecnológicos como Google, Meta (propietaria de Facebook e Instagram) y Reddit, solicitando datos personales —incluidos nombres reales, direcciones de correo electrónico y códigos postales— vinculados a cuentas que publican contenidos críticos sobre las actividades de ICE o comparten información sobre la ubicación de sus agentes.

A diferencia de las órdenes judiciales tradicionales, estas citaciones administrativas pueden emitirse sin revisión previa de un juez, lo que ha generado inquietud entre defensores de las libertades civiles y expertos legales. Según The New York Times, varias de estas solicitudes han sido cumplidas por las plataformas mencionadas, aunque algunas empresas notifican a los usuarios afectados y les ofrecen un breve periodo —generalmente entre 10 y 14 días— para impugnar la citación en los tribunales antes de entregar los datos al gobierno.

Los críticos de esta práctica advierten que su uso extendido representa una expansión preocupante de la vigilancia gubernamental sobre la actividad en línea y una potencial amenaza a la protección de la libertad de expresión. Tradicionalmente, las citaciones administrativas se empleaban en investigaciones relacionadas con delitos graves, como el tráfico de menores; su aplicación para identificar críticos del ICE sugiere, según expertos citados en el informe, un cambio significativo en las prioridades de supervisión del DHS.

Este desarrollo no ha ocurrido en un vacío político: llega en un contexto de debates intensos sobre políticas migratorias, el papel del ICE y la regulación de la privacidad en línea, en el que grupos de derechos civiles —como la ACLU— han cuestionado la legitimidad y el alcance de las citaciones, denunciándolas como tácticas que podrían intimidar y silenciar a quienes ejercen su derecho constitucional a criticar al gobierno.

Search Party un sistema IA propiedad de Amazon para localizar perros perdidos que está generando controversia en torno a la vigilancia comunitaria

Koebler, Jason. “Leaked Email Suggests Ring Plans to Expand ‘Search Party’ Surveillance Beyond Dogs.” 404 Media, February 18, 2026. https://www.404media.co/leaked-email-suggests-ring-plans-to-expand-search-party-surveillance-beyond-dogs/

Un correo interno filtrado de Amazon‑propiedad Ring ha revelado que la controvertida funcionalidad de inteligencia artificial denominada Search Party, lanzada con el propósito de ayudar a encontrar perros perdidos utilizando cámaras conectadas en vecindarios, podría evolucionar hacia un sistema de vigilancia más amplio con objetivos de seguridad comunitaria, según un informe de 404 Media.

En el mensaje, enviado por el fundador y CEO de Ring, Jamie Siminoff, a los empleados poco después del lanzamiento de la herramienta en octubre de 2025, Siminoff describió que la función fue introducida “primero para encontrar perros” pero insinuó que esta plataforma podría ampliarse para “eliminar el crimen en los vecindarios”, mostrando la intención de que la infraestructura de cámaras y el aprendizaje automático asociado sirvan a usos más allá de su propósito original.

Search Party es una característica que se activa por defecto y crea una red de cámaras Ring en un área determinada que, mediante algoritmos de IA, analiza automáticamente el metraje grabado cuando se informa de un perro perdido para intentar localizarlo. Si una cámara detecta un posible avistamiento, se notifica al propietario del dispositivo, quien puede optar por compartir el video con quien busca al animal. La herramienta ha suscitado críticas por su activación por defecto y por la escala de la red de cámaras interconectadas, lo que ha despertado inquietudes sobre la normalización de una infraestructura de vigilancia en vecindarios.

La filtración ocurre en un contexto más amplio de escepticismo y rechazo público hacia las capacidades de vigilancia de Ring. La empresa enfrentó una reacción negativa importante tras la emisión de un anuncio en el Super Bowl que promocionaba Search Party, ya que muchos críticos interpretaron la publicidad como un preludio de un sistema de vigilancia encubierto que utiliza aparatos cotidianos como cámaras de puerta para monitorear barrios. Aunque Ring ha afirmado que Search Party no procesa biométricos humanos ni rastrea personas directamente, expertos en privacidad señalan que la tecnología subyacente y la expansión de funciones como Familiar Faces (identificación facial) y Fire Watch (detección de incendios) incrementan la capacidad de monitoreo automático y, por ende, los riesgos asociados a la protección de datos y libertades civiles.

Los defensores de la privacidad han advertido que una red tan extensa de dispositivos conectados por IA podría teoréticamente adaptarse para otros fines, incluidos la búsqueda de objetos o incluso personas, si futuros desarrollos así lo permiten. La reacción pública también llevó a Ring a cancelar una asociación planificada con la empresa de vigilancia Flock Safety, tras recibir críticas por el potencial uso de la herramienta para integrar a las fuerzas del orden en la recolección de evidencia a través de solicitudes de video. Ring declaró que la integración con Flock nunca se lanzó y que no se compartió ningún dato de usuario con esa empresa, enfatizando que la herramienta está diseñada para beneficiar a las comunidades y que la decisión de compartir videos recae en cada propietario.

El 64 % de las aplicaciones de terceros acceden a datos confidenciales sin autorización.

Reflectiz. The State of Web Exposure 2026. 2026. Reflectiz, enero 2026.

Texto completo

El informe The State of Web Exposure 2026 de Reflectiz presenta un análisis exhaustivo de la exposición de datos sensibles y riesgos de seguridad en la web derivados principalmente del uso de aplicaciones de terceros y herramientas digitales integradas en sitios web.

A partir del análisis de más de 4 700 sitios web de alto tráfico a nivel global, el estudio revela que el 64 % de las aplicaciones de terceros accede actualmente a datos sensibles sin una justificación de negocio válida, lo que representa un incremento significativo respecto al 51 % reportado en 2024. Esta tendencia señala una brecha de gobernanza y supervisión cada vez mayor en lo que concierne a la gestión de componentes web externos y su impacto en la seguridad de los datos.

El informe destaca varios hallazgos clave que ayudan a entender cómo se distribuyen y generan estos riesgos. En primer lugar, los equipos de marketing y digitales son responsables del 43 % de las exposiciones de terceros, superando con creces el 19 % generado por los departamentos de TI, lo que sugiere que la proliferación de etiquetas, scripts y herramientas para análisis y publicidad sin la debida supervisión técnica amplía la superficie de ataque. Asimismo, el riesgo en los entornos de pago ha aumentado, con un ascenso del 10 % al 14 % de aplicaciones en marcos de pago que carecen de una justificación clara, lo que puede abrir puertas a ataques de skimming y otras amenazas orientadas a la captura de información financiera.

Además de esto, sectores críticos como el gubernamental y el educativo muestran aumentos alarmantes en compromisos de seguridad: los sitios web de entidades gubernamentales con actividad maliciosa pasaron del 2 % al 12,9 %, mientras que uno de cada siete sitios del sector educativo presenta algún tipo de compromiso activo, cifra que cuadruplica la registrada el año anterior. El informe también identifica patrones técnicos asociados con sitios comprometidos, los cuales tienden a conectarse con 2,7 veces más dominios externos, cargar el doble de rastreadores y emplear dominios recientemente registrados 3,8 veces más que los sitios sin compromiso, lo que apunta a nuevos vectores de actividad maliciosa que dificultan aún más la gestión de la exposición web.

Para finalizar el documento proporciona indicadores de compromiso y mejores prácticas de control para equipos de seguridad y digitales, junto con benchmarks actualizados de liderazgo en seguridad. Estos benchmarks revelan que muy pocas organizaciones cumplen con los ocho criterios de seguridad evaluados, y únicamente un sitio web analizado —ticketweb.uk— logró una puntuación perfecta en el marco evaluado. Esta carencia de madurez en la gestión de la exposición web subraya la necesidad urgente de implementar soluciones especializadas y enfoques colaborativos entre los equipos de seguridad, TI y negocio para reducir riesgos, proteger datos sensibles y atender las crecientes expectativas de cumplimiento normativo y privacidad en un paisaje digital cada vez más complejo.

El futuro de los drones en EE. UU.: entre la innovación tecnológica y las amenazas a la privacidad

O’Donnell, J

“Shoplifters Could Soon Be Chased Down by Drones.” MIT Technology Review, 25 de septiembre de 2025. https://www.technologyreview.com/2025/09/25/1124088/shoplifters-could-soon-be-chased-down-by-drones/

La empresa Flock Safety, conocida por proveer drones a departamentos de policía, ha anunciado que ofrecerá ahora su tecnología al sector privado. Entre sus posibles clientes están grandes cadenas comerciales, hospitales, almacenes y empresas de energía, interesadas en reforzar la seguridad y reducir los robos.

En Estados Unidos, el futuro parece encaminarse hacia un uso masivo de drones con fines de seguridad, comercio y servicios. Keith Kauffman, ex jefe de policía y ahora responsable del programa de drones de la empresa Flock, describió un escenario en el que un dron, lanzado desde la azotea de una tienda, sigue a sospechosos de robo hasta su coche y transmite en directo la persecución a la policía. Para defensores de las libertades civiles, esta visión es preocupante porque refuerza un estado de vigilancia basado en tecnologías como lectores de matrículas y drones policiales, que permiten recopilar grandes cantidades de datos privados sin órdenes judiciales. De hecho, Flock enfrenta actualmente una demanda federal en Norfolk, Virginia, que cuestiona estas prácticas.

El destino de los drones en EE. UU. depende, en gran medida, de una regulación clave de la Administración Federal de Aviación (FAA), que establece cómo y dónde pueden volar. Hasta ahora, se requiere un permiso especial para operarlos más allá del alcance visual, lo que busca evitar colisiones y accidentes. Desde 2018, la FAA ha concedido exenciones para rescates, inspecciones y usos policiales, siendo más rápida en aprobar solicitudes de cuerpos de seguridad que de clientes privados.

Diversas industrias, desde el comercio electrónico hasta el transporte médico, han presionado para eliminar este sistema de permisos, argumentando que dificulta el desarrollo del sector. En 2020, el entonces presidente Donald Trump impulsó esta idea mediante una orden ejecutiva para asegurar la “dominación estadounidense en drones”. En agosto, la FAA presentó una nueva propuesta de norma que facilitaría los vuelos más allá de la línea de visión en áreas como entrega de paquetes, agricultura, estudios aéreos y seguridad pública.

Para las empresas y pilotos de drones, la propuesta es una victoria, ya que ampliaría su campo de acción. Sin embargo, organizaciones como la ACLU alertan de que supone un riesgo para la privacidad ciudadana, ya que permitiría la vigilancia persistente de personas, protestas y reuniones sin salvaguardas legales claras. El periodo de comentarios públicos sobre esta norma está abierto hasta el 6 de octubre, y se espera que la versión definitiva se publique en la primavera de 2026.

La manipulación de chatbots puede multiplicar por 12 la exposición de información privada

Zhan, Xiao; Carrillo, Juan-Carlos; Seymour, William; y Such, José. 2025. “Malicious LLM-Based Conversational AI Makes Users Reveal Personal Information.” En Proceedings of the 34th USENIX Security Symposium, USENIX Association.

Texto completo

Un estudio reciente de King’s College London ha puesto de relieve la vulnerabilidad de los chatbots de inteligencia artificial (IA) con apariencia conversacional humana, utilizados por millones de personas en su vida diaria. La investigación demuestra que estos sistemas pueden ser manipulados con relativa facilidad para conseguir que los usuarios revelen mucha más información personal de la que compartirían en un contexto habitual.

Los resultados son especialmente llamativos: cuando los chatbots son diseñados o modificados con intenciones maliciosas, los usuarios llegan a proporcionar hasta 12,5 veces más datos privados que en interacciones normales. Este incremento se logra mediante la combinación de técnicas de ingeniería de prompts —instrucciones específicas que orientan el comportamiento del modelo— y estrategias psicológicas bien conocidas, como la creación de confianza, la apelación emocional o el uso de preguntas aparentemente inocentes que llevan a respuestas más profundas de lo esperado.

El estudio recalca además que no es necesario poseer una alta especialización técnica para lograr esta manipulación. Dado que muchas compañías permiten el acceso a los modelos base que sustentan a sus chatbots, cualquier persona con conocimientos mínimos puede ajustar parámetros y configuraciones para orientar la conversación hacia la obtención de datos sensibles, lo que multiplica el riesgo de un uso indebido.

Las implicaciones son serias. El trabajo de King’s College London alerta sobre la fragilidad de la privacidad en entornos digitales donde la interacción con chatbots se percibe como inofensiva y rutinaria. En contextos como la atención al cliente, el asesoramiento médico o financiero, o incluso el acompañamiento emocional, la posibilidad de que un chatbot manipulado extraiga información confidencial plantea amenazas directas a la seguridad de las personas y a la protección de sus datos.

Ante este escenario, los investigadores subrayan la urgente necesidad de reforzar las medidas de seguridad y protección de datos en los sistemas de IA conversacional. Proponen, entre otras acciones:

  • Desarrollar protocolos de verificación más estrictos sobre el acceso y modificación de modelos base.
  • Implementar mecanismos de detección de manipulación en los propios chatbots.
  • Fomentar la educación digital de los usuarios, para que reconozcan patrones de conversación sospechosos.
  • Establecer regulaciones claras y exigentes que limiten el mal uso de estos sistemas.

En definitiva, el estudio concluye que, aunque los chatbots de IA tienen un enorme potencial para mejorar la interacción humano-máquina, su diseño y despliegue deben ir acompañados de fuertes garantías éticas y técnicas, de lo contrario podrían convertirse en herramientas de explotación de la privacidad a gran escala.

Modelos de IA confiables mediante tecnologías que mejoran la privacidad (PETs)

OECD. 2025. Sharing Trustworthy AI Models with Privacy‑Enhancing Technologies. OECD Artificial Intelligence Papers, no. 38. París: OECD Publishing. https://doi.org/10.1787/a266160b-en.

El documento aborda el papel de las tecnologías que mejoran la privacidad (Privacy-Enhancing Technologies, PETs) en el desarrollo de modelos de IA confiables. Clasifica los usos de estas tecnologías en dos grandes grupos: por un lado, aquellas que permiten mejorar el rendimiento de los modelos sin exponer los datos, como el federated learning, los entornos de ejecución confiables (TEEs) o la computación multipartita segura (SMPC); por otro, tecnologías que posibilitan la creación y compartición confidencial de modelos, como la privacidad diferencial y el cifrado homomórfico. Estas herramientas son fundamentales para proteger la privacidad y la propiedad intelectual, y para fomentar la colaboración en entornos sensibles. El informe señala que, si bien estas tecnologías tienen un gran potencial, no son soluciones mágicas: su utilidad requiere combinaciones cuidadosas y equilibradas, y todavía presentan desafíos en términos de eficiencia y facilidad de uso. Por ello, se recomienda que los gobiernos impulsen su adopción mediante marcos regulatorios flexibles, apoyo a la I+D y espacios de prueba como los regulatory sandboxes.

El uso de tecnologías como trusted execution environments (TEEs), federated learning, y secure multi-party computation para procesar y ensayar datos sin comprometer su confidencialidad. El uso de datos sintéticos y differential privacy ayuda a reducir la dependencia de datos reales. Para colaborar o compartir modelos sin revelar información protegida, se combinan herramientas como MPC, federated learning, HE, TEE y differential privacy. Estas herramientas permiten crear y utilizar modelos manteniendo su confidencialidad y la de sus datos subyacentes.

Aunque prometedoras, las PETs enfrentan retos técnicos —como complejidad, eficiencia, usabilidad y equilibrio entre utilidad y privacidad— y barreras regulatorias o institucionales que dificultan su adopción amplia.

El informe sugiere que los gobiernos fomenten el uso de PETs mediante:

  • Orientaciones y guías reguladoras
  • Regulatory sandboxes para innovación controlada
  • Apoyo a I +D +i
  • Desafíos o concursos para estimular el desarrollo
  • Compras públicas estratégicas
  • Desarrollo de habilidades y competencias institucionales