Archivo de la etiqueta: Reconocimiento facial

La Unión Europea ha prohibido el reconocimiento facial: libro blanco europeo sobre Inteligencia Artificial (IA)

72b0f32797dd441c89b1396bba9ac524_18

WHITE PAPER
On Artificial Intelligence – A European approach to excellence and trust

Brussels, 19.2.2020
COM(2020) 65 final

Texto completo

 

La Comisión Europea está considerando la posibilidad de prohibir temporalmente el uso de las tecnologías de reconocimiento facial en las zonas públicas por un período de hasta cinco años. Una prohibición temporal daría a los reguladores el tiempo que necesitan para averiguar cómo evitar que el reconocimiento facial sea objeto de abusos tanto por parte de los gobiernos como de las empresas. Sin embargo, podrían hacerse excepciones a la prohibición para los proyectos de seguridad, así como para la investigación y el desarrollo.

La Inteligencia Artificial se está desarrollando rápidamente. Cambiará nuestras vidas mejorando la asistencia sanitaria (por ejemplo, haciendo diagnóstico más preciso, permitiendo una mejor prevención de las enfermedades), aumentando la eficiencia de la agricultura, contribuyendo a la mitigación del cambio climático y a la adaptación al mismo, mejorando la eficiencia de los sistemas de producción mediante el mantenimiento predictivo, aumentando la seguridad de los europeos, y de muchas otras formas que sólo podemos empezar a imaginar. Al mismo tiempo, la Inteligencia Artificial (IA) conlleva una serie de riesgos potenciales, como la toma de decisiones opaca, la discriminación por motivos de género u otros tipos de discriminación, la intrusión en nuestras vidas privadas o el ser utilizada con fines delictivos.

En el libro blanco se propone imponer obligaciones tanto a los desarrolladores como a los usuarios del reconocimiento facial, al tiempo que se pide a los países de la Unión Europea que creen una autoridad para vigilar las nuevas normas que rodean a esta controvertida tecnología.

Ciertos programas de IA para el análisis facial muestran sesgos de género y raciales, demostrando bajos errores en la determinación del género de los hombres de piel clara pero altos errores en la determinación del género de las mujeres de piel más oscura. Fuente: Joy Buolamwini, Timnit Gebru; Proceedings of the 1st Conference on Fairness, Accountability and Transparency, PMLR 81:77-91, 2018.

La identificación biométrica a distancia debe distinguirse de la autenticación biométrica (esta última es un proceso de seguridad que se basa en las características biológicas únicas de un individuo para verificar que es quien dice ser). La identificación biométrica es cuando se establecen las identidades de múltiples personas con la ayuda de identificadores biométricos (huellas dactilares, imagen facial, iris, patrones vasculares, etc.) a distancia, en un espacio público y en un continuo o de manera que se cotejen con los datos almacenados en una base de datos.

La reunión y utilización de datos biométricos con fines de identificación a distancia, por ejemplo, mediante el despliegue del reconocimiento facial en lugares públicos, entraña riesgos específicos para los derechos fundamentales. En relación con ello, los derechos al respeto de la vida privada y a la protección de los datos personales están en el núcleo de las preocupaciones de derechos fundamentales cuando se utiliza la tecnología de reconocimiento facial. También hay un posible impacto en la no discriminación y los derechos de grupos especiales, como los niños, las personas de edad y las personas con discapacidad. Además, La libertad de expresión, asociación y reunión no debe ser socavada por el uso de la tecnología. Ver: Tecnología facial de de reconocimiento: consideraciones sobre los derechos fundamentales en el contexto de la aplicación de la ley,

 

 

Reconocimiento facial y privacidad: el gran hermano ya es una realidad

 

36ec4e57244fb0ce9bf3d8c2bcdb4359b61cd92b

 

La tecnología de reconocimiento facial puede utilizarse para un sinfín de propósitos, como identificar a un usuario de un teléfono inteligente para desbloquear su teléfono, agilizar el proceso de registro en un hotel e incluso para permitir a un cliente probar virtualmente un maquillaje. Pero, también tiene usos evidentes de vigilancia y de aplicación de la ley, lo que está generando una preocupación por las repercusiones sobre el derecho a la privacidad y la intimidad de las personas. 

 

Los sistemas de reconocimiento facial son una aplicaciones dirigidas por ordenador que identifican automáticamente a una persona en una imagen digital. Esto es posible mediante un análisis de las características faciales del sujeto extraídas de la imagen o de un fotograma clave de una fuente de vídeo, y comparándolas con una base de datos. Es innegable que el reconocimiento facial, la aplicación biométrica utilizada para identificar o verificar la identidad de una persona, está cada vez más presente en muchos aspectos de la vida cotidiana. Se utiliza para ‘etiquetar’ a las personas en las plataformas de redes sociales y para desbloquear teléfonos inteligentes.

Pero cada vez más ayuntamientos, empresas  y hogares están empezando a conectar sus cámaras a las redes de la policía, y los rápidos avances en la inteligencia artificial junto con la disponibilidad de cada vez más datos personales hacen posible una vigilancia pública total. El anuncio del uso del reconocimiento facial en las investigaciones policiales ha generado preocupación, ya que los defensores de las libertades civiles y la privacidad temen que la tecnología pueda ser utilizada para la vigilancia masiva y discriminatoria, violando los derechos de las personas a la privacidad de los datos. San Francisco y Oakland, California, Brookline, Cambridge,y Massachusetts, han prohibido el uso de la tecnología de reconocimiento facial por parte de los organismos municipales. El ayuntamiento de Portland (Oregón) ha propuesto ir un paso más allá, prohibiendo el uso de la tecnología tanto en el sector público como en el privado en la medida en que la tecnología se utilice o pueda utilizarse con fines de seguridad.

La ley de Texas, al igual que la de Illinois, exige que las personas o empresas que recopilan datos biométricos informen a los individuos antes de capturar el identificador biométrico y que reciban el consentimiento del individuo. Pero a diferencia de la ley de Illinois, la ley de privacidad biométrica de Texas no requiere una autorización por escrito. La ley de Texas, al igual que la de Illinois, sí prohíbe la venta de información biométrica, y también establece restricciones sobre la forma en que se almacena esa información.

Esta semana se ha sabido que Facebook pagará 550 millones de dólares para resolver una demanda colectiva en la que los usuarios acusaron al gigante de las redes sociales de usar software de reconocimiento facial de una manera que los clientes no habían autorizado, lo que marcó una victoria para los defensores de la privacidad de los EE. UU. Que han utilizado las leyes estatales para frenar la recopilación de datos.

Ante la ausencia general de una regulación específica hasta el momento, las empresas privadas y los organismos públicos, tanto en las democracias como en los estados autoritarios, han estado adoptando esta tecnología para una variedad de usos. No existe consenso en la sociedad sobre la ética del reconocimiento facial, y las dudas sobre su cumplimiento de la ley y su sostenibilidad ética a largo plazo son cada vez mayores.

Aunque, según el último borrador de la estrategia de Inteligencia Artificial de la UE según Reuters y EURACTIV, la Unión Europea ya no está interesada en introducir una prohibición del reconocimiento facial en espacios públicos, sin embargo, debería haber “criterios claros” en el futuro despliegue masivo de biométricos sistemas de identificación en la UE.  El documento señala que la falta de información sobre el uso de los sistemas de identificación biométrica prohíbe a la Comisión hacer un amplio análisis de las implicaciones de esta tecnología, que analiza las características físicas de una persona con fines computacionales.

Sin embargo, EURACTIV establece que: “Esta evaluación dependerá del propósito para el que se utilice la tecnología y de las salvaguardas establecidas para proteger a las personas. En caso de que se usen datos biométricos para la vigilancia masiva, debe haber criterios claros sobre qué individuos deben identificarse “.