WHITE PAPER
On Artificial Intelligence – A European approach to excellence and trust

Brussels, 19.2.2020
COM(2020) 65 final

Texto completo

La Comisión Europea está considerando la posibilidad de prohibir temporalmente el uso de las tecnologías de reconocimiento facial en las zonas públicas por un período de hasta cinco años. Una prohibición temporal daría a los reguladores el tiempo que necesitan para averiguar cómo evitar que el reconocimiento facial sea objeto de abusos tanto por parte de los gobiernos como de las empresas. Sin embargo, podrían hacerse excepciones a la prohibición para los proyectos de seguridad, así como para la investigación y el desarrollo.

La Inteligencia Artificial se está desarrollando rápidamente. Cambiará nuestras vidas mejorando la asistencia sanitaria (por ejemplo, haciendo diagnóstico más preciso, permitiendo una mejor prevención de las enfermedades), aumentando la eficiencia de la agricultura, contribuyendo a la mitigación del cambio climático y a la adaptación al mismo, mejorando la eficiencia de los sistemas de producción mediante el mantenimiento predictivo, aumentando la seguridad de los europeos, y de muchas otras formas que sólo podemos empezar a imaginar. Al mismo tiempo, la Inteligencia Artificial (IA) conlleva una serie de riesgos potenciales, como la toma de decisiones opaca, la discriminación por motivos de género u otros tipos de discriminación, la intrusión en nuestras vidas privadas o el ser utilizada con fines delictivos.

En el libro blanco se propone imponer obligaciones tanto a los desarrolladores como a los usuarios del reconocimiento facial, al tiempo que se pide a los países de la Unión Europea que creen una autoridad para vigilar las nuevas normas que rodean a esta controvertida tecnología.

Ciertos programas de IA para el análisis facial muestran sesgos de género y raciales, demostrando bajos errores en la determinación del género de los hombres de piel clara pero altos errores en la determinación del género de las mujeres de piel más oscura. Fuente: Joy Buolamwini, Timnit Gebru; Proceedings of the 1st Conference on Fairness, Accountability and Transparency, PMLR 81:77-91, 2018.

La identificación biométrica a distancia debe distinguirse de la autenticación biométrica (esta última es un proceso de seguridad que se basa en las características biológicas únicas de un individuo para verificar que es quien dice ser). La identificación biométrica es cuando se establecen las identidades de múltiples personas con la ayuda de identificadores biométricos (huellas dactilares, imagen facial, iris, patrones vasculares, etc.) a distancia, en un espacio público y en un continuo o de manera que se cotejen con los datos almacenados en una base de datos.

La reunión y utilización de datos biométricos con fines de identificación a distancia, por ejemplo, mediante el despliegue del reconocimiento facial en lugares públicos, entraña riesgos específicos para los derechos fundamentales. En relación con ello, los derechos al respeto de la vida privada y a la protección de los datos personales están en el núcleo de las preocupaciones de derechos fundamentales cuando se utiliza la tecnología de reconocimiento facial. También hay un posible impacto en la no discriminación y los derechos de grupos especiales, como los niños, las personas de edad y las personas con discapacidad. Además, La libertad de expresión, asociación y reunión no debe ser socavada por el uso de la tecnología. Ver: Tecnología facial de de reconocimiento: consideraciones sobre los derechos fundamentales en el contexto de la aplicación de la ley,