Pautas éticas para una Inteligencia Artificial Confiable

2019-04-08_16-35-21

Ethics Guidelines For Trustworthy Artificial Intelligence. European Commission, 2019

Texto completo

Tras la publicación del proyecto de directrices éticas en diciembre de 2018, en el que se recibieron más de 500 comentarios, el grupo de expertos independientes presentó estas directrices éticas para una inteligencia artificial fiable.

Una IA fiable debe respetar todas las leyes y reglamentos aplicables, así como una serie de requisitos; las listas de evaluación específicas tienen por objeto ayudar a verificar la aplicación de cada uno de los requisitos clave:

  • Agencia y supervisión humana: Los sistemas de IA deben permitir sociedades equitativas al apoyar la agencia humana y los derechos fundamentales, y no disminuir, limitar o mal orientar la autonomía humana.
  • Robustez y seguridad: La IA confiable requiere que los algoritmos sean lo suficientemente seguros, confiables y robustos para manejar errores o inconsistencias durante todas las fases del ciclo de vida de los sistemas de IA.
  • Privacidad y gobierno de datos: Los ciudadanos deben tener pleno control sobre sus propios datos, mientras que los datos que les conciernen no se utilizarán para perjudicarlos o discriminarlos.
  • Transparencia: Debe garantizarse la trazabilidad de los sistemas de IA.
  • Diversidad, no discriminación y equidad: Los sistemas de IA deben tener en cuenta toda la gama de capacidades, habilidades y requisitos humanos y garantizar la accesibilidad.
  • Bienestar social y ambiental: Los sistemas de IA deben ser utilizados para mejorar el cambio social positivo y aumentar la sostenibilidad y la responsabilidad ecológica.
  • Rendición de cuentas: Se deben establecer mecanismos para garantizar la responsabilidad y la rendición de cuentas de los sistemas de inteligencia artificial y sus resultados.
  • En el verano de 2019, la Comisión pondrá en marcha una fase piloto en la que participará una amplia gama de partes interesadas. Ya hoy en día, las empresas, las administraciones públicas y las organizaciones pueden adherirse a la Alianza Europea de AI y recibir una notificación cuando se inicie el proyecto piloto.