NTEN – Artificial Intelligence Framework for an Equitable World. Publicado el 19 de agosto de 2024. Desarrollado por NTEN en colaboración con Institute for the Future (IFTF)

El informe Artificial Intelligence Framework for an Equitable World surge de un proceso colaborativo impulsado por NTEN y el Institute for the Future con la participación de organizaciones sin ánimo de lucro, fundaciones, empresas tecnológicas y especialistas en ética digital. Su propósito es ofrecer una guía práctica para evaluar, diseñar e implementar sistemas de inteligencia artificial desde una perspectiva de equidad, transparencia y responsabilidad social.

El documento parte de una idea fundamental: la inteligencia artificial no es neutral. Los efectos positivos o negativos de estas tecnologías dependen de cómo se diseñan, quién participa en su desarrollo y de qué manera se aplican en contextos reales. Por ello, cualquier organización que utilice o desarrolle IA tiene la responsabilidad de comprender sus posibles impactos, identificar riesgos y asumir la rendición de cuentas por sus decisiones.

El marco se estructura en torno a tres dimensiones interrelacionadas: Assessment (Evaluación), Impact (Impacto) e Intervention (Intervención). La dimensión de evaluación analiza los datos de entrada, los resultados esperados y los mecanismos de responsabilidad. La dimensión de impacto examina las consecuencias de la IA sobre individuos, organizaciones y sistemas sociales más amplios. Finalmente, la dimensión de intervención se centra en las decisiones de diseño, desarrollo y despliegue de las tecnologías, considerando quién participa en ellas y qué valores se incorporan al proceso.

Uno de los aspectos más relevantes del modelo es que promueve una reflexión continua durante todo el ciclo de vida de los proyectos de IA. En lugar de limitarse a una evaluación técnica, plantea preguntas sobre justicia, inclusión, representación de comunidades afectadas, gobernanza de los datos y posibles efectos no deseados. El objetivo es ayudar a las organizaciones a anticipar problemas y a tomar decisiones alineadas con sus valores y misiones institucionales.

El marco está especialmente orientado al sector social y a las organizaciones sin ánimo de lucro, aunque sus principios pueden aplicarse a cualquier ámbito. Los autores sostienen que una adopción responsable de la inteligencia artificial requiere participación comunitaria, transparencia en la toma de decisiones y una atención constante a las desigualdades que la tecnología puede amplificar o mitigar. En este sentido, la equidad no se considera un resultado final, sino un criterio que debe estar presente en todas las fases del proyecto.

Como complemento al marco, NTEN ha desarrollado recursos adicionales, entre ellos plantillas de políticas de uso de IA, guías para la evaluación de proveedores, hojas de trabajo para la planificación de proyectos y materiales formativos destinados a fortalecer la gobernanza ética de la inteligencia artificial en las organizaciones.

Idea central: el documento propone que la cuestión clave no es únicamente qué puede hacer la inteligencia artificial, sino cómo puede desarrollarse y utilizarse de manera que contribuya a construir una sociedad más justa, inclusiva y responsable