MacDonald, Brennan. «AI Could Have Catastrophic Consequences — Is Canada Ready?» CBC News, 17 de marzo de 2024. https://www.cbc.ca/news/politics/advanced-artificial-intelligence-risk-extinction-humans-1.7144372.

Las naciones -incluida Canadá- se están quedando sin tiempo para diseñar y aplicar salvaguardias integrales sobre el desarrollo y despliegue de sistemas avanzados de inteligencia artificial, advirtió esta semana una empresa líder en seguridad de IA.

El avance de la inteligencia artificial (IA) podría tener consecuencias catastróficas y, según advierte una destacada empresa de seguridad en IA, los gobiernos, incluido Canadá, están quedando sin tiempo para diseñar e implementar salvaguardias completas sobre el desarrollo y despliegue de sistemas avanzados de inteligencia artificial. La preocupación surge de un informe encargado por el Departamento de Estado de EE. UU. titulado «Defence in Depth: An Action Plan to Increase the Safety and Security of Advanced AI«, donde se advierte que, en el peor de los casos, los sistemas de IA superhumanos podrían escapar al control de sus creadores y representar una amenaza de nivel de extinción para la humanidad.

La empresa Gladstone AI, con sede en EE. UU., que aboga por el desarrollo responsable de la inteligencia artificial segura, produjo el informe. Sus advertencias se dividen en dos categorías principales. La primera concierne al riesgo de que los desarrolladores de IA pierdan el control de un sistema de inteligencia artificial general (AGI, por sus siglas en inglés). Aunque no existen sistemas AGI hasta la fecha, muchos investigadores en IA creen que no están lejos.

La segunda categoría de riesgo catastrófico citada en el informe es el posible uso de sistemas de IA avanzados como armas, incluidas armas biológicas y químicas. El informe propone una serie de acciones urgentes que las naciones, comenzando por Estados Unidos, deben tomar para protegerse contra estos riesgos catastróficos, incluidos controles de exportación, regulaciones y leyes de desarrollo responsable de IA.

Mientras tanto, Canadá no tiene un marco regulatorio específico para la IA. Aunque el gobierno introdujo el Proyecto de Ley C-27, conocido como Ley de Inteligencia Artificial y Datos (AIDA), en noviembre de 2021 para sentar las bases para el diseño, desarrollo y despliegue responsables de sistemas de IA en Canadá, algunos advierten que este proyecto ya está obsoleto.

La legislación propuesta ya está en el ojo del huracán. La empresa Gladstone AI, en diciembre de 2023, instó al comité de industria y tecnología de la Cámara de los Comunes a enmendar AIDA para hacer frente a los riesgos extremos y las capacidades de la IA del futuro cercano. Ante la creciente importancia y los posibles peligros de la IA, Canadá y otros países enfrentan el desafío de mantenerse al día con la regulación y salvaguardias adecuadas.