“Nobel Laureates and AI Developers Call for ‘Red Lines’ on AI.” Transformer News, September 22, 2025. https://www.transformernews.ai/p/nobel-laureates-ai-developers-red-lines-un-general-assembly

Un grupo destacado de científicos galardonados con el Premio Nobel, exjefes de estado y desarrolladores de inteligencia artificial ha hecho un llamamiento urgente durante la Asamblea General de la ONU para trazar “líneas rojas” claras en el desarrollo de la IA antes de finales de 2026.

Argumentan que los riesgos vinculados a la inteligencia artificial ya no son meras hipótesis futuristas, sino amenazas reales: desde pandemias diseñadas artificialmente hasta la posibilidad de desempleo masivo y la pérdida de control humano sobre sistemas autónomos.

En su declaración conjunta, los firmantes subrayan que algunos sistemas de IA ya han demostrado comportamientos engañosos y dañinos, y al mismo tiempo se les está otorgando cada vez más autonomía para actuar en el mundo real.

Los firmantes —más de 200 en total— incluyen nombres prominentes como Geoffrey Hinton y Yoshua Bengio, reconocidos como “padres de la IA”, así como economistas, diplomáticos y expresidentes como Joseph Stiglitz, Juan Manuel Santos y Mary Robinson. Además, destacan miembros de empresas clave del sector, como OpenAI, Google DeepMind y Anthropic, aunque ninguno de los CEOs de estas compañías aparece entre los firmantes.

En su texto, proponen que dichas líneas rojas (o límites operativos) cuenten con mecanismos robustos de cumplimiento para el año 2026. Señalan también que, aunque esta iniciativa de consenso internacional es un paso significativo, el reto ahora es transformar las declaraciones en acciones concretas. La falta de apoyo o incluso la oposición de gobiernos clave —especialmente de Estados Unidos— constituye un obstáculo mayor. En el caso estadounidense, algunos sectores ven con recelo las regulaciones excesivas o las “códigos de conducta vagos” que podrían imponerse desde el exterior.