«Una vez los hombres entregaron su pensamiento a las máquinas con la esperanza de que esto les liberaría. Pero eso sólo permitió que otros hombres con máquinas los esclavizaran».
Frank Herbert, Dune
Frank Herbert, autor de Dune, ofrece en su obra una advertencia que trasciende los tópicos habituales de la ciencia ficción sobre inteligencia artificial. En lugar de imaginar máquinas autoconscientes que se rebelan contra la humanidad —como ocurre en Terminator o con HAL 9000 en 2001: Odisea del espacio—, Herbert sitúa el verdadero peligro no en la IA en sí, sino en los seres humanos que la crean y la controlan. En una frase clave que aparece en la Biblia Católica Naranja, Paul Atreides recuerda: «Hubo un tiempo en que los hombres entregaron su pensamiento a las máquinas con la esperanza de que eso los liberara. Pero eso solo permitió que otros hombres, con máquinas, los esclavizaran.» (Dune, pág. 14). Esta línea condensa una advertencia profundamente política, filosófica y atemporal.
Herbert denuncia el acto de renunciar al pensamiento propio, de delegar en sistemas automáticos lo que debería seguir siendo responsabilidad humana: el juicio, la reflexión y la toma de decisiones. El problema, según él, no es que las máquinas adquieran conciencia o se vuelvan más inteligentes que nosotros, sino que permitimos que nos reemplacen en funciones esenciales para nuestra autonomía. En ese sentido, Dune no plantea un problema de control técnico de la IA, sino un dilema existencial y ético: al dejar de pensar por nosotros mismos, quedamos a merced de quienes programan, gestionan o se benefician de esos sistemas.
Esta crítica se hace visible en el universo de Dune a través de su solución radical: después de una guerra apocalíptica contra las máquinas pensantes (la Yihad Butleriana), la humanidad renuncia por completo al desarrollo de inteligencias artificiales. En su lugar, decide potenciar al máximo las capacidades humanas, dando lugar a figuras como los Mentats (calculadores lógicos), las Bene Gesserit (entrenadas en el autocontrol y la manipulación mental) y los Navegantes de la Cofradía (capaces de prever rutas del espacio-tiempo). Todo esto responde a una visión en la que la evolución humana debe basarse en la interioridad, no en la externalización tecnológica.
Mientras otros autores de ciencia ficción, como Isaac Asimov, proponían leyes para controlar a los robots, o mostraban futuros donde la IA se descontrola, Herbert plantea que la verdadera esclavitud surge cuando dejamos que otros piensen por nosotros, aunque sea a través de máquinas muy eficientes. Su mensaje sigue teniendo una vigencia asombrosa: en plena era de algoritmos que condicionan nuestras elecciones, desde lo que compramos hasta lo que votamos, el peligro no está en la inteligencia de la IA, sino en la pasividad de los usuarios y en el poder acumulado por quienes la manejan.
Lejos de ser un tecnófobo, Herbert fue un visionario que supo ver que el mayor riesgo no es la rebelión de las máquinas, sino la rendición del pensamiento humano. Su obra es una llamada a no entregar nuestras decisiones más importantes —ni nuestra libertad— a sistemas que prometen eficiencia a costa de autonomía. En ese sentido, Dune ofrece una advertencia más relevante que nunca en la era de la inteligencia artificial.
Universo Abierto 