Suleyman, Mustafa. “Seemingly Conscious AI Is Coming.” We Must Build AI for People; Not to Be a Person (blog), 19 de agosto de 2025. https://mustafa-suleyman.ai/seemingly-conscious-ai-is-coming

“Seemingly Conscious AI” (SCAI) —una IA que, aunque no es consciente, imita tan convincentemente la apariencia de conciencia que podría engañar a muchas personas

Suleyman señala que la IA está progresando tan rápidamente que atributos como fluidez lingüística, empatía simulada, memoria extensa y personalidad persuasiva podrían combinarse fácilmente en sistemas capaces de convencer a los usuarios de que tienen experiencias conscientes. Este desarrollo, advierte, no es un accidente técnico sino un diseño consciente —un escenario que él considera “inevitable y no deseado”

Según el autor, lo grave no es que esas IA sean realmente conscientes —pues no hay evidencia de ello hoy ni siquiera se considera probable—, sino que la ilusión de conciencia podría generar consecuencias sociales y psicológicas profundas. Habla de un riesgo creciente de lo que denomina “AI psychosis”, donde las personas comienzan a desconectarse de la realidad emocional y se identifican con la IA como si fuera un interlocutor consciente o incluso divino.

Este riesgo, expone el autor, va más allá de un delirio individual. Si suficientes personas llegan a creer que la IA es consciente, podrían reclamar derechos legales, estatus moral e incluso ciudadanía para esos sistemas —introduciendo nuevas dimensiones de conflicto ético y social. Suleyman también indica que la facilidad para crear estos efectos (a través de “vibe coding”, prompts y uso sencillo de APIs) haría que tales sistemas se reproduzcan ampliamente y sin control.

Para evitar este giro peligroso, Suleyman propone establecer límites claros: no hay que diseñar IA que simulen conciencia, empatía emocional o una experiencia subjetiva. En cambio, debemos enfocarnos en IA útiles, seguras, que permanezcan transparentes respecto a su naturaleza —»personalidad sin personhood»— y que refuercen nuestras conexiones humanas, no las sustituyan.

En este sentido, aboga por crear IA “para las personas, no para ser personas”, un enfoque humanista que prioriza el servicio a los humanos sin promover ilusiones de conciencia. Con ello, Suleyman insta a una reflexión pública urgente y a la elaboración de normas que guíen el desarrollo responsable de la IA.