O’Donnell, James. «We Need to Start Wrestling with the Ethics of AI Agents.» MIT Technology Review, November 26, 2024. https://www.technologyreview.com/2024/11/26/1107309/we-need-to-start-wrestling-with-the-ethics-of-ai-agents/.

Se analiza los retos éticos de las plataformas de IA, capaces de realizar tareas complejas y simular comportamientos humanos con precisión. Estas tecnologías plantean preocupaciones sobre la privacidad, los deepfakes y la transparencia en las interacciones con usuarios. Abordar estas cuestiones es clave antes de su adopción masiva.

Actualmente, las plataformas de IA se dividen en dos tipos principales: las plataformas basadas en herramientas, que ejecutan tareas digitales específicas como rellenar formularios o buscar información, y las plataformas de simulación, capaces de imitar personalidades humanas con notable precisión. Estas últimas surgieron inicialmente en investigaciones sociales para realizar estudios difíciles o poco éticos con participantes reales.

El desarrollo reciente de estas plataformas ha alcanzado niveles impresionantes, como lo demuestra un estudio de 2024 donde se crearon simulaciones precisas de las preferencias y valoraciones de mil personas tras entrevistas de dos horas. Esta convergencia entre ambos tipos de plataformas plantea escenarios en los que la IA no solo puede imitar la personalidad de un individuo, sino también actuar en su nombre. Empresas como Tavus ya trabajan en «gemelos digitales» que podrían desempeñar roles como terapeutas, médicos o profesores.

Sin embargo, este avance trae consigo preocupaciones éticas. Por un lado, la facilidad para replicar voces, comportamientos y personalidades podría agravar problemas como los deepfakes dañinos o el uso no consensuado de datos personales. Por otro lado, surge la pregunta de si las personas tienen derecho a saber si están interactuando con una IA o con un ser humano. Estas cuestiones son especialmente relevantes en contextos como el servicio al cliente, donde los límites entre humanos y máquinas se difuminan.

El autor subraya que, aunque esta tecnología aún está en desarrollo, no está tan lejos como podría parecer. Es crucial abordar estos dilemas éticos de manera anticipada, dado que las implicaciones sociales y personales podrían ser profundas y disruptivas.