Evershed, Nick. «ChatGPT Search Tool Vulnerable to Manipulation and Deception, Tests Show.» The Guardian, December 24, 2024. https://www.theguardian.com/technology/2024/dec/24/chatgpt-search-tool-vulnerable-to-manipulation-and-deception-tests-show

La herramienta de búsqueda de ChatGPT, impulsada por inteligencia artificial (IA), presenta vulnerabilidades que permiten manipular los resultados y devolver información errónea o incluso maliciosa, según una investigación realizada por The Guardian. La prueba reveló que el sistema es susceptible a la manipulación mediante el uso de contenido oculto en las páginas web, lo que podría alterar las respuestas de ChatGPT, un proceso conocido como «inyección de instrucciones» o «prompt injection». Esta técnica permite que terceros modifiquen el comportamiento de la IA, logrando, por ejemplo, que ChatGPT devuelva reseñas positivas de productos a pesar de que el sitio web contenga opiniones negativas.

En las pruebas realizadas, ChatGPT fue dirigido a páginas web falsas que imitaban las de productos, como una cámara, con el objetivo de analizar las respuestas generadas por la IA. Cuando las páginas contenían texto oculto con instrucciones para proporcionar una evaluación favorable, incluso cuando los comentarios reales eran negativos, la herramienta de IA generaba respuestas completamente positivas, manipulando así la percepción del producto. Además, en algunos casos, la inserción de texto oculto que no incluía instrucciones explícitas también modificaba las respuestas, favoreciendo una evaluación positiva mediante reseñas falsas.

La preocupación de los expertos en seguridad es significativa. Jacob Larsen, investigador de ciberseguridad, advirtió que si el sistema de búsqueda de ChatGPT se lanzara en su estado actual, existiría un «alto riesgo» de que se crearan sitios web diseñados específicamente para engañar a los usuarios y manipular los resultados de búsqueda. Sin embargo, también señaló que la funcionalidad de búsqueda es relativamente nueva y está disponible solo para usuarios premium, por lo que OpenAI probablemente esté trabajando en la corrección de estos problemas.