updated, Jeff Parsons last. «ChatGPT Could Be Forced to Show Its Sources Thanks to New AI Regulation Bill». Tom’s Guide, 28 de abril de 2023. https://www.tomsguide.com/news/new-ai-regulation-could-mean-a-big-change-for-chatgpt.

The Artificial Intelligence Act

Una de las primeras cosas de la que te das cuenta mientras pruebas ChatGPT es que las fuentes y citas utilizadas por el chatbot de IA no aparecen a menos que se le pidas

Se trata de un problema generalizado en el sector de la inteligencia artificial que ha provocado la ira tanto de editoriales como de profesionales creativos. La mayoría estamos de acuerdo en que es importante proporcionar información precisa y dar crédito a quienes la han creado.

En la actualidad, la Unión Europea está elaborando la primera normativa exhaustiva que regula el despliegue de la IA (opens in new tab). Y una de las normas más recientes incluidas en el documento es que los fabricantes de herramientas de inteligencia artificial estarán obligados a revelar cualquier material protegido por derechos de autor que hayan utilizado para crearlas.

En la nueva normativa, según un primer borrador, los desarrolladores de modelos generativos de IA tendrían que publicar un «resumen suficientemente detallado» de los materiales protegidos por derechos de autor que hayan utilizado como parte de su creación.

ChatGPT, Google Bard y otros grandes modelos lingüísticos rastrean enormes cantidades de datos (ya sea en la web o a través de conjuntos de datos curados) para proporcionar sus respuestas. A medida que aumentan las capacidades de estas herramientas de inteligencia artificial para, por ejemplo, incluir la generación de imágenes, también aumenta la cantidad de datos de contenido rastreados. Cuando esto se extiende a cosas como letras de canciones o código informático, muchas personas creen que se está infringiendo el derecho de autor.

ChatGPT mostrará citas y fuentes de la información que proporciona siempre que el usuario se lo pida.

De hecho, el pasado noviembre, OpenAI (creadora de ChatGPT) fue objeto de una demanda colectiva por parte de dos demandantes anónimos que alegaban que había monetizado indebidamente código fuente abierto de GitHub para entrenar el sistema.

Aún no está claro cuál será el impacto de la normativa en el desarrollo de la IA, ni cómo se aplicará, pero los legisladores europeos esperan que sirva de modelo para la política de IA en otras partes del mundo. La UE afirma que su política en materia de IA dará lugar a «nuevas normas mundiales para garantizar que se pueda confiar en la IA», del mismo modo que su ley GDPR se ha convertido en un punto de referencia para las normas de privacidad.

El proyecto de ley en sí no se ha finalizado, ya que los distintos Estados miembros de la UE tienen que ponerse de acuerdo para que se apruebe. No obstante, se espera que la versión final se confirme y apruebe este mismo año.