Kharpal, Arjun. «Google Pauses Gemini AI Image Generator after It Created Inaccurate Historical Pictures». CNBC, 22 de febrero de 2024. https://www.cnbc.com/2024/02/22/google-pauses-gemini-ai-image-generator-after-inaccuracies.html.

El jueves, Google anunció que está pausando su función de generación de imágenes de inteligencia artificial Gemini después de afirmar que ofrece «inexactitudes» en imágenes históricas.

Usuarios en redes sociales se habían quejado de que la herramienta de inteligencia artificial genera imágenes de figuras históricas, como los Padres Fundadores de Estados Unidos, como personas de color, calificando esto como inexacto. Por ejemplo, ha mostrado a soldados alemanes de la era nazi con piel negra y a los Padres Fundadores de Estados Unidos también como personas de color. Estos ejemplos han sido difundidos principalmente por figuras de derecha que acusan a Google de sesgo liberal y racismo inverso. Aunque algunos defienden la representación de la diversidad, critican a Gemini por no hacerlo de manera matizada.

Google admitió que Gemini no ha acertado en algunas representaciones históricas y anunció que está trabajando para mejorar este tipo de representaciones de inmediato. Google dijo en una publicación el miércoles en X que la función de IA puede «generar una amplia gama de personas. Y eso generalmente es algo bueno porque personas de todo el mundo lo usan». Pero dijo que la función de software está «fallando aquí», agregando que el gigante tecnológico está «trabajando para mejorar este tipo de representaciones inmediatamente».

Google publicó una declaración actualizada el jueves, diciendo que pausará la función de Gemini para generar imágenes de personas y lanzará una versión «mejorada» pronto.

La herramienta generadora de imágenes fue lanzada a principios de febrero a través de Gemini, que antes se llamaba Bard. Enfrenta desafíos en un momento en que Google intenta ponerse al día con OpenAI respaldado por Microsoft.

Gemini se negó a generar imágenes en absoluto el jueves por la mañana cuando fue probado por un reportero de CNBC.

Mientras Google enfrenta problemas con la creación de imágenes de Gemini, Open AI lanzó la semana pasada Sora, su nuevo modelo de inteligencia artificial generativa que puede producir video a partir de las indicaciones de texto de los usuarios.

Jack Krawczyk, director senior de producto de Gemini en Google, dijo el miércoles que las capacidades de generación de imágenes de la compañía reflejan la «base de usuarios global» del gigante tecnológico, y que toma «la representación y el sesgo en serio».

«Continuaremos haciendo esto para indicaciones abiertas (¡las imágenes de una persona paseando a un perro son universales!)», dijo Krawczyk en una publicación en X.»Los contextos históricos tienen más matices y ajustaremos aún más para acomodar eso».

La generación de imágenes por inteligencia artificial tiene un historial de amplificación de estereotipos raciales y de género debido a la falta de diversidad en los conjuntos de datos utilizados para entrenarlos. Por ejemplo, una investigación del Washington Post del año pasado encontró que las consultas como «una persona productiva» resultaban en imágenes de figuras mayoritariamente blancas y masculinas, mientras que las consultas como «una persona en servicios sociales» producían imágenes de personas negras.

Google lanzó Gemini, su modelo de IA más avanzado, a finales de 2023. Este mes, también rebautizó Bard, su competidor ChatGPT, como Gemini. Google además lanzó un servicio de suscripción a una versión más poderosa del modelo de IA.