Walsh, Dylan. “Generative AI Isn’t Culturally Neutral, Research Finds.” MIT Sloan School of Management, September 22, 2025. MIT Sloan School of Management

Una investigación reciente de la MIT Sloan School of Management plantea una cuestión fundamental sobre el desarrollo y uso cotidiano de la inteligencia artificial generativa: lejos de ser sistemas neutrales, los modelos de IA incorporan patrones culturales derivados de los datos con los que fueron entrenados.

El estudio, dirigido por Jackson Lu junto con investigadores de Tsinghua University y MIT, demuestra que modelos como OpenAI GPT y Baidu ERNIE ofrecen respuestas culturalmente diferentes cuando reciben exactamente la misma instrucción en idiomas distintos.

El experimento comparó respuestas generadas en inglés y en chino, dos de los idiomas más hablados del mundo y, por tanto, dos fuentes masivas de entrenamiento para estos sistemas. Los resultados mostraron un patrón consistente: cuando la consulta se realiza en inglés, la IA tiende a producir respuestas alineadas con valores culturales asociados a sociedades occidentales, especialmente estadounidenses, privilegiando la autonomía individual, la independencia personal y un estilo cognitivo analítico basado en la lógica. Sin embargo, cuando las mismas preguntas se formulan en chino, las respuestas se desplazan hacia valores más colectivistas, interdependientes y contextualizados, característicos de culturas orientadas al grupo y a la armonía social.

Los investigadores analizaron dos dimensiones centrales de la psicología cultural. La primera fue la orientación social, entendida como la tendencia a priorizar los objetivos individuales frente a los colectivos. La segunda fue el estilo cognitivo, es decir, la forma en que se procesa la información: un enfoque analítico, centrado en categorías y lógica formal, o un enfoque holístico, más sensible al contexto, las relaciones y las circunstancias. Ambos modelos estudiados reflejaron claramente estas diferencias, evidenciando que la IA reproduce estructuras culturales presentes en el corpus lingüístico que alimenta su entrenamiento.

Uno de los aspectos más relevantes del estudio es la demostración de que estas diferencias no son meramente teóricas, sino que pueden influir directamente en decisiones reales. En una prueba aplicada al ámbito empresarial, se pidió a la IA recomendar un eslogan para una compañía de seguros. Cuando la consulta se hizo en inglés, el sistema favoreció mensajes centrados en el individuo, como la protección personal y la autonomía futura. Cuando se hizo en chino, la recomendación se inclinó hacia mensajes centrados en la familia, la responsabilidad compartida y la seguridad colectiva. Esto sugiere que la IA puede influir silenciosamente en estrategias de marketing, educación, políticas públicas o toma de decisiones empresariales, reforzando determinados valores culturales sin que el usuario sea plenamente consciente de ello.

El estudio también reveló que estos sesgos culturales pueden modificarse mediante técnicas de prompting contextual. Por ejemplo, cuando se pidió al modelo responder en inglés “asumiendo el papel de una persona china”, las respuestas comenzaron a reflejar patrones culturales propios del contexto chino. Esto demuestra que la IA no opera desde una objetividad universal, sino que sus resultados dependen no solo de la información disponible, sino también del marco lingüístico y cultural desde el cual se formula la interacción. La investigación concluye que desarrolladores, empresas y usuarios deben reconocer que la inteligencia artificial generativa no es simplemente una herramienta tecnológica, sino un sistema que transporta y reproduce valores culturales específicos, convirtiendo la diversidad cultural en un factor central para el diseño ético y responsable de estas tecnologías.