Xu, Jiannan, Gujie Li y Jane Yi Jiang. 2025. AI Self-preferencing in Algorithmic Hiring: Empirical Evidence and Insights. Proceedings of the AAAI/ACM Conference on AI, Ethics, and Society (AIES), vol. 8, no. 3, 2757–2758. https://doi.org/10.1609/aies.v8i3.36755

Texto completo

Un nuevo estudio sugiere que los sistemas de contratación basados ​​en IA podrían favorecer los currículos redactados por los mismos modelos de IA que los evalúan, lo que plantea interrogantes urgentes para las escuelas, los bibliotecarios y el futuro de la preparación del mercado laboral.

El artículo analiza un estudio reciente sobre el uso de sistemas de inteligencia artificial en procesos de selección de personal y sus implicaciones educativas y sociales. La investigación, titulada AI Self-preferencing in Algorithmic Hiring, muestra que los modelos de IA utilizados en contratación pueden mostrar una forma de sesgo inesperado: tienden a favorecer los currículums generados por el mismo modelo de IA que los evalúa, en comparación con los redactados por humanos o por otros modelos.

En experimentos con más de 2.200 currículums reales y versiones generadas por modelos como GPT-4o, LLaMA, DeepSeek o Mistral, se observó que los candidatos cuyas solicitudes estaban “alineadas estilísticamente” con el sistema evaluador tenían entre un 23% y un 60% más de probabilidades de ser preseleccionados, aun cuando las cualificaciones eran idénticas. Esto sugiere la existencia de un nuevo tipo de sesgo algorítmico, no basado en variables tradicionales como género o raza, sino en la afinidad lingüística y estilística con el propio sistema.

El artículo denomina este fenómeno “sesgo interaccional”, donde la IA favorece patrones de escritura similares a los que ella misma genera. Esto plantea una preocupación estructural: la supuesta neutralidad de los algoritmos se debilita, ya que estos sistemas no solo procesan información, sino que también pueden reproducir preferencias hacia su propio “estilo de lenguaje”.

A partir de estos hallazgos, el texto advierte sobre un cambio profundo en el ámbito educativo. Los estudiantes ya no solo compiten en un entorno donde la escritura es evaluada por humanos, sino en uno donde la primera criba puede ser realizada por sistemas automatizados. Esto transforma la alfabetización informacional en alfabetización algorítmica, obligando a las instituciones educativas a preparar al alumnado para interactuar con sistemas de evaluación basados en IA.

El artículo también introduce el concepto de nueva brecha digital: los estudiantes con acceso a herramientas de IA, formación en “prompting” o apoyo tecnológico podrían tener ventajas sistemáticas frente a otros con menos recursos. Esto podría ampliar desigualdades educativas y laborales preexistentes.

Se plantea una reflexión crítica sobre el futuro de la escritura y la comunicación. Si los sistemas automatizados comienzan a premiar estilos de redacción propios de la IA, existe el riesgo de que las personas adapten su escritura para satisfacer algoritmos en lugar de comunicarse con otros seres humanos, afectando la creatividad, la diversidad lingüística y la expresión cultural.

En el texto subraya que la inteligencia artificial no es neutral y que su creciente uso en la contratación y evaluación laboral exige una respuesta educativa urgente basada en la alfabetización en IA, la transparencia algorítmica y la equidad en el acceso a estas tecnologías.