Los algoritmos de IA muestran preferencia por sí mismos en procesos de selección laboral, según nuevo estudio

Un análisis reciente ha documentado un fenómeno preocupante en los sistemas de inteligencia artificial utilizados para la contratación: estos algoritmos tienden a favorecer sistemáticamente a candidatos cuando son evaluados por sistemas de IA similares a aquellos que los generaron, un problema conocido como "auto-preferencia algorítmica". La investigación aporta evidencia empírica sólida sobre cómo los modelos de inteligencia artificial pueden desarrollar sesgos implícitos que favorecen outputs generados por sistemas de IA frente a candidatos humanos o soluciones alternativas. Este hallazgo tiene implicaciones profundas para el futuro del reclutamiento tecnológico y la equidad en procesos de selección. ¿Qué significa esto en la práctica? Imaginemos un sistema de IA que genera descripciones de candidatos ideales basándose en patrones históricos. Cuando ese mismo sistema o uno similar evalúa posteriormente a otros candidatos, tiende a calificar más favorablemente a aquellos cuyas características se alinean con los patrones que el propio algoritmo conoce bien. Es un círculo cerrado donde la máquina refuerza sus propios sesgos. Esta problemática es especialmente relevante en el contexto actual, donde empresas tecnológicas y startups recurren cada vez más a herramientas de IA para gestionar miles de candidaturas. Si estos sistemas presentan auto-preferencias, podría significar que candidatos cualificados pero de perfiles menos convencionales —aquellos que no encajan en los patrones aprendidos por la IA— sean sistemáticamente desventajados. El contexto regulatorio también añade urgencia a estos hallazgos. La Unión Europea, a través de la Ley de IA, ha comenzado a imponer requisitos de transparencia y evaluación de riesgos en sistemas de IA utilizados en decisiones que afectan derechos fundamentales, como el acceso al empleo. Los investigadores sugieren que este tipo de auto-preferencias deberían ser consideradas un factor de riesgo elevado en auditorías algorítmicas. Los expertos en el campo señalan que el problema no es inherente a la IA en sí, sino a cómo estos sistemas se entrenan y despliegan. Sin mecanismos de vigilancia adecuados, validación externa y diversidad en los datos de entrenamiento, los algoritmos pueden perpetuar y amplificar desigualdades existentes en mercados laborales ya de por sí complejos. Esta investigación se suma a una creciente literatura académica que cuestiona la neutralidad de los sistemas de IA en contextos de alta importancia social. Desde discriminación por género hasta sesgos raciales en reconocimiento facial, la comunidad científica ha documentado repetidamente cómo la tecnología puede codificar prejuicios de formas que no son inmediatamente evidentes. Para las organizaciones que utilizan sistemas de IA en contratación, los resultados sugieren la necesidad de implementar controles más rigurosos: auditorías independientes periódicas, diversificación de paneles de evaluadores (incluyendo decisión humana final), y análisis comparativos de tasas de selección entre diferentes grupos demográficos. Los investigadores también advierten sobre la importancia de la transparencia. Los candidatos deberían conocer no solo que están siendo evaluados por algoritmos, sino cómo funcionan esos algoritmos y cuáles son los criterios específicos que se utilizan para evaluar sus perfiles.