Los especialistas en aprendizaje automático descubrieron un gran problema: a su nuevo motor de reclutamiento ‘no le gustaban’ las mujeres.
El equipo había estado construyendo programas informáticos desde 2014 para revisar los curriculums vitae (CV) de los solicitantes de empleo con el objetivo de encontrar a los mejores talentos, según informaron a Reuters personas familiarizadas con el tema .

La automatización ha sido clave para el dominio del comercio electrónico de la empresa Amazon, ya sea dentro de almacenes o en decisiones de precios de conducción.

La herramienta de contratación experimental utilizó inteligencia artificial para dar las calificaciones de los candidatos de trabajo, que van de una a cinco estrellas, parecido a cómo los compradores califican los productos en Amazon, dijeron las fuentes.

«Todos querían este ‘santo grial'», dijo una de las personas.

«Literalmente querían que fuera un motor donde le das 100 currículums y te da a los cinco mejores y esos serían contratados».

Pero para 2015, la empresa se dio cuenta de que su nuevo sistema no estaba calificando de una manera equitativa para el puesto de desarrollador de software y otros afines.

Esto fue porque los modelos de computadora de Amazon fueron entrenados para vetar a solicitantes mediante la observación de los patrones en los CV presentados a la empresa en un periodo de 10 años.
La mayoría eran de hombres, un reflejo del dominio masculino en la industria tecnológica.

En efecto, el sistema de Amazon aprendió que los candidatos masculinos eran preferibles. Penalizaba los CV que incluían la palabra «mujeres».

Pese a que Amazon editó los programas para hacerlos neutrales en términos particulares. Pero eso no era garantía de que las máquinas no ‘idearan’ otras formas de clasificar candidatos de una forma discriminatoria, aseguró la gente cercana al tema.

La compañía de Seattle finalmente disolvió el equipo a principios del año pasado porque los ejecutivos perdieron la esperanza en el proyecto.

Los reclutadores de Amazon vieron las recomendaciones generadas por la herramienta en la búsqueda de nuevas contrataciones, pero nunca se basaron únicamente en esas clasificaciones, dijeron.

Amazon declinó comentar sobre la herramienta de reclutamiento o sus retos, pero la empresa dice que está comprometida con la diversidad y equidad en los lugares de trabajo.

El experimento de la compañía abre un caso de estudio sobre las limitaciones del aprendizaje automático. También sirve como una lección para la creciente lista de grandes empresas incluyendo Hilton Worldwide Holdings Inc y Goldman Sachs Group Inc que busca automatizar el proceso de automatización.