Hace cuatro años, un equipo especializado en inteligencia artificial de Amazon desarrolló un sistema que permitía procesar cantidades enormes de currículums con el objetivo de seleccionar los candidatos perfectos para las vacantes laborales de la empresa. Eliminando el componente humano, siempre cargado de prejuicios, los creadores de esta herramienta esperaban alcanzar la imparcialidad en las contrataciones. Por desgracia, y según difundía ayer la agencia de noticias británica Reuters tras hablar con cinco personas implicadas, el sistema terminó revelándose como un reclutador tremendamente sexista.
No tardó mucho en hacerlo. Los especialistas de Amazon observaron ya en 2015 que esta inteligencia artificial basada en aprendizaje automático discriminaba enormemente a las mujeres, especialmente para puestos relacionados con desarrollo de software u otras materias técnicas. El problema, según han explicado varios expertos de la compañía, radicaba en la fuente informativa que este sistema utilizaba para tomar decisiones y evolucionar: una base de datos de currículums presentados a la empresa durante toda una década que, sorpresa, pertenecían mayoritariamente a hombres.
Bajo la influencia de estos datos, el sistema penalizaba los currículums que incluían referencias femeninas y reducía la calificación de las candidatas que añadían estudios en centros educativos exclusivamente femeninos. Cuando los supervisores del sistema descubrieron este sesgo machista, intentaron modificarlo para hacerlo mucho más neutro, pero según cuenta Reuters los cambios no eliminaban por completo el riesgo de otras formas de discriminación, así que el gigante norteamericano disolvió el equipo que lo creó y despidió para siempre a esta inteligencia artificial tan patriarcal.
El episodio, desconocido hasta ahora, reafirma dos ideas. La primera, que la inteligencia artificial está lejos todavía de ser perfecta. Y la segunda, que en este mercado laboral tan machista, incluso las máquinas más avanzadas arrastran los comportamientos desiguales. De la innegable brecha salarial, que alcanza el 30% en los complementos salariales y el 78% en las horas extras, al famoso techo de cristal, que aleja a las mujeres de los puestos de responsabilidad y limita sus carreras profesionales, pasando por la discriminación en las contrataciones. La tecnología no hará libres a las mujeres. Serán ellas quienes lo consigan.