Um dos times de especialistas em machine learning do escritório da Amazon na Escócia começou a construir robôs para ajudar no recrutamento de vagas de emprego da empresa em 2014. De acordo com a Reuters, o objetivo era desenvolver um programa que analisasse 100 currículos e indicasse quais seriam os cinco melhores.
Porém, após algum tempo de uso, a Amazon decidiu descartar o algoritmo desenvolvido para seleção e recrutamento de novos funcionários para a empresa, e o motivo é interessante. A empresa constatou que o sistema de inteligência artificial, desenvolvido com base em dados de currículos recebidos ao longo de 10 anos, ganhou um viés sexista.
A partir de 2015, ficou evidente que o sistema estava com problemas para analisar os currículos de mulheres. O algoritmo começou a penalizar as fichas que mencionavam a palavra “mulher”, fazendo com que candidatos do sexo masculino fossem privilegiados no processo seletivo.
A culpa, no entanto, não é da tecnologia. O sistema aprendeu a selecionar os melhores candidatos em cima dos currículos recebidos nos últimos 10 anos, que eram majoritariamente de candidatos homens.
Os especialistas editaram o programa para excluir esse viés, mas o projeto foi fechado de vez no ano passado, pois não era possível garantir que novos preconceitos surgissem, afirmaram fontes à Reuters.
A Amazon afirmou, ao veículo, que a ferramenta nunca foi usada pelos recrutadores para avaliar candidatos.
