Inteligência Artificial

Como combater o preconceito de uma Inteligência Artificial

A (IA) inteligência artificial esteve envolvida em diferentes setores, como saúde, finanças, seguros e policiais, mas tem seus problemas a serem superados, e o que está nas notícias quase todos os dias, que é o preconceito na inteligência artificial.

 De fato, o Google Trends mostra um aumento de 300% no interesse por termos relacionados ao viés da IA ​​desde 2016. O viés da IA ​​ocorre quando um sistema de análise de dados baseado em aprendizado de máquina discrimina um grupo específico de pessoas. 

Existem muitos tipos de vieses, mas qual é esse preconceito nos algoritmos de IA? 

Como esse preconceito acontece?

O preconceito na IA acontece quando os estereótipos sociais influenciam fortemente os dados de treinamento usados ​​pelos desenvolvedores. Todos sabemos que os modelos de IA aprendem, mas não por si só. 

Em vez disso, os algoritmos de IA precisam de dados específicos para aprender e, quanto mais dados, melhor é para a AI aprender. Geralmente, essa ideia de um grande número de conjuntos de dados se torna o único requisito, e os desenvolvedores se concentram apenas no treinamento do algoritmo com a grande quantidade de dados, sem prestar atenção a ‘como’ o sistema de IA está usando esses dados para aprender. 

O viés da sociedade / preconceito nos sistemas de IA, é um desafio para identificar, pois é provável que não se encontre nada de errado com ele. Tudo parece estar bem com o algoritmo, mas na saída pode ter algo inesperado.

 Por exemplo, em 2014, um estudo do Google Ads mostrou que os anúncios relacionados a empregos bem remunerados diminuíram significativamente quando o sexo foi definido como feminino.

Então, quem é o culpado aqui? Não é o algoritmo, é o tipo de dados que foi usado para o treinamento sem levar em consideração os resultados do algoritmo. Se o Google monitorar a atividade dos anunciantes enquanto publica os anúncios, esse problema pode não ocorrer. Essa ação de não controlar os anúncios resulta em preconceito.

Combate ao preconceito em inteligência artificial

Portanto, quando se está ciente de que tipo de preconceito está sendo tratado, as soluções não estão longe. Nesse caso, a resposta não está dentro do algoritmo, mas dentro do comportamento humano.

 O algoritmo não apenas se comporta de maneira anormal por causa dos dados incompletos, mas também fornece a saída com base no que o cientista de dados ou os pensamentos do desenvolvedor estão alinhados.

Como em agosto de 2019, quando o detector de discurso de ódio do Google, criado em 2016, mostrou ser tendencioso contra pessoas de pele escura.

No ano passado, na conferência The Women In Analytics & AI, da Rising, da Analytics India Magazine, Smitha Ganesh, da Thoughtworks, deu uma palestra extensa sobre os vários tipos de preconceitos que a IA possui e as maneiras de combater os diferentes tipos.

Smitha Ganesh acredita que esses vieses nos algoritmos de IA são difíceis de corrigir, e os cientistas de dados que criam esses algoritmos devem criá-los sem ter nenhum viés em mente.

“É difícil de consertar? Sim, é difícil de corrigir, porque há muitas incógnitas que precisam ser corrigidas e a introdução do viés não é óbvia ”, diz Smitha Ganesh.

Durante a palestra, ela deu muitos exemplos sobre os vários preconceitos relacionados à IA, como a ferramenta de contratação da Amazon. A Amazon construiu uma ferramenta em 2014, que analisa os currículos com o objetivo de mecanizar a busca dos melhores talentos para sua empresa, mas em 2015 eles descobriram que o sistema não estava classificando os candidatos de maneira neutra em termos de gênero.

“Como as mulheres não estavam em boa representação, estavam penalizando as candidatas. Depois que souberam que era pronunciado como tendencioso, o sexo foi retirado do sistema” diz Smitha.

Ela detalhou ainda que, mesmo quando o sexo foi retirado do sistema, havia alguns proxies sublinhados no sistema. O sistema ainda era tendencioso. Confira a palestra:

Colaborando com outros departamentos

Agora, quando se trata de preconceitos em algoritmos, a primeira coisa a ter em mente é que deve haver uma abordagem multidisciplinar. Uma abordagem multidisciplinar permite que o treinamento seja visto não apenas pelo aspecto de especialistas em tecnologia, mas também pelo aspecto de recursos humanos, para que seja qual for o treinamento do algoritmo, seus possíveis resultados possam ser debatidos entre eles.

Monitorando o tipo de dados

As pessoas que conhecem o viés da IA ​​conhecem o COMPAS (perfil de gerenciamento de infratores correcionais para sanções alternativas), que é usado em alguns estados dos EUA pelos juízes por seu sistema jurídico. Este programa foi projetado para prever a probabilidade de o criminoso ‘reincidir’ com base na sua história. 

Mas, o que o COMPAS fez em vez disso, cortesia do tipo de dados fornecidos a ele, previu incorretamente as pessoas da comunidade afro-americana / de pele escura, e as considerou mais propensas a repetir a ofensa criminal. Agora, isso não se torna o problema do algoritmo, mas também um problema de ética.

Outlook

Os preconceitos nos sistemas de Inteligência Artificial são difíceis de apagar, assim como os preconceitos da sociedade humana. As empresas devem assumir a responsabilidade pelo viés do algoritmo de IA, porque essa tecnologia penetrou em nossas vidas reais e está sendo usada em vários aspectos importantes, como RH, saúde e justiça. 

Esses departamentos têm uma conexão direta com vidas humanas e podem ter sérias implicações. Os desenvolvedores precisam ter um pensamento neutro e devem considerar os resultados e o efeito que esses sistemas de IA podem ter no dia a dia do público.

Fonte: Analyticsindiamag

Livros sobre I.A

robos-traders-autonomos

Robôs Traders Autônomos: Estudos de operaç...

o-algoritmo-mestre

O Algoritmo Mestre: Como a Busca Pelo Algo...

inteligencia-artificial-forte

Inteligência Artificial Forte: Como fazer ...

livro inteligencia artificial isaias lima carlos pinheiro

Inteligência Artificial – Abordagem ...

Inteligencia Artificial Uma Introducao ao Raciocínio Baseado em Casos

Inteligência Artificial: Uma Introdução ao...

data-science-para-negocios-inteligencia-artificial

Data Science para negócios

inteligencia-artificial-em-controle-e-automacao

Inteligência Artificial em Controle e Auto...

guia-rapido-robotica-inteligencia-artificial

Guia Rápido De Robótica E Inteligência Art...

Cursos de I.A

talia sistema inteligencia artificial advogados

Talia – Inteligência Artificial para...

curso-inteligencia-artificial-avancada-assistentes-pessoais

Inteligência artificial avançada para assi...

336x280_profissionais-do-futuro_seq2

Profissional do Futuro – Inteligênci...

curso robôs im inteligência artificial facebook

ROBOS.im – Plataforma para criação d...

Tudo Sobre IoT curso online

Tudo Sobre IoT – Internet das Coisas

comandar-casa-por-voz-internet-das-coisas

Manual para Comandar sua Casa por Voz a Ba...

instarise

Instarise – Inteligência artificial ...

internet-das-coisas-curso

Internet das Coisas – Uma visão ampl...