Inovações

Novo estudo descobriu que muitos dos principais algoritmos de reconhecimento facial do mundo são influenciados por idade, raça e etnia

Segundo o estudo do Instituto Nacional de Padrões e Tecnologia (NIST), os algoritmos atualmente vendidos no mercado podem identificar erroneamente os membros de alguns grupos até 100 vezes mais frequentemente do que outros.

O NIST afirma ter encontrado “evidência empírica” ​​de que características como idade, sexo e raça afetam a precisão da “maioria” dos algoritmos. O grupo testou 189 algoritmos de 99 organizações, que juntas, alimentam a maioria dos sistemas de reconhecimento facial em uso globalmente.

As descobertas fornecem ainda mais evidências de que muitos dos algoritmos de reconhecimento facial mais avançados do mundo não estão prontos para uso em áreas críticas, como aplicação da lei e segurança nacional.

Os legisladores classificaram o estudo de “chocante”, relata o Washington Post e instou o governo dos EUA a reconsiderar os planos de usar a tecnologia para proteger suas fronteiras.

O estudo testou verificações “um para um”, usadas para comparar alguém com um passaporte ou carteira de identidade, bem como pesquisas “um para muitos”, nas quais alguém corresponde a um único registro em um banco de dados maior.

As mulheres afro-americanas foram identificadas incorretamente com mais frequência em pesquisas um-para-muitos, enquanto asiáticos, afro-americanos, nativos americanos e ilhéus do Pacífico foram todos identificados erroneamente em pesquisas um-para-um. Crianças e idosos também foram mais falsamente identificados.

Em alguns casos, os asiáticos e afro-americanos foram identificados erroneamente até 100 vezes mais do que os homens brancos. As maiores taxas de precisão foram geralmente encontradas entre homens brancos de meia idade.

O estudo do NIST contou com organizações voluntariamente submetendo seus algoritmos para teste. Mas faltava na lista a Amazon, que vende seu software Rekognition para a polícia local e investigadores federais. Estudos anteriores levantaram preocupações sobre a precisão do sistema da Amazon, e pesquisadores de IA pediram à empresa que parasse de vender seu sistema “defeituoso”.

A Amazon alega que seu software não pode ser facilmente analisado pelos testes do NIST (apesar do fato de as empresas de tecnologia com produtos similares não terem problemas em enviar seus algoritmos) e seus acionistas resistiram às chamadas para conter as vendas da Rekognition.

Especialistas dizem que o viés nesses algoritmos pode ser reduzido usando um conjunto mais diversificado de dados de treinamento. Os pesquisadores descobriram que algoritmos desenvolvidos em países asiáticos, por exemplo, não tinham uma diferença tão grande nas taxas de erro entre rostos brancos e asiáticos.

No entanto, nem mesmo corrigir o problema resolverá todos os problemas com o reconhecimento facial quando a tecnologia for usada de maneiras que não respeitem a segurança ou a privacidade das pessoas.

Livros sobre I.A

inteligencia-artificial-projeto-de-aplicacao

Inteligência Artificial: Projeto de aplica...

inteligencia artificial livro

Inteligência Artificial: Uma Abordagem de ...

inteligencia-nao-estruturada-inteligencia-artificial

Inteligência não estruturada: a Inteligênc...

inteligencia-artificial-em-controle-e-automacao

Inteligência Artificial em Controle e Auto...

superinteligencia-caminhos-perigos-estrategias

Superinteligência: Caminhos, Perigos, Estr...

biologia-artificial

Biologia Artificial: A evolução da Intelig...

ceo-inteligencia-artificial

Exame Ceo. Inteligência Artificial

marketing-juridico-inteligencia-artificial

Marketing Jurídico. O Poder das Novas Mídi...

Cursos de I.A

talia sistema inteligencia artificial advogados

Talia – Inteligência Artificial para...

curso-inteligencia-artificial-avancada-assistentes-pessoais

Inteligência artificial avançada para assi...

curso robôs im inteligência artificial facebook

ROBOS.im – Plataforma para criação d...

comandar-casa-por-voz-internet-das-coisas

Manual para Comandar sua Casa por Voz a Ba...

Tudo Sobre IoT curso online

Tudo Sobre IoT – Internet das Coisas

336x280_profissionais-do-futuro_seq2

Profissional do Futuro – Inteligênci...

instarise

Instarise – Inteligência artificial ...

curso online robotica automacao residencial

Curso de Robótica e Automação Residencial