Como o Facebook está usando a IA para combater a desinformação do COVID-19 e detectar “memes odiosos”

O Facebook detalhou as atualizações que fez em seus sistemas de IA para detectar desinformação e discurso de ódio.

A gigante da tecnologia diz que 88,8% de todo o discurso de ódio que removeu neste trimestre foi detectado pela AI, acima dos 80,2% no trimestre anterior.

A IA pode remover o conteúdo automaticamente se o sistema tiver alta confiança de que é discurso de ódio, mas a maioria ainda é verificada por um ser humano primeiro.

A melhoria é amplamente impulsionada por duas atualizações nos sistemas de IA do Facebook. Primeiro, a empresa agora está usando modelos maciços de linguagem natural que podem decifrar melhor a nuance e o significado de um post.

Esses modelos se baseiam nos avanços da pesquisa em IA nos últimos dois anos que permitem que as redes neurais sejam treinadas em linguagem sem qualquer supervisão humana, eliminando o gargalo causado pela curadoria manual de dados.

A segunda atualização é que os sistemas do Facebook agora podem analisar o conteúdo que consiste em imagens e texto combinados, como memes odiosos.

A IA ainda é limitada em sua capacidade de interpretar esse conteúdo de mídia mista, mas o Facebook também lançou um novo conjunto de dados de memes odiosos e lançou uma competição para ajudar o crowdsource a obter melhores algoritmos para detectá-los.

O desafio revela as limitações da moderação de conteúdo baseada em IA. Esses sistemas podem detectar conteúdo semelhante ao que já viram antes, mas são fundados quando novos tipos de informações incorretas são exibidos.

Nos últimos anos, o Facebook investiu pesadamente no desenvolvimento de sistemas de IA que podem se adaptar mais rapidamente.

Fonte: The verge