Inteligência Artificial

O Facebook está sinalizando algumas postagens de coronavírus como spam

Como o distanciamento social limita a equipe de escritório, as plataformas sociais contam mais com a IA para moderar seu conteúdo.

Open Sourced

Após o Facebook anunciar que se basearia mais na moderação de conteúdo com inteligência artificial, alguns usuários estão reclamando que a plataforma está cometendo erros e bloqueando uma grande quantidade de posts e links legítimos, incluindo posts com notícias relacionadas à pandemia de coronavírus, e sinalizando-os como spam.

Ao tentar postar, os usuários parecem estar recebendo uma mensagem de que seu conteúdo – às vezes apenas um link para um artigo – viola os padrões da comunidade do Facebook. “Trabalhamos duro para limitar a propagação de spam, porque não queremos permitir que o conteúdo seja projetado para enganar ou que tente enganar os usuários para aumentar a visualização”.

O problema também surge à medida que as plataformas de mídia social continuam a combater a desinformação relacionada ao Covid-19. Nas mídias sociais, alguns agora estão divulgando a ideia de que a decisão do Facebook de enviar para casa seus moderadores de conteúdo contratados pode ser a causa do problema.

O Facebook está se opondo a essa noção, e o vice-presidente de integridade da empresa, Guy Rosen, twittou que “este é um bug em um sistema anti-spam, não relacionado a alterações na força de trabalho de nosso moderador de conteúdo”. Rosen disse que a plataforma está trabalhando para restaurar as postagens.

A Recode entrou em contato com o Facebook para comentar e atualizaremos este post se recebermos resposta.

A questão no Facebook serve como um lembrete de que qualquer tipo de sistema automatizado ainda pode estragar, e esse fato pode se tornar mais aparente à medida que mais empresas, incluindo Twitter e YouTube, dependem da moderação automatizada de conteúdo durante a pandemia de coronavírus. As empresas dizem que estão fazendo isso para cumprir o distanciamento social, pois muitos de seus funcionários são forçados a trabalhar em casa. Nesta semana, eles também avisaram aos usuários que, devido ao aumento da moderação automática, mais postagens poderiam ser retiradas por engano.

Em uma postagem no blog na segunda-feira, o YouTube disse a seus criadores que a plataforma recorrerá ao aprendizado de máquina para ajudar com “parte do trabalho normalmente feito pelos revisores”. A empresa alertou que a transição significará que algum conteúdo será retirado sem a revisão humana e que usuários e colaboradores da plataforma poderão ver vídeos removidos do site que na verdade não violam nenhuma das políticas do YouTube.

A empresa também alertou que “conteúdo não revisado pode não estar disponível por meio de pesquisa, na página inicial ou em recomendações”.

Da mesma forma, o Twitter disse aos usuários que a plataforma dependerá cada vez mais da automação e do aprendizado de máquina para remover “conteúdo abusivo e manipulado”. Ainda assim, a empresa reconheceu que a inteligência artificial não substitui os moderadores humanos.

“Queremos ser claros: enquanto trabalhamos para garantir que nossos sistemas sejam consistentes, às vezes eles podem não ter o contexto que nossas equipes trazem, e isso pode resultar em erros”, disse a empresa em um post no blog..

Para compensar possíveis erros, o Twitter disse que não suspenderá permanentemente nenhuma conta “apenas com base em nossos sistemas automatizados de aplicação”. O YouTube também está fazendo ajustes. “Não emitiremos greves nesse conteúdo, exceto nos casos em que tenhamos muita confiança de que seja violador”, disse a empresa, acrescentando que os criadores teriam a chance de recorrer dessas decisões.

Enquanto isso, o Facebook diz que está trabalhando com seus parceiros para enviar para casa os moderadores de conteúdo e garantir que eles sejam pagos. A empresa também está explorando a revisão remota de conteúdo de alguns de seus moderadores temporariamente.

“Não esperamos que isso afete as pessoas que usam nossa plataforma de maneira perceptível”, disse a empresa em comunicado nesta segunda-feira. “Dito isto, pode haver algumas limitações a essa abordagem e podemos observar tempos de resposta mais longos e cometer mais erros como resultado”.

A mudança para os moderadores da IA ​​não é uma surpresa. Durante anos, as empresas de tecnologia têm promovido ferramentas automatizadas como forma de complementar seus esforços para combater o conteúdo ofensivo e perigoso. Embora a IA possa ajudar a moderação de conteúdo a se mover mais rapidamente, a tecnologia também pode se esforçar para entender o contexto social de postagens ou vídeos e, como resultado, fazer julgamentos imprecisos sobre seu significado. De fato, a pesquisa mostrou que algoritmos que detectam o racismo podem ser tendenciosos contra os negros, e a tecnologia tem sido amplamente criticada por ser vulnerável à tomada de decisão discriminatória.

Normalmente, as deficiências da IA ​​nos levaram a confiar em moderadores humanos que podem entender melhor as nuances. Os revisores de conteúdo humano, no entanto, também não são, de maneira alguma, uma solução perfeita, especialmente porque podem ser necessários para trabalhar longas horas analisando palavras e imagens traumáticas, violentas e ofensivas. Suas condições de trabalho foram recentemente examinadas.

Mas na era da pandemia de coronavírus, ter revisores trabalhando lado a lado em um escritório não só poderia ser perigoso para eles, como também poderia correr o risco de espalhar ainda mais o vírus ao público em geral. Lembre-se de que essas empresas podem hesitar em permitir que os revisores de conteúdo trabalhem em casa, pois têm acesso a muitas informações particulares do usuário, sem mencionar conteúdo altamente sensível.

Em meio à nova pandemia de coronavírus, a revisão de conteúdo é apenas outra maneira de recorrermos à IA para obter ajuda. À medida que as pessoas ficam em ambientes fechados e procuram mover suas interações pessoalmente on-line, temos uma visão rara de quão bem essa tecnologia se sai quando recebe mais controle sobre o que vemos nas plataformas sociais mais populares do mundo. Sem a influência de revisores humanos que esperamos, este poderia ser um auge para os robôs.

Fonte: vox


Livros sobre I.A

o-algoritmo-mestre

O Algoritmo Mestre: Como a Busca Pelo Algo...

livro redes neurais princípio e prática

Redes Neurais. Princípios e Prática

skyward-conquiste-as-estrelas

Skyward: Conquiste as estrelas

introducao-a-mineracao-de-dados

Introdução à Mineração de Dados

livro-inteligencia-artificial

Inteligência Artificial – Clássico n...

inteligencia-artificial-generica

Inteligência Artificial Genérica: Os desaf...

consciencia-digital-livro

Consciência digital: o segredo por trás da...

inteligencia artificial visa modelos algoritmos maquinas

Inteligência Artificial Livre: Uma visão d...

Cursos de I.A

talia sistema inteligencia artificial advogados

Talia – Inteligência Artificial para...

curso-inteligencia-artificial-avancada-assistentes-pessoais

Inteligência artificial avançada para assi...

Tudo Sobre IoT curso online

Tudo Sobre IoT – Internet das Coisas

congresso-online-inteligencia-digital-futurismo

Congresso Online de Inteligência Digital &...

internet-das-coisas-curso

Internet das Coisas – Uma visão ampl...

comandar-casa-por-voz-internet-das-coisas

Manual para Comandar sua Casa por Voz a Ba...

instarise

Instarise – Inteligência artificial ...

curso online robotica automacao residencial

Curso de Robótica e Automação Residencial