Com uma campanha eleitoral presidencial em andamento nos Estados Unidos, o Facebook anunciou segunda-feira que baniu vídeos e fotos manipulados, frequentemente chamados de deepfakes, de suas plataformas.
A mudança de política foi anunciada através de uma postagem no blog na noite de segunda-feira, confirmando um relatório anterior do The Washington Post.
No post, o Facebook disse que começaria a remover o conteúdo que foi editado “de maneira que não seja aparente para uma pessoa comum e provavelmente enganaria alguém” ou que é criado por inteligência artificial ou algoritmos de aprendizado de máquina.
Mas a política inclui conteúdo paródico ou sátira, ou vídeo que foi editado para remover palavras ou alterar a ordem em que elas aparecem, disse a empresa.
Essa mudança de política ocorre antes da audiência da House Energy and Commerce em mídia manipulada, programada para quarta-feira.
A autora do post de segunda-feira, Monika Bickert, vice-presidente de gerenciamento de políticas globais do Facebook deve representar o Facebook na frente dos legisladores na audiência desta semana.
A proibição dos deepfakes ocorre depois que um vídeo alterado da presidente da Câmara Nancy Pelosi (D-CA) se tornou viral nas plataformas de mídia social no verão passado.
Esse vídeo não foi criado pela IA, mas provavelmente foi editado usando um software prontamente disponível para prejudicar seu discurso.
Outras plataformas também foram pegos no fogo cruzado após o vídeo de Pelosi, incluindo o Twitter. Em novembro, o Twitter começou a elaborar sua própria política de deepfakes e solicitou feedback dos usuários sobre as regras futuras da plataforma. A empresa ainda não emitiu nenhuma nova orientação sobre mídia manipulada.