A técnica que permite isso utiliza inteligência artificial (IA) para trocar rostos e já gerou desde conteúdos pornográficos com celebridades até discursos fictícios de políticos influentes.
O termo deepfake apareceu em dezembro de 2017, quando um usuário do Reddit com esse nome começou a postar vídeos pornográficos falsos com famosas. Com softwares de aprendizagem profunda, ele aplicava os rostos que queria a clipes já existentes.
Trocar os rostos de pessoas pode não ser nenhuma novidade. Entretanto, a facilidade com a qual o deepfake pode ser utilizado, traz um grande diferencial em relação a qualquer outro software. Qualquer um com acesso a algoritmos e conhecimentos de deep learning, um bom processador gráfico e um amplo acervo de imagens pode criar um vídeo falso convincente.
Para se criar esses vídeos, são utilizados softwares baseados em bibliotecas de código aberto voltadas ao aprendizado de máquina. O usuário do Reddit usou TensorFlow, uma biblioteca gratuita de aprendizado de máquina do Google, para criação dos vídeos.
O programador fornece centenas e até milhares de fotos e vídeos das pessoas envolvidas, que são automaticamente processadas por uma rede neural. É como um treinamento, no qual o computador aprende como é determinado rosto, como ele se mexe, como ele reage a luz e sombras.
Esse “treino” é feito com o rosto do vídeo original e com o novo rosto, até que o programa seja capaz de encontrar um ponto comum entre as duas faces e “costurar” uma sobre a outra. O procedimento envolve uma espécie de truque, em que o software recebe uma imagem da pessoa A e a processa como se fosse a pessoa B.
De acordo com especialistas, com ferramentas tão acessíveis, fica mais fácil espalhar informações falsas de acordo com interesses próprios, fundamentadas por supostas provas em vídeo. Isso pode representar um perigo para a democracia e a sociedade, inclusive ameaçando a credibilidade de tudo o que é publicado.
Então não é bom já sair acreditando em todos os vídeos que você vê por aí, a tendência é que o deepfakes se torne cada vez mais comum.
