O que há um ano parecia coisa de ficção científica, hoje está no Zap. A popularização de montagens realistas em vídeo e áudio tornou-se a próxima fronteira do debate ético sobre o ambiente digital. As deepfakes - corruptela de deep learning (aprendizado de máquinas) com fake news - viralizam nas redes sociais em perfis humorísticos e chamam a atenção para a agilidade e qualidade técnica com que são criadas.
Uma das operações mais comuns é o faceswap, quando os rostos são trocados. Tudo a partir de bibliotecas de código aberto capazes de simplificar o processo de inteligência artificial. O Congresso norte-americano demonstrou esta semana preocupação com o tema, que, segundo manifesto de um grupo de senadores, ameaça a democracia e a integridade das eleições.
Montagens que ganharam muita popularidade nas últimas semanas na internet brasileira nasceram em um quarto no Noroeste de Minas. O estudante de direito e jornalista Bruno Sartori, de 30 anos, de Unaí, começou a usar fatos políticos recentes como inspiração para vídeos de humor envolvendo o presidente Jair Bolsonaro e o ministro da Justiça, Sergio Moro, por exemplo.
“Usamos inteligência artificial para analisar e codificar milhares de imagens, para que seja possível inserir um rosto de uma pessoa em qualquer outro vídeo, de forma altamente realística”, explica Sartori, que aprendeu a técnica sozinho, pesquisando na internet.
“Usamos inteligência artificial para analisar e codificar milhares de imagens, para que seja possível inserir um rosto de uma pessoa em qualquer outro vídeo, de forma altamente realística”, explica Sartori, que aprendeu a técnica sozinho, pesquisando na internet.
Como em rede social timing é tudo, o desenvolvimento das últimas montagens seguiu o ritmo do noticiário, com Bolsonaro no corpo da rainha da Inglaterra ou Moro dançando como uma bailarina melindrosa.
“O tempo de edição varia muito. Se for para fazer um deepfake do qual eu não tenha o rosto pronto, levo de três a quatro dias para treiná-lo para meu uso. Depois de finalizado, ainda vêm algumas horas para montar e finalizar, pois esse material bruto que a máquina me entrega tem defeitos, então os vídeos precisam passar por uma pós-produção. Se a cor do rosto e o resto do corpo não batem, por exemplo, as pessoas poderão perceber com mais facilidade que é uma montagem. Caso eu já tenha o rosto para inserção pronto, basta algumas horas para produção”, detalha.
“O tempo de edição varia muito. Se for para fazer um deepfake do qual eu não tenha o rosto pronto, levo de três a quatro dias para treiná-lo para meu uso. Depois de finalizado, ainda vêm algumas horas para montar e finalizar, pois esse material bruto que a máquina me entrega tem defeitos, então os vídeos precisam passar por uma pós-produção. Se a cor do rosto e o resto do corpo não batem, por exemplo, as pessoas poderão perceber com mais facilidade que é uma montagem. Caso eu já tenha o rosto para inserção pronto, basta algumas horas para produção”, detalha.
Há um ano, quando começou a explorar esse conhecimento, Bruno conta que tinha de "treinar" uma máquina por muito mais tempo, para conseguir resultado bastante inferior ao que chega hoje. Agora, o uso de inteligência artificial para a troca de rostos em imagens já está, por exemplo, popularizado em filtros de aplicativos como Snapchat e Instagram. Em alguns casos, é possível substituir o seu rosto por uma foto que estiver no seu telefone - tudo sem saber escrever uma linha de programação e usando a câmera do celular, na palma da mão.
Para além do humor e do prosaico uso cotidiano dos filtros de apps, o debate sobre as deepfakes já chegou ao Congresso dos Estados Unidos. “Agora é o momento para que empresas de social media desenvolvam políticas para proteger usuários desse tipo de desinformação, não em 2021, depois que deepfakes virais tenham poluído as eleições de 2020”, alertou em um comunicado o parlamentar republicano Adam Schiff.
DESINFORMAÇÃO
“Este é mais um nível de complexidade deste ambiente de desinformação e distorção da realidade. Isso sucede à onda de fake news que percorre WhatsApp, Facebook e Twitter”, diz Virgilio Almeida, professor emérito do Departamento de Ciência da Computação da Universidade Federal de Minas Gerais (UFMG). Neste semestre, alunos da pós-graduação começaram curso de ética na computação, justamente para debater temas como esse.
Um dos trabalhos em curso no departamento busca maneiras de usar os metadados do vídeo (aquelas informações intrínsecas ao arquivo, em outra camada, que não são vistas a olho nu) para detectar origens e indícios de alterações desse tipo.
De acordo com o professor, o tema inquieta bastante a comunidade científica em todo o mundo. “Cada vez mais, as áreas tecnológicas têm de trazer esse debate. Porque as coisas afetam as pessoas, a sociedade. Não é só código. O impacto de um algoritmo se dá nas pessoas, nas instituições, na democracia”.
De acordo com o professor, o tema inquieta bastante a comunidade científica em todo o mundo. “Cada vez mais, as áreas tecnológicas têm de trazer esse debate. Porque as coisas afetam as pessoas, a sociedade. Não é só código. O impacto de um algoritmo se dá nas pessoas, nas instituições, na democracia”.
Três dicas
para detectar um
vídeo com deepfake
. Atenção ao desfoque do rosto, que costuma ficar mais embaçado que o fundo do vídeo
. As sobrancelhas dos dois personagens costumam se sobrepor na montagem
. Os olhos normalmente miram direção estranha e a boca é o ponto de maior embaçamento