Peças legendadas de um noticiário fictício, "House News Espanhol", favorável ao chavismo governante e questionado pelos serviços de verificação, apareceram como publicidade nas redes sociais e desataram uma polêmica nesse país.
Não é o único caso.
Já outro meio de comunicação falso, "Wolf News", usou esse tipo de tecnologia para disseminar também vídeos propagandísticos, que uma investigação da empresa especializada Graphika atribuiu em fevereiro a atores chineses alinhados com o Estado.
Um vídeo manipulado no qual o presidente dos Estados Unidos, Joe Biden, advertiu sobre uma "ameaça" de "natureza extraterrestre" viralizou nas redes sociais e nos aplicativos de mensagem em fevereiro.
E no ano passado, correu uma montagem que mostra o presidente da Ucrânia, Volodimir Zelensky, cheirando cocaína, assim como um rap do Eminem contra o presidente mexicano, Andrés Manuel López Obrador.
Todos foram feitos com IA, segundo verificações digitais da AFP.
"Cada vez mais regiões começam a se referir aos 'deep fakes' e aos vídeos gerados por IA como uma ameaça", disse à AFP Shirin Anlen, especialista em tecnologia de meios da ONG Witness.
- "Expulso imediatamente" -
Os avatares dos vídeos da "House of News" são feitos pelo programa de criação por inteligência artificial Synthesia. A empresa denunciou a conta que os divulgava no YouTube, que eliminou os conteúdos.
"Se finge ser um jornalista, finge dar notícias, será vetado", declara à AFP Laura Morelli, porta-voz do Synthesia, que sem mencionar o usuário disse que ele "infrigiu" suas "condições e políticas" e "foi identificado e expulso imediatamente".
Os apresentadores do "House of News", Noah e Daren, fazem parte do catálogo de 93 avatares do Synthesia. O mesmo ocorre com os apresentadores Alex e Jason do "Wolf News".
O Synthesia também foi usado em janeiro para criar vídeos de supostos americanos apoiando um golpe de Estado em Burkina Faso.
Morelli, no entanto, assegura que esse tipo de mal uso da plataforma é uma exceção.
Com esses programas "pode ser usado por qualquer um que tenha os mínimos conhecimentos", adverte Eduardo Mosqueira, doutor em informática e professor da Universidade da Coruña, na Espanha. Assegura que não é difícil identificar se um vídeo é falso, porém o mesmo não ocorre para determinar sua origem. "Se foram minimamente cuidadosos suponho que seja impossível".
- "Sou um robô" -
A televisão estatal venezuelana VTV reproduziu um dos vídeos do "House of News" que mostrava ganhos milionários com a Série do Caribe, torneio internacional de beiseball que voltou ao país depois de nove anos.
"São números que fazem este meio de comunicação se tornar conhecido nos Estados Unidos e boa parte da América Latina", disse o apresentador Barry Cartaya.
No entanto, não há cifras oficiais.
O presidente venezuelano, Nicolás Maduro, se enfurece diante de qualquer insinuação de que a produção está ligada ao seu governo.
"Não é a inteligência artificial, é a inteligência popular", fustigou o mandatário no final de fevereiro. "Eu sou um robô", seguiu ironicamente, imitando uma voz metálica e fazendo mímica de movimentos mecanizados.
Em um dos vídeos do "Wolf News" critica-se a falta de ação dos Estados Unidos diante da violência armada. Em outro, destaca-se a importância da "cooperação entre grandes potências", como China e Estados Unidos
"É a primeira vez que vemos que uma operação alinhada com o Estado utiliza imagens de vídeo geradas por inteligência artificial para criar conteúdo político enganoso", disse à AFP Jack Stubbs, vice-presidente de inteligência da Graphika, autor do estudo que vinculou os vídeos a redes que buscavam promover os interesses do Partido Comunista Chinês.
- Mentira repetida -
A Meta, empresa matriz do Facebook, desmantela redes de contas falsas, incluída uma em Cuba, que criava identidades irreais "para publicar críticas aos opositores ao governo", disse Ben Ninmo, líder global de Inteligência sobre Ameaças da empresa, em uma videoconferência com a AFP.
"Algumas destas contas utilizam fotos do perfil que provavelmente foram geradas utilizando inteligência artificial, ou seja, fotos de pessoas que não existem", indica. "Esta é uma tática usada cada vez mais".
Mosqueira avalia que "cada vez é mais fácil programar bots nas redes sociais que se passam por pessoas reais e que lancem mensagens que querem que colem no público".
O especialista alerta sobre o alto impacto das "deep fakes", inclusive quando se demonstra sua falsidade.
"Já conhece a famosa frase atribuída a (o propagandista nazista Joseph) Goebbels de que uma mentira repetida 1.000 vezes se torna uma verdade".