Um golpe ocorrido no norte da China, envolvendo tecnologia avançada de deepfake, fez com que um homem transferisse dinheiro para um suposto amigo, aumentando a preocupação em relação ao uso de técnicas de inteligência artificial (IA) para facilitar crimes financeiros. A China vem reforçando a regulamentação dessas tecnologias e aplicativos devido ao crescimento de fraudes baseadas em IA, que envolvem principalmente manipulação de voz e dados faciais.
Em janeiro, foram adotadas novas regras para proteger legalmente as vítimas. Segundo a polícia de Baotou, na região da Mongólia Interior, o golpista utilizou IA para trocar de rosto durante uma videochamada, convencendo a vítima a transferir 4,3 milhões de iuanes (US$ 622 mil, R$ 3 milhões) em 20 de fevereiro. A vítima acreditava que estava ajudando seu amigo a fazer um depósito em um processo de licitação.
O caso gerou discussões sobre privacidade e segurança online no Weibo, com a hashtag '#golpes com IA explodindo em todo o país, alcançando mais de 120 milhões de visualizações em 22 de fevereiro. Um usuário comentou: 'Isso mostra que fotos, vozes e vídeos podem ser utilizados por golpistas. As regras de segurança da informação podem acompanhar as técnicas dessas pessoas?'. A polícia afirmou que recuperou a maior parte do dinheiro roubado e está trabalhando para rastrear o restante.