O TikTok está banindo usuários que têm aproveitado uma brecha na moderação de conteúdos proibidos por meio da publicação de vídeos pornográficos e violentos como imagens de perfil.
A BBC News alertou o aplicativo sobre a febre "não pesquise isso", que se espalha pelo TikTok e já acumula quase 50 milhões de visualizações.
A empresa baniu as hashtags usadas para promover perfis com conteúdos ofensivos e está excluindo os vídeos impróprios.Usuários ouvidos pela reportagem dizem que a tendência tem incentivado perfis a postarem os materiais mais ofensivos e nojentos que puderem encontrar.
A BBC News viu, por exemplo, clipes de pornografia pesada aparecendo como imagens de perfil no aplicativo, bem como um vídeo do grupo autodenominado Estado Islâmico que mostra o assassinato do piloto jordaniano Muadh al-Kasasbeh, que foi queimado até a morte em uma espécie de gaiola em 2015.
'Especialmente preocupante'
Tom, um adolecente da Alemanha que foi o primeiro a entrar em contato com a BBC para falar do assunto, disse que encontrou diversos vídeos mostrando sangue e atos pornográficos.
"Fico muito preocupado porque há muitas crianças usando o TikTok. Acho especialmente preocupante ver posts com milhões de visualizações indicando esses perfis. E o TikTok demora séculos para agir."
Tom diz que reportou vários perfis para o app por publicações ofensivas como imagens de perfil.
A BBC News identificou publicações do tipo em ingês e espanhol.
As contas ofensivas costumam ser nomeadas com uma mistura aleatória de caracteres e palavras e não têm vídeos reais do TikTok em suas páginas, exceto dentro da caixa de imagem de perfil.
Algumas dessas contas têm dezenas de milhares de seguidores que ficam esperando que a imagem do perfil seja alterada para algo ainda mais chocante.
Os usuários comuns conseguem encontrar essas contas assistindo a vídeos que anunciam nomes de usuário que as pessoas "não deveriam pesquisar" para encontrar conteúdos chocantes.
E o problema vai além: esses vídeos estão sendo recomendados pelo algoritmo do TikTok na página "Para Você", que indica conteúdos de acordo com os gostos do usuário.
Especialistas dizem que a tendência é única e revela uma vulnerabilidade desconhecida no TikTok.
"O TikTok tem uma reputação bastante positiva quando se trata de confiança e segurança, então eu não os culparia por não terem políticas e ferramentas de moderação para um fenômeno tóxico do qual eles não tinham conhecimento", disse Roi Carthy, da empresa de moderação de mídia social L1ght.
"Claramente, o TikTok está trabalhando para interromper essa tendência - mas, para os usuários, como sempre, a vigilância é a chave."
O especialista continua: "Os usuários do TikTok devem estar cientes dos riscos da plataforma e os pais devem se esforçar para conhecer quais aplicativos novos seus filhos estão usando, junto com o conteúdo e as dinâmicas humanas a que estão expostos."
O TikTok é um dos aplicativos de crescimento mundial mais rápido, com uma estimativa de 700 milhões de usuários ativos mensais em todo o mundo.
"Banimos permanentemente as contas que tentaram burlar nossas regras por meio de suas fotos de perfil e desativamos hashtags, incluindo #dontsearchthisup", disse o TikTok, em nota.
"Nossa equipe de segurança continua sua análise e seguiremos tomando todas as medidas necessárias para manter nossa comunidade segura."
Desativar uma hashtag significa que o termo não pôde ser encontrado na pesquisa ou criado novamente, acrescentou TikTok.
As equipes de moderação também estão analisando e removendo termos semelhantes que estão sendo usados nesta tendência viral.
A BBC News tentou falar com um usuário que postou um vídeo explícito em seu perfil, mas não recebeu resposta.