O TikTok está banindo usuários que têm aproveitado uma brecha na moderação de conteúdos proibidos por meio da publicação de vídeos pornográficos e violentos como imagens de perfil.

A BBC News alertou o aplicativo sobre a febre "não pesquise isso", que se espalha pelo TikTok e já acumula quase 50 milhões de visualizações.

A empresa baniu as hashtags usadas para promover perfis com conteúdos ofensivos e está excluindo os vídeos impróprios.

Usuários ouvidos pela reportagem dizem que a tendência tem incentivado perfis a postarem os materiais mais ofensivos e nojentos que puderem encontrar.

A BBC News viu, por exemplo, clipes de pornografia pesada aparecendo como imagens de perfil no aplicativo, bem como um vídeo do grupo autodenominado Estado Islâmico que mostra o assassinato do piloto jordaniano Muadh al-Kasasbeh, que foi queimado até a morte em uma espécie de gaiola em 2015.

'Especialmente preocupante'

Tom, um adolecente da Alemanha que foi o primeiro a entrar em contato com a BBC para falar do assunto, disse que encontrou diversos vídeos mostrando sangue e atos pornográficos.

"Fico muito preocupado porque há muitas crianças usando o TikTok. Acho especialmente preocupante ver posts com milhões de visualizações indicando esses perfis. E o TikTok demora séculos para agir."

Tom diz que reportou vários perfis para o app por publicações ofensivas como imagens de perfil.

A BBC News identificou publicações do tipo em ingês e espanhol.

As contas ofensivas costumam ser nomeadas com uma mistura aleatória de caracteres e palavras e não têm vídeos reais do TikTok em suas páginas, exceto dentro da caixa de imagem de perfil.

Algumas dessas contas têm dezenas de milhares de seguidores que ficam esperando que a imagem do perfil seja alterada para algo ainda mais chocante.

Os usuários comuns conseguem encontrar essas contas assistindo a vídeos que anunciam nomes de usuário que as pessoas "não deveriam pesquisar" para encontrar conteúdos chocantes.

E o problema vai além: esses vídeos estão sendo recomendados pelo algoritmo do TikTok na página "Para Você", que indica conteúdos de acordo com os gostos do usuário.

Especialistas dizem que a tendência é única e revela uma vulnerabilidade desconhecida no TikTok.

"O TikTok tem uma reputação bastante positiva quando se trata de confiança e segurança, então eu não os culparia por não terem políticas e ferramentas de moderação para um fenômeno tóxico do qual eles não tinham conhecimento", disse Roi Carthy, da empresa de moderação de mídia social L1ght.

"Claramente, o TikTok está trabalhando para interromper essa tendência - mas, para os usuários, como sempre, a vigilância é a chave."

O especialista continua: "Os usuários do TikTok devem estar cientes dos riscos da plataforma e os pais devem se esforçar para conhecer quais aplicativos novos seus filhos estão usando, junto com o conteúdo e as dinâmicas humanas a que estão expostos."

O TikTok é um dos aplicativos de crescimento mundial mais rápido, com uma estimativa de 700 milhões de usuários ativos mensais em todo o mundo.

"Banimos permanentemente as contas que tentaram burlar nossas regras por meio de suas fotos de perfil e desativamos hashtags, incluindo #dontsearchthisup", disse o TikTok, em nota.

"Nossa equipe de segurança continua sua análise e seguiremos tomando todas as medidas necessárias para manter nossa comunidade segura."

Desativar uma hashtag significa que o termo não pôde ser encontrado na pesquisa ou criado novamente, acrescentou TikTok.

As equipes de moderação também estão analisando e removendo termos semelhantes que estão sendo usados nesta tendência viral.

A BBC News tentou falar com um usuário que postou um vídeo explícito em seu perfil, mas não recebeu resposta.