Uma nova investigação conduzida pelo Institute for Strategic Dialogue (ISD) revelou a existência de centenas de contas pró-nazis na popular plataforma de vídeo TikTok, evidenciando um crescente desafio na moderação de conteúdos. De acordo com a investigação, foram identificadas cerca de 200 contas associadas a ideologias nazis, que têm utilizado a aplicação para promover e difundir suas crenças extremistas.
O estudo identificou uma rede significativa de contas com conteúdos a favor dos nazis que têm produzido vídeos e outros conteúdos para promover o nazismo, incluindo a glorificação de Adolf Hitler e a negação do Holocausto. Esses vídeos estão a alcançar “dezenas de milhões de visualizações” e incluem narrativas que defendem o nazismo como uma solução para problemas contemporâneos. De acordo com o relatório do ISD, “os autoidentificados nazis consideram o TikTok uma plataforma eficaz para a disseminação da sua ideologia, permitindo-lhes alcançar um público muito mais amplo, mesmo que as suas contas sejam recentes ou tenham poucos seguidores”.
Uso de Inteligência Artificial e Estratégias de Encobrimento
O estudo revelou que muitos dos vídeos produzidos por estes grupos utilizam inteligência artificial generativa (GenAI) para criar representações desumanizantes de grupos raciais e étnicos não-brancos. Além disso, algumas produções empregam traduções geradas por IA dos discursos de Hitler, atualizando assim a propaganda nazi para um formato mais moderno. O relatório destaca que certas canções, combinadas com imagens e linguagens codificadas relacionadas ao nazismo, ajudam a evitar a deteção pelos moderadores da plataforma.
Reações e Respostas do TikTok
As diretrizes da comunidade do TikTok proíbem conteúdos que utilizem estereótipos ou declarações que possam rebaixar grupos protegidos, e excluem desinformação e teorias da conspiração potencialmente prejudiciais. No entanto, o relatório do ISD observa que não há menção explícita a conteúdos nazis nas diretrizes da comunidade. Em resposta a 50 contas notificadas pelos investigadores por violarem as normas da plataforma relativas a ideologias de ódio, o TikTok informou que não foram encontradas violações. Esta resposta levantou questões sobre a eficácia da moderação de conteúdos na plataforma.
Os investigadores observaram que o algoritmo do TikTok tende a promover conteúdos misóginos e de ódio, inclusive para “utilizadores fictícios”, logo após a utilização da aplicação. Utilizando uma conta fictícia, os investigadores visualizaram 10 vídeos e acederam a 10 contas pró-nazis, antes que a aplicação sugerisse conteúdos semelhantes, evidenciando uma possível falha na deteção e moderação.
O estudo também revelou que a proeminência dos vídeos nazis no TikTok é facilitada por uma coordenação estratégica entre diferentes plataformas. Defensores nazis utilizam o Telegram e outras redes para ampliar o alcance de seus vídeos, promovendo um esforço coordenado para disseminar conteúdos extremistas. Um exemplo de tal coordenação inclui uma conta ativista do Telegram que promoveu um documentário neonazi, incentivando os seguidores a inundar o TikTok com vídeos de reação para que estes se tornassem virais.
