A organização sem fins lucrativos AI Forensics identificou 354 contas dedicadas à publicação de conteúdo gerado por inteligência artificial no TikTok. Ao todo, esses perfis acumularam aproximadamente 4,5 bilhões de visualizações em um único mês.
O estudo revela que essas contas produziram 43 mil postagens, incluindo material anti-imigração e de teor sexual. Além disso, esses usuários não identificaram grande parte dos conteúdos como gerados por ferramentas de IA.
A investigação conduzida pela entidade sediada em Paris detectou que algumas dessas contas publicam até 70 vezes por dia. Outro padrão de comportamento é a realização de posts sempre nos mesmos horários, indicando que há algum nível de automação. Conforme reportado pelo jornal The Guardian, os pesquisadores observaram que esses perfis buscam manipular o algoritmo da plataforma para viralizar conteúdo e obter ganhos financeiros.
A maioria das contas alvo de análise iniciou suas atividades no começo de 2025. Elas promovem desde suplementação alimentar através de influenciadores falsos até ferramentas para criação de conteúdo de IA.
Em novembro de 2025, o TikTok informou que sua plataforma contém pelo menos 1,3 bilhão de publicações geradas por IA. A empresa implementou recursos para que usuários possam reduzir a quantidade desse tipo de conteúdo em seus feeds.
Grande parte do conteúdo não apresenta rótulos de geração por IA
Metade das dez contas mais ativas identificadas no estudo se concentra na categoria “corpo feminino”. “Essas mulheres criadas por IA são sempre estereotipadamente atraentes, com roupas sexualizadas ou decotes”, destaca o relatório.
A pesquisa revelou que menos de 2% das publicações analisadas contêm o rótulo oficial do TikTok para conteúdo de IA. Além disso, metade do material publicado não apresentava qualquer tipo de identificação sobre sua origem artificial.
Considerando que a plataforma recebe mais de 100 milhões de novos conteúdos diariamente, o material identificado como criado por IA representa uma parcela relativamente pequena do total disponível.
Após a divulgação do estudo, dezenas das contas identificadas foram excluídas, sugerindo ação dos moderadores. O jornal The Guardian também reportou algumas publicações ao TikTok, que não estão mais no ar.
As contas mais populares destacadas pelaAI Forensics publicaram o que os pesquisadores chamaram de “slop”, ou seja, conteúdo gerado por IA considerado absurdo e criado para poluir os feeds de mídia social, embora parte desse material fosse classificado como “divertido” e “fofo”.
“Esta investigação mostra como o conteúdo de IA está agora integrado em plataformas e em um ecossistema de viralização mais amplo”, afirmou a AI Forensics. “A linha cada vez mais tênue entre conteúdo humano autêntico e conteúdo sintético gerado por IA na plataforma sinaliza uma nova tendência em direção a um aumento de conteúdo gerado por IA nos feeds dos usuários”.
TikTok critíca relatório da AI Forensics
O TikTok contestou as conclusões do relatório, classificando as alegações como “infundadas”. A plataforma chinesa argumentou que os pesquisadores a escolheram para abordar um problema que afeta diversos serviços online.
“No TikTok, removemos conteúdo prejudicial gerado por inteligência artificial (AIGC), bloqueamos a criação de centenas de milhões de contas de bots, investimos em tecnologias de rotulagem de IA líderes do setor e capacitamos as pessoas com ferramentas e educação para controlar como elas interagem com esse conteúdo em nossa plataforma”, declarou um porta-voz da empresa.
A AI Forensics expressou dúvidas sobre a eficácia das medidas atuais: “Considerando a quantidade estrutural e não desprezível de falhas na identificação desse conteúdo, permanecemos céticos quanto ao sucesso desse recurso“. A organização sugere que “as plataformas precisam ir além de rótulos fracos ou opcionais de ‘conteúdo de IA’ e considerar a segregação do conteúdo gerado por IA do material criado por humanos, ou encontrar um sistema justo que imponha uma rotulagem sistemática e visível do conteúdo de IA”.
