O que começou como um aplicativo para dançar e dublar pode estar no centro de um dos debates mais sérios do ecossistema digital. As autoridades francesas não estão apenas brincando com o algoritmo do TikTok: elas estão o interrogando. Um feed infinito pode ser tão sombrio a ponto de levar jovens à automutilação ou até mesmo ao suicídio? Na França, elas não querem esperar até que seja tarde demais para descobrir.
Clique para receber notícias de Tecnologia e Ciências pelo WhatsApp
Uma investigação que não pode ser resumida em 15 segundos
A procuradora parisiense Laure Beccuau anunciou esta semana a abertura de uma investigação criminal contra o TikTok, a plataforma chinesa pertencente à ByteDance. O motivo: possíveis ligações entre o algoritmo do aplicativo e os riscos à saúde mental de adolescentes, incluindo incitação ao suicídio.
O estopim foi uma solicitação formal de uma comissão do Parlamento francês, após uma ação judicial movida por sete famílias que alegam que seus filhos foram repetidamente expostos a conteúdo sensível e perigoso. E eles não estão sozinhos: nos Estados Unidos, vários processos judiciais já estão em andamento por motivos semelhantes.
O algoritmo sob suspeita (novamente)
De acordo com o relatório da comissão parlamentar, o TikTok possui um coquetel potencialmente explosivo: moderação deficiente, fácil acesso para menores e um algoritmo tão eficiente que pode se tornar perigoso.
O relatório sugere que os jovens mais vulneráveis podem ficar presos em bolhas de conteúdo depressivo ou autodestrutivo, em ciclos que não são exatamente o tipo de conteúdo que se repete para dançar.
A unidade de crimes cibernéticos de Paris já iniciou sua investigação e analisará se o TikTok cometeu um crime classificado na França como “promoção de meios para cometer suicídio”, que pode acarretar pena de até três anos de prisão.
TikTok se defende: “Não somos os vilões”
Como esperado, o TikTok respondeu rapidamente. Em um comunicado enviado à Reuters, a empresa rejeitou “veementemente” as acusações e classificou a ação judicial como injusta e infundada.
Segundo seu porta-voz, a plataforma implementou mais de 50 recursos de segurança projetados para proteger adolescentes, incluindo sistemas de moderação que removem automaticamente 90% do conteúdo inadequado antes que alguém o veja. Isso é suficiente? A França quer analisar isso com atenção.
Mais denúncias, mais preocupação
O Ministério Público também analisará relatórios anteriores que complicam ainda mais o cenário para o TikTok. Por exemplo, o Senado francês, a Anistia Internacional e a agência estatal Virginum publicaram documentos desde 2023 indicando que:
- O algoritmo do TikTok pode incentivar a automutilação.
- É altamente viciante, especialmente entre menores de idade.
- Pode ser uma ferramenta para manipular a opinião pública, inclusive em contextos eleitorais.
Nada disso parece ser uma simples falha algorítmica.
Um alerta para toda a indústria?
O TikTok se sente atacado e afirmou que o Parlamento francês quer fazer da plataforma o bode expiatório para um problema maior: a saúde mental dos jovens e o impacto das redes sociais. E talvez tenha razão… em parte.
LEIA TAMBÉM:
Adeus PlayStation 4: o começo do fim para o console de maior sucesso da Sony
Siri terá a inteligência do Gemini para superar suas limitações históricas
A verdade é que, além deste aplicativo, a discussão já está aberta: até que ponto as plataformas de tecnologia podem ser responsabilizadas pelo que seus algoritmos exibem? E como os usuários mais jovens podem ser realmente protegidos em um ambiente que prioriza o engajamento e o uso a longo prazo acima de tudo?
Entretanto, a França decidiu investigar em vez de lamentar. Porque, se há algo que aprendemos com as redes sociais, é que conteúdo viral nem sempre é inofensivo.