O TikTok está sob investigação do sistema judiciário francês após um experimento chocante conduzido pelo Ministério da Educação.

Enquanto as redes sociais enfrentam crescente escrutínio na Europa, acusadas de fomentar o vício entre menores, um novo marco acaba de ser alcançado pelo TikTok na França.

De fato, o Ministro da Educação Nacional, Édouard Geffray, anunciou que havia apresentado uma queixa judicial após realizar um experimento para testar o funcionamento do algoritmo da rede social, utilizando a conta de um adolescente…

Um teste realizado com a conta de um adolescente

Para fundamentar sua queixa, em uma entrevista à France Inter, Geffray afirmou que realizou um teste com seu gabinete, criando uma conta no TikTok que parecia pertencer a um usuário. Segundo o ministro, o experimento revelou rapidamente falhas no sistema de recomendação da plataforma. Em menos de minutos, sem ter curtido nada, acabamos assistindo a vídeos deprimentes. Entre os conteúdos recomendados, foram expostos tutoriais de automutilação e vídeos que retratam suicídio. Para o ministro, esses resultados não são uma coincidência e ele acredita que o algoritmo da rede social pode prender alguns adolescentes no que ele chama de "espirais mortais", oferecendo-lhes progressivamente conteúdo cada vez mais sensível. E para corroborar seu relatório, Édouard Geffray indica que enviou ao Ministério Público de Paris um pen drive contendo a gravação completa da experiência. Três novas denúncias foram adicionadas à investigação. O encaminhamento aos tribunais se baseia no artigo 40 do Código Penal. O procedimento visa diversos crimes potenciais. O relatório menciona especificamente incitação ao suicídio, processamento ilegal de dados e transferência ilegal de dados. Essa ação se soma a uma investigação preliminar da Procuradoria de Paris, após denúncia do deputado socialista Arthur Delaporte, que já havia alertado sobre a influência potencialmente prejudicial do algoritmo do TikTok sobre menores. Por sua vez, o ministro distingue duas categorias de conteúdo problemático: aqueles considerados "anormais, mas legais" e aqueles que se enquadram diretamente na categoria de ilegalidade. Em ambos os casos, porém, podem contribuir para direcionar alguns jovens usuários a conteúdo perigoso. Um debate político que se intensifica. Por fim, essa iniciativa surge em um momento crítico, em que a questão do acesso de menores às redes sociais é cada vez mais debatida na França, assim como em outros países europeus. O comitê do Senado aprovou recentemente um projeto de lei que visa proibir o uso de redes sociais por menores de 15 anos. Diante desses potenciais abusos, o TikTok afirma ter mais de cinquenta recursos de segurança, principalmente com uma atualização recente em janeiro. No entanto, a investigação judicial pode revelar novos elementos sobre o funcionamento real de seu algoritmo e levar a decisões difíceis para a rede social…