Intr-o zi din toamna anului 2021, Stephanie Mistre si-a gasit fiica in varsta de 15 ani, Marie, fara viata in dormitorul ei. Adolescenta se sinucisese. „Am trecut de la lumina la intuneric intr-o fractiune de secunda”, a spus Mistre, descriind acea zi care a marcat inceputul luptei sale impotriva TikTok, aplicatia video detinuta de chinezi pe care o invinuieste ca a impins-o pe fiica sa spre disperare.
Cercetand telefonul fiicei sale dupa moartea acesteia, Mistre a descoperit videoclipuri care promovau metode de sinucidere, tutoriale si comentarii care incurajau utilizatorii sa mearga dincolo de simple tentative de sinucidere. Ea a spus ca algoritmul TikTok a dirijat intentionat, in mod repetat, astfel de continut catre fiica ei.
„A fost o spalare a creierului”, spune Mistre, care locuieste in Cassis, langa Marsilia, in sudul Frantei. Acum, femeia, care este divortata, si alte sase familii dau in judecata TikTok, acuzand platforma ca nu a moderat continutul daunator si ca a expus copiii la materiale care le pun viata in pericol. Dintre cele sapte familii, doua au suferit pierderea unui copil.
Intrebat despre proces, TikTok a declarat ca liniile sale directoare interzic orice promovare a sinuciderii si ca a angajat 40 000 de profesionisti in domeniul increderii si sigurantei in intreaga lume, dintre care sute sunt moderatori vorbitori de limba franceza, pentru a elimina postarile periculoase. De asemenea, compania a declarat ca indruma utilizatorii care cauta videoclipuri legate de sinucidere catre servicii de sanatate mintala.
Inainte de a se sinucide, Marie Le Tiec a realizat mai multe videoclipuri pentru a-si explica decizia, mentionand diverse dificultati din viata ei si citand un cantec al grupului emo rap Suicideboys, din Louisiana, care este foarte popular printre adolescentii de pe TikTok, scrie Associated Press.
Avocata Laure Boutron-Marmion, reprezentanta celor sapte familii care au dat in judecata TikTok, a declarat ca dosarul lor se bazeaza pe dovezi ample. Compania „nu se mai poate ascunde in spatele afirmatiei ca nu este responsabilitatea sa deoarece nu creeaza continutul, a declarat Boutron-Marmion.
Avocata sustine ca algoritmul TikTok este conceput pentru a prinde utilizatorii vulnerabili in cicluri de disperare pentru profit si solicita despagubiri pentru familii. „Strategia lor este insidioasa”, spuneMistre. „Ei atrag copiii in continut depresiv pentru a-i mentine cat mai mult timp pe platforma.”
Boutron-Marmion a observat ca versiunea chineza a TikTok, Douyin, ofera un control mult mai strict al continutului pentru utilizatorii tineri. Aceasta include un mod pentru tineri, obligatoriu pentru utilizatorii sub 14 ani, care limiteaza timpul petrecut pe ecran la 40 de minute pe zi si ofera numai continut aprobat.
„Aceasta dovedeste ca TikTok poate modera continutul atunci cand doreste”, a declarat Boutron-Marmion. „Absenta acestor masuri de protectie in acest caz este revelatoare.”
Un raport intitulat „Copiii si ecranele”, comandat de presedintele francez Emmanuel Macron in aprilie, a concluzionat ca anumite functii algoritmice ar trebui considerate generatoare de dependenta si interzise din orice aplicatie din Franta. Raportul a solicitat, de asemenea, restrictionarea accesului la retelele sociale pentru minorii sub 15 ani din Franta. Niciuna dintre aceste masuri nu a fost adoptata pana in prezent.