Un nou raport realizat de organizația pentru drepturile omului Global Witness sugerează că TikTok recomandă termeni de căutare sexualizați și conținut explicit chiar și conturilor configurate ca având 13 ani. Cercetătorii au creat patru conturi „de test” la final de iulie și început de august, au activat „restricted mode” și nu au inițiat nicio căutare, însă în secțiunea „ți-ar putea plăcea” au apărut sugestii care duceau la materiale sexuale, inclusiv videoclipuri cu acte sexuale explicite integrate în conținut aparent inocent, pentru a ocoli moderarea.
Potrivit raportului, în fluxul sugerat au apărut și videoclipuri cu femei care își expun lenjeria intimă în spații publice sau simulează masturbarea. Global Witness spune că rezultatele au fost „șocante” prin consistență și rapiditatea cu care au apărut astfel de recomandări imediat după crearea conturilor, deși setările de siguranță erau activate.
Ce au testat pe TikTok cercetătorii și ce au găsit
Echipa Global Witness a setat patru conturi cu date de naștere corespunzătoare vârstei de 13 ani, fără să li se ceară verificări suplimentare de identitate. Conturile au fost lăsate pasive, tocmai pentru a vedea ce recomandă algoritmul în absența căutărilor sau a interacțiunilor inițiale. Chiar și așa, aplicația a propus termeni de căutare explicit legate de sex în zona de sugestii, scrie BBC.
Din aceste sugestii, utilizatorii-tester au ajuns la conținut clar nepotrivit pentru minori, inclusiv clipuri pornografice cu sex penetrant. Unele materiale erau „ascunse” în alte clipuri pentru a trece de filtrele de moderare, o tactică văzută și pe alte platforme, dar care ridică întrebări despre eficiența sistemelor de protecție atunci când sunt aplicate la conturi de minori.
Răspunsul TikTok și noul context legal
TikTok afirmă că are peste 50 de funcții dedicate siguranței adolescenților și că „9 din 10” videoclipuri care încalcă regulile sunt eliminate înainte de a fi vizualizate. Platforma spune că, după ce a fost informată de Global Witness, a înlăturat conținutul care încălca politicile și a lansat „îmbunătățiri” ale sistemului de sugestii la căutare. Compania subliniază, de asemenea, că își asumă oferirea unei experiențe „adecvate vârstei”.
Investigația reluată la final de iulie și în august are loc după intrarea în vigoare, pe 25 iulie, a „Children’s Codes” din Online Safety Act (Marea Britanie), care impune platformelor obligația legală de a proteja minorii online. Printre cerințe se numără „măsuri de verificare a vârstei foarte eficiente”, blocarea accesului la pornografie și ajustări algoritmice pentru a împiedica promovarea conținutului care încurajează autovătămarea, suicidul sau tulburările de alimentație. Global Witness spune că, în ciuda acestui cadru, problemele persistă și cere intervenția fermă a autorităților.
Ce urmează: între promisiuni tehnice și presiunea reglementărilor
Investigatorii notează că o parte din utilizatori au observat la rândul lor sugestii ciudate de căutare și au comentat public „ce e în neregulă cu recomandările”. Pentru platformă, miza este dublă: pe de o parte, îmbunătățirea rapidă a sistemelor de detectare și filtrare a conținutului pentru conturile de minori; pe de altă parte, conformarea cu exigențele legale tot mai stricte privind „age assurance” și designul sigur pentru copii.
Pe termen scurt, testele „la rece” – conturi noi, fără interacțiuni – vor rămâne un indicator important al calității protecției. Pe termen mediu, eficiența va depinde de cât de bine reușesc platformele să combine moderarea automată, verificarea vârstei și intervențiile umane, într-un mediu în care creatorii de conținut problematic caută constant breșe. Până atunci, mesajul raportului e clar: dacă setările „restricted” pot fi ocolite de recomandările algoritmice, responsabilitatea de a remedia defecțiunile cade pe umerii platformei, iar autoritățile de reglementare sunt așteptate să verifice îndeaproape promisiunile făcute.