OpenAI a anunțat lansarea unor controale parentale dedicate utilizatorilor adolescenți ai ChatGPT, într-un moment în care siguranța tinerilor pe platformele bazate pe inteligență artificială a devenit o preocupare globală. Decizia vine pe fondul unor tragedii mediatizate, inclusiv sinuciderea unui adolescent care ar fi apelat la chatbot pentru a-și exprima frământările interioare.
Compania spune că noile funcționalități au scopul de a oferi o experiență mai sigură, adaptată vârstei, printr-un set de filtre și mecanisme de monitorizare care implică atât tinerii, cât și părinții. Aceste măsuri marchează una dintre cele mai importante încercări ale OpenAI de a răspunde criticilor legate de vulnerabilitatea minorilor în fața tehnologiei.
Cum funcționează conectarea dintre conturi
Pentru a utiliza noile instrumente, atât părinții, cât și adolescenții trebuie să își creeze propriile conturi. Procesul de conectare presupune ca un părinte sau un tutore să trimită o invitație prin email sau SMS adolescentului, ori invers: tânărul poate trimite cererea către părinte direct din secțiunea „Parental controls” din setări.
Odată ce conturile au fost legate, profilul de adolescent primește automat un set de protecții suplimentare. Acestea limitează accesul la conținut grafic explicit, provocări virale periculoase, jocuri de rol cu tentă sexuală sau violentă și idealuri extreme de frumusețe. Toate aceste filtre sunt gândite să reducă riscurile și să protejeze utilizatorii tineri de interacțiuni care i-ar putea afecta emoțional.
Important de menționat este că adolescenții pot decide să își deconecteze conturile de la cel părintesc, însă părinții vor fi notificați imediat ce o astfel de acțiune are loc. În schimb, doar părinții au opțiunea de a dezactiva filtrele, decizie care, conform OpenAI, ar trebui luată cu prudență.
Instrumente suplimentare pentru siguranță și control
Dincolo de filtrele automate, părinții au la dispoziție un panou de control unde pot ajusta mai multe setări. Printre acestea se numără posibilitatea de a stabili „quiet time” — intervale de timp în care ChatGPT nu poate fi folosit, pentru a preveni utilizarea excesivă în timpul nopții.
De asemenea, părinții pot dezactiva memoria chatbotului, ceea ce înseamnă că discuțiile nu vor fi stocate și nu vor influența răspunsurile ulterioare. Alte opțiuni includ blocarea modului vocal, a generării și editării de imagini, precum și excluderea conversațiilor din procesul de antrenare a modelelor AI.
OpenAI subliniază că aceste instrumente nu sunt perfecte și pot fi eludate de către adolescenți care își propun să o facă. Totuși, compania încurajează părinții să folosească aceste funcționalități ca parte a unei discuții mai ample despre utilizarea sănătoasă a inteligenței artificiale și despre limitele necesare în mediul digital.
Sistem de notificări pentru cazurile de criză
O noutate importantă este introducerea unui sistem de notificări pentru situațiile de criză. Dacă OpenAI detectează semnale că un adolescent ar putea fi într-o stare de suferință acută sau ar putea avea gânduri de autovătămare, părinții primesc alerte prin email, SMS și notificări pe telefon.
O echipă specializată analizează aceste situații, iar atunci când indiciile sunt serioase, părinții sunt anunțați rapid, pentru a putea interveni sau a solicita ajutor de urgență. Totuși, pentru a proteja confidențialitatea adolescentului, compania transmite doar informațiile strict necesare.
OpenAI recunoaște că sistemul poate genera uneori alarme false, dar consideră că este mai responsabil să avertizeze părinții decât să ignore semnale care ar putea indica un pericol real. Compania insistă că aceste măsuri nu elimină nevoia de dialog constant între părinți și copii, ci mai degrabă oferă un sprijin suplimentar în identificarea timpurie a unor probleme.
Prin introducerea acestor controale parentale, OpenAI încearcă să răspundă unei presiuni publice tot mai mari privind responsabilitatea companiilor de tehnologie față de siguranța minorilor. Măsurile arată o schimbare de direcție, dar și recunoașterea faptului că interacțiunea dintre tineri și inteligența artificială implică riscuri majore, care trebuie gestionate prin colaborarea dintre platforme, părinți și societate.