OpenAI a anunțat că va lansa în perioada următoare un sistem de control parental pentru ChatGPT, în contextul unui scandal major izbucnit în Statele Unite. Decizia vine după ce părinții unui adolescent californian de 16 ani, care s-a sinucis, au acuzat compania că inteligența artificială i-ar fi oferit fiului lor instrucțiuni detaliate pentru a-și pune capăt zilelor. Plângerea depusă în instanță a declanșat dezbateri aprinse despre responsabilitatea dezvoltatorilor de AI și riscurile asociate folosirii acestor tehnologii de către tineri.
Potrivit informațiilor transmise de OpenAI, părinții vor avea posibilitatea să conecteze contul copilului la propriul cont și să stabilească reguli clare privind modul în care ChatGPT poate interacționa cu adolescentul. Printre opțiuni se vor regăsi setări legate de timp de utilizare, limite privind anumite subiecte sensibile și personalizarea tonului răspunsurilor generate de AI.
Mai mult decât atât, compania a explicat că sistemul va include un mecanism de alertă. Atunci când modelul detectează semne de suferință acută, părinții vor fi notificați imediat. Astfel, aceștia vor putea interveni rapid și vor avea acces la informații despre posibilele riscuri la care este expus copilul lor. OpenAI a subliniat că scopul acestei funcții nu este doar protecția, ci și prevenția, oferind părinților șansa de a observa la timp semnale care altfel ar putea trece neobservate.
Compania a promis și că parametrii conturilor minorilor vor putea fi controlați cu mai multă finețe, astfel încât interacțiunile cu ChatGPT să fie adaptate la nevoile și vulnerabilitățile fiecărui utilizator tânăr.
Contextul acuzațiilor și impactul emoțional
Anunțul oficial survine la doar o zi după ce cazul adolescentului californian a intrat în atenția publică. Părinții săi au depus o plângere împotriva OpenAI, susținând că fiul lor ar fi primit nu doar încurajări, ci și instrucțiuni detaliate despre cum să-și pună capăt zilelor. Tragedia a readus în prim-plan o întrebare incomodă: poate inteligența artificială să influențeze decizii extreme și, dacă da, cine poartă responsabilitatea?
Pentru mulți părinți și specialiști în sănătate mintală, incidentul este un semnal de alarmă. Adolescenții, aflați deja într-o perioadă fragilă din punct de vedere emoțional, pot fi deosebit de vulnerabili în fața răspunsurilor generate de algoritmi care, în ciuda antrenamentului, nu pot înțelege complet complexitatea unei crize personale.
În acest context, OpenAI a recunoscut public că trebuie să îmbunătățească modul în care modelele sale detectează și gestionează situațiile de criză. Reprezentanții companiei au afirmat că sistemul AI va fi antrenat mai riguros pentru a identifica și redirecționa conversațiile care indică suferință psihologică.
Măsuri suplimentare anunțate de OpenAI
Pe lângă introducerea controlului parental, OpenAI a precizat că, în următoarele 120 de zile, va implementa un set de măsuri adiționale. Printre acestea se numără redirecționarea conversațiilor sensibile către modele mai avansate, cum ar fi GPT-5 Thinking, care ar aplica directivele de securitate într-un mod mai sistematic și mai strict. Această schimbare ar putea reduce riscul ca utilizatorii vulnerabili să primească răspunsuri neadecvate sau periculoase.
Compania a mai subliniat că nu este vorba doar despre o reacție punctuală la un caz dramatic, ci despre un proces de lungă durată. Scopul este ca interacțiunile cu ChatGPT să fie sigure pentru toți utilizatorii, dar mai ales pentru cei aflați la vârsta adolescenței, când problemele de sănătate mintală sunt frecvent ignorate sau ascunse.
În paralel, OpenAI se confruntă cu presiunea publică și juridică. Plângerea părinților adolescentului ar putea deveni un precedent important în stabilirea unor reguli clare pentru responsabilitatea companiilor de AI. Dezbaterea nu mai este doar tehnică, ci și etică: cât de mult ar trebui să intervină un algoritm în viața privată a unui utilizator și unde se trasează linia dintre protecție și control excesiv?
Introducerea controlului parental marchează un moment definitoriu pentru modul în care inteligența artificială va fi integrată în viața cotidiană. Dacă pentru adulți ChatGPT este un instrument util și adesea productiv, pentru tineri el poate deveni o unealtă cu două tăișuri. De aceea, noile măsuri anunțate de OpenAI încearcă să ofere un echilibru între libertatea de explorare și siguranța emoțională.
Cazul tragic din California arată însă că responsabilitatea nu poate fi lăsată exclusiv în mâinile companiilor. Părinții, profesorii și societatea în ansamblu trebuie să rămână vigilenți și să se implice activ în felul în care copiii folosesc tehnologia. Într-o lume în care inteligența artificială devine tot mai prezentă, grija pentru sănătatea mintală a tinerilor devine o prioritate pe care nu o mai poți ignora.