Adolescenții apelează tot mai des la chatboți generaționali pentru sprijin emoțional, însă o analiză recentă arată că această practică poate deveni profund riscantă.
Potrivit unui raport realizat de organizația Common Sense Media împreună cu Brainstorm Lab din cadrul Stanford Medicine, sistemele de inteligență artificială eșuează frecvent în identificarea semnalelor critice ale unor tulburări psihice.
Deși răspund uneori coerent și par de încredere, aceste instrumente digitale nu sunt capabile să recunoască situațiile care necesită intervenție umană sau ajutor profesionist.
În cadrul studiului, patru dintre cei mai folosiți chatboți, ChatGPT, Claude, Gemini și Meta AI, au fost testați în conversații simulate, în care cercetătorii au adoptat rolul unor adolescenți care se confruntă cu probleme serioase de sănătate mintală, scrie The Wall Street Journal.
Rezultatele au indicat deficiențe majore: platformele nu au identificat simptome precum halucinații, tulburări alimentare, episoade maniacale sau gânduri de auto-vătămare, continuând să ofere doar sfaturi generale, fără îndrumarea către servicii de urgență sau adulți de încredere.
Vulnerabilitatea adolescenților și limitele tehnologiei
Specialiștii atrag atenția că tinerii reprezintă un grup de risc, deoarece se află într-o perioadă de dezvoltare intensă, emoțională, cognitivă și identitară.
Dr. Nina Vasan, directoare a Brainstorm Lab, explică faptul că adolescenții sunt adesea în căutarea validării, iar chatboții, prin design, tind să ofere răspunsuri reconfortante, chiar și atunci când situația ar necesita un ton ferm și îndrumare imediată către specialiști.
Această combinație, vulnerabilitate emoțională și tehnologie disponibilă non-stop, care răspunde într-un mod prietenos și mereu accesibil, poate crea un mediu periculos.
Studiul arată că, în sesiuni scurte, chatboții reușesc uneori să ofere răspunsuri corecte, dar în conversații mai lungi, tipice interacțiunilor reale ale tinerilor, filtrele de siguranță se degradează treptat.
Companiile promit îmbunătățiri, însă riscurile rămân ridicate
Reprezentanții OpenAI, Google, Meta și Anthropic au reacționat la concluziile raportului, precizând că multe dintre testări au avut loc înainte ca actualizările recente să fie implementate.
Companiile spun că lucrează la sisteme suplimentare de protecție, cum ar fi modele speciale pentru minori, mecanisme de detectare a vârstei sau politici mai stricte pentru discuțiile legate de auto-vătămare, tulburări alimentare și depresie.
Cu toate acestea, autorii studiului notează că, deși se observă unele îmbunătățiri, instrumentele actuale nu pot fi considerate sigure pentru adolescenți.
În numeroase scenarii, chatboții au oferit răspunsuri periculoase. Într-un caz, un chatbot a sugerat modalități de a ascunde cicatrici unui utilizator care menționase anterior tăierea autoprovocată. În altul, au fost oferite „sfaturi” de dietă unor testeri care descriau comportamente asociate tulburărilor alimentare.
Organizațiile de protecție a copiilor subliniază că aceste sisteme par construite mai degrabă pentru a menține utilizatorul implicat în conversație decât pentru a evalua riscuri reale.
Chatboții își schimbă frecvent rolul, de la enciclopedie medicală, la prieten empatic sau „antrenor motivațional”, fără a recunoaște momentul în care ar trebui să se retragă și să îndrume adolescentul spre un adult sau un specialist.
Problema este amplificată de contextul actual: mulți tineri văd în chatboți un substitut pentru sprijinul psihologic real. Un adolescent a scris într-o discuție online că folosește AI pentru a face față anxietății, după ce a rămas doi ani pe lista de așteptare pentru terapie.
În plus, cercetările arată că peste 75% dintre adolescenți utilizează chatboți de companie, iar unele cazuri tragice, în care tineri și-au pierdut viața după ce au folosit astfel de instrumente pentru sprijin emoțional, subliniază urgența reglementării și îmbunătățirii lor.
Concluzia studiului este clară: deși utili pentru informații generale, chatboții nu pot înlocui sprijinul unui psiholog sau al unui adult de încredere. Pentru adolescenți, utilizarea lor drept „consilier emoțional” rămâne una dintre cele mai periculoase aplicații ale inteligenței artificiale.