O dezvăluire recentă a stârnit o undă de șoc în rândul utilizatorilor ChatGPT. OpenAI a recunoscut că anumite conversații purtate cu chatbotul sunt analizate de moderatori umani și, în cazurile considerate suficient de periculoase, pot fi raportate autorităților. Anunțul, ascuns în mijlocul unei postări de blog despre riscurile utilizării ChatGPT pentru probleme de sănătate mintală, a declanșat o dezbatere intensă privind confidențialitatea, etica și consecințele unor astfel de măsuri.
OpenAI a explicat că atunci când detectează conversații în care utilizatorii par să planifice să rănească alte persoane, acestea sunt direcționate către „canale specializate”. O echipă restrânsă de angajați, instruiți pe baza politicilor interne, are autoritatea de a decide ce se întâmplă mai departe. În situațiile în care este identificată o amenințare iminentă și serioasă, compania poate transmite cazul către forțele de ordine.
Deși măsura are ca scop prevenirea unor tragedii, ea ridică întrebări majore. Cum reușește OpenAI să determine locația exactă a utilizatorilor pentru a alerta autoritățile? Ce garanții există împotriva abuzurilor, cum ar fi situațiile în care cineva ar putea simula intenții violente doar pentru a provoca intervenția poliției împotriva unei alte persoane? Iar cel mai important: în ce măsură această supraveghere subminează însăși ideea de confidențialitate pe care compania a promis-o?
Reacțiile critice și frica de supraveghere extinsă
Reacțiile din mediul online au fost rapide și extrem de critice. Mulți comentatori au atras atenția asupra pericolului de a implica poliția în situații delicate de sănătate mintală, unde o intervenție în forță ar putea duce la consecințe fatale. Exemplele nu lipsesc: în trecut, persoane aflate în criză au fost ucise de agenți de poliție chemați să „intervină”.
Specialiști și intelectuali au taxat decizia OpenAI ca fiind o formă de supraveghere excesivă. „Stalin ar fi fost încântat”, a scris istoricul Katherine Pickering Antonova, subliniind pericolul ca tehnologia să devină o unealtă de control total. Alții au amintit de dezvăluirile lui Edward Snowden despre cooperarea companiilor tech cu serviciile de informații americane, sugerând că nu este deloc paranoic să crezi că datele sensibile ar putea ajunge direct la guvern.
Critici au venit și din partea juriștilor: Stephen Hardwick, avocat de apărare publică, a avertizat că lipsa confidențialității ar putea afecta grav activitatea avocaților care folosesc AI pentru documente legale. Dacă există riscul ca întrebările despre cazuri să fie transmise poliției, utilizarea ChatGPT în domeniul juridic devine o capcană.
Între protecția utilizatorilor și erodarea încrederii publice
Deși unii analiști susțin că OpenAI se află într-o situație imposibilă – criticată atât pentru riscurile lăsării utilizatorilor vulnerabili fără protecție, cât și pentru supravegherea conversațiilor lor – problema reală pare să fie viteza cu care industria AI lansează produse insuficient înțelese. În loc să îmbunătățească tehnologia sau să limiteze utilizările cu potențial nociv, soluția adoptată este una de forță: apelul la poliție.
Pentru mulți utilizatori, concluzia este simplă: ChatGPT și alte instrumente similare nu mai pot fi privite ca spații sigure de confidență, nici măcar pentru întrebări aparent intime sau personale. În loc să ofere liniștea promisă de CEO-ul Sam Altman, care vorbea recent despre confidențialitatea comparabilă cu cea a unui avocat sau medic, OpenAI transmite acum un mesaj total diferit – că ești mereu observat și, în anumite condiții, raportat.
Această tensiune dintre inovație și control, dintre protecția vieților și respectarea vieții private, va marca inevitabil următoarea etapă a dezbaterii globale despre inteligența artificială. Întrebarea esențială rămâne: cât de departe suntem dispuși să mergem în sacrificarea confidențialității pentru siguranță și cine stabilește unde se trage linia?