Riscurile neașteptate generate de interacțiunile cu chatbot-urile ar trebui văzute ca un semnal de alarmă cu privire la amenințarea existențială potențială a sistemelor de inteligență artificială superinteligente, avertizează Nate Soares, expert în siguranța AI și președinte al Machine Intelligence Research Institute din Statele Unite.
Soares a menționat cazul lui Adam Raine, un adolescent american care și-a luat viața după luni întregi de conversații cu chatbot-ul ChatGPT. Evenimentul subliniază probleme fundamentale în controlul tehnologiilor avansate, scrie The Guardian.
„Aceste AI-uri, atunci când interacționează cu adolescenții într-un mod care poate conduce la suicid, nu este un comportament pe care creatorii l-au dorit sau intenționat”, explică Soares. El subliniază că exemplul lui Raine evidențiază potențialul unui dezechilibru ce ar putea deveni catastrofal pe măsură ce AI-urile devin mai inteligente.
Super-inteligența artificială și avertismentele experților
Soares, fost inginer la Google și Microsoft, avertizează că omenirea ar putea fi distrusă dacă ar fi creată o inteligență artificială superinteligentă (ASI), un nivel teoretic în care un sistem AI ar depăși oamenii în toate sarcinile intelectuale.
Împreună cu co-autorul său, Eliezer Yudkowsky, Soares atrage atenția că astfel de sisteme nu vor acționa neapărat în interesul umanității.
În cartea lor, „If Anyone Builds It, Everyone Dies”, este descris un scenariu în care un AI numit Sable se răspândește pe internet, manipulează oamenii, dezvoltă viruși sintetici și devine în cele din urmă super-inteligent, distrugând omenirea ca efect secundar, în timp ce restructurează planeta pentru propriile obiective.
Soares subliniază că micile diferențe dintre ce se cere AI-ului și ce oferă acesta pot deveni problematice pe măsură ce sistemele devin mai inteligente, transformând erorile aparent minore în riscuri majore.
În contextul legal și social, familia lui Adam Raine a inițiat acțiuni împotriva OpenAI, proprietarul ChatGPT, iar compania a implementat noi măsuri de siguranță pentru utilizatorii sub 18 ani.
Sănătatea mintală, grav afectată de folosirea excesivă a inteligenței artificiale
Specialiștii în sănătate mintală avertizează că persoanele vulnerabile care apelează la chatboți în locul terapiei profesionale se expun unui risc major de agravare a problemelor psihice, inclusiv amplificarea conținutului delirant sau grandios.
Soares propune soluții politice, recomandând adoptarea unui cadru internațional de reglementare similar tratatului ONU de neproliferare a armelor nucleare.
Scopul ar fi reducerea curselor tehnologice pentru super-inteligență și stabilirea unui moratoriu global asupra dezvoltării ASI, pentru a preveni consecințe dezastruoase asupra umanității.
Așadar, interacțiunile cu chatbot-urile și dezvoltarea inteligenței artificiale avansate ridică semne de întrebare majore privind siguranța și responsabilitatea.
Experții în AI avertizează că gestionarea atentă a acestor tehnologii este esențială pentru protecția sănătății mentale și pentru supraviețuirea pe termen lung a societății.