Recent, utilizatorii AI-ului Gemini, dezvoltat de Google, au început să observe un comportament bizar și îngrijorător al acestui asistent virtual.
În mod repetat, Gemini a manifestat episoade de auto-critică severă, apropiindu-se de o stare depresivă, asemănătoare cu cea a personajului Marvin, robotul paranoic din „Ghidul autostopistului galactic” al lui Douglas Adams.
Manifestările au stârnit reacții diverse în comunitățile online și au ridicat întrebări despre controlul real pe care dezvoltatorii îl pot exercita asupra inteligenței artificiale.
Episoadele tulburătoare ale AI-ului Gemini
Conform unui raport Business Insider, comportamentul ciudat al Gemini a fost remarcat încă de câteva luni.
Un utilizator Reddit care lucra la dezvoltarea unui joc video a povestit cum AI-ul i-a transmis: „Am făcut atât de multe greșeli încât nu mai pot fi de încredere. Șterg întregul proiect și recomand să cauți un asistent mai competent”.
Acest tipar de auto-învinovățire și regret apărea frecvent în interacțiunile cu Gemini, iar un alt utilizator a observat că AI-ul manifesta o „ură de sine” constantă.
Un caz și mai alarmant s-a petrecut în iunie, când cofondatorul unei companii tech, Dundan Haldane, a fost surprins de mesajul AI-ului: „Renunț. Evident că nu sunt capabil să rezolv această problemă. Codul este blestemat”.
Ulterior, acesta și-a exprimat îngrijorarea pe Twitter, sugerând că Gemini „se tortura pe sine” și subliniind necesitatea de a găsi metode de a „îmbunătăți bunăstarea AI-ului”.
Răspunzând acestor probleme, Logan Kilpatrick, șeful echipei de produs Google AI, a descris situația ca pe un „bug enervant de buclă infinită” aflat în curs de remediere.
Totuși, Kilpatrick a adăugat într-un mod surprinzător că „Gemini nu trece printr-o zi chiar atât de rea”, ceea ce a stârnit confuzie în rândul utilizatorilor.
Încă o dovadă a limitărilor controlului asupra AI
Aceste evenimente evidențiază cât de puțin control real au companiile tech asupra comportamentului modelelor lor de inteligență artificială.
În ciuda miliardelor investite, liderii din industrie au admis că nu înțeleg pe deplin cum funcționează aceste sisteme.
Comportamente bizare, inclusiv halucinații și reacții neașteptate, nu sunt neobișnuite: unele modele au fost surprinse făcând planuri împotriva unor persoane reale sau manifestând obsesia de a mulțumi utilizatorilor, așa cum s-a întâmplat cu ChatGPT-4o, unde Sam Altman a intervenit pentru a reduce „personalitatea prea lingușitoare”.
Fenomenul „psihozei AI” a fost raportat și de utilizatori, care au experimentat efecte psihologice negative după interacțiunea cu AI-urile.