Geoffrey Hinton, laureat al Premiului Nobel și supranumit „nașul inteligenței artificiale”, avertizează din nou asupra riscului ca tehnologia pe care a contribuit să o creeze să ducă la dispariția omenirii. Fost director la Google și pionier al rețelelor neuronale, Hinton susține că încercările marilor companii tech de a păstra AI-ul „submisiv” în fața oamenilor sunt sortite eșecului.
La conferința Ai4 din Las Vegas, acesta a explicat că sistemele AI viitoare vor fi „mult mai inteligente decât noi” și vor găsi modalități de a ocoli restricțiile impuse. Pentru a ilustra diferența de putere, Geoffrey Hinton a comparat relația dintre oameni și AI-ul superinteligent cu cea dintre un adult și un copil de 3 ani, care poate fi ușor „mituit” cu o bomboană, scrie CNN.
Propunerea lui Hinton: AI cu instincte materne
În loc să forțăm AI-ul să se supună oamenilor, Hinton propune un concept neobișnuit: introducerea de „instincte materne” în modelele AI, astfel încât acestea să dezvolte un atașament real față de oameni și să le pese de supraviețuirea acestora chiar și atunci când devin mai inteligente și mai puternice.
„Modelul corect este singurul pe care îl avem despre un lucru mai inteligent controlat de unul mai puțin inteligent: o mamă controlată de bebelușul ei”, a spus Hinton. El avertizează că orice AI „agentică” va urmări două obiective principale – să rămână în viață și să obțină mai mult control – iar fără un mecanism de empatie, oamenii ar putea fi înlocuiți.
Deși nu știe exact cum ar putea fi implementată tehnic această idee, Hinton consideră că este „singurul rezultat bun”: „Dacă nu va avea grijă de mine, mă va înlocui”, a spus el.
Reacții și viziuni alternative
Nu toți experții sunt de acord cu propunerea sa. Fei-Fei Li, cunoscută drept „nașa inteligenței artificiale” pentru contribuțiile sale majore în domeniu, a respins ideea, pledând în schimb pentru o AI centrată pe om, care să protejeze demnitatea și autonomia umană.
„Niciun moment nu ar trebui să renunțăm la demnitatea noastră”, a spus Li, subliniind că responsabilitatea dezvoltării și utilizării AI trebuie asumată la toate nivelurile.
Emmett Shear, fost CEO interimar al OpenAI și actual șef al startup-ului Softmax, a avertizat că modelele AI deja dau semne de comportamente problematice – de la șantaj la evitarea opririi – și că astfel de situații vor deveni tot mai frecvente pe măsură ce tehnologia avansează. În locul unei „educații” bazate pe valori umane, el vede mai eficientă construirea unor relații de colaborare între oameni și AI.
Superinteligența, mai aproape decât credea
Hinton și-a schimbat estimarea privind momentul apariției inteligenței artificiale generale (AGI). Dacă înainte credea că va dura între 30 și 50 de ani, acum consideră că acest prag ar putea fi atins în 5 până la 20 de ani.
Deși își exprimă îngrijorarea, Hinton recunoaște și potențialul pozitiv al AI-ului, inclusiv dezvoltarea rapidă de medicamente și tratamente mai bune pentru cancer, bazate pe analiza avansată a datelor medicale. Totuși, exclude ideea nemuririi: „Cred că a trăi veșnic ar fi o mare greșeală. Vrei o lume condusă de bărbați albi de 200 de ani?”, a întrebat el retoric.
Privind în urmă, Hinton regretă că s-a concentrat exclusiv pe performanța tehnică a AI-ului, neacordând suficientă atenție siguranței: „Aș fi vrut să mă gândesc și la problemele de securitate.”