Ideea că inteligența artificială ar putea distruge omenirea este un scenariu recurent în literatura SF și în dezbaterile contemporane despre tehnologie. Însă, dincolo de ficțiune, unii cercetători consideră că această amenințare ar putea fi reală.
În 2024, sute de specialiști în AI au semnat o declarație publică în care afirmau că „reducerea riscului de extincție provocat de AI trebuie să fie o prioritate globală, la fel ca pandemiile sau războiul nuclear”, scrie Scientific American.
Totuși, un studiu recent realizat de cercetători de la RAND Corporation pune sub semnul întrebării plauzibilitatea unui asemenea scenariu.
Autorul analizei, Michael J.D. Vermeer, om de știință la RAND, afirmă că ideea extincției umane cauzate de AI, deși populară, este departe de a fi inevitabilă.
Echipa sa, formată dintr-un om de știință, un inginer și un matematician, a pornit de la ipoteza că omenirea este prea numeroasă, adaptabilă și răspândită pentru a fi complet eliminată, indiferent de mijloacele tehnologice disponibile unei AI ipotetice.
Cum ar putea AI să distrugă omenirea, și de ce este improbabil
Cercetătorii RAND au analizat trei mari amenințări pe care o inteligență artificială ar putea, teoretic, să le folosească împotriva omenirii: armele nucleare, agenții biologici și schimbările climatice.
Concluziile lor sunt mai degrabă liniștitoare: AI ar avea dificultăți semnificative în a produce un eveniment de extincție totală.
Chiar dacă ar reuși să declanșeze toate cele peste 12.000 de focoase nucleare existente în lume, efectele combinate, explozii, radiații și iarna nucleară, nu ar fi suficiente pentru a ucide toată populația planetei.
Distribuția geografică a oamenilor și rezistența ecosistemelor ar asigura supraviețuirea unor comunități izolate, capabile să refacă specia.
În privința pandemiilor, riscul este mai mare, dar totuși limitat. O boală cu o rată de mortalitate de 99,99% ar lăsa în viață aproximativ 800.000 de oameni, suficient pentru reconstituirea populației.
Totuși, cercetătorii au admis că o combinație artificială de agenți patogeni, proiectată cu ajutorul AI, ar putea atinge o letalitate aproape totală. Obstacolul major ar fi, însă, răspândirea completă a bolii, întrucât unele comunități s-ar izola și ar putea evita infectarea.
De la climă la control total: limitele unei AI distructive
În ceea ce privește schimbările climatice, nici măcar o intensificare extremă a emisiilor de dioxid de carbon nu ar transforma planeta într-un loc complet nelocuibil.
Totuși, dacă AI ar reuși să producă și să elibereze în atmosferă volume mari de gaze cu efect de seră mult mai puternice, precum hexafluorura de sulf, ar putea, teoretic, „fierbe” planeta. Chiar și așa, un astfel de scenariu ar fi foarte dificil de realizat fără intervenție umană masivă.
Pentru ca AI să poată provoca o extincție globală, ar trebui să îndeplinească patru condiții simultane: să își seteze obiectivul de a distruge omenirea, să preia controlul asupra infrastructurilor critice (militare, industriale, energetice), să convingă oamenii să coopereze fără să își dea seama și să poată funcționa independent de suportul uman. În absența acestor patru elemente, orice „proiect” de distrugere globală ar eșua.
Concluzia studiului RAND este clară: deși dispariția umană cauzată de AI este teoretic posibilă, ea este extrem de improbabilă.
Mai util ar fi, spun autorii, ca omenirea să se concentreze pe reducerea riscurilor deja cunoscute, de la armele nucleare la gazele de seră și supravegherea epidemiologică.
Cercetarea responsabilă în domeniul AI, susțin ei, va contribui nu doar la evitarea scenariilor apocaliptice, ci și la reducerea pericolelor mai realiste, dar adesea ignorate, pe care le aduce tehnologia în viața de zi cu zi.