Deepfake-urile devin tot mai realiste și mai ușor de generat, iar popularitatea lor este în creștere accelerată, alimentată de accesul la software tot mai performant și de interesul masiv pentru conținut generat cu AI.
În ultimii ani, aceste tehnologii au fost privite drept o amenințare majoră pentru securitatea digitală, în special în domenii sensibile precum identificarea biometrică și verificările de tip Know Your Customer (KYC), scrie Dark Reading.
Cu toate acestea, datele recente arată că evoluția deepfake-urilor ca instrumente de fraudă este mai lentă decât estimările inițiale.
Deși riscurile sunt reale și documentate, capacitatea efectivă a majorității soluțiilor disponibile de a păcăli sistemele avansate de securitate rămâne, în prezent, limitată. În mod paradoxal, apărătorii par să fie încă înaintea atacatorilor în această cursă tehnologică.
Ce arată analiza World Economic Forum despre software-ul deepfake
Un studiu realizat de cercetători afiliați World Economic Forum a analizat 17 instrumente de generare deepfake, atât open-source, cât și comerciale, disponibile online între iulie 2024 și aprilie 2025.
Evaluarea s-a concentrat pe modul în care aceste aplicații pot submina sistemele de recunoaștere facială, în special în contextul verificărilor de identitate utilizate de bănci și platforme financiare.
Rezultatele au fost eterogene. Majoritatea aplicațiilor analizate s-au dovedit a fi relativ simple și ieftine, concepute mai degrabă pentru divertisment, social media sau editare video post-producție.
Acestea permit crearea de clipuri sau imagini convingătoare la prima vedere, dar nu sunt suficient de sofisticate pentru a înșela algoritmi biometrici moderni, mai ales în scenarii live.
Totuși, raportul semnalează existența unei minorități de instrumente mult mai avansate, care includ funcții capabile să faciliteze fraude de identitate serioase.
Soluțiile sunt promovate, cel puțin aparent, către utilizatori „profesioniști” și sunt mult mai bine adaptate pentru a exploata punctele slabe ale sistemelor automate de verificare.
Limitarea studiului este că analiza s-a bazat în mare parte pe documentația furnizată de dezvoltatori și pe informații publice disponibile online, fără testare practică extensivă.
Chiar și așa, concluzia generală este că amenințarea există, dar nu este încă la nivelul de maturitate anticipat de multe scenarii alarmiste.
Piața neagră, KYC și unde apare riscul real
Potrivit specialiștilor în securitate, adevărata problemă nu este reprezentată de aplicațiile populare de deepfake, ci de utilizarea unor soluții dedicate în ecosisteme infracționale bine organizate.
Tom Cross, responsabil de cercetarea amenințărilor la o companie specializată în detectarea deepfake-urilor, avertizează că anumite conturi pentru astfel de servicii se vând pe piața neagră la prețuri relativ accesibile, de ordinul sutelor de dolari.
Aceste instrumente sunt folosite, în unele cazuri, pentru a obține conturi bancare validate KYC, care ulterior sunt exploatate în scheme de spălare de bani.
Practica nu este izolată, ci apare recurent în investigațiile legate de criminalitatea financiară, ceea ce indică o problemă sistemică, nu una punctuală.
În prezent, experții împart software-ul deepfake în trei categorii principale. Prima include aplicații de editare video tradițională, care funcționează exclusiv în post-producție.
A doua categorie este reprezentată de servicii web găzduite în cloud, care pot genera fișiere deepfake de calitate, dar nu pot interacționa în timp real.
Cea mai periculoasă categorie este cea a instrumentelor care pot înlocui imaginea camerei web în timp real, acestea fiind singurele capabile să încerce păcălirea unui sistem biometric „din mers”.
Chiar și în acest caz, sistemele moderne de securitate folosesc tot mai multe straturi de verificare, de la detectarea mișcărilor subtile ale feței până la analiza comportamentală și corelarea datelor. De aceea, în ciuda progreselor evidente ale deepfake-urilor, balanța este încă înclinată în favoarea apărătorilor.
Pe termen scurt, concluzia este una prudent optimistă: tehnologia deepfake evoluează, dar nu suficient de rapid pentru a depăși mecanismele de apărare existente.
Pe termen lung însă, investițiile continue în detectare și reglementare vor rămâne esențiale pentru a preveni ca acest tip de fraudă să devină o amenințare cu adevărat generalizată.