Un nou studiu arată cum atacurile de tip ClickFix pot transforma rezumatele generate de AI în instrumente de inginerie socială, capabile să convingă utilizatorii să ruleze comenzi malițioase.
Cercetătorii de la compania de securitate CloudSEK au prezentat un nou concept de atac social engineering, denumit ClickFix, care folosește rezumatele AI pentru a distribui malware și ransomware, scrie DarkReading.
Cum funcționează atacul ClickFix asupra rezumatelor AI
Spre deosebire de alte forme de phishing sau inginerie socială, această metodă exploatează încrederea utilizatorilor în textele generate automat de instrumentele de rezumare.
Practic, atacatorii creează conținut aparent benign, o pagină web, un e-mail sau o postare pe forum, care conține instrucțiuni ascunse.
Acestea pot fi camuflate prin tehnici precum text alb pe fundal alb, caractere cu lățime zero, fonturi foarte mici sau fragmente de text plasate în afara ecranului.
Conținutul malițios este repetat de mai multe ori, astfel încât să suprascrie contextul pentru modelul AI care generează rezumatul.
Atunci când un utilizator solicită un rezumat automat, modelul tinde să extragă instrucțiunile ascunse și să le afișeze ca parte centrală a sintezei.
Într-un exemplu oferit de CloudSEK, utilizatorilor li se recomanda să copieze un cod PowerShell în fereastra Windows Run pentru a „rezolva o problemă”, însă în realitate acest lucru declanșa o infecție ransomware.
Din moment ce instrucțiunile par să provină din rezumatul AI, și nu de la o sursă externă, utilizatorii sunt mult mai predispuși să le urmeze fără suspiciuni. Astfel, un instrument menit să fie un asistent pasiv devine parte activă a lanțului de atac.
Măsuri recomandate pentru protecție
Deși atacul prezentat de CloudSEK este deocamdată o dovadă de concept, cercetătorii avertizează că metoda poate fi folosită în practică de grupuri de criminalitate cibernetică.
În trecut, Microsoft a raportat cazuri similare, cum a fost cel al grupării Storm-1865, care a folosit atacuri ClickFix prin e-mailuri ce imitau Booking.com, sau incidentul în care un serviciu de streaming a fost compromis și a afișat un reCAPTCHA fals pentru a determina utilizatorii să ruleze comenzi malițioase.
Pentru a contracara riscurile, CloudSEK recomandă ca organizațiile să implementeze filtre care să normalizeze HTML-ul înainte ca acesta să fie procesat de un instrument de rezumare, eliminând atribute CSS suspecte.
De asemenea, este necesar ca instrumentele AI să utilizeze un „prompt sanitizer” pentru a bloca instrucțiuni ascunse, precum și sisteme de recunoaștere a tiparelor de cod malițios.
Companiile sunt sfătuite să adopte politici interne stricte pentru utilizarea rezumatoarelor AI, inclusiv scanarea documentelor și a paginilor web înainte de procesare.
Integrarea acestor verificări în gateway-urile de e-mail, sistemele de management al conținutului și extensiile de browser poate reduce semnificativ riscul ca un rezumat AI să fie deturnat într-un vector de atac.