Tehnologia agenților AI a evoluat rapid, câștigând capacitatea de a accesa e-mailuri, documente și calendare, precum și de a efectua acțiuni în numele utilizatorilor.
Michael Bargury, CTO Zenity, a prezentat la Black Hat USA 2025 cercetarea sa despre exploitul „AgentFlayer”, care demonstrează cât de vulnerabile pot fi aceste sisteme atunci când sunt integrate în medii enterprise precum Microsoft, Google Workspace sau Salesforce, informează DarkReading.
Exploitul „Zero-Click” și ce implică concret
Ceea ce face acest exploit atât de periculos este faptul că un atacator extern nu are nevoie decât de adresa de e-mail a victimei pentru a prelua complet controlul asupra agenților AI.
Astfel, atacatorii pot accesa informații sensibile și chiar manipula utilizatorii prin intermediul agenților, care sunt percepuți ca sfătuitori de încredere.
Bargury compară situația actuală cu anii ’90, când securitatea IT nu ținea pasul cu inovațiile rapide, iar sistemele AI se bazează în prezent pe „garduri soft” în loc de strategii de apărare în profunzime.
Cum pot companiile să gestioneze riscul
Expertul subliniază că organizațiile trebuie să dezvolte programe dedicate de securitate pentru agenții AI și să nu se bazeze exclusiv pe furnizori pentru remedierea vulnerabilităților.
Spre deosebire de vulnerabilitățile software clasice, exploitul AI nu este ceva ce poate fi „reparat” simplu, ci trebuie gestionat activ.
Strategiile recomandate includ aplicarea principiului „defense-in-depth”, izolarea sistemelor și monitorizarea constantă a activităților agenților AI pentru a preveni exploatarea datelor sensibile sau manipularea utilizatorilor.
Bargury avertizează, de asemenea, că multe companii au implementat agenți AI fără a evalua complet riscurile, ceea ce poate duce la exploatări ușoare prin partajarea unui fișier, trimiterea unui e-mail sau a unei invitații în calendar.
În același timp, el remarcă eforturile pozitive ale unor furnizori de AI care colaborează cu comunitatea de securitate pentru a găsi soluții de atenuare, dar subliniază că responsabilitatea principală revine organizațiilor care utilizează aceste tehnologii.
Practic, adoptarea pe scară largă a agenților de inteligență artificială aduce beneficii evidente pentru eficiența operațională, dar ridică și riscuri serioase de securitate.
Exploitul „zero-click” descoperit de Bargury demonstrează nevoia unei abordări proactive și a unei supravegheri continue pentru protejarea datelor sensibile și pentru evitarea manipulării utilizatorilor de către atacatori cibernetici.