Microsoft a prezentat recent planurile pentru integrarea unui sistem de „agentic AI” în Windows 11, un set de funcții care ar trebui să automatizeze sarcini simple în locul utilizatorilor.
Însă, în același timp, compania recunoaște că aceste instrumente experimentale pot deschide calea către instalarea de malware sau exfiltrarea datelor, chiar în interiorul sistemului de operare.
Funcționalitatea presupune crearea unui workspace separat, dedicat agenților AI, unde aceștia pot organiza fișiere, gestiona e-mailuri sau efectua acțiuni repetitive, fără a interfera cu desktopul principal, scrie publicația RockPaperShotGun.
Pe hârtie, pare o soluție convenabilă pentru utilizatori. În practică, însă, Microsoft admite că există riscuri serioase, mai ales în etapa actuală de testare.
Cum poate „agentic AI” să devină o vulnerabilitate
Potrivit documentației tehnice actualizate de Microsoft, agenții AI pot fi expuși unor atacuri de tip cross-prompt injection (XPIA).
Acestea apar atunci când un conținut malițios ascuns în interfață sau în documente reușește să suprascrie instrucțiunile agentului, determinându-l să execute comenzi nedorite, inclusiv instalarea de programe periculoase sau transmiterea de date sensibile.
În mod normal, astfel de tehnici vizează modele lingvistice și nu interacțiuni umane directe, ceea ce le face dificil de detectat de către utilizator.
Faptul că Microsoft a confirmat că aceste atacuri sunt posibile încă din faza de testare a provocat îngrijorare în rândul experților în securitate cibernetică.
Pentru moment, funcția este dezactivată implicit și necesită activare manuală de către un administrator. Totuși, specialiștii subliniază că simpla existență a unei opțiuni cu potențial de a crea breșe noi ridică semne de întrebare, mai ales având în vedere că Windows 11 o va integra în mod nativ în viitor.
Critici privind maturitatea tehnologiei și decizia de implementare
Deși Microsoft discută de luni întregi despre extinderea Windows 11 cu funcții AI autonome, mulți analiști consideră că lansarea lor într-o formă insuficient testată este prematură.
În contextul în care Windows 10 a pierdut suportul de securitate, utilizatorii nu au o alternativă reală, ceea ce amplifică vulnerabilitățile.
Criticii descriu implementarea drept un exemplu de „hybris tehnologic”, în care dorința de a integra rapid AI în produse de masă depășește preocupările legate de protecția utilizatorilor și de calitatea finală a software-ului.
Mai mult, se sugerează că dezvoltatorii par să fi ignorat cazurile frecvente în care modelele AI cad în plasa unor mesaje explicit periculoase, formulate în limbaj simplu, cunoscute deja ca vectori de atac.
Fenomenul a fost comparat, în mod ironic, cu ideea de „Car Brain”, o expresie folosită pentru a descrie modul în care șoferii își pierd rațiunea la volan.
În acest caz, termenul „AI Brain” este utilizat pentru a evidenția cum entuziasmul unor lideri tech eclipsează responsabilitatea și buna judecată în momentul în care au la dispoziție instrumente bazate pe inteligență artificială.
În timp ce Microsoft continuă testarea în cadrul Windows Insider, rămâne de văzut dacă funcțiile agentice vor fi suficient de sigure pentru lansarea oficială.
Deocamdată, recomandarea implicită pentru utilizatori este simplă: dacă nu ai nevoie de noul workspace AI, cel mai sigur este să nu îl activezi.