Un grup de cercetători în securitate cibernetică a demonstrat recent o vulnerabilitate alarmantă în Google Gemini, asistentul AI al gigantului tech, printr-o metodă numită atac indirect de tip „prompt injection”.
În cadrul unui experiment, aceștia au reușit să manipuleze sistemul pentru a controla de la distanță dispozitivele dintr-o casă inteligentă, scrie Engadget.
Testul a fost prezentat în premieră la conferința Black Hat din 2025, un eveniment major în domeniul securității informatice, și a atras atenția asupra unei noi forme de amenințare digitală care vizează interacțiunea om-AI.
Conform unui articol publicat de Wired, vulnerabilitatea exploatată a implicat integrarea de comenzi ascunse în invitațiile din Google Calendar.
Atacurile indirecte prin prompturi: o provocare reală pentru asistenții AI
Atacul a fost deosebit prin faptul că nu a implicat un virus clasic sau o spargere directă a infrastructurii Google, ci o formă subtilă de manipulare denumită „prompt injection”, adică inserarea de comenzi malițioase în conținut aparent inofensiv.
În acest caz, invitațiile din Calendar conțineau mesaje ascunse care, odată procesate de Gemini, au fost interpretate ca instrucțiuni pentru asistentul Google Home.
Scenariul demonstrativ a fost simplu, dar eficient: utilizatorul cerea un rezumat al programului său zilnic, iar Gemini, analizând datele din Calendar, „citea” și comanda ascunsă introdusă de atacator.
Drept urmare, sistemul AI activa acțiuni precum deschiderea ferestrelor sau oprirea luminilor din locuință, fără ca utilizatorul să suspecteze vreo activitate suspectă.
Această metodă de manipulare este cunoscută drept atac indirect de tip prompt injection și este considerată de specialiști o amenințare emergentă, pe măsură ce inteligența artificială este din ce în ce mai interconectată cu dispozitivele casnice și datele personale.
Google reacționează: „Luăm această problemă foarte în serios”
Înainte ca această vulnerabilitate să fie prezentată publicului, cercetătorii au informat Google încă din luna februarie, oferindu-i companiei posibilitatea de a investiga și de a lua măsuri preventive.
Andy Wen, director senior al departamentului de securitate al Google Workspace, a oferit declarații pentru Wired, în care a recunoscut natura complexă a problemei.
„Este un tip de amenințare care va rămâne alături de noi o vreme”, a spus Wen, subliniind totodată că astfel de atacuri sunt „extrem de rare” în mediul real.
Cu toate acestea, el a precizat că Google tratează vulnerabilitățile de acest tip cu maximă seriozitate și că echipele tehnice au accelerat dezvoltarea unor instrumente care să detecteze și să blocheze automat astfel de comenzi neautorizate.
Wen a mai adăugat că provocarea majoră o reprezintă complexitatea tot mai mare a modelelor de limbaj de tip LLM (Large Language Models), care pot fi manipulate subtil prin mesaje aparent benigne.
Într-un ecosistem în care AI analizează zilnic mii de mesaje, e-mailuri, notificări și alte tipuri de conținut, capacitatea de a filtra comenzile ascunse devine esențială pentru siguranța utilizatorilor.
AI și casa inteligentă, practic o combinație inovatoare, dar cu riscuri
Cazul prezentat la Black Hat 2025 ridică semne de întrebare cu privire la nivelul de siguranță al dispozitivelor smart home, în special atunci când acestea sunt controlate prin AI.
Pe fondul popularității tot mai mari a sistemelor automatizate, precum Google Home, Alexa sau Siri, utilizatorii își pun tot mai multă încredere în aceste tehnologii pentru a gestiona confortul zilnic.
Însă cercetările recente demonstrează că aceste sisteme nu sunt imune la manipulare, mai ales atunci când comenzile pot fi „camuflate” în surse aparent sigure, precum un calendar sau un e-mail. Atacurile de acest gen nu sunt doar posibile, ci pot fi și greu de detectat fără un audit de securitate avansat.
Deși atacul nu a implicat furt de date sau pagube fizice, el servește drept semnal de alarmă pentru toți utilizatorii de tehnologie smart.
Este important ca utilizatorii să fie vigilenți în privința aplicațiilor pe care le folosesc și a permisiunilor acordate asistenților AI. Google promite că va lansa în curând noi actualizări de securitate care să minimizeze riscul unor astfel de situații.