Recunoașterea facială a fost prezentată în ultimii ani drept o tehnologie aproape infailibilă, cu rate de acuratețe ce depășesc 99% în testele standardizate.
Totuși, o serie de cercetători de la Universitatea Oxford și Universitatea din Pennsylvania atrag atenția că aceste rezultate spectaculoase obținute în laborator nu reflectă realitatea din teren, unde erorile și identificările greșite sunt mult mai frecvente.
Diferența dintre testele de laborator și utilizarea reală
Conform unei analize publicate pe Tech Policy Press, profesorii Teo Canmetin, Juliette Zaccour și Luc Rocher de la Oxford au arătat că standardele de evaluare utilizate de Institutul Național de Standarde și Tehnologie din SUA (NIST) nu surprind condițiile complexe ale utilizării în spațiul public, potrivit The Register.
În mediul real, imaginile folosite de sistemele de recunoaștere facială sunt adesea neclare, capturate din unghiuri dificile sau la rezoluții scăzute.
În plus, seturile de date de antrenament nu reflectă suficient diversitatea demografică, ceea ce duce la o probabilitate crescută de identificări eronate, mai ales în cazul persoanelor aparținând grupurilor marginalizate.
Aceste limite tehnice au condus deja la cazuri grave, precum arestarea nedreaptă a unui bărbat din Detroit în 2020 sau identificarea greșită a unui activist din Londra de către sistemul de recunoaștere facială al Poliției Metropolitane, care a reușit să identifice corect doar 8 persoane din 42, potrivit unui studiu realizat de Universitatea din Essex.
Cercetările cele mai recente confirmă riscurile și prejudecățile sistemului
Un studiu realizat în mai 2025 de criminologi și informaticieni de la Universitatea din Pennsylvania a demonstrat că performanța recunoașterii faciale scade considerabil atunci când imaginile sunt distorsionate de factori precum mișcarea, iluminarea slabă sau variațiile de unghi.
Mai mult, erorile, atât fals pozitive, cât și fals negative, afectează disproporționat persoanele de culoare și femeile, accentuând riscul de discriminare.
Deși cercetătorii de la UPenn subliniază că, în anumite condiții, recunoașterea facială depășește metode tradiționale de identificare precum amprentele digitale sau comparația balistică, problemele legate de corectitudine și bias rămân majore.
Îngrijorările sunt întărite și de rapoarte anterioare. În 2024, Innocence Project documenta cel puțin șapte cazuri de identificare eronată în SUA, șase dintre acestea vizând persoane de culoare, precum Nijeer Parks, Porcha Woodruff sau Robert Williams.
Lista a fost completată în 2025 de alte două cazuri, semnalate de Electronic Frontier Foundation, în care doi bărbați, Christopher Galtin și Jason Vernau, au fost arestați pe nedrept în St. Louis și Miami.
Pe lângă erorile tehnice, există și critici privind lipsa de transparență și reglementare. Un raport al Algorithmic Justice League a arătat că Administrația pentru Securitatea Transporturilor (TSA) din SUA a folosit tehnologia fără a informa corect pasagerii despre dreptul de a refuza scanarea, mulți dintre aceștia raportând tratamente ostile atunci când au încercat să se opună.
Deși recunoașterea facială continuă să fie promovată ca o soluție inovatoare pentru securitate și aplicarea legii, realitatea arată că tehnologia este departe de a fi infailibilă.
Erorile de identificare, lipsa de diversitate în seturile de date și utilizarea abuzivă în lipsa unor reglementări stricte pun sub semnul întrebării legitimitatea și siguranța implementării sale pe scară largă.