Un adolescent de 16 ani din Baltimore a fost pus la pământ și încătușat după ce un sistem de detecție bazat pe inteligență artificială (IA) a emis o alertă eronată că ar purta o armă. Băiatul, Taki Allen, le-a spus jurnaliștilor locali că tocmai își terminase o pungă de Doritos, pe care o băgase în buzunar, când mai multe echipaje de poliție au sosit pregătite de intervenție. Poliția din Baltimore County, Statele Unite, a precizat ulterior că tânărul a fost încătușat, dar nu a fost arestat, iar incidentul s-a încheiat fără alte consecințe, după ce s-a stabilit că nu exista nicio amenințare, informează BBC.
Cum s-a ajuns la intervenția în forță
Potrivit autorităților, semnalarea inițială a venit de la un sistem IA care „a identificat” o posibilă armă. Imaginea ar fi ajuns la o echipă de verificatori umani care nu a confirmat amenințarea, însă această concluzie nu ar fi fost preluată corect în fluxul intern: directoarea școlii a contactat echipa de siguranță, iar aceasta, la rândul ei, a solicitat sprijinul poliției. Într-o scrisoare către părinți, directoarea a spus că echipa școlii a revizuit rapid alerta și a anulat-o după ce a confirmat că nu există armă, dar procedurile au dus totuși la intervenția forțelor de ordine și la percheționarea elevului.
Furnizorul tehnologiei, Omnilert, a transmis că „regretă” incidentul și că sistemul a funcționat „conform proiectării”, subliniind că a existat o verificare umană rapidă și o transmitere către echipa de siguranță a școlii. Compania susține că rolul său s-a încheiat în momentul în care cazul a fost marcat drept „rezolvat” în sistemul intern. Tânărul a spus însă că acum alege să aștepte în interior după antrenamentele de fotbal, deoarece nu se mai simte „în siguranță să iasă afară mâncând o pungă de chipsuri”.
Întrebări despre acuratețea și procedurile sistemelor cu ia
Incidentul a stârnit apeluri pentru revizuirea procedurilor privind utilizarea tehnologiilor de detecție în școli. Un consilier local a cerut oficialilor din Baltimore County Public Schools reevaluarea modului în care alertele generate de IA sunt procesate, verificate și comunicate către poliție. Cazul readuce în discuție limitele acestor tehnologii: în practică, „detecția în lumea reală” poate fi „neordonată”, iar confuziile — de la umbre, obiecte cotidiene sau ambalaje — pot genera alerte false cu efecte serioase pentru cei vizați.
Deși unii furnizori afirmă că instrumentele lor îmbunătățesc siguranța, criticii subliniază riscul de a transforma școala într-un spațiu de supraveghere excesivă, în care erorile sistemelor IA escaladează rapid în intervenții armate. Cazul din Baltimore arată că, dincolo de algoritmi, cheia rămâne într-un lanț de decizie bine pus la punct: verificare umană robustă, comunicare clară și prudență înainte ca o alertă să se transforme într-o intervenție în forță — mai ales când „arma” e, de fapt, o pungă de chipsuri.