Un val de îngrijorare se răspândește în rândul specialiștilor în securitate globală, pe fondul tendinței de a integra inteligența artificială în structurile de comandă militară.
Potrivit acestora, există riscul ca dependența excesivă de sisteme autonome să ducă la decizii eronate, inclusiv la escaladarea unui conflict nuclear.
AI-ul ar putea spori pericolul escaladării conflictelor
Jacquelyn Schneider, directoare a Hoover Wargaming and Crisis Simulation Initiative din cadrul Universității Stanford, a atras atenția că în simulările de război AI tinde să amplifice tensiunile, fără a manifesta aceeași înclinație spre de-escaladare pe care o au decidenții umani, scrie Futurism.
„Este aproape ca și cum AI ar înțelege ce înseamnă escaladarea, dar nu și calmarea situației”, a explicat aceasta.
Temerile sunt alimentate și de lipsa unor reglementări clare. Jon Wolfsthal, director al Federation of American Scientists, a subliniat că în prezent nu există directive explicite în cadrul Pentagonului privind utilizarea AI în lanțul de comandă nuclear.
Chiar dacă oficialii americani insistă că „întotdeauna va exista un om în buclă”, specialiștii se tem că această barieră ar putea fi erodată pe măsură ce rivali precum Rusia sau China adoptă soluții similare.
Lecțiile trecutului nu ne-au fost de folos
Istoria oferă deja exemple de sisteme automatizate periculoase, precum mecanismul sovietic de tip „dead hand” conceput în perioada Războiului Rece, care ar fi putut lansa automat rachete nucleare ca răspuns la un atac detectat.
Experții atrag atenția că dezvoltarea actuală a AI riscă să readucă aceste idei într-o formă modernă, deși cu riscuri mai greu de anticipat, având în vedere complexitatea algoritmilor.
Îngrijorările sunt amplificate de inițiativele politice recente. Administrația Trump promovează extinderea utilizării AI în administrația publică și în apărare, concomitent cu reducerea standardelor de siguranță aplicabile acestei tehnologii.
Pentru mulți specialiști, scenariile evocate par desprinse din filme precum Dr. Strangelove sau Terminator, însă realitatea tehnologică arată că astfel de ipoteze nu mai sunt simple exerciții de ficțiune.
Pe fondul unei competiții globale tot mai intense, există riscul ca decidenții politici să se lase ghidați de algoritmi opaci și, în cele din urmă, să ia decizii ireversibile.
Astfel, discuția despre rolul AI în apărare depășește nivelul tehnic și intră în zona etică și strategică: cât de mult ar trebui să ne încredem într-un sistem pe care încă nu îl înțelegem pe deplin, atunci când miza este supraviețuirea umanității?