Roboții ucigași controlați de inteligență artificială devin realitate. Pentagonul ar putea lăsa armele AI să decidă în mod autonom să ucidă oameni
0Preocupate de riscurile războiului cu roboți, unele țări vor să introducă noi restricții legale, dar SUA și alte mari puteri rezistă.
Pare ceva din science fiction. Roiuri de roboți ucigași își urmăresc în mod independent țintele și zboară pentru a ucide fără permisiunea umană. Dar această fantezie este deja foarte aproape de a fi realizată în realitate. SUA, China și alte câteva țări dezvoltă și implementează rapid noi tehnologii care pot schimba natura războiului. Deciziile de viață și de moarte pot fi predate dronelor autonome echipate cu programe de inteligență artificială.
„Această perspectivă îngrijorează atât de mult guvernele multor țări, încât încearcă să atragă atenția asupra ei propunând ONU să introducă reguli obligatorii din punct de vedere juridic pentru utilizarea a ceea ce armata numește arme autonome letale”, scrie New York Times .
„Acesta este într-adevăr unul dintre cele mai importante puncte de cotitură pentru umanitate. Care este rolul unei persoane în folosirea forței este o problemă de securitate absolut fundamentală, o problemă juridică și etică”, a spus Alexander Kmentt, care acționează ca principal reprezentant al Austriei la negocierile privind armele autonome.
Dar, în timp ce ONU oferă guvernelor o platformă pentru a-și exprima preocupările, este puțin probabil ca procesul să conducă la noi restricții semnificative. SUA, Rusia, Australia, Israel și alții susțin că nu este nevoie de o nouă legislație internațională în acest moment. La rândul său, China dorește să definească orice restricție legală atât de restrâns încât va avea un efect practic redus, spun avocații pentru controlul armelor. Drept urmare, dezbaterea s-a legat într-un nod procedural cu șanse mici de progres.
„Nu credem că acum este momentul să discutăm despre asta”, a spus șeful adjunct al delegației ruse la ONU, Konstantin Vorontsov, diplomaților care s-au adunat recent în sala de conferințe de la subsolul sediului ONU din New York.
Ce restricții ar trebui impuse utilizării armelor autonome letale
Dezbaterea asupra riscurilor inteligenței artificiale a câștigat o atenție sporită în ultimele zile din cauza unei bătălii pentru controlul OpenAI, cea mai importantă companie de dezvoltare a inteligenței artificiale din lume, ai cărei directori au fost împărțiți dacă iau în considerare în mod adecvat amenințările pe care le reprezintă noua tehnologie. Și săptămâna trecută, reprezentanții oficiali ai Chinei și ai Statelor Unite au discutat despre potențialele restricții privind utilizarea IA în luarea deciziilor cu privire la desfășurarea armelor nucleare.
Pe acest fond, întrebarea ce restricții ar trebui impuse utilizării armelor autonome letale a câștigat o nouă urgență și deocamdată se rezumă la dacă este suficient ca ONU să adopte pur și simplu principii care nu vor impune obligații specifice. De fapt, aceasta este exact soluția pe care o oferă SUA.
Dorosin și membrii delegației americane, care include un reprezentant al Pentagonului, au susținut că, în loc să aprobe o nouă lege internațională, ONU ar trebui să clarifice că prevederile internaționale existente privind drepturile omului interzic deja statelor să folosească arme care sunt îndreptate împotriva civililor.
Dar poziția luată de marile puteri nu face decât să sporească anxietatea în rândul țărilor mai mici care se tem că armele autonome letale ar putea deveni obișnuite pe câmpul de luptă înainte de a se ajunge la un acord privind modul de utilizare a acestora.
Dezvoltarea rapidă a inteligenței artificiale și utilizarea intensivă a dronelor în războaiele în curs din Ucraina și Orientul Mijlociu au făcut această problemă și mai urgentă. Până acum, dronele s-au bazat de obicei pe operatorii umani pentru a îndeplini misiuni mortale. Dar este în curs de dezvoltare software care le va permite în curând să găsească și să selecteze ținte mai independent.
Bruiajul intens al comunicațiilor radio și al GPS-ului în Ucraina nu a făcut decât să accelereze acest proces, deoarece dronele autonome pot deseori să continue să funcționeze chiar și atunci când comunicarea este întreruptă.
„Acesta nu este intriga unui roman distopic, ci o realitate care se apropie deja”, a declarat prim-ministrul din Antigua și Barbuda, Gaston Brown, la o întâlnire recentă la Națiunile Unite.
Oficialii Pentagonului au precizat clar că se pregătesc pentru o desfășurare pe scară largă a armelor autonome.
The New York Times scrie că conceptul de arme autonome nu este nou. Minele antipersonal, care explodează automat, sunt folosite încă de la războiul civil american. SUA au, de asemenea, sisteme de rachete care se bazează pe radare pentru țintire și angajare autonome. Ceea ce se schimbă este introducerea inteligenței artificiale, care poate oferi sistemelor de arme capacitatea de a lua singure decizii după primirea și procesarea informațiilor.
SUA și-au adoptat deja propria politică, care stabilește anumite restricții privind utilizarea inteligenței artificiale și a armelor autonome letale. În special, în acest an, Pentagonul a revizuit prevederile documentului său intitulat „Autonomie în sistemele de arme”, precum și „Declarația politică privind utilizarea responsabilă a inteligenței artificiale și a autonomiei” aferentă a Departamentului de Stat. Washingtonul face apel la alte țări să se alăture acestei declarații.
Politica Pentagonului interzice utilizarea oricărei arme autonome noi sau chiar dezvoltarea acesteia, cu excepția cazului în care aceasta a fost aprobată de înalți oficiali ai Departamentului Apărării. Astfel de arme trebuie utilizate într-o zonă geografică definită pentru o perioadă limitată de timp. Și dacă arma este controlată de AI, personalul militar trebuie să-și păstreze „capacitatea de a dezactiva sistemele desfășurate care prezintă un comportament imprevizibil”. Un general al Forțelor Aeriene ale SUA a declarat pentru New York Times că, cel puțin în faza de tranziție, armele autonome vor avea încă nevoie de aprobarea umană înainte de a lansa o lovitură. Dar secretarul american al Forțelor Aeriene, Frank Kendall, a spus într-un interviu separat că aceste mașini ar trebui, în cele din urmă, să aibă autoritatea de a întreprinde acțiuni letale pe cont propriu, rămânând în același timp sub supraveghere umană în timpul desfășurării lor.