Cum pot fi contracarate riscurile strategice: IA și viitorul securității globale

Titlul ăsta seamă cumplit de tare cu anunțul unui seminar de strictă specialitate și, ca atare, de interes doar pentru o grupă restrânsă de tehnicieni.

FOTO Shutterstock

Și, dat fiind că a fost ales special acest titlu care nu atrage atenția piețelor comerciale – în orice caz nu la noi – bănuiesc că alta este audiența dorită de cele două instituții care au publicat recent un raport fabulos de interesant, deschizând ușile către domeniile priorităților oricăror construcții stabile în lumea de mâine, de la guverne la societăți în ansamblul lor, la modul în care se va concepe desfășurarea proceselor industriale...Și, dacă asta interesează pe cineva, va sta la baza unei viitoare foarte previzibile rupturi majore, cu caracter sistemic, între societățile care vor avansa pe un anume drum de dezvoltare, rapid, complet diferit de cele prezente până acum în istoria civilizației umane.

Acum începe acest proces de ruptură, cu guverne care, disperate să supraviețuiască cu armele viitorului, investesc enorm în asamblarea unor echipe interdisciplinare care lucrează la conceperea unor asemenea documente care, de fapt, sunt în fapt programe puse lka dispoziția decidenților care să, pe această bază, să propună noi politici de dezvoltare și să aloce resurse către domeniile care vor da posibilitatea obținerii noilor tipuri de supremații.

Aveți aici întregul Raport elaborat de cei de la Federation of American Scientists și de Future od Life Institute https://fas.org/wp-content/uploads/2026/05/Converging-Risks.pdf .

Este, din punctul meu de vedere, un document care poate sta la baza elaborării unor viitoare politici de guvernare și asta, deoarece, așa cum argumentează autorii săi, ‚Inteligența artificială (IA) nu mai este o chestiune izolată de politică tehnologică. Ea devine o capacitate cu aplicații generale, integrată în domenii esențiale pentru securitatea globală. Pe măsură ce sistemele de IA pătrund în cercetarea biologică, operațiunile cibernetice, stabilitatea nucleară, procesul decizional militar și alte contexte de securitate, acestea transformă modul în care riscurile globale apar, se propagă și interacționează. Raportul oferă o bază fundamentată pe dovezi pentru modul în care factorii de decizie, specialiștii în securitate națională, experții tehnici, finanțatorii și liderii societății civile ar trebui să abordeze convergența dintre IA și riscurile globale... riscurile asociate IA nu se limitează la un singur domeniu sau actor care reprezintă o amenințare. Ele apar din interacțiunea dintre instrumente cu capacități tot mai avansate și instituțiile sau infrastructurile prin intermediul cărora acestea operează”.

Decidenții politici trebuie să-și creeze un sistem de analiză și răspuns în timp util la amenințările care apar, așa cum se vede și la noi în aceste zile, în momentul în care adversarii exploatează punctele slabe ale sistemelor critice de importanță națională. Le avem oare la nivel de sistem și fac parte din capacitatea de bună guvernare? Întrebare justificată deoarece, spune raportul, „vulnerabilitatea vizează punctele slabe ale sistemelor tehnice, instituțiilor, infrastructurii, echipelor om-mașină sau mecanismelor de guvernanță, care permit materializarea amenințărilor. Consecința se referă la daunele rezultate în urma exploatării vulnerabilităților de către amenințări, inclusiv victime umane, escaladarea situației, perturbări sistemice, pierderea încrederii sau prejudicii instituționale pe termen lung.

Aceasta poate amplifica capacitățile de acțiune ale actorilor statali și non-statali rău-intenționați. De asemenea, introduce un grad sporit de complexitate în sisteme opace, crescând astfel vulnerabilitatea la erori sau incidente care pot trece neobservate. Totodată, poate comprima intervalele de timp necesare pentru reacție și poate îngreuna gestionarea eșecurilor, amplificând astfel consecințele negative. În scenariile care implică sisteme autonome puternice, granița dintre amenințare și vulnerabilitate se poate estompa: vulnerabilitățile în supravegherea sistemelor AI puternice ar putea duce la pierderea controlului, generând astfel sisteme AI care, la rândul lor, constituie o amenințare”.

Desigur, știu bine că, în contextul societății noastre de acum care își propune, prin forța lucrurilor, proiecte pe termen din ce în ce mai scurt, aducând un plus de vulnerabilitate strategică viitorului țării, toate aceste întrebări și soluțiile sugerate par a fi de domeniul SF și, în orice caz, imposibil de introdus în programa unor unități de învățământ care spun că pregătesc viitorii noștri guvernanți.

Dar asta nu înseamnă că, măcar cu titlul de informare pentru cultura generală, nu ar trebui puse pe piața românească asemenea studii și, cine știu, pregătirea unui grup de lucru în domeniilor studiilor avansate de securitate.