Romain Forestier, cercetător şi manager la JEDI: „Războiul informaţional va fi câştigat de democraţiile noastre“
0
Inteligenţa artificială este folosită în războiul din Ucraina de ambele tabere, însă cei care au câştigat până acum bătălia informaţională sunt ucrainenii, consideră Romain Forestier, cercetător şi manager la JEDI
Cercetător la JEDI, Romain Forestier este unul dintre cei care cred cu toată tăria că Europa poate şi trebuie să recupereze decalajul tehnologic faţă de SUA şi de China. Forestier conduce o echipă de analişti la JEDI, iniţiativa franco-germană de a construi un program european de talia NASA sau DARPA.
Recunoscut la nivel internaţional, el este invitat frecvent la evenimente pe tot globul, iar recent, la finalul lunii mai, el s-a aflat la Bucureşti unde a luat parte la Future Summit 2022, ocazie cu care a acordat un interviu pentru „Weekend Adevărul“.
Francezul s-a alăturat echipei JEDI încă de când iniţiativa paneuropeană avea doar câteva luni şi era aproape de a lansa GrandChallenge pe tema „Miliarde de molecule împotriva COVID-19“, pentru a accelera procesul de descoperire şi dezvoltare a medicamentelor.
În calitate de analist, el şi-a petrecut cea mai mare parte a timpului analizând diferite frontiere de interes în sănătate, spaţiul cibernetic şi spaţial pentru a identifica cele mai importante domenii în care Europa va trebui să investească pe termen lung pentru a nu mai fi luată prin surprindere de alte eventuale pandemii sau de atacurile cibernetice până în 2030.
„Acum conduc o echipă de analişti din care am făcut parte, iar scopul nostru este înţelegerea principalelor probleme de astăzi şi de mâine, determinarea posibilelor soluţii viitoare la aceste probleme, astfel încât JEDI să lanseze GrandChallenge pentru a accelera activitatea de cercetare şi dezvoltare“, spune Forestier.
De ambele părţi ale frontului
Inteligenţa artificială a început în ultimii ani să aibă un rol mai mult decât important în toată această construcţie. Nu întâmplător, inclusiv în războiul din Ucraina, cele două părţi încearcă să o folosescă şi să profite din plin de avantajele sale. „Conflictul din Ucraina a dovedit că războiul informaţional este unul extrem de important, dar a demonstrat şi că ar putea fi câştigat cu siguranţă de democraţiile noastre. Până acum, utilizarea inteligenţei artificiale a fost foarte distinctă între ambele tabere, în războiul informaţional fiind folosită în mare parte ca instrument ofensiv de către Rusia. Ruşii au folosit-o pentru a forma opinia publică în Ucraina, Moldova, Serbia şi în alte părţi, în timp ce de cealaltă parte, inteligenţa artificială a fost utilizată şi ca instrument defensiv de către Ucraina sau de ţările NATO“, explică francezul.
Până în prezent, avantajul este clar de partea Ucrainei şi a aliaţilor săi. Kievul a ştiut să profite mai bine de inteligenţa artificială, având şi susţinerea partenerilor săi. „Pe câmpul de luptă şi în afara războiului pur informaţional, inteligenţa artificială a fost esenţială atât pentru Ucraina, cât şi pentru Rusia: analiza imaginilor satelitare pentru a detecta modele şi strategii, identificarea semnalelor slabe şi optimizarea resurselor. Totuşi, Ucraina, chiar cu asistenţa Occidentului, a folosit mult mai bine inteligenţa artificială pentru beneficiul său. Cu toate acestea, nu există, deocamdată, cel puţin o coordonare clară între cibernetică, războiul informaţional şi inteligenţa artificială. Dacă, din păcate, războiul se prelungeşte, cred că s-ar putea ca cele trei să fie folosite simultan mult mai mult“, crede Romain Forestier.
Faţa întunecată a inteligenţei artificiale
Francezul a vorbit şi despre cealaltă latură a inteligenţei artificiale, una care poate deveni tenebroasă, în funcţie de intenţia celor care o utilizează şi au acces la tehnologia de ultimă oră. Ţări precum China au ajuns deja să folosească inteligenţa artificială pe scară largă pentru controlul populaţiei, însă aceeaşi tentaţie se presupune că există şi în ţări democratice precum SUA, Marea Britanie şi Franţa. Nu întâmplător există şi voci care atenţionează că sistemele de tipul Big Brother pot ajunge până la a constitui un risc la adresa democraţiei, odată ce datele prelucrate de inteligenţa artificială ar putea ajunge pe mâinile cui nu trebuie.
Însă acesta nu este singurul risc. Marile provocări privind cibernetica sunt totuşi esenţiale atât pentru pace, cât şi pentru perioada actuală: detectarea deep fake-urilor, urmărirea manipulării cognitive şi dezvoltarea inteligenţei artificiale, spune Forestier.
„Inteligenţa artificială este un instrument de schimbare a jocului – şi, ca orice instrument de schimbare a jocului, nestăpânirea acestuia prezintă un risc semnificativ. Cum ar arăta Europa dacă nu am şti cum să construim panouri solare sau centrale nucleare? Dacă nu am fi capabili să ne producem propriile maşini? De dragul democraţiilor noastre, în Europa trebuie să fim lideri în inteligenţa artificială – nu numai pe frontul ofensiv, ci şi pe cel defensiv. Cel mai important risc pe care îl prezintă inteligenţa artificială este scalabilitatea sa: gândiţi-vă la «deep text-uri» (n.r. – texte care sunt generate automat, în sensul deep fake-urilor). Ce se va întâmpla dacă inteligenţa artificială ar fi folosită pentru a genera milioane de deep texte diferite, într-o singură zi, argumentând împotriva sau pentru un singur obiectiv? Ce se va întâmpla dacă nu suntem capabili să urmărim asta? Acest lucru ar reduce bazele fundamentale ale democraţiilor noastre“, atenţionează Forestier.
O dovadă că inteligenţa artificială poate fi folosită de unele regimuri chiar împotriva populaţiei o reprezintă utilizarea dronelor. Imaginile din China blocată, în care oamenii sunt urmăriţi cu drone care îi „vânează“ atunci când, mânaţi de foame, încearcă să iasă din casă pentru a-şi procura mâncare au făcut înconjurul planetei. „În prezent, fără inteligenţa artificială, aveţi nevoie de aproximativ 20 de persoane pentru a urmări 24 de ore din 24 un singur cetăţean. Acum, ne îndreptăm spre opus: o persoană, dacă se bazează pe inteligenţa artificială, poate urmări alte 20 de persoane. În curând va putea să urmărească şi mult mai multe“, subliniază francezul.
La limita terorismului
Un risc deloc neglijabil ar fi ca inteligenţa artificială să ajungă să fie utilizată şi de anumite grupări teroriste. Chiar dacă se vorbeşte foarte puţin despre acest lucru, Romain Forestier crede totuşi că riscul există şi că autorităţile trebuie să vegheze pentru a preveni ca acest lucru să se întâmple.
„Este greu de imaginat aşa ceva. Nivelul de complexitate care este asociat cu GPT-3 sau PanGu-Alpha implică, de obicei, faptul că teroriştii nu vor stăpâni, încă, în mod corespunzător tehnologia – în acelaşi mod în care tehnica unei arme nucleare poate însemna că actorii non-statali nu le pot folosi. Perspectiva, totuşi, ca un grup terorist să stăpânească inteligenţa artificială este terifiantă, având în vedere că ar creşte probabilitatea şi ordinea mărimii pagubelor potenţiale. Dar nu este nicidecum un risc zero. Acesta este motivul pentru care democraţiile noastre trebuie să-şi consolideze capacităţile de inteligenţă artificială“, punctează cercetătorul francez.
Privind pozitiv, nu trebuie să uităm că, în fond, inteligenţa artificială este precum un cuţit care poate tăia hrana pentru a potoli foamea cuiva sau poate fi folosită pentru a face rău şi chiar a ucide.
„Când vine vorba de prevenirea degradării democraţiei, inteligenţa artificială poate face asta, dar, în cele din urmă, trebuie să ţinem cont şi că inteligenţa artificială este doar un instrument. Algoritmii pot optimiza livrarea de mâncare la fel de mult pe cât vă pot sugera noi modalităţi de a destabiliza o reţea de energie electrică. Până la urmă, ceea ce obţii de la inteligenţa artificială depinde de trei variabile: datele pe care te antrenezi, performanţa inteligenţei artificiale şi scopul sau motivul pentru care e folosită. Pentru prevenirea posibilelor atacuri teroriste, cea mai mare parte a serviciilor de contrainformaţii au date, performanţă, dar şi obiective. Dar când vine vorba de prevenirea degradării democraţiei, cred că ne lipseşte un obiectiv clar care este în mare parte o problemă politică.
Dacă politicienii ar avea o baghetă magică şi un model foarte puternic de inteligenţă artificială, ce ar face cu acestea? Ar folosi inteligenţa artificială pentru stimularea fuziunii nucleare? Ar încerca crearea unei alternative Palantir? Ar putea intui mai bine efectele asupra climei? Din păcate, nu ştiu dacă ei ştiu ce ar face cu un astfel de instrument, atât timp cât nici noi, cetăţenii, nu ştim exact cum am folosi inteligenţa artificială pentru a promova democraţia“, e opinia lui Forestier.
Cel mai mare risc
Însă lucrurile pot merge şi mai departe. Mulţi oameni de ştiinţă recunoscuţi la nivel mondial au atenţionat că inteligenţa artificială s-ar putea întoarce împotriva omenirii, exact ca în literatura şi în filmele SF. Altfel spus, există scenariul în care inteligenţa artificială devine imposibil de controlat de către oameni şi sfârşeşte prin a intra în conflict cu omenirea, ameninţând chiar să o distrugă.
Romain Forestier conduce o echipă de analişti la JEDI. FOTO Future Summit
Cel mai cunoscut om de ştiinţă care a tras un semnal de alarmă în acest sens a fost celebrul Stephen Hawking, însă regretatul savant nu a fost şi singurul. Pentru ca acest scenariu sumbru să nu se transpună cândva în realitate, omenirea poate şi trebuie să ia câteva măsuri, încă de pe acum.
„Deocamdată, singurul lucru care opreşte inteligenţa artificială de a provoca consecinţe dezastruoase este propria sa limită tehnică – dar această limită va dispărea în anii următori. De aceea avem nevoie de două lucruri. În primul rând, de un sistem etic. Aceasta înseamnă că modele de inteligenţă artificială care sunt construite pentru a avea confidenţialitate prin proiectare (de exemplu, un sistem pentru recunoaşterea facială care nu are o bază de date centralizată) pot fi uşor de modificat sau de actualizat dacă ceva nu merge bine.
În al doilea rând, avem nevoie ca factorii noştri de decizie să înţeleagă ce este în joc şi să adopte o bază multilaterală comună pentru a preveni ca inteligenţa artificială să devină de neoprit sau incontrolabilă. Ar fi nevoie chiar de o convenţie privind siguranţa sistemelor de inteligenţă artificială, similară cu convenţia privind siguranţa nucleară, precum Acordul de la Paris, ratificat de aproape fiecare ţară de pe Terra, sau un nou tip de guvernare. Diplomaţia ar putea veni cu noi modalităţi de a impune controlul – poate tehnologiile blockchain ar putea juca un rol important aici“, susţine Romain Forestier.
CE ESTE JEDI
Joint European Disruptive Initiative (JEDI) este o agenţie europeană care vizează promovarea tehnologiilor disruptive. Inspirată de DARPA (agenţia Departamentului Apărării al Statelor Unite), JEDI finanţează inovaţia în diferite misiuni (mediu şi energie, sănătate, educaţie, digital, spaţiu şi oceane), cu scopul de a aduce „Europa într-o poziţie de lider în descoperire de tehnologii“. De asemenea, JEDI organizează competiţii ştiinţifice axate pe tehnologii disruptive.
Cum poate JEDI să recupereze decalajul dintre Europa şi SUA
În ultimele decenii, ţările Uniunii Europene au pierdut teren într-o competiţie neoficială cu SUA şi cu China. Tehnologia Made in Europa a rămas cumva în urma celei din cele două ţări, iar sistemele de cercetare europene sunt depăşite. JEDI şi-a propus să readucă în prim-plan Europa, pentru a avea un rol global în noile tehnologii.
„Poziţia noastră este destul de clară: într-o lume atât de competitivă, în care tehnologia joacă acum un rol atât de important, trebuie să ne concentrăm efortul asupra inovaţiei perturbatoare. Primul lucru este să recunoaştem această realitate. Nu putem aborda o problemă dacă nu recunoaştem problema. În al doilea rând, evident, trebuie să acţionăm în acest sens: trebuie să fim mai rapizi pentru că am văzut toţi de cât de mult timp am avut nevoie pentru a implementa vaccinul şi procesul vaccinări în Uniunea Europeană la începutul pandemiei. Trebuie să fim mai buni la finanţarea inovaţiilor perturbatoare, pentru că vaccinurile ARN au schimbat jocul. Trebuie să fim mai buni în previziune, pentru că au fost răspândite zvonuri bine înrădăcinate provenite din mai multe ţări (fie ele de pe malul Atlanticului sau care sunt la graniţa cu Rusia) despre Ucraina şi fapul că era pe punctul de a fi invadată – şi nu am împiedicat asta. Pe baza acestui lucru, planul nostru este destul de clar: îmbunătăţirea capacităţilor noastre de previziune pentru a finanţa tehnologiile care vor schimba jocul viitorului“, arată expertul.
Dacă DARPA, care are rolul de a dezvolta noi tehnologii pentru forţele armate, are peste 60 de ani, iar chinezii au şi ei un avans deloc neglijabil în faţa Europei în ce priveşte inovaţia tehnologică şi deep tech, JEDI a trebuit să vină cu propria strategie pentru a iniţia un program serios şi o strategie capabilă să schimbe situaţia.
„Strategia este destul de asemănătoare cu cea pe care o au americanii şi chinezii: identificarea a ceea ce numim «următorul lucru mare important» şi concentrarea eforturilor noastre asupra acestuia. Tehnologia remaniază constant cărţile. Acest lucru a făcut ca Tesla să fie mai apreciată decât majoritatea producătorilor de maşini europeni la un loc sau ca SpaceX să ia locul companiei franceze Arianespace, devenind lider de piaţă“, punctează Forestier.
Rolul României în cadrul JEDI
Deşi JEDI a început ca o iniţiativă franceză, susţinută de Germania, în prezent a evoluat devenind un proiect european, iar România nu este exclusă. Romain Forestier crede că experţii români îşi pot aduce şi ei contribuţia la succesul JEDI. „Poate că am început ca o iniţiativă franco-germană, dar suntem o iniţiativă europeană: trebuie să valorificăm sprijinul şi talentele din toată Europa dacă vrem să rezolvăm cele mai mari probleme cu care ne confruntăm astăzi. România, cu ecosistemul său puternic, în special în domeniul cibernetic, are mulţi factori importanţi de schimbare şi soluţionare a problemelor. Acesta este motivul pentru care lansăm şi un JEDI Hub în Bucureşti, pentru a valorifica mai bine multele talente şi abilităţi de aici, în Bucureşti şi la Future Summit 2022“, a spus francezul.
De asemenea, el a vorbit şi despre realizările JEDI, de la înfiinţare şi până în prezent. „Suntem mândri de succesele noastre, dar avem doar doi ani. Cu toate acestea, în aceste 24 de luni, am lansat primul nostru GrandChallenge şi am demonstrat că o «metodologie DARPA» poate fi aplicată în Europa. Am construit o comunitate incredibilă de lideri vizionari, deep tech, start-up şi factori de decizie – o comunitate pe care încă o extindem odată cu lansarea unui JEDI Hub în Bucureşti. Ne-am crescut semnificativ previziunea şi expertiza tehnologică, identificând GrandChallenges pe care dorim să le lansăm în viitorul apropiat“, mai spune acesta.
Combustibil de pe Lună
Totodată, viitorul legat de JEDI este şi strâns legat de tehnologie, din moment ce ea influenţează şi afectează acum toate aspectele societăţii noastre. „Iată viitorul pe care îl susţinem: o Europă rezistentă, în care tehnologia este în serviciul binelui comun şi în care instrumentele noastre digitale respectă standardele noastre democratice. Simplu spus, ne dorim un viitor pentru Europa modelat de un ecosistem tehnologic şi ştiinţific european etic“, punctează Forestier.
În final, francezul a vorbit despre motivele care îl fac optimist, exprimându-şi convingerea că în următoarele decenii JEDI va reuşi în tot ceea ce şi-a propus. „Până în 2070, Europa va fi atins deja neutralitatea carbonului timp de 20 de ani, aşa că până atunci, JEDI se va concentra probabil pe fuziunea nucleară şi nu pe turbinele eoliene cu hidrogen verde. Iniţiativele GrandChallenge în domeniul spaţial vor fi şi mai fascinante, deoarece resturile spaţiale nu ar mai fi o problemă. Din moment ce costul accesului în spaţiu va fi împărţit la o singură cifră, vom putea folosi combustibil de pe Lună pentru a face explorarea spaţiului mai ieftină şi mai accesibilă“, a conchis Romain Forestier.
Planul nostru este destul de clar: îmbunătăţirea capacităţilor noastre de previziune pentru a finanţa tehnologiile care vor schimba jocul viitorului. - Romain Forestier
Vă mai recomandăm şi:
Se încarcă comentariile...
