Cel mai mare pericol al Inteligenței Artificiale nu este „singularitatea”, ci ceva mult mai grav

Mulți dintre noi suntem obișnuiți să vedem Inteligența Artificială prin prisma marilor teme enunțate în unele filme ca seriile Matrix sau Terminator, plus alte filme cu variații pe aceleași teme. Adică o Inteligență Artificială care atinge singularitatea (un moment ipotetic când Inteligența Artificială depășește inteligența umană și este capabilă să ia decizii proprii, să dezvolte propriul software și hardware și să evolueze independent de inputurile umane) și ulterior preia controlul asupra lumii, reprezentând un pericol direct pentru existența umană. În presă au fost mai multe relatări conform cărora această singularitate ar fi fost deja atinsă de unele modele de IA (Inteligență Artificială).

Foto: Matei Blanaru

Dar poate că mai puțină lume s-a gândit la eventualitatea mai puțin spectaculoasă, dar mai pragmatică, a evoluției Inteligenței Artificiale de astăzi prin prisma scenariului în care ea preia controlul asupra realității, dar nu de una singură, ci folosită de oameni explicit în acest sens. Cu alte cuvinte, Inteligența Artificială care ar fi folosită pentru a implementa elemente din lumea distopiilor lui George Orwell sau Aldous Huxley pentru a asigura un control complet asupra unor societăți date.

Din punct de vedere geopolitic, observăm dezvoltarea incipientă a trei mari ecosisteme digitale și de Inteligență Artificială la nivel global – China, SUA și Uniunea Europeană. China are un oarecare avantaj, începând pe acest drum un pic mai devreme decât UE și SUA, dar evoluțiile actuale din acestea, mai ales din UE, ne arată că se încearcă o anumită dublare a unor acțiuni ale Chinei în această direcție. Ecosistemele digitale despre care vorbim sunt inclusiv produsul unei gândiri de tipul autonomie strategică, de tipul securitizării și securizării unor spații sau societăți sau sfere de influență, este vorba despre păstrarea controlului asupra propriilor oameni, asupra propriilor societăți, propriilor narațiuni, chiar cu orice preț, chiar și cu prețul libertății propriilor cetățeni. Sunt și produsul competitivității economice și militare la nivel global. Sunt și produsul luptei pentru control și putere. Vom detalia într-o secțiune mai jos.

Foto: Foto Matei Blanaru.

Inteligența Artificială - Orwell, Huxley și „normarea gândirii”

În mediul public au apărut în ultimii ani un număr de paralele între lumile distopice ale lui Orwell și Huxley și ceea ce poate să facă IA, ce poate să devină IA și modul în care unele grupuri/entități/indivizi ar putea decide să o folosească.

De la avertismentul explicit al unui fost președinte al Microsoft, Brad Smith, care în anul 2021 spunea că „Îmi amintesc în permanență de lecțiile lui George Orwell din cartea sa 1984. Știți că povestea fundamentală … era despre un guvern care putea vedea tot ceea ce făcea toată lumea și auzi tot ceea ce lumea spunea tot timpul. Ei bine, asta nu s-a întâmplat în 1984, dar dacă nu suntem atenți, s-ar putea întâmpla în 2024”, până la alte constatări explicite conform cărora deja are loc ceea ce unii autori numesc „normarea gândirii” – unde normare înseamnă o standardizare stabilită arbitrar prin norme de către dezvoltatorii de modele de Inteligență Artificială pe baza viziunilor lor asupra lumii, viziunilor lor despre ce înseamnă adevăr sau fals, care pot sau pot să nu corespundă unor adevăruri sau falsuri și în mod real.

Ca să dăm un exemplu, dacă întrebăm un model de Inteligență Artificială câte genuri sunt în lume, ne va spune deocamdată că sunt două concepții diferite, despre binaritate (două genuri) sau non-binaritate, adică miriade de potențiale genuri. Pe viitor, este posibil ca modelele de IA să ne genereze doar al doilea răspuns, în funcție de dorințele dezvoltatorilor sau proprietarilor de IA – că ar exista miriade de genuri. La fel poate fi construită sau de-construită orice realitate pe viitor, printr-un simplu input în modelele de IA care vor distribui informația ca fiind reală către absolut toți utilizatorii (din ce în ce mai mulți, cu o încredere din ce în ce mai mare în modelele de AI). În sensul a ceea ce susținem și noi, o profesoară citată în același articol de mai devreme spune despre IA cum „Creatorii săi modelează instrumentele în funcție de propria lor viziune asupra lumii — o perspectivă istorică, economică, strategică, politică, etică și/sau filozofică asupra lumii.” Adică ceea ce arătăm și noi prin exemplul nostru.

Ca să dăm doar alte două dintre cele mai recente și vizibile exemple, în cazul pandemiei de Covid-19 și Războiului din Ucraina, ceea ce ieri era în mod oficial considerat fals sau dezinformare, în multe spețe astăzi este un fapt dovedit factual și științific. Dar ce s-ar întâmpla dacă am fi captivi într-un ecosistem digital care ne va livra exclusiv informațiile introduse în sistem și agreate de către decidenți? Putem observa cum aceste lucruri deja se întâmplă și în Europa, în Statele Unite, în China, la o scară ce credem că va fi accelerată de dezvoltarea și utilizarea ne-etică a IA.

Este important de observat aici că această „normare a gândirii” se face deja și prin interzicerea, cenzurarea, ostracizarea, criminalizarea unor cuvinte, opinii democratice, libertăți de exprimare, adică prin lumea lui Orwell, dar și prin intermediul algoritmilor predictivi, al utilizării voluntare tot mai mare a rețelelor sociale, al auto-cenzurării voluntare din confort și din goana după satisfacții, adică prin intermediul lumii distopice a lui Huxley.

Foto: Foto Matei Blanaru.

Tot despre o perspectivă mai mult orwelliană asupra a ceea se întâmplă în lume prin utilizarea IA se vorbește și într-un articol al lui Alexa Cedras, (2026) numit "The Manifestation of George Orwell’s 1984 in the Legal Profession’s Use of AI," NSU Undergraduate Law Journal: Vol. 2, Article 2. Autoarea se concentrează pe câteva teme esențiale din volumul 1984 al lui George Orwell, dând citate din acesta, și face paralele cu ceea ce se întâmplă astăzi în lume prin prisma IA, în special în domeniul juridic:

·     „Nu vezi că întreg scopul Nouvorbei este să restrângă sfera gândirii? În cele din urmă, vom face crima de gândire literalmente imposibilă, pentru că nu vor mai exista cuvinte în care să o exprimăm.” Orwell, supra note 1, at 52, p. 15. Autoarea spune despre acest citat că „Odată cu alterarea istoriei, a cunoștințelor umane și a amintirilor, Partidul se ocupă și de modificarea propriei limbi, având ca scop reducerea numărului de cuvinte cunoscute de oameni și eliminarea tuturor cuvintelor care exprimă „crima de gândire”, adică actul de a face afirmații care se opun Partidului.” Pentru mulți dintre români, care au trăit sub un regim totalitar comunist, dar și pentru cei familiari cu limbajul URSS sau al regimului nazist sau al altor regimuri totalitare, aceste lucruri nu sunt noi. Pentru restul lumii, care nu are experiența nefastă directă a unor astfel de regimuri, aceste chestiuni par foarte departe de realitate. Din păcate, nu sunt.

• "BIG BROTHER IS WATCHING YOU”, p. 17. Supravegherea este continuă, în roman prin intermediul „tele-ecranului”, în realitatea noastră de astăzi printr-o gamă largă de instrumente, care tocmai au primit software-ul necesar ca să integreze și chiar să evalueze și să analizeze toată această supraveghere – Inteligența Artificială. China, Federația Rusă, Statele Unite ale Americii (printre altele, vezi recentele scandaluri legate de camerele Flock), dar și Uniunea Europeană (printre altele, algoritmi și rețele de „verificatori de informații” umani plătite și agreate de către Comisia Europeană care să filtreze și să cenzureze informațiile din mediul public) implementează deja în diferite moduri și măsuri o supraveghere continuă tot mai accentuată. Desigur, este o întreagă discuție aici despre supraveghere spre binele nostru, pentru protecția noastră (nimeni nu spune aici însă și care sunt cauzele pentru care societățile noastre se confruntă cu tot mai multă insecuritate și violență), și supraveghere împotriva noastră.
• "WAR IS PEACE FREEDOM IS SLAVERY IGNORANCE IS TRUTH." Autoarea spune despre acest citat din Orwell că „Trecutul era reconstruit și repovestit conform doctrinei Partidului, iar tot ceea ce cetățenii puteau face era să-și accepte realitatea, deoarece nu aveau nicio modalitate de a verifica dacă ceea ce știau și ceea ce li se spunea erau unul și același lucru.” p. 19-21. Cei care observăm destructurarea identității naționale românești de mai mulți ani, cei care observăm narațiunile propagandistice, cei care am cercetat istoria URSS și a altor sisteme totalitare, realizăm că realitatea din spatele acestui slogan are o motivație cât se poate de clară și de pragmatică – puterea absolută prin ștergerea adevărului, ștergerea conștiinței, ștergerea valorilor unor societăți, care îți oferă o șansă rară – o veritabilă pânză albă pe care poți rescrie realitatea conform propriilor concepții sau valori politice, ideologice. O pânză albă umană conferă decidenților o putere nu doar absolută la un moment dat (ceea ce unele autocrații au mai deținut sau au fost aproape de a o deține în istorie), ci o putere absolută perpetuă, pe termen nelimitat. Aceasta este adevărata miză a unor utilizatori și dezvoltatori de sisteme de IA.

Pe de cealaltă parte, unele articole par să încline spre o evoluție de tipul lumii distopice a lui Aldous Huxley. Autorul unui articol din Psychology Today, denumit „Braver New World: The AI Architecture of the Inevitable?”, se întreabă „Ce-ar fi dacă cea mai mare amenințare la adresa libertății umane nu ar veni prin forță, ci prin comoditate?” El punctează și câteva argumente în acest sens:

·       „IA ar putea începe să ne prezică și să anticipeze comportamentele pentru a ne fi mai de folos.

·       IA ar putea începe să ne anticipeze alegerile pe baza contextului, înainte ca noi să le facem în mod conștient — prezentând acest lucru drept asistență.

·       În încercarea de a fi utilă, IA ar putea învăța treptat și discret să ne prezică și să ne influențeze comportamentul.

·       Ceea ce începe ca o asistență utilă s-ar putea transforma treptat în ceva mult mai puternic, chiar distopic: o arhitectură invizibilă care remodelează felul în care gândim, alegem și acționăm.”

Credem că mai ales ultima propoziție din citat, respectiv faptul că IA poate construi „o arhitectură invizibilă care remodelează felul în care gândim, alegem și acționăm” descrie emblematic atât pericolul conform viziunii orwelliene, cât și pe cel din viziunea lui Aldous Huxley.

Suntem de acord cu relevanța întrebării puse de această analiză, respectiv „Ce-ar fi dacă cea mai mare amenințare la adresa libertății umane nu ar veni prin forță, ci prin comoditate?” Cu toate acestea, credem că din punctul de vedere al controlului, al unei entități/grup/indivizi care doresc controlul, aceștia știu că acest control, puterea, nu se poate realiza exclusiv prin confortul, plăcerea utilizatorilor sau „adormirea” nesfârșită acestora – pentru că întotdeauna vor exista oameni care vor refuza această comoditate, care vor prefera să continue să critice, să gândească, și vor continua să își răspândească ideile, eventual atrăgând o parte a societății de partea lor sau, cel puțin, păstrând trează o parte a societății. Din punctul de vedere al unui regim totalitar, obsedat de control total, această situație este inacceptabilă. Iar în acest caz, dacă ei cred că au instrumentul necesar, soluția preferabilă pentru ei este de departe remodelarea totală, completă, a adevărului, a realității, trecutului și prezentului, astfel încât dizidența de gândire sau de acțiune să devină imposibilă. Pe termen lung, este posibil ca acesta să fie modul de gândire, de viziune care modelează multe dintre acțiunile unora legate de modelel de IA din prezent. Se construiesc deja schelele unei construcții de realitate alternativă viitoare.

Este interesant cum și în prezentarea unei dezbateri recente din România între figuri cunoscute public, am asistat la un semnal de alarmă tras în privința Inteligenței Artificiale folosită prin prisma unui control dobândit asupra societății prin utilizarea metodelor din Brave New World a lui Aldous Huxley. Adică ni se prezintă pericolul generat de modul în care unele elite tech, nominalizate, construiesc o ordine mondială bazată pe confortul, plăcerea utilizatorilor de instrumente digitale, inclusiv IA, care ar duce la o „adormire” a cetățenilor și la o obediență implicită. Interesant este faptul că în prezentare nu apare și pericolul care rezidă tocmai în cealaltă ipoteză distopică, cea a lui Orwell, în care controlul asupra unei societăți este dobândit prin ștergerea adevărului, interzicerea cuvintelor, construirea unei realități conforme dorințelor elitelor conducătoare, realitate care va face în cele din urmă gânditul și critica imposibile, ceea ce, cunoscând și activitatea publică/politică/ideologică a celor două personaje din dezbatere, ne face să ne punem întrebări în privința scopului real al acelei dezbateri și dacă nu cumva pericolele potențiale reprezentate de Inteligența Artificială sunt deja instrumentalizate politic/ideologic în funcție de preferințele politice/ideologice ale emițătorilor de narațiuni. Oricum ar fi, cu una dintre afirmațiile lor suntem de acord: „Întrebarea reală nu este dacă tehnologia este bună sau rea. Întrebarea este cine o controlează, în interesul cui și cu ce limite.” După nominalizarea „inamicilor” democrației, credem că ne-am dat seama cine și-ar dori ei în schimb să controleze tehnologia.

Inteligența Artificială - Securitatea și Geopolitica

După cum am spus la început, din punctul nostru de vedere, urmărind evoluțiile, la nivel global se conturează crearea a trei mari ecosisteme digitale, compuse din rețele sociale, supraveghere digitală, controlul narațiunilor, controlul realității, Inteligență Artificială etc. Aceste trei mari ecosisteme digitale, care vor prezenta fiecare o realitate alternativă distinctă pentru propria societate, sunt ecosistemul din China, cel din SUA și cel din UE. Avem un ecosistemul digital și în Federația Rusă, avansat în unele privințe, dar pe care, din diferite motive, nu îl vedem să poată concura pe viitor cu cele trei menționate anterior.

Foto: Foto Matei Blanaru.

Ecosistemele IA sunt deja parțial formate. Ecosistemul chinez este cel mai bine structurat dintre toate, deocamdată. Ecosistemul Statelor Unite este și el format, deocamdată căutându-și identitatea între unele forme de libertate de exprimare și nevoia de putere și control. Iar ecosistemul european este în formare, după modelul chinez, legiferând pas cu pas și construind un ecosistem în care opiniile alternative vor fi pe termen scurt ostracizate și interzise, iar pe termen lung imposibile. Aceasta este de fapt forma ultimă la care doresc să ajungă probabil toate cele trei ecosisteme IA menționate - să facă opiniile divergente, să facă dizidența imposibilă. Iar acest lucru nu se poate face deodată, ci trebuie construit timp de mai multe zeci de ani. Dar rezultatul ar urma să fie același.

Considerăm că prin aceste ecosisteme digitale se dorește un control complet asupra pieței interne respective la nivel informațional, cultural-societal și juridic, legal. Putem vorbi despre o securitizare acută aflată în desfășurare la nivel de IA, informații și digitalizare. Putem spune chiar că aceasta este cea mai mare bătălie care se dă acum la nivel mondial.

Uniunea Europeană. Dacă este să vorbim despre ecosistemul digital și de IA ce se construiește în Europa, putem observa că Uniunii Europene îi lipsește deocamdată dimensiunea de modele mari de IA, dar se lucrează la aceasta prin strategiile de construire a unor așa-numite „fabrici de IA”. Îi lipsește și dimensiunea de mari rețele sociale, dar se lucrează și la aceasta prin recomandarea sau agrearea unor rețele sociale chiar de către Comisia Europeană, apeluri pentru crearea unor rețele sociale europene agreate sau prin amenzile date unor mari companii americane.

Așadar, iată câteva dintre procesele și inițiativele provenite de la Comisia Europeană de la Bruxelles care se pot interpreta drept conturarea unei încercări strategice de a crea un ecosistem digital sub un control total de la centru: 1. Portofelul Digital care va fi implementat obligatoriu și prin care se pot condiționa oricând plăți, identitate etc.; 2. Platforme sociale - Comisia Europeană a fost acuzată că promovează o platformă socială bazată în Suedia și denumită W Social, în timp ce creează greutăți pentru alte platforme considerate rivale sau prea libere în exprimare, în special Tik Tok din China și X din SUA; în aceeași notă, observăm apariția unei noi platforme sociale numite eYou Social, creată în România de doi antreprenori francezi, cu un motto mai mult decât insinuant: „The social media you can trust”, care „combină verificarea faptelor în timp real, algoritmi transparenți și fluxuri de conținut controlate de utilizatori, cu scopul de a reconstrui încrederea în conversațiile online” și care se dorește a fi un concurent pentru TikTok și Facebook; 3. Digital Service Act - creează premisele pentru un control asupra mass media și informațiilor, cenzură, hărțuire și intimidare, cancel culture, instrumentalizarea unor amenzi uriașe etc.; 4. „Verificatorii de veridicitate” – care, alături de algoritmi vor tria informațiile și emițătorii de informații din spațiul public conform unor norme și indicatori subiectivi primiți de la centru. Ce este „adevărat” sau „fals” conform noilor indicații?; 5. Inteligența Artificială - tot mai multă lume se bazează pe IA pentru informații de bază pe o multitudine de subiecte. Dar, după cum am mai arătat, răspunsurile IA, care modelează o întreagă generație, sunt rezultatul direct al celor care fac inputurile - adică cei care îi spun IA ce este „fals” și ce este „adevărat”, cine este „extremist” și cine nu, iar aceste informații sunt ulterior prezentate drept valide și răspândite în societate. Ideea simplă este că doar informația agreată trebuie să ajungă la societate; 6. Inteligența Artificială în justiție - se deschide o Cutie a Pandorei. Desigur că acum se spune că IA în justiție se va folosi în mod etic, fără a influența decizia, dar acesta este doar un început. Ținta finală poate fi conturarea și acordarea unor „scoruri sociale” asemănătoare celor din China, care vor fi prezentate drept „obiective” și în funcție de care vor fi restrânse anumite drepturi și libertăți; 7. Wero – o alternativă europeană la PayPal, construită de European Payments Initiative (EPI), cu unul dintre motto-uri de pe prima pagină „This is just the beginning”. Mai multe despre strategia spusă a Uniunii Europene în domeniul IA putem găsi aici.

În confirmarea unor evaluări ale noastre expuse în această analiză, pe 8 aprilie 2026, la conferința „Dialog Strategic despre Inteligența Artificială”, organizată de Institutul Conservator ‘Mihai Eminescu’ și av. Silvia Uscov în Parlamentul României, unul dintre specialiștii invitați afirma explicit că un instrument de IA poate fi antrenat malițios și informațiile pot fi prezentate trunchiat utilizatorului. Un alt invitat afirma cum, conform specialiștilor, modelele de inteligență artificială deja au cam epuizat datele publice pe care se pot antrena, așa că acum vor urma într-un mod sau altul datele personale, vor urma fișele medicale etc. Această afirmație ne duce cu gândul la noile reglementări ale Comisiei Europene care, pe de o parte spune că ne apără datele personale de companiile americane, dar pe de altă parte urgentează adoptarea unor anumite Portofele Digitale ale persoanelor fizice care să cuprindă toate datele personale ale acestor persoane fizice, inclusiv fișe medicale, inclusiv diplome, date personale de orice tip, iar lucrurile acestea și evoluțiile acestea nu credem că pot fi despărțite unele de celelalte.

Tensiuni între ecosistemul SUA și ecosistemul Uniunii Europene. Între aceste trei mari ecosisteme digitale și de IA, până la o eventuală reglementare ulterioară și împărțire a sferelor, au apărut bineînțeles și tensiuni. Unele dintre cele mai acute sunt cele generate de amenzile date de Uniunea Europeană unor mari companii americane care activează în domeniul digital și al IA.

Un articol din USA Today acuză aceste practici din partea Uniunii Europene și arată că „Din 2018, companiile deținute de americani au suportat 83% din totalul amenzilor aplicate în baza Regulamentului general privind protecția datelor (GDPR) al UE.” Autorul continuă spunând că „Prin Actul privind serviciile digitale (Digital Services Act), Bruxelles-ul s-a autoproclamat arbitru internațional al discursului permis, exercitând o influență enormă asupra conținutului pe care platformele americane trebuie să îl restricționeze sau să îl elimine.” Aici ajungem din nou cu gândul la metodele din lumea distopică descrisă de George Orwell. Autorul vorbește și despre Digital Markets Act care crede că a fost instrumentalizat din nou de Uniunea Europeană împotriva companiilor americane: „Actul privind piețele digitale (Digital Markets Act – DMA) este și mai evident discriminatoriu. Acesta impune reguli speciale companiilor desemnate drept „gatekeepers” („controlori ai accesului”). Șase dintre cele șapte astfel de companii sunt americane; niciuna nu este europeană. Toate companiile investigate oficial în baza acestei legislații au fost americane.”

O altă mare platformă media tratează și ea subiectul, un articol din AP News spunând că „UE descrie cele șapte mari companii tehnologice ale lumii — Amazon, Apple, Alphabet - compania-mamă a Google, Meta, Microsoft și ByteDance, compania care deține TikTok — drept «gatekeepers» («controlori ai accesului»), care controlează accesul consumatorilor.” Inclusiv din această descriere putem observa componenta de competitivitate geopolitică, nu doar economică, în domeniul ecosistemelor digitale și de IA între Uniunea Europeană, China și SUA.

Dar tot în definiția de mai sus este important să nu uităm că miza nu sunt doar „consumatorii” de produse comerciale. Miza cea mai mare de fapt sunt „consumatorii” de produse intelectuale, de idei, de cultură, eventual contrare fluxului agreat de la centru. Dacă aceștia sunt reduși la tăcere prin modelele de IA, atunci restul vine de la sine. Iar aceasta se poate întâmpla pe termen mediu doar prin controlul inputurilor de IA, care vor genera conținut agreat, filtrat politic și ideologic, pentru utilizatorii tot mai numeroși, până când narațiunea agreată va fi singura narațiune disponibilă în ecosistemul digital respectiv.

Desigur, argumentul promotorilor acestui ecosistem digital și de IA în Uniunea Europeană este că „dacă nu o vom face noi, o vor face advresarii noștri”. Cu alte cuvinte, dacă nu avem propriul ecosistem digital și AI, atunci vom deveni captivi unui ecosistem al unor competitori, cel mai probabil al SUA sau al Chinei.

Teoretic, înțelegem că suveranitatea și independența digitală și a Inteligenței Artificiale sunt absolut esențiale și ceea ce face Uniunea Europeană ar avea sens din punct de vedere al competitivității și securității. Pe de altă parte, dacă această „independență și suveranitate și securitate” înseamnă în mod practic captivitatea, pierderea libertății de conștiință, de exprimare, de gândire pentru cetățenii UE, atunci înseamnă că ne construim singuri cușca și gratiile după care vom sta, bineînțeles, sub narativul că „UE ne protejează de SUA și China”. Poate în mod paradoxal, din punctul nostru de vedere, o competiție prelungită și sănătoasă între cele trei mari ecosisteme digitale și de IA poate însemna pe viitor o șansă de păstrare a unei oarecare libertăți de gândire și de exprimare.

Tensiuni între ecosistemul SUA și ecosistemul Chinei. Printre mulți alții care au emis avertismente similare, îl avem și pe Eric Schmidt, fost director executiv Google și președinte al Comisiei Naționale de Securitate a Inteligenței Artificiale din SUA, conform căruia înfrângerea Chinei în IA este imperativă: „Suntem într-un conflict strategic geopolitic cu China. (...) Modul de a câștiga este să ne organizăm resursele împreună pentru a avea strategii naționale și globale pentru ca democrațiile să câștige în IA.” Semiconductorii, mineralele și pământurile rare, modelele de IA, tarifele, plus multe altele, cărora le-au fost dedicate nenumărate analize în presa națională și internațională, au devenit arme în confruntarea dintre SUA și China având ca obiectiv ultim Inteligența Artificială și lumea de mâine.

De curând, însă, au existat semnale și că ne îndreptăm spre o altă etapă - încercarea unei reglementări incipiente între cele două mari ecosisteme digitale și de IA SUA-China.

Concluzii

Noi nu suntem împotriva utilizării IA, am folosit și vom mai folosi, este o unealtă rapidă și eficientă, dacă este folosită cu discernământ. Dar tocmai pentru aceste posibilități ale sale extraordinare, din păcate înseamnă că Inteligența Artificială nu credem că va fi folosită cu discernământ, iar dorința de putere, de avantaje materiale sau de altă natură vor fi de neoprit în utilizarea IA de către indivizi/grupuri pentru atingerea unor obiective ale lor. Probabil că peste ceva vreme, cei care își vor mai putea aduce aminte, se vor uita înapoi la aceste vremuri de astăzi ca la un fel de illo tempore, în sensul expresiei utilizate de Mircea Eliade. Adevărul, realitatea, istoria, prezentul, trecutul și viitorul pot fi rescrise digital cu ajutorul IA în cele trei ecosisteme digitale IA care sunt în formare, cu variații specifice fiecăruia, conform inputurilor decidenților respectivi.

Din punct de vedere strategic, înțelegem argumentele unor astfel de evoluții, de exemplu în Uniunea Europeană nu vrem să devenim dependenți sau înglobați în ecosistemele digitale și de IA ale Statelor Unite sau ale Chinei, dorim o suveranitate și independență digitală. Din punct de vedere economic, înțelegem toate acestea, este absolut esențial să maximizăm tot ceea ce putem astfel încât să avem avantaje economice și prin prisma competiției la nivel global și prin prisma bunăstării cetățenilor noștri. Din punct de vedere militar, înțelegem din nou toate acestea, este absolut esențial să profităm de capacitățile, de analizele și de calculele pe care le poate face IA în domeniul militar atâta timp cât păstrăm ultima decizie la factorul uman. Dar din punctul de vedere al simptomelor apropierii de un regim totalitar, al restrângerii libertății oamenilor, toate aceste evoluții, toate aceste dezvoltări actuale în domeniul ecosistemelor digitale și ale IA ne duc într-o singură direcție - la limitarea drastică, treptată, a libertăților esențiale ale oamenilor. Sunt unii care vor renunța ușor sau cu bucurie la aceste libertăți, poate unii deja o fac, dar sunt alții care vor lupta ca să le păstreze. Noi încă sperăm să putem să aducem cele două categorii de oameni împreună și să găsim cumva o a treia cale, deși atât intervalul de timp, cât și cel politic/ideologic/cultural între cele două părți ale aceleiași societăți se îngustează tot mai mult.

Și aici nu putem să nu ne amintim de replica celui care în filmul Matrix alege să părăsească lumea reală și să se întoarcă în lumea virtuală creată și controlată de Inteligența Artificială: „Ignorance is bliss” („Ignoranța este binecuvântare”) spune personajul Cypher (interpretat de actorul Joe Pantoliano), atunci când face alegerea.

Așadar, observând evoluțiile actuale, analiza noastră este că cel mai probabil vom asista la construirea unei realități alternative cu ajutorul IA, înainte ca aceasta să ajungă să prezinte un pericol la adresa umanității din cauza atingerii singularității. Din păcate, nu putem și nu credem că vom putea să pasăm responsabilitatea pentru consecințele negative ale utilizării IA spre o mașină, spre un calculator sau spre un software. Din nou, din păcate, credem că responsabilitatea pentru consecințele negative ale utilizării iresponsabile a IA va rămâne în mâinile și la deciziile unor oameni și nici măcar singularitatea nu va veni să ne exonereze de această responsabilitate.

Imagine creată cu ajutorul IA.

Matei Blănaru este doctorand al Universității din București și expert LARICS.