Inteligența artificială, de la riscul la adresa democrației până la extincția rasei umane. Ce spun doi reputați experți
0Tot mai mulți experți în inteligența artificială avertizează că omenirea ar putea ajunge în planul extincției din cauza inteligenței artificiale, întocmai ca în filmele SF. „Adevărul” a discutat cu doi experți de prim rang în inteligența artificială pentru a afla dacă și în ce măsură aceste scenarii apocaliptice ar putea deveni realitate.
Un grup mic de roboți umanoizi a avertizat omenirea, în cadrul unei conferințe ONU, la Geneva, că într-o zi ar putea prelua conducerea lumii și că ar face-o mai bine decât oamenii. E doar una dintre știrile de acest gen apărute în ultimii ani la marile agenții de presă, dar nu și singura. Așa s-a ajuns la dezbateri intense pe acest subiect, în mediul academic, iar unii cercetători merg până la a susține că roboții ar putea distruge lumea.
Printre aceștia se numără însuși Mo Gawdat, fost director Google, dar și un alt expert al gigantului american, Blake Lemoine, care a provocat multă vâlvă când a afirmat că LaMDA (Language Model for Dialogue Applications), un sistem de inteligență artificială a devenit conștient de sine.
Și experții Comisiei Europene admit că inteligența artificială nu aduce doar beneficii, ci implică și multe riscuri. De altfel, folosirea inteligenței artificiale în UE va fi reglementată printr-un act legislativ care ar trebui definitivat până la finele anului.
Până atunci, „Adevărul” a consultat doi experți de prim rang în inteligența artificială. Este vorba despre Maria Axente, membră în consiliul consultativ pentru implementarea politicilor de inteligenţă artificială din Parlamentul Marii Britanii, de ale cărei opinii țin cont Parlamentul European, ONU, UNICEF, World Economic Forum şi Academia Marii Britanii. Al doilea expert este Cătălina Ștefănescu-Cuntze, profesor la Universitatea ESMT Berlin, cunoscută ca matematician și specialist în inteligență artificială aplicată în mediul de afaceri.
În opinia Mariei Axente, care este și specialist în etica inteligenței artificiale, ideea că inteligența artificială ar putea să pună stăpânire pe lume și să distrugă omenirea e absurdă. Admite însă că există alte numeroase riscuri, iar aici dă ca exemplu diverse sisteme de inteligență artificială care pot pune în pericol chiar democrația și stilul nostru de viață.
„Bineînțeles că e o aberație”
În ce privește afirmațiile lui Blake Lemoine, ea le cataloghează drept „o prostie”.
„Este o prostie. S-a trezit omul ăla într-o zi și a zis: Vreau și eu să fiu faimos pentru exact 5 secunde și am să spun că modelul meu este conștient. Despre asta este vorba”, punctează experta.
Ea amintește și un alt caz, cel al robotului Sofia, care a avertizat de asemenea că ar putea decide destinul omenirii.
„Îl știu pe David Hanson (n.r.- creatorul Sofiei). Și a fost cu Sofia la multe festivaluri, bine că a tăcut. La fel, a fost aceeași chestie. A zis așa de multe porcării, pe bune! Toate chestiile astea dau bine la presă, sunt senzaționale. Lumea a văzut, a fost Sofia, dar deja dacă mai vin alte Sofii… nu mai sunt interesante. Trebuia să spui altceva nou și atunci a venit băiatul acesta și a spus: vai, am o linie de cod, am un algoritm care a devenit conștient peste noapte. Bineînțeles că este o aberație”, mai spune ea.
Adevăratele pericole din umbră
În ce privește sistemele de recunoaștere facială, lucrurile se schimbă. Ele pot interfera și aduce prejudicii cetățenilor de rând, la fel cum algoritmii rețelelor de socializare ne pot influența obiceiurile de consum și pot ajunge să decidă și rezultatele alegerilor politice.
„Problema cea mai mare pe care o ridică recunoașterea facială este că erodează spațiul privat al omului. Nu o să mai avem spațiu privat. Și asta este o chestie atât de fundamentală și atât de profundă pentru noi că umanitate încât noi încă nu am înțeles cât de periculos este acest lucru. Ăsta este un pericol mult mai mare decât inteligența artificială care devine conștientă. În momentul în care guvernele încep să aibă toate datele astea despre noi, și nu numai guvernele, companii private, toată lumea are toate datele despre noi, mai puțin noi, este o balanță a puterii înclinată spre orice altceva, nu spre noi”, mai spune ea.
Oamenii renunță la libertatea de a alege
Și asta nu este tot. În opinia Mariei Axente, riscurile sunt majore. Ea amintește faptul că cei mai mulți oameni renunță să mai gândească și iau totul de-a gata de pe rețele sociale sau din alte părți, unde în locul lor „gândește” inteligența artificială. Iar asta s-ar putea să-i coste.
„Una din cele mai mari probleme este după mine pierderea liberului arbitru și libertatea de a alege. Dacă te uiți cu adevărat la drepturile fundamentale ale omului e ceea ce s-a obținut după mii de ani de sacrificii a miliarde de oameni. Delegăm unor mașini capacitatea noastră de a comunica, ceea ce facem deja, capacitatea noastră de a gândi, pentru că ne dă algoritmul soluția și nu mai stăm noi să gândim. În condițiile astea, algoritmii sunt construiți cu anumite priorități și obiective în minte pe o clasa conducătoare. Următorul nivel ar fi cum o să fie organizată societatea noastră. O să mai avem democrații? Iar acestea sunt subiecte foarte mari și la nivel așa planetar”, avertizează experta.
Iar dacă cei mai mulți refuză până și să se gândească la aceste riscuri și cred că ele nu sunt de actualitate, românca are o altă părere. „Majoritatea oamenilor spun că nu vom trăi suficient ca să fim afectați. Le-aș spune: mai gândește-te! Care au fost acum 10 ani top 5 companii cele mai valoroase din lume? Și uitați-va acum. Alea de acum 10 ani nu mai sunt nici în top 20”, adaugă Maria Axente.
Antropomorfizarea inteligenței artificiale
Și Cătălina Ștefănescu-Cuntze spune că riscurile să ajungem să trăim într-o lume în care să fim la discreția roboților e doar o ficțiune. Greșim atunci când, poate fără să realizăm, atribuim inteligenței artificiale însușiri omenești. În realitate, algoritimii vor rămâne algoritmi, iar roboții tot roboți, indiferent de dezvoltarea care va urma.
„Trebuie să ținem minte că orice robot, oricât de perfecționat, nu posedă gândire proprie și prin urmare nici opinii raționale. Suntem din ce în ce mai mult martorii unor tendințe de a antropomorfiza inteligența artificială, adică de a atribui acestor algoritmi și roboți diverse însușiri și trăsături umane, mergând până la aspectul fizic. Există tentația de a interpreta producția lor lingvistică în același fel în care dezbatem și evaluăm opinii și argumente umane bazate pe raționament, experiență și sentimente”, spune ea.
În opinia expertei, aceasta nu ne va duce prea departe pentru că sistemele lingvistice pe care se bazează limbajul roboților umanoizi nu fac decât să redea, într-un sistem probabilistic, cele mai probabile fragmente de text care corespund unei anumite întrebări impuls.
Pe de altă parte, este într-adevăr de așteptat că inteligență artificială să fie utilizată din ce în ce mai mult în domenii variate, inclusiv ca suport în decizii de conducere, completează experta româncă din Germania.
„Capacitatea de a prelucra rapid cantități imense de date este un avantaj cert care poate suplimenta un raționament echilibrat al liderului uman oferindu-i o perspectiva mai largă pentru a evalua diversele scenarii dintr-o decizie complexă. În multe domenii, inteligența artificială are potențialul de a crește eficiența proceselor economice, de a mări productivitatea, și de a facilita inovația, de exemplu, prin reducerea timpului de testare a noi produse și servicii. Pentru că potențialul enorm al inteligenței artificiale să fie realizat în siguranță și cu respectarea codurilor etice pe care societatea și le asumă, este necesară crearea unor reglementări și limitări care să se aplice dezvoltării și implementării viitoarelor produse de inteligente artificială”, mai spune Cătălina Ștefănescu-Cuntze.
Se încarcă comentariile...
