Ana-Maria Stancu, la „Interviurile Adevărul”: AI, ajutor sau risc? Cât de pregătită este România pentru inteligența artificială

Ana-Maria Stancu, antreprenoare în robotică și inteligență artificială, a vorbit în primul episod al emisiunii „Next Economia Viitorului” despre felul în care AI schimbă piața muncii, costurile implementării acestei tehnologii și riscurile folosirii ei fără o verificare atentă. 

Adevărul: În fiecare duminică, la ora 08:00, vom discuta cu oameni care construiesc viitorul, la Next – Economia Viitorului. „The future is now”, așa ni se spune. Viitorul vine peste noi și nu mai putem să-i facem față, așa că trebuie să ne pregătim, să ne pregătim și să descoperim reziliența, că tot e un cuvânt care a fost folosit foarte mult în ultimii ani. Vom vorbi la Next despre joburile viitorului, despre investițiile viitorului, despre asigurările viitorului, despre cum va arăta, în foarte scurt timp, realitatea cu care va trebui să ne obișnuim. Și primul episod, nu întâmplător, este dedicat inteligenței artificiale, este dedicat joburilor viitorului și vă vom răspunde la trei întrebări: Cât costă? Prețul real. Vom vorbi despre cât costă să introduci inteligența artificială în viața ta și în viața companiei tale, dacă ai o afacere. Cu ce ne ajută? Aici cred că e ușor de intuit. Și ce poți face tu? Cele trei lucruri la care să te gândești luni, după ce ai urmărit un episod din Next, la „Adevărul”. Și nu întâmplător, vă spuneam, discutăm în primul episod cu un om care aduce inteligența artificială mai aproape de noi. Este vorba despre Ana-Maria Stancu, antreprenoare în robotică și inteligență artificială. Promovează utilizarea roboților în diverse domenii, de la educație la agricultură, și va apărea cartea ei în curând, „ABC-ul transformării digitale”. Îți mulțumim tare mult, Ana-Maria, și bun găsit la primul episod. Ești deschizătoare de drumuri, iată.

Ana-Maria Stancu: Bună dimineața și mulțumesc foarte mult pentru această onoare!

Ana-Maria Stancu, la „Interviurile Adevărul”. Foto: Adevarul

Cât de pregătită este România pentru inteligența artificială

Așa, și dacă tot începem să discutăm despre inteligența artificială, să intrăm direct în pâine, cum se spune. În ce stadiu am implementat inteligența artificială în România? Unde suntem noi acum? Pentru că, în Statele Unite, vedem un progres pe care nimeni nu și-l putea imagina, care a venit peste noi, practic, în ultimul an, a schimbat piața muncii, ne-a schimbat viața, în bine, sper. Unde suntem noi acum?

România nu are cum să stea bine, pentru că, până acum, am stat pe ultimul loc în Uniunea Europeană la competențe digitale. Nu ai cum să sari de la ultimul loc la ceva foarte avansat. Nu trecem de 10% la integrarea inteligenței artificiale în IMM-uri. În administrația publică, nici atât. Au început câteva eforturi, însă este foarte mare nevoie de educație. Dincolo de asta, nu doar educație despre cum să o folosim, ci și educație despre care sunt riscurile. Și ăsta este un lucru foarte important, pentru că am mai auzit, de exemplu: „Hai să folosească toată administrația publică inteligența artificială, că eficientizează procesele”. Da, dar trebuie să știi cum să o folosești. Adică nu poți să-i dai unui funcționar public să folosească ChatGPT, Gemini sau Claude și să nu-i spui că informațiile pe care le bagă acolo se duc undeva pe internet. Nu poți să-i introduci în astfel de soluții comerciale date personale, date care intră sub incidența GDPR sau date confidențiale. Și atunci este foarte mare nevoie, pe de o parte, să-i înveți pe oameni ce fac toate uneltele astea. Eu, la traininguri, văd, de exemplu, mulți care zic că știu cu AI-ul și așa, dar îi întreb: „Știți să vă faceți un GPT al vostru?”. În ChatGPT poți să-ți faci propriul tău ChatGPT. Sunt unelte pe care nu le folosesc. Adică nu fac decât să scrie promptul. Sunt foarte puțini care au ajuns la nivelul de a folosi agenți. Dar și acolo este o discuție foarte mare legată de agenți. Pentru că, de exemplu, într-o companie, hai să zicem că ai niște procese pe care le-ai putea da unor agenți, care nu conțin neapărat foarte multe informații personale. Dar în instituțiile publice este destul de dificil, adică este un proces mult mai complex și, mă rog, în România nu avem încă, pentru că trebuie armonizată, trebuie introdusă, de fapt, legislația. Însă avem la nivel european, de doi-trei ani, o legislație, AI Act, care reglementează acest domeniu și spune că, dacă folosești tu o astfel de soluție, trebuie să faci niște chestii. Adică nu gata, mâine vrem și s-a întâmplat. Asta tot încerc să explic, că nu este atât de simplu și toată efervescența asta cu „hai să folosim AI-ul” s-ar putea, la un moment dat, să creeze niște probleme. Ce aș vrea să mai spun este că știrile astea bombastice pe care le vedem, că toată lumea folosește AI, trebuie să le luăm un pic mai liniștit așa, pentru că, de exemplu, foarte multe companii din America, care au fost primele și au zis că noi „vrem să fim AI first”, s-au trezit că angajează înapoi oameni. Pe de o parte, pentru că nu a mers așa cum se așteptau, iar pe de altă parte, pentru că a crescut costul procesării și se pare că a ajuns să le coste procesarea, prompturile și automatizarea respectivă cu agenți mai mult decât îi costau oamenii. De ce? Pentru că un om poate să-ți facă mai multe sarcini, inclusiv care nu sunt repetitive, în timp ce agenții fac... Bine, poți să ai mai mulți agenți, da' ăia consumă. Adică poți să pui mai mulți, da, zici că faci multe lucruri, dar consumă resurse, adică te costă bani în plus.

Cât costă implementarea AI într-o companie

Deci aici am ajuns la cât costă, pentru că aș vrea să aplicăm această întrebare în două cazuri. În cazul unui om obișnuit, care poate vrea să-și planifice o vacanță cu AI-ul, dacă asta cred că face deja destul de multă lume, dar, evident, sunt și niște riscuri. Deci, hai să zicem că poți să ajungi de la costuri minime sau zero, că poți să-ți iei varianta de bază a ChatGPT, până la cât? În cazul unei firme, cât te costă să implementezi inteligența artificială în activitatea ta?

Păi, depinde foarte mult ce vrei să faci. Dacă vrei să o folosești la, nu știu, documente, lucruri scrise, atunci este contul Enterprise, care e, mă rog, cam la toate platformele, se învârte în jur de 200 de dolari și ai mai multe conturi. Practic, îți faci un spațiu virtual al firmei, unde poți să pui documente, să lucrezi pe ele, să folosească mai mulți. Dacă construiești skill-uri, de exemplu, adică niște instrucțiuni pe care să le folosești tot timpul când ai nevoie, ăsta ar fi costul pentru chestii foarte basic. Însă, în momentul în care vrei să faci agenți, agenții respectivi, de exemplu, ca să vizualizăm un pic, vrei să-ți faci un agent care, nu știu, să ia niște documente, să le completeze și să le trimită pe mail. Ca să faci asta, pentru a procesa tokenii respectivi, că toate platformele astea lucrează pe bază de token. Token înseamnă cuvânt sau grup de cuvinte. Practic, calculatorul, în momentul în care noi scriem ceva, analizează fiecare bucată dintre astea, fiecare token. Și are un cost ca acest calculator să verifice ce înseamnă cuvântul ăsta, ce am în baza de date, care sunt cuvintele care se potrivesc. Și, în funcție de ce volum ai, te costă. De exemplu, dacă vrei, nu știu, vreo 20-30 de documente să ți le verifice și să-ți facă o verificare dacă s-a depus ce trebuie, dacă sunt îndeplinite condițiile pe care le-ai pus, te costă undeva la vreo 1.500 de dolari. Adică nu este un cost mic. Nu spune nimeni asta. A apărut o știre, nu știu dacă ați prins-o: programatorii de la Microsoft, până în mai, și-au consumat tot bugetul estimat pe tot anul, da, pe zona asta de programare. De ce? Pentru că și când lucrează cu Claude și îi ajută să codeze, ăia sunt tot tokeni și consumă. Și a crescut și prețul, pentru că eu asta tot explic. Astea sunt soluții comerciale, nu sunt soluții făcute să ne ajute pe noi. Da? Sunt la fel ca Meta, la fel ca Instagram, sunt niște soluții care să ne țină acolo și să ne facă captivi. Cu cât ne obișnuim mai mult cu ele, cu atât suntem mai captivi. Eu vă dau exemplu la Claude. Înainte făceam vreo șase rapoarte, mi le verificam și le făceam frumos cu Claude. Acum, după vreo două rapoarte, îmi spune că trebuie să merg la varianta să-mi upgradez modelul pe care îl folosesc. Și văd asta, că a crescut prețul. Nu-ți spune că a crescut, însă poți să faci mult mai puțin pentru că tokenii ăia au devenit mai scumpi. Și ăsta este riscul, pentru că, dacă devenim dependenți, o să ne trezim că suntem captivi și că plătim o grămadă, dincolo de faptul că ni se cam atrofiază creierul și nu mai suntem în stare. De ce folosim AI ca să ne găsim vacanța? Pentru că ne este lene să ne uităm pe Google și să căutăm pe diverse alte platforme. Eu ce pot să vă spun este că nu este întotdeauna safe să faci asta, adică, inclusiv când caut pe Google și îmi dă Gemini sumarul la ce am căutat eu, întotdeauna mă duc și verific linkurile. Pentru că algoritmul din spate funcționează într-un mod care s-ar putea să nu ne ajute pe noi. Și atunci este foarte bine să ne verificăm informațiile. Plus că e ceva ce trebuie să înțelegeți. Și asta trebuie să reținem: calculatorul nu înțelege ce scriem noi. Nu funcționează decât pe bază de cifre. În momentul în care noi scriem ceva, se duce, verifică niște 1 și 0 și ne dă niște 1 și 0 care sunt similari cu ce am scris noi. Adică face niște predicții despre care ar fi cele mai potrivite cuvinte față de ce am scris noi. Nu înțelege, nu zice: „Da, du-te în Maldive, că este mai frumos acolo”. Nici nu știe ce e Maldive, adică nu există o înțelegere a conceptului, doar îți aruncă care sunt cele mai frecvente cuvinte față de ce cauți tu. Și cel mai bun exemplu este, dacă vă aduceți aminte, discuția intrării României în Schengen, când s-a opus Austria și n-am intrat atunci. Foarte mulți, mulți, bineînțeles, au dat search pe ChatGPT să vadă dacă România este în Schengen. Și a răspuns că da. De ce? Pentru că au crescut foarte mult căutările pe zona asta, a crescut statistic cuvântul Schengen lângă România, therefore, rezultatul era în, mă rog, în algoritmul calculatorului, că da, România este în Schengen. Și a durat câteva zile până s-a updatat.

Că inițial a fost doar cu aeroporturile, da, e adevărat.

Da, deci asta se poate întâmpla în spate, pentru că un calculator nu înțelege. Face doar niște predicții de cuvinte. Da, este bun în cele mai multe cazuri, dar nu știm când. Adică nu știm și, fiind un program statistic, nu ai de unde să știi când îți dă răspunsuri corecte.

Da, și s-a întâmplat situația aceea din Delta Dunării, cu un festival care nu exista, și au luat țeapă inclusiv niște organizatori de excursii, adică vorbim de oameni care fac turism și care și-au luat țeapă de la inteligența artificială.

Pentru că au căutat pe ChatGPT. De-asta vă zic: nu căutați, pentru că nu este la fel de sigur ca Google.

De ce nu trebuie să folosim ChatGPT ca pe un motor de căutare

Nu-l folosiți ca Google, deci nu folosiți ChatGPT. Iată un sfat foarte bun pe care ni-l dă Ana-Maria Stancu: nu folosiți ChatGPT pe post de Google sau, dacă faceți asta, verificați ulterior și datele. Înțelegem că aceasta ar fi cea mai bună variantă.

Da, asta este cea mai bună variantă, pentru că tu trebuie să verifici informația la sursă sau poți să-i ceri: „Dă-mi sursa de unde ai informația!”, dar și atunci trebuie să dai click pe ea.

Da, link-ul pe care ni-l dă, de pe un site.

Pentru că poate să creeze linkuri care sunt false. Asta se numește halucinație, da? Nu spunem că minte, pentru că nu este o persoană, ci că are o halucinație. De ce? Pentru că misiunea algoritmului din spate, adică a codului pe care l-au scris oamenii ca el să facă ceva, este să ne dea cel mai apropiat răspuns de ceea ce am scris noi. Nu contează dacă este corect, etic sau orice altceva. Algoritmul trebuie să ne dea un răspuns care să corespundă cu ceea ce am căutat noi. Dacă nu are răspunsul ăla, o să-l creeze. De-aia halucinează, pentru că asta trebuie să facă: asta este misiunea acestui program, să ne dea un răspuns cât mai apropiat de ceea ce am scris noi.

Poate inteligența artificială să înlocuiască angajații?

Bun, dacă vorbim despre optimizarea costurilor într-o firmă, dacă implementezi inteligența artificială, poți să renunți la niște costuri? Nu știu, să zicem, nu mai angajezi o secretară. Se poate pune problema la modul ăsta? Și Excel-urile alea ți le face inteligența artificială, să zicem.

Discuția este cumva la fel ca la roboți, pe care o am de mulți ani. Este tot un fel de automatizare și discuția se pune astfel: tu, când ai un om în firmă, omul ăla nu-ți face doar Excel-uri, omul ăla îți face mai multe lucruri. Poți, într-adevăr, să optimizezi dacă ai mai mulți oameni și să zici că agentul preia mai multe lucruri și renunți la un om sau doi. Nu văd, în viitorul apropiat, să fie așa cum auzim, firme care să meargă numai cu agenți AI. Pentru că tot îți trebuie oameni care să verifice, iar AI Act spune o chestie foarte importantă. Și în Europa asta va fi și, ați văzut, discuțiile în America, deși America a fost foarte mult împotriva AI Act, se cam duc în direcția asta cu agenții, pentru că, în sfârșit, și-au dat și ei seama care este pericolul. Și zice așa: că, dacă folosește AI-ul ăsta într-o zonă cu risc înalt, risc înalt înseamnă care afectează viața unui om.

Da. Sănătate de exemplu.

Atunci trebuie să ai human on the loop, adică trebuie să verifice cineva de la un anumit nivel încolo. Agentul poate să facă lucruri, dar o să zică: „Vezi că aici este probabilitate până în 85%”. Tu poți să-i pui un prag și îți dă alertă: „Vezi că astea au depășit, sunt peste 85%, verifică-le”. Dar au fost cazuri în care au ieșit lucruri destul de nasoale și iar trebuie să înțelegem ceva. Ce numim noi inteligența artificială este, de fapt, o tehnologie care se numește machine learning, care există de foarte mulți ani. În America se folosește de 20-30 de ani pe anumite zone. Cel mai mult s-a folosit în zona de HR, ca să verifice CV-uri și să selecteze candidați, și în zona financiară, ca să evalueze credite. Noi deja avem cel puțin 10 cărți foarte bine cunoscute pe zona asta, care dau exemple despre cum au dat fail aceste sisteme de machine learning. Pentru că este statistică, nu are cum să-ți dea 100%. Statistica înseamnă că ai o probabilitate de... În general, sunt pe undeva pe la 80 până în 90%. Nu poți să ai 100%. Adică niciodată nu o să-ți dea răspunsuri 100% corecte, pentru că asta înseamnă statistică. Adică, în momentul în care înțelegi cum funcționează, poți să înțelegi și de ce greșește și de ce trebuie să fii atent. Și la chestiile astea de risc înalt nu îți poți permite acei 10%. Gândiți-vă că machine learning este folosit, de exemplu, pentru... Mă rog, o versiune a lui machine learning se numește machine vision. Este tot așa, știința de recunoaștere a imaginilor. Inclusiv face recognition, pe care îl avem noi la laptopuri și telefoane, funcționează pe machine vision. Ce înseamnă asta? Înseamnă că un calculator nu ne vede, pentru că nu poate face asta, ci își face o hartă a pixelilor de culoare. În funcție de asta, indexează imagini și învață singur, că de-aia se numește machine learning, că învață singur cam care sunt caracteristicile. Și primele lucruri care au fost făcute cu machine vision în zona de sănătate au fost, de exemplu, ca, dacă îți faci RMN-uri, ecografii și așa mai departe, să-ți spună dacă ai anumite tipuri de tumori. Ăsta nu ai voie să-l folosești singur. Ăsta este făcut în Uniunea Europeană, trebuie să-l folosească doctorii ca să-i ajute la diagnostic, dar ei trebuie să-și asume. De ce? Pentru că, de exemplu, tu poți să te duci într-o platformă de-asta și să-ți pui RMN-ul și să întrebi dacă e celulă canceroasă sau nu, ce se vede acolo. Și ăsta o să-ți răspundă: „Nu e”. Și tu te duci frumos acasă, aștepți până poți să te duci să-ți faci cu CNAS-ul o investigație suplimentară și poți să nu mai fii până ajungi și atunci. Adică sunt niște cazuri foarte periculoase. La fel, asta cu creditele pe bază de analiză cu machine learning. Trebuie să fie un om care să-și asume. Cazurile astea despre care vă spun, care sunt documentate în America, veneau oameni la bancă și ziceau: „Păi da, am venituri mari, de ce mi-ați respins creditul?”. Și cei din bancă ridicau din umeri. „Așa a zis sistemul cu inteligența artificială”. De ce? Pentru că sistemul ăsta este atât de complex. Machine learning-ul ăsta și toate tehnicile din spate, toți algoritmii care sunt foarte, foarte complecși, au simulat cumva creierul uman și și-au făcut o rețea neuronală. Ideea este că noi nu vedem ce se întâmplă aici și se numește cutie neagră. Și nu ai cum să te uiți să vezi de ce i-a dat un scor mai prost cuiva. De ce? Pentru că se uită la datele demografice și își face un fel de funcție matematică, cu cât procent dintr-o anumită caracteristică contează atunci când îi dai creditul. Doar că tu nu o vezi. Nu știi despre ce este vorba și trebuie întotdeauna, când ai astfel de decizii luate de calculator, să fie o persoană care să le verifice de la un anumit grad încolo și să dea ok pe ele. Adică, și dacă nu le verifici și gradul, să zicem, este mare de acuratețe, tot trebuie să-ți asumi. De ce? Pentru că tu trebuie să poți să faci contestație. Și cineva trebuie să-ți răspundă.

Și atunci un om va trebui să intervină după ce a intervenit mașina și să ia o decizie dacă mașina a greșit.

De ce? Pentru că sunt foarte multe cazuri în care a mers rău, adică efectele pot fi negative și atunci, da, trebuie să... Da, pare un pic complicat, dar, odată ce înțelegi de ce este important, că eu asta le spun inclusiv studenților la cursuri, odată ce înțelegi că AI Act este despre drepturile cetățenilor și drepturile umane, dacă poți să vezi the big picture, înțelegi de ce a fost necesară această reglementare. Asta e problema, că, de obicei, oamenii se uită la regulamentul ăla, care este absolut îngrozitor, în stilul Uniunii Europene, cu recitaluri și cu nu știu ce. Când intri în el, bineînțeles că te ia durerea de cap. De-aia ai nevoie să iei o variantă mai mestecată, să-ți explice cineva și să înțelegi de ce-ul. Că nu s-au trezit cei de la Comisia Europeană: „Hai să facem și noi un regulament!”. Sunt cazuri deja documentate.

Și dacă e să vorbim în termenii ăștia, joburile vor dispărea din cauza AI-ului. Aș vrea să lămurim câteva lucruri, pentru că și aici probabil că e foarte multă emoție, foarte multă spaimă. Ce joburi, la modul serios, ce joburi vor dispărea odată cu avansul inteligenței artificiale?

Sunt acele joburi mai degrabă repetitive, unde trebuie să facă... Cumva, am mai avut problema asta și când a apărut RPA-ul. Firma românească UiPath este una dintre puținele firme mari din lume care fac Robotic Process Automation. Asta înseamnă o automatizare pe calculator, ca și când ai avea un roboțel care, în loc să apese fizic, rulează pe calculatorul tău. Dar acelui robot îi spui clar: „Iei documente de aici, le duci acolo, faci asta, asta, asta”. Nu iese din toată problema asta. Am mai avut discuția pe tema asta. Este o automatizare, da, o să preia sarcinile repetitive. La fel este și în cazul agenților, pentru că pe tine un agent te costă, da, și îl faci în momentul în care ai suficiente procese pe care să le facă, dar tu trebuie să-ți faci și calculul dacă, într-adevăr, return on investment-ul merită.

Dacă nu cumva omul respectiv te costă mai puțin, face mai multe lucruri și te poți înțelege altfel cu el. Avantajul în cazul inteligenței artificiale și al acestor agenți este că ei nu-ți vor cere vacanță, nu vor cere salariu, nu vor cere mărire de salariu. Vor costa, într-adevăr, dar vor fi ca sclavii pe plantație, cum se zice, în ghilimele, ca să înțeleagă toată lumea.

Nu există neapărat bun sau rău, depinde de fiecare ce trebuie să facă. Vă dau un exemplu. Când a apărut RPA-ul, dau exemplele astea ca să le și vizualizați, la fel ca la roboți. Noi am făcut, de exemplu, pe roboți umanoizi, am făcut un business case. Era o multinațională care avea patru oameni la recepție, patru oameni, dacă intrau câteva mii în clădire. Și am făcut o aplicație pe robot în care să vii să scanezi, că majoritatea cazurilor erau că și-au uitat acasă badge-ul și nu puteau să intre. Și atunci veneai, îți completai niște date pe robot și era conectat la o imprimantă care îți dădea un card de o zi. Conform acestui nou proces, puteai să renunți la doi oameni. În general, cam asta se întâmplă pe zona de automatizare. Nu renunți la toți oamenii, ci ai niște oameni care rămân cu niște sarcini care nu pot fi automatizate și ai niște roboți fizici sau virtuali care îți fac lucruri. Acum, pentru că am deschis discuția cu RPA, este foarte important să înțelegem. Așa cum vă explicam, RPA-ul înseamnă că tu îi spui exact ce să facă și unde să pună. La agenții AI este un pic diferit. De ce? Pentru că, atunci când dai instrucțiunile ca să-ți faci un agent AI care să-ți automatizeze, te bazezi pe limbaj. Și ai în spate acest Large Language Model, adică ai un ChatGPT. Ați văzut că ChatGPT, Gemini, din nou, vorbești generic de ChatGPT, toate sunt la fel. Dacă îi dai astăzi un prompt, îți dă un răspuns. Dacă îi dai peste o săptămână, îți dă alt răspuns. Pentru că se schimbă și statisticile, pentru că se mai fac modificări în cod. Tu cum poți să fii sigur că ce i-ai zis acelui agent va mai merge la fel de bine peste două săptămâni? Tu trebuie întotdeauna să verifici, mai ales dacă ai chestii foarte sensibile. Tu trebuie să fii foarte sigur ce îi dai acolo și ce face. Pentru că ai această liability, că poate, la un moment dat, să înțeleagă ceva greșit.

Deci, cel mai important lucru pe care trebuie să-l știm atunci când vine vorba de inteligența artificială este că trebuie să fim foarte specifici, să formulăm foarte bine cerințele pentru o inteligență artificială, pentru că putem, dintr-o nuanță, să stricăm tot, să-i dăm o altă ordine.

Da, și foarte important, că, mă rog, e un pic amuzant așa, trebuie să tratăm acești agenți AI și această inteligență artificială ca și când ai avea un intern mai tâmpițel în firmă, căruia trebuie să-i explici de la zero: „Vreau să-mi faci un Excel cu trei coloane, prima coloană să conțină...”. Nu poți să-i zici „Dă-mi o bază de date”. Eu, de exemplu, la asta am folosit: „Dă-mi o bază de date cu inspectoratele școlare din România”, că nu știu ce răspuns o să-mi dea. Și atunci îmi scriu: „Fă-mi o bază de date cu trei coloane care să conțină numele inspectoratului, adresa de e-mail și persoana de contact”, astfel încât să... Pentru că poate interpreta cuvintele. Tu nu ai de unde să știi cum le interpretează, care sunt cele mai frecvente și ce o să facă mai departe. Atâta timp... Și de-aia mulți îmi zic că nu trebuie să știm cum funcționează în spate. Nu trebuie să știm cod, dar trebuie să înțelegem principiile de bază ale modului în care funcționează, pentru că atunci te ajută și pe tine să scrii. De exemplu, dacă te duci și scrii un prompt: „Vreau o strategie de marketing”, o să-ți dea ceva, pentru că își ia din baza de date cele mai folosite cuvinte despre strategii de marketing care apar, în general. Dacă scrii: „Fă-mi o strategie de marketing pentru Irina, pentru emisiunea Next, care este o emisiune despre nu știu ce”, o să-ți ia cuvinte care se potrivesc cu ce i-ai zis tu. De-aia e important să înțelegem, pentru că înțelegi și care sunt riscurile și cum să scrii. Mă rog, eu, în general, până acum spuneam că toate chestiile astea din tehnologie sunt instrumente. De exemplu, drona poți să o folosești în agricultură sau poți să o folosești în Ucraina să dea bombe. Dar aceste instrumente de inteligență artificială nu sunt chiar așa, pentru că oamenii care le-au făcut au pus niște cod acolo menit să facă niște lucruri. Acum două luni, dacă nu mă înșel, a fost un proces în America, câștigat de niște părinți împotriva Meta, pentru că Facebook și Instagram au dovedit foarte clar, aveau un algoritm de infinite loop, adică să te țină încontinuu acolo, să dai încontinuu. Și erau niște părinți care au zis: „Băi, copiii au luat-o razna pentru că au stat foarte mult pe platformele astea și voi ați făcut asta voit, adică ați făcut cu un scop foarte clar să-i țineți acolo”. Și acum uitați-vă la ChatGPT și la toate astea generative: ce fac când îți dau un răspuns?

„Poate vrei să îți mai spun, poate vrei să detaliezi, ce parere ai”.

E același tip de infinite loop, să te țină acolo, să consume bani, să devii dependent. Ăsta este riscul. De-aia, mai ușor eu am o... Mă rog, am scris vreo două articole deja: mai ușor cu AI-ul pe scări.

E o abordare foarte circumspectă din partea unui om care lucrează în domeniul tehnologiei.

Din nou, și eu lucrez foarte mult cu... Adică îmi fac rapoarte, îmi verific textele, că le scriu foarte repede și, după aia, bineînțeles că le dau să mi le corecteze. Nu mai am răbdare. Ei, dar tot timpul sunt foarte atentă și am făcut, la un moment dat, era un challenge de-ăsta pe internet: să întrebi AI-ul generativ pe care îl folosești tu cel mai mult să-ți facă o descriere pe baza a ceea ce are acolo. Eu, lucrând pe zona asta, nu-i pun decât chestii profesionale. N-am pus niciodată unde stau copiii mei, relații, nimic de genul ăsta, da? Și am scris și eu lui ChatGPT: „Fă și mie o descriere despre mine”. Și mi-a zis că nu am foarte mare încredere în mine, pentru că eu tot timpul verific informațiile. Eu vreau să fiu foarte sigură că ceea ce transmit este corect. Și el a văzut asta ca pe o lipsă de încredere, nu ca pe gândire critică. Adică depinde foarte mult cum se uită la lucrurile astea și mi-am dat seama... Adică, bine, a fost și un lucru bun pentru mine, că mi-am dat seama că, da, într-adevăr, pentru mine contează foarte mult acuratețea informației și să fiu sigură că ceea ce spun sau ceea ce gândesc este corect.

Ce meserii vor fi afectate de inteligența artificială

Bun, să lămurim două chestiuni. Ce job concret ar putea să dispară? Adică să ne gândim la oamenii de la ghișeu. Ar putea să dispară, da? Operatorul de la ghișeu. Ce altă meserie ar mai putea fi înlocuită treptat, evident, cu inteligența artificială, în afară de omul de la ghișeu?

Da, uitați. Omul de la ghișeu o să fie înlocuit, dar nu de tot. Adică o să fie reduși oamenii. Dar uitați-vă, haideți să luăm exemplul administrației publice, da? Să zicem că își fac un chatbot sau și-au făcut ghișeul, sau și-au făcut ANAF-ul tot felul de aplicații. Tot ai nevoie de un om cu care să vorbești. Ați văzut inclusiv la chatul de la companiile de comunicații. Tot trebuie să ajungi, la un moment dat, la un om dacă nu ai chestii banale. Este foarte bun pentru sarcini repetitive, din nou.

Deci call center-ul nu va dispărea de tot, doar că s-ar putea să fie pe bani, cum se întâmplă, de exemplu, la companiile de telefonie.

Da, așa se întâmplă. S-ar putea să trebuiască să plătim ca să avem un om, într-adevăr. Asta este tendința și, de ani de zile, de când sunt pe robotică, eu tot zic: în câțiva ani, nu o să fie fiță, ca să zic așa, să te duci la restaurant cu roboți, cum e acum, că ni se pare wow. O să fie să te duci la restaurant cu oameni și ăla o să fie restaurantul scump, pentru că plătești ca să ai oameni acolo. O să fie, bineînțeles, dar asta voiam să zic la administrația publică: oamenii care au plecat de la ghișeu se duc în spate, pentru că au alte volume de lucruri de făcut. Probabil o să mai avanseze și o să mai facă sarcini, dar tot o să fim în aceeași situație: nu va putea să dea răspunsuri 100% corecte și, pentru alea 10-12% de cazuri în care nu răspunde corect, va trebui să avem niște oameni care să le rezolve. Nu cred că vor dispărea cu totul meserii, ci se vor transforma, inclusiv cea de programator.

Nu vor dispărea programatorii, să spunem asta.

Nu, dar va fi foarte, foarte greu să ajungi și programator. De ce? Pentru că asta spuneam de la început, de când a apărut AI-ul și IT-ul, știi, îmi spuneau că nu, nu este așa. O să ai o problemă: cum ajungi să fii programator? Pentru că înainte terminai facultatea și te angajai ca junior. Te luau în firmă, că învățai pe parcurs și făceai acolo practică. Ei, acum nu te mai iau ca junior, ceea ce înseamnă că ai o perioadă foarte lungă până să ajungi la nivelul de middle sau senior, în care trebuie să faci bani singur sau să te țină părinții.

Și va trebui să ai experiență. Și de unde acea experiență, dacă nu te angajezi ca junior?

Exact. Acum încă nu o vedem, pentru că încă mai avem programatori seniori și middle care sunt deja formați. Însă, dacă nu ne ocupăm de problema asta, o să ne trezim că nu mai avem oameni care să verifice, peste 20-30 de ani, codul scris de Claude

Mă gândeam acum că poate, apropo de ce spuneai, problema nu va fi neapărat inteligența artificială, cât acea optimizare de costuri, de genul că acea companie se va muta în India, de exemplu. Deci asta să fie, de fapt, cea mai mare problemă, nu că introduce mai mult inteligența artificială.

Faza e că acum, cel puțin pe software, nu mai pleacă în India. Adică rămân aici, își fac agenți, doar că nu mai angajează juniori la fel de mult. Gândiți-vă că, de exemplu, ca să intri pe poziția de junior, salariul era undeva la vreo 1.500 de euro, ceea ce nu era chiar puțin. Iar Claude acum poate să facă chestia asta foarte repede.

Deci o meserie care va fi transformată și care deja simte efectele inteligenței artificiale este cea de programator. Din cadrul aceleiași industrii, ce alte joburi vor mai suferi niște transformări importante?

Nu pot să vă zic care vor fi afectate, dar pot să vă zic că o să rămână alea care sunt axate pe partea umană, adică user experience, să vorbești cu clientul. O să fie din ce în ce mai importantă treaba asta, pentru că toată lumea o să se obișnuiască cu tehnologia și o să vedeți că o să avem nevoie din ce în ce mai mult să interacționăm cu oameni, o să căutăm din ce în ce mai mult. Păi da, pentru că, dacă tot vezi în jurul tău numai tehnologie, există un risc foarte mare în folosirea tehnologiei. Dacă vrem să vedem care este extrema, ne uităm la Japonia. Japonia are o problemă foarte mare: oamenii au devenit asociali. Vorbesc cu avataruri, stau pe calculator. Mai nou, văzusem o știre acum câțiva ani: folosesc un robot de-ăsta teleoperat ca să-l trimită la școală, ca să nu se mai ducă copiii. Toată ideea școlii este să se socializeze, să capete social skills și să știe cum să facă lucruri mai departe. Nu-ți trimiți robotul acolo, pentru că școala nu este doar despre cunoaștere. Și inclusiv au avut, la un moment dat, o săptămână, că auzisem știrea asta la radio, în care aveau o săptămână liberă de la universitate ca să se cupleze, să-și găsească pereche și să...Atât de gravă a devenit problema. Adică, dacă vrem să ne uităm la o extremă, cam cum se duce, putem să ne uităm acolo. Noi o să avem mai puțin problema asta, că, na, suntem latini, suntem mai efervescenți așa. Dar totuși, problema există. Adică să nu ne obișnuim foarte mult cu tehnologia în jurul nostru, peste tot, astfel încât să uităm ceea ce ne face umani.

Care ar putea fi următorul job important

Next job. Ce meserie va apărea pe fondul exploziei inteligenței artificiale?

Cel mai probabil, vor fi joburi de prompting, să știi cum să scrii promptul respectiv. Însă ce trebuie să înțelegem este că, din ce în ce mai mult, va fi nevoie să înțelegi contextul. Ce nu face AI-ul este că nu înțelege realitatea. Și atunci, tu, ca să înțelegi realitatea, trebuie să fii mult mai atent la ce se întâmplă. Nu poți să mai zici: „Nu știu, fac facultatea de nu știu ce, lucrez aici și gata, sunt safe”. Nu mai e. E o schimbare întreagă de paradigmă. Să învățăm încontinuu și să învățăm să ne adaptăm, pentru că tu trebuie să vezi acum tot ce se întâmplă. Eu tot timpul dau exemplul următor: dacă vrei să lucrezi în robotică, nu o să poți să faci asta doar știind robotică. Pentru că tu trebuie să înțelegi și ce se întâmplă în agricultură, dacă vrei să faci un robot pentru agricultură. Adică trebuie să înțelegi cum funcționează, care este procesul cu plantele, care este problema pe care o au agricultorii în câmp. De exemplu, faptul că dau cu pesticide. Faci un robot care poate să recunoască buruienile și le elimină într-un fel sau altul. Dar, dacă tu nu știi partea de agricultură, nu o să știi nici ce să faci în robotică. Nu o să știi nici să faci vânzarea. Este la fel cu AI-ul, pentru că AI-ul funcționează bine dacă știi ce să-l întrebi.

Deci, până la urmă, un skill extrem de important în era inteligenței artificiale va fi să știi ce să-i ceri inteligenței artificiale.

Exact. Dar tu trebuie să ai mai întâi conținutul tău.

Ăsta să fie un job în sine. Next job, ca să zicem așa, nu?

Da. Și o să fie destul de mult pe zona de generalist, ceea ce școala noastră românească, teoretic, promovează. Știți că mulți ani de zile am zis că noi vrem modelul american, să fim nișați și specializați. AI-ul cam poate să facă asta. Generalismul ne lipsește. Adică să poți să faci conexiuni între diverse materii și domenii, astfel încât să poți să întrebi. Pentru că AI-ul nu va face asta pentru tine. Tu trebuie să-i zici: „Ia vezi dacă e bună o idee în care să iau nu știu ce și să-l combin ca să am o inovație”. Iar foarte mare atenție și la asta cu inovația. Tot ce băgați în astfel de sisteme comerciale se duce într-o bază de date și rămâne acolo și antrenează modelul. Există acum un scandal la nivel mondial, pentru că doi matematicieni au început să lucreze cu ChatGPT la una dintre multele probleme de matematică rămase nerezolvate de-a lungul secolelor. Și se pare că au găsit o soluție. Și au anunțat că au lucrat cu asta. Unul dintre ei era de la Anthropic, de la Claude. Ce au făcut cei de la OpenAI? Au căutat în baza de date, au găsit raționamentul pe care l-au folosit ăștia, au băgat mai multă putere de calcul și au venit ei cu rezolvarea la ecuație. Și acum toată lumea din lumea științifică, pe bună dreptate, este revoltată, pentru că, practic, au luat ideile oamenilor pe care le-au introdus într-o platformă. De-aia nu bagi documente confidențiale, pentru că ele se regăsesc acolo. Fiind foarte puține elemente similare, tu, dacă îi pui o întrebare specifică despre elementele alea, o să-ți dea răspunsul din baza de date. Așa l-au găsit, de exemplu, pe șeful Cyber Security din guvernul american, că a băgat un document confidențial într-o astfel de platformă. Că au putut să track down cine l-a băgat acolo. Adică trebuie să fim foarte atenți pe zona asta, inclusiv pe zona de inovare. Nu te apuci și îți pui acolo ideile direct, pentru că... Sau, mă rog, poți să le pui, dar trebuie să-ți asumi faptul că s-ar putea ca altcineva să le găsească dacă, să zicem, caută fix același lucru ca cel la care lucrezi.

Mit sau realitate? Ne vom căsători cu roboții?

Nu cred că vom ajunge acolo, deși, din nou, în Japonia și țările asiatice avem astfel de cazuri, dar sunt la extremă, nu cred că vom ajunge acolo

Dar roboții vor putea să înlocuiască, de exemplu, chelnerii din restaurante?

Doar într-o anumită măsură. De exemplu, inclusiv roboții pe care îi avem noi sunt un fel de tăvi mișcătoare. Da, asta fac: plimbă tăvile și tu îți iei ce-ți trebuie de acolo. Tot ce vedeți la televizor, cu roboții care adună haine și pun vasele în mașina de spălat, încă nu suntem acolo, să știți. Îmi pare rău să vă spun asta și să vă stric, mai ales femeilor...

Da, dar menajera, așa-numită menajeră, doamna care face curățenie, va putea fi înlocuită de un robot?

Nu foarte curând. Nu toate meseriile acestea vor fi automatizate. Apropo, dacă vrem să avem o meserie sigură: electrician, instalator, curățenie, toate chestiile care țin de muncă manuală și de precizie. Pentru că roboții pot face lucruri de precizie, dar, cum spuneam, fac chestii repetitive. Dacă îi scoți dintr-un context și îi pui în altul, trebuie să îi reantrenezi pentru zona respectivă. Iar roboții încă nu au ajuns la capacitatea de a se antrena foarte rapid. La asta se lucrează, cel puțin în zona de robotică: cum faci ca un robot să se antreneze cât mai rapid, astfel încât să se poată mișca. Ce se încearcă acum în zona aceasta este să ai lucrători în fabrică care poartă niște căști, pentru a crea, cu Machine Vision, un program care să recunoască mișcările lucrătorilor și să le poată reproduce apoi pe robot. Dar nici asta nu funcționează la fel de bine, pentru că mișcările acestea sunt asociate unor sarcini specifice. Adică, dacă l-ai învățat să ia ceașca aceasta, iar tu ai acasă o cană diferită, nu va putea să facă același lucru. Deci tu trebuie să îl antrenezi de fiecare dată în contextul respectiv, ceea ce, bineînțeles, costă și timp, și bani.

Trei pași pentru folosirea inteligenței artificiale

Și dacă ar fi să tragem linie la tot ce am discutat până acum, extrem de interesant, apropo, dacă ar fi să facem un ABC pentru cei care urmăresc acest episod: cum să integrezi inteligența artificială în viața ta în trei pași, în așa fel încât să te ajute, nu să te încurce?

Mai întâi, și asta spun tot timpul, trebuie să pleci de la problema pe care o ai. Ce vrei să-ți rezolve AI-ul? Nu folosi AI-ul doar pentru că vrei să folosești AI. La ce ar trebui să te ajute. După aceea, vezi cu ce e mai bine să lucrezi. Poate că nu este AI-ul, poate este RPA-ul, poate este altă tehnologie. Nu pornim de la ce tehnologie vrem să folosim, ci de la ce nevoie avem și cum o putem rezolva. După aceea, verificăm care sunt riscurile. Am identificat tehnologia și, ok, vreau să folosesc un agent AI. Dar ce fac eu cu agentul AI? Este sigur? Adică poate să dea fail-uri. Și poți să verifici asta testându-l. Astăzi îi dai un prompt, peste o săptămână îi dai același prompt. Coincide răspunsul sau îți dă un răspuns din aceeași zonă? Pentru că nu trebuie să mă credeți pe mine, trebuie să testați, să vedeți și, cunoscând cum funcționează în spate, să încercați să înțelegeți procesul.

Inteligența artificială nu va avea niciodată gândire critică. E adevărat sau fals?

Este foarte adevărat. Nu va avea gândire critică. Nu poate decât să se uite la informații și să facă o statistică pe baza acestora. Dacă 3.000 de oameni scriu că roșu este verde, o să ne dea acest rezultat. Adică nu ne putem baza pe el, pentru că este strict o statistică a cuvintelor folosite.

Ana-Maria Stancu, la „Interviurile Adevărul”. Foto: Adevarul

Așadar, ca o concluzie, încercați să vă dezvoltați tocmai gândirea critică. Este, cel puțin, una dintre concluziile acestei discuții extrem de interesante cu Ana-Maria Stancu. Îți mulțumim foarte mult și te așteptăm și altădată, pentru că, bineînțeles, tehnologia evoluează și trebuie să fim tot timpul pregătiți. Vă mulțumesc că ne-ați urmărit!