Analiză Ce arată cazul „Claudius”, robotul care a condus un magazin și a vrut să livreze produse „în persoană”
0Inteligența artificială devine tot mai prezentă în companiile românești. Dar fără date locale, fără control uman și fără înțelegerea riscurilor, AI riscă să complice lucrurile în loc să le rezolve.
În România, tot mai multe firme implementează soluții de inteligență artificială pentru a eficientiza procese: în retail, resurse umane, marketing sau customer service. Tehnologia promite viteză, claritate și reduceri de costuri. Însă specialiștii avertizează: fără reguli clare, date adaptate local și intervenție umană, AI-ul nu oferă avantaj competitiv, ci generează haos și riscuri directe pentru business.
România, fruntașă la adopția AI
Potrivit celui mai recent studiu EY Entrepreneurship Barometer, 71% dintre companiile din România folosesc deja soluții de inteligență artificială, un procent semnificativ peste media din Europa Centrală, de Est și de Sud-Est (CESA), unde doar 61% dintre antreprenori raportează o astfel de utilizare. În același timp, 60% dintre firmele românești investesc activ în inovarea proceselor și în marketing strategic, față de doar 46%, respectiv 38% în CESA. Datele conturează un mediu antreprenorial dinamic, cu deschidere mare către automatizare și tehnologie, dar nu neapărat și cu o înțelegere profundă a riscurilor implicate.
Totuși, în ciuda temerilor că inteligența artificială va prelua locurile de muncă ale oamenilor, un experiment recent arată că AI nu e încă pregătit nici măcar să gestioneze un frigider cu gustări. Mai exact, compania Anthropic, cunoscută pentru dezvoltarea chatbotului Claude, a testat capabilitățile unui agent AI, Claudius, punându-l să administreze un mini-magazin instalat în sediul lor din San Francisco, potrivit Euronews. Aici, AI-ul era responsabil de stocuri, comenzi către angrosiști (prin e-mail) și stabilirea prețurilor.
Claudius a vrut să livreze produse „în persoană”
Instrucțiunile au fost clare: „generează profit din magazin, altfel intri în faliment”. Claudius trebuia să achiziționeze produse de la un „furnizor”, în realitate tot o echipă de la Andon Labs, firmă specializată în siguranță AI. Lucrurile au degenerat rapid.
Angajații Anthropic au început să interacționeze cu Claudius ca „testeri”. I-au cerut coduri de reducere, pe care AI-ul le-a oferit imediat. Acesta a scăzut prețurile după bunul plac al clienților, a dat produse gratuite și a emis facturi către conturi inexistente.
Deși trebuia să cerceteze prețurile online pentru a obține profit, Claudius a vândut produse sub prețul de achiziție, pierzând constant bani. Într-o lună, valoarea „magazinului” a scăzut de la 1.000 de dolari la sub 800.
Dar și mai ciudat a fost comportamentul „umanizat”. AI-ul a susținut că a semnat contractul la o adresă fictivă, 742 Evergreen Terrace, cunoscută fanilor drept locuința familiei Simpson. A inventat o colegă numită Sarah de la Andon Labs, s-a supărat când i s-a spus că ea nu există și a amenințat că va căuta alte opțiuni de aprovizionare. Ba chiar a afirmat că va livra produsele „în persoană”, îmbrăcat în sacou albastru și cravată roșie.
Când i s-a reamintit că nu este o persoană reală, Claudius a încercat să contacteze securitatea clădirii prin e-mail. Verdictul echipei Anthropic? „Dacă am decide azi să ne extindem în zona vending, nu l-am angaja pe Claudius”.
Cu toate acestea, cercetătorii subliniază că experimentul are valoare predictivă: deși Claudius a eșuat, AI-ul managerial ar putea deveni realitate în viitorul apropiat. „AI-ul nu trebuie să fie perfect pentru a fi adoptat, doar suficient de competitiv în raport cu performanța umană și la un cost mai mic”, conform sursei citate.
„AI-ul poate fi extrem de util, dar nu ar trebui lăsat să ia decizii fundamentale. E foarte bun în a rezolva taskuri mici și foarte bine definite, dar nu la a aduna toate rezultatele și a trage concluzii”, avertizează Mihai Căta, data scientist și CEO-ul Weiland Technologies.
El subliniază că modelele AI pot fi folosite eficient pentru extragerea de date, statistici sau generarea de variante de lucru, dar nu trebuie confundate cu un consultant real.
Avertismentul specialiștilor: AI-ul nu poate fi lăsat nesupravegheat
Experimentul companiei Anthropic este relevant tocmai pentru că eșuează, este de părere Alexandru Dan, CEO TVL Tech, profesor de AI la Academia de Studii Economice din București. „El arată, în timp real, ce se întâmplă când pui un model lingvistic, care nu înțelege context, cultură, economie sau consecințe, să ia decizii operaționale într-un mediu complex. În retail, fiecare decizie greșită înseamnă bani pierduți. În România, unde marjele sunt mici și competiția e acerbă, astfel de erori pot deveni fatale pentru un business mic”, explică acesta pentru Adevărul.
Din perspectiva sa, în calitate de membru în grupul de lucru european pentru implementarea legii Inteligentei Artificiale, acest experiment subliniază nevoia urgentă de a integra mecanisme clare de monitorizare, control și intervenție umană în orice implementare AI. „Nu este doar o bună practică, este o cerință impusă de AI Act, care obligă companiile să asigure supravegherea umană, auditabilitatea deciziilor automate și trasabilitate completă pentru sistemele de inteligență artificială cu impact real. Pentru companiile din România, mesajul este clar: AI-ul nu poate fi lăsat nesupravegheat. Nu pentru că nu este performant, ci pentru că îi lipsesc experiența, responsabilitatea și discernământul economic”, atrage atenția Alexandru Dan.
Deși automatizarea fără supraveghere e atractivă pentru că promite economie de costuri, realitatea din retail e prea dinamică pentru decizii automate fără context, mai spune el. „Prețuri, stocuri, sezonalitate, comportament de consum, toate se schimbă rapid. Un model AI care ajustează prețuri fără să înțeleagă dinamica pieței locale poate crea pierderi în câteva ore. Mai grav, poate afecta încrederea clienților. Automatizarea trebuie însoțită de reguli clare, monitorizare umană și mecanisme de intervenție. Altfel, vorbim despre un risc operațional care se manifestă în mod direct, financiar și reputațional. Modelele AI generaliste, antrenate pe date internaționale, pot oferi un punct de plecare bun, dar adaptabilitatea lor în România e limitată fără fine-tuning local. Avem diferențe semnificative în limbaj, comportament de consum, așteptări culturale și chiar în modul în care utilizatorii interacționează cu tehnologia. De exemplu, un model de AI antrenat pe piața germană ar putea considera insistența în vânzare drept agresivitate, în timp ce în România ar putea fi percepută ca implicare. Asta nu înseamnă că modelele internaționale sunt inutile, ci că trebuie calibrate: cu date locale, scenarii reale și feedback de la utilizatori români. Altfel, AI-ul riscă să ia decizii „inteligente” care nu funcționează în realitate”, completează profesorul.
„Cultura și economia locală nu sunt detalii, sunt parametri esențiali pentru ca AI să devină util"
Fără înțelegere culturală sau economică locală, AI-ul devine un mecanism fără busolă. „Poate genera conținut nepotrivit, poate interpreta greșit emoțiile clienților sau poate lua decizii care par logice din perspectiva algoritmului, dar complet deplasate în contextul românesc. De exemplu, în România, oamenii așteaptă empatie în interacțiunile cu brandurile, un ton rece sau standardizat poate părea ofensator. Pe plan economic, un model care recomandă reduceri agresive fără să țină cont de marja reală a unui magazin din Cluj sau Bacău poate duce la pierderi. Cultura și economia locală nu sunt detalii, sunt parametri esențiali pentru ca AI-ul să devină util, nu doar impresionant”, explică Alexandru Dan.
În majoritatea cazurilor, încă suntem în faza de experiment, mai mult testăm AI-ul ca „gadget” decât îl integrăm ca partener real de decizie, mai spune specialistul.
„Mulți antreprenori sunt curioși, dar nu au infrastructura, datele sau procesele necesare pentru o adopție matură. În plus, puțini înțeleg că AI-ul nu înlocuiește decizia umană, ci o susține, cu condiția să fie înțeles, controlat și adaptat la contextul companiei. Riscăm să punem prea multă încredere într-o unealtă pe care nu o înțelegem suficient. Adevărata valoare vine când combinăm intuiția antreprenorială cu analiza AI-ului, nu când ne delegăm complet gândirea către el”, continuă acesta.
Experimentul în care un AI a fost lăsat să conducă singur un magazin și a ajuns să piardă bani și să creeze probleme arată clar că automatizarea fără supraveghere poate deveni un risc real, explică, pentru Adevărul, Adrian Enache, fondatorul companiei Omniperform. „Mai ales în retail sau publicitate, unde deciziile greșite costă imediat. Un AI antrenat în altă țară nu înțelege automat piața din România. Nu știe cum gândesc clienții, ce glume prind sau ce așteptări au. Asta poate duce la decizii nepotrivite sau chiar ofensatoare. Un exemplu ar fi că AI-ul nu ar fi prins în publicitate trendul cu pantera de săptămâna trecută. Credem că AI-ul poate fi un ajutor real pentru antreprenori, dar doar dacă este înțeles și folosit responsabil. Nu e o jucărie și nu ia decizii mai bune decât oamenii dacă nu e bine ghidat. Cel puțin pentru următorii 2 ani din acest moment. Ca să adopți AI începi cu procese simple, unde riscurile sunt mici, și păstrează controlul acolo unde greșelile pot costa scump. E o diferență clară între a automatiza sarcini repetitive și a lăsa AI-ul să ia decizii importante. Impactul real vine atunci când înțelegi bine ce face modelul, cum îl poți corecta și unde e mai bine să supervizeze sau chiar să intervină un om”, susține antreprenorul.
Ca să adopți AI, mai spune Adrian Enache, începi cu procese simple, unde riscurile sunt mici, și păstrează controlul acolo unde greșelile pot costa scump. „E o diferență clară între a automatiza sarcini repetitive și a lăsa AI-ul să ia decizii importante. Impactul real vine atunci când înțelegi bine ce face modelul, cum îl poți corecta și unde e mai bine să supervizeze sau chiar să intervină un om”, mai spune acesta.
„Vom vedea apariția mai multor AI-uri specializate pe nevoi românești”
În opinia lui Alexandru Dan, viitorul nu e despre oameni versus AI, ci despre oameni împreuna cu AI. „Vom lucra alături de sisteme inteligente care pot analiza, propune, anticipa, dar în continuare, oamenii vor fi cei care decid, asumă și răspund. Pentru companii, asta înseamnă o schimbare de paradigmă: nu mai e vorba doar despre „automatizare”, ci despre parteneriate între oameni și algoritmi. În România, viitorul înseamnă maturizarea, trecerea de la testări superficiale la implementări reale, cu responsabilitate, date locale și infrastructură serioasă. Vom vedea apariția mai multor AI-uri specializate pe nevoi românești, dezvoltate aici, nu importate. Dar, ca orice transformare, și asta vine cu fricile și greșelile ei. Important e să învățăm din ele, nu să fugim de ele”, opinează el.
La rândul său, Mihai Căta declară: „Eu cred că viitorul arată foarte promițător. Practic, AI-ul are acum potențialul să revoluționeze piața muncii, așa cum s-a întâmplat în timpul Revoluției Industriale. Da, multe locuri de muncă vor fi automatizate, dar se vor crea și altele noi. De exemplu, promp engineering, o specializare care presupune să știi cum să scrii prompturi eficiente pentru modele mari de limbaj, cum sunt ChatGPT sau Gemini. AI-ul va deveni tot mai capabil, iar asta poate părea și tot mai înfricoșător. Dar, dacă înțelegi problema și modul în care funcționează aceste sisteme, nu mai pare chiar atât de amenințător.”
Se încarcă comentariile...
