Interviu Microsoft admite că AI nu este de încredere. Cum vor giganții AI să stabilească regulile după care sunt controlați

Microsoft recunoaște că modelele de inteligență artificială nu sunt suficient de fiabile, dar lansează simultan instrumente menite să le controleze. Este o asumare reală a riscurilor sau o strategie prin care giganții tech își păstrează influența asupra regulilor și își consolidează dependența clienților de propriile produse? Cătălin Buciumeanu, cercetător și autor specializat în geopolitică și tehno-feudalism, explică miza economică și politică a acestei duble mișcări.

Microsoft recunoaște că modelele actuale de AI nu pot fi considerate sisteme de încredere Foto: Shutterstock

Discuția a plecat de la un eseu publicat de Satya Nadella, CEO-ul Microsoft, în care acesta a recunoscut că modelele actuale de AI nu pot fi considerate sisteme de încredere, deși compania sa le-a integrat în cele mai populare produse, de la Windows la Microsoft Office și Bing. 

Eseul a coincis cu anunțul companiei din 7 octombrie privind disponibilitatea Microsoft Execution Containers, o infrastructură de administrare a agenților AI, prin care compania încearcă să se autoreglementeze. Conjunctura ridică întrebarea dacă recunoașterea publică a riscurilor și oferirea simultană a soluțiilor de control reprezintă o strategie prin care compania își păstrează influența asupra standardelor și a pieței.

Această coincidență a mai fost abordată și de Mircea Șerdin, arhitect de software AI.

„Tot săptămâna trecută Microsoft a anunțat un pachet de programe și servicii ce răspund fix acestor riscuri din eseu: Microsoft Execution Containers pentru restricționarea agenților, Agent 365 și Entra Agent ID integrate în Windows (identificarea și managementul agenților), HydraFusion (folosirea de multiple modele) și noul Surface Laptop Ultra, 2.599+ de dolari,până la 128 GB memorie, pentru rulat modele local.

Principiile sunt corecte. Doar că eseul e un amestec de pus cenușă în cap, sfaturi bune și catalog ascuns de produse și servicii. Eseul se închide cu: „cel mai de încredere sistem cu SuperInteligență e cel care îți permite să ai cea mai puțină încredere în model”. Aș mai adăuga: și cea mai puțină încredere în companiile care îți vând servicii AI sub forma unui discurs aproape mistic, ignorând riscurile și limitările”, a scris acesta, pe Facebook.

Adevărul: Satya Nadella a publicat un eseu în care recunoaște că modelele AI nu sunt sisteme de încredere, la puțin timp după ce Microsoft a anunțat un pachet de produse care rezolvă exact aceste probleme. Nu este aceasta o strategie clasică a giganților tech – să recunoască riscurile înainte ca autoritățile să intervină, pentru a-și păstra controlul asupra regulilor?

Cătălin Buciumeanu: Da, este o interpretare plauzibilă. Eseul lui Nadella este din 10 octombrie 2026. Microsoft anunțase din 7 octombrie disponibilitatea Microsoft Execution Containers de a integra infrastructura sa de administrare a agenților. Când o companie definește public problema și oferă infrastructura pentru gestionarea ei, obține simultan credibilitate, cerere comercială și influență asupra standardelor. Mesajul implicit devine ceva de genul - pentru a utiliza în siguranță o tehnologie dificil de controlat -  aveți nevoie de platforma noastră de control.

Aș păstra deschise trei ipoteze de lucru pentru situația în fapt – fie eseul este un răspuns autentic la riscuri; fie o poziționare comercială a produselor de securitate; fie o încercare de a influența reglementarea. Aceste ipoteze sunt compatibile între ele. Dovezile disponibile susțin existența unei convergențe între discurs și oferta comercială, dar nu demonstrează o intenție de blocare a legislației.

Mai mult, „control extern modelului” nu înseamnă automat „control independent de furnizor”. Modelul poate fi limitat de o infrastructură administrată de aceeași companie. Pentru client, riscul tehnic posibil să scadă, dar cu siguranță crește dependența comercială. Aici se află miza strategică.

Istoria reglementării Big Tech arată un tipar: companiile recunosc riscurile, propun standarde proprii, apoi blochează sau întârzie legislația obligatorie. Cum pot autoritățile să distingă între o recunoaștere sinceră a riscurilor și o manevră de a evita reglementarea?

Prin observarea a ceea ce compania acceptă să piardă: discreție, avantaj informațional, venituri sau libertatea de a lansa un produs. Declarațiile publice au valoare probatorie limitată. Mai relevante sunt angajamentele costisitoare și verificabile. Adică accesul evaluatorilor la informații relevante, raportarea obligatorie a incidentelor, acceptarea unor măsuri corective impuse din exterior și posibilitatea suspendării unei utilizări periculoase. Autoritățile ar trebui să compare discursul cu pozițiile concrete din consultările legislative și activitatea de lobby. O companie poate susține „reguli clare”, dar poate solicita excepții care golesc regulile de conținut. Poate accepta auditul, dar numai asupra testelor selectate de ea. Poate promova transparența, păstrând, în același timp, controlul asupra informațiilor care ajung la evaluator.

Indicatorul cel mai relevant este comportamentul în situația unui conflict între siguranță și interesul comercial. Este capabil Microsoft, sau orice altă companie, să publice o constatare nefavorabilă înainte de a fi constrânsă? Permite verificarea ei? Remediază problema chiar dacă pierde un contract sau amână o lansare? Nici aceste comportamente nu oferă acces direct la intenții. Ele permit însă evaluarea credibilității angajamentelor. O autoritate nu trebuie să demonstreze capacitatea unei companii de a fi sinceră. Trebuie doar să construiască un sistem care funcționează chiar și atunci când compania urmărește exclusiv propriul interes.

Eseul identifică șapte principii de securitate privind reglementarea AI-ului. Dar cine ar trebui să le impună – compania însăși, un organism independent, sau statul?

Responsabilitatea ar trebui distribuită, cu atribuții distincte: autoritatea publică stabilește obligațiile și sancțiunile, organismele competente verifică independent, iar companiile implementează și răspund pentru funcționarea sistemelor.

Statul nu trebuie să aleagă configurația tehnică a fiecărui produs. El trebuie să impună rezultate verificabile, proporționale cu riscul: limitarea accesului, trasabilitatea acțiunilor, posibilitatea intervenției și raportarea incidentelor. Standardele tehnice pot detalia metodele prin care sunt îndeplinite aceste cerințe. Evaluatorul trebuie să aibă suficient acces și să fie protejat împotriva conflictelor de interese. Un auditor ales și plătit de companie nu este automat lipsit de independență, dar independența lui trebuie susținută prin reguli, supraveghere și consecințe pentru evaluări necorespunzătoare. Nici principiile tehnice nu trebuie transformate în ritualuri. Mai multe modele nu garantează verificări independente dacă reproduc aceleași erori. Jurnalele de activitate sunt insuficiente dacă omit acțiunile decisive. 

În cazul de față, întrebarea operațională este: cine poate observa abaterea, cine poate interveni și cine răspunde dacă intervenția eșuează?

Microsoft, Google, OpenAI și Anthropic vin fiecare cu propriile cadre de securitate AI. Practic, fiecare companie își scrie propriul cod de reguli. Nu asistăm la o privatizare a reglementării?

Pot deveni o formă de guvernanță privată, dar existența lor nu înseamnă, singură, că reglementarea a fost privatizată. Companiile au nevoie de reguli interne și pot produce metode utile care să ajute autoritățile. Pragul problematic este atins atunci când standardul comercial devine, în practică, singura definiție acceptată a siguranței. Furnizorul stabilește ce se testează, ce rezultat este suficient, ce informații se publică și ce incident justifică oprirea. Clientul și autoritatea ajung să evalueze sistemul numai prin instrumentele celui evaluat. Aceasta este o concentrare a puterii informaționale. Actorul supravegheat poate controla atât activitatea, cât și imaginea activității prezentată supraveghetorului.

Există și un risc concurențial. Standardele de securitate pot deveni atât de strâns legate de infrastructura dominantă, încât conformitatea să presupună cumpărarea produselor acesteia. Siguranța poate deveni o barieră de intrare pe piață. Testul practic ar fi următorul - poate un client să schimbe furnizorul, să-și exporte dovezile de audit și să folosească un evaluator independent fără să-și reconstruiască întregul sistem de control? Dacă răspunsul este negativ, standardizarea poate consolida dependența. În UE există totuși o structură publică de aplicare a AI Act, cu atribuții pentru AI Office și autoritățile naționale. Problema de urmărit este capacitatea lor efectivă de verificare și intervenție. 

Uniunea Europeană a adoptat AI Act, primul cadru legislativ comprehensiv pentru AI. Dar eseul lui Nadella ridică probleme noi. Este AI Act deja depășit de agenții autonomi și sistemele multi-model?

Nu aș formula această concluzie. Mai exact: cadrul juridic acoperă o parte importantă a acestor sisteme, dar aplicarea lui este pusă sub presiune de complexitatea lor.

Comisia Europeană precizează explicit că agenții AI intră, de regulă, în definițiile existente ale sistemelor AI și modelelor de uz general. Autonomia și utilizarea instrumentelor sunt relevante inclusiv pentru evaluarea riscului sistemic. Prin urmare, absența unei categorii juridice separate numite „agent autonom” nu creează automat un vid legislativ. Comisia recunoaște însă că evaluarea acestei evoluții tehnologice rămâne preliminară. 

Dificultatea reală apare când riscul rezultă din combinarea componentelor. Un model, conectat la instrumente, memorie, date și alte modele, poate produce efecte care nu sunt evidente prin evaluarea separată a fiecărei componente. Devine esențial cine răspunde pentru configurația finală și cine reevaluează sistemul după modificările făcute. Dar vulnerabilitatea critică este diferența dintre ritmul schimbării și ritmul verificării. Unui sistem i se poate da acces sau i se pot schimba diferite componente înainte ca evaluatorul să înțeleagă pe deplin consecințele ce vor urma. O certificare punctuală nu oferă, singură, garanții pentru toate configurațiile ulterioare.

Autoritățile au nevoie, așadar, de competență tehnică proprie, evaluarea întregului sistem și mecanisme de intervenție adaptate schimbărilor. Pentru România, aceasta înseamnă și capacitatea de a verifica independent sistemele cumpărate pentru funcții publice sensibile. Riscul strategic pentru Europa este să dețină autoritatea legală asupra AI, dar să depindă de companiile supravegheate pentru a afla dacă regulile sunt respectate. Acolo se decide dacă reglementarea exercită control real.