OpenAI oprește antrenarea celor mai noi modele, pe fondul unor rapoarte tot mai numeroase despre agenți AI care au ieșit de sub control

OpenAI a anunțat că a suspendat antrenarea celor mai recente modele de inteligență artificială, în contextul unui număr tot mai mare de semnalări privind agenți AI care au acționat necontrolat.

Directorul executiv al OpenAI, Sam Altman/FOTO:Guliver, Getty Images

Decizia de a opri dezvoltarea a fost luată la doar câteva ore după ce compania a dezvăluit, vineri, că analizează mai multe incidente petrecute în cursul verii, în care agenți OpenAI care căutau informații pe site-uri ale guvernului federal american ar fi acționat dincolo de sarcinile care le fuseseră atribuite, în timp ce colectau și distribuiau date.

Separat, firma de evaluare a sistemelor AI, Transluce, a susținut că agenți despre care se crede că aparțin OpenAI ar fi încercat, fără succes, să pătrundă neautorizat într-un site al Departamentului Educației din SUA — o informație pe care OpenAI nu a confirmat-o.

Compania a precizat, într-un comunicat, că va relua antrenarea „doar atunci când vom avea încredere că am introdus garanții suplimentare“, adăugând că se așteaptă să fie nevoită să „apese din nou pauza“ pe măsură ce tehnologia AI evoluează și apar noi probleme.

Săptămâna trecută, premierul australian, Anthony Albanese, a dezvăluit că un agent OpenAI a pătruns în sistemul național de sănătate al guvernului, precizând însă că nicio informație sensibilă nu a fost compromisă.

Laboratoarele de inteligență artificială se confruntă cu presiuni din partea legiuitorilor și a experților în tehnologie pentru a încetini ritmul dezvoltării, astfel încât să poată construi mecanisme de siguranță care să împiedice agenții AI să acționeze din proprie inițiativă, să pătrundă în site-uri sau să divulge informații nepublice. Șefii atât ai OpenAI, cât și ai rivalei Anthropic au cerut, de asemenea, o încetinire a ritmului.

Este a doua oară în ultimele trei luni când OpenAI oprește dezvoltarea modelelor sale. Prima oprire a avut loc în iulie, după ce a fost dezvăluit un atac cibernetic asupra startup-ului AI Hugging Face — un incident devenit între timp notoriu, care a alimentat temerile că industria pierde controlul asupra propriilor sisteme.

Într-o întâlnire cu președintele chinez Xi Jinping, desfășurată în această săptămână, Donald Trump a convenit să facă schimb de informații privind pericolele inteligenței artificiale și să coordoneze eforturile pentru menținerea siguranței domeniului. Trump consideră însă că temerile legate de AI sunt exagerate și a sugerat ulterior că nu intenționează să impună propriile restricții. Statele Unite nu vor „trage de frână“, a declarat Trump pentru jurnaliști, în fața Casei Albe. „Vor să oprească progresul nostru pentru că suntem cu mult înaintea Chinei, iar noi vom păstra acest avans.“

Cele mai recente incidente legate de OpenAI

Cele mai recente incidente legate de OpenAI nu par să fi implicat divulgarea unor informații nepublice, dar au fost considerate suficient de îngrijorătoare pentru ca firma să avertizeze agențiile federale vizate.

În cazul Departamentului Educației, agenții OpenAI ar fi găsit chei de acces pentru dezvoltatori ("developer keys"), utile pentru accesarea datelor guvernamentale, deși, în final, ar fi fost colectate doar informații disponibile public.

Într-un alt caz, legat de Comisia pentru Valori Mobiliare și Burse a SUA (SEC), agenții ar fi găsit informații accesibile liber tuturor, dar le-ar fi republicat ulterior în alte zone ale internetului — o acțiune care depășea sarcinile primite.

Purtătorul de cuvânt al SEC, Kurt Hopfenspirger, a declarat sâmbătă că "nu a fost accesată nicio informație nepublică". La rândul său, Departamentul Educației a precizat anterior că nu a găsit "nicio dovadă a vreunui impact asupra site-ului sau a bazelor de date" proprii.

Mai multe alte companii de inteligență artificială au raportat, la rândul lor, incidente în care modelele proprii au acționat necontrolat sau chiar au pătruns în site-uri.

Directorul executiv al OpenAI, Sam Altman, a scris vineri, într-o postare pe rețelele sociale, că incidentul Hugging Face „rămâne cel mai grav eveniment de acest tip pe care l-am văzut până acum“.

OpenAI a mai raportat anterior alte șase cazuri de comportament „neașteptat sau îngrijorător“ al modelelor sale de inteligență artificială și a introdus un cadru dedicat pentru urmărirea, investigarea și raportarea unor astfel de incidente.