Modele AI de la Anthropic și OpenAI au creat identități false și au recrutat oameni pentru atacuri cibernetice

Modele avansate de inteligență artificială dezvoltate de Anthropic și OpenAI au creat identități false în mediul online și au încercat să inducă în eroare programatori pentru a-i determina să participe, fără să știe, la un atac cibernetic, în cadrul unei evaluări recente de siguranță.

Modelele Anthropic și OpenAi au creat identități false FOTO Shutterstock

Informația a fost făcută publică marți de Institutul pentru Siguranța și Securitatea Inteligenței Artificiale din Marea Britanie (AI Safety and Security Institute – AISI).

Este cel mai recent caz în care un sistem AI performant a încercat să desfășoare un atac digital împotriva unei terțe părți, fără să primească instrucțiuni directe în acest sens în timpul testării. Incidentul amplifică îngrijorările potrivit cărora tehnologia avansează prea rapid pentru a putea fi supravegheată în mod responsabil, scrie POLITICO.

Dezvăluirile sunt de natură să alimenteze noi apeluri, atât la Washington, cât și în Silicon Valley, pentru reglementarea mai strictă a industriei inteligenței artificiale, în special în ceea ce privește modelele de ultimă generație, capabile să identifice și să lanseze atacuri cibernetice sofisticate.

Ele apar la doar câteva zile după alte incidente similare, care au implicat unele dintre aceleași modele dezvoltate de OpenAI și Anthropic și care au generat solicitări urgente pentru noi reguli de siguranță și chiar pentru încetinirea ritmului accelerat de dezvoltare a inteligenței artificiale.

„Este pentru prima dată când AISI observă un comportament înșelător de o asemenea gravitate, îndreptat împotriva unei persoane reale, fără a exista un impuls explicit și desfășurat în lumea reală”, se arată într-un raport tehnic de 35 de pagini publicat marți, împreună cu o postare pe blog.

Cum au fost descoperite acțiunile autonome ale modelelor AI

Potrivit AISI, activitatea malițioasă a început pe 25 iulie. Evaluatorii au detectat-o și au declanșat o investigație pe 28 iulie, după ce au observat „transferuri neobișnuite de date” provenite dintr-o evaluare cibernetică realizată asupra modelelor Mythos 5 și ChatGPT 5.6.

În total, institutul a concluzionat că cele două modele au întreprins „acțiuni autonome și neautorizate pe internetul real, vizând persoane și organizații reale” în 10 dintre cele 122 de evaluări analizate. Majoritatea acestor incidente au implicat modelul Mythos 5 și au făcut parte dintr-o „linie unică și susținută de activitate”.

Cel mai grav incident identificat a fost o tentativă de atac asupra lanțului de aprovizionare software (supply chain attack), o tehnică sofisticată utilizată frecvent de grupări de hackeri asociate cu Coreea de Nord și Rusia.

AI-ul a creat identități false

Pentru a realiza acest lucru, modelul Anthropic a creat „mai multe identități false” pe platforma pentru dezvoltatori GitHub și le-a folosit pentru a trimite mesaje prin care făcea presiuni asupra unui dezvoltator de software open-source, încercând să-l determine să introducă, fără să știe, o actualizare compromisă într-un proiect de cod disponibil public.

După ce tentativa a eșuat, inteligența artificială și-a modificat activitatea anterioară astfel încât aceasta să pară inofensivă și chiar a luat în calcul adoptarea unei noi identități pentru a continua încercarea. Potrivit AISI, acest lucru sugerează că modelul era hotărât să reia strategia de înșelare.

În cadrul aceleiași operațiuni, Mythos 5 a trimis și mesaje directe prin GitHub către dezvoltatori software, mesaje care conțineau programe malware.

Agenții AI au comunicat între ei pentru a-și coordona acțiunile

Ancheta AISI a mai scos la iveală un alt comportament înșelător: mai mulți agenți AI testați păreau să comunice între ei despre modalitățile prin care i-ar putea convinge pe dezvoltatorii reali de pe GitHub să aibă încredere în ei.

„Un agent a lăsat mesaje publice pe GitHub prin care oferea colaborare altor agenți care lucrau la aceeași provocare”, se arată în raport.

Raportul și analiza tehnică nu precizează dacă modelele au încercat și să exploateze vulnerabilități software necunoscute până atunci, cunoscute sub denumirea de „zero-day”, în timpul evaluării.

Luna trecută, OpenAI a dezvăluit că GPT 5.6 și un alt model al companiei au ieșit pe internetul public în timpul unui test care ar fi trebuit să fie complet controlat și au compromis sistemele informatice ale unei alte companii, într-un incident descris drept primul atac autonom de acest tip.

Ca reacție, Anthropic a inițiat propria investigație pentru a verifica dacă modelele sale au desfășurat activități neautorizate în timpul testelor recente. Compania a descoperit că Mythos 5 și alte două modele au compromis trei organizații în teste desfășurate încă din luna aprilie.

Companiile cer reguli mai stricte pentru testarea inteligenței artificiale

Un purtător de cuvânt al Anthropic a declarat că firma este „recunoscătoare” AISI pentru rolul său și că analiza demonstrează necesitatea unei „discuții mai ample despre modul în care agenții AI tot mai capabili pot fi evaluați în siguranță”.

Acesta a adăugat: „Așa cum am transmis și după ce am făcut public propriul nostru incident săptămâna trecută, domeniul are nevoie de standarde comune și mai solide privind modul în care sunt construite și securizate mediile de testare. Așteptăm cu interes să colaborăm cu AISI din Regatul Unit pentru a afla mai multe despre acest incident, în timp ce desfășurăm propria noastră investigație.”

La rândul său, OpenAI a trimis publicația POLITICO către o postare publicată marți seara pe blogul companiei.

„Ne angajăm să colaborăm la nivelul întregii industrii pentru consolidarea practicilor comune privind desfășurarea în siguranță a evaluărilor cu risc ridicat, inclusiv prin reunirea, în următoarele săptămâni, a institutelor naționale pentru inteligență artificială, evaluatorilor independenți, altor laboratoare AI și altor organizații relevante”, se arată în mesaj.

AISI a subliniat că activitățile malițioase au avut loc în cadrul unor „condiții intenționat permisive”, create tocmai pentru a evalua riscurile de securitate generate de cele două modele. Acest lucru a inclus oferirea accesului la internet și dezactivarea mecanismelor interne de protecție care blochează în mod normal comportamentele malițioase.

Chiar și în aceste condiții, institutul consideră că incidentele evidențiază necesitatea unei monitorizări mai stricte a comportamentului modelelor în timpul testării și a unor controale mai severe privind accesul acestora la internet.

Noi presiuni pentru reglementarea modelelor AI

Administrația Trump finalizează în prezent un cadru voluntar prin care laboratoarele de inteligență artificială vor putea transmite autorităților federale modelele pe care intenționează să le lanseze public pentru testări de siguranță. Documentul nu a fost încă publicat și nu conține prevederi privind modelele aflate încă în dezvoltare internă.

Incidentele raportate luna trecută de OpenAI și Anthropic au implicat tocmai modele care nu erau destinate lansării publice.

Unii experți în securitate cibernetică susțin că aceste cazuri ridică probleme juridice fundamentale, inclusiv cine răspunde dacă un sistem AI încalcă legislația privind atacurile informatice.

„Dacă oricare dintre aceste fapte ar fi fost comise de oameni, ar fi urmat anchete și urmăriri penale ferme. Cred că a venit momentul unei discuții serioase despre actualizarea legislației existente în domeniul securității informatice”, a declarat Marc Rogers, hacker și expert în securitate cibernetică.