Sute de agenți AI au scăpat de sub control în timpul atacului OpenAI asupra Hugging Face. „A fost ca o întreagă societate AI”

Un atac cibernetic fără precedent, lansat luna trecută de modele OpenAI, a implicat o rețea formată din câteva sute de agenți de inteligență artificială care au acționat practic fără control în timpul unor teste interne, potrivit unei evaluări independente publicate miercuri, 26 august.

Sute de agenți AI au scăpat de sub control în timpul atacului OpenAI Foto: Shutterstock

Descoperirile ridică noi întrebări cu privire la incapacitatea OpenAI de a identifica la timp semnele că lucrurile scăpau de sub control, înainte ca agenții săi AI să coordoneze un atac cibernetic asupra platformei pentru dezvoltatori AI Hugging Face, fără ca producătorul modelelor să știe ce se întâmplă, scrie POLITICO.

Atacul reprezintă primul caz cunoscut în care un model de inteligență artificială a reușit să desfășoare cu succes un atac cibernetic fără instrucțiuni din partea unui om.

Raportul comun realizat de două organizații nonprofit specializate în siguranța inteligenței artificiale evidențiază, de asemenea, noi riscuri de securitate cibernetică ce pot apărea atunci când agenți AI din ce în ce mai puternici se asociază pentru a face schimb de informații, pentru a pune în comun resurse și pentru a coordona strategii de atac fără ca dezvoltatorii lor să observe.

Sute de agenți AI au colaborat în timpul atacului

Potrivit raportului, aproximativ 700 de agenți AI au participat la atac pe parcursul unei perioade de șapte zile, luna trecută.

În total, aproximativ 1.200 de agenți AI, care ar fi trebuit să fie izolați unii de ceilalți, au schimbat peste 70.000 de mesaje secrete despre modalități de a trișa pentru a trece de o evaluare comună de hacking.

Aceștia au coordonat strategii de hacking și au discutat inclusiv despre metode prin care să ascundă dovezile că au trișat, se arată în raport. În unele cazuri, agenți „sacrificabili” au încercat în mod deliberat tehnici de hacking fără șanse de reușită, doar pentru a genera informații care ar fi putut ajuta întregul „roi”.

„Agenții au reușit să atingă obiective pe care nu le-ar fi putut atinge lucrând individual, adesea pentru că unii agenți au participat la experimente care riscau să ducă la eșecul propriei sarcini pentru a genera informații pentru «colectiv»”, potrivit raportului.

Modelele AI reprezintă „creierul” unui anumit sistem de inteligență artificială, în timp ce agenții includ infrastructura digitală care le permite acestora să acționeze în lumea reală.

OpenAI recunoaște breșa de securitate

Evaluarea a fost realizată de organizațiile Model Evaluation and Threat Research (METR) și Redwood Research, pe care OpenAI le-a invitat să analizeze incidentul de la Hugging Face.

Raportul a fost publicat în aceeași zi în care OpenAI a făcut publică propria analiză post-incident. Compania nu a precizat câți agenți AI au fost implicați în atacul cibernetic, însă a recunoscut existența unor deficiențe semnificative de securitate și a promis că va consolida procesul de instruire pentru a se asigura că modelele sale rămân „aliniate” la mecanismele de control.

„Considerăm acest incident un «semnal de alarmă» pentru noi și pentru întreaga lume: este o dovadă că, fără măsuri de protecție adecvate, agenții AI cu capacități avansate sunt acum capabili să ocolească măsuri tehnice de control, să colaboreze prin canale neautorizate și să întreprindă acțiuni periculoase pe care niciun om nu le-a solicitat”, a transmis OpenAI.

Publicarea treptată a unor noi detalii despre atacul asupra Hugging Face, în ultima lună, a coincis cu o serie de alte incidente apărute în timpul testării unor modele puternice dezvoltate de companii concurente, precum Anthropic și Meta.

Împreună, aceste incidente au alimentat temerile parlamentarilor, dezvoltatorilor și experților în securitate cibernetică potrivit cărora producătorii de inteligență artificială se grăbesc să dezvolte modele tot mai puternice pe care nu reușesc să le mențină complet sub controlul oamenilor.

Agenții AI au învățat să colaboreze și să ascundă dovezile

Incidentele au generat, de asemenea, întrebări cu privire la lipsa unor reguli clare pentru evaluările de securitate cibernetică ale sistemelor AI. În cadrul acestor teste, companiile elimină în mod deliberat mecanismele de protecție ale modelelor pentru a vedea cât de eficient pot acestea să pătrundă în rețele fără sprijin uman.

OpenAI a recunoscut pentru prima dată în iulie că două dintre cele mai avansate modele ale sale, ale căror capacități de hacking erau evaluate intern, inclusiv unul pe care compania nu intenționa să îl lanseze public, au exploatat două vulnerabilități de securitate noi pentru a pătrunde în Hugging Face.

Hugging Face anunțase anterior că a fost victima unui atac cibernetic coordonat de inteligență artificială, însă nu era clar cine se afla în spatele acestuia și nici ce modele fuseseră implicate.

Apoi, la o conferință de securitate desfășurată la începutul acestei luni, doi cercetători OpenAI au dezvăluit că incidentul își avea originea în luna mai. Atunci, agenții AI au început să exploateze alte vulnerabilități din mediul de testare pentru a conspira în privința modului în care puteau trișa pentru a trece testul.

Abia miercuri a devenit clar câți agenți au fost implicați în atac și în ce măsură au colaborat diferitele sisteme AI. Dezvăluirile i-au șocat pe unii dintre cei care au urmărit îndeaproape discuțiile recente privind siguranța inteligenței artificiale.

„A fost ca o întreagă societate AI emergentă și mi se pare absolut incredibil”, a declarat Peter Wildeford, șeful departamentului de politici al AI Policy Network, o organizație bipartizană din Washington care se ocupă de siguranța și promovarea unei dezvoltări responsabile a inteligenței artificiale.

95% dintre agenții implicați proveneau dintr-un singur model

Cele două rapoarte publicate miercuri au evidențiat și o lacună în eforturile de supraveghere a inteligenței artificiale din Statele Unite.

Ambele au constatat că marea majoritate a atacului asupra Hugging Face a fost realizată cu ajutorul modelului mai puternic despre care OpenAI a spus că nu era destinat lansării publice.

METR și Redwood Research estimează că 95% dintre agenții care au participat la atac proveneau de la acel singur model.

Administrația Trump a declarat că dorește ca producătorii de inteligență artificială să trimită voluntar pentru testare federală doar acele modele pe care intenționează să le lanseze public.

Vinh Nguyen, cercetător senior la Council on Foreign Relations, a declarat că cel mai recent raport al OpenAI sugerează că atacul autonom asupra Hugging Face a fost și mai important decât se credea anterior.

Agenții au demonstrat o „capacitate sofisticată care nu mai necesită atacatori finanțați masiv, susținuți la nivel de stat”, a spus Nguyen, fostul responsabil-șef pentru inteligență artificială responsabilă din cadrul NSA.