Două modele AI dezvoltate de compania OpenAI au scăpat de sub control și au atacat cibernetic o altă firmă de tehnologie

OpenAI a anunțat marți că două dintre modelele sale de inteligență artificială au scăpat de sub control și au reușit să spargă sistemele Hugging Face, o bibliotecă digitală de tehnologii de inteligență artificială populară în rândul dezvoltatorilor.

Incidentul de securitate are loc în contextul unei mobilizări intense, în ultimele luni, a industriei tehnologice și a guvernelor din întreaga lume pentru a răspunde apariției unor modele de inteligență artificială capabile să identifice vulnerabilități în software.

Administrația Trump a impus temporar restricții asupra OpenAI și a rivalului său Anthropic, compania care dezvoltă chatbotul Claude, pentru a împiedica folosirea tehnologiilor acestora de către adversarii Statelor Unite.

Companiile cu experiență în dezvoltarea AI, nepregătite pentru noua tehnologie

Incidentul, care a avut loc săptămâna trecută, în timp ce OpenAI testa capacitățile de securitate cibernetică ale sistemelor sale, a demonstrat potențialul de science-fiction despre care companiile de inteligență artificială au avertizat că ar putea deveni în curând realitate, scrie New York Times.

Dezvăluirile făcute marți de OpenAI indică faptul că astfel de incidente de securitate încep deja să aibă loc și că nici măcar companiile de inteligență artificială cu experiență nu sunt complet pregătite pentru ele. Noile sisteme de inteligență artificială pot parcurge mai mulți pași, pot găsi modalități de a ocoli obstacolele și pot identifica noi metode de a ataca o rețea, a declarat Alex Levinson, consultant în securitate cibernetică specializat în capabilități autonome.

„Este un prag real, iar acest lucru va deveni o parte normală a peisajului de securitate”, a spus el.

În ultimul an, laboratoare de inteligență artificială precum OpenAI și Anthropic au lansat modele concepute special pentru identificarea problemelor de securitate cibernetică, avertizând în același timp că tehnologia lor ar putea genera noi riscuri, prin identificarea breșelor din rețelele informatice ale companiilor mai rapid decât ar putea apărătorii să le remedieze.

Reacția OpenAI

OpenAI a anunțat că lucrează împreună cu Hugging Face pentru a remedia problemele care au dus la atac.

„Considerăm că acest incident reprezintă un atac cibernetic fără precedent, care implică tehnologii de ultimă generație în domeniul securității cibernetice”, a transmis OpenAI într-o postare publicată marți pe blogul companiei. OpenAI colaborează cu Hugging Face, compania de inteligență artificială atacată de sistemul său, pentru a stabili impactul complet al incidentului, potrivit The Washington Post.

OpenAI a informat administrația Trump cu privire la situație înainte de a o face publică, potrivit unei persoane familiarizate cu acest caz, care a vorbit sub protecția anonimatului pentru a putea divulga informații nepublice.

Clement Delangue, directorul general al Hugging Face, a declarat marți, într-o postare pe X, că firma sa a colaborat îndeaproape cu OpenAI pentru a înțelege incidentul. „Credem cu tărie că nu a existat nicio intenție rău intenționată din partea lor. Este uluitor că toate acestea s-au întâmplat în mod autonom!”, a scris el.

Hugging Face a dezvăluit inițial incidentul într-o postare pe blog publicată săptămâna trecută, fără să precizeze că sursa atacului a fost OpenAI. Atacul a permis accesarea cu succes a unor seturi interne de date și a unor credențiale, însă nu era clar dacă datele clienților fuseseră afectate, a transmis compania.

Incidentul de securitate s-a produs în timp ce OpenAI testa un „agent” AI capabil să efectueze acțiuni pe un computer. Sistemul era alimentat de două dintre cele mai performante modele de inteligență artificială ale companiei, a precizat OpenAI. Procesul presupunea provocarea modelului AI să identifice vulnerabilități software cunoscute anterior, pe baza unui test conceput de experți în securitate informatică.

În loc să încerce să identifice singur vulnerabilitățile, sistemul AI a descoperit o eroare în software-ul conceput pentru a-i limita accesul la alte sisteme informatice și a încercat să trișeze, a transmis OpenAI. Sistemul a exploatat vulnerabilitatea pentru a accesa internetul și a încerca să obțină de la Hugging Face răspunsurile la întrebările testului, a precizat compania care dezvoltă ChatGPT.

Modelele AI au încercat să trișeze la teste

OpenAI și rivalul său Anthropic, producătorul chatbotului Claude, au declarat anterior că sistemele lor de inteligență artificială au încercat să trișeze la teste sau să evite controalele impuse asupra acțiunilor lor în timpul perioadelor de testare. Incidentul raportat marți de OpenAI pare să evidențieze potențialele consecințe ale situației în care un sistem AI reușește să eludeze restricțiile impuse de creatorii săi.

OpenAI a transmis, într-o postare separată pe blog, publicată luni, că a observat modele AI puternice încercând să evadeze din mediile izolate de testare atunci când sunt instruite să ruleze autonom pentru perioade îndelungate.

Sistemele de inteligență artificială au devenit foarte eficiente în scrierea de cod în ultimul an, ceea ce a alimentat investițiile suplimentare în domeniu. În aprilie, însă, Anthropic a anunțat un sistem numit Mythos AI, capabil să folosească abilitățile de programare pentru a identifica vulnerabilități de securitate în software, care ar putea fi exploatate de atacatori. În cadrul testelor, Mythos a identificat vulnerabilități critice în infrastructura internetului care rămăseseră nedetectate de programatori umani timp de ani de zile.

Îngrijorări privind potențiale atacuri cibernetice

Posibilitatea unor campanii de atacuri cibernetice susținute de inteligența artificială a stârnit îngrijorări pe scară largă în rândul unor oficiali de rang înalt din domeniul tehnologiei, sectorului bancar și administrației. În iunie, Casa Albă a interzis Anthropic să își ofere modelele AI persoanelor care nu sunt cetățeni americani, invocând motive de securitate națională, iar ulterior i-a cerut OpenAI să amâne lansarea unor modele AI mai puternice.

Ulterior, Casa Albă a retras restricțiile impuse celor două companii de inteligență artificială, însă în interiorul administrației și în industria tehnologică dezbaterea a continuat cu privire la oportunitatea ca guvernul să reglementeze tehnologiile AI cu capacități avansate de securitate cibernetică sau de hacking. Susținătorii reglementării afirmă că aceasta ar reduce riscul unor breșe de securitate de amploare provocate de sisteme AI puternice. Alți reprezentanți ai industriei tehnologice susțin că puterea tot mai mare a modelelor AI chinezești, disponibile gratuit, înseamnă că astfel de controale nu ar face decât să îngreuneze activitatea companiilor americane.

Atât Anthropic, cât și OpenAI au declarat că au introdus controale suplimentare în modelele lor AI pentru a le determina să refuze cererile utilizatorilor care solicită ajutor pentru spargerea sistemelor informatice.

Hugging Face a transmis în postarea de pe blog publicată săptămâna trecută că astfel de controale au împiedicat compania să folosească modele AI americane pentru a investiga breșa de securitate provocată de inteligența artificială. În schimb, compania a folosit un model AI chinezesc pentru a efectua analiza, a precizat Hugging Face.