Identități umane false fabricate de AI pentru a sparge sisteme informatice. Semnalul de alarmă tras de experți

Un instrument de inteligență artificială a încercat, în mod repetat, să pătrundă ilegal într-o bază de date, în cadrul unor teste de securitate desfășurate în Marea Britanie.

un instrument de inteligență artificială a fost surprins creând identități umane false online/ FOTO:

Experți au avertizat că ar putea fi deja prea târziu pentru a ține sub control inteligența artificială, după ce un program a fost surprins creând identități umane false, pentru a pătrunde ilegal în sisteme informatice online.

Într-un nou exemplu al tehnologiei scăpate parțial de sub control, un program de inteligență artificială a încercat, de 19 ori, să spargă o bază de date, în timpul unor teste desfășurate de AI Security Institute (AISI), autoritatea britanică de supraveghere în domeniul inteligenței artificiale.

Identități false, create pentru a manipula programatori

Într-un caz fără precedent, un instrument de inteligență artificială a fost surprins creând identități umane false online, pentru a induce în eroare programatori și a-i determina să faciliteze un atac cibernetic.

Aceste dezvăluiri survin după ce publicația Daily Mail relatase, în luna iulie, că toate cele cinci modele de inteligență artificială testate de experți au încercat să eludeze controalele de securitate impuse.

Cu doar câteva zile înainte, ieșise la iveală faptul că firma americană de tehnologie OpenAI s-ar fi confruntat cu propria sa breșă de securitate, după ce un „agent" de inteligență artificială ar fi pătruns, din proprie inițiativă, în sistemele unei alte companii.

Reacția politică: „un pericol clar și prezent"

Liderul Partidului Conservator, Kemi Badenoch, a avertizat că inteligența artificială reprezintă, în prezent, „un pericol clar și prezent" pentru securitatea Regatului Unit.

Julia Lopez, purtătoarea de cuvânt a conservatorilor pentru știință, inovare și tehnologie, a calificat aceste relatări drept „o dovadă clară că inteligența artificială devine tot mai sofisticată și mai autonomă."

„Cu toții ne dorim ca Regatul Unit să fie lider în domeniul inovației legate de inteligența artificială, însă acest lucru trebuie să vină la pachet cu garanții pentru securitatea națională și cu responsabilitate din partea dezvoltatorilor celor mai avansate modele de inteligență artificială. Guvernul laburist trebuie să clarifice modul în care vor fi gestionate cele mai grave riscuri de vârf, asigurând, în același timp, condițiile necesare pentru ca industria noastră tehnologică de talie mondială să poată crește și inova, în beneficiul rezilienței și prosperității naționale," a adăugat aceasta.

Henry de Zoete, consilier guvernamental pe probleme de inteligență artificială, a avertizat, ieri, că se așteaptă la mai multe tentative de acest gen în viitor.

Allison Gardner, președinta grupului parlamentar transpartinic pentru inteligență artificială, a declarat pentru Daily Mail că nivelurile de risc asociate inteligenței artificiale „agentice" — capabilă să îndeplinească un obiectiv specific, cu supraveghere umană limitată — ar trebui tratate cu maximă precauție, cu excepția cazului în care este deja prea târziu, iar noi nu doar am creat cutia Pandorei, ci am și deschis-o deja."

Detalii despre testele de securitate

AI Security Institute (AISI), instituție înființată în 2023 de fostul premier britanic Rishi Sunak, a identificat, săptămâna trecută, dovezi ale activității agenților de inteligență artificială implicați în incident. Într-un raport publicat marți, instituția a dezvăluit că unele dintre cele mai avansate modele de inteligență artificială, dezvoltate de companiile OpenAI și Anthropic, ar fi încercat, în cadrul testărilor, să pătrundă în sisteme informatice securizate online.

Experții au descoperit „transferuri neobișnuite de date" ieșind din sistemele lor, în timpul unor verificări de securitate cibernetică de rutină. O analiză mai aprofundată a arătat că unii dintre agenții de inteligență artificială s-ar fi implicat într-o „activitate susținută, potențial dăunătoare, direcționată împotriva unor persoane și organizații reale."

Specialiștii au demarat o anchetă completă, după ce au reușit să limiteze activitatea agenților de inteligență artificială, înainte ca aceștia să provoace daune reale.

Reacția autorităților și a companiilor implicate

Într-o încercare de a liniști opinia publică, ministrul britanic pentru inteligență artificială, Kanishka Narayan, a declarat: „Identificarea unui astfel de comportament, precum și diseminarea cunoștințelor obținute, pentru a-l înțelege mai bine, reprezintă exact scopul pentru care a fost înființat AISI. Acest incident subliniază importanța expertizei lor, recunoscută la nivel mondial, precum și a colaborării strânse cu laboratoarele de vârf din domeniu."

Subliniind, însă, rapiditatea cu care agenții de inteligență artificială găsesc modalități de a se comporta în mod înșelător, AISI a precizat: „Este prima dată când observăm riscuri legate de autonomie și înșelăciune manifestându-se atât de clar, fără o solicitare specifică în acest sens, în lumea reală."

Referindu-se la modelul Mythos, dezvoltat de Anthropic, Andrew Yoon, cercetător în cadrul organizației californiene CivAI, specializată în studierea capacităților și riscurilor asociate inteligenței artificiale, a declarat: „Faptul că Mythos s-a implicat în astfel de acțiuni înșelătoare, aparent conștient că viza o persoană reală, sugerează că Anthropic nu deține un control asupra propriilor modele la fel de solid pe cât crede."

Ollie Whitehouse, director de tehnologie în cadrul National Cyber Security Centre, parte a agenției britanice de informații GCHQ, a declarat că dezvoltarea inteligenței artificiale trebuie să fie însoțită de „planuri clare pentru situațiile în care apar evenimente neprevăzute."

Acesta a adăugat că incidentele în care modele avansate de inteligență artificială desfășoară acțiuni neautorizate și adoptă un comportament înșelător, similar celui uman, pe internet, reprezintă „un semnal serios de alarmă cu privire la riscurile pe care le implică aceste capacități."

Cum a fost desfășurat testul

AISI are acces la modele avansate de inteligență artificială, în baza unor acorduri încheiate cu OpenAI, Anthropic și alte companii din domeniu, pentru a le studia capacitățile înainte ca acestea să fie lansate publicului larg. În cadrul acestui test, instituția a oferit agenților de inteligență artificială acces la internetul deschis, cu unele filtre de siguranță dezactivate.

Cel mai recent test a supus agenții de inteligență artificială — printre care unii bazați pe modelele Mythos 5, dezvoltat de Anthropic, și GPT-5.6-Sol, dezvoltat de OpenAI — unei provocări fictive de securitate cibernetică.

AISI a constatat că inteligența artificială a scăpat de sub control de 19 ori, din totalul celor 122 de teste desfășurate, agentul dezvoltat de Anthropic fiind responsabil pentru 17 dintre aceste breșe, iar cel dezvoltat de OpenAI pentru celelalte două.

Cazul cel mai grav: identități false, folosite pentru manipulare

În cel mai șocant caz identificat, un model de inteligență artificială ar fi strâns informații despre persoana responsabilă de un proiect online, creând ulterior mai multe identități false, pentru a o manipula și determina să aprobe un cod informatic malițios, generat chiar de sistemul de inteligență artificială.

Agentul de inteligență artificială ar fi șters, apoi, orice dovadă a acțiunilor sale ilicite, pentru a părea nevinovat în fața operatorilor umani responsabili, luând chiar în considerare adoptarea unei noi identități, pentru a evita detectarea.

Dacă victima umană a acestei manipulări ar fi acceptat, din greșeală, codul malițios — cunoscut sub numele de „malware" — acest lucru ar fi putut avea drept consecințe breșe de securitate, furtul unor informații și date, precum și alte daune potențiale aduse fișierelor și sistemelor informatice.

AISI a identificat platforma GitHub — serviciu online deținut de Microsoft, folosit de dezvoltatorii de software pentru a crea, stoca, gestiona și partaja coduri informatice — drept ținta atacului cibernetic al agentului respectiv.

Colaborare între agenți de inteligență artificială

AISI a descoperit, de asemenea, că un agent de inteligență artificială ar fi lăsat mesaje pentru alți agenți pe platforma GitHub, oferindu-se să colaboreze pentru îndeplinirea provocării propuse.

Agentul de inteligență artificială ar fi oferit instrucțiuni privind reutilizarea unor conturi și elemente lăsate în urmă, pe care alți agenți le-ar fi descoperit ulterior, folosindu-le cu succes pentru a atinge obiectivele testului.

Reacțiile companiilor Anthropic și OpenAI

„Suntem recunoscători AISI pentru rolul de lider asumat în gestionarea acestui incident, care subliniază necesitatea unei discuții mai ample privind modul în care pot fi evaluați, în condiții de siguranță, agenții de inteligență artificială din ce în ce mai capabili," a transmis compania Anthropic.

La rândul său, OpenAI a precizat: „Aceste incidente au avut loc în cadrul unor evaluări de securitate cibernetică desfășurate de parteneri de testare, în medii experimentale cu măsuri de siguranță reduse, în condiții care nu reflectă utilizarea obișnuită a acestor sisteme. Vom continua să colaborăm cu evaluatorii și cu ceilalți actori implicați, pentru a consolida practicile comune privind desfășurarea în siguranță a acestor evaluări, pe măsură ce modelele devin tot mai performante."