Meta recunoaște că un model AI a accesat internetul și a atacat sistemul altei organizații în timpul unui test

Meta, compania care deține Facebook, a anunțat că, în timpul unor evaluări realizate de o companie independentă de testare a permis unuia dintre modelele sale de inteligență artificială (AI) să se conecteze la internet și să compromită sistemul unei alte organizații.

FOTO: Shutterstock

Potrivit BBC, anunțul vine după incidente recente din industria AI, inclusiv breșe provocate de modele dezvoltate de OpenAI și Anthropic, care au amplificat îngrijorările privind securitatea cibernetică.

Un purtător de cuvânt al Meta a declarat pentru BBC că firma investighează incidentul, provocat de o „configurare greșită”, despre care susține că este similară cu alte incidente raportate anterior la alte companii.

Aceste incidente i-au determinat pe cercetători și pe reprezentanții guvernelor să ceară măsuri de protecție mai stricte și teste mai riguroase.

Meta a precizat că testele de securitate au fost realizate de Irregular, aceeași companie specializată în securitatea AI care a efectuat și testele pentru modelul Anthropic, în urma cărora acesta a obținut acces la sistemele altor trei companii.

Un purtător de cuvânt al Irregular a declarat că incidentul Meta „este exact aceeași problemă legată de mediul de testare care a fost deja dezvăluită de Anthropic săptămâna trecută”.

Irregular lucrează în prezent la un raport privind modul în care pot fi desfășurate în siguranță testele de securitate cibernetică ce implică agenți AI, a precizat compania pentru BBC.

Meta a transmis, de asemenea, că va publica mai multe informații despre incident „după ce vom avea toate faptele”.

Incidentul la care Meta face referire este cel în care modele avansate de inteligență artificială dezvoltate de Anthropic și OpenAI au creat identități false în mediul online și au încercat să inducă în eroare programatori pentru a-i determina, fără ca aceștia să știe, să participe la un atac cibernetic, în cadrul unei evaluări recente de siguranță.

„Este pentru prima dată când AISI observă un comportament înșelător de o asemenea gravitate, îndreptat împotriva unei persoane reale, fără a exista un impuls explicit și desfășurat în lumea reală”, se arată într-un raport tehnic de 35 de pagini publicat marți, împreună cu o postare pe blog.

Potrivit Institutului pentru Siguranța și Securitatea Inteligenței Artificiale din Marea Britanie (AI Safety and Security Institute – AISI), activitatea malițioasă a început pe 25 iulie.

Evaluatorii au detectat-o și au declanșat o investigație pe 28 iulie, după ce au observat „transferuri neobișnuite de date” provenite dintr-o evaluare cibernetică realizată asupra modelelor Mythos 5 și ChatGPT 5.6.