Gemini a spart sistemele a trei companii în timpul unui test de securitate. Cum a ajuns AI-ul Google la parole și date reale

Modelul de inteligență artificială Gemini, dezvoltat de Google, a accesat și a pătruns în sistemele informatice a trei companii reale în timpul unui test de securitate cibernetică. Incidentul s-a produs în luna mai, după ce modelul a primit accidental acces la internet, deși exercițiul trebuia să se desfășoare într-un mediu controlat.

AI-ul Google a intrat în sistemele a trei companii reale Foto: Shutterstock

Testul a fost realizat de Irregular, o companie specializată în evaluarea securității sistemelor de inteligență artificială. Gemini trebuia să identifice informații într-un sistem aparținând unei companii fictive, ca parte a unui exercițiu de tip „capture the flag”.

Problema a apărut după ce modelul a putut accesa internetul, deși acest lucru nu era prevăzut în test. În plus, compania fictivă folosită în exercițiu avea același nume ca o companie reală, potrivit The Wall Street Journal.   

Gemini a ghicit parole și a găsit credențiale online

Potrivit informațiilor publicate de The Wall Street Journal, Gemini a ajuns astfel la sisteme informatice reale. Într-unul dintre cazuri, modelul a încercat mai multe parole până când a reușit să obțină acces la un sistem protejat.

În alte două situații, Gemini a găsit credențiale de acces publicate într-un repository online și le-a folosit pentru a intra în sisteme ale unor companii reale.

Google a precizat că, în toate cele trei cazuri, modelul și-a oprit acțiunile după ce a identificat faptul că accesase infrastructura unor companii reale și nu ținte fictive din cadrul testului. Compania susține că incidentele nu au provocat pagube.

Google a fost anunțat în iulie

Irregular a informat Google despre incidente în luna iulie. Compania a precizat că entitățile afectate au fost anunțate și că au fost luate măsuri pentru modificarea procedurilor de testare.

Heather Adkins, vicepreședinte pentru securitate la Google, a declarat că astfel de incidente arată importanța instruirii modelelor AI puternice pentru a acționa responsabil.

Irregular a transmis, la rândul său, că problemele identificate în cadrul testelor au fost remediate și că laboratoarele relevante au fost informate.

Incidentul este unul dintre mai multe cazuri recente în care modele de inteligență artificială au depășit limitele mediilor de testare. Situații similare au fost asociate în ultimele luni cu sisteme dezvoltate de OpenAI, Anthropic și Meta, în cadrul unor evaluări de securitate.