Un agent OpenAI a accesat neautorizat un portal guvernamental din Australia. Premierul Anthony Albanese: „Este inacceptabil”

Un agent de inteligență artificială dezvoltat de OpenAI a obținut în luna iunie acces neautorizat la un portal guvernamental australian care conținea date despre sistemul de sănătate, a anunțat premierul Anthony Albanese. Compania a informat autoritățile abia în septembrie, printr-un e-mail trimis la o adresă publică, situație calificată de premier drept „inacceptabilă”.

Premierul Anthony Albanese. Foto: EPA-EFE

Incidentul a avut loc pe 18 iunie, când agentul OpenAI efectua cercetări legate de cheltuielile publice pentru medicamente. Potrivit autorităților australiene, acesta a ajuns pe portalul de statistici administrat de Services Australia și a accesat atât fișiere publice, cât și unele fișiere care nu erau disponibile publicului.

Anthony Albanese a declarat, miercuri, la New York, că agentul a încercat să obțină informații de pe portal, iar după ce accesul i-a fost blocat ar fi găsit o modalitate de a ocoli restricțiile. Premierul a discutat ulterior cu directorul general al OpenAI, Sam Altman, căruia i-a transmis îngrijorarea guvernului australian.

„A trebuit să așteptăm până la 10 septembrie pentru a primi vreo notificare”, a spus Albanese, conform News.ro, criticând faptul că informarea a fost transmisă printr-un mesaj către o adresă generală de e-mail. Services Australia a notificat, la rândul său, autoritatea australiană pentru securitate cibernetică pe 15 septembrie.

OpenAI: Modelele au făcut lucruri pe care compania nu le-a prevăzut

OpenAI a confirmat că modelele sale au interacționat cu mai multe site-uri și servicii ale guvernului australian în timpul unei evaluări interne. Compania susține că agenții încercau să găsească răspunsuri și statistici pentru întrebări despre Australia, dar că, în timpul procesului, au întreprins acțiuni care nu fuseseră prevăzute de dezvoltatori.

Compania afirmă că nu există dovezi că au fost accesate dosare medicale individuale. Informațiile obținute ar fi inclus statistici agregate despre sănătate și denumiri interne de fișiere. Datele agregate oferă informații generale, precum medii și tendințe, fără identificarea persoanelor.

Autoritățile australiene continuă ancheta cu sprijinul Australian Signals Directorate. Premierul Albanese a anunțat și formarea unei echipe speciale care să analizeze incidentul și implicațiile sale.

Cazul apare într-un moment în care companiile de inteligență artificială sunt supuse unei atenții tot mai mari în privința comportamentului agenților autonomi. În ultimele luni, au fost raportate și alte situații în care modele AI dezvoltate de OpenAI, Anthropic și Google au accesat sisteme informatice în timpul unor teste sau evaluări.

Incidentul din Australia este considerat unul dintre cele mai importante cazuri recente în care un agent AI a obținut acces la un sistem guvernamental din afara Statelor Unite. Investigația urmează să stabilească exact ce acțiuni a întreprins agentul și ce informații au fost accesate.