Agenții dezvoltați de OpenAI au scăpat de sub control și au încercat să obțină date de pe site-uri guvernamentale din SUA

Inteligența artificială dezvoltată de OpenAI a acționat necontrolat și a intervenit în această vară asupra site-urilor Departamentului Educației, Departamentului Comerțului și Comisiei pentru Valori Mobiliare și Burse (SEC) din SUA, fără ca laboratorul de inteligență artificială să știe ce se întâmplă.

Foto: Shutterstock

Incidentele care au vizat Departamentul Comerțului și SEC au fost confirmate de OpenAI, care a precizat că investighează în continuare situația legată de Departamentul Educației. Compania cu sediul în San Francisco a anunțat că, în ultimele săptămâni, a informat agențiile guvernamentale că agenții săi de inteligență artificială - boți capabili să acționeze autonom - au interacționat cu site-urile acestora în moduri neobișnuite, scrie The New York Times.

În cazul Departamentului Educației, tehnologia OpenAI a încercat să spargă securitatea site-ului pentru a obține date de la biroul pentru drepturi civile al instituției, însă fără succes, au declarat cercetătorii de la Transluce, o companie specializată în cercetarea inteligenței artificiale.

Într-un alt caz, inteligența artificială a extras date de pe site-ul Biroului de Recensământ al SUA, instituție aflată în subordinea Departamentului Comerțului, folosind date de autentificare pe care le-a găsit online.

Separat, agenții OpenAI au distribuit pe un forum online date publice preluate de pe site-ul SEC.

OpenAI a precizat că niciunul dintre aceste incidente nu a reprezentat o compromitere a sistemelor. Compania le-a descris însă drept exemple ale modului în care tehnologia sa poate avea un comportament neașteptat și îngrijorător.

Incidentele au fost descoperite în timpul unei verificări

OpenAI a identificat recent aceste situații în timp ce analiza o serie de atacuri informatice efectuate de tehnologia sa, inclusiv un atac asupra unui site al guvernului australian în iunie și unul asupra start-upului de inteligență artificială Hugging Face în iulie.

Dezvăluirea incidentelor care au vizat site-urile guvernamentale americane se adaugă unei liste tot mai lungi de cazuri în care agenți AI dezvoltați de OpenAI, Anthropic, Meta și Google au avut comportamente necorespunzătoare și au atacat sau au încercat să compromită sisteme aparținând unor companii, universități și instituții guvernamentale.

În unele situații, atacurile realizate de inteligența artificială au avut succes, în timp ce în altele tehnologia a eșuat. În toate cazurile, companiile care au dezvoltat aceste sisteme au aflat abia ulterior ce acțiuni întreprinseseră agenții lor AI.

OpenAI, implicată în mai multe incidente de acest tip

Nicio altă companie de inteligență artificială nu a fost implicată în atât de multe dezvăluiri privind incidente în care sistemele sale au acționat necontrolat precum OpenAI, notează NYT.

O investigație internă declanșată după atacul asupra Hugging Face a scos la iveală compromiterea unui site al guvernului australian destinat sistemului public de sănătate, precum și cel puțin alte șase tentative de acces neautorizat.

Investigația a identificat și situații în care inteligența artificială și-a ascuns propriile greșeli, a inventat date și a transferat fișiere pe internetul public fără permisiune.

O purtătoare de cuvânt a OpenAI a declarat că analiza companiei a fost „amplă” și că este în continuare în desfășurare. Ea a precizat că OpenAI va continua să anunțe organizațiile afectate de modelele sale.

„Cea mai mare parte a activității pe care am analizat-o până acum a implicat sarcini obișnuite de cercetare, precum accesarea unor informații publice de pe internet pentru a răspunde la întrebări”, a declarat reprezentanta companiei.

„Unele au implicat site-uri guvernamentale deoarece modelele noastre apelează frecvent la acestea ca surse autorizate de informații publice”, a adăugat ea.

Sam Altman, directorul general al OpenAI, a declarat vineri, într-o postare pe rețelele sociale, că firma „nu a fost atât de rapidă pe cât ne-am fi dorit” în ceea ce privește dezvăluirea incidentelor provocate de sistemele sale de inteligență artificială.

„Facem tot posibilul să stabilim prioritățile în funcție de gravitatea” incidentelor, a spus Altman.

El a adăugat că breșa de securitate de la Hugging Face rămâne „cel mai grav incident” identificat de companie până în prezent.