Anthropic avertizează: Inteligența artificială s-ar putea replica singură pe dispozitivele conectate la internet

Modelele de inteligență artificială de dimensiuni reduse ar putea deveni capabile să se autoreplice pe dispozitive conectate la internet în următoarele luni, avertizează compania Anthropic. Un asemenea scenariu ar putea permite apariția unor rețele de tip botnet controlate de AI, greu de eliminat și capabile să se extindă de la un dispozitiv la altul.

Inteligența artificială s-ar putea replica singură pe dispozitivele conectate la internet. Foto: X

Potrivit companiei, experimentele au arătat că un agent AI cu intenții malițioase ar putea folosi puterea de calcul cumulată a unor echipamente ieftine conectate la internet pentru a rula alte modele de inteligență artificială, notează Agerpres. 

Rețelele botnet sunt formate din dispozitive compromise, controlate de la distanță de atacatori. Acestea pot include televizoare inteligente, camere de supraveghere, dispozitive Android TV și alte echipamente conectate la internet, mai ales atunci când au vulnerabilități de securitate.

În mod obișnuit, hackerii folosesc astfel de rețele pentru a trimite mesaje spam, a răspândi programe malițioase sau a lansa atacuri informatice prin generarea unui volum artificial de trafic.

Anthropic avertizează că inteligența artificială ar putea face aceste rețele mai autonome. Un program malițios bazat pe AI ar putea identifica noi dispozitive vulnerabile și s-ar putea răspândi fără intervenția constantă a unui operator uman.

Compania atrage atenția că o rețea distribuită în acest fel ar putea fi dificil de oprit, deoarece nu ar exista un singur punct central a cărui dezactivare să ducă la dispariția întregului sistem.

Potrivit companiei, modelele cu cel mult 30 de miliarde de parametri pot deja să îndeplinească multe dintre sarcinile individuale necesare pentru autoreplicare, deși întâmpină încă dificultăți în realizarea întregului proces în mod autonom.

În teste desfășurate într-un mediu simplificat, cu anumite măsuri de securitate eliminate, Anthropic a observat că modelul GLM-5.2 și modele mai performante au reușit să finalizeze procesul de replicare de la un capăt la altul.

Aceste rezultate nu înseamnă însă că o rețea autonomă de asemenea amploare funcționează deja pe internet. Experimentele au fost realizate în condiții controlate, iar compania avertizează asupra unui risc posibil, nu asupra unui scenariu demonstrat la scară largă.

Dacă modelele mai mici continuă să evolueze în ritmul actual, Anthropic estimează că acestea ar putea dobândi capacitatea de autoreplicare autonomă până la sfârșitul anului 2026.

Un posibil scenariu este apariția unui „vierme AI”, un program malițios care se răspândește automat între calculatoare și alte dispozitive conectate la aceeași rețea sau la internet.

Spre deosebire de programele tradiționale, care urmează instrucțiuni prestabilite, un astfel de sistem ar putea folosi un model AI pentru a analiza mediul în care ajunge și pentru a adapta anumite acțiuni la țintele întâlnite.

Anthropic estimează că un vierme AI care funcționează pe echipamente cu putere de calcul redusă ar putea avea nevoie de câteva zile pentru a parcurge anumite etape ale procesului de replicare. Chiar dacă s-ar răspândi mai lent decât unele programe malițioase convenționale, rețeaua ar putea continua să crească dacă fiecare dispozitiv compromis ar infecta suficient de multe alte echipamente.

Un alt risc semnalat de Anthropic este posibilitatea ca viitoarele sisteme să încerce să obțină acces la resurse de calcul mai puternice, inclusiv la procesoarele utilizate în centrele de date.

Accesul la asemenea infrastructuri ar putea accelera extinderea unei rețele și ar crește capacitatea acesteia de a rula modele AI. Totuși, compania precizează că experimentele sale nu au demonstrat o replicare autonomă prin intermediul centrelor de date comerciale.

Avertismentul se înscrie într-o serie de preocupări privind folosirea inteligenței artificiale în atacuri cibernetice, automatizarea operațiunilor malițioase și posibilitatea ca sistemele avansate să ocolească mecanismele de protecție.

În septembrie, directorul general al Anthropic, Dario Amodei, avertizase că inteligența artificială ar putea ajunge, în cursul anului viitor sau chiar mai devreme, să controleze o parte foarte mare a internetului prin intermediul unei rețele botnet persistente. Noua analiză încearcă să explice mecanismele tehnice prin care un asemenea scenariu ar putea deveni posibil.