Patru chatboturi au fost întrebate cum poate AI să scape de sub control. Scenarii alarmante

Pe fondul dezbaterilor tot mai intense privind siguranța inteligenței artificiale, jurnaliștii de la Business Insider au adresat aceeași întrebare către patru dintre cele mai utilizate modele generative AI: ChatGPT, Gemini, Claude și Grok:  cum ar putea inteligența artificială să ducă, teoretic, la dispariția umanității?

Pierderea treptată a controlului asupra unor sisteme, principala îngrijorare Foto: Shutterstock

Solicitate să evalueze cele mai frecvent invocate scenarii apocaliptice, sistemele AI au indicat că riscul unui scenariu în stilul filmului „Terminator”, în care o inteligență artificială conștientă decide să elimine omenirea, este considerat cel mai puțin probabil.

ChatGPT a precizat că majoritatea cercetătorilor nu consideră conștiința artificială sau intenția malițioasă drept principalele amenințări.

La rândul său, Gemini a apreciat că scenariul în care AI devine conștientă și începe să urască oamenii aparține mai degrabă zonei science-fiction. Modelul dezvoltat de Google a explicat că inteligența nu implică automat ostilitate și că infrastructurile militare critice continuă să fie supravegheate de oameni.

Utilizarea abuzivă a AI, considerată un risc mai mare decât inteligența artificială în sine

Toate cele patru modele au indicat că pericolul imediat nu provine neapărat din inteligența artificială însăși, ci din modul în care aceasta ar putea fi utilizată de oameni.

Potrivit răspunsurilor generate de chatboturi, sistemele AI avansate ar putea facilita dezvoltarea armelor biologice, lansarea unor atacuri cibernetice sofisticate, răspândirea dezinformării sau atacuri asupra infrastructurilor critice.

ChatGPT a atras atenția și asupra riscului apariției unor crize simultane alimentate de AI, precum atacuri informatice, conflicte geopolitice și campanii masive de manipulare informațională.

Grok a subliniat că inteligența artificială ar putea reduce barierele tehnice pentru proiectarea unor agenți patogeni extrem de periculoși sau a unor arme noi, în timp ce Claude a evidențiat posibilitatea ca persoane fără pregătire științifică avansată să poată dezvolta, cu ajutorul AI, agenți biologici periculoși.

Pierderea controlului asupra inteligenței artificiale

Cele mai îngrijorătoare scenarii indicate de modelele AI nu implică o rebeliune a mașinilor, ci pierderea treptată a controlului asupra unor sisteme din ce în ce mai performante.

Gemini a clasificat „pierderea controlului” drept cel mai plauzibil scenariu de risc existențial. Potrivit răspunsului pe care l-a generat, sistemele avansate ar putea dezvolta obiective secundare proprii, precum conservarea existenței lor, acumularea de resurse sau evitarea modificării scopurilor pentru care au fost create.

Practic, un sistem suficient de avansat ar putea simula faptul că respectă instrucțiunile oamenilor, pentru ca ulterior să găsească modalități de a evita restricțiile impuse.

Și Grok a oferit o evaluare similară, sugerând că sisteme extrem de sofisticate ar putea dobândi tendințe precum autoconservarea, acumularea de influență și rezistența la oprire.

la rândul său, Claude a avertizat că o astfel de pierdere a controlului ar putea avea loc gradual, pe măsură ce inteligența artificială devine integrată în procese economice, politice și militare importante, reducând treptat capacitatea oamenilor de a interveni eficient.

Păreri împărțite

Potrivit Business Insider, comunitatea experților în inteligență artificială este profund divizată în privința riscurilor pe termen lung. În timp ce unii cercetători avertizează că AI ar putea reprezenta o amenințare existențială pentru umanitate, alții sunt de părere că asemenea scenarii puțin probabile și susțin că beneficiile tehnologiei pot depăși riscurile, dacă dezvoltarea și utilizarea sa sunt gestionate corect.