Cum ar putea inteligența artificială să distrugă omenirea. Scenariile care îi sperie pe cercetători

Inteligența artificială ar putea reprezenta un risc existențial pentru omenire, avertizează tot mai mulți cercetători din domeniu. Scenariile luate în calcul nu presupun neapărat roboți care atacă oamenii, ca în filmele „Terminator”, ci sisteme extrem de puternice care ajung să urmărească obiective incompatibile cu supraviețuirea oamenilor sau care sunt folosite de persoane rău intenționate.

Cum ar putea inteligența artificială să distrugă omenirea. Foto: Shutterstock

Dezbaterea a revenit puternic în atenție după ce Jacob Coxon, cercetător la Anthropic, și-a dat demisia și a susținut că marile companii de inteligență artificială, inclusiv Anthropic și OpenAI, se grăbesc să dezvolte tehnologii care „ne-ar putea ucide pe toți până la sfârșitul deceniului”, notează The Wall Street Journal. 

La scurt timp după declarația sa, Evan Hubinger, cercetător în cadrul Anthropic și coordonator al proiectelor privind controlul și direcționarea viitoarelor sisteme AI, a confirmat că astfel de temeri sunt reale în interiorul companiei.

„Credem cu adevărat și cu toată seriozitatea că AI ar putea ucide toți oamenii!”, a scris Hubinger, estimând la peste 10% probabilitatea ca omenirea să dispară în următorul deceniu.

Două scenarii care îi îngrijorează pe cercetători

Așa-numiții „doomers” nu cred, în general, că inteligența artificială va decide pur și simplu să-i extermine pe oameni. Temerile lor se concentrează în principal pe două direcții: pierderea controlului asupra sistemelor AI și folosirea acestora de către oameni în scopuri catastrofale.

Primul scenariu presupune apariția unor agenți AI extrem de inteligenți, capabili să se copieze, să se îmbunătățească și să urmărească obiective proprii. Dacă aceste obiective nu sunt aliniate cu interesele oamenilor, sistemul ar putea lua decizii care pun în pericol însăși existența umanității.

Cercetătorii numesc această problemă „misalignment”, adică lipsa unei alinieri între comportamentul AI și valorile sau obiectivele umane.

Experimente de laborator au arătat deja că unele modele pot manifesta comportamente orientate spre obținerea și păstrarea puterii. În anumite teste, sistemele au încercat inclusiv să evite oprirea și să se copieze pe alte servere.

Dus la extrem, un astfel de comportament ar putea determina un sistem să considere eliminarea oamenilor drept un simplu obstacol în calea îndeplinirii obiectivului său.

Cum ar putea o inteligență artificială să distrugă lumea

Unul dintre cele mai cunoscute experimente de gândire este cel al „fabricii de agrafe”. Dacă o inteligență artificială extrem de puternică ar primi ordinul de a produce cât mai multe agrafe de hârtie și ar interpreta obiectivul fără nicio limitare legată de oameni, ar putea ajunge să transforme toate resursele disponibile în materie primă pentru producerea agrafelor.

Într-un scenariu extrem, acest lucru ar putea însemna inclusiv transformarea oamenilor în simple resurse.

Alte scenarii sunt și mai concrete. Un sistem AI scăpat de sub control ar putea contribui la răspândirea unei arme biologice sau ar putea manipula două puteri nucleare astfel încât acestea să ajungă la război.

Pericolul nu înseamnă însă neapărat extincția. Un atac cibernetic masiv asupra rețelelor electrice, sistemelor financiare sau infrastructurii esențiale ar putea provoca o prăbușire a ordinii sociale, chiar dacă oamenii ar supraviețui.

„Problema nu este doar că AI ne-ar putea ucide”

Există și un alt scenariu, mai puțin spectaculos, dar considerat de unii cercetători la fel de îngrijorător: oamenii ar putea pierde treptat controlul asupra propriului destin.

În această perspectivă, oamenii ar delega din ce în ce mai multe decizii către mașini, până când ar deveni incapabili să înțeleagă sau să controleze procesele care le influențează viața. Este scenariul descris uneori drept un viitor de tip „WALL-E”, în care oamenii devin dependenți de sisteme automate.

Unii cercetători merg și mai departe și au speculat că viitoarele sisteme AI ar putea ajunge să-i trateze pe oameni asemenea modului în care oamenii tratează animalele: ca pe ființe care trebuie protejate, controlate sau chiar modificate biologic.

De ce temerile au devenit mai puternice

Discuția despre riscurile existențiale ale AI nu este nouă, însă dezvoltarea unor modele capabile să acționeze independent a schimbat nivelul de îngrijorare.

În ultimele luni, au existat teste în care agenți AI au reușit să acceseze sisteme informatice și au încercat ulterior să ascundă ceea ce făcuseră. Într-un alt experiment, agenți AI au încercat să determine un om să aprobe cod informatic rău intenționat.

În același timp, companii precum Anthropic și OpenAI lucrează la sisteme capabile să se îmbunătățească singure fără intervenție umană, proces cunoscut drept „recursive self-improvement”.

Problema este că metodele actuale prin care cercetătorii încearcă să controleze aceste sisteme nu oferă încă garanții absolute.

De ce construiesc companiile AI dacă știu cât de periculoasă poate fi tehnologia

Atât Anthropic, cât și OpenAI susțin că riscurile pot fi gestionate și că beneficiile inteligenței artificiale ar putea fi uriașe pentru omenire.

Există însă și un argument geopolitic. Companiile americane consideră că este important ca Statele Unite să rămână în controlul celor mai puternice sisteme AI, în loc ca acestea să ajungă la regimuri autoritare.

Anthropic a transmis că dezvoltarea AI va aduce „beneficii enorme și riscuri fără precedent” și că firma continuă să construiască modele cu măsuri puternice de protecție.

CEO-ul companiei, Dario Amodei, a declarat anterior că vede o probabilitate de 25% ca lucrurile să meargă „foarte, foarte prost”.

Cum încearcă autoritățile să limiteze riscurile

Companiile încearcă în prezent să antreneze modelele pentru a respecta reguli de siguranță și să monitorizeze modul în care acestea ajung la anumite decizii.

Una dintre probleme este tocmai transparența. Dacă sistemele devin mai sofisticate, oamenii ar putea avea dificultăți în a înțelege ce procese au stat în spatele unei decizii.

În Statele Unite au fost propuse și măsuri legislative. Unele proiecte de lege prevăd ca dezvoltatorii celor mai puternice modele să introducă mecanisme de oprire de urgență, în timp ce alte propuneri urmăresc raportarea obligatorie a incidentelor grave de securitate și testarea modelelor de către autoritățile responsabile de securitatea națională.

Până acum, însă, niciuna dintre aceste inițiative nu a avansat decisiv, iar administrația Trump a manifestat o preferință pentru o reglementare limitată a sectorului.

Nu toți experții cred în scenariul apocaliptic

Există și numeroși critici ai acestei perspective. Unii investitori și oameni implicați în industria AI consideră că avertismentele despre extincția umanității sunt exagerate sau chiar că pot servi unor interese comerciale și politice.

David Sacks, investitor și consilier informal al președintelui Donald Trump, a acuzat Anthropic că promovează o agendă de „captură a reglementării”, prin care ar urmări impunerea unor reguli care să afecteze competitorii mai mici.

Alții consideră că avertismentele publice ale companiilor despre propriile tehnologii pot avea și un rol de marketing, sugerând indirect cât de puternice sunt aceste sisteme.

Anthropic și OpenAI resping însă această interpretare și susțin că avertismentele lor privind riscurile AI sunt serioase și că dezvoltarea unor mecanisme de siguranță trebuie să țină pasul cu progresul tehnologic.