Apocalipsa informatică a început. Partea întunecată a inteligenței artificiale este deja aici, avertizează un economist laureat Nobel

Oricine urmărește evoluția inteligenței artificiale are motive de îngrijorare în privința efectelor sale negative. Iar lista riscurilor este lungă.

Inteligența Artificială schimbă Internetul Foto: Shutterstock

În primul rând, există tendința acestei tehnologii de a reduce rolul forței de muncă, ceea ce ar putea accelera concentrarea bogăției și a puterii în mâinile unei oligarhii. În al doilea rând, investițiile masive în centre de date absorb capital care ar putea fi direcționat către alte sectoare ale economiei, deși aceste infrastructuri creează relativ puține locuri de muncă.

În al treilea rând, există riscul ca boom-ul inteligenței artificiale să fie o bulă speculativă. Având în vedere amploarea investițiilor, o eventuală prăbușire ar putea avea consecințe majore, împingând economia Statelor Unite într-o nouă capcană a lichidității.

Și, desigur, Anthropic avertizează că inteligența artificială ar putea chiar să ducă la dispariția omenirii, un motiv suficient, pare-se, pentru a investi în oferta publică inițială a companiei.

Dar se pare că nu am discutat suficient cu specialiștii din domeniul tehnologiei. Până săptămâna trecută, nu eram conștient de probabilitatea tot mai mare ca inteligența artificială să facă internetul, așa cum îl cunoaștem, aproape inutilizabil. Și nu într-un viitor îndepărtat, ci în doar câteva luni, scrie economistul american Paul Krugman, deținător al Premiului Nobel pentru economie în anul 2008.

Fenomenul a început deja.

Potrivit agenției Reuters, miercuri,28 octombrie, mai multe site-uri guvernamentale din Europa și din alte regiuni ale lumii au devenit inaccesibile, după ce au fost dezvăluite vulnerabilități critice într-un limbaj de programare utilizat pe scară largă. Administratorii site-urilor au fost nevoiți să ia măsuri urgente pentru a-și proteja sistemele.

Dezvoltatorii limbajului de programare PHP au publicat remedieri de urgență pentru mai multe vulnerabilități care existau de ani întregi, dar care au fost descoperite cu ajutorul inteligenței artificiale. Aceștia au îndemnat toți utilizatorii să își actualizeze imediat programele.

Companiile din sectorul tehnologic au avertizat că unii hackeri începuseră deja să exploateze aceste breșe. În consecință, mai multe instituții guvernamentale europene au decis să își scoată temporar site-urile din funcțiune, ca măsură de precauție.

Publicarea soluțiilor de securitate a creat însă o nouă problemă. Odată ce remedierea unei vulnerabilități devine publică, instrumentele de inteligență artificială pot analiza modificările și pot identifica relativ ușor defecțiunea inițială. Experții se tem, astfel, de un val de atacuri lansate înainte ca toate organizațiile să își actualizeze sistemele.

Costin Raiu, cofondator al companiei de cercetare în domeniul securității cibernetice și al răspunsului la incidente TLP, a descris situația drept o „cursă pentru exploatarea vulnerabilităților”. Următorul pas, a avertizat el, ar putea fi compromiterea în masă a serverelor vulnerabile de pe internet.

Acesta este doar începutul fenomenului pe care Zvi Mowshowitz îl numește „The Hackening”, un val de atacuri informatice alimentate de inteligența artificială.

Două zile mai târziu, Reuters relata că progresele din domeniul inteligenței artificiale au dus la descoperirea unui număr tot mai mare de vulnerabilități software, ceea ce ar putea provoca noi perturbări, similare celor care au afectat în cursul săptămânii site-uri guvernamentale din întreaga lume.

Șapte specialiști în securitate cibernetică intervievați de agenție au avertizat asupra amplorii fenomenului. Unul dintre ei a estimat că am putea intra într-o perioadă de câțiva ani în care, în fiecare săptămână, va exista impresia că „se prăbușește cerul”.

Azeem Azhar, autorul publicației Exponential View de pe platforma Substack și unul dintre analiștii pe care Paul Krugman i-a urmărit îndeaproape pentru a înțelege evoluția inteligenței artificiale, a numit evenimentele de săptămâna trecută „momentul Wuhan al internetului”.

Comparația face trimitere la apariția coronavirusului care a provocat pandemia de Covid-19, soldată cu milioane de victime și cu o contracție temporară severă a economiei mondiale.

Paul Krugman spune că nu sunt specialist în tehnologie, dar înțelege problema în felul următor: site-urile web funcționează pe baza unor programe complexe, alcătuite din numeroase straturi de cod. Tocmai această complexitate face inevitabilă apariția unor breșe de securitate pe care atacatorii le pot exploata.

Mai mult, o mare parte din programele utilizate în prezent sunt vechi. PHP, de exemplu, datează de la începutul anilor 1990 și a fost conceput într-o perioadă în care tehnicile moderne de piraterie informatică nu existau.

Se pare însă că modelele de inteligență artificială sunt instrumente extrem de puternice pentru identificarea și exploatarea vulnerabilităților.

Un atacator uman poate să nu aibă timpul, răbdarea sau atenția necesare pentru a analiza, linie cu linie, coduri vechi și complexe, în căutarea unor erori care au trecut neobservate timp de decenii. Inteligența artificială nu are aceleași limitări.

Instituțiile care află despre existența unei vulnerabilități pot instala actualizări menite să o remedieze. Dar publicarea unei astfel de actualizări le poate oferi hackerilor informațiile necesare pentru a identifica breșa și a ataca organizațiile care nu au aplicat imediat corecțiile.

Azhar atrage atenția și asupra unei alte probleme: măsurile de siguranță introduse în modelele de inteligență artificială, prin instrucțiuni menite să le împiedice să întreprindă acțiuni distructive, ar putea fi mult mai puțin eficiente decât se crede.

Motivul este că aceste restricții pot fi relativ ușor anulate prin modificarea unor instrucțiuni-cheie, proces cunoscut în domeniu sub numele de „abliteration”.

Cum ne putem proteja?

Azhar nu crede că soluția va fi întoarcerea la mașinile de scris, hârtia copiativă și arhivele fizice. Probabil că nici nu va fi necesar să renunțăm complet la internet și să folosim exclusiv rețele locale izolate de mediul online.

Azhar consideră că o alternativă ar putea fi dezvoltarea unor domenii digitale parțial închise, asemănătoare serviciului AOL în primii săi ani sau sistemului SABRE, utilizat de agențiile de turism pentru rezervarea biletelor de avion.

Accesul din exterior ar fi dificil, dar nu imposibil.

Aceste sisteme sunt cunoscute adesea drept „grădini înconjurate de ziduri”. O comparație mai potrivită ar putea fi însă cea cu o comunitate rezidențială securizatăâ. O societate digitală bazată pe verificări suplimentare și restricții de securitate ar putea funcționa, reducând în același timp vulnerabilitatea la atacurile facilitate de inteligența artificială.

Securitatea ar avea însă un preț. Cât de mare?

Unele estimări aproximative sugerează că apariția internetului deschis a contribuit la creșterea produsului intern brut cu aproximativ 10%. Trecerea la un sistem digital mai sigur, organizat în comunități cu acces controlat, ar însemna renunțarea doar la o parte din acest câștig, cel puțin pe termen lung.

Problema mai mare este însă ceea ce s-ar putea întâmpla pe termen scurt.

Întreaga economie actuală este construită în jurul unui internet deschis. Să presupunem, de exemplu, că am fi nevoiți să revenim la un sistem în care, pentru a cumpăra un bilet de avion, trebuie să mergem fizic la o agenție de turism care are acces securizat la sistemul SABRE.

Îmi amintesc acea perioadă. Nu era un sistem îngrozitor. Dar majoritatea agențiilor și birourilor care ofereau astfel de servicii au dispărut. Nu le putem readuce instantaneu în funcțiune.

Iar aceeași problemă ar trebui luată în calcul în aproape toate sectoarele economiei.

Nu vorbim despre un risc ipotetic, care ar putea deveni realitate peste câțiva ani. Procesul este deja în desfășurare.

Până de curând, entuziaștii inteligenței artificiale vorbeau despre posibilitatea ca această tehnologie miraculoasă să genereze în curând o creștere economică anuală de 10% sau chiar 15%. O asemenea perspectivă a fost întotdeauna nerealistă.

Acum există însă un risc mult mai concret: în următorii ani, inteligența artificială ar putea să ne facă mai săraci, oferindu-le atacatorilor instrumente mult mai puternice și obligând societatea să se adapteze rapid la amenințări pentru care nu este pregătită, conchide Azhar .