Manifestul vizionar al lui Leopold Aschenbrenner despre viitorul AI

În timp ce brokerii numără pierderile din ultimele săptămâni, Aschenbrenner avertizează că, până în 2027, fluctuațiile zilnice de pe Bursă vor deveni irelevante pe lângă adevărata miză: cine va controla prima Superinteligență Artificială (ASI) și infrastructura energetică de un trilion de dolari necesară pentru a o alimenta.

Leopold Aschenbrenner

Leopold Aschenbrenner a activat ca cercetător la OpenAI din 2023 până în aprilie 2024, fiind membru al echipei de Superalignment (axată pe siguranța și alinierea modelelor avansate de AI). A absolvit Universitatea Columbia (unde a studiat economie și matematică) din Statele Unite la doar 19 ani, dar are origini germane. Activitatea sa de cercetător s-a încheiat brusc în primăvara lui 2024, fiind acuzat de companie de scurgere de informații. Aschenbrenner a negat, apărându-se că de fapt a adus în atenția conducerii o serie de vulnerabilități ale sistemului. După concedierea sa de la OpenAI, acesta s-a reprofilat, devenind investitor pe Bursă în companii de tehnologie. Și-a fondat propriul fond de investiții, care la un moment dat ajunsese să valoreze 20 de miliarde de dolari, la care au contribuit cu capital mai mulți investitori din Silicon Valley.

Nu o să detaliez activitatea sa de investitor- aceasta este arhicunoscută, fiind intens popularizată în contextul pierderilor din ultima vreme datorate volatilității pieței. Activitatea sa de pe Bursă a fost de fapt oglinda manifestului publicat în iunie 2024, „Situational Awareness: The Decade Ahead” („Conștientizarea Situației: Deceniul care Urmează”), intens dezbătut în mediile din Silicon Valley. Mai exact, Aschenbrenner s-a bazat pe pontul conform căruia piața subestimează viteza de dezvoltare a modelelor de limbaj.

Teza sa pune pentru prima dată în discuție necesitatea existenței unui întreg lanț de aprovizionare pentru industria de inteligență artificială. De asemenea, a fost printre primii care au anticipat că blocajul principal al AI va fi lipsa de energie electrică. Fondul său a investit în companii din sectorul energiei nucleare, gazelor naturale și al rețelelor electrice din SUA (firme care alimentează marile centre de date). Documentul este structurat pe 5 capitole și are 165 de pagini și se poate consulta pe site-ul situational-awareness.ai.

De la AGI la Superinteligență în 2030

Premisa de la care pornește studiul său este aceea conform căreia progresul în AI nu este liniar, ci exponențial, calculat în OOM-uri (Orders of Magnitude / ordine de mărime, adică multiplicări cu factor de 10). Trecerea de la GPT-2 (nivel de preșcolar) la GPT-4 (nivel de licean inteligent) s-a făcut în doar 4 ani (2019–2023), prin adăugarea a 4,5 OOM-uri de putere de calcul și eficiență algoritmică. Aschenbrenner argumentează că adăugarea a încă 4–5 OOM-uri până în 2027 va aduce modele capabile să rezolve sarcini complexe la nivelul celor mai buni cercetători sau programatori umani. Astfel, se va atinge nivelul AGI (Artificial General Intelligence- Inteligența Artificială Generală). „Oamenii nu realizează cât de repede ne mișcăm. Trecerea de la GPT-2 la GPT-4 a durat doar patru ani. Dacă menținem această traiectorie, până în 2027 vom avea AGI — un sistem capabil să facă munca celor mai buni cercetători și programatori AI din lume”, afirmă fostul cercetător OpenAI în prima parte a studiului.

Automatizarea muncii cognitive

Nu vorbim despre un chatbot mai bun care îți scrie poezii, ci despre automatizarea completă a muncii cognitive de nivel înalt

Spre deosebire de revoluțiile industriale precedente din secolele trecute, care au automatizat munca fizică, revoluția AI va aduce automatizarea muncii cognitive, previzionează Aschenbrenner. Astfel, în următorii ani vor dispărea job-uri de birou care vor fi înlocuite de agenți de inteligență artificială. Aceast progres accelarat va duce la comprimarea evoluției tehnologice: ,,Odată ce atingem AGI, AI-ul devine el însuși cercetătorul. În loc de câteva mii de cercetători umani la OpenAI sau Google, vom avea milioane de agenți AGI care lucrează 24/7, la o viteză de 100 de ori mai mare decât cea umană. Această buclă de auto-îmbunătățire va comprima decenii de progres algoritmic în doar câteva luni, ducând rapid la ASI (Superinteligență Artificială)”, mai spune acesta. Analizând tendințele din ultimul deceniu, Aschenbrenner prevede un secol de progres comprimat într-un singur an: „Dacă un deceniu de progres algoritmic uman a adus GPT-4, imaginați-vă ce înseamnă comprimarea unui secol de cercetare într-un singur an.”

Impactul asupra economiei mondiale: inovație și creșteri cu două cifre

Foarte interesante sunt și considerațiile acestuia cu privire la viitorul economiei globale: Aschenbrenner previzionează o ,,accelerare hiperbolică a creșterii economice” în următorul deceniu. În economie, rata tradițională de creștere a PIB-ului mondial este de aproximativ 2–3% pe an. Aschenbrenner susține că automatizarea cercetării și dezvoltării (R&D) va rupe acest tipar: când sistemele AGI pot proiecta algoritmi mai buni, pot optimiza cipurile și pot accelera descoperirile științifice. Astfel, viteza inovației crește exponențial. În scenariul unei explozii de inteligență, ratele de creștere economică ar putea atinge valori ieșite din comun (zeci de procente pe an), comprimând un secol de progres tehnologic și economic în doar câțiva ani. Inovația se va ieftini drastic: muncile de programare, inginerie, cercetare biotehnologică și analiză financiară vor putea fi scalate la costuri aproape nule prin multiplicarea agenților AI.

Consecința principală, cea mai de temut în era inteligenței artificiale, va fi restructurarea pieței muncii: valoarea muncii cognitive de rutină (și ulterior a celei avansate) va scădea dramatic. Există, însă, o compensație: valoarea resurselor fizice (energie, materii prime, cipuri) și a capacității de producție industrială va crește considerabil, ducând la creșterea cererii pentru job-uri în aceste domenii. Cine va fi la mare căutare? Inginerii energetici, tehnicienii de rețea, constructorii de centre de date, specialiștii în fizica semiconductorilor și inginerii mecanici/roboticieni. Vestea cea rea este că această tranziție va avea loc în câțiva ani, timp insuficient pentru reconversie profesională. Singurul aspect pe care Aschenbrenner îl tratează superficial este cel legat de politicile sociale pe care statele ar trebui să le adopte în contextul pierderii locurilor de muncă. Acesta este de părere că forța de muncă va fi absorbită de ,,proiectele legate de securitatea națională și supraviețuirea geopolitică’’, referindu-se în special la S.U.A., aflate într-o cursă tehnologică cu China. Aschenbrenner crede că statul va fi forțat să intervină direct, nu doar plătind ajutoare de șomaj, ci angajând sau mobilizând populația în mari proiecte naționale de infrastructură (rețele electrice, centrale nucleare, fabrici de cipuri, apărare cibernetică.

Clusterul de 1 trilion de dolari și rețeaua energetică

Ajungem, astfel, la cea mai vehiculată teză de către Aschenbrenner: funcționarea sistemului AI care va întreține AGI și Superinteligența necesită cantități uriașe de energie. Bariera principală în calea dezvoltării AGI nu mai este teoria, ci infrastructura fizică: cipurile și energia. Până în 2027-2030, antrenarea modelelor de ultimă generație va necesita centre de date de o scară nemaivăzută, cu un consum de 10 până la 100 de gigawați (echivalentul consumului energetic al unor țări întregi sau al marilor metropole) și investiții de peste 1.000 de miliarde de dolari. ,,Wall Street și companiile din Big Tech abia încep să înțeleagă nivelul de capital necesar. Trecem de la investiții în software la cel mai mare efort de infrastructură fizică din istoria omenirii”, afirmă acesta în capitolul dedicat infrastructurii energetice.

Cursa tehnologică: lumea liberă versus blocul autoritar

Toate aceste investiții vor trece în sarcina statului, determinând o cursă tehnologică fără precedent între lumea occidentală și China, respectiv aliații săi. Acesta este de părere că S.U.A. trebuie să dezvolte un proiect de ,,atingere a Superinteligenței” similar cu Proiectul Nuclear Manhattan din anii 1940. „Până în 2027, guvernele vor realiza ce se întâmplă. AGI nu va fi un alt produs de Silicon Valley, ci supremația națională. Ne îndreptăm inevitabil spre un Proiect Manhattan guvernamental pentru a garanta că prima Superinteligență aparține lumii libere”, afirmă Aschenbrenner care supralicitează miza acestei curse: ,,Cursa pentru Superinteligență este o luptă existențială pentru supraviețuirea democrațiilor liberale în fața autoritarismului.”

Concluzii

Indiferent dacă previziunile matematice ale lui Leopold Aschenbrenner privind anul 2027 se vor adeveri 100 % sau dacă ritmul de creștere va suferi amânări cauzate de întârzierea investițiilor în rețelele electrice și în producția de microcipuri, mesajul central al manifestului său rămâne imposibil de ignorat: faza pur comercială și „amuzantă” a inteligenței artificiale s-a încheiat. Totuși, chiar dacă presupunem că marile puteri vor reuși să rezolve criza de energie, să securizeze laboratoarele și să finanțeze acest efort gigant, avem nevoie de un răspuns la cea mai importantă dilemă a deceniului: ce se întâmplă în momentul în care creăm o entitate ale cărei capacități cognitive le depășesc pe ale noastre cu câteva ordine de mărime? Cum poți controla, direcționa sau constrânge o minte care gândește de o sută de ori mai repede decât întreaga comunitate științifică umană la un loc? Aceasta este problema „alinierii” (AI Alignment) - domeniul de cercetare din care Aschenbrenner însuși a făcut parte la OpenAI și care reprezintă adevăratul test existențial al secolului XXI. Despre ce înseamnă din punct de vedere tehnic și filosofic să aliniezi intențiile unei superinteligențe cu valorile și supraviețuirea civilizației umane, de ce această dilemă este mult mai greu de rezolvat decât construirea cipurilor și ce riscuri reale ne așteaptă dacă eșuăm- voi reveni pe larg într-un articol viitor.