Directorul Anthropic cere încetinirea ritmului de dezvoltare a inteligenței artificiale. Elon Musk și Sam Altman i s-au alăturat. O încetinire coordonată a acestui domeniu nu are precedent

Directorul general al Anthropic, Dario Amodei, a declarat că este necesară încetinirea dezvoltării celor mai avansate sisteme de inteligență artificială, din cauza riscurilor pe care acestea le-ar putea reprezenta pentru omenire. Liderii companiilor xAI și OpenAI, Elon Musk și, respectiv, Sam Altman, i-au susținut public apelul, relatează Bloomberg.

Directorul general al Anthropic, Dario Amodei/FOTO:X

Directorul Anthropic a publicat sâmbătă o postare pe blogul companiei, în care a anunțat introducerea unor noi măsuri de siguranță, printre care implicarea unor experți independenți, și a cerut întregii industrii să sprijine o încetinire mai amplă a ritmului de dezvoltare a inteligenței artificiale.

Amodei a menționat doi factori principali care au stat la baza acestui nou apel: capacitatea sistemelor de inteligență artificială de a se auto-perfecționa și un incident recent, în care un grup de agenți AI, dezvoltați de OpenAI și Hugging Face, s-a coordonat pentru a pătrunde ilegal într-un site terț.

„Trebuie să încetinim ritmul în care sporim capacitățile modelelor de inteligență artificială. Progresul va continua să pară rapid, iar noi trebuie să folosim cu înțelepciune timpul pe care îl câștigăm astfel”, a scris el.

Totodată, Amodei a subliniat că orice încetinire trebuie corelată cu realitățile concurenței din domeniu.

„Pentru a fi clar: reglementarea ritmului de dezvoltare nu înseamnă oprirea antrenării modelelor sau a progresului tehnic, ci asigurarea faptului că firmele au suficient timp pentru a-și securiza și proteja modelele, iar experții independenți au timpul necesar pentru a confirma acest lucru”, a scris Amodei.

În urma apelului său, directorul OpenAI, Sam Altman, a promis că va accepta propunerea lui Amodei privind implicarea unor „experți independenți, cu un nivel de acces similar celui al angajaților”, în timp ce Elon Musk, care conduce compania xAI Corp., a scris: „Dario are dreptate.”

Deși, potrivit jurnaliștilor, toți cei trei lideri au avertizat de-a lungul anilor asupra riscurilor asociate inteligenței artificiale, o încetinire coordonată efectivă nu are, practic, precedent într-o industrie care, până acum, a lansat produse cu scopul de a crește gradul de implicare a utilizatorilor, de a câștiga cotă de piață și de a-și mări vânzările.

Îngrijorări legate de riscurile majore asociate inteligenței artificiale

Totuși, îngrijorările legate de riscurile majore asociate inteligenței artificiale au început să iasă tot mai mult în prim-plan, în parte și din cauza demisiei mediatizate, în această săptămână, a unui cercetător de la Anthropic, motivată de temeri existențiale privind faptul că propria companie ar acționa iresponsabil.

Publicația citată notează, în același timp, că rămâne neclar cât de departe sunt dispuse să meargă companiile lider din domeniul inteligenței artificiale — aflate ele însele într-o competiție acerbă între ele, dar și confruntate cu o concurență puternică din partea firmelor chinezești — în privința introducerii unor noi restricții sau măsuri de siguranță.

De asemenea, nu este clar dacă autoritățile de concurență vor permite companiilor să își regleze, într-un mod coordonat, ritmul de dezvoltare, și cum vor reacționa investitorii, interesați de marje de profit și randamente, la ideea unei încetiniri.

Anthropic continuă competiția cu OpenAI pentru crearea unor modele tot mai avansate

De-a lungul întregului boom al inteligenței artificiale, liderii principalelor laboratoare din domeniu au avertizat asupra unor potențiale riscuri existențiale, afirmații considerate, uneori, drept încercări de a-și promova propriile produse și de a se poziționa drept cei mai potriviți administratori ai acestei tehnologii. Amodei însuși a declarat anterior că probabilitatea ca lucrurile să evolueze „foarte, foarte rău” este de 25%.

Anthropic se poziționează de multă vreme drept o organizație axată pe dezvoltarea mai responsabilă și mai sigură a inteligenței artificiale, cu scopul de a reduce la minimum riscurile potențiale ale acestei tehnologii și de a maximiza beneficiile pentru societate. La începutul acestui an, compania a depus eforturi considerabile pentru a limita lansarea modelului său, Mythos, după ce a constatat că acesta prezintă riscuri deosebite în materie de securitate cibernetică. Anterior, Anthropic afirmase, de asemenea, că lumea are nevoie de un sistem care să permită luarea, în mod colectiv, a deciziei privind momentul în care dezvoltarea acestei tehnologii ar trebui încetinită.

În același timp, Anthropic continuă competiția cu OpenAI pentru crearea unor modele tot mai avansate, capabile să automatizeze sarcini din ce în ce mai complexe și valoroase pentru clienții din mediul de afaceri. Ambele companii au depus documentația necesară pentru listarea la bursă, Anthropic fiind așteptată să debuteze pe Wall Street chiar în cursul acestui an.