„Foarte înfricoșător”: Promisiunea lui Mark Zuckerberg de a construi inteligență artificială avansată îi alarmează pe experți
0CEO-ul Meta, acuzat de „iresponsabilitate” prin faptul că ia în considerare posibilitatea de a face open source instrumente considerate egale cu inteligența umană.
Mark Zuckerberg a fost acuzat că adoptă o abordare iresponsabilă a inteligenței artificiale după ce s-a angajat să construiască un sistem de inteligență artificială puternic, la același nivel cu cel al inteligenței umane. Fondatorul Facebook a evocat, de asemenea, perspectiva de a-l pune la dispoziția publicului în mod gratuit, scrie The Guardian.
Directorul executiv al Meta a declarat că firma va încerca să construiască un sistem de inteligență generală artificială (AGI) și să îl facă open source, ceea ce înseamnă că va fi accesibil dezvoltatorilor din afara companiei. Sistemul ar trebui să fie pus la dispoziție „cât mai larg posibil, în mod responsabil”, a adăugat el.
Într-o postare pe Facebook, Zuckerberg a declarat că este clar că următoarea generație de servicii tehnologice „necesită construirea unei inteligențe generale complete”.
AGI nu este un termen strict definit, dar se referă în mod obișnuit la un sistem teoretic de inteligență artificială care poate îndeplini o serie de sarcini la un nivel de inteligență care egalează sau depășește oamenii. Potențiala apariție a AGI a alarmat experții și politicienii din întreaga lume, care se tem că un astfel de sistem, sau o combinație de mai multe sisteme AGI, ar putea scăpa de controlul uman și ar putea amenința omenirea.
Zuckerberg a confirmat că Meta va lua în considerare posibilitatea de a face AGI-ul său open source, sau disponibil în mod gratuit pentru dezvoltatori și public pentru a fi utilizat și adaptat, la fel ca modelul Llama 2 AI al companiei.
„Această tehnologie este atât de importantă și oportunitățile sunt atât de mari încât ar trebui să o deschidem și să o facem disponibilă la scară cât mai largă, în mod responsabil, pentru ca toată lumea să poată beneficia”, a spus el.
Wendy Hall, profesoară de informatică la Universitatea din Southampton și membră a organismului consultativ al ONU privind inteligența artificială, a declarat că perspectiva unei AGI open source este "într-adevăr foarte înfricoșătoare" și că este iresponsabil din partea lui Zuckerberg să o ia în considerare.
"Gândul că AGI cu sursă deschisă va fi lansată înainte de a ne da seama cum să reglementăm aceste sisteme de inteligență artificială foarte puternice este într-adevăr foarte înfricoșător", a spus ea. "În mâinile greșite, o astfel de tehnologie ar putea face foarte mult rău. Este atât de iresponsabil din partea unei companii să sugereze acest lucru".
Hall a adăugat: "Din fericire, cred că mai sunt încă mulți ani până când o astfel de aspirație [AGI] va putea fi realizată în mod semnificativ, așa că avem timp să punem la punct sistemele de reglementare. Dar este o chestiune de siguranță publică să progresăm în această activitate cu o anumită urgență."
Meta s-a numărat printre firmele de tehnologie care, la un summit global privind siguranța AI desfășurat anul trecut în Marea Britanie, s-au angajat să permită guvernelor să verifice instrumentele de inteligență artificială înainte și după lansarea lor.
Un alt expert cu sediul în Marea Britanie a declarat că open sourcing-ul unui sistem AGI nu este o decizie care ar trebui lăsată în mâinile unei companii de tehnologie.
"Există argumente profunde și complexe cu privire la meritele de a deschide la sursă modelele actuale de inteligență artificială, împingerea acestora în domeniul AGI ar putea fi salvatoare sau catastrofală pentru întreaga lume", a declarat Dr. Andrew Rogoyski, director al Institutului pentru inteligență artificială centrată pe oameni de la Universitatea din Surrey. "Aceste decizii trebuie să fie luate prin consens internațional, nu în sala de consiliu a unui gigant tehnologic."
Într-un interviu acordat joi site-ului de știri din domeniul tehnologiei The Verge, Zuckerberg a declarat că va înclina spre open sourcing atât timp cât acest lucru are sens și este "lucrul sigur și responsabil de făcut".
Decizia Meta de anul trecut de a deschide sursa Llama 2 a atras critici din partea unor experți, inclusiv Hall, care a spus că a fost "un pic ca și cum le-ar da oamenilor un șablon pentru a construi o bombă nucleară".
OpenAI, cu sediul în California, dezvoltatorul ChatGPT, construiește, de asemenea, AGI, pe care o definește ca fiind "sisteme de inteligență artificială care sunt, în general, mai inteligente decât oamenii", în timp ce Demis Hassabis, șeful diviziei de inteligență artificială a Google, Google DeepMind, a declarat că AGI ar putea fi la mai puțin de un deceniu distanță.
Directorul executiv al OpenAI, Sam Altman, a dat o notă de precauție la Forumul Economic Mondial de la Davos, Elveția, în această săptămână, când a declarat că progresele ulterioare în domeniul IA ar fi imposibile fără o descoperire în domeniul energiei, cum ar fi fuziunea nucleară.
Zuckerberg nu a oferit un calendar pentru dezvoltarea unui sistem AGI, deși a menționat că Meta a construit o "cantitate absolut masivă de infrastructură" pentru a crea noi sisteme de inteligență artificială. Compania a comandat un stoc semnificativ de cipuri de procesare a IA. Zuckerberg a adăugat că se lucrează, de asemenea, la o continuare a jocului Llama 2.
Se încarcă comentariile...
