Geoffrey Hinton, „nașul inteligenței artificiale”, a demisionat de la Google. Avertismentul său
0Geoffrey Hinton, considerat pe scară largă drept nașul inteligenței artificiale (AI), și-a dat demisia de la Google, avertizând într-un interviu pentru BBC că pericolele reprezentate de chatboți pot fi „destul de înfricoșătoare".
Psihologul cognitiv și informaticianul britanic-canadian în vârstă de 75 de ani, și-a anunțat demisia de într-o declarație pentru New York Times, afirmând că are unele regrete privind activitatea sa.
Cercetările sale de pionierat în domeniul rețelelor neuronale și al învățării profunde au deschis calea pentru dezvoltarea sistemelor actuale de inteligență artificială precum ChatGPT.
El a declarat pentru BBC că unele dintre pericolele reprezentate de chatboți ar putea fi „destul de înfricoșătoare".
„În acest moment, nu sunt mai inteligente decât noi, din câte îmi dau seama. Dar cred că în curând ar putea fi. În momentul de față, ceea ce vedem este că lucruri precum GPT-4 eclipsează o persoană în ceea ce privește cantitatea de cunoștințe generale pe care o are și o eclipsează cu mult. În ceea ce privește raționamentul, nu este la fel de bun, dar face deja raționamente simple. Și, având în vedere ritmul în care progresează, ne așteptăm ca lucrurile să se îmbunătățească destul de repede. Așa că trebuie să ne facem griji în această privință".
Hinton a menționat pentru NYT riscul ca „actori rău-intenționați” precum președintele rus Vladimir Putin să încerce să folosească inteligența artificială, de pildă să dea roboților capacitatea de a-și crea propriile obiective.
Inteligența artificială a eclipsat omul în privința ritmului învățării
Dar acesta ar fi probabil doar cel mai rău scenariu, dar un scenariu de coșmar, a explicat el pentru BBC.
„Am ajuns la concluzia că tipul de inteligență pe care îl dezvoltăm este foarte diferit de inteligența umană. Noi suntem sisteme biologice, iar acestea sunt sisteme digitale. Iar marea diferență este că, în cazul sistemelor digitale, acestea creează mai multe copii ale aceluiași set de sarcini, pentru același model al lumii. Și toate aceste copii pot învăța separat, dar își pot împărtăși cunoștințele instantaneu. Așadar, este ca și cum ai avea 10.000 de oameni și, de fiecare dată când o persoană învață ceva, toată lumea afla automat. Și așa pot acești chatboți să știe cu mult mai mult decât orice persoană”.
În martie, zeci de persoane din domeniul inteligenței artificiale, inclusiv de miliardarul Elon Musk, au semnat o scrisoare deschisă prin care au solicitat oprirea temporară a dezvoltărilor la un nivel mai avansate decât versiunea actuală a chatbotului ChatGPT, astfel încât să poată fi concepute și implementate măsuri de siguranță.
Yoshua Bengio, un alt așa-numit „naș al IA”, care, împreună cu Hinton și Yann LeCun, a câștigat Premiul Turing 2018 pentru activitatea în domeniul învățării profunde, a semnat, de asemenea, scrisoarea.
Bengio a scris că, din cauza „accelerării neașteptate” a sistemelor de inteligență artificială, „trebuie să facem un pas înapoi”
Hinton a mai declarat pentru BBC că „pe termen scurt” crede că AI va aduce mult mai multe beneficii decât riscuri, "așa că nu cred că ar trebui să ne oprim din dezvoltarea acestor lucruri", a adăugat el.
„Rămânem dedicați unei abordări responsabile a inteligenței artificiale. Învățăm în permanență pentru a înțelege riscurile emergente, inovând în același timp cu îndrăzneală”, a transmis Jeff Dean, cercetător al diviziei de știință a Google.
Ritmul de dezvoltare a IA i-a surprins chiar și pe creatorii săi. Aceasta a evoluat dramatic de când Hinton a construit prima rețea neuronală de analiză a imaginilor în 2012.
Până și șeful Google, Sundar Pichai, a admis într-un interviu recent că nici măcar el nu înțelege pe deplin tot ce face chatbotul său, Bard.
Se încarcă comentariile...
