Cercetătorii AI sunt din ce în ce mai speriaţi de propriul lor succes, spune un expert
0
Un om de ştiinţă care a scris un manual foarte popular despre inteligenţa artificială susţine că experţii sunt „înspăimântaţi” de propriul lor succes în domeniu, comparând progresul inteligenţei artificiale(AI) cu dezvoltarea bombei atomice.
Profesorul Stuart Russell, fondatorul Centrului de Inteligenţă Artificială Compatibilă cu Omul de la Universitatea din California, Berkeley, spune că majoritatea experţilor cred că maşinile mai inteligente decât oamenii vor deveni realitate în acest secol şi a cerut tratate internaţionale care să reglementeze dezvoltarea tehnologiei.
„Comunitatea AI nu s-a adaptat încă la faptul că acum începem să avem un impact foarte mare în lumea reală”, a declarat el pentru The Guardian.
„Pur şi simplu nu a fost cazul pentru cea mai mare parte a istoriei domeniului – eram doar în laborator, dezvoltam lucruri, încercam să facem lucrurile să funcţioneze, în cea mai mare parte eşuând. Deci problema impactului în lumea reală nu era deloc relevantă. Şi trebuie să ne maturizăm foarte repede pentru a ajunge din urmă.”, a mai spus expertul.
Inteligenţa artificială stă la baza multor aspecte ale vieţii moderne, de la motoarele de căutare la servicii bancare, iar progresele în recunoaşterea imaginilor şi traducerea automată se numără printre evoluţiile cheie din ultimii ani.
Unul din aspectele îngrijorătoare evidenţiate de Russel este că nu e nevoie ca un dispozitiv să fie mai inteligent decât oamenii în toate aspectele pentru a prezenta un risc serios.
„Este ceva care se întâmplă chiar acum. Dacă te uiţi la reţelele sociale şi la algoritmii care aleg ce citesc şi urmăresc oamenii, ei au un control uriaş asupra inputului nostru cognitiv.”, spune el
Rezultatul, a spus el, este că algoritmii manipulează utilizatorul, spălându-i creierul, astfel încât comportamentul lor devine mai previzibil atunci când vine vorba de lucrurile care le angajează atenţia, sporind veniturile bazate pe clickuri.
Russell spune că încă există un decalaj mare între inteligenţa artificială de astăzi şi cea descrisă în filme precum „Ex Machina”, dar un viitor cu dispozitive care sunt mai inteligente decât oamenii nu este departe.
Întrebat dacă cercetătorii au început să fie speriaţi de propriul lor succes, Russel a răspuns: „Da, cred că suntem din ce în ce mai speriaţi”.
Russell crede că viitorul pentru AI constă în dezvoltarea dispozitivelor care ştiu că adevăratul obiectiv este incert, la fel ca şi preferinţele noastre, ceea ce înseamnă că trebuie să consulte oamenii cu privire la orice decizie. Dar ideea este complexă, nu în ultimul rând pentru că oamenii au preferinţe diferite, uneori chiar conflictuale, şi acele preferinţe nu sunt fixe.
Russell a cerut măsuri, inclusiv un cod de conduită pentru cercetători, legislaţie şi tratate pentru a asigura siguranţa sistemelor AI în uz şi formarea cercetătorilor pentru a se asigura că aceasta nu este susceptibilă la probleme precum părtinirea rasială. El a spus că legislaţia UE care ar interzice uzurparea identităţii oamenilor de către AI ar trebui adoptată în întreaga lume.
Se încarcă comentariile...
