„Nașul” inteligenței artificiale a estimat șansele ca tehnologia să distrugă umanitatea în 30 de ani
0Informaticianul britanic-canadian, adesea prezentat drept „nașul” inteligenței artificiale, a estimat șansele ca AI să distrugă umanitatea în următoarele trei decenii.
Profesorul Geoffrey Hinton, care anul acesta a primit Premiul Nobel pentru fizică pentru munca sa în domeniul AI, a spus că există o șansă de „10% până la 20%” ca inteligența artificială să ducă la dispariția umană în următoarele trei decenii, scrie The Guardian.
Anterior, Hinton spusese că există o șansă de 10% ca tehnologia să declanșeze un rezultat catastrofal pentru umanitate.
Întrebat în emisiunea Today de la BBC Radio 4 dacă și-a schimbat analiza unei potențiale apocalipse AI și cea din 10 șanse ca aceasta să se întâmple, el a spus: „Nu chiar, 10% până la 20%. (...) Vezi tu, nu am avut niciodată de-a face cu lucruri mai inteligente decât noi înainte.”
El a adăugat: „Și câte exemple cunoașteți despre un lucru mai inteligent controlat de un lucru mai puțin inteligent? Sunt foarte puține exemple. Există o mamă și un copil. Evoluția a muncit mult pentru a-i permite copilului să controleze mama, dar acesta este singurul exemplu pe care îl cunosc.”
Hinton, născut la Londra, profesor emerit la Universitatea din Toronto, a spus că oamenii ar fi ca niște copii mici în comparație cu inteligența sistemelor AI foarte puternice.
„Îmi place să mă gândesc la asta ca: imaginează-te pe tine și pe un copil de trei ani. Noi (oamenii - n. red.) vom fi cei de trei ani”, a spus el.
AI poate fi definită în mod vag ca sisteme informatice care îndeplinesc sarcini care necesită de obicei inteligență umană.
Anul trecut, Hinton a făcut titluri după ce și-a dat demisia de la slujba Google pentru a vorbi mai deschis despre riscurile pe care le prezintă dezvoltarea neconstrânsă a AI, invocând îngrijorarea că „actorii răi” ar folosi tehnologia pentru a dăuna altora. O preocupare cheie a activiștilor pentru siguranța AI este că crearea de inteligență generală artificială, sau de sisteme care sunt mai inteligente decât oamenii, ar putea duce la ca tehnologia să reprezinte o amenințare existențială prin sustragerea controlului uman.
Reflectând la locul în care credea că ar fi ajuns dezvoltarea inteligenței artificiale atunci când și-a început munca la tehnologie, Hinton a spus: „Nu credeam că va fi acolo unde ne aflăm acum. Am crezut că la un moment dat în viitor vom ajunge aici.”
El a adăugat: „Deoarece situația în care ne aflăm acum este că majoritatea experților din domeniu cred că cândva, probabil în următorii 20 de ani, vom dezvolta IA care sunt mai inteligente decât oamenii. Și acesta este un gând foarte înfricoșător.”
Hinton a spus că ritmul de dezvoltare a fost „foarte, foarte rapid, mult mai rapid decât mă așteptam” și a cerut reglementarea guvernamentală a tehnologiei.
„Îngrijorarea mea este că mâna invizibilă nu ne va ține în siguranță. Așa că doar lăsarea în scop de profit al companiilor mari nu va fi suficientă pentru a ne asigura că o dezvoltă în siguranță”, a spus el. „Singurul lucru care poate forța acele companii mari să facă mai multe cercetări privind siguranța este reglementările guvernamentale.”, notează The Guardian
Hinton este unul dintre cei trei „nași ai inteligenței artificiale” care au câștigat premiul ACM AM Turing – echivalentul în informatică al premiului Nobel – pentru munca lor. Cu toate acestea, unul dintre trio-uri, Yann LeCun, om de știință șef AI la Meta lui Mark Zuckerberg, a minimizat amenințarea existențială și a spus că AI „ar putea salva umanitatea de la dispariție”.