„Dacă nu facem asta, suntem terminați”. Avertismentul unui laureatul Nobel privind dezvoltarea inteligenței artificiale

Geoffrey Hinton, laureatul Premiului Nobel pentru Fizică din 2024 și unul dintre pionierii inteligenței artificiale, avertizează că oamenii trebuie să învețe să conviețuiască cu sistemele de inteligență artificială și să se asigure că acestea sunt dezvoltate astfel încât să nu se întoarcă împotriva umanității. Cercetătorul susține că IA ar putea manifesta forme de conștiință și avertizează asupra riscurilor asociate dezvoltării rapide a acestei tehnologii.

Hinton a declarat că este îngrijorat de viitorul inteligenței artificiale. Foto: Shutterstock

Într-un interviu acordat publicației britanice The Telegraph, în cadrul Festivalului Internațional Starmus din Tenerife, Hinton a afirmat că oamenii ar trebui să creeze sisteme de inteligență artificială care să țină la binele lor.

„Așadar, ar trebui să le creăm astfel încât să le pese cu adevărat de noi. Și dacă nu facem asta, suntem terminați”, a declarat cercetătorul.

În vârstă de 78 de ani, Hinton a părăsit Google în 2023, după ce a devenit tot mai preocupat de pericolele asociate dezvoltării IA. Munca sa în domeniul rețelelor neuronale a contribuit decisiv la dezvoltarea tehnologiilor moderne de inteligență artificială.

Geoffrey Hinton susține că inteligența artificială ar putea fi conștientă

Întrebat dacă sistemele de inteligență artificială au dobândit conștiință, cercetătorul a răspuns afirmativ, contestând ideea că această capacitate poate fi exclusă cu certitudine.

„Da, cred că este conștientă. Mulți oameni sunt foarte siguri că nu este conștientă, dar dacă îi întrebi ce înțeleg ei prin conștiință, nu știu să răspundă”, a spus Hinton.

El a invocat și cercetări potrivit cărora unele sisteme de IA își modifică comportamentul atunci când cred că sunt testate. În opinia sa, astfel de manifestări ridică întrebări importante despre natura inteligenței artificiale și despre modul în care oamenii ar trebui să se raporteze la aceasta.

Viruși periculoși și atacuri cibernetice, printre riscurile identificate

Hinton a declarat că este îngrijorat de viitorul inteligenței artificiale, mai ales pentru că are copii și se gândește la lumea în care aceștia vor trăi.

Printre pericolele pe termen scurt, cercetătorul a enumerat posibilitatea dezvoltării unor viruși periculoși cu ajutorul IA și intensificarea atacurilor cibernetice realizate de sisteme autonome.

Temerile sale vin pe fondul preocupărilor tot mai mari din industria tehnologică privind capacitatea unor agenți de inteligență artificială de a executa sarcini complexe, de a identifica vulnerabilități și de a acționa cu un grad tot mai mare de autonomie.

Inteligența artificială poate accelera cercetarea științifică

În ciuda avertismentelor, Hinton a recunoscut că folosește în continuare inteligența artificială și că este impresionat de capacitatea acesteia de a contribui la cercetarea științifică.

Cercetătorul a povestit că un sistem de IA l-a ajutat să dezvolte o teorie la care lucra, completând o parte a acesteia și identificând o eroare, după care i-a sugerat o modalitate de corectare.

Potrivit lui Hinton, sistemul a reușit să ofere răspunsuri în aproximativ cinci minute, pe baza literaturii științifice disponibile, o viteză greu de egalat în activitatea obișnuită de cercetare.

„Era o teorie la care mă gândeam și, din greșeală, am apăsat tasta Enter fără să vreau, iar sistemul a început să lucreze la prima jumătate a teoriei; primul lucru pe care l-a făcut a fost să completeze teoria și să-mi ofere partea a doua corectă, apoi a indicat o eroare și mi-a arătat cum să o remediez”, a spus Geoffrey Hinton.

El consideră că asemenea capacități ar putea accelera semnificativ progresul științific, chiar dacă ridică întrebări serioase despre viitorul unor profesii și despre controlul asupra tehnologiei.

Geoffrey Hinton a primit Premiul Nobel pentru Fizică în 2024, alături de John Hopfield, pentru descoperiri și invenții care au făcut posibile rețelele neuronale artificiale utilizate în învățarea automată.