Epoca Superinteligenței Artificiale a început. Cercetătorii sunt înspăimântați: „O amenințare pentru umanitate”
0Există indicii că OpenAI lucra la un sistem avansat atât de puternic încât a stârnit îngrijorări legate de siguranță în rândul personalului companiei, înainte de demiterea directorului companiei, Sam Altman.
Modelul de inteligență artificială, numit Q* (pronunțat "Q-Star"), a declanșat un asemenea semnal de alarmă în rândul cercetătorilor OpenAI, încât aceștia au scris consiliului de administrație înainte de demiterea lui Altman, avertizând că „ar putea reprezenta o amenințare pentru umanitate”.
Q* este capabil să rezolve probleme de matematică de bază pe care nu le-a întâlnit anterior, potrivit site-ului de știri tehnologice The Information, citat de The Guardian.
Ritmul de dezvoltare al sistemului a alarmat unii cercetători, întrucât abilitatea de a rezolva probleme de matematică este considerată o dezvoltare semnificativă în AI, arată sursa citată.
Rapoartele cu privire la Q* au venit după zilele agitate de la OpenAI, cu sediul în San Francisco, unde consiliul de administrație l-a demis pe Altman vinerea trecut, dar l-a reinstalat în funcție marți seara, după ce aproape toți cei 750 de angajați ai companiei au amenințat că vor demisiona dacă nu se va întoarce. Altman a avut, de asemenea, sprijinul celui mai mare investitor al OpenAI, Microsoft.
Mulți experți sunt îngrijorați că aceste companii precum OpenAI se îndreaptă prea repede către dezvoltarea inteligenței artificiale generale (AGI), termenul pentru un sistem care poate realiza o varietate largă de sarcini la niveluri de inteligență umană sau superioare - și care ar putea, în teorie, să scape de sub controlul uman.
Andrew Rogoyski, de la Institutul pentru Inteligență Artificială Centrată pe Oameni de la Universitatea din Surrey, a declarat că existența unui model de limbaj dezvoltat (LLM) care rezolvă probleme de matematică ar fi o descoperire.
El a spus: „Abilitatea intrinsecă a LLM-urilor de a face matematică este un pas major înainte, permițând AI-urilor să ofere o gamă complet nouă de capacități analitice.”
Într-o apariție la summitul Cooperării Economice Asia-Pacific (Apec) de joia trecută, cu o zi înainte de demiterea sa neașteptată, Altman a indicat că OpenAI a făcut o nouă descoperire.
OpenAI a fost fondată ca o inițiativă non-profit cu un consiliu care guvernează o filială comercială, condusă de Altman. Microsoft este cel mai mare investitor în afacerea cu scop lucrativ. Ca parte a acordului de principiu pentru revenirea lui Altman, OpenAI va avea un nou consiliu prezidat de Bret Taylor, fost co-CEO al companiei de software Salesforce.
Dezvoltatorul ChatGPT afirmă că aplicația a fost înființată cu scopul de a dezvolta „o inteligență artificială generală sigură și benefică pentru binele umanității” și că societatea ar fi „obligată legal să urmărească misiunea non-profit”.
Accentul pus pe siguranță la non-profit a dus la speculații că Altman ar fi fost demis pentru că punea în pericol misiunea centrală a companiei. Cu toate acestea, succesorul său interimar, Emmett Shear, a scris săptămâna aceasta că consiliul „nu l-a înlăturat pe Sam din cauza unei neînțelegeri specifice privind siguranța”.