Mira Muratti, director de tehnologie pentru ChatGPT și DALL-E: inteligența artificială trebuie reglementată
0John Simons de la publicația Time a realizat un interviu cu Mira Murati, director de tehnologie al OpenAI, care conduce echipele din spatele DALL-E, generator de imagini la cererere folosind AI, și ChatGPT, chatbot-ul AI care poate răspunde la întrebări complexe.
ChatGPT a captat imaginația publicului de la lansarea sa la sfârșitul lunii noiembrie 2022. În timp ce unele școli îl interzic, Microsoft a anunțat o investiție de 10 miliarde de dolari în companie, iar Google a emis un „cod roșu”, îngrijorându-se că tehnologia ar putea perturba activitatea sa de căutare. „Ca și în cazul altor revoluții prin care am trecut, vor fi noi locuri de muncă și unele locuri de muncă vor fi pierdute...”, i-a spus Murati lui Trevor Noah în toamna trecută despre impactul AI, „dar sunt optimistă”.
În cea mai mare parte a lunii ianuarie, ChatGPT a depășit Bitcoin printre termenii de căutare populari, conform Google Trends. Toată atenția a însemnat că startup-ul privat din San Francisco – cu 375 de angajați și puține venituri – are acum o evaluare de aproximativ 30 de miliarde de dolari. Murati a explicat pentru TIME, pe 5 februarie, care este cea mai mare slăbiciune a ChatGPT, potențialul neexploatat al software-ului și de ce este timpul să trecem la reglementarea AI.
Mira Murati este un inginer american de 35 sau 38 de ani (sursele sunt contradictorii) care a absolvit colegiul Dartmouth și își desfășoară activitatea de CTO ( Chief Technology Officer) la OpenAi în zona San Francisco Bay. Înainte de OpenAI a lucrat la Tesla și Goldman Sachs.
John Simons- În primul rând, vreau să te felicit pe tine și echipa pentru vestea recentă conform căreia ChatGPT a obținut o notă de trecere la un examen de licență medicală din S.U.A., un examen de MBA Wharton Business School și patru examene importante de drept universitar. Te simți ca și cum ai avea un copil genial?
Nu anticipam acest nivel de entuziasm provenit din expunerea copilului nostru în lume. De fapt, chiar am avut o oarecare emoție să-l expunem. Sunt curioasă să văd zonele în care va începe să genereze utilitate pentru oameni și nu va mai fi doar noutate și curiozitate pură.
JS- Am cerut ChatGPT să formuleze o întrebare pe care să ți-o adresez. Iată întrebarea: „Care sunt unele dintre limitările sau provocările pe care le-ați întâlnit în timp ce lucrați cu ChatGPT și cum le-ați depășit?”
Este o întrebare bună. ChatGPT este, în esență, un model de conversație complex- o mare rețea neuronală care a fost antrenată pentru a prezice următorul cuvânt - și provocările asociate cu acesta sunt provocări similare pe care le vedem la alte modele de limbaj complexe : poate inventa fapte. Și o face cu mare încredere!
Da. Aceasta este de fapt o provocare esențială. Am ales dialogul în mod special pentru că dialogul este o modalitate de a interacționa cu un model și de a-i oferi feedback. Dacă credem că răspunsul modelului este incorect, putem spune: „Ești sigur? Cred că de fapt...” Și atunci modelul are ocazia să meargă înainte și înapoi cu tine, așa cum am conversa cu un alt om.
JS- Tehnologiile cu adevărat inovatoare rezolvă o problemă. Ce problemă rezolvă ChatGPT?
Momentan, este în etapa de analiză a cercetării, așa că nu vreau să vorbesc cu mare încredere despre problemele pe care le rezolvă. Dar cred că putem vedea că are potențialul de a revoluționa cu adevărat modul în care învățăm. Oamenii sunt în săli de clasă de, să zicem, 30 de persoane. Oamenii vin din medii diferite, au moduri de învățare diferite, dar toți primesc practic aceeași materie. Cu instrumente precum ChatGPT, poți conversa la nesfârșit pentru a înțelege un concept într-un mod care să corespundă nivelului tău de înțelegere. Are un potențial imens de a ne ajuta cu educație personalizată.
JS- Dar unele școli interzic ChatGPT. Te surprinde asta?
Când dezvoltăm aceste tehnologii, ne îndreptăm cu adevărat către inteligență generală, către abilități generale cu fiabilitate ridicată – și facem acest lucru în siguranță. Dar când îl deschidem pentru cât mai mulți oameni din diferite medii și cu expertiză în domenii diverse, vei fi cu siguranță surprins de lucrurile pe care le fac cu tehnologia, atât pe parte pozitivă, cât și pe cea negativă.
JS- Un număr tot mai mare de lideri din domeniu avertizează asupra pericolelor AI. Ai îndoieli cu privire la această tehnologie?
Acesta este un moment unic în timp în care putem influența modul în care modelează societatea. Și merge în ambele sensuri: tehnologia ne modelează și noi o modelăm. Sunt multe probleme greu de rezolvat. Cum îl faci pe model să facă ceea ce vrei tu și cum te asiguri că este aliniat cu intenția umană și, în cele din urmă, este în serviciul umanității? Există, de asemenea, o mulțime de întrebări cu privire la impactul societal și există o mulțime de întrebări etice și filozofice pe care trebuie să le luăm în considerare. Și este important să ascultăm opinii diferite, cum ar fi ale filozofilor, oamenilor de științe sociale, artiștilor și oamenilor din științe umaniste.
JS- Care este întrebarea etică sau filozofică cheie la care trebuie să răspundem?
[Inteligența artificială] poate fi folosită în mod abuziv sau poate fi folosită de actori răi. Deci, atunci există întrebări legate de modul în care se reglementează utilizarea acestei tehnologii la nivel global. Cum se guvernează utilizarea inteligenței artificiale într-un mod care să fie în concordanță cu valorile umane?
JS- Crezi că aceste întrebări ar trebui să fie lăsate în seama unor companii ca OpenAI sau ar trebui ca guvernele să se implice în crearea de reglementări?
Este important ca OpenAI și companiile similare să aducă acest aspect în conștiința publică într-un mod controlat și responsabil. Dar noi suntem un grup mic de oameni și avem nevoie de mult mai multe contribuții în acest sistem și de mult mai multe contribuții care merg dincolo de tehnologii - în mod cert, autoritățile de reglementare, guvernele și toți ceilalți.
JS- Există întotdeauna teama că implicarea guvernului poate încetini inovarea. Nu crezi că este prea devreme ca factorii de decizie și autoritățile de reglementare să se implice?
Nu e prea devreme. Este foarte important ca toată lumea să înceapă să se implice, având în vedere impactul pe care îl vor avea aceste tehnologii.
JS- Mira, poți să-mi spui un cântec sau un album, o carte și un film care să ne dea o idee despre cine ești și ce te inspiră?
*Cântec: Paranoid Android de la Radiohead. Melodia este stratificată și abordează teme legate de societate și tehnologie. Nu este cel mai înălțător cântec, dar este frumos și provoacă la reflecție.
*Carte: Elegii Duineze, o colecție de poeme de Rainer Maria Rilke. Am primit-o recent în dar și am găsit în profunzimea și frumusețea poemelor o sursă de inspirație.
*Film: 2001: Odiseea spațială continuă să-mi stârnească imaginația prin imaginile și muzica sa, în special în secvența uluitoare în care naveta spațială andochează însoțită de valsul Valsul Dunării albastre de Johann Strauss, incitând la contemplarea imponderabilității acestui eveniment și a momentului magnific.
Se încarcă comentariile...
