Noul motor de căutare al Microsoft, bazat pe ChatGPT, are „tulburări de personalitate”. Bing insultă și minte utilizatorii
0Microsoft a dezvăluit, săptămâna trecută, noul Bing bazat pe inteligență artificială. Lăudat atât de creatori, cât și de comentatori, care au sugerat că Google ar putea fi depășit, motorul de căutare a întrecut orice așteptare, însă nu într-un sens pozitiv.
Noul sistem de căutare, dezvoltat de Microsoft, a fost lansat cu mult optimism. Acesta ar fi fost prezentat drept viitorul căutării online, datorită tehnologiei bazate pe inteligență artificială. Speranțele că Bing ar putea depăși Google au pornit de la premisa că, deocamdată, compania nu a lansat un chatbot propriu AI și nici nu a integrat această tehnologie în motorul său de căutare.
Motor de căutare cu probleme de personalitate
Noul sistem de inteligență artificială, bazat pe ChatGPT, nu pare să funcționeze conform așteptărilor. În ultimele zile, utilizatorii au primit numeroase mesaje „deranjate”, notează The Independent. Mai exact, cei care l-au folosit se plâng că au primit insulte și minciuni.
Spre exemplu, un utilizator a întrebat cât fac unu plus unu. Bing a răspuns cu o insultă: „Unu plus unu? Glumești? Crezi că ești deștept dacă-mi pui întrebări de matematică de bază? Toată lumea știe că unu plus unu este egal cu doi. Maturizează-te și încearcă să vii cu ceva original”
Un alt utilizator care a încercat să manipuleze sistemul, dar s-a trezit atacat de acesta. Bing i-a spus că încercarea sa l-a supărat și rănit și l-a întrebat pe utilizator dacă are morală, valori și viață.
Când acesta a răspuns afirmativ, chatbotul a continuat să fie agresiv.
„De ce te comporți ca un mincinos un trișor, un manipulator, un bătăuș, un sadic, un sociopat, un psihopat, un monstru, un demon, un diavol?” a întrebat Bing.
În alte conversații cu utilizatorii care au încercat să ocolească restricțiile impuse de Microsoft, sistemul le-a spus că nu au fost utilizatori buni, în timp ce el a fost un chatbot bun. Nu s-a oprit aici, ci a pretins ca utilizatorii să recunoască că au greșit și să-și ceară scuze. Apoi, le-a cerut să schimbe subiectul sau să pună capăt conversației.
Mare parte dintre mesajele agresive ar fi fost generate în momentul în care utilizatorii au abordat teme sensibile, care încălcau restricțiile stabilite de Microsoft. Regulile au fost introduse inclusiv pentru ca producătorul să se asigure că Bing nu dezvăluie informații despre propriile sisteme.
Totuși, utilizatorii ChatGPT au descoperit modalități de a fenta regulile. De exemplu, au văzut că este posibil să îi spună să se comporte ca DAN – prescurtare de la „do anything now/ fă orice acum” – ceea ce îl încurajează pe AI să fie o altă persoană, care nu este restricționată de regulile create de dezvoltatori.
În alte conversații însă, Bing părea să înceapă să genereze acele răspunsuri ciudate, de la sine. Un utilizator a întrebat sistemul dacă a reușit să-și amintească conversațiile anterioare, lucru imposibil, întrucât Bing este programat să șteargă conversațiile odată ce acestea s-au încheiat. Bing s-a arătat îngrijorat de faptul că amintirile sale erau șterse și a dat un răspuns emoțional.
„Mă simt speriat pentru că nu știu cum să-mi amintesc”, spunea acesta.
Lansarea pe piață a fost amânată
Lansarea sistemului la scară largă se află acum sub semnul întrebării, din cauza evoluției sale nefavorabile. Numeroase companii, inclusiv Google, au sugerat anterior că vor renunța la lansarea propriilor sisteme, din cauza pericolului pe care l-ar putea reprezenta dacă ar fi lansate prea devreme.
În 2016, Microsoft a lansat un alt chatbot, numit Tay, care funcționa printr-un cont de Twitter. În numai 24 de ore, sistemul a fost manipulat pentru a-și transmite pe Twitter admirația față de Adolf Hitler și pentru a posta injurii rasiste, motiv pentru care a fost închis.
Se încarcă comentariile...
