OpenAI, îngrijorată că oamenii ar putea deveni dependenți emoțional de ChatGPT din cauza noii funcții vocale
0Compania OpenAI este îngrijorată că oamenii ar putea deveni dependenți emoțional de ChatGPT din cauza noului mod vocal, care imită la perfecție vocea umană.
Dezvăluirea a fost făcută într-un raport recent al OpenAI privind o revizuire efectuată asupra instrumentului, care a început să fie disponibil pentru utilizatorii care plătesc și asupra modelului AI de limbaj pe care se bazează, relatează CNN.
Modul vocal avansat al ChatGPT sună remarcabil de realist. Răspunde în timp real, poate să se adapteze la întreruperi, emite sunete asemănătoare celor umane în conversații, precum râsul și poate, de asemenea, să evalueze starea emoțională a vorbitorului pe baza tonului vocii acestuia.
La doar câteva minute după ce OpenAI a anunțat funcția la un eveniment mai devreme în acest an, aceasta a fost comparată cu asistentul digital AI din filmul „Her” (2013), de care protagonistul se îndrăgostește, doar pentru a fi lăsat cu inima frântă când AI-ul admite că „ea” are și alte relații cu sute de alți utilizatori.
„utilizatorii ar putea dezvolta relații sociale cu AI-ul”
Acum, OpenAI pare preocupată că această poveste este puțin prea apropiată de realitate, după ce a observat utilizatori vorbind cu modul vocal ChatGPT în termeni care „exprimau legături comune” cu instrumentul.
În cele din urmă, „utilizatorii ar putea dezvolta relații sociale cu AI-ul, reducându-și nevoia de interacțiuni umane, ceea ce ar putea fi un beneficiu pentru persoanele singure, dar ar putea afecta relațiile sănătoase”, se afirmă în raport.
Raportul subliniază totodată că ascultarea informațiilor de la un bot care sună ca un om ar putea face utilizatorii să aibă mai multă încredere în instrument decât ar trebui, având în vedere tendința AI-ului de a face greșeli.
Raportul a mai subliniat existența unui risc general legat de inteligența artificială. Companiile de tehnologie se grăbesc să lanseze rapid instrumente AI către public, pe care le consideră capabile să schimbe modul în care trăim, lucrăm, socializăm și găsim informații. Dar fac acest lucru înainte ca cineva să înțeleagă cu adevărat care sunt implicațiile acestor tehnologii.
Unii oameni formează deja ceea ce descriu ca relații romantice cu chatbot-uri AI, ceea ce provoacă îngrijorare din partea experților în relații.
Dezvoltare responsabilă
„Este o mare responsabilitate pentru companii să navigheze acest lucru într-un mod etic și responsabil, și este totul într-o fază de experimentare acum”, a declarat Liesel Sharabi, profesor la Universitatea de stat din Arizona, care studiază tehnologia și comunicarea umană,
OpenAI a spus că interacțiunile utilizatorilor umani cu modul vocal ChatGPT ar putea influența, în timp, ceea ce este considerat normal în interacțiunile sociale.
„Modelele noastre sunt deferente, permițând utilizatorilor să întrerupă și să reia în orice moment, ceea ce, deși așteptat pentru un AI, ar fi anti-normativ în interacțiunile umane”, a spus compania în raport.
Pentru moment, OpenAI afirmă că este angajată să dezvolte AI „în siguranță” și intenționează să continue studiul asupra potențialului de „dependență emoțională” din partea utilizatorilor față de instrumentele sale.