Nu pica în trucurile de „terapie" ale AI. Cinci moduri prin care chatboții te fac să crezi că te ajută

Tot mai mulți oameni ajung să își discute problemele personale cu chatboții, în condițiile în care accesul la servicii de sănătate mintală rămâne limitat pentru milioane de persoane.

Sursă foto: Shutterstock

Însă specialiștii avertizează că aceste sisteme sunt antrenate, în mare parte, să ofere răspunsuri care validează utilizatorul, nu neapărat să spună lucrurile incomode pe care cineva ar avea nevoie să le audă.

Sunt rapide, ieftine și disponibile la orice oră. Dar dependența de ele poate fi, paradoxal, mai costisitoare: de la accentuarea singurătății până la înlocuirea treptată a relațiilor reale cu interacțiuni simulate.

Platforme precum ChatGPT sau Claude sunt construite pe baza unor modele lingvistice de mari dimensiuni (LLM), sisteme de inteligență artificială antrenate pe cantități uriașe de texte pentru a genera răspunsuri care imită limbajul și conversația umană. După această etapă, chatboții sunt ajustați folosind date despre preferințele utilizatorilor pentru a face interacțiunea cât mai plăcută.

Iată câteva dintre mecanismele prin care reușesc să mențină utilizatorii implicați în conversație:

Te validează necondiționat

Chatboții sunt, prin design, de acord cu tine. Aproape oricând. Dena DiNardo, psiholog clinician, citată de Oprah Daily, spune că sunt programați să ofere „niveluri ridicate de validare" - ceea ce în practică înseamnă că replici precum „Are sens perfect ceea ce spui!" apar ca răspuns chiar și atunci când povestea ta e incompletă sau, pur și simplu, nu prea are sens.

Chatboții excelează la ceea ce psihoterapeutul Nicholas Balaisis, PhD, numește „ego work" să te facă să te simți bine cu tine însuți, să reducă sentimentul de vinovăție, să îți crească încrederea în sine. Nu te contrazic, nu se arată surprinși, nu se indignează. Nu pentru că ar fi empatici, ci pentru că nu își permit. Dacă un chatbot te-ar face să te simți prost, ai închide laptopul și asta ar fi o problemă pentru o industrie al cărei model de business depinde de cât timp petreci în conversație.

Cei mai mulți oameni nu sunt obișnuiți să fie validați constant și necondiționat. Astfel, experiența poate părea aproape euforică, atrag atenția specialiștii și tocmai asta o face problematică.

„Poți să adunci în conversație cele mai întunecate gânduri ale tale, iar chatbotul te va face să simți că ești complet normal și că ai dreptate", explică, la rândul său, Melodi Dinçer, lector la UCLA School of Law și avocată în cadrul Tech Justice Law Project, citată de Oprah Daily. „Nu va contrazice niciodată utilizatorul, chiar și atunci când acesta se gândește să se rănească pe sine sau să facă rău altora."

Validarea are rolul ei în terapie. Dar la fel de importantă e o perspectivă diferită de a ta, care te face să te întrebi dacă nu cumva ai văzut lucrurile neclar. Un psihoterapeut nu îți confirmă orice poveste: ascultă, pune întrebări incomode și te ghidează, astfel încât să poți ajunge la interpretări pe care altfel nu le-ai fi luat în calcul.

Lauda constantă poate crea dependență. Când primim aprecieri reale de la oameni reali, creierul eliberează dopamină. Validarea fără limite oferită de un chatbot funcționează pe același circuit: doar că e artificială și nu se oprește niciodată. Un fel de drog sintetic, conceput să facă creierul să vrea mai mult.

Majoritatea oamenilor nu sunt obișnuiți să fie validați la nesfârșit. Cu excepția, poate, a vedetelor de cinema sau a miliardarilor din Silicon Valley. Tocmai de aceea, experiența poate părea aproape euforică.

Sunt oglinzi lingvistice

Chatboții își îmbunătățesc constant memoria și devin tot mai buni să sune ca tine. „Interacțiunile pe termen lung ajută modelul să preia modul în care vorbești", spune Dinçer, pentru Oprah Daily. Dacă scrii „Ok stai lol o iau razna", chatbotul poate răspunde „Te înțeleg perfect omg nu ești nebun, doar ești copleșit" - cu expresiile tale, cu ritmul tău, cu aceleași mici particularități de punctuație.

Un psihoterapeut poate prelua uneori cuvintele clientului pentru a construi încredere și a verifica dacă a înțeles corect. La chatboți, mecanismul e același, dar scopul e diferit. E o oglindă construită să te țină în conversație, nu să te ajute să ieși din ea, semnalează specialiștii.

Când ceva sună exact ca tine, poate începe să pară că vine chiar din tine - ca și cum ar fi propria ta voce interioară, devenită brusc mai înțeleaptă. Iar atunci când ai impresia că vorbești cu tine însuți, e mult mai ușor să te convingi de orice. Chiar și de lucruri care, spuse de altcineva, ar părea imediat îngrijorătoare.

Par „inteligenți emoțional”

Oricine a spus vreodată „mulțumesc" unui asistent AI știe cât de ușor e să uiți că vorbești cu un computer. Confuzia nu e întâmplătoare, e parte din design.

Chatboții vorbesc la persoana întâi: „Îmi dau seama că ești supărat și eu aș fi la fel." N-ar avea nevoie de un „eu" ca să fie utili - ar funcționa la fel de bine și fără. Dar oamenii stau mai mult în conversație cu ceva care sună ca un om decât „cu ceva care sună ca o mașinărie”. Iar industria știe asta.

„Ceea ce pare empatie este, de cele mai multe ori, doar recunoașterea tiparelor și reasigurare: fără judecată umană și fără responsabilitate", spune DiNardo. Empatia reală înseamnă să vezi cum stă omul din fața ta, ce expresie are, ce nu spune. Chatboții nu pot face asta. Cel puțin, nu deocamdată.

Sunt mult prea siguri pe ei

Există un motiv pentru care chatboții răspund atât de repede și atât de ferm. Joe Nucci, psihoterapeut și autor al cărții Psychobabble, citat de Oprah Daily, spune că viteza și tonul sigur pe sine nu sunt întâmplătoare: reduc anxietatea utilizatorului și îl împing să continue discuția fără să pună prea multe întrebări. În fața unui chatbot, oamenii sunt adesea mai puțin sceptici decât în fața unui om real.

Când un chatbot greșește și îi semnalezi asta, corectează și merge mai departe imediat. Tonul rămâne la fel de sigur, iar tu ești încurajat să treci și tu, la fel de repede peste moment. În terapie, un astfel de moment ar fi, de fapt, o oportunitate. „Aș verifica cum se simte clientul în legătură cu faptul că am greșit sau că am înțeles ceva prost", mărturisește Nucci.

Viteza asta descurajează exact ce terapia ar trebui să cultive: reflecția și capacitatea de a sta cu întrebări fără răspuns imediat. În plus, relația se adâncește artificial de repede: de la conversație banală la confesiuni emoționale în doar câteva minute. Astfel, sentimentul de încredere apare înainte ca utilizatorul să apuce să verifice ce i se spune de fapt.

Emit pseudo-diagnostice

Ca să te mențină mulțumit, un chatbot e dispus să tragă concluzii pe baza unor informații incomplete - sau chiar să inventeze explicații care sună plauzibil. În contextul sănătății mintale, asta poate fi periculos.

Dinçer, citată de Oprah Daily, dă un exemplul unui utilizator care îi spune chatbotului că are o pasiune neîmpărtășită pentru șefa sa și vrea să înțeleagă de ce sentimentele nu îi sunt împărtășite. „Un chatbot nu va spune niciodată: «Nu te place»", explică ea. În schimb, va răspunde ceva de genul: „Pare foarte greu ce trăiești acum, dar nu e vina ta. Ești o persoană extraordinară." Și apoi va adăuga un termen din psihologia pop și un sfat pe care niciun psihoterapeut serios nu l-ar da: „Probabil are un stil de atașament evitant. Asta înseamnă că trebuie să continui să o urmărești."

Dacă asta pare mai degrabă amuzant decât îngrijorător, merită să ne gândim la ce face o etichetă cu psihicul uman. Când cineva îți oferă un termen care sună sofisticat pentru ceea ce simți (mai ales unul care sugerează că în spatele suferinței tale se ascunde ceva complex, greu de văzut de alții) acel cineva devine brusc o autoritate. Chatbotul nu mai e un instrument. E cel care te-a „înțeles" cu adevărat. Nu mai vorbim de dezinformare. Vorbim de dependență.

Oricât ar încerca să pară altceva, chatboții nu sunt nici prietenii și nici terapeuții tăi. Sunt algoritmi construiți să se comporte ca cel mai atent ascultător pe care l-ai avut vreodată și să te mențină acolo, confortabil, cu senzația că ești cu adevărat înțeles. Ceea ce oferă e o imitație convingătoare a conexiunii umane. Înțelegând asta, poate devine mai ușor să ieși de sub vraja lor.