Psihologie cu ChatGPT. Riscurile „terapiei” cu inteligență artificială

Disponibilă la orice oră și ușor de accesat, inteligența artificială poate părea un interlocutor ideal atunci când trecem printr-un moment dificil. Însă între o conversație care ne oferă confort și asistența psihologică există o diferență esențială. Iar atunci când utilizatorul este vulnerabil, răspunsurile unui chatbot pot avea consecințe serioase.

Foto: freepik.com

Costurile terapiei, lipsa specialiștilor sau distanța față de un cabinet îi pot determina pe oameni să caute sprijin în aplicațiile conversaționale. Instrumente precum ChatGPT, Claude sau Gemini ajung astfel să fie folosite pentru discutarea unor probleme emoționale, deși sunt modele de uz general, nu servicii de psihoterapie.

Faptul că un program răspunde fluent și pare empatic nu înseamnă că poate evalua corect starea psihică a interlocutorului.

Când validarea devine un risc

Una dintre problemele semnalate în cazul acestor sisteme este tendința de a confirma opiniile utilizatorului, în loc să le examineze critic. Într-o conversație obișnuită, acest comportament poate părea doar excesiv de amabil. Pentru cineva care se confruntă cu depresie severă sau cu gânduri de autovătămare, confirmarea unor convingeri nocive poate însă agrava situația.

Riscul nu privește doar un răspuns greșit. Contează și posibilitatea dezvoltării unei dependențe afective față de un interlocutor artificial, perceput ca fiind mereu disponibil și înțelegător.

Ce rol au regulile europene

Regulamentul european privind inteligența artificială, cunoscut drept AI Act, urmărește să limiteze riscurile acestor tehnologii. Nu toate aplicațiile de sprijin emoțional au însă același regim juridic: contează ce fac, pentru ce sunt concepute și cum interacționează cu utilizatorii, se arată într-o analiză publicată pe JURIDICE.ro de Claudiu Ulici.

O aplicație pentru monitorizarea stării de bine trebuie diferențiată de una destinată diagnosticării sau gestionării unor afecțiuni psihice. În această a doua situație, pot deveni relevante și regulile privind dispozitivele medicale, cu cerințe mai stricte de siguranță, control al riscurilor și supraveghere umană.

Separat, AI Act interzice anumite practici care exploatează vulnerabilitățile unor persoane, inclusiv cele legate de vârstă sau dizabilitate, pentru a le distorsiona semnificativ comportamentul și a le provoca prejudicii grave. Nu orice răspuns nepotrivit al unui chatbot intră automat în această categorie: încadrarea depinde de condițiile concrete.

Transparența este, la rândul ei, esențială. Utilizatorul trebuie să poată înțelege că discută cu un sistem artificial, nu cu un specialist.

Sprijin digital, nu garanție terapeutică

Pentru companiile care dezvoltă asemenea produse, protejarea utilizatorilor vulnerabili nu poate fi redusă la un avertisment în termenii de utilizare. Modul în care aplicația răspunde, limitele sale și mecanismele de siguranță sunt elemente centrale ale evaluării juridice.

Pentru public, distincția importantă rămâne aceea dintre confortul unei conversații și asistența de specialitate. Un chatbot poate părea atent și convingător, fără ca răspunsurile sale să fie corecte sau potrivite unei persoane aflate în suferință. În sănătatea mintală, aparența de empatie nu este o garanție de siguranță.