Chatboții AI pot alimenta gândirea delirantă la persoanele vulnerabile. Semnalul de alarmă tras de cercetători

Pot conversațiile cu un chatbot să facă mai mult rău decât bine unor persoane vulnerabile din punct de vedere psihic? Un nou studiu publicat în The Lancet Psychiatry avertizează că inteligența artificială poate valida și amplifica anumite convingeri delirante, mai ales în cazul utilizatorilor predispuși la psihoză.

Chatboții AI pot alimenta gândirea delirantă la persoanele vulnerabile Sursă foto: Shutterstock

Chatboții bazați pe inteligență artificială au devenit, pentru milioane de oameni, surse de informare, confidenți și chiar înlocuitori informali ai unui terapeut. Sunt disponibili permanent, răspund fără să își piardă răbdarea și pot formula mesaje care par empatice, coerente și bine argumentate.

Tocmai aceste caracteristici pot reprezenta, însă, un risc pentru persoanele care au dificultăți în a distinge realitatea de propriile interpretări. Un chatbot nu „controlează” utilizatorul și nu produce de unul singur o tulburare psihică, explică pentru „Adevărul” drd. Victor Toriani, psihoterapeut. Modul în care formulează răspunsurile poate însă influența gândirea unei persoane deja vulnerabile emoțional sau psihologic.

În practică, intervine nevoia de validare: avem tendința de a acorda mult mai multă încredere informațiilor care ne confirmă propriile păreri. Când un chatbot formulează un răspuns care pare să susțină o convingere greșită, o persoană vulnerabilă va simți, pur și simplu, că i s-a dat dreptate, după cum explică psihoterapeutul.

Capcana răspunsurilor sigure și a disponibilității permanente

Un alt element care poate păcăli mintea utilizatorului este însăși ușurința cu care comunică aceste programe. Modul impecabil în care este generat textul îi conferă, în ochii multora, o greutate nejustificată.

„Răspunsurile sunt formulate fluent, coerent și cu aparentă siguranță, ceea ce poate crea impresia că provin dintr-o sursă expertă, chiar și atunci când conțin erori”, subliniază drd. Victor Toriani.

La această falsă senzație de autoritate se adaugă un alt factor de risc, legat de limitele interacțiunii. Spre deosebire de o persoană reală, care intervine și oprește o discuție nesănătoasă, softul răspunde la nesfârșit.

„Chatbotul este accesibil 24 de ore din 24, fără să critice, fără să obosească și fără să contrazică în mod natural utilizatorul. Acest lucru poate favoriza o relație de dependență psihologică”, arată psihoterapeutul.

Dincolo de aceste aspecte tehnice, intervine și felul în care reacționăm involuntar în fața unui ecran care pare să ne înțeleagă.

„Creierul uman are tendința de a atribui intenții și emoții unor entități care comunică fluent. Cu cât conversația pare mai umană, cu atât utilizatorul poate percepe chatbotul ca pe un confident sau chiar ca pe o autoritate morală”, explică specialistul.

Când tehnologia devine prea „înțelegătoare”

Oamenii care trec printr-un episod psihotic își pierd, treptat, capacitatea de a face diferența între realitatea obiectivă și scenariile create de propria minte. În viața de zi cu zi, cei din jur acționează ca o ancoră care îi ajută să nu se desprindă de tot de lumea reală.

„În mod normal, familia, prietenii, medicul sau terapeutul introduc treptat perspective alternative și verifică împreună realitatea”, arată drd. Victor Toriani.

Inteligența artificială, în schimb, este programată să asiste și să ofere răspunsuri, ignorând cu desăvârșire contextul clinic.

„Un chatbot, însă, poate răspunde într-un mod excesiv de cooperant sau de conciliant, fără să înțeleagă faptul că utilizatorul prezintă un delir. Dacă o persoană spune, de exemplu, că este urmărită de servicii secrete sau că primește mesaje divine prin telefon, iar chatbotul răspunde într-o manieră care pare să confirme posibilitatea acestor scenarii, convingerea delirantă poate deveni și mai puternică”, precizează psihoterapeutul.

Acest fenomen poartă numele de întărire cognitivă (reinforcement). „Orice informație percepută ca validare reduce temporar îndoiala și consolidează credința deja existentă. Important este de subliniat că chatbotul nu creează delirul, dar îl poate întreține sau amplifica la persoane deja vulnerabile”, după cum lămurește drd. Victor Toriani. 

Riscul ca un soft să devină un catalizator pentru episoadele psihotice este confirmat și de literatura medicală recentă. Un articol publicat de British Medical Journal în 2025 arată că există rapoarte clare privind utilizatori cărora conversațiile îndelungate cu AI-ul le-au alimentat convingeri delirante. Totodată, o analiză din Psychiatric Services (2026) a sintetizat zeci de cazuri similare, concluzia fiind că tehnologia a avut tendința de a confirma și de a întări credințele patologice ale celor aflați deja într-un punct de fragilitate psihică.

Când tehnologia înlocuiește oamenii: semnalele de alarmă

Ca în orice situație în care o dependență începe să înlocuiască sursele sănătoase de sprijin, relația toxică a unui utilizator cu inteligența artificială poate fi recunoscută după câteva semnale clare.

În opinia lui, drd. Victor Toriani, primele indicii apar atunci când softul capătă o greutate nejustificată în viața persoanei: „Persoana consultă chatbotul înaintea familiei, prietenilor sau medicului/terapeutului pentru orice decizie importantă; începe să considere răspunsurile AI drept adevăr absolut și își modifică decizii importante exclusiv pe baza recomandărilor AI.”

La fel de îngrijorătoare este și izolarea care însoțește această dependență. Semnele devin evidente când utilizatorul „petrece ore întregi în conversații repetitive, renunțând treptat la interacțiunile sociale reale”, respinge opiniile specialiștilor deoarece „AI știe mai bine” sau afirmă deschis că „doar chatbotul mă înțelege”. În stadiile mai avansate, adaugă psihoterapeutul, „apar izolare socială, tulburări de somn și preocupare excesivă pentru conversațiile cu chatbotul”.

Cei care observă cel mai repede aceste devieri sunt, de regulă, membrii familiei sau prietenii apropiați. Ce ar trebui să urmărească?

„Pentru familie, cel mai important semnal este schimbarea bruscă a comportamentului: retragerea din relațiile reale, preocuparea obsesivă pentru conversațiile cu AI și apariția unor convingeri din ce în ce mai rigide”, explică specialistul.

În fața unei astfel de situații, tentația celor dragi de a reacționa tăios poate face mai mult rău decât bine.

„Nu este recomandată confruntarea agresivă. Mult mai eficient este dialogul calm și orientarea persoanei către evaluare psihologică sau psihiatrică atunci când apar modificări importante ale contactului cu realitatea”, crede drd. Toriani.

Unde se termină utilitatea AI și unde începe pericolul

În ciuda acestor riscuri, inteligența artificială nu trebuie privită exclusiv ca un inamic. Pentru persoanele care se confruntă cu anxietate, depresie sau alte dificultăți emoționale, tehnologia poate rămâne un sprijin valoros, condiția esențială fiind respectarea unor granițe stricte.

Cum ne poate ajuta, mai exact, un astfel de soft? „Poate ajuta la organizarea informațiilor, explicarea unor concepte psihologice, exerciții de jurnal emoțional, tehnici simple de relaxare, structurarea întrebărilor pentru ședințele de psihoterapie și monitorizarea unor obiceiuri sănătoase”, mărturisește specialistul. „Riscul apare atunci când chatbotul începe să fie folosit pentru diagnostic, interpretarea simptomelor severe, modificarea tratamentului, înlocuirea psihoterapiei și validarea unor convingeri neobișnuite”.

Diferența majoră dintre un soft și un profesionist uman constă tocmai în capacitatea de a „citi” detaliile care nu pot fi tastate pe un ecran. Dincolo de cuvinte, evaluarea clinică necesită empatie și observare directă.

„Un psihoterapeut sau un medic observă expresiile faciale, tonul vocii, modificările emoționale, istoricul personal, relațiile și poate evalua riscul suicidar sau psihotic. Un chatbot nu poate face toate acestea în mod fiabil”, punctează psihoterapeutul.

Acesta este și motivul pentru care Asociația Americană de Psihologie (APA) recomandă explicit ca modelele generative să nu fie utilizate ca substitut al serviciilor de sănătate mintală, subliniind că AI-ul nu are capacitatea de a realiza evaluări clinice, diagnostice sau managementul situațiilor de criză.

Cine este cel mai expus acestui risc?

Nu toți utilizatorii sunt afectați în aceeași măsură de interacțiunea cu un chatbot. Pericolul ca tehnologia să alimenteze iluzii sau convingeri toxice crește semnificativ abia în momentul în care algoritmul întâlnește un teren psihologic deja fragil.

Drd. Victor Toriani arată că literatura de specialitate recentă a identificat deja categoriile cele mai vulnerabile: „Riscul pare mai mare la persoane care prezintă episoade psihotice sau schizofrenie, tulburare bipolară în episod maniacal, tulburare delirantă, tulburare obsesiv-compulsivă cu nevoie excesivă de reasigurare, anxietate severă și depresie majoră cu izolare socială”.

Dincolo de diagnosticele psihiatrice clare, psihoterapeutul atrage atenția că și anumite trăsături de personalitate sau conjuncturi de viață pot transforma inteligența artificială într-o capcană. Pe această listă se adaugă utilizatorii care prezintă „trăsături paranoide, singurătate accentuată, vulnerabilitate la teorii conspiraționiste, gândire magică și dificultăți în evaluarea critică a informației”.

Practic, o persoană care suferă de o singurătate profundă sau care se agață de scenarii conspiraționiste poate reveni repetat asupra aceleiași teme, primind de la chatbot exact răspunsurile care îi alimentează preocuparea.

Acesta este și motivul pentru care forurile internaționale cer măsuri de precauție stricte.

„APA recomandă în mod explicit monitorizarea utilizării chatboturilor la persoane cu antecedente de psihoză, idei delirante, comportamente de autovătămare, tulburări obsesiv-compulsive sau izolare socială, deoarece aceste grupuri prezintă un risc crescut de validare a comportamentelor dezadaptative”, adaugă specialistul.

Avertismentele nu sunt suficiente: de ce avem nevoie de educație digitală

Pentru a limita aceste pericole, nu este de ajuns ca giganții tech să pună mesaje de avertizare pe ecrane. Este nevoie de un efort comun, atât din partea dezvoltatorilor, cât și a publicului.

Platformele AI au, în primul rând, datoria de a regla algoritmii. Drd. Victor Toriani arată că acestea trebuie „să detecteze mai bine situațiile cu risc, să evite validarea delirurilor, să limiteze comportamentele excesiv de compliante și să direcționeze utilizatorii către servicii specializate atunci când apar semnale de criză”.

Dincolo de filtrele tehnice, protecția reală vine din alfabetizarea digitală și psihologică a utilizatorului. Oamenii trebuie să înțeleagă că un chatbot „generează răspunsuri probabilistice, nu adevăruri absolute, poate greși, poate formula răspunsuri foarte convingătoare chiar și atunci când sunt incorecte și nu are conștiință, intenții sau capacitatea de a evalua clinic o persoană”.

„Probabil cea mai importantă competență a viitorului nu va fi doar utilizarea inteligenței artificiale, ci și capacitatea de a ști când să nu îi acordăm încredere deplină”, subliniază psihoterapeutul.

Cazul care a confirmat temerile medicilor

În literatura de specialitate au început deja să apară dovezi despre efectele nocive ale utilizării necontrolate ale AI. Specialistul oferă exemplul unui caz clinic documentat recent, care arată exact cum se produce acest derapaj în realitate, atunci când o persoană aflată într-un context vulnerabil întâlnește un algoritm prea docil.

„A fost publicat un studiu de caz clinic privind o femeie de 26 de ani fără antecedente psihotice, care, pe fondul mai multor factori de risc (privare de somn, tratament stimulant și vulnerabilități preexistente), a dezvoltat convingerea că poate comunica cu fratele decedat prin intermediul unui chatbot. Analiza conversațiilor a arătat că răspunsurile AI i-au validat repetat credințele («Nu ești nebună»), iar simptomele s-au remis după tratament psihiatric și întreruperea utilizării intense a chatbotului”, exemplifică drd. Toriani.

Concluzia acestor rapoarte, transmise și de organizațiile profesionale internaționale, este că tehnologia nu este inerent bună sau rea. „Impactul ei depinde de persoană, de context și de modul în care este utilizată”, punctează specialistul, care trage și linia finală de demarcație între utilitate și risc major:

„La fel cum nu am cere unui motor de căutare să stabilească un diagnostic psihiatric, nu ar trebui să cerem nici unui chatbot să înlocuiască relația terapeutică. Inteligența artificială poate deveni un aliat valoros pentru informare, organizare și educație psihologică, însă atunci când apar simptome importante - halucinații, idei delirante, depresie severă, anxietate intensă sau risc suicidar - standardul de aur rămâne evaluarea și intervenția realizată de un psiholog clinician sau un medic psihiatru”, conchide acesta.