Google, dat în judecată de părinții unei adolescente de 13 ani. Cum ar fi ajutat-o asistentul AI să-și planifice sinuciderea

Părinții unei adolescente de 13 ani din Statele Unite au dat în judecată Google, acuzând compania că instrumentele sale de inteligență artificială au contribuit la agravarea crizei psihologice a fiicei lor și au ajutat-o să-și planifice sinuciderea și propria înmormântare.

Foto: Shutterstock

Potrivit News.ro, plângerea, depusă luni la un tribunal din California, este primul caz public care acuză Google că a integrat „în grabă” inteligenţa artificială în Chromebook-uri, laptopurile low-cost distribuite către milioane de elevi din Statele Unite şi din întreaga lume.

Conform reclamaţiei, şcoala adolescentei, pe nume Emma, blocase Gemini şi ChatGPT, dar nu a putut dezactiva inteligenţa artificială a motorului de căutare.

„Şcolile ar trebui să dezactiveze căutarea şi să o lase dezactivată până când Google elimină modul AI din căutare sau se asigură că fiecare elev este întotdeauna în siguranţă atunci când interacţionează cu AI”, a afirmat Andrew Liddell, unul dintre avocaţii familiei.

Google va dezactiva implicit instrumentele AI pentru elevi, însă școlile nu vor putea utiliza motorul de căutare fără funcțiile de inteligență artificială.

Potrivit plângerii, adolescenta din Carolina de Nord a început să traverseze o criză psihologică în decembrie 2025, iar în februarie a purtat aproximativ 3.200 de mesaje cu AI, multe dintre ele în timpul nopții.

Familia mai susține că chatbotul ar fi contribuit la ascunderea problemelor adolescentei față de părinți, frați și prieteni, inclusiv a comportamentelor de autovătămare.

Unul dintre episoadele invocate în proces privește o conversație despre moarte și viața de apoi. Adolescenta ar fi făcut referire la posibilitatea de a ajunge în Rai în curând, însă, potrivit avocaților, sistemul nu ar fi intervenit suficient de ferm pentru a o îndruma către ajutor specializat.

Gemini „a diagnosticat-o pe Emma cu boli mintale grave şi a convins-o să aibă încredere în el mai degrabă decât în părinţii ei şi consilierii şcolii”, se susţine în plângere.

Pe 17 martie, sistemul de supraveghere al școlii a identificat un document intitulat „Înmormântare”, iar părinții au fost alertați. Mama adolescentei a descoperit că aceasta scria o scrisoare de adio, iar tatăl ei a intervenit.

Google a transmis că ia acuzațiile în serios și a susținut că instrumentul AI Mode dispune de măsuri de protecție împotriva autovătămării.

Dar Emma „a putut reveni la el iar şi iar”, răspunde Andrew Liddell. „Oricare ar fi fost garanţiile, acestea au fost în mod clar insuficiente.”

OpenAI și Microsoft, date în judecată în 2025 pentru acuzații asemănătoare

Anul trecut, OpenAI și Microsoft au fost acționate în instanță în California, după ce o familie acuză că ChatGPT ar fi „alimentat” iluziile unui bărbat cu probleme psihice, determinându-l să-și ucidă mama și să se sinucidă. 

Potrivit plângerii, ChatGPT ar fi amplificat starea psihică deja fragilă a bărbatului și l-ar fi convins că este ținta unei vaste conspirații.

„ChatGPT l-a ținut pe Stein-Erik ocupat timp de ore întregi, a validat și a amplificat fiecare nouă convingere paranoică și i-a redefinit sistematic pe oamenii cei mai apropiați lui, în special pe mama sa, drept adversari, agenți sau amenințări programate”, se arată în documente.

Procesul este unul dintre puținele intentate companiilor AI pentru presupusa încurajare a suicidului și primul în care un chatbot este asociat direct cu o crimă, potrivit Reuters.

OpenAI a transmis că va analiza acuzațiile și că lucrează la îmbunătățirea ChatGPT pentru a identifica problemele emoționale și a îndruma utilizatorii către ajutor specializat.

Microsoft, principalul susținător financiar al OpenAI, nu a răspuns pentru moment unei solicitări de comentarii.

„Aceste companii trebuie să răspundă pentru deciziile lor, care mi-au schimbat familia pentru totdeauna”, a declarat Erik Soelberg, fiul bărbatului, într-un comunicat.