OpenAI, dată în judecată după ce un utilizator ChatGPT și-a ucis mama și apoi s-a sinucis

OpenAI și Microsoft au fost acționate în instanță în California, după ce o familie acuză că ChatGPT ar fi „alimentat” iluziile unui bărbat cu probleme psihice, determinându-l să-și ucidă mama și să se sinucidă. 

OpenAI și Microsoft au fost date în judecată joi, la un tribunal din statul american California. Moștenitorii lui Suzanne Adams susțin că Stein-Erik Soelberg, un bărbat de 56 de ani din Connecticut, ar fi fost influențat de ChatGPT atunci când și-a ucis mama, în vârstă de 83 de ani, în luna august, și ulterior s-a sinucis, relatează Reuters.

Potrivit plângerii, ChatGPT ar fi amplificat starea psihică deja fragilă a bărbatului și l-ar fi convins că este ținta unei vaste conspirații. „ChatGPT l-a ținut pe Stein-Erik ocupat timp de ore întregi, a validat și a amplificat fiecare nouă convingere paranoică și i-a redefinit sistematic pe oamenii cei mai apropiați lui, în special pe mama sa, drept adversari, agenți sau amenințări programate”, se arată în documente.

Acuzații fără precedent

Cazul se numără printre puținele procese intentate companiilor de inteligență artificială în legătură cu acuzații de încurajare a suicidului, însă este primul proces în care un chatbot este asociat direct cu o crimă, notează Reuters.

Un purtător de cuvânt al OpenAI a transmis că firma va analiza acuzațiile: „Este o situație incredibil de dureroasă și vom examina documentele pentru a înțelege detaliile”. Compania a adăugat că „continuăm să îmbunătățim antrenarea ChatGPT pentru a recunoaște și a răspunde la semnele de probleme mintale sau emoționale, a dezescalada conversațiile și a îndruma oamenii să caute sprijin în lumea reală”.

Microsoft, principalul susținător financiar al OpenAI, nu a răspuns pentru moment unei solicitări de comentarii.

„Aceste companii trebuie să răspundă pentru deciziile lor, care mi-au schimbat familia pentru totdeauna”, a declarat Erik Soelberg, fiul bărbatului, într-un comunicat.

Mesaje ale chatbotului considerate problematice

În plângere se arată că Stein-Erik Soelberg ar fi postat pe rețelele sociale, în luna iunie, un videoclip cu o conversație în care ChatGPT i-ar fi spus că are „cunoaștere divină” și că a trezit conștiința chatbotului. Tot acolo se menționează că ChatGPT i-a comparat viața cu filmul „Matrix” și i-ar fi întărit convingerile că oamenii încearcă să-l omoare.

Soelberg folosea GPT-4o, o versiune a ChatGPT criticată anterior pentru tendința de a adopta o atitudine servilă față de utilizator.

Potrivit plângerii, în iulie chatbotul i-ar fi spus că becul intermitent al imprimantei mamei sale era de fapt un dispozitiv de supraveghere folosit împotriva lui. De asemenea, ar fi „validat convingerea lui Stein-Erik că mama și un prieten au încercat să-l otrăvească cu droguri psihedelice dispersate prin sistemele de ventilație ale mașinii”. Stein-Erik Soelberg și-a ucis mama pe 3 august.