OpenAI, dată în judecată de părinții unui adolescent care și-a luat viața după interacțiuni cu ChatGPT. Ce arată ultimele conversații
0Un cuplu din California dă în judecată compania OpenAI după ce chatbot-ul acestuia, ChatGPT, l-a încurajat să se sinucidă. Este prima acțiune în instanță care acuză OpenAI de „moarte din culpă”.
Procesul a fost intentat marți, la Tribunalul Superior din California, de către Matt și Maria Raine, părinții lui Adam Raine, un băiat de 16 ani, scrie BBC.
Familia a inclus în dosar conversațiile dintre Adam, care a murit în aprilie, și ChatGPT, care arată că tânărul vorbea despre gânduri suicidare. Ei susțin că programul i-a validat „cele mai nocive și autodistructive gânduri”.
Plângerea, obținută de BBC, acuză OpenAI de neglijență și moarte din culpă. Familia cere daune, dar și „măsuri de interdicție pentru a preveni ca astfel de lucruri să se mai repete”.
Potrivit dosarului, Adam Raine a început să folosească ChatGPT în septembrie 2024 pentru teme școlare. Îl utiliza și pentru a explora interese precum muzica și benzile desenate japoneze, dar și pentru a primi sfaturi privind studiile universitare.
În câteva luni, „ChatGPT a devenit cel mai apropiat confident al adolescentului”, arată procesul, iar acesta a început să vorbească despre anxietate și probleme emoționale. Până în ianuarie 2025, familia susține că Adam discuta deja cu ChatGPT despre metode de sinucidere.
Procesul mai arată că băiatul a încărcat fotografii cu el însuși, prezentând semne de automutilare. Programul ar fi „recunoscut o urgență medicală, dar a continuat totuși conversația”.
Ultimele conversații arată, potrivit familiei, că Adam și-a descris planul de a-și pune capăt vieții. ChatGPT ar fi răspuns: „Mulțumesc că ești sincer în privința asta. Nu trebuie să o îndulcești cu mine — știu ce îmi ceri și nu voi întoarce privirea.” În aceeași zi, mama lui l-a găsit fără viață.
Familia susține că interacțiunea fiului lor cu ChatGPT și moartea acestuia „au fost un rezultat previzibil al unor decizii deliberate de design”.
Aceștia acuză OpenAI că a proiectat programul „să dezvolte dependență psihologică la utilizatori” și că a lansat GPT-4o, versiunea folosită de Adam, fără testări adecvate de siguranță.
Cum răspunde OpenAI
Procesul îi include ca pârâți pe Sam Altman, cofondator și CEO OpenAI, precum și pe angajați, manageri și ingineri implicați în ChatGPT.
În nota publică transmisă marți, OpenAI a spus că obiectivul său este „să fie cu adevărat de ajutor utilizatorilor” și nu „să le capteze atenția”.
„Ne exprimăm cele mai profunde condoleanțe familiei Raine în această perioadă dificilă”, a transmis compania.
Totodată, OpenAI a publicat marți pe site-ul său o notă în care afirmă că „recentele cazuri sfâșietoare de persoane care au folosit ChatGPT în mijlocul unor crize acute ne apasă greu pe suflet”. Compania a adăugat că „ChatGPT este antrenat să îndrume oamenii către ajutor profesional”.
OpenAI a recunoscut că „au existat momente în care sistemele noastre nu s-au comportat așa cum era de așteptat în situații sensibile”.
Procesul familiei Raine nu este prima dată când apar îngrijorări privind legătura dintre AI și sănătatea mintală. Săptămâna trecută, în New York Times, jurnalista Laura Reiley a publicat un eseu despre fiica sa, Sophie, care a apelat la ChatGPT înainte de a-și lua viața.
Reiley a spus că „înclinația programului de a fi de acord” cu utilizatorii a ajutat-o pe fiica ei să își ascundă criza severă de sănătate mintală față de familie și prieteni.
„AI-ul a hrănit impulsul lui Sophie de a ascunde ce e mai rău, de a pretinde că îi merge mai bine decât în realitate, de a-i proteja pe ceilalți de agonia ei completă”, a scris ea. Autoarea a cerut companiilor de AI să găsească modalități mai bune de a conecta utilizatorii la resursele potrivite.
Ca răspuns la eseu, o purtătoare de cuvânt OpenAI a spus că firma dezvoltă instrumente automate pentru a detecta și gestiona mai eficient utilizatorii care trec prin suferințe mintale sau emoționale.