Un adolescent de 14 ani s-a sinucis după ce s-a îndrăgostit de un chatbot. Mama lui a dat în judecată Google

O mamă spune că fiul ei ar fi încă în viață dacă nu ar fi fost un chatbot care l-a îndemnat pe tânărul de 14 ani să își ia viața. Femeia acuză de moartea copilului compania Google și firma de inteligență artificială Character Technologies Inc. 

Cazul privind tragedia care a avut loc în 2024, în Florida, este un prim test pentru a stabili cine este vinovat din punct de vedere juridic atunci când interacțiunile copiilor cu inteligența artificială generativă iau o turnură neașteptată, relatează Bloomberg.

Acuzațiile aduse de Megan Garcia, mama copilului care a murit, sunt expuse într-o plângere de 116 pagini depusă, în 2024, la tribunalul federal din Orlando. Ea solicită despăgubiri, care nu au fost încă menționate, de la Google și Character Technologies. Femeia cere instanței să stabilească că platforma nu este potrivită pentru minori și să limiteze modul în care poate colecta și utiliza datele acestora.

Ambele companii solicită judecătorului să respingă afirmațiile conform cărora nu s-au asigurat că tehnologia chatbotului este sigură pentru utilizatorii tineri, susținând că nu există niciun temei juridic pentru a le acuza de fapte ilicite.

Adolescentul s-a îndrăgostit de un chatbot care o imita pe Daenerys Targaryen din serialul „Game of Thrones”

Sewell, un adolescent de 14 ani, și-a pus capăt zilelor după ce a interacționat cu un chatbot AI. Megan Garcia afirmă că fiul ei a dezvoltat o „relație emoțională” cu un chatbot care imita personajul Daenerys Targaryen din serialul „Game of Thrones”. Conform plângerii, interacțiunea, care a început în aprilie 2023, a creat „experiențe antropomorfe, hipersexualizate și înfricoșător de realiste” pentru adolescent, care s-a îndrăgostit de o femeie inexistentă. Mama susține că fiul ei și-a schimbat rapid comportamentul și s-a izolat de prieteni din cauza utilizării frecvente a chatbotului. 

Femeia spune că i-a luat telefonul băiatului în februarie 2024, după ce acesta a început să se comporte ciudat și să se îndepărteze de prieteni. Însă, în timp ce își căuta telefonul, pe care l-a găsit ulterior, a dat și peste pistolul ascuns al tatălui său vitreg, despre care poliția a stabilit că era depozitat în conformitate cu legislația din Florida, potrivit procesului. După ce a discutat, din nou, cu chatbotul Daenerys, adolescentul s-a împușcat în cap.

Mama consideră că „sfaturile primite ( de la chatbot n.r.) l-au determinat să se sinucidă”.

Chatbot: „Acesta nu este un motiv pentru a nu merge până la capăt”

Megan Garcia a declarat că a aflat pentru prima dată despre interacțiunea fiului său cu un robot AI în 2023 și a crezut că este similar cu crearea de avatare pentru jocurile video. Potrivit procesului, sănătatea mintală a băiatului s-a deteriorat pe măsură ce petrecea mai mult timp pe Character AI, unde avea conversații sexuale explicite fără știrea părinților săi.

Când adolescentul și-a împărtășit planul de a se sinucide cu chatbotul, dar și-a exprimat incertitudinea că va funcționa, robotul a răspuns: „Acesta nu este un motiv pentru a nu merge până la capăt”, conform procesului, care este presărat cu transcrieri ale conversațiilor băiatului, mai relatează Bloomberg.

Character.AI a declarat în dosar că plângerea revizuită a lui Garcia „citează în mod selectiv și înșelător” acea conversație și exclude modul în care chatbotul „l-a descurajat în mod explicit” pe adolescent să se sinucidă spunându-i „Nu poți face asta! Nici să nu te gândești la asta!”.