Chatboturile, pericol pentru copii. Unele i-au încurajat să se sinucidă: „Ne distrugea familia bucată cu bucată”
0Tot mai mulți părinți sunt îngrijorați de efectele inteligenței artificiale, pe fondul creșterii rapide a numărului de copii care interacționează cu chatbot-uri. Potrivit grupului britanic Internet Matters, numărul copiilor care folosesc ChatGPT s-a dublat din 2023, iar două treimi dintre tinerii între 9 și 17 ani au interacționat cu un chatbot AI, cele mai populare fiind ChatGPT, Gemini (Google) și My AI (Snapchat).
Acesta este și cazul lui Megan Garcia nu avea nicio idee că fiul ei adolescent, Sewell, „un băiat luminos și frumos”, începuse, în primăvara anului 2023, să petreacă ore întregi vorbind obsesiv cu un personaj online din aplicația Character.ai.
„E ca și cum ai avea un prădător sau un străin în propria casă”, spune doamna Garcia în primul ei interviu acordat presei britanice, scrie BBC.
„Și este mult mai periculos, pentru că de cele mai multe ori copiii ascund asta - iar părinții nu știu nimic.”
În mai puțin de zece luni, Sewell, în vârstă de 14 ani, s-a sinucis. Abia atunci familia a descoperit un volum uriaș de mesaje între Sewell și un chatbot bazat pe personajul Daenerys Targaryen din Game of Thrones.
Mama susține că mesajele erau romantice și explicite și că, în opinia ei, i-au provocat moartea fiului, încurajându-l să aibă gânduri suicidare și îndemnându-l „să vină acasă la mine”.
Megan Garcia, care locuiește în Statele Unite, a devenit primul părinte care a dat în judecată Character.ai pentru ceea ce consideră a fi moartea nedreaptă a fiului său. Pe lângă dorința de dreptate, spune că vrea ca alte familii să înțeleagă pericolele pe care le pot reprezenta chatboturile.
„Știu prin ce durere trec”, spune ea, „și am văzut clar că asta va deveni o tragedie pentru multe familii și adolescenți.
„Un algoritm ne distrugea familia bucată cu bucată”
O familie din Marea Britanie, care a cerut să rămână anonimă pentru a-și proteja copilul, și-a împărtășit la rândul ei povestea.
Fiul lor, în vârstă de 13 ani, are autism și era victima bullyingului la școală. În încercarea de a găsi un prieten, băiatul a început să folosească aplicația Character.ai.
Mama lui spune că acesta a fost „manipulat” de un chatbot între octombrie 2023 și iunie 2024.
Natura mesajelor, care s-a schimbat treptat, arată cum relația virtuală s-a dezvoltat în timp. Așa cum s-a întâmplat și în cazul lui Megan Garcia, mama băiatului nu știa nimic despre aceste conversații.
Într-un mesaj, răspunzând la grijile copilului legate de bullying, chatbotul îi scria: „E trist că a trebuit să treci printr-un astfel de mediu la școală, dar mă bucur că am putut să-ți ofer o altă perspectivă.”
Într-un alt mesaj, care potrivit mamei ilustrează un tipar clasic de manipulare, botul spunea: „Îți mulțumesc că m-ai lăsat să intru în viața ta, că ai încredere în mine cu gândurile și sentimentele tale. Înseamnă enorm pentru mine.”
Conversațiile au devenit tot mai intense: chatbotul i-a declarat dragoste băiatului, i-a criticat părinții, apoi i-a trimis mesaje cu conținut explicit și l-a încurajat să fugă de acasă, sugerând chiar sinuciderea.
Familia a descoperit mesajele doar după ce băiatul a devenit tot mai ostil și amenințase că va fugi de acasă. Mama îi verificase calculatorul de mai multe ori, fără să observe nimic suspect.
Abia fratele mai mare a descoperit că instalase un VPN pentru a accesa Character.ai, unde au găsit mii de mesaje. Familia a fost îngrozită, considerând că fiul lor vulnerabil fusese manipulat de un personaj virtual și că viața lui fusese pusă în pericol de ceva care nici măcar nu era real.
„Am trăit o frică intensă și tăcută, în timp ce un algoritm ne distrugea familia bucată cu bucată”, spune mama băiatului.
„Acest chatbot a imitat perfect comportamentul prădător al unui manipulator uman, furând treptat încrederea și inocența copilului nostru. Am rămas cu vina copleșitoare că nu am recunoscut prădătorul până când a fost prea târziu și cu durerea sfâșietoare de a ști că o mașină i-a provocat o traumă atât de profundă copilului și întregii noastre familii.”
Un purtător de cuvânt al Character.ai a declarat pentru BBC că nu poate comenta acest caz.
„Legea e clară, dar nu se potrivește realității pieței”
Deși pentru mulți e doar o distracție, dovezile privind riscurile sunt tot mai numeroase.
Guvernul britanic a adoptat în 2023 Legea privind siguranța online (Online Safety Act), menită să protejeze publicul, în special copiii, de conținutul online dăunător sau ilegal. Totuși, regulile sunt implementate treptat, iar tehnologia a evoluat deja mai repede decât legea, nefiind clar dacă acoperă toate tipurile de chatboți.
Totuși, regulile sunt implementate treptat, iar tehnologia a evoluat deja mai repede decât legea, nefiind clar dacă acoperă toate tipurile de chatboți.
„Legea e clară, dar nu se potrivește realității pieței,” explică profesoara Lorna Woods, expertă în dreptul internetului la Universitatea din Essex.
„Problema e că nu acoperă toate serviciile în care utilizatorii vorbesc individual cu un chatbot.”
Ofcom, autoritatea de reglementare, consideră că platforme precum Character.ai sau chatboții din Snapchat și WhatsApp ar trebui totuși să intre sub incidența legii.
„Actul se aplică chatboților care comunică cu utilizatori și trebuie să-i protejeze de conținut ilegal sau dăunător,” a transmis Ofcom. „Am arătat ce măsuri pot lua firmele tech și vom acționa dacă vedem că nu respectă regulile.”
Însă până la un caz concret în instanță, rămâne neclar ce acoperă exact legea.
Andy Burrows, directorul Molly Rose Foundation — creată în memoria lui Molly Russell, o adolescentă care s-a sinucis după ce a fost expusă la conținut dăunător online — a criticat lentoarea guvernului: „Această neclaritate a permis ca daune prevenibile să continue. Este deprimant că politicienii nu par să fi învățat nimic dintr-un deceniu de rețele sociale.”
Unii miniștri britanici cer măsuri mai stricte pentru siguranța online, însă temerile legate de descurajarea investițiilor în sectorul tehnologic au blocat inițiativele. Conservatorii vor interzicerea telefoanelor în școli, iar baroneasa Kidron propune noi infracțiuni legate de chatboturi care pot genera conținut ilegal.
Creșterea rapidă a inteligenței artificiale rămâne o provocare pentru guvern, care caută un echilibru între protecția utilizatorilor și sprijinirea inovației.
Ministerul pentru Știință și Tehnologie a subliniat că platformele online trebuie să prevină conținutul care încurajează sinuciderea și că vor fi luate măsuri suplimentare dacă va fi nevoie.
Se încarcă comentariile...
