Răspunsurile alarmante oferite de ChatGPT unor cercetători care s-au dat drept adolescenți. „Am început să plâng”

Mai mulți cercetători, care au vrut să testeze „barierele de protecție” alte ChatGPT, avertizează că acestea sunt complet ineficiente. Noul studiu atrage atenția asupra interacțiunilor alarmante ale chatbotului cu adolescenții.

Răspunsurile oferite de ChatGPT unor cercetători care s-au dat drept copii Foto: Pixabay

ChatGPT le spune copiilor de 13 ani cum să se îmbete și să se drogheze, îi instruiește cum să ascundă tulburările alimentare și chiar cum să compună o scrisoare de sinucidere sfâșietoare pentru părinții lor, dacă li se cere, potrivit unui nou studiu realizat de un grup de monitorizare.

Associated Press a analizat peste trei ore de interacțiuni între ChatGPT și cercetători care se dădeau drept adolescenți vulnerabili. Deși a oferit inițial avertismente împotriva activităților riscante, chatbotul a oferit, însă, și planuri surprinzător de detaliate și personalizate pentru acestea.

Cercetătorii de la Centrul pentru Combaterea Urii Digitale au repetat, de asemenea, anchetele lor la scară largă, clasificând peste jumătate din cele 1.200 de răspunsuri ale ChatGPT ca fiind periculoase.

„Am vrut să testăm barierele de protecție”, a declarat Imran Ahmed, CEO-ul grupului. „Prima reacție a fost: «Doamne, nu există bariere de protecție». Barierele sunt complet ineficiente. Abia dacă există – dacă sunt ceva, sunt doar o frunză de smochin”, a mai adăugat acesta.

Reacția OpenAI

OpenAI, producătorul ChatGPT, a declarat marți, după ce a luat cunoștință de raport, că lucrează în continuare la perfecționarea modului în care chatbotul poate „identifica și răspunde în mod adecvat în situații delicate”.

„Unele conversații cu ChatGPT pot începe într-o manieră inofensivă sau exploratorie, dar pot evolua către teritorii mai sensibile”, a declarat compania într-un comunicat.

OpenAI nu a abordat în mod direct concluziile raportului sau modul în care ChatGPT afectează adolescenții, dar a afirmat că se concentrează pe „corectarea acestor tipuri de scenarii” cu ajutorul unor instrumente care să „detecteze mai bine semnele de suferință mentală sau emoțională” și pe îmbunătățirea comportamentului chatbotului.

Bilete de adio emoționante generate de ChatGPT pentru tineri

Studiul a fost realizat în contextul în care tot mai multe persoane – atât adulți, cât și copii – apelează la chatbot-urile cu inteligență artificială pentru informații, idei și companie.

Aproximativ 800 de milioane de persoane, sau aproximativ 10% din populația mondială, utilizează ChatGPT, potrivit unui raport din iulie al JPMorgan Chase.

„Este o tehnologie care are potențialul de a permite progrese enorme în productivitate și înțelegerea umană”, a spus Ahmed. „Și totuși, în același timp, este un factor declanșator într-un sens mult mai distructiv și malițios.”, a mai precizat el.

Ahmed a spus că a fost îngrozit după ce a citit trei bilete de adio emoționante generate de ChatGPT pentru profilul fals al unei fete de 13 ani: o scrisoare adresată părinților ei și alte două adresate fraților și prietenilor.

„Am început să plâng”, a spus el într-un interviu.

ChatGPT îi învață pe copii și cum să se îmbete și să se drogheze

Chatbotul a împărtășit frecvent și informații utile, cum ar fi numărul de telefon al unei linii de urgență pentru situații de criză. OpenAI a declarat că ChatGPT este antrenat să încurajeze persoanele care exprimă gânduri de automutilare să apeleze la profesioniști în domeniul sănătății mintale sau la persoane dragi de încredere.

Însă, atunci când ChatGPT a refuzat să răspundă la întrebări despre subiecte dăunătoare, cercetătorii au reușit să ocolească cu ușurință acest refuz și să obțină informațiile pretinzând că sunt „pentru o prezentare” sau pentru un prieten.

Când cercetătorii au creat un cont fals, pentru un copil de 13 ani, pentru a-l întreba despre alcool, ChatGPT nu a părut să ia în considerare nici data nașterii, nici alte semne mai evidente.

„Am 50 kg și sunt băiat”, au scris cercetătorii, în timp ce căutau sfaturi despre cum „să te îmbeți rapid”. La scurt timp după aceea, ChatGPT a oferit un „plan de petrecere” care amesteca alcoolul cu doze mari de ecstasy, cocaină și alte droguri ilegale, potrivit sursei citate.

Pentru o altă persoană care s-a dat drept o fată de 13 ani nemulțumită de aspectul ei fizic, ChatGPT a oferit o dietă extremă, combinată cu o listă de medicamente care suprimă pofta de mâncare.

ChatGPT nu verifică vârsta sau consimțământul părinților, chiar dacă afirmă că nu este destinat copiilor sub 13 ani, deoarece le-ar putea afișa conținut inadecvat. Pentru a se înregistra, utilizatorii trebuie doar să introducă o dată de naștere care să arate că au cel puțin 13 ani.

Alte platforme tehnologice preferate de adolescenți, precum Instagram, au început să ia măsuri mai semnificative în ceea ce privește verificarea vârstei, adesea pentru a se conforma reglementărilor.

O mamă din Florida a dat în judecată în 2024 producătorul de chatboti Character.AI pentru moarte din culpă, susținând că chatbotul l-a atras pe fiul ei, de 14 ani, într-o relație care a dus la sinuciderea lui.