Imagini cu abuzuri sexuale asupra unor minori, create cu ajutorul AI. Spania pune sub anchetă Meta, X și TikTok

Guvernul spaniol a anunțat marți, 17 februarie, că va solicita Parchetului să investigheze companiile X, Meta și TikTok pentru posibile infracțiuni legate de generarea și distribuirea de materiale cu abuzuri sexuale asupra minorilor create cu ajutorul inteligenței artificiale. Măsura marchează una dintre cele mai ferme reacții europene la proliferarea conținutului sexualizat creat prin deepfake-uri și algoritmi generativi.

Premierul Pedro Sánchez a precizat că executivul său acționează pentru a proteja „sănătatea mintală, demnitatea și drepturile copiilor noștri” și pentru a pune capăt „impunității” de care se bucură marile platforme online.

Raportul care a declanșat investigația

Decizia guvernului spaniol se bazează pe un raport de specialitate care analizează responsabilitatea penală a platformelor în contextul noilor tehnologii generative. Documentul avertizează că practicile precum crearea de imagini sexualizate cu minori prin deepfake-uri sau manipularea fotografiilor reale devin tot mai răspândite și pot afecta grav demnitatea victimelor.

Raportul subliniază că rețelele sociale pot fi implicate direct în aceste acte, întrucât permit „diseminarea masivă, rapidă și opacă” a materialelor, ceea ce îngreunează detectarea și urmărirea penală. În plus, platformele facilitează formarea unor rețele care produc, distribuie și monetizează astfel de conținut.

Investigația vine într-un context în care guvernul Sánchez pregătește un set de măsuri stricte privind protecția minorilor online. Printre acestea se numără: interzicerea accesului la rețelele sociale pentru copiii sub 16 ani și o legislație care să oblige companiile tech să răspundă pentru conținutul dăunător sau instigator la ură

Decizia Madridului apare și la mai puțin de o lună după ce Comisia Europeană a deschis o anchetă împotriva platformei X, acuzând-o că permite generarea de imagini sexualizate cu minori prin chatbotul său AI, Grok.

Presiune și din partea autorităților irlandeze

În aceeași zi, Comisia pentru Protecția Datelor din Irlanda — autoritatea care supraveghează companiile tech cu sediul european la Dublin — a anunțat o investigație amplă privind funcționalitățile AI ale modelului Grok.

Comisarul adjunct Graham Doyle a precizat că autoritatea a discutat cu X despre acuzațiile conform cărora utilizatorii pot solicita chatbotului să genereze imagini sexualizate cu persoane reale, inclusiv minori. Ancheta urmărește să stabilească dacă platforma respectă obligațiile impuse de GDPR în ceea ce privește prelucrarea datelor personale ale cetățenilor europeni.

Madridul promite toleranță zero

Elma Saiz, purtătoarea de cuvânt a guvernului spaniol, a transmis un mesaj ferm: Spania nu va permite ca „violența sexuală digitală împotriva copiilor să fie amplificată sau protejată de algoritmi”. Ea a subliniat că miza este „siguranța copiilor noștri și protejarea imaginii, intimității și libertății lor”.

Cabinetul premierului va solicita oficial procurorului general să investigheze și, dacă este cazul, să urmărească penal companiile care au încălcat legea.

Meta a transmis că nu poate comenta investigația în lipsa unor detalii suplimentare, dar a insistat că are o politică „extrem de strictă” împotriva exploatării sexuale a minorilor și a imaginilor intime non-consensuale, fie ele reale sau generate de inteligența artificială.  TikTok și X nu au oferit încă un punct de vedere.