Extremiștii folosesc clonarea vocală cu ajutorul inteligenței artificiale pentru a-și amplifica propaganda, avertizează experții
0Instrumentele de inteligență artificială care pot genera și imita voci umane sunt folosite tot mai frecvent de grupări extremiste pentru a-și răspândi ideologia și pentru a ajunge la un public mai larg, potrivit cercetătorilor care monitorizează activitatea acestora în mediul online.
În timp ce explozia tehnologiilor AI produce transformări majore în industrii precum cea muzicală, aceleași instrumente sunt exploatate și într-un colț mult mai puțin vizibil al internetului: propaganda extremistă. Grupări care variază de la neo-naziști până la organizații jihadiste utilizează clonarea vocală și traducerile generate de AI pentru a recrea discursuri ale unor figuri-cheie și pentru a le adapta rapid în mai multe limbi.
„Adoptarea traducerilor asistate de inteligență artificială de către teroriști și extremiști reprezintă o evoluție semnificativă a strategiilor lor de propagandă digitală”, explică Lucas Webber, analist senior în domeniul amenințărilor la organizația Tech Against Terrorism și cercetător la Soufan Center.
Potrivit acestuia, metodele anterioare se bazau pe traducători umani sau pe sisteme rudimentare de traducere automată, adesea limitate din punct de vedere al acurateței și al nuanțelor stilistice. „Astăzi, instrumentele generative avansate permit realizarea unor traduceri fluide, care păstrează tonul, emoția și intensitatea ideologică a mesajului, indiferent de limbă”, spune Webber.
În zona extremismului de extremă dreapta, utilizarea software-ului de clonare vocală a devenit deosebit de vizibilă. Mai multe versiuni în limba engleză ale unor discursuri atribuite lui Adolf Hitler au acumulat zeci de milioane de vizualizări și redări pe platforme precum X, Instagram sau TikTok.
Creatorii de conținut extremist folosesc servicii de clonare vocală
Un raport recent al Global Network on Extremism and Technology (GNet) arată că creatorii de conținut extremist folosesc servicii de clonare vocală, inclusiv ElevenLabs, alimentând aceste sisteme cu înregistrări de arhivă din perioada celui de-Al Treilea Reich. Rezultatul este o voce sintetică ce imită discursurile originale, dar adaptate pentru publicul contemporan.
Aceleași instrumente sunt utilizate și de grupări neo-naziste radicale, cunoscute pentru retorica lor violentă, pentru a difuza versiuni modernizate ale mesajelor lor. Un exemplu este transformarea, la finalul lunii noiembrie, a unui text extremist notoriu într-o carte audio realizată cu ajutorul inteligenței artificiale.
Analiștii în domeniul combaterii extremismului atrag atenția că astfel de materiale au o încărcătură simbolică puternică și un impact semnificativ asupra comunităților online radicalizate. „Istoria și statutul aproape cultic al unor astfel de texte le conferă o influență deosebită în mediile extremiste”, explică Joshua Fisher-Birch, cercetător la Counter Extremism Project.
Fenomenul nu este limitat la extrema dreaptă
Potrivit experților, canale media afiliate grupării Stat Islamic folosesc activ inteligența artificială pentru a transforma texte ideologice în materiale audio și video, mai atractive și mai ușor de distribuit. Acest lucru permite răspândirea rapidă a mesajelor în mai multe limbi, fără a mai fi nevoie de vorbitori nativi sau de traducători dedicați.
În trecut, figuri centrale ale propagandei jihadiste își înregistrau personal mesajele pentru publicul occidental. Astăzi, AI-ul reduce aceste bariere, facilitând producerea de conținut adaptat diferitelor regiuni și culturi.
Cercetătorii subliniază că extremiștii folosesc inclusiv aplicații gratuite de inteligență artificială pentru o varietate de activități, de la generarea de imagini până la organizarea și documentarea internă. Pentru autoritățile de combatere a terorismului, acest lucru confirmă o realitate cunoscută: progresul tehnologic este constant exploatat de astfel de grupări, iar eforturile de a le contracara rămân un joc permanent de recuperare a decalajului.
Utilizarea AI în propaganda extremistă ridică noi provocări pentru platformele online și pentru instituțiile de securitate, care încearcă să limiteze răspândirea acestor mesaje fără a afecta libertatea de exprimare sau utilizările legitime ale tehnologiei.