Mihai Rotariu (DNSC): „Tehnologia deepfake este și un instrument de manipulare a informației, de răspândire a știrilor false“
0De la escrocherii financiare și campanii de dezinformare, până la riscurile asupra securității cibernetice și încrederii publicului în sursele de informare, deepfake-ul rămâne o problemă acută a societății românești.
„Weekend Adevărul“ a discutat cu Mihai Rotariu, manager al Direcției Comunicare, Media și Marketing din cadrul Directoratului Național de Securitate Cibernetică (DNSC), despre modul în care tehnologia deepfake este folosită în România, atât ca instrument de fraudă, cât și ca mijloc de manipulare a informației, dar și despre impactul acestor tehnici avansate asupra încrederii oamenilor în informații și surse de informații. Totodată, am discutat cu expertul și despre ce măsuri pot lua utilizatorii diverselor platforme online pentru a se proteja de astfel de amenințări.
„Weekend Adevărul“: Cum sunt utilizate deepfake-urile în România pentru a răspândi dezinformarea și care sunt principalele riscuri pe care le implică acestea?
Mihai Rotariu: În general, majoritatea cazurilor pe care le-am identificat sau care ne-au fost raportate sunt asociate unor atacuri informatice, dar includ și o componentă puternică de fake news. Un exemplu relevant este reprezentat de așa-numitele „programe naționale de îmbogățire“. Este evident că avem de-a face cu dezinformare atunci când vedem videoclipuri în care personalități publice – în special politicieni, poate chiar premierul sau președintele – par să susțină astfel de scheme financiare frauduloase. Aceste clipuri au început să circule intens pe rețelele sociale începând cu august 2023, într-o tentativă de fraudă de amploare. La acea vreme, observam un volum ridicat de reclame care promovau aceste mesaje false, iar pericolul, pe care l-am subliniat încă de atunci, era că această tehnică ar putea migra și spre manipularea procesului electoral. Nu am întâlnit un număr foarte mare de astfel de deepfake-uri comparativ cu tentativele de fraudă financiară din mediul online, dar există cazuri clare de manipulare a audienței prin conținut falsificat.
În ce sens?
De exemplu, au apărut videoclipuri deepfake cu personaje istorice care nu mai sunt în viață, cum ar fi un clip în care Nicolae Iorga părea să susțină un anumit candidat la alegerile prezidențiale din România. Evident, un astfel de material era realizat cu ajutorul inteligenței artificiale și reprezenta o încercare clară de dezinformare. Prin urmare, tehnologia deepfake nu este folosită doar în fraude financiare, ci și ca instrument de manipulare a informației, de răspândire a știrilor false și de distorsionare a realității prin dezinformare și informare eronată.
Un pericol real
Pare că această tehnologie subminează tot mai mult încrederea publicului, deoarece devine din ce în ce mai dificil să distingem între ceea ce este fals și ceea ce este 100% real. Ce efecte are tehnologia deepfake asupra încrederii noastre în informații și în sursele de informare?
Nu putem oferi concluzii absolute momentan. Putem doar să speculăm, deoarece nu știm exact până unde va ajunge această tehnologie. Totuși, dacă analizăm trendul din ultimii ani, există un pericol real ca încrederea publicului în informațiile transmise prin video, audio sau imagini să fie grav afectată. În momentul în care cineva cade de mai multe ori în capcana deepfake-urilor, nivelul încrederii scade considerabil. Prin urmare, impactul acestei tehnologii depinde în mare măsură de modul în care societatea, instituțiile și chiar tehnologia însăși răspund la această provocare. Aici intervine și necesitatea unei reglementări clare a acestor tipuri de conținut, precum și stabilirea unor reguli stricte privind utilizarea lor.
Dar cum poate un utilizator obișnuit să identifice un deepfake, mai ales atunci când vorbim despre variante mai avansate, care nu prezintă indicii evidente ale manipulării?
Din păcate, nu există metode simple și infailibile pentru detectarea deepfake-urilor. Spre exemplu, în domeniul securității cibernetice, există platforme precum virustotal.com, care acționează ca un agregator de soluții antivirus gratuite, sau scamadviser.com, unde utilizatorii pot introduce un link al unui magazin online pentru a primi un rating de siguranță. Însă, în cazul deepfake-urilor, nu avem încă un sistem similar, care să ofere un scor de la 0 la 100 privind autenticitatea unui conținut media. Deși există inițiative pentru dezvoltarea unor astfel de soluții, ele sunt încă într-un stadiu incipient. Chiar și colegii mei au testat diverse metode pentru a crea un ghid de identificare a deepfake-urilor, însă rata de succes a unui instrument similar cu cele menționate rămâne scăzută. Multe dintre aceste soluții generează fie rezultate fals-pozitive, fie nu reușesc să detecteze manipulările mai sofisticate.
„Să ne ajutăm unii pe alții“
Totuși, dacă un utilizator observă o astfel de reclamă deepfake frauduloasă, ce ar trebui să facă în continuare?
Primul pas ar fi să documenteze existența acelui conținut, dacă este posibil. Aceste reclame realizate cu ajutorul tehnologiei deepfake sunt adesea doar o momeală menită să redirecționeze potențialele victime către un site de phishing. Pe aceste site-uri, atacatorii încearcă să colecteze date sensibile, precum informații personale, date de autentificare sau detalii financiare, convingând victimele să „investească“ în oportunități false, care, de obicei, implică furnizarea unor date bancare. Dacă identificăm un astfel de conținut, este esențial să îl raportăm imediat către rețeaua socială sau platforma unde a fost publicat, astfel încât administratorii să îl poată elimina cât mai rapid. Pe de altă parte, dacă videoclipul promovează o tentativă de fraudă și cineva cade în capcană, oferind date financiare sau suferind pierderi bănești, este crucial să acționeze rapid. Primul pas este notificarea imediată a băncii pentru a încerca blocarea instrumentului financiar folosit și, dacă este posibil, anularea tranzacțiilor frauduloase în cooperare cu instituția bancară. Totodată, dacă am suferit o pagubă materială, este esențial să depunem o plângere la poliție pentru a deschide o investigație. În plus, este important să raportăm incidentul și către Directoratul Național de Securitate Cibernetică, astfel încât specialiștii să poată analiza cazul și, dacă este necesar, să disemineze informația pentru a avertiza și alte potențiale victime. Acest demers poate contribui la limitarea impactului unui astfel de atac. Efectele unui deepfake depind foarte mult de conținutul și de mesajul transmise, însă un prim pas esențial rămâne raportarea către platforma unde a fost publicat. Prin dezactivarea rapidă a acelui conținut cu ajutorul rețelei sociale, se pot reduce semnificativ riscurile și numărul victimelor expuse.
Cu alte cuvinte, și noi, utilizatorii, avem un rol important de jucat – trebuie să ne implicăm activ în semnalizarea acestor cazuri.
Este esențial să ne ajutăm unii pe alții, mai ales în domeniul tehnologiei. În România, educația digitală și securitatea cibernetică nu sunt încă la un nivel ridicat. În clasamentele internaționale privind economia digitală și indicele de securitate cibernetică, țara noastră se află adesea pe ultimele locuri. Până când cursurile de securitate cibernetică vor fi integrate în sistemul de învățământ și vor ajunge, ideal, chiar la copiii de vârstă fragedă – care deja utilizează dispozitive inteligente –, este important să ne sprijinim reciproc. Cei care au mai multă expertiză în acest domeniu pot contribui la conștientizarea riscurilor și la educarea celor din jur, fie că vorbim despre familie, prieteni sau comunități. Atunci când aflăm despre o anumită amenințare sau un tip de atac și știm cum ne putem proteja, este important să împărtășim aceste informații și cu ceilalți – fie că sunt membri ai familiei sau ai comunității noastre. Dacă cineva ne cere ajutorul, trebuie să oferim informațiile esențiale pentru a-l ajuta să se protejeze în mediul online. În plus, este crucial să vorbim deschis și cât mai frecvent despre aceste pericole, astfel încât tot mai mulți oameni să fie conștienți de riscuri și să știe cum să reacționeze.
Se încarcă comentariile...
