Soft pentru depistarea deepfake. Unei studente din Moldova i-a venit ideea după atacul informatic asupra Maiei Sandu
0Silvia Murzacov, studentă la Facultatea de Inginerie din Galați, a conceput un soft care identifică orice discrepanță în mimica feței, mișcarea buzelor și chiar a corpului dintr-un fișier video, demascând astfel orice falsificare a conținutului.
Silvia Murzacov (23 de ani), studentă în anul II la Facultatea de Inginerie din cadrul Universității „Dunărea de Jos” din Galați, specializarea Informatică Aplicată în Ingineria Materialelor, a dezvoltat recent un soft care permite identificarea rapidă a fișierelor video care sunt modificate pentru a răspândi imagini și știri false. Pe scurt, deepfake-uri.
Algoritmul creat de Silvia permite utilizatorului să afle dacă un fișier video la care se uită a fost sau nu modificat de către cei care îl distribuie prin identificarea discrepanțelor din mimica feței și voce.
„Totul a început cu glume, cu meme-uri (n.r. imagini modificate intenționat prin intermediul creativității umane), ca apoi să se înțeleagă că diverse persoane pot fi puse în situații jenante sau chiar compromițătoare”, a explicat studenta pe scurt pentru „Adevărul” cum au evoluat deepfake-urile.
Pandemia de Covid și războiul din Ucraina au fost subiectul a zeci de mii de deepfake-uri.
„Este suficient ca cineva să ia un fișier video, să suprapună un alt sunet peste cel original din videoclip și să creeze pe calculator o mimică a feței care să dea impresia falsă că acea persoană transmite un anumit mesaj, așa cum vrea autorul”, detaliază Silvia conceputul de deepfake.
Maia Sandu, sursă de inspirație pentru crearea softului
Tânăra, originară din Republica Moldova, spune că ideea creării softului i-a venit după ce în țara vecină a fost distribuit masiv un deepfake ce a avut-o ca țintă pe Maia Sandu, președintele țării.
Softul conceput de Silvia identifică orice anomalie în mișcarea buzelor, a mușchilor feței și mișcările corpului raportat la mesajul pe care autorul deepfake-ul îl transmite prin fișierul video. Unele din aceste mișcări se repetă în mod ciudat, altele se întrerup bizar în timpul derulării videoclipului, iar softul creat de Silvia le reperează imediat.
„Persoanele care concep aceste falsuri nu sunt întotdeauna foarte atente la detalii, iar softul creat de Silvia identifică aceste discrepanțe, aceste mici anomalii, iar atunci avem certitudinea că avem de-a face cu un deepfake”, punctează Florin Marin Bogdan, doctor inginer şi şef de lucrări la Facultatea de Inginerie din cadrul Universității „Dunărea de Jos” din Galați, dar și coordonatorul Cercului Ştiinţific Studenţesc de Informatică Aplicată în Ingineria Materialelor, din care face parte și studenta din Republica Moldova.
Acces gratuit la algoritm
Algoritmul conceput de Silvia arată o linie roșie pe ecranul calculatorul pe care rulează softul în momentul în care a fost identificată o mișcare sau un sunet care nu corespund realității, marcând astfel anomalia.
Softul creat de studenta de la Galați a pornit de la conceputul de vedere artificială, ce se traduce prin folosirea mai multor tehnici de scoatere a informațiilor dintr-o imagine, a căror autenticitate este verificată apoi cu ajutorul inteligenței artificiale.
Pe piață au fost lansate mai multe softuri asemănătoare, dar tehnologia se perfecționează permanent. Silvia vrea ca toată lumea să aibă acces gratuit la softul conceput de ea.
„Oricine vrea să îl descarce, să poată face asta gratuit când are dubii cu privire la autenticitatea unui fișier video. Cel mai bine ar fi ca softul să pornească automat de fiecare dată când cineva se uită la un videoclip pe rețelele de socializare, de pildă, sau caută pe Internet și să știe pe loc dacă este sau nu un deepfake”, explică studenta la Inginerie.
Fenomenul deepfake
În traducere, deepfake înseamnă conținut falsificat cu ajutorul inteligenței artificiale. Vorbim practic de înregistrări video sau audio care arată și sună ca și cum ar fi reale, dar care, de fapt, au fost create pe calculator.
Termenul deepfake este o combinație între termenii „deep learning”, o caracteristică a inteligenței artificiale, și „fake” (fals), iar tehnologia are la bază un concept numit Generative Adversarial Network (rețea generativă adversarială), ce poate fi folosit pentru a reproduce imagini video și sunet ce par autentice pentru ochiul și urechea umană.
Deepfake-urile au apărut în 2017 pe rețeaua Reddit, când un utilizator, care s-a semnat cu pseudonimul „deepfakes”, a creat o serie de video-uri trucate, folosindu-se de chipurile unor actori celebri.
Primul politician care a căzut „victimă” a acestei tehnologii a fost fostul președinte american Barack Obama, care a transmis un mesaj în totală contradicție cu cele cu care își obișnuise publicul în aparițiile sale publice.
Principala problemă cu deepfake-urile este că ele pot influența masiv opinia publică prin impactul vizual și emoțional pe care îl au, înainte ca persoanele care fac obiectul acestora să reușească să le combată argumentat. De regulă, deepfake-urile sunt folosite pentru a strica imaginea unor persoane publice, dar și în scop de răzbunare.
Și mai grav este că acum practic orice persoană care acces la un computer poate crea un deepfake, iar persoanele care vizionează conținutul video se vor lăsa păcălite într-o primă fază de aceste înregistrări video și audio false.
Tocmai de aceea, softul creat de Silvia este cu atât mai valoros, pentru că va permite oricărei persoane să verifice autenticitatea unei astfel de înregistrări în doar câteva secunde și să nu se lase influențată de conținuturile false create pe calculator.
Dronă submarină complet autonomă
Studenta de la Galați lucrează în prezent să transpună în practică o altă idee îndrăzneață. Este vorba de conceperea unei drone submarine complet autonome, care nu ar depinde deloc de elementul uman.
„Scopul ei este să studieze mediul submarin, dar și să detecteze mine. Va fi dotată cu mai mulți senzori, ce îi vor permite să se deplaseze singură, să evite obstacolele și să nu fie ghidată de personalul de pe o navă maritimă. Acest lucru se poate dovedi și greu în anumite condiții, de pildă când este furtună”, explică Florin Marin Bogdan, profesorul coordonator al Silviei.
O astfel de dronă nu ar depinde nici de oameni, nici de capriciile naturii. I se stabilește un curs clar, iar prin intermediul senzorilor cu care va fi dotată va explora mediul subacvatic și va detecta și mine submarine, dacă va fi nevoie, reducând semnificativ riscul ca acestea să explodeze în apropierea navelor.
În prezent, chiar și navele militare specializate au dificultăți serioase în efectuarea operațiunilor de deminare, mai ales când marea este agitată, și s-a întâmplat ca minele să explodeze, avariind serios vasul respectiv și punând în pericol siguranța echipajului.
Tânăra din Republica Moldova va rămâne în România după absolvirea facultății și va lucra la simularea, proiectarea și programarea de softuri pe diverse domenii.