Cum a transformat inteligența artificială o ucraineancă YouTuber într-o rusoaică

O ucraineancă care studiază în Statele Unite ale Americii spune că și-a văzut chipul în videoclipuri pe rețele de socializare chinezești.

Olga Loiek și-a văzut chipul pe rețele sociale FOTO: X

„Nu vreau ca cineva să creadă că am spus vreodată în viața mea aceste lucruri oribile. Folosirea unei fete ucrainene pentru o față care promovează Rusia. Este o nebunie”.

Olga Loiek și-a văzut chipul apărând în diverse videoclipuri pe rețelele de socializare chinezești - un rezultat al instrumentelor de inteligență artificială generativă ușor de utilizat, disponibile online, scrie bbc.com. 

„Mi-am putut vedea fața și mi-am auzit vocea. Dar totul a fost foarte înfiorător, pentru că m-am văzut spunând lucruri pe care nu le-am spus niciodată", a declarat pentru BBC tânăra de 21 de ani, care studiază la Universitatea din Pennsylvania.

Conturile în care apărea asemănarea ei aveau zeci de nume diferite, precum Sofia, Natasha, April și Stacy. Aceste „fete” vorbeau în mandarină - o limbă pe care Olga nu o învățase niciodată. Se pare că erau din Rusia și vorbeau despre prietenia dintre China și Rusia sau făceau reclamă la produse rusești.

„Am văzut că aproximativ 90% dintre videoclipuri vorbeau despre China și Rusia, despre prietenia dintre China și Rusia, despre faptul că trebuie să fim aliați puternici, precum și reclame la produse alimentare”.

Unul dintre cele mai mari conturi a fost „Natasha imported food”, cu un număr de peste 300.000 de utilizatori. „Natasha” spunea lucruri precum „Rusia este cea mai bună țară. Este trist că alte țări se îndepărtează de Rusia, iar rusoaicele vor să vină în China", înainte de a începe să promoveze produse precum bomboanele rusești.

Acest lucru a înfuriat-o personal pe Olga, a cărei familie se află încă în Ucraina.

Dar, la un nivel mai larg, cazul ei a atras atenția asupra pericolelor unei tehnologii care se dezvoltă atât de rapid încât reglementarea ei și protejarea oamenilor a devenit o adevărată provocare.

De la YouTube la Xiaohongshu

Sosia AI-ului care vorbește mandarină a Olgăi a început să apară în 2023 - la scurt timp după ce aceasta și-a deschis un canal YouTube, care nu este actualizat foarte regulat.

Aproximativ o lună mai târziu, a început să primească mesaje de la persoane care susțineau că au văzut-o vorbind în mandarină pe platformele de socializare chinezești.

Intrigată, a început să se caute și a găsit asemănări AI cu ea pe Xiaohongshu - o platformă asemănătoare Instagram - și Bilibili, care este un site video similar cu YouTube.

„Erau foarte multe conturi. Unele aveau lucruri precum steaguri rusești în biografie", a spus Olga, care a găsit până acum aproximativ 35 de conturi care îi foloseau asemănarea.

După ce logodnicul ei a scris pe Twitter despre aceste conturi, HeyGen, o firmă despre care ea susține că a dezvoltat instrumentul folosit pentru a crea asemănările AI, a răspuns.

Aceștia au dezvăluit că peste 4.900 de videoclipuri au fost generate folosind chipul ei. Ei au spus că au blocat imaginea ei pentru a nu mai fi folosită.

Un purtător de cuvânt al companiei a declarat pentru BBC că sistemul lor a fost piratat pentru a crea ceea ce ei au numit „conținut neautorizat” și a adăugat că și-au actualizat imediat protocoalele de securitate și verificare pentru a preveni alte abuzuri ale platformei lor.

Dar Angela Zhang, de la Universitatea din Hong Kong, spune că ceea ce i s-a întâmplat Olgăi este „foarte comun în China”.

Țara „găzduiește o vastă economie subterană specializată în contrafacere, deturnarea de date personale și producerea de falsuri”, a spus ea.

Aceasta în ciuda faptului că China a fost una dintre primele țări care a încercat să reglementeze inteligența artificială și la ce poate fi folosită. Și-a modificat chiar și codul civil pentru a proteja drepturile de asemănare împotriva fabricării digitale.

Statisticile dezvăluite de departamentul de securitate publică în 2023 arată că autoritățile au arestat 515 persoane pentru activități de „schimb de fețe AI”. Instanțele chineze au gestionat, de asemenea, cazuri în acest domeniu.

Dar atunci cum de au ajuns atâtea videoclipuri cu Olga pe internet?

Unul dintre motive ar putea fi acela că au promovat ideea de prietenie între China și Rusia.

Beijingul și Moscova s-au apropiat semnificativ în ultimii ani. Liderul chinez Xi Jinping și președintele rus Putin au declarat că prietenia dintre cele două țări nu are „nicio limită”. Cei doi urmează să se întâlnească în China în această săptămână.

Mass-media de stat chineză a repetat narațiunile rusești care justifică invazia sa în Ucraina, iar mediile sociale au cenzurat discuțiile despre război.

„Nu este clar dacă aceste conturi se coordonau sub un scop colectiv, dar promovarea unui mesaj care este în concordanță cu propaganda guvernamentală îi avantajează cu siguranță”, a declarat Emmie Hine, cercetător în domeniul dreptului și tehnologiei de la Universitatea din Bologna și KU Leuven.

„Chiar dacă aceste conturi nu sunt legate în mod explicit de PCC [Partidul Comunist Chinez], promovarea unui mesaj aliniat poate face mai puțin probabil ca postările lor să fie retrase.”

Dar acest lucru înseamnă că oamenii obișnuiți precum Olga rămân vulnerabili și riscă să încalce legislația chineză, avertizează experții.

Kayla Blomquist, cercetător în domeniul tehnologiei și al geopoliticii la Universitatea Oxford, avertizează că „există riscul ca indivizilor să li se însceneze cu conținut generat artificial, sensibil din punct de vedere politic”, care ar putea fi supuși unor „pedepse rapide, adoptate fără un proces echitabil”.

Ea adaugă că Beijingul s-a concentrat, în legătură cu IA și cu politica de confidențialitate online, pe consolidarea drepturilor consumatorilor împotriva actorilor privați prădători, dar subliniază că „drepturile cetățenilor în raport cu guvernul rămân extrem de slabe”.

Dna Hine explică faptul că „obiectivul fundamental al reglementărilor chineze privind IA este de a echilibra menținerea stabilității sociale cu promovarea inovației și a dezvoltării economice”.

„În timp ce reglementările în vigoare par stricte, există dovezi de aplicare selectivă, în special a regulii de acordare a licențelor generative de IA, care ar putea avea ca scop crearea unui mediu mai favorabil inovării, cu înțelegerea tacită că legea oferă o bază pentru a lua măsuri represive dacă este necesar”, a spus ea.

Dar ramificațiile cazului Olgăi se extind mult dincolo de China - acesta demonstrează dificultatea de a încerca să reglementeze o industrie care pare să evolueze cu o viteză amețitoare și în care autoritățile de reglementare încearcă în mod constant să recupereze decalajul. Dar asta nu înseamnă că nu încearcă.

În martie, Parlamentul European a aprobat Legea privind IA, primul cadru cuprinzător din lume pentru limitarea riscurilor tehnologiei. Iar în octombrie anul trecut, președintele SUA, Joe Biden, a anunțat un ordin executiv care le cere dezvoltatorilor de inteligență artificială să împărtășească datele cu guvernul.

În timp ce reglementările la nivel național și internațional progresează lent în comparație cu cursa rapidă a creșterii IA, avem nevoie de „o înțelegere mai clară și un consens mai puternic în jurul celor mai periculoase amenințări și a modului de a le atenua”, spune dna Blomquist.

„Cu toate acestea, dezacordurile din interiorul și dintre țări împiedică luarea unor măsuri tangibile. Statele Unite și China sunt actorii cheie, dar crearea unui consens și coordonarea acțiunilor comune necesare vor fi o provocare", adaugă ea.

Între timp, la nivel individual, se pare că oamenii nu prea pot face mare lucru în afară de a nu posta nimic online.

„Singurul lucru pe care îl putem face este să nu le dăm niciun material cu care să lucreze: să nu încărcăm fotografii, videoclipuri sau înregistrări audio ale noastre pe rețelele sociale publice”, spune Hine. „Cu toate acestea, actorii răi vor avea întotdeauna motive să îi imite pe alții și, prin urmare, chiar dacă guvernele iau măsuri drastice, mă aștept să vedem o creștere consistentă în mijlocul acestui whack-a-mole de reglementare.”

Olga este „100% sigură” că nu va fi ultima victimă a IA generativă. Dar este hotărâtă să nu lase ca aceasta să o alunge de pe internet.

Ea și-a împărtășit experiențele pe canalul său de YouTube și spune că unii utilizatori chinezi de internet au ajutat-o comentând sub videoclipurile în care se folosește imaginea ei și subliniind că sunt false.

Ea adaugă că multe dintre aceste videoclipuri au fost retrase.

„Am vrut să-mi împărtășesc povestea, am vrut să mă asigur că oamenii vor înțelege că nu tot ceea ce vezi online este real”, spune ea. „Îmi place să-mi împărtășesc ideile cu lumea și niciunul dintre acești escroci nu mă poate opri să fac asta”.