De ce platforma chinezească DeepSeek poate deveni o armă de manipulare și dezinformare. Explicațiile specialiștilor| ANALIZǍ
0Lansarea platformei DeepSeek a stârnit rumoare în întreaga lume. Iar marile puteri au, pe undeva, dreptate să fie fie îngrijorate, căci China deține în acest moment încă o armă de temut. La modul general vorbind, inteligența artificială poate fi folosită inclusiv în scopuri malițioase, însă temerea devine cu atât mai mare cu cât ne aflăm în fața unui stat comunist și a doua cea mai mare putere economică a lumii. Doi experți români au comentat pentru „Adevărul” situația încercând să explice implicațiile acestei ascensiuni tehnologice cu care Beijingul jubilează acum.
Rufin Zamfir, senior expert GlobalFocus Center și specialist în dezinformare, a precizat pentru „Adevărul” că, la modul general vorbind, demersurile pentru crearea unor astfel de instrumente AI nu sunt noi: „Sunt ani buni de când multe business-uri internaționale, cum este Google, dezvoltă astfel de instrumente”.
Ce trebuie știut de la bun început este că, teoretic, aceste instrumente AI nu sunt niște instrumente ideologice, consideră specialistul: „Ele nu fac decât să pună cap la cap niște informații, să creeze mai apoi texte comprehensive, care să satisfacă nevoile utilizatorului”. Firește, există și riscul ca aceste date și informații să fie preluate fără a ține cont de veridicitatea lor: „Tot teoretic, aceste răspunsuri formulate de platformă la solicitarea consumatorului sunt preluate din surse validate în prealabil”. Specialistul ne-a explicat faptul că unul dintre motivele pentru care cercetătorii se îndreaptă către astfel de surse de încredere este și validitatea limbajului folosit de acele surse. „De exemplu, când echipa începe să dezvolte o astfel de platformă, un instrument foarte bun îl reprezintă documentele elaborate la nivelul Uniunii Europene”. De ce? Pentru că limbajul folosit în aceste documente este unul universal acceptat: „Nu conține informații obscure, limbaj licențios, date care frizează pseudoștiința, etc”.
Ce înseamnă manipularea ideologică
Inclusiv DeepSeek a procedat în acest fel, consideră Rufin Zamfir. „Este mult mai greu pentru dezvoltatorii unor astfel de platforme să permită mașinăriei să compileze din orice blog, orice articol online, orice postare. Și-ar încărca algoritmul pe dimensiunea de validare a cuvintelor sau a seturilor de cuvinte. Deci, din punctul acesta de vedere, nu avem motive să credem că DeepSeek își extrage răspunsurile dintr-o anumită zonă obscură. Nu aici este pericolul”.
În altă parte ar trebui să ne îndreptăm atenția, avertizează expertul, precizând că există posibilitatea ca acestei platforme chinezești să-i fi fost impuse filtre ideologice. „Ne putem gândi la faptul că statul chinez le-ar fi putut cere dezvoltatorilor fie să prioritizeze un anumit set de informații, fie să programeze platforma în așa fel încât aceasta să extragă răspunsuri doar dintr-un anumit set de surse”. Mai mult, pentru că dezvoltatorii sunt oameni de afaceri, evident că nu-și doresc să supere autoritățile chineze. „Prin urmare, ne putem gândi și la o anumită doză de autocenzură”. Rufin Zamfir face referire, în acest context, la o serie de comentarii ale utilizatorilor care deja se plâng de faptul că platforma nu ar furniza răspunsuri satisfăcătoare atunci când sunt atinse anumite subiecte controversate: „Despre masacrul din Piața Tiananmen DeepSeek a ezitat să ofere prea multe detalii. Prin urmare, putem să luăm în calcul riscul ca platforma să funcționeze având acest filtru ideologic cu ajutorul căruia formulează răspunsuri manipulative sau care să inducă utilizatorii în eroare”.
Expert în securitate cibernetică: „Tinerii ar putea fi supuși unor tehnici de manipulare”
Alexandru Panait, expert în securitate cibernetică, a comentat pentru „Adevărul” în termeni mai duri această ascensiune tehnologică „peste noapte” a Chinei: „Nu știm exact cu ce seturi de date a fost antrenată această inteligență artificială. Cu siguranță, au fost folosite seturi de date culese din tot internetul și, în același timp, au fost făcute anumite modificări ce țin de propagandă și discurs. Există riscul ca această inteligență artificială să fie părtinitoare pentru ideile care se doresc a fi insuflate Occidentului. Cu siguranță, există riscul ca răspunsurile pe care DeepSeek le va da despre politică, tehnologie, despre supremația economică mondială să aibă anumite influențe”. Utilizatorii tineri, continuă expertul în securitate cibernetică - dacă folosesc inteligența artificială chinezească - ar putea fi supuși unor tehnici de propagandă, ar putea fi influențați într-un anumit fel și manipulați; „Să ne amintim despre faptul că, odată cu apariția rețelelor de socializare, românii au fost influențați de cultura americană cu Hollywood, muzica pop etc”.
Unde se duc, de fapt, datele noastre și ce se întâmplă cu ele
Teama pe care ar trebui s-o resimțim în fața unor astfel de platforme ar trebui să fie proporțională cu disponibilitatea de a oferi platformei datele noastre personale, fără să manifestăm niciun fel de filtru de discreție, consideră Rufin Zamfir; „Să ne gândim doar la cât de mulți oameni sunt dispuși să publice pe platformele sociale fotografii cu locurile pe care le vizitează, fotografii cu membrii familiei, imagini de la locul de muncă sau informații despre locul de muncă”. Care este consecința acestor expuneri publice? Aceste instrumente AI vor cunoaște despre noi tot atâtea date cât le punem noi la dispoziție. Și chiar puțin mai mult. „Inteligența artificială este capabilă să facă și anumite conexiuni, predicții în funcție de informațiile pe care i le furnizăm. Și să intuiască anumite acțiuni pe care ar urma să le întreprindem. Practic, în acest fel funcționează toate platformele online de publicitate”.
Rufin Zamfir vine cu un exemplu concret. Specialistul amintește despre fenomenul care s-a propagat în online acum câțiva ani și care a prins în mreje milioane de utilizatori. S-a creat o adevărată isterie atunci: „Circula în spațiul online, pe platformele sociale în special, un fel de invitație să-ți încarci pe un site o fotografie cu tine de acum, iar site-ul îți arăta cum vei îmbătrâni, cum vei arăta peste 20 de ani”. Un joculeț amuzant care, la prima vedere, părea inofensiv. Dar nu s-a întrebat nimeni cine procesează acele imagini, unde sunt stocate, dacă vor fi sau nu folosite în alte scopuri, etc. Evident că au fost folosite în alte scopuri: „Această platformă unde îți încărcai fotografiile era, de fapt, un colector de imagini, de profile caucaziene. Oameni similari din punctul de vedere al rasei. Cei care au pus la dispoziție acest joc colectau, de fapt, o bibliotecă cu arhetipuri în special caucaziene. Ulterior, au fost folosite în tot soiul de analize sociologice, de mulțimi, în profiling etc”.
Expertul consideră că acest tip de individ care se expune în online în toată splendoarea, fără a-și lua nici cea mai mică măsură de protecție, nu ar trebui să se sperie de apariția a încă unei platforme de acest tip. Ei se vor expune oricum, oriunde și oricui. „Toate informațiile pe care le furnizăm pe platforma DeepSeek vor ajunge în mâinile statului chinez, cum toate informațiile pe care le oferim pe platformele de inteligență artificială din America au potențialul a de ajunge în posesia guvernului american. Deci, în oricare dintre cazuri este extrem de important să oferim doar informatii care nu sunt extrem de personale”, completează ideea și Alexandru Panait.
Războiul boților. DeepSeek, un „Terminator” în fază incipientă?
Cum ar putea folosi China această armă pentru a influența politicile, economia, finanțele, chiar securitatea altor state? „Să presupunem că ar fi interesată să realizeze profilul utilizatorului din Vest. Acest lucru poate fi conceput utilizând informații despre tot ceea ce reprezintă interesul acestui tip de public. Cu aceste informații se poate crea un substitut de om care să arate exact ca un om vestic, să gândească exact ca un om vestic, să lase certitudinea celor cu care interacționează că este un vestic. Firește, însă, că acest vehicul poate să fie folosit în scopuri nobile sau negative, pentru a face rău. Este vorba doar despre interesele care se ascund în spatele acestei unelte”, consideră Rufin Zamfir.
Iar dacă ne gândim la interesele pe care statul chinez le are la nivel economic, la interesele de spionaj ale Chinei, la cele militare sau științifice, tehnologia deținută în prezent de această țară poate deveni o amenințare, mai spune expertul: „Nu au ținut seama de normele economice, fie că este vorba despre transparența folosirii banilor, fie că este vorba despre accesul la datele pe care le-au obținut ca să „hrănească” mașina. Asta ar putea fi într-adevăr o problemă”.
DeepSeek poate fi privită ca o armă de manipulare și dezinformare, așa cum sunt privite, de altfel, și alte produse care vin din alte state. ”Pentru că întotdeauna un stat care deține supremația va încerca să și-o păstreze prin toate mijloacele de care dispune”, consideră și Alexandru Panait, expert în securitate cibernetică și fondator Gov-Smart.