„Inteligența Artificială ne citește fricile”. Ghid de protecție împotriva manipulării digitale

Un nou ghid educațional, lansat sub egida Directoratului Național de Securitate Cibernetică (DNSC) și Poliției Române, trage un semnal de alarmă privind modul în care tehnologia ne influențează viața de zi cu zi.

Specialiștii avertizează că, într-o lume în care tehnologia evoluează mai rapid decât capacitatea noastră de a-i înțelege riscurile, educația cibernetică devine singura formă reală de protecție. Programul intitulat „Analizează – Decide – Acționează” explică pe înțelesul tuturor cum algoritmii nu mai sunt doar simple instrumente, ci au devenit vectori activi de modelare a percepției și comportamentului uman.

Ghidul este disponibil atât în limba română, cât și în limba engleză şi explică:

• cum pot fi create imagini și voci false (deepfake);
• cum apar mesajele sau conversațiile generate automat de AI;
• cum pot fi folosite emoțiile pentru a ne influența deciziile;
• cum ajungem să primim conținut „pe gustul nostru” prin personalizare algoritmică.

Pericolul invizibil: AI-ul care detectează vulnerabilitatea

Autorii materialului atrag atenția asupra unei realități invizibile pentru utilizatorul obișnuit: capacitatea Inteligenței Artificiale de a ne „simți” emoțiile. Prin tehnologii avansate de tip „Emotion AI”, sistemele pot detecta stările de anxietate, tristețe sau euforie ale utilizatorului, analizând micro-expresiile faciale sau tonul vocii.

Odată identificată starea de vulnerabilitate, algoritmul poate livra exact acel conținut capabil să provoace o reacție imediată, fie că este vorba despre o știre alarmistă sau o ofertă comercială de nerefuzat, exploatând astfel instabilitatea emoțională a persoanei.

Capcana „bulelor informaționale” și deepfake-ul

Un alt pericol major semnalat de autorități este iluzia realității create de algoritmi. Utilizatorii rețelelor sociale riscă să rămână captivi în așa-numitele „bule informaționale”, spații digitale în care li se afișează doar opiniile care le confirmă propriile convingeri.

Această filtrare invizibilă a conținutului duce la o percepție distorsionată asupra lumii, lăsând impresia falsă că „toată lumea gândește la fel”, ceea ce favorizează radicalizarea și intoleranța față de opiniile diferite.

Mai mult, tehnologiile de tip deepfake au ajuns la un nivel de rafinament care permite crearea de videoclipuri și voci sintetice aproape imposibil de deosebit de cele reale, punând sub semnul întrebării veridicitatea oricărui material vizual sau auditiv întâlnit online.

Vigilența, singura soluție în fața boților „empatici”

În fața acestor amenințări sofisticate, care includ și boți conversaționali capabili să simuleze empatia pentru a câștiga încrederea victimelor în tentative de fraudă, singura soluție viabilă rămâne vigilența.

Ghidul realizat cu sprijinul Poliției Române și al DNSC îndeamnă populația să adopte o atitudine critică și să verifice orice informație din surse multiple înainte de a reacționa.