Roiurile de inteligență artificială ar putea afecta în mod semnificativ echilibrul de putere în societățile democratice
0Cercetătorii avertizează că personajele virtuale extrem de realiste, controlate de inteligența artificială, ar putea juca în curând un rol major în formarea opiniei publice și în influențarea sistemelor democratice.
Un document recent al unui forum de politici publicat în revista Science descrie modul în care grupuri mari de personaje generate de IA pot imita în mod convingător comportamentul uman online.
Aceste sisteme pot intra în comunități digitale, participa la discuții și influența punctele de vedere cu o viteză extraordinară, scrie Science Daily.
Spre deosebire de rețelele de boți anterioare, acești agenți IA se pot coordona instantaneu, pot răspunde la feedback și pot menține narațiuni consecvente pe mii de conturi.
Cum imită personajele cu inteligență artificială oamenii reali online
Progresul rapid în domeniul modelelor lingvistice de mari dimensiuni și al sistemelor multi-agent a făcut posibil ca un singur operator să gestioneze rețele vaste de „voci” ale IA.
Aceste personaje pot părea autentice, pot adopta limba și tonul local și pot interacționa într-un mod care pare natural pentru ceilalți utilizatori.
De asemenea, ele sunt capabile să desfășoare milioane de experimente la scară mică pentru a determina care mesaje sunt cele mai convingătoare.
Acest lucru le permite să-și rafineze strategiile de comunicare în timp real și să genereze ceea ce pare a fi un consens public larg. În realitate, acest consens este creat artificial și conceput pentru a influența discuțiile politice.
Deepfake-urile și știrile false semnalează riscuri timpurii
Deși roiurile de IA pe deplin dezvoltate sunt încă în mare parte teoretice, cercetătorii spun că există deja semne de avertizare.
Acestea includ deepfake-uri generate de IA și surse de știri false care au influențat recentele discuții electorale în țări precum Statele Unite, Taiwan, Indonezia și India, potrivit informaticianului de la UBC, dr. Kevin Leyton-Brown.
În același timp, organizațiile de monitorizare au identificat rețele pro-Kremlin care răspândesc volume mari de conținut online.
Se crede că această activitate are ca scop modelarea datelor utilizate pentru antrenarea viitoarelor sisteme de IA, influențând potențial modul în care aceste sisteme se comportă și ce informații prioritizează.
Experții avertizează asupra impactului crescând asupra democrației
Privind în viitor, experții consideră că „roiurile” de IA ar putea afecta în mod semnificativ echilibrul de putere în societățile democratice.
Dr. Leyton-Brown a avertizat că aceste sisteme vor schimba probabil modul în care oamenii au încredere în informațiile online. „Nu ar trebui să ne imaginăm că societatea va rămâne neschimbată odată cu apariția acestor sisteme. Un rezultat probabil este scăderea încrederii în vocile necunoscute de pe rețelele sociale, ceea ce ar putea da putere vedetelor și ar face mai dificilă afirmarea mesajelor venite de la nivelul de bază”.
Se încarcă comentariile...
