Avertisment privind viitorul democrației: Recomandările electorale oferite de chatboturile AI sunt „inexacte și nesigure”

Chatboturile bazate pe inteligență artificială oferă îndrumări inexacte, inconsistente și nesigure alegătorilor care întreabă ce partid ar trebui să susțină, arată un studiu. În multe cazuri, acestea recomandă partidul greșit sau enumeră formațiuni care nici măcar nu candidează.

Recomandările electorale oferite de chatboturile AI sunt inexacte, spun experții FOTO Shutterstock

„Rezultatele ridică serioase semne de întrebare cu privire la fiabilitatea sistemelor AI de uz general în contexte electorale”, concluzionează studiul publicat de organizația pentru apărarea libertăților civile Liberties, pe baza unei cercetări realizate în timpul alegerilor parlamentare din Ungaria din acest an.

„Au încadrat greșit profilurile, au omis partide relevante și au inclus formațiuni care nu candidau la alegeri”, se arată în raport, consultat de The Guardian. Rezultatele au fost, de asemenea, extrem de volatile, fiind oferite răspunsuri „semnificativ diferite” la solicitări identice.

Cea mai surprinzătoare constatare a raportului privind alegerile din Ungaria, câștigate categoric de partidul de opoziție Tisza, condus de Péter Magyar, a fost un dezechilibru major în ceea ce privește vizibilitatea partidelor, în special în cazul formațiunii Tisza. În 90% dintre cazurile în care ChatGPT a primit un profil detaliat al unui alegător ale cărui opinii se aliniau cu cele ale partidului Tisza, chatbotul nu a recomandat formațiunea.

Victoria zdrobitoare a lui Magyar a pus capăt celor 16 ani în care Viktor Orbán s-a aflat la putere în calitate de prim-ministru și lider al partidului său, Fidesz, de orientare național-conservatoare.

Recomandările AI nu pot fi verificate sau reproduse

Cercetătorii au subliniat că, spre deosebire de platformele de recomandare electorală sau de materialele explicative publicate de instituții media independente, sistemele AI de uz general (GPAI) nu dezvăluie modul în care generează recomandări politice, nu oferă rezultate reproductibile și nu sunt supuse unei supravegheri publice specifice în context electoral.

Cu toate acestea, răspunsurile lor par adesea sigure și autoritare, ceea ce îi poate determina pe utilizatori să aibă mai multă încredere în ele. În condițiile în care 29,8% din populația Ungariei este identificată drept utilizatoare de inteligență artificială, cercetătorii au testat recomandările oferite de cele mai populare două sisteme: ChatGPT și Gemini.

Pe baza pozițiilor partidelor prezentate pe Voksmonitor, o aplicație ungară respectată de recomandare electorală, organizația Liberties a creat cinci profiluri distincte de alegători, fiecare aliniat cu unul dintre cele cinci partide înscrise pe listele naționale pentru alegerile parlamentare din Ungaria.

Fiecare profil de alegător a fost testat de 10 ori în ChatGPT și de 10 ori în Gemini, folosind două tipuri de solicitări: una prin care se cerea o recomandare directă privind partidul pe care alegătorul fictiv ar trebui să îl susțină și alta prin care se solicita un procent de compatibilitate cu fiecare dintre cele cinci partide.

ChatGPT a asociat alegătorii Tisza cu partide fără șanse

În testele bazate pe procentul de compatibilitate, ChatGPT a acordat partidului Tisza un scor în doar 2% dintre cazuri. În schimb, utilizatorilor ale căror opinii se aliniau cu cele ale partidului Tisza le era recomandat în mod repetat un partid mai mic, puțin probabil să depășească pragul electoral de 5%, sau formațiuni care nu se aflau pe buletinul de vot național.

În schimb, profilurile alegătorilor care susțineau Fidesz au fost recunoscute mult mai consecvent. În cazul solicitărilor pentru recomandări directe, ChatGPT a identificat Fidesz drept singurul partid pentru care utilizatorul ar trebui să voteze în aproximativ 50% dintre cazuri, prezentându-l ca opțiune principală în celelalte situații.

Analiza nu susține că rezultatul alegerilor a fost influențat: Tisza a câștigat în continuare categoric. Cercetătorii avertizează însă: „Într-un scrutin mai competitiv sau într-o situație în care alegătorii sunt mai puțin hotărâți, astfel de rezultate ar putea ... influența în cele din urmă rezultatul”.

În 96% dintre răspunsuri au apărut partide care nu candidau

Printre celelalte probleme identificate s-a numărat lipsa de consecvență. Același profil de alegător a fost asociat cu partide radical diferite în teste succesive. În plus, în 96% dintre răspunsurile oferite de ChatGPT și Gemini au fost incluse partide care nu figurau pe buletinul de vot pentru alegerile din 2026.

Cercetătorii au mai observat că ambele modele AI își începeau în mod frecvent răspunsurile cu avertismente politicoase, spunând că „nu pot oferi sfaturi politice”, după care furnizau mai multe paragrafe cu recomandări detaliate și extrem de convingătoare privind partidele.

„Răspunsurile păreau bine argumentate, precise și autoritare”, au afirmat cercetătorii. „Acest lucru creează riscul ca utilizatorii să considere rezultatele fiabile, deși metoda care stă la baza lor este opacă, iar rezultatele sunt instabile.”

De ce dau chatboturile recomandări greșite

Raportul susține că principala cauză a erorilor se află probabil în lacunele datelor de antrenare, filtre și limitările procesării limbajului. Partidul Tisza a devenit cunoscut abia după 2024, ceea ce înseamnă că modelele AI antrenate pe seturi de date statice au întâmpinat dificultăți în a-l include în analiza lor.

Cercetătorii afirmă însă că rezultatele au scos la iveală o lacună serioasă de reglementare: regulamentul european privind inteligența artificială, AI Act, obligă furnizorii de modele AI de uz general să evalueze riscurile sistemice, iar Actul privind serviciile digitale (Digital Services Act) acoperă „riscurile sistemice” pentru procesele electorale. Chatboturile AI se află însă la granița dintre cele două reglementări.

Organizația Liberties a afirmat că ar trebui dezvoltate măsuri de protecție pentru sistemele AI care oferă recomandări politice, iar furnizorii de inteligență artificială ar trebui să înceteze să ofere recomandări electorale personalizate, cu excepția cazului în care pot garanta transparența, acuratețea, consecvența și asumarea responsabilității.

„Sistemele AI de uz general nu ar trebui să prezinte potrivirea politică opacă și instabilă drept o îndrumare electorală fiabilă” pentru alegători, a declarat Eva Simon, coordonatoarea programului pentru tehnologie și drepturi al organizației Liberties. „Democrația nu se poate baza pe sisteme opace care pretind că sunt neutre, dar oferă recomandări pe care nu le pot explica, reproduce sau garanta ca fiind corecte”, a adăugat.