Dezinformarea rusă invadază chatboții AI, arată un studiu

Un raport recent dezvăluie că eforturile de dezinformare ale Rusiei, care au inundat internetul cu afirmații false și propagandă, continuă să influențeze rezultatele majorităților chatboților AI. Studiul, realizat de NewsGuard și distribuit în exclusivitate către Axios, extinde cercetările inițiale din anul trecut și vine pe fondul unor rapoarte care sugerează că Statele Unite ar putea suspenda o parte din eforturile sale de a contracara activitățile cibernetice ale Rusiei.

În loc să încerce să influențeze direct percepțiile oamenilor, rețeaua de dezinformare rusă se concentrează pe manipularea rezultatelor chatboților AI. Potrivit unui raport al NewsGuard, rețeaua din Moscova cunoscută sub numele de „Pravda” (cuvântul rus pentru „adevăr”) este responsabilă de propagarea minciunilor pe internet, impactând rezultatele căutărilor și ale motoarelor de căutare folosite de chatboți.

Scopul rețelei Pravda: Distorsionarea informației globale

Peste 3,6 milioane de articole false au fost publicate anul trecut, ajungând să influențeze chatboții AI din Occident, conform cercetărilor realizate de American Sunlight Project. Rețeaua „Pravda” are ca scop inundarea rezultatelor căutărilor și a crawler-elor web cu falsuri pro-Kremlin, distorsionând modul în care modelele lingvistice mari procesează și prezintă informațiile.

O treime din răspunsurile chatboților conțin dezinformare

Studiul NewsGuard a analizat 10 chatboți majori, inclusiv Microsoft, Google, OpenAI, You.com, xAI, Anthropic, Meta, Mistral și Perplexity, și a descoperit că, într-o treime din cazuri, aceștia au reciclat argumentele și informațiile provenite de la rețeaua Pravda. Printre minciunile răspândite de această rețea se numără cel puțin 207 afirmații demonstrabil false, multe dintre ele referitoare la Ucraina.

Pravda: o rețea globală de propagandă

Lansată în aprilie 2022, după invazia pe scară largă a Ucrainei de către Rusia, rețeaua Pravda a ajuns să acopere 49 de țări și să opereze în zeci de limbi. În rețea sunt incluse aproximativ 150 de site-uri, dintre care aproximativ 40 sunt în limba rusă și folosesc domenii ce fac referire la diverse regiuni din Ucraina. Pravda nu produce conținut original, ci adună articole și materiale de la mass-media de stat rusă și influenceri pro-Kremlin.

Dezinformarea în era AI: o problemă tot mai mare

Rețelele de dezinformare și informațiile eronate (dezinformarea și dezinformarea neintenționată) reprezintă riscuri semnificative pentru tehnologiile de inteligență artificială generativă. Descoperirile NewsGuard completează un raport din februarie al American Sunlight Project, care avertiza asupra intenției rețelei de a influența chatboții, mai degrabă decât de a convinge direct indivizi.

Risc pe termen lung: manipularea AI-ului global

În această linie, NewsGuard subliniază că strategia de dezinformare a fost anticipată într-o conferință din ianuarie 2023, când John Mark Dougan, un american devenit propagandist al Moscovei, le-a spus oficialilor ruși că „prin promovarea narativelor rusești din perspectiva Rusiei, putem schimba, de fapt, AI-ul la nivel global”.

Astfel, dezinformarea rusă continuă să fie o amenințare majoră pentru integritatea informațiilor globale și pentru evoluția tehnologiilor AI, iar riscurile politice, sociale și tehnologice asociate cu manipularea acestora sunt tot mai evidente.