Noul software AI al X încurajează abuzurile rasiste online. „Oferă stimulente în bani conturilor pentru a face acest lucru”

Experții în abuzuri online avertizează că imaginile rasiste generate de calculator, create cu ajutorul Grok, chatbotul de inteligență artificială generativă al X, care au inundat site-ul de socializare în decembrie anul trecut sunt doar începutul unei probleme mult mai mari.

Experții în abuzuri online au avertizat că o creștere a rasismului online generată de imagini false este „doar începutul unei probleme viitoare”, după cea mai recentă versiune a software-ului de inteligență artificială al X. Ei acuză X că încurajează astfel de conţinut, oferind bani conturilor care au vizualizări la astfel de mesaje rasiste.

Îngrijorările au apărut după ce imaginile generate de calculator, create cu ajutorul Grok, chatbotul de inteligență artificială generativă al X, au inundat site-ul de socializare în decembrie anul trecut.

Signify, o organizație care lucrează cu grupuri și cluburi cunoscute din sport pentru a urmări și raporta ura online, a declarat că a observat o creștere a rapoartelor de abuzuri de la ultima actualizare a lui Grok și crede că introducerea inteligenței artificiale fotorealiste va contribui la accentuarea rasismului, notează The Guardian.

„Este o problemă acum, dar este de fapt doar începutul unei probleme viitoare. Va deveni mult mai gravă și suntem doar la început, mă aștept ca în următoarele 12 luni să devină incredibil de gravă”, au avertizat reprezentanţii Signify.

Grok a fost lansat în 2023 de Elon Musk și a obținut recent o nouă funcție de transformare a textului în imagine, numită Aurora, care a creat imagini AI fotorealiste pe baza unor indicații simple scrise de utilizator.

O versiune anterioară, mai puțin avansată, denumită Flux, a stârnit, de asemenea, controverse, deoarece s-a constatat că făcea lucruri pe care multe alte programe similare nu le făceau, cum ar fi reprezentarea unor personaje protejate prin drepturi de autor și a unor figuri publice în poziții compromițătoare, consumând droguri sau comițând acte de violență.

Imagini ofensatoare cu sportivi de culoare

Au fost raportate mai multe cazuri în care cea mai recentă actualizare Grok a fost utilizată pentru a crea imagini rasiste realiste cu mai mulți jucători de fotbal și manageri.

O imagine înfățișează un jucător de culoare care culege bumbac, în timp ce alta îl arată pe același jucător mâncând o banană înconjurat de maimuțe într-o pădure. O altă imagine înfățișează doi jucători diferiți ca piloți în cabina unui avion, cu turnurile gemene în fundal. Altele înfățișează mai mulţi jucători și manageri întâlnindu-se și discutând cu figuri istorice controversate, precum Adolf Hitler, Saddam Hussein și Osama bin Laden.

Reprezentanţii Premier League au declarat că sunt la curent cu imaginile și că au o echipă special desemnată să ajute la găsirea și raportarea abuzurilor rasiste îndreptate împotriva sportivilor, ceea ce poate duce la acțiuni în justiție. Se crede că Premier League a primit mai mult de 1.500 de astfel de rapoarte anul trecut și că a introdus filtre pe care jucătorii le pot utiliza pe conturile lor de social media pentru a ajuta la blocarea unor astfel de mesaje.

„Discriminarea nu își are locul în sport sau în societate în general. Continuăm să îndemnăm companiile de social media și autoritățile competente să abordeze abuzul online și să se ia măsuri împotriva celor care se fac vinovați de acest comportament inacceptabil”, a declarat un purtător de cuvânt al FA a declarat.

Callum Hood, director de cercetare la Center for Countering Digital Hate (CCDH), a declarat că X a devenit o platformă care a stimulat și a recompensat răspândirea urii prin împărțirea veniturilor, iar imaginile cu inteligență artificială au făcut acest lucru și mai ușor.

„Ceea ce a făcut X, într-o măsură pe care nicio altă platformă mainstream nu a făcut-o, este să ofere stimulente în bani conturilor pentru a face acest lucru, astfel încât conturile de pe X postează în mod deliberat cea mai mare ură și dezinformare posibilă”, a avertizat Callum Hood.

O problemă subliniată de experţi este nu doar lipsa relativă de restricții cu privire la ceea ce utilizatorii pot cere, ci și ușurința cu care prompterele date lui Grok pot eluda liniile directoare ale AI prin „jailbreaking”, care include descrierea trăsăturilor fizice ale oricărei persoane pe care prompterul o dorește în imagine, mai degrabă decât doar numirea ei.