Un algoritm al Facebook a confundat persoanele de culoare cu maimuţe
0Un algoritm de recomandare al Facebook a întrebat utilizatorii dacă doresc să vadă şi alte „videoclipuri cu primate” în dreptul unui video al unui tabloid britanic ce înfăţişa persoane de culoare, a dezvăluit vineri The New York Times.
Videoclipul de pe Daily Mail, vechi de mai mult de un an, este intitulat "un alb cheamă poliţiştii contra unui bărbat de culoare din port". Acesta arată doar persoane, nu maimuţe.
Întrebarea "vrei să vezi mai multe videoclipuri cu primate?" cu opţiunea "Da/ Respinge" a fost afişată pe ecran de mai mulţi utilizatori, potrivit capturilor de ecran publicate pe Twitter de Darci Groves, fost designer al Facebook.
"Este scandalos", a comentat ea, cerându-le foştilor colegi de la Facebook să urmărească cazul.
"Este clar o eroare inacceptabilă", a reacţionat o purtătoare de cuvânt a Facebook. "Ne cerem scuze tuturor celor care au văzut aceste recomandări insultătoare".
Grupul californian a dezactivat unealta de recomandare pe acest subiect "de îndată ce ne-am dat seama ce se întâmplă pentru a investiga cauza problemei şi a preveni repetarea acesteia", a precizat ea.
Cazul evidenţiază limitele tehnologiilor de inteligenţă artificială, subliniat în mod regulat de platformă în eforturile sale de a construi un fir personalizat fiecăruia dintre cei aproape 3 miliarde de utilizatori lunar.
Gigantul Facebook, ca şi concurenţii săi, este în mod regulat acuzat că nu luptă suficient contra rasismului şi altor forme de ură şi de discriminare.
Subiectul stârneşte cu atât mai multă tensiune cu cât multe organizaţii ale societăţii civile acuză reţelele de socializare şi algoritmii lor că au contribuit la divizarea societăţii americane, în contextul manifestaţiilor mişcării Black Lives Matter