„Facebook Papers”. Cinci puncte pentru „furie”: formula care a stimulat dezinformarea şi a pus pe jar Facebook

FOTO SHUTTERSTOCK

Documente interne oferă o privire asupra dezbaterilor interne privind capacitatea anumitor emoticoane de a genera conţinut incitator de ură, toxic sau dăunător în alt fel, arată o analiză Washington Post a dosarului „Facebook Papers”,

În 2017, Facebook şi-a modificat formula pentru sortarea fluxurilor de ştiri, acordând cinci puncte pentru reacţiile emoţionale la postări „love,” „haha,” „wow,” „sad” şi „angry”, arată documente interne furnizate de consilierul juridic al avertizorului de integritate Frances Haugen.

Facebook le-a folosit ca semnale mai puternice decât iconicul „like” pentru a recomanda conţinut personalizat - ca abia câţiva ani mai târziu să constate că reacţia „angry” (furie) era marca informaţiilor provocatoare sau a dezinformării. Problema era că Facebook nu avea un buton de „dislike astfel că emoticonul furios era singura variantă pentru o reacţie civică politică, de pildă referitoare la un regim autoritar, pentru postările nedorite şi conţinut amplificat menit dezinformării şi suscitării urii.

Cercetătorii Facebook şi-au dat seama repede că stimularea angajării pe platformă printr-un scor mai mare pentru reacţii emoţionale în raport cu „like” suferă de un defect periculos.

Postările „controversate” pot  deschide „uşa pentru mai mult spam/abuz/ clickbait neintenţionat”, observă un angajat al cărui nume a fost acoperit în documentele ajunse în presă.

Analiştii de date ai Facebook s-au lămurit în 2019 că postările care iscau reacţii de furie aveau o probabilitate extrem de mare de a fi dezinformare, conţinut toxic şi ştiri de calitate inferioară. Totuşi, vreme de trei ani, compania a privilegiat postările susceptibile să provoace emoţii puternice chiar disproporţionate, subminând eforturile moderatorilor şi echipelor de integritate de a limita conţinutul potenţial dăunător sau toxic.

În tot acest timp, au existat dezbateri interne privind emoticonul furios şi impactul lui, care să justifice modificări ale algoritmilor.

„Furia şi ura sunt mijloace facile de a creşte pe Facebook”, a spus Haugen luni în parlamentul britanic.

Documentele arată că angajaţii din echipele de integritate dădeau avertismente roşii privind aspecte ale sistemului de clasificare  - care uneori erau ascultate, alteori date deoparte.

Furia este „o emoţie fundamentală”, a scris cineva, în timp ce altul a observat că postările generatoare de furie pot fi cruciale pentru mişcările de protest  faţă de regimurile corupte.

Noah Giansiracusa, profesor de matematică la Bentley University (Massachusetts), autorul unei cărţi despre puterea algoritmilor pe reţelele sociale, spune că un software de inteligenţă artificială bazat pe învăţare pentru generarea predicţiilor poate părea „misterios şi ameninţător”, dar decizia finală revine unui om.

Facebook răspunde că lucrează continuu pentru a diminua distribuţia conţinutului generator de emoţii negative, inclusiv furie, din partea unui număr mare de utilizatori.

Indicatori ai angajamentului

Indicatorul de furie este însă doar unul din butoanele manipulate de inginerii Facebook pentru a mări amploarea interacţiunii pe cea mai vastă reţea socială din lume, menite să influenţeze tot, de la starea de spirit a oamenilor la campanii politice şi comiterea atrocităţilor.

Facebook introduce în formula sa de calcul o sumedenie de factori ce au greutate mai mare sau mai mică în scorul final folosit pentru sortarea conţinutului personalizat.

O formulă unică se aplică pentru volume enorme de interacţiuni umane în aproape toată lumea şi în peste 100 de limbi. Din motive de siguranţă, Facebook nu face publice valorile atribuite fiecărui tip angajare pe platformă şi nici importanţa celor mai bine de 10.000 de „semnale” pe care le calculează software-ul său pentru a face predicţii.

Facebook ia în seamă indicatori precum numărul de comentarii, calitatea de live sau de înregistrare, reacţii-text sau gif-uri. Alţii sunt obscuri precum timpul de încărcare sau puterea semnalului de internet. Cu toate astea, cea mai mică modificare de algoritm are efecte în cascadă în toată reţeaua, determinând ce ştiri ajung la fiecare utilizator -  sursele lor, calitatea lor, politice sau din alte domenii, provenienţa lor, impactul emoţional.

Angajaţii Facebook s-au luptat cu întrebări dificile privitoare la valori atunci când au înţeles că unele postări erau extrem de dăunătoare. Dar chestiunea s-a dovedit complicată şi din punct de vedere tehnic - tehnicile de stimulare prin emoticoane se băteau cap în cap cu măsurile de protejare a utilizatorilor.

Iar asta pentru că postările erau distribuite în funcţie de scor - care aveau o medie de câteva sute de puncte la un moment dat. În 2019, un analist de date a descoperit că, de fapt, că scorurile nu aveau un prag-limită şi ajungeau la cifre astronomice, unele de un miliard.

„O predicţie înspăimântătoare: dereactivarea emoţională a postărilor civice nu funcţionează”, scria un angajat.

Facebook a avut o cultură puternică a experimentării cu algoritmii săi. În 2014, a publicat rezultatele unui test de manipulare a valenţelor emoţionale a feed-urilor - să fie mai pregnant negative, respectiv pozitive. 

Haugen a dezvăluit luna asta în faţa Congresului american că Facebook a experimentat şi cu oprirea restrânsă a unor măsuri de siguranţă pentru a evalua impactul lor.

Dezbateri îndelungi

În 2017, pentru a mări angajamentul pe platformă, Facebook a introdus cinci reacţii emoţionale la postări, fiecare dintre ele valorând cinci puncte. Acestea necesitau un efort mai mare decât apăsarea butonului de „like” şi aveau puterea de a declanşa şi împărtăşi emoţii.

Tiparul Facebook, aşa cum a reieşit din documente, era să pună în prim-plan aceste noi instrumente de optimizare făcându-le foarte puternice. Într-atât că erau vizibile pentru cei care voiau să ajungă la un număr mare de oameni precum politicienii.

La un moment dat chiar CEO-ul Facebook Mark Zuckerberg a încurajat utilizatorii într-un răspuns la o postare care deplângea lipsa butonului de „dislike” să recurgă la „angry”.

Replicile la postări valorau de 30 de ori mai mult decât un like pentru că creau un efect de amplificare a interacţiunilor, sporind numărul de postări.

WSJ a relatat despre accentul pus de Facebook pe comentarii, răspunsuri şi replici la postări redistribuite -  ca parte a unei metrici numite „interacţiuni sociale semnificative”- care este motor pentru conţinut politic generator de discordie.

Facebook a răspuns că metrica serveşte „îmbunătăţirii experienţei prin prioritatea acordată postărilor care motivează interacţiunile, mai ales conversaţiile între membrii ai familiei şi prieteni”.

În 2018, Facebook a scăzut valoarea reacţiei „angry” la patru puncte.Totuşi aceasta era cel mai puţin folosită cu doar 429 de clickuri pe săptămână versus 63 miliarde de apăsări pe Like şi 11 miliarde „love”, se arată într-un document din 2020.

Pe de altă parte, Facebook a descoperit că furia era „mult mai frecventă” ca reacţie la postările problematice: „ştiri civice de calitate inferioară, dezinformare, toxicitate , dezinformare sanitară, conţinut antivaccinist”, potrivit unui document din 2019. Un studiu din acelaşi an a arătat că emoticonul furios era folosit ca armă de actori politici.

Facebook a conceput un mecanism de downgradare a postărilor generatoare de volume mari de reacţii furioase, deşi din documente nu e clar cum şi unde a fost aplicat şi impactul avut.

Propunerile au fost reducerea valorilor emoticoanelor ce apăreau frecvent la conţinut toxic sau dezinformare - „angry”,  „wow” şi  „haha,”  la nivelul unui like sau chiar la 0. În aceleaşi timp, reacţii mai benigne precum „love” şi „sad” (trist sau „sorry” cum era numit de angajaţii Facebook) ar fi fost cotate la patru puncte.

Un angajat Facebook e citat spunând că ar fi fost un remediu facil atribuirea de valori diferite şi ar avea mai puţine probleme legate de reguli decât identificarea comentariilor toxice.

„Vocea prudenţei a ieşit învingătoare”, a scris un angajat despre decizia companiei de a nu privilegia anumite reacţii emoţionale.

Asta nu a pus capăt dezbaterilor privind problematicul „angry” responsabil de amplificarea conţinuturilor politice împotriva normelor democratice. În final anul trecut torentul de dovezi privind neplăcerile cauzate de emoticon - utilizatorii nu voiau să primească reacţii de furie indiferent de unde veneau - n-a mai putut fi ignorat.

Din septembrie anul trecut, Facebook nu mai ia angry ca indicator a ce vor oamenii, reducându-i valoarea la zero. În acelaşi timp, „love” şi „sad” sunt măsurate cât două like-uri.

„La fel ca orice optimizare, vor apărea căi prin care să fie exploatată sau folosită ca avantaj. De asta avem o echipă de integritate ce se străduieşte să le identifice şi să găsească soluţii pentru atenuarea lor cât mai eficientă”, a comunicat Lars Backstrom, vicepreşedinte al departamentului  de inginerie la Facebook.

Analişti de date ai Facebook au constatat că scoaterea din ecuaţie a reacţiei angry a produs efecte - utilizatorii primesc mai puţin conţinut „tulburător”, „violenţă grafică” şi dezinformare.