Inteligenţa artificială „sexistă” a Google a fost reparată de inginerii companiei americane
0Inteligenţa artificială creată de Google s-a dovedit părtinitoare în folosirea pronumelor personale, astfel că inginerii companiei au decis să nu-i mai permită să spună “el” sau “ea”.
Cercetătorii de la Google angajaţi în dezvoltarea inteligenţei artificiale au observat să acesta tinde să prefere genul masculin când vine vorba de pronumele personale. În loc să spună “ea”, AI-ul alege în mod frecvent “el”.
Părtinirea, sau bias-ul cum spun oamenii de ştiinţă în acest caz, este o meteahnă, ca multe altele, pe care sistemele de inteligenţă artificială care folosesc învăţarea mecanică o deprind chiar de la oameni.
AI-ul, precum cel folosit de Google pentru ajutarea utilizatorilor Gmail în compunerea mesajelor, este pregătit prin procesarea unui mare volum de date a căror sursă sunt chiar oamenii. În cazul Gmail, AI-ul a învăţat mecanic formulările folosite de utilizatori.
Cum în domeniul tehnologiei activează mai mulţi bărbaţi decât femei, cele mai multe mail-uri procesate de AI foloseau genul masculin în dialoguri. Astfel, AI-ul a ajuns să sugereze genul masculin chiar şi când nu este cazul.
Curios este faptul că specialiştii Google nu au găsit o soluţie de remediere a problemei şi au ales să dezactiveze complet folosirea pronumelor personale. În teorie, AI-ul s-ar putea uita în câmpul expeditorului pentru a-şi da seama corect în cele mai multe cazuri de genul acestuia.
Acesta reprezintă doar un incident minor în care a fost implicat AI-ul. În trecut, tot Google a fost nevoie să modifice sugestiile automate ale motorului de căutare după ce s-a constatat că unele dintre acestea sunt antisemite.
Un alt caz celebru, este cel al bot-ului Tay, dezvoltat de Microsoft. Tay a fost un experiment în care AI-ul trebuia să înveţe conversaţii naturale urmărind discuţiile de pe Twitter. În doar câteva ore, bot-ul a învăţat de la utilizatorii Twitter propagandă nazistă, motiv pentru care a fost dezactivat.