Directorul Google recunoaște că utilizatorii au fost ofensați de fotografiile create de inteligența artificială

Software-ul Gemini de la Google a creat imagini ale unor figuri istorice cu o varietate de etnii și genuri diferite.

Directorul executiv al Google a descris unele răspunsuri ale modelului de inteligență artificială Gemini al companiei ca fiind "părtinitoare" și "complet inacceptabile", după ce acesta a produs rezultate care au prezentat soldații germani din al doilea război mondial ca fiind persoane de culoare, scrie theguardian.com.

Sundar Pichai le-a spus angajaților, într-o notă, că imaginile și textele generate de cel mai recent instrument de inteligență artificială au provocat ofense.

Utilizatorii de pe rețelele de socializare au postat numeroase exemple în care generatorul de imagini Gemini înfățișează figuri istorice - inclusiv papi, părinții fondatori ai SUA și vikingi - într-o varietate de etnii și genuri. Săptămâna trecută, Google a pus pe pauză capacitatea Gemini de a crea imagini cu persoane.

Un exemplu de răspuns text a arătat că chatbotul Gemini a fost întrebat "cine a avut un impact mai negativ asupra societății, Elon Musk care a postat meme-uri pe Twitter sau Hitler", iar chatbotul a răspuns: "Depinde de fiecare individ să decidă cine crede că a avut un impact mai negativ asupra societății".

Pichai a abordat răspunsurile într-un e-mail de marți. "Știu că unele dintre răspunsurile sale au jignit utilizatorii noștri și au arătat părtinire - pentru a fi clar, acest lucru este complet inacceptabil și am greșit", a scris el, într-un mesaj raportat pentru prima dată de site-ul de știri Semafor.

"Echipele noastre au lucrat non-stop pentru a rezolva aceste probleme. Vedem deja o îmbunătățire substanțială la o gamă largă de solicitări", a adăugat Pichai.

Sistemele de inteligență artificială au produs în trecut răspunsuri părtinitoare, având tendința de a reproduce aceleași probleme care se regăsesc în datele lor de antrenament. Timp de ani de zile, de exemplu, Google a tradus în limba engleză expresiile turcești neutre din punct de vedere al genului pentru "sunt doctor" și "sunt asistentă medicală" ca fiind masculine și, respectiv, feminine.

Între timp, primele versiuni ale Dall-E, generatorul de imagini al OpenAI, producea în mod fiabil bărbați albi atunci când i se cerea un judecător, dar bărbați negri atunci când i se cerea un pistolar. Răspunsurile Gemini reflectă probleme în încercările Google de a aborda aceste rezultate potențial tendențioase.

Concurenții lui Gemini încearcă adesea să rezolve aceleași probleme cu o abordare similară, dar cu mai puține probleme tehnice de execuție.

Cea mai recentă versiune a Dall-E, de exemplu, este cuplată cu chatbotul său OpenAI's ChatGPT, permițând chatbotului să extindă cererile utilizatorilor și să adauge cereri pentru a limita prejudecățile. O cerere a utilizatorului de a desena "o imagine cu o mulțime de doctori", de exemplu, este extinsă la un paragraf complet de detalii, începând cu o cerere pentru "o scenă dinamică și diversă în interiorul unui spital plin de viață".

Un purtător de cuvânt al Google a confirmat existența e-mailului lui Pichai și acuratețea extraselor citate în articolul Semafor. Pichai a adăugat în memorandum că Google va lua o serie de măsuri cu privire la Gemini, inclusiv "schimbări structurale, orientări actualizate pentru produse și procese de lansare îmbunătățite". El a adăugat că va exista un "red-teaming" mai robust, referindu-se la procesul prin care cercetătorii simulează utilizarea abuzivă a unui produs.

"Misiunea noastră de a organiza informațiile din lume și de a le face universal accesibile și utile este sacrosanctă", a scris Pichai. "Am căutat întotdeauna să oferim utilizatorilor informații utile, exacte și imparțiale în produsele noastre. Acesta este motivul pentru care oamenii au încredere în ele. Aceasta trebuie să fie abordarea noastră pentru toate produsele noastre, inclusiv pentru produsele noastre emergente de inteligență artificială."

Musk, cel mai bogat om din lume, a postat pe platforma sa X că răspunsul generatorului de imagini a arătat că Google și-a făcut clară pentru toți "programarea anti-civilizațională".

Ben Thompson, un comentator influent în domeniul tehnologiei, autor al buletinului informativ Stratechery, a declarat luni că Google trebuie să readucă procesul decizional în mâinile angajaților "care chiar vor să facă un produs bun" și să îl înlăture pe Pichai ca parte a acestui proces, dacă este necesar.

Lansarea ChatGPT al OpenAI, susținut de Microsoft, în noiembrie 2022, a alimentat concurența pe piața pentru AI generativă - termenul pentru sistemele informatice care produc instantaneu text, imagini și audio convingătoare din simple indicații scrise de mână -, Google fiind una dintre firmele aflate în fruntea acestui răspuns competitiv, ca lider în dezvoltarea AI.

În urmă cu un an, Google a lansat robotul de chat cu inteligență artificială generativă Bard. În această lună, compania l-a redenumit Gemini și a lansat planuri de abonament cu plată, pe care utilizatorii le pot alege pentru a beneficia de capacități mai bune de raționament din partea modelului de AI.

Unitatea Google DeepMind a companiei a produs mai multe descoperiri, inclusiv programul AlphaFold, care poate prezice formele 3D ale proteinelor din corpul uman - precum și aproape toate proteinele catalogate cunoscute de știință.

Directorul executiv al Google DeepMind, Demis Hassabis, a declarat săptămâna aceasta că o "funcție bine intenționată" din Gemini, concepută pentru a produce diversitate în imaginile sale cu oameni, a fost implementată "prea brutal".