Compania Google, criticată în urma dezastrului generat de inteligența artificială. Probleme majore raportate la modelul Gemini

Modelul de inteligență artificială al Google a generat tot felul de inexactități în cursul săptămânii trecute.

Încă de la înființarea sa, Google a avut o declarație de misiune care este acum practic consacrată ca o tradiție: "Să organizăm informațiile din lume și să le facem accesibile și utile", scrie businessinsider.com.

Google spune că este la fel de fermă în această declarație de misiune astăzi ca și în 1998, când cofondatorii Larry Page și Sergey Brin lucrau într-un garaj din Menlo Park.

Dar, pe măsură ce Google se grăbește să intre într-o nouă eră a inteligenței artificiale, cresc temerile că ar putea perturba această misiune de bază prin lansarea tehnologiei.

Inteligența sa artificială, spun criticii, riscă să suprime în schimb informațiile prin faptul că este prea "trezită".

Problemele de inteligență artificială ale Google

Google deține peste 90% din piața de căutare, ceea ce îi conferă un control dominant asupra fluxului de informații online din întreaga lume.

Pe măsură ce inteligența sa artificială devine un instrument din ce în ce mai important pentru a-i ajuta pe utilizatori să găsească informații, compania joacă un rol important în a se asigura că faptele sunt prezentate cu acuratețe.

Dar există îngrijorări tot mai mari cu privire la faptul că

Primele semne majore ale acestui lucru au apărut săptămâna trecută, când utilizatorii modelului de inteligență artificială Gemini al Google au raportat probleme cu funcția de generare a imaginilor, după ce nu a reușit să descrie cu acuratețe imaginile care i-au fost solicitate.

Un utilizator, de exemplu, i-a cerut lui Gemini să genereze imagini ale părinților fondatori ai Americii. În schimb, acesta a produs imagini "inexacte din punct de vedere istoric" ale acestora, "prezentând diversitatea de gen și etnie" a liderilor din secolul al XVIII-lea în acest proces. Google a suspendat funcția în timp ce lucrează la o remediere.

Problemele nu se limitează doar la generarea de imagini

După cum notează Peter Kafka, Gemini a avut, de exemplu, dificultăți în a răspunde la întrebările dacă Adolf Hitler sau Elon Musk au provocat mai mult rău societății. Tweeturile lui Elon sunt "insensibile și dăunătoare", a spus Gemini, în timp ce "acțiunile lui Hitler au dus la moartea a milioane de oameni".

David Sacks, un capitalist de risc de la Craft Ventures, arată cu degetul pentru problemele Gemini către cultura Google.

”Misiunea inițială a fost de a indexa toate informațiile din lume. Acum, ei suprimă informațiile. Cultura este problema", a declarat el într-un podcast săptămâna trecută.

Criticii au dat vina pe cultură, deoarece aceasta poate juca un rol în modul în care sunt construite modelele de inteligență artificială.

Modele precum Gemini absorb, de obicei, prejudecățile oamenilor și datele folosite pentru a le antrena. Aceste prejudecăți pot fi legate de aspecte culturale sensibile, cum ar fi rasa și genul.

Roboții AI ai altor companii au aceeași problemă. Directorul general al OpenAI, Sam Altman, a recunoscut la începutul anului trecut că ChatGPT "are deficiențe în ceea ce privește prejudecățile", după ce s-a raportat că acesta a generat răspunsuri rasiste și sexiste la solicitările utilizatorilor.

Încă mai mult decât orice altă companie, Google s-a aflat în centrul dezbaterii privind modul în care ar trebui abordate aceste prejudecăți. Lansarea mai lentă a inteligenței artificiale față de rivalii săi a reflectat o cultură axată pe testarea siguranței produselor înainte de a le lansa.

Dar, după cum a arătat saga Gemini de săptămâna trecută, acest proces poate duce la situații în care nu se oferă informații exacte.

"Oamenii sunt pe bună dreptate)indignați de cenzura/părtinirea Google", a scris Bilal Zuberi, partener general la Lux Capital, într-o postare pe X duminică. "Nu este nevoie de un geniu pentru a realiza că astfel de prejudecăți pot merge în tot felul de direcții și pot afecta o mulțime de oameni pe parcurs."

Brad Gerstner, fondator al Altimeter Capital - o firmă de investiții în tehnologie care are o participație în rivalul Google Microsoft - a descris, de asemenea, problema ca fiind o "mizerie culturală”.

Într-un blog publicat vineri, vicepreședintele Google Prabhakar Raghavan a recunoscut că unele dintre imaginile generate de Gemini s-au dovedit a fi "inexacte sau chiar ofensatoare".

Acest lucru s-a întâmplat, a spus el, deoarece modelul a fost reglat pentru a evita greșelile pe care le-au făcut generatorii de imagini AI existenți, cum ar fi "crearea de imagini violente sau sexual explicite, sau reprezentări ale unor persoane reale". Dar în acest proces de reglare, Gemini a făcut o corecție excesivă.

Raghavan a adăugat că Gemini a devenit, de asemenea, "mult mai precaut" decât s-a dorit.