O fostă angajată la Google se teme de „roboţi ucigaşi“ şi de posibilitatea unui război pornit de inteligenţa artificială

Laura Nolan a ocupat poziţia de inginer software în cadrul companiei, până când a fost trimisă să lucreze la un proiect ce avea ca scop îmbunătăţirea tehnologiei dronelor armatei americane.

Nolan consideră că roboţii care nu sunt controlaţi în niciun fel de om ar trebui declaraţi ca fiind ilegali de un tratat internaţional, la fel ca în cazul interzicerii armelor chimice. Spre deosebire de drone, care suntr controlate de echipe militare, aceşti roboţi ucigaşi ar putea realiza ”lucruri catastrofale, pentru care nu erau programaţi original”.

Ea a vorbit despre aceste probleme în faţa diplomaţilor din Naţiunile Unite, în cadrul unor conferinţe care au avut loc la New York şi la Geneva, cu privire la pericolele armelor autonome. ”Potenţialul unui dezastru este direct proporţional cu numărul de astfel de maşini care se află într-o anumită zonă, în acelaşi timp. Există posibilitatea unor atrocităţi şi a unor crime (...), mai ales dacă sute sau mii de astfel de maşini sunt folosite” a indicat Nolan.

”Am putea avea accidente la scară largă, deoarece aceste lucruri vor începe să se comporte în feluri neaşteptate. De aceea, orice sistem de arme avansat ar trebui să fie controlat de oameni sau interzis, deoarece autonomia lor ar fi mult prea imprevizibilă şi periculoasă”, a adăugat ea, citată de Guardian.

Google a recrutat-o pe Nolan în cadrul Project Maven în 2017, după ce aceasta a petrecut patru ani în cadrul diviziei din Irlanda a companiei, devenind unul dintre inginerii software de top ai acesteia. Project Maven era un program de îmbunătăţirea a tehnologiei de recunoaştere video folosită de dronele armatei americane.

Proiectul a durat până în luna martie a acestui an, când mai mult de 3000 de angajaţi, care au fost însărcinaţi cu construirea unui sistem prin care inteligenţa artificială să poate face diferenţa dintre oameni şi obiecte aproape instantaneu, au semnat o petiţie în semn de protest faţă de implicarea celor de la Google. Laura Nolan a luat chiar decizia de a-şi da demisia ca urmare a acestui proiect.

”Am realizat că acest proiect ar duce la şi mai mulţi oameni ucişi de armata SUA în locuri precum Afganistan” a spus Nolan, care a avertizat că până şi testarea unor astfel de tehnologii este periculoasă: ”poţi testa aceste sisteme autonome de război numai în zonele adevărate de luptă. Poate că asta se întâmplă cu ruşii care sunt prezenţi în aceste momente în Siria.”

”Cum poţi antrena un sistem care se bazează doar pe software pentru a detecta comportamente subtile umane sau a face diferenţa dintre vânători şi insurgenţi? Cum poate o maşină de ucis să realizeze distincţia dintre luptătorul de 18 ani şi un vânător de iepuri de 18 ani?”

Nolan a indicat şi faptul că posibilitatea de a converti dronele militare în arme autonome, care nu au nevoie de ghidarea oamenilor ”este doar o problemă de software în ziua de azi, şi una care poate fi cu uşurinţă rezolvată”.