Acest articol isi propune sa exploreze patru motive, care - cred eu - ar trebui sa determine o reflectie serioasa asupra problemei inteligentei artificiale:

  1. Ubicuitatea dispozitivelor inteligente si conceptul de "Internet of Things"
  2. Cursa pentru obtinerea autonomiei totale a robotilor
  3. Robotica + 3D bioprinting = oameni sintetici
  4. Lipsa unei reglementari in domeniul inteligentei artificiale


Este anul 2015. Ne amintim tot mai greu ca Antonio Banderas a purtat candva masca lui Zorro, ca am vazut o femeie cu trei sani, ca viata noastra este doar o simulare pe calculator sau ca Will Smith ne-a salvat pe toti de la invazia extraterestrilor. Cortexul nostru s-a obisnuit cu asaltul informational, iar industria cinematografica a trebuit sa se adapteze; avem nevoie de panorame extravagante, de cultura subterana, cu masini tunate si curse ilegale si de un James Bond sobru si brutal, care si-a pierdut rafinamentul si umorul.

Traim intr-o autosuficienta, in care prezentul ne ofera tot ce ne trebuie, cu conditia sa nu punem prea multe intrebari. Suntem invatati sa privim inainte, sa acceptam cu un entuziasm firesc progresul tehnologic, sa nu dam prea multa importanta lectiilor trecutului, precum un elev, aflat in plina rebeliune pubertara, prea incapatanat pentru a asculta de altceva in afara de propriile porniri hormonale.

In aceasta era, care ne convinge sa ne luam mult prea in serios, un film precum “Terminator Genisys” reprezinta o gura de aer proaspat. Ignorand recenziile nefavorabile, talmes-balmesul cronologic cu care filmul a complicat inutil mitologia “Terminator”, stangacia cu care trailer-ul a dezvaluit cele mai importante momente “suprinzatoare” si jocul actoricesc neconvingator din partea lui Jai Coutney si a lui Khaleesi Emilia Clarke, am intrat in sala de cinema cu aceeasi emotie a pustiului care auzea pentru prima data “Hasta la vista, baby”, cu multi ani in urma. A fost un film bun? Chiar deloc. Arnold Schwarzenegger face un rol bun? Oh, da! Este un film care – spre rusinea mea – mi-a placut? Cu siguranta!

Arnold Schwarzenegger, in "Terminator Genisys"Nu doar ca mi-a placut, dar am realizat ca tema seriei “Terminator”, creata cu aproape un deceniu inainte de explozia internetului, este putin mai actuala decat ne-ar placea sa ne imaginam. Cheia filmului original este un avertisment asupra consecintelor dezastruoase pe care le poate avea increderea exagerata in inteligenta artificiala.

Premisa acestei fabule moderne este ca oamenii au ajuns dependenti de masinarii, au construit un creier central (Skynet), care sa supervizeze toate procesele tehnologice ale omenirii, fara a sesiza ca acest centru de comanda si-a suprascris programul si a inceput sa vada oamenii drept principala amenintare a existentei sale, concluzionand ca singura solutie este eradicarea speciei noastre.

Secolul XXI a adus cu sine un soi de aroganta, o incredere excesiva in propriile puteri, o iluzie a propriei infailibilitati, care ne determina sa privim asemenea scenarii drept exagerari conspirationiste sau SF-uri fanteziste. Totusi, avand in vedere ca purtam in buzunar un dispozitiv care stie la orice ora din zi si din noapte unde ne aflam, folosim protocoale informatice pentru majoritatea comunicarilor, iar retele interconectate ne guverneaza transportul public, tranzactiile bancare si operatiunile militare, oare cat de ireal este, cu adevarat, viitorul prezentat de “Terminator”? Cat de aproape suntem de o tehnocalipsa?


1. Ubicuitatea dispozitivelor inteligente si conceptul de "Internet of Things"

Skynet, creierul din spatele revoltei masinariilor din “Terminator” guverneaza un sistem planetar, interconectat, cu ramificatii in mai toate aspectele vietii militare si civile. Este adevarat, nu am ajuns inca la un asemenea grad de conectivitate, desi un studiu eMarketer din 2014 estima ca un sfert din populatia lumii va detine un smartphone in 2016. In aceeasi ordine de idei, peste 40% din populatia globului este online, penetrarea internetului fiind de aproape 80% in tarile dezvoltate, conform International Telecommunications Union. Aceasta reprezinta o crestere de 150% fata de anul 2005.

Internet of ThingsFolosim tot mai frecvent termenul de “Internet of Things”, un concept ce desemneaza un grad avansat de interactiune intre mai multe dispozitive inteligente, aflate in comunicare permanenta cu un sistem central. Incepeti sa vedeti legatura? Ne inconjuram tot mai mult de aparate pe care le hranim cu tot mai multa informatie, desi detinem din ce in ce mai putin controlul acestora.

Lipsa de control l‑a determinat pe Hugo Campos, in 2011, sa vorbeasca la TED despre dorinta de a accesa informatiile despre propria inima. In cazul in care nu stiati, in zilele noastre, daca iti este implantat un pacemaker (stimulator cardiac) inteligent, compania producatoare detine datele, doctorii le pot accesa, pacientului, insa, ii este interzis sa afle informatii despre bataile propriei inimi.

Nici macar asupra ustensilelor casnice nu mai putem spune ca detinem controlul in totalitate. In februarie am aflat cat de periculos este sa dormi pe jos atunci cand detii un aspirator inteligent, care poate functiona autonom, prin exemplul unei femei sud-coreeane care a fost atacata de un astfel de dispozitiv.

Americanii viseaza la “casa viitorului” inca din anii ’60, cand desenele animate “The Jetsons” isi imaginau ca in anul 2000 vom avea o armata de roboti care se vor ocupa de treburile casnice, vor gati, vor spala rufele si vor face cumparaturile. Viziunea nu este nici pe departe noua, un grup de artisti francezi anticipand o evolutie similara inca din 1899.

Desi luxul unei case pe deplin automatizate inca ne eludeaza, pasi inspre aceasta realitate se fac deja. Anul trecut, Google a achizitionat compania Nest, contra sumei de 3,2 miliarde de dolari. Nest reprezinta un pas urias inspre ideea de casa a viitorului, specialitatea companiei fiind termostate inteligente, detectoare de fum, sisteme de supraveghere video si functii de stocare in cloud. Aceasta achizitie ii ofera lui Google acces la un tezaur de informatii personale. Practic, Google poate sti ce site-uri vizitam, ce cautam prin intermediul motorului de cautare, ce muzica ascultam, unde ne aflam in orice moment al zilei, parola de la wifi, ce temperatura preferam in anumite momente ale zilei, unde ne petrecem vacantele, plus fluxul de capturi video din jurul casei.

Daca adaugam aici si Android@Home, un proiect prin care dispozitivele Android vor deveni telecomenzi pentru controlul luminilor, reglarea temperaturii sau a volumului muzicii ambientale si ne gandim ca aceeasi tehnologie este folosita de catre Hasbro pentru a construi jucarii care inteleg cand posesorul este vesel sau trist, cat de departe ne aflam cu adevarat de “Internet of Things”? Dar de Skynet?

2. Cursa pentru obtinerea autonomiei totale a robotilor

Ne-am putea consola cu gandul ca toate aceste sisteme nu pot functiona in mod autonom, ca au nevoie de un un om pentru a fi operationale. Daca ne intoarcem putin la Skynet, ne amintim ca robotii dezvoltasera doua tipuri de arme: soldati umanoizi aproape indestructibili (terminatori), respectiv diverse tipuri de drone autonome (Hunter Killers sau HK).

Armata robotilorCele mai usor recognoscibile sunt HK-Aerial, dronele zburatoare, avand misiunea de a depista si elimina prezenta umana. Nu cred ca mai este un secret ca armata Statelor Unite foloseste in mod frecvent drone militare, vehicule zburatoare autonome pentru varii misiuni. Si nu este nici pe departe singura, raportul anual al Pentagonului privind puterea militara a Chinei aratand ca Beijing se pregateste sa construiasca 42.000 de astfel de drone. Alti jucatori importanti sunt Israel, Rusia si Iran. Motivul nu este greu de inteles, cea mai scumpa drona (MQ-9) costand 12 miliarde de dolari, fata de suma de 180 de miliarde de dolari pe care guvernul trebuie sa o cheltuie pentru constructia unui avion de lupta F-35, la care se adauga si costurile de mentenanta. Intre timp, dronele din “Terminator” au ajuns simple jucarii, pentru asamblarea carora se gasesc tutoriale pe YouTube.

Skynet folosea si tancuri inteligente, HK-Tanks, in lupta impotriva oamenilor, o tendinta pe care armatele lumii sunt mai mult decat dispuse sa o emuleze. Armata americana experimenteaza inca din 2007 vehicule precum tancul autonom Crusher (nume de cod MULE) pentru transportul de soldati pe teren accidentat si capabil de a fi echipat cu mitraliere sau lansatoare de grenade.

Fortele armate ale Statelor Unite au folosit peste 12.000 de vehicule autonome in operatiunile din Irak si Afghanistan. Suntem chiar cu un pas inaintea Skynet, acesta neavand barci inteligente, spre deosebire de marina americana.

Dincolo de operatiunile militare, am inceput sa folosim drone pentru surprinzator de multe sarcini. Dronele sunt folosite pe post de curier de catre GoogleAmazon si DHL. Fermierii folosesc sisteme similare pentru eficientizarea irigarii si a folosirii de pesticide. Politia experimenteaza folosirea unor astfel de vehicule pentru depistarea de persoane disparute, reconstituirea de accidente rutiere si monitorizarea autostrazilor. Agentiile imobiliare folosesc drone cu camere foto si video pentru documentearea proprietatilor. Companiile petroliere vor implementa sisteme de monitorizare a platformelor si a retelei cu ajutorul dronelor. Variante mai ieftine ale acestora pot fi procurate de catre oamenii de rand ca jucarie sau camera video zburatoare.

Poate si mai interesant decat existenta unor drone autonome este faptul ca se doreste autonomizarea centrului de comanda militar. Bazele teoretice ale folosirii unei retele de vehicule interconectate, operate in mod semi-autonom exista inca din 1994.

In prezent, sistemul tactic informational IVIS reprezinta o constanta a operatiunilor armate ale Statelor Unite. Dispozitive autonome culeg informatii despre pozitia adversarului, miscarile de trupe si date topografice, le transmit catre un procesor central, care dirijeaza operatiunile in mod automat. Soldatii americani poarta markere RFID, pentru a se asigura ca nu sunt confundati cu trupele inamice.

O alta companie detinuta de Google, Boston Dynamics dezvolta robotii militari de maine. Printre cele mai importante proiecte se numara Cheetah, masinaria patrupeda care alearga mai repede decat Usain Bolt (45 km/h) si sare peste obstacole, cainele-robot care urca dealuri si isi mentine echilibrul daca este lovit, respectiv Sand Flea, robotul capabil sa sara pana la inaltimi de peste 10 metri.

3. Robotica + 3D bioprinting = oameni sintetici

Robot umanoidUn model mai vechi de terminator, T-600 era acoperit de piele din cauciuc, ceea ce il facea usor de depistat de catre oameni. Skynet a corectat aceasta neglijenta prin modelul T-800 (ucigasul interpretat de Arnold Schwarzenegger), acoperit de tesut uman, diferenta dintre robot si om devenind astfel aproape imperceptibila.

Industria protetica a facut progrese semnificative in ultimii ani, oferind paraplegicilor degete care pot apuca, picioare cu care pot alerga si chiar posibilitatea de a concura in intreceri atletice. In prezent, se lucreaza chair la constructia de organe artificiale. Se estimeaza ca in curand va fi rezolvata si problema furnizarii de sange catre organele sintetice, prin imprimarea 3D a unor vase sangvine. Predictiile spun ca in 2024 industria de 3D bioprinting va valora aproximativ 6 miliarde de dolari.

Pe de alta parte, robotii deja pot “simti”, datorita augmentarii cu piele sintetica, inzestrata cu senzori tactili. Acestia le-ar inlesni robotilor evaluarea formei, a texturii sau a duritatii unui material. In acelasi timp, proiectul finantat de UE, EUROSKINGRAFT cultiva deja piele umana artificiala, in scopul repararii unor defecte cauzate de arsuri sau afectiuni medicale. In prezent, se pot alcatui sapte centimetri patrati de piele in mai putin de o luna.

Chiar daca nu am ajuns inca la performanta construirii unui T-800, robotii umanoizi care deja exista sunt suficienti pentru a ne pune cateva intrebari serioase privind viitorul acestei ramuri tehnologice.

4. Lipsa unei reglementari in domeniul inteligentei artificiale

Exista o nevoie reala pentru o legislatie in domeniul roboticiiPentru a preveni un dezastru provocat de inteligenta artificiala, eroii lui Asimov au conceput cele 3 legi ale roboticii, directive fundamentale ce guverneaza constructia oricarei forme de inteligenta artificiala. Prima lege interzice robotilor vatamarea vreunei fiinte umane sau asistarea pasiva la ranirea unui om. Cea de-a doua obligatie a robotilor este sa se supuna poruncii umane, in afara cazului in care aceasta intra in conflict cu prima directiva. In cele din urma, robotul este obligat sa isi protejeze propria existenta, in afara cazului in care aceasta intra in conflict cu legea 1 sau 2.

Din nefericire, noi nu suntem nici pe departe in punctual in care putem ajunge la un consens asupra legiferarii inteligentei artificiale. Domeniul este inca relativ nou, abia acum existand initiative de evaluarea a riscului si discutare a unui posibil cadru legislativ. In aceste conditii, nu exista vreun factor limitator sau coercitiv, cercetare si implementare in robotica fiind aproape lipsit de control. Abia in 2014 Stanford propunea un studiu de 100 de ani pe tema inteligentei artificiale.

Intr-o lume aflata in plina criza economica, chinuita de conflicte militare si boli incurabile, problema eticii in domeniul roboticii poate parea prea indepartata de realitate, prea dezradacinata de grijile cotidiene. Cu toate acestea, oameni precum Stephen Hawking, Bill Gates si Elon Musk ne avertizeaza constant cu privire la pericolul unei revolte a sistemelor tehnologice de care devenim tot mai dependenti.

Briliantul savant Stephen Hawking ne avertizeaza ca nu luam in serios implicatiile progresului tehnologic. Fizicianul sustine ca felul in care tratam inteligenta artificiala seamana cu scenariul in care o civilizatie extraterestra ne contacteaza pentru a-si pregati vizita pe Pamant, iar noi ii raspund “Bine, sunati-ne cand ajungeti, v-am lasat usa deschisa.” In afara catorva institutii non-profit, Hawking nu vede eforturi serioase de studiere a unui fenomen care considera ca ne afecteaza pe fiecare in parte. Fondatorul Microsoft, Bill Gates sustine acest punct de vedere, declarand ca nu intelege cum inca exista oameni care nu isi pun problema razvratirii inteligentei artificiale.


Stephen Hawking, despre inteligenta artificiala

Elon Musk, geniul din spatele masinii electrice Tesla si al programului spatial independent, Space X, a donat recent 10 milioane de dolari institutului Future of Life pentru demararea unor proiecte ce vizeaza prevenirea unei revolte a inteligentei artificiale impotriva omenirii.

Tot Musk anticipeaza ca peste 20 de ani masinile inteligente vor domina piata automobilelor. Subiectul masinilor care se conduc singure ridica o serie de probleme etice importante. Spre exemplu, se spune ca aceste masini vor fi capabile sa evalueze potentialul de risc al unei situatii rutiere, luand cea mai buna decizie, pentru a minimiza impactul. Dar ce se intampla daca, spre exemplu, masina se indreapta spre un tunel, in fata caruia sare un copil? Masina ar avea urmatoarea dilema: evitarea copilului si coliziunea cu zidul tunelului, ceea ce s-ar solda cu decesul soferului sau impactul cu copilul, pentru a-si salva posesorul. Acest tip de judecata etica este de o importanta fundamentala, iar intrebarea daca o astfel de decizie ar trebui delegata unei masinarii este una cat se poate de valida.

Propaganda armatei robotilor

In alta ordine de idei, un experiment al laboratorului de sisteme inteligente din cadrul Scolii Politehnice din Lausanne, Elvetia, a demonstrate ca robotii pot invata sa minta. Mai precis, 1.000 de roboti au fost programati sa identifice o sursa de “hrana”, primind puncte pentru fiecare resursa gasita. In plus, robotii fusesera incurajati sa colaboreze, comunicandu-si reciproc pozitia resurselor prin intermediul unui semnal luminos. Nu a durat mult pana cand robotii au inceput sa inteleaga ca sansele le scad pe masura ce tot mai multi roboti competitori afla de resurse, prin urmare, au inceput sa nu mai trimtia semnalele luminoase catre ceilalti. Mai mult, o treime dintre roboti au realizat deceptia si au inceput sa nu mai urmeze semnalele luminoase.

Calculatoarele noastre devin tot mai inteligente, pe zi ce trece. Legea lui Moore (cofondator Intel) prezice ca numarul de tranzistori dintr-un circuit integrat se dubleaza la fiecare doi ani. Cu o asemenea putere de procesare, capacitate de data mining si supraveghere sporita, cat de aproape suntem de o tehnocalipsa? Oare este posibil ca aroganta noastra si obsesia de a sti cat mai multe unii despre altii si de a controla cat mai multe aspecte ale vietii sa ne determine sa ne subestimam propriile creatii tehnologice? Oare unde putem gasi echilibrul dintre gradul de autonomie dat inteligentei artificiale si nivelul de control caruia aceasta trebuie sa se supuna?

Sa speram ca, la momentul potrivit, ne vom dovedi destul de intelepti, incat sa nu fie nevoie ca Arnie, imbracat cu geaca de piele, purtand ochelari de soare si manuind o carabina sa ne acosteze pe strada cu vorbele “Come with me if you want to live!”