Ce spun experții despre prima lege care ne apără de A.I.: Inteligența artificială va transforma internetul într-un monstru
0Statele Uniunii Europene au adoptat un document istoric pentru reglementarea inteligenței artificiale, care ar trebui să prevină înlocuirea oamenilor cu aceasta și distrugerea credibilității conținutului digital. Experții în securitate cibernetică au explicat pentru „Adevărul“ că Directiva va fi un GDPR al A.I. care va încerca să protejeze modul în care circulă datele pe internet pentru a proteja oamenii de deepfake sau fake news. În plus, angajatorii vor avea și ei restricții dacă vor folosi și forță de muncă umană, și inteligență artificială.
Săptămâna trecută, statele membre ale Uniunii Europene au adoptat un document istoric pentru reglementarea inteligenței artificiale, care ar trebui să prevină înlocuirea oamenilor cu aceasta.
„Această «Lege A.I.» este o etapă fundamentală, care stabileşte primele reguli de pe planetă asupra inteligenţei artificiale, pentru a o face mai sigură şi respectuoasă faţă de drepturile omului“, a afirmat președinția belgiană după adoptarea legii. La rândul său, comisarul european Thierry Breton a lăudat inițiativa, pe care o consideră „o reglementare istorică, o premieră mondială“.
Regulile impuse în domeniul A.I. de UE
Printre altele, Directiva va impune angajatorilor să notifice angajații înainte de a implementa „sisteme de inteligență artificială cu risc ridicat“, cum ar fi educaţia, resursele umane sau ordinea publică. În plus, va impune angajatorilor să pună în aplicare supravegherea acestora de către experți, să suspende imediat utilizarea sistemului și notifice furnizorul, importatorul sau distribuitorul, cât și autoritatea relevantă de supraveghere a pieței dacă apare o problemă precum discriminarea și să păstreze 6 luni înregistrările A.I.
În cazul inteligențelor artificiale generative, care pot produce texte, sunete sau imagini la cerere, regulile vor fi impuse pentru asigurarea calităţii datelor utilizate în stabilirea algoritmilor şi pentru a verifica respectarea legislației europene privind drepturile de autor. De asemenea, dezvoltatorii vor trebui să precizeze că sunetele, imaginile şi textele produse de A.I. sunt artificiale.
Documentul interzice utilizarea inteligenței artificiale în sistemele de notare socială, care evaluează oamenii în funcție de comportament sau statut socio-economic. De asemenea, se vor interzice practicile care influențează în secret oamenii sau grupurile vulnerabile pentru a-și schimba comportamentul.
Protecție împotriva deepfake
Alexandru Panait, expert în securitate cibernetică, și Alexandru Budișteanu, inventator și expert în A.I., au explicat pentru „Adevărul“ pericolul legat de inteligența artificială și cum o să ajute noua lege.
„De exemplu, o legislație în A.I. poate proteja oamenii de deepfake sau fake news. Ar trebui reglementate companiile – cum să folosească A.I. și reglementat felul în care mijloacele de comunicare precum social media sau YouTube validează aceste informații. Însă internetul este o scenă deschisă, unde oricine ar putea să publice orice, așa că reglementarea ar trebui adresată companiilor ce dezvoltă A.I., dar și felului în care este diseminată informația în mediul online. Acest lucru este mai important, decât reglementarea AI-ul în sine pentru a limita pârghiile prin care actorii negativi pot profita de aceasta tehnologie. Poți concepe un program informatic care să nu te lase să folosești în mod negativ A.I. Iar cea mai bună variantă este ca reglementările să fie mutate într-un format digital, în codul sursă efectiv. “, a explicat Alexandru Panait.
Aceste programe pot ajuta la crearea unei identități digitale. „Odată ce ai o identitate digitală, fie națională, fie europeană, fie globală, în care ai încredere, știi că acea sursă care a publicat acel video, text, este o sursă autentică și poți urmări de unde a venit informația în primă instanță“, precizează expertul în securitate cibernetică.
Directiva adoptată va fi practic un fel de GDPR care își propune să protejeze felul în care datele circulă pe internet.
„GDPR este doar o pârghie legală în cazul în care se întâmplă ceva rău. Însă nimic nu-ți garantează că datele tale sunt protejate. Pe partea de A.I., se poate reglementa felul în care să fie antrenată A.I., felul în care este diseminată, să impui anumite amenzi dacă A.I. este folosită în scopuri negative, dar cam atât, pentru că mediul online este extrem de dinamic și volatil, iar o legislație pentru așa ceva e foarte dificil de conceput“, mai spune Alexandru Panait.
Iar Ionuț Budișteanu întărește: „Un algoritm sau o formulă matematică nu poate fi reglementat. Orice utilizator poate să îl folosească și să facă ce fel de produs vrea, nici data center-ul nu știe dacă acel model de A.I. a fost antrenat corect respectând politicile GDPR sau nu. Riscul cel mai mare este ca internetul să nu mai fie cum este în prezent. În viitor, oamenii își vor pierde încrederea în conținutul digital“.
Concret, acesta este de părere că, în viitor, internetul riscă să fie plin de știri false, scrise de boți, și de recenzii false, pentru a păcăli oamenii. „Vor exista conturi false pe rețelele de socializare create cu ajutorul A.I., influenceri falși folosiți pentru a păcăli oamenii, iar în acest fel, va dispărea încrederea persoanelor în ce apare pe internet“, explică el.
Amenzile prevăzute în directiva recent adoptată variază de la 7,5 milioane de euro sau 1,5% din cifra de afaceri anuală a unei companii până la 35 milioane de euro sau 7% din cifra de afaceri anuală totală a unei companii.
Cum se va aplica legislația? „Fiecare reglementare vine la pachet cu foarte multe joburi pentru enforcement, asta înseamnă că oamenii trebuie să verifice dacă ele sunt respectate. Lucrurile ar fi simplificate dacă reglementările sunt făcute la nivel de cod. Cumva obiectivele legii A.I. ar putea fi obținute prin cod sursă, nu prin texte, pentru că atunci când ai texte ai nevoie de foarte multe resurse ca să te asiguri că reglementările sunt respectate, pentru a pregăti oamenii“, spune Alex Panait.
Ionuț Budișteanu subliniază: „Anumiți actori din domeniul A.I. pot fi reglementați foarte ușor, dar alții sunt greu de depistat și reglementat. În concluzie, lucrurile sunt destul de complicate pentru a putea fi reglementate“.
Legea A.I., pusă în discuție în urmă cu 3 ani
Legea A.I. a fost pusă în discuție de Comisia Europeană încă de acum trei ani, însă apariția robotului ChatGPT la sfârșitul lui 2022 a dat peste cap calculele experților UE. Chatbotul, dar și alte aplicații care pot crea sunete, imagini sau videoclipuri deepfake au arătat atât potențialul A.I., cât și pericolele din acest domeniu. Cu toate acestea, state importante precum Franța și Germania au ținut în suspans adoptarea legii A.I. Cele două țări se temeau că noile reglementări vor tăia avântul start-upurilor europene din domeniu, cum sunt Mistral AI și Aleph Alpha.
„Este necesară reglementarea A.I., dar cred că va fi reglementată în funcție de interesele liderilor politici care concep aceste legi. Nu consider că avansul tehnologic va fi limitat. (...) Există întotdeauna un impact. Cu cât o reglementare este mai restrictivă, cu atât start-upurile vor fi mai îngreunate, împovărate de acea reglementare. Fiecare prevedere înseamnă noi joburi, costuri noi, mai multă muncă pentru un start-up. Cu cât reglementările sunt mai simple și mai puține, cu atât este mai eficient pentru un start-up să crească și să se dezvolte, cu cât sunt mai mari, cu atât îngreunează dezvoltarea acestui start-up“, ne lămurește Alex Panait, care a pus bazele unei companii de dezvoltare software în 2019 și care va înființa curând o sucursală și în SUA.
Se încarcă comentariile...
