UE, legislație istorică pentru reglementarea inteligenței artificiale. Sistemele „cu risc ridicat”

Uniunea Europeană a convenit asupra unei legislații fără precedent la nivel global, în privința reglementării inteligenței artificale. După trei zile de negocieri intense între statele membre și Parlamentul European, un „acord politic” a fost atins vineri, marcând un moment istoric în domeniul tehnologiilor avansate.

Comisarul european, Thierry Breton, a salutat acest moment, afirmând: „Istoric! UE devine primul continent care a stabilit reguli clare pentru utilizarea IA.”

Proiectul a fost prezentat în aprilie 2021, iar după luni de discuții, ultima rundă de negocieri, care a început miercuri după-amiază, a durat aproape 35 de ore.

Procesul de reglementare a fost influențat de apariția ChatGPT, generatorul de texte dezvoltat de compania californiană OpenAI, care a evidențiat potențialul imens al IA, dar și riscurile asociate. Preocupările legate de manipularea opiniei publice, generată de distribuirea pe rețelele de socializare a unor fotografii false, au adus în prim-plan necesitatea reglementării specifice pentru tehnologiile de impact semnificativ.

În cadrul negocierilor, europarlamentarii au insistat asupra supravegherii specifice pentru IA generativă, precum ChatGPT, cerând mai multă transparență în ceea ce privește algoritmii și bazele de date utilizate în aceste sisteme. Îngrijorările statelor membre privind posibilele consecințe negative asupra campionilor emergenți din domeniul IA au fost luate în considerare, menționând companii precum Aleph Alpha în Germania și Mistal AI în Franța.

Acordul politic, convenit vineri seara trebuie să fie completat de o muncă tehnică în vederea finalizării textului. Ministrul francez al Digitalului, Jean-Noël Barrot, a subliniat importanța păstrării capacității Europei de a-și dezvolta propriile tehnologii de inteligență artificială și de a-și menține autonomia strategică.

Sistemele vizate și viitoarele sancțiuni

În privința IA generative, compromisul prevede o abordare cu două viteze, impunând reguli pentru asigurarea calității datelor și identificarea clară a sunetelor, imaginilor și textelor produse cu ajutorul inteligenței artificiale. Constrângerile consolidate se vor aplica numai celor mai puternice sisteme.

Legislația se concentrează pe sistemele considerate cu „risc ridicat”, în domenii precum infrastructura critică, educație, resurse umane sau aplicarea legii, impunând obligații precum controlul uman, documentație tehnică și gestionarea riscurilor. Aceasta prevede și supraveghere specifică pentru sistemele de IA care interacționează cu oamenii și impune obligația informării utilizatorilor despre interacțiunea cu o mașină.

În contrast cu codurile de conduită voluntare, legislația europeană va fi dotată cu mijloace de supraveghere și sancțiuni, inclusiv un birou european al IA în cadrul Comisiei Europene. Amenzi semnificative pot fi aplicate pentru cele mai grave încălcări, cu un plafon de până la 7% din cifra de afaceri sau 35 de milioane de euro.