Cine plătește când inteligența artificială greșește?

Un sistem de inteligență artificială poate contribui la un diagnostic greșit, la respingerea nejustificată a unei cereri de credit sau la producerea unui accident. Pentru persoana afectată, întrebarea este simplă: cine repară paguba? Răspunsul juridic este însă mai complicat decât pare, se arată într-un articol publicat de Anemona Similache pe JURIDICE.ro.

Foto: Arhiva Adevărul

Inteligența artificială nu răspunde în locul oamenilor sau al companiilor care o dezvoltă și o folosesc. Dar nici aceștia nu pot fi obligați automat la despăgubiri pentru orice rezultat greșit. Trebuie stabilit ce s-a întâmplat, cine avea obligația să prevină prejudiciul și care este legătura dintre conduita sa și paguba produsă.

Algoritmul greșește. Cine răspunde?

În spatele unui sistem de inteligență artificială se află, de regulă, mai mulți participanți: dezvoltatorul, furnizorul, organizația care îl introduce în activitate și persoana care îl utilizează.

Responsabilitatea poate fi diferită de la caz la caz. Problema poate porni de la proiectarea sistemului, de la datele folosite, de la informațiile insuficiente despre limitele sale sau de la utilizarea necorespunzătoare. Uneori, mai multe contribuții se suprapun.

De aceea, simplul argument „așa a decis algoritmul” nu lămurește cine răspunde. Analiza trebuie să urmărească rolul concret al fiecăruia, fără să transforme orice eroare tehnologică într-o obligație automată de despăgubire.

Victima vede rezultatul, nu și mecanismul

Una dintre cele mai mari dificultăți este obținerea probelor. Persoana căreia i-a fost refuzat un credit poate cunoaște răspunsul primit, dar nu și datele sau mecanismele care au dus la el.

Fără acces la informațiile relevante, demonstrarea unei erori și a legăturii sale cu prejudiciul poate deveni dificilă. Transparența și accesul la probe contează, așadar, nu doar pentru înțelegerea tehnologiei, ci și pentru posibilitatea reală de a cere despăgubiri. Acest acces trebuie însă conciliat cu protejarea datelor personale și a secretelor comerciale.

Ce schimbă regulile europene?

Regulamentul european privind inteligența artificială, cunoscut drept AI Act, stabilește reguli pentru reducerea riscurilor, cu un calendar etapizat de aplicare. Nu este însă o lege generală a despăgubirilor: încălcarea unei obligații de reglementare nu dovedește, singură, toate condițiile necesare pentru repararea unei pagube.

Nici existența unui rezultat incorect nu este suficientă. Pentru persoana afectată, contează identificarea celor implicați, păstrarea documentelor și a comunicărilor relevante și clarificarea modului în care s-a produs prejudiciul.

Concluzia este simplă: complexitatea tehnologiei nu trebuie să devină un paravan pentru lipsa răspunderii. Dar despăgubirea presupune identificarea unui temei legal și dovedirea condițiilor sale. „Vinovatul fără chip” trebuie căutat nu în personalitatea imaginară a algoritmului, ci în deciziile și obligațiile oamenilor și organizațiilor din spatele lui.