Când inteligența artificială este păcălită: cine răspunde pentru datele furate sau banii pierduți

Un asistent cu inteligență artificială poate rezuma documente și răspunde la întrebări. Dacă este conectat la aplicațiile unei companii, poate însă face mai mult: să consulte baze de date, să modifice înregistrări sau să inițieze operațiuni. Ce se întâmplă dacă cineva îl convinge să folosească aceste capacități în interesul unui atacator?

Foto: Shutterstock

Problema este analizată de judecătorul Marius Peter, de la Curtea de Apel Alba Iulia, într-un articol publicat pe JURIDICE.ro. Ideea centrală: tehnologia poate schimba modul în care este comisă o faptă, dar răspunderea penală nu se stabilește automat.

Instrucțiuni ascunse într-un document aparent obișnuit

Una dintre metodele de manipulare poartă numele de „prompt injection”. Pe înțelesul tuturor, atacatorul introduce instrucțiuni prin care încearcă să deturneze sistemul de la sarcina primită.

Instrucțiunile pot fi transmise direct sau ascunse într-un document, într-un e-mail ori într-o pagină web pe care asistentul trebuie să o citească. Imaginați-vă un document care, pe lângă informațiile obișnuite, îi cere sistemului să ignore solicitarea utilizatorului și să trimită date confidențiale către o adresă externă.

Acesta este un scenariu ipotetic, nu descrierea unui incident concret. El arată însă de ce contează diferența dintre un program care doar produce text și un agent AI care poate executa operațiuni în alte aplicații.

Un răspuns greșit nu înseamnă automat o infracțiune

Din punct de vedere penal, efectul concret este esențial. Un rezumat inexact nu este același lucru cu ștergerea unor înregistrări dintr-o bază de date. La fel, generarea unui text fals nu reprezintă, prin ea însăși, fals informatic.

În funcție de ceea ce s-a întâmplat, pot intra în discuție accesul ilegal la un sistem, modificarea ori transferul neautorizat al datelor, frauda sau falsul informatic. Fiecare infracțiune are însă condiții proprii, care trebuie dovedite. Existența unei pagube nu este suficientă, singură, pentru a demonstra o fraudă informatică.

Nici faptul că agentul folosește o conexiune tehnică validă nu înseamnă neapărat că operațiunea este autorizată juridic. Dar nici încălcarea unei instrucțiuni interne nu devine automat infracțiune.

Cine răspunde și ce trebuie demonstrat?

Inteligența artificială nu devine autor al unei infracțiuni. Analiza privește conduita persoanelor care au folosit-o sau au manipulat-o.

Trebuie stabilit cine a introdus instrucțiunea, dacă aceasta a determinat operațiunea și ce a urmărit persoana respectivă. Nu toate acțiunile ulterioare ale sistemului pot fi puse automat în sarcina celui care a formulat mesajul inițial.

De aceea, probele tehnice sunt decisive: documentul compromis, istoricul interacțiunilor, permisiunile acordate agentului și înregistrările operațiunilor efectuate. O demonstrație că atacul este posibil nu dovedește că el s-a produs astfel într-un caz concret.

Concluzia este că „prompt injection” descrie un mecanism tehnic, nu o infracțiune de sine stătătoare. Pentru a stabili răspunderea penală, trebuie văzut ce a făcut efectiv sistemul și care a fost contribuția persoanei din spatele manipulării.