Cum este când inteligența artificială face cumpărături pentru noi
Un asistent AI poate învăța ce hoteluri preferăm, ce buget avem și la ce confort nu vrem să renunțăm. Dar ce se întâmplă dacă recomandările sale sunt influențate de interese comerciale? Și cine ne protejează dacă o asemenea influență îi schimbă nu doar următoarea recomandare, ci și alegerile viitoare?

Acestea sunt câteva dintre întrebările analizate într-un articol publicat pe JURIDICE.ro, dedicat protecției consumatorilor care folosesc asistenți AI personalizați. Miza nu este doar dacă o cumpărătură a fost avantajoasă, ci și dacă instrumentul căruia îi încredințăm deciziile continuă să respecte preferințele noastre.
Un asistent care ne cunoaște nu are automat și permisiunea de a cumpăra
Să presupunem că folosim un asistent AI pentru organizarea unei vacanțe. Din conversațiile anterioare, acesta a învățat că preferăm hotelurile confortabile. Această preferință nu echivalează însă, prin ea însăși, cu permisiunea de a depăși bugetul sau de a face o rezervare în numele nostru.
Distincția este esențială: una este ce știe sistemul despre noi, alta este ce l-am autorizat să facă. Iar confirmarea unei anumite achiziții reprezintă o chestiune separată.
Recomandarea este pentru noi sau pentru cel care plătește?
Lucrurile se complică atunci când furnizorul asistentului primește bani pentru promovarea anumitor oferte. Un hotel poate ajunge în fruntea recomandărilor nu pentru că răspunde cel mai bine cerințelor utilizatorului, ci pentru că există un interes comercial în promovarea lui.
Propunerea europeană Digital Fairness Act abordează și asemenea situații. În condițiile prevăzute de text, interesele comerciale relevante ar trebui dezvăluite, iar încheierea contractului ar necesita confirmarea consumatorului, chiar dacă acesta permisese anterior anumite cumpărături automate. Este însă vorba despre o propunere legislativă, nu despre reguli deja aplicabile.
Anularea cumpărăturii poate să nu rezolve întreaga problemă
Articolul de pe JURIDICE.ro atrage atenția și asupra unui risc mai puțin vizibil: o influență înșelătoare ar putea afecta criteriile folosite ulterior de asistent. De exemplu, sistemul ar putea ajunge să trateze o opțiune comercială drept o preferință a utilizatorului și să o favorizeze în recomandările viitoare.
Într-o asemenea situație, anularea unei rezervări nu ar corecta neapărat și modul în care asistentul continuă să aleagă. Aceasta este una dintre problemele pe care autorul le consideră încă deschise. Existența unei intervenții, efectele sale și eventualul prejudiciu ar trebui însă demonstrate, nu presupuse.
Provocarea este, așadar, mai amplă decât protejarea unei singure tranzacții. Pe măsură ce delegăm decizii asistenților AI, devine important să putem distinge între ceea ce sistemul a învățat despre noi, ceea ce i-am permis să facă și interesele comerciale care îi pot influența recomandările.




















































