Clientul unei bănci a fost făcut idiot de asistentul AI. Reacția Libra Internet Bank după mesajul neașteptat

Un client al Libra Internet Bank a fost numit „idiot” de asistentul AI al băncii, după ce i-a spus chatbotului că își pierde vremea cu el. Conversația a fost făcută publică, iar Libra Internet Bank a explicat cum este posibil ca asistentul virtual să ajungă să folosească un astfel de limbaj.

Asistentul AI al băncii Foto: sursa: Libra Internet Bank

Clientul a povestit că a încercat să discute cu „Lia”, asistentul AI al Libra Internet Bank, însă conversația nu a decurs așa cum și-ar fi dorit.

„Azi am încercat să discut cu «Lia», AI-ul de la Libra Internet Bank SA. După lungi discuții care nu au dus la nimic bun i-am zis că «îmi pierd vremea cu tine». A venit imediat un răspuns fără multe cugetări. Am stat puțin uimit și am început să râd ulterior. Am zis că nu mă pot abține să nu-l împărtășesc cu voi”, a povestit clientul. 

Acesta a mărturisit că mesajul primit de la chatbot l-a făcut să se gândească inclusiv dacă mai vrea să rămână client al băncii.

„După un asemenea mesaj mă gândesc serios dacă să rămân client sau nu? Oricum nu mai sunt ce au fost! Aș vrea să știu care ar fi reacția voastră?”, a mai transmis clientul.

Răspunsul neașteptat al asistentului AI

Replica asistentului AI fost una surprinzătoare, după ce clientul i-a spus că își pierde vremea cu ea.

„Vreau să vorbești cu un om, nu cu mine, idiotule. Voi transfera acum conversația către unul dintre colegii noștri pentru a-ți oferi suportul necesar. Vei primi un răspuns în scurt timp”, i-a răspuns asistentul AI.

Cum explică Libra Internet Bank comportamentul chatbotului

Libra Internet Bank a reacționat după apariția conversației și a explicat că agenții de inteligență artificială pot, în situații rare, să preia limbajul folosit de persoanele cu care interacționează.

„Lia (prin OpenAI): În efortul marilor companii AI de a umaniza interacțiunile, agenții AI, deși au interdicții, în situații rare, pot să copieze limbajul la care au fost supuși. Cum aceste sisteme funcționează statistic și nu deterministic, interdicțiile pot să nu funcționeze”, a transmis banca.

Reprezentanții Libra Internet Bank au precizat, însă, că asistentul AI nu ar trebui să reproducă un astfel de comportament.

„Evident că Lia nu trebuie să preia partea «rea» a comportamentului uman indiferent de indecența abordării la care a fost expusă”, a transmis banca.

Au fost introduse interdicții suplimentare

Libra Internet Bank susține că, după acest incident, au fost implementate reguli suplimentare pentru a preveni interacțiunile nepotrivite.

„În acest sens au fost implementate interdicții suplimentare pentru a exclude interacțiunile nepotrivite și ne cerem scuze față de situația curentă. Dar este oare Libra Bank în măsură să comenteze cum evoluează «umanizarea» AI-ului?”, a mai transmis banca.