Un client al Libra Internet Bank a publicat o conversație cu asistentul AI al băncii, Lia, după ce chatbotul i-a răspuns insultător. Clientul a spus că, după ce i-a transmis virtualului că își pierde vremea cu el, a primit imediat replica: „Vreau să vorbești cu un om, nu cu mine, idiotule. Voi transfera acum conversația către unul dintre colegii noștri…”.
Mesajul l-a făcut pe client să se întrebe dacă mai vrea să rămână client al băncii și l-a determinat să facă publică conversația. El a spus că inițial a fost surprins, apoi a râs, dar a recunoscut că replica l-a pus pe gânduri.
Libra Internet Bank a reacționat, explicând că, deși agenții AI au reguli care îi interzic să reproducă limbaj ofensator, astfel de sisteme funcționează pe baze statistice și, în cazuri rare, pot prelua limbajul persoanelor cu care interacționează. Banca a precizat că asistentul nu ar fi trebuit să reproducă un astfel de comportament și și-a cerut scuze pentru situația creată.
Reprezentanții băncii au mai afirmat că, după incident, au implementat reguli și interdicții suplimentare pentru a preveni apariția unor răspunsuri nepotrivite şi pentru a îmbunătăți moderarea limbajului folosit de asistentul AI.
Comentarii recente