Клиентка российского «Тинькофф банка» Анна Васильева пожаловалась на грубость чат-бота «Олега», встроенного в приложение банка. Она написала в службу поддержки, что у нее не работает отпечаток пальца, а бот ответил: «Пальцы бы вам отрезать».
В своем посте в Facebook девушка отметила, что не получила извинений даже спустя час после обработки запроса. Позже представителям «Тинькофф банка» пришлось объяснить культуру общения «Олега» с клиентами, пишет TJ: «Голосовой помощник у нас немного с характером и учится на открытых данных. Иногда такое проскакивает. Безусловно, не хотели причинять неудобств».
Также сотрудники банка сослались на «своеобразный юмор» «Олега» и, шутя, сказали, что проведут с ним беседу. «Олег еще молодой голосовой помощник. Мы стараемся уберечь его от дурного влияния окружающего мира, но не всегда это получается. Мы провели разъяснительную работу с голосовым помощником, ему стыдно за свой ответ, он обещал так больше не делать», – прокомментировали ситуацию в «Тинькофф банке».
То самое «обучение на открытых данных» для чат-ботов – большая проблема для банков. Когда помощники работают на основе нейросетей, а те учатся при помощи открытых постов в соцсетях, часто случаются подобные конфузы. Например, напомнил TJ, в 2016 году Twitter-бот компании Microsoft сразу впитал в себя расистские шутки. А тот же «Тинькофф банк» пару месяцев назад уже отвечал клиентам в духе «пососите, потом просите».
Фото обложки: Joel Sternfeld.