Терминатор против Терминатора или война финансистов с мошенниками.

Недавно я побывал на одном мероприятии. Было много докладов, очень интересных, познавательных. С одним из докладчиков я после обстоятельно побеседовал.

Так уж работает голова ТРИЗовца... вечно пытается найти уязвимости в системах.

И этот случай не стал исключением.

Представитель одного из финансовых учреждений увлеченно рассказывал о том, как применяется ИИ для улучшения работы. Также он немного подсветил планы развития применения ИИ.

Оказалось, что планируется применение ИИ для общения с клиентами, обращающимися в учреждение по телефону. Не стал допытываться, какие именно вопросы клиента будут решаться с помощью ИИ. Но задал вопрос о потенциальных рисках, которые обосновал в следующей логике...

Представьте себе, что мошенники поставили перед собой цель обчистить счета ИванИваныча до последней копейки, завладеть его акциями или другими ценными бумагами. Что они должны сделать? А они должны стать ИванИванычем! Но как? Да очень просто! Скопировать его голос не так сложно. Достаточно позвонить и "случайно" ошибиться номером.

- ИванИваныч, здравствуйте!

- Здравствуйте. Но я не ИванИваныч.

- Как? Это номер такой-то?

- Да. Только я не ИванИваныч.

- Странно. Значит мне дали не тот номер. Простите, пожалуйста. Извините.

- Ничего страшного. До свидания.

Безобидный диалог. Ну ошибся человек номером. С кем не бывает. Но! У злоумышленников уже есть фонемы голоса ИванИваныча. Те самые фонемы, которые мошеннический ИИ соберет в диалог по нужному сценарию. Сценарию, который ляжет в основу алгоритма проникновения мошенников к счетам и активам ИванИваныча!

Можно сколько угодно говорить о системах защиты. Однако, получить паспортные данные сегодня для мошенников задача не сложная. Выяснить кодовые слова сложнее, но тоже решаемо.

Так сможет ли противостоять Терминатор финансовой системы Терминатору мошенников и защитить активы несчастного ИванИваныча? На каком этапе в дело вступит человек, чтобы принять финальное решение и ответить на вопрос "А действительно ли разговор идет с ИванИванычем" или это попытка вражеского ИИ проникнуть в тайны финансовой системы? Не пора ли в этом диалоге протянуть руку к кнопке ВЫКЛ?

Это вопросы я задал представителю финансовой структуры. Скажу честно. Ответ меня насторожил. У меня появились сомнения в том, что финансовая система в целом абсолютно готова к таким вызовам. А не получится ли так, что торжество финансового ИИ откроет ящик финансовой Пандоры?