Мошенники научились подделывать голоса с помощью нейросетей

Телефонные мошенники вышли на новый уровень. Теперь в поисках лёгкой наживы они используют нейросеть. Искусственный интеллект помогает им подделывать голоса. Поэтому казахстанцам следует быть ещё бдительнее, говорят специалисты по информационной безопасности. О том, как применяют эту схему и что предлагают депутаты, узнавал корреспондент «Хабар 24».

Десятки казахстанцев практически ежедневно продолжают попадаться на уловки мошенников. Чаще всего используется схема со звонком на телефон. По данным МВД, за 11 месяцев зарегистрировано уже 19 тысяч преступлений. Ущерб исчисляется миллиардами тенге. Каждый раз аферисты идут на новые ухищрения. Теперь в погоне за лёгкой наживой они используют технологию имитации голоса. Заподозрить что-либо довольно сложно. Настолько реалистично, говорят специалисты, что понять, действительно ли родственник или друг говорит с вами на том конце провода сложно. При помощи нейросетей можно скопировать тембр и интонацию абсолютно любого человека. Тревогу забили даже в Национальном банке Казахстана. Там призвали граждан проявлять бдительность.

Асан Ахметжан, пресс-секретарь Национального банка РК:

- С развитием информационных технологий активно развиваются и различные мошеннические схемы. Имеются факты, когда при помощи ИИ могут подделывать, скажем так, голоса близких людей. Если гражданам поступают какие-то звонки с незнакомых номеров, бывают звонки вообще из других стран либо от имени сотрудников Национального Банка с просьбой предоставить какие-то персональные данные. ИИН, адрес, номер телефона, номера счетов и т.д. В таких случаях сразу следует прекратить разговор и перезвонить в call-центр Национального банка по номеру 1477.

С появлением новой схемы мошенничества под удар попадают все, кто отправляет голосовые сообщения. И даже любителям текстовых теперь стоит задуматься,  какие видео они публикуют в социальных сетях. Ведь для создания копии голоса достаточно записи длиной всего в несколько секунд.

Еламан Мустафа, IT-специалист:

- Первым делом нам нужно создать семпл голоса – то есть то, на чем будет обучаться нейронная сеть. Возьмем любой ваш сюжет, тут вы говорите что-то, мы возьмем этот голос, дальше закинем в программу.

Нейронная сеть думает и достаточно быстро выдает черновую версию. По тексту, который ей написали.  

Вот что мы получили за такое время: «Привет, скинь мне, пожалуйста, 10 тысяч тенге, я тебе потом расскажу, почему надо». Похоже?»

Алишер Накипов, корреспондент:

- Похоже! Хотя мне кажется, близкие и родные, конечно, заметят разницу, а вот остальные – нет. Хотя это – стопроцентный фейк.

Специалисты отмечают, подделку голоса можно отличить по чрезмерной обработке. Нейросеть звучит немного механически. Понять это можно, только если вслушаться. Вот только аферисты часто берут жертв, что называется, на испуг – имитируют ситуации, когда деньги нужны срочно. В МВД предупреждают, в случае поимки мошенникам грозит уголовная ответственность.

Каныш Ашжанов, старший оперуполномоченный по особо важным делам ДКП МВД РК:

- Ответственность за интернет-мошенничество предусмотрена Уголовным кодексом Республики Казахстан статьёй 190 часть 2 пункт 4. Санкция предусмотрена от 3 до 10, но окончательное решение уже принимается в суде.

О необходимости бороться с мошенниками, которые используют искусственный интеллект для обмана казахстанцев говорят и в Парламенте. Сейчас депутаты работают над правовым регулированием этой технологии.

Екатерина Смышляева, депутат Мажилиса Парламента РК:

- Мы с этой технологией на сегодня живём уже. Синтез голоса, изображения, это уже привычная реальность. Вы знаете, что технологии дипфейка, когда используются не только голос, но и изображения лица сегодня в сети можно встретить повсеместно. Мы работаем над правовым регулированием этой технологии, потому что действующие нормы и адвокатское сообщество подчёркивает, что действующих норм недостаточно для того, чтобы бороться с этим явлением.

По мнению эксперта, эта проблема еще не коснулась Казахстана в полной мере, однако это лишь вопрос времени. Уже через год она может стать повсеместной в нашей стране, как и мошенники, звонящие якобы из банков. И защититься от этого можно будет лишь старым добрым проверенным способом – не быть излишне доверчивым и соблюдать цифровую гигиену.

Авторы: Алишер Накипов, Диас Ковланбаев.