По данным опроса, проведенного компанией «МТС Линк», 19 % россиян сталкивались с мошенниками, которые с помощью нейросетей имитировали их знакомых и родственников. 18 % респондентов признались, что их пытались обмануть от имени начальника или коллег. Эксперты по кибербезопасности предупреждают: количество поддельных звонков и сообщений будет расти в ближайшее время. Мошенники сегодня отказываются от массовых атак вслепую в пользу адресных схем, нацеленных на конкретных людей. Проворачивать такие схемы им помогает искусственный интеллект.
Что такое дипфейк и при чем тут искусственный интеллект
Искусственный интеллект — это уже часть нашей реальности. Нейросети сегодня используются почти везде, в том числе и мошенниками, которые очень быстро придумали новый способ обмана людей — дипфейки.
Дипфейк — это правдоподобная имитация голоса, фото- или видеоизображения с помощью искусственного интеллекта. Слово происходит от двух английских терминов: deep learning (глубинное обучение) и fake (обман, подделка). Под глубинным обучением понимается обучение машин сложным действиям — например, распознаванию лиц, голоса, написанию текстов по заданным параметрам, генерации изображений и даже сочинению музыки. Фактически это технология, имитирующая работу человеческого мозга, — отсюда и ее название: искусственный интеллект (ИИ). Работает ИИ на основе специальных программ — нейросетей.
Чтобы нейросеть могла функционировать подобно человеческому мозгу (анализировать, делать выводы и принимать решения), ее обучают — предоставляют ей массивы данных для анализа и программируют алгоритмы, по которым она будет оперировать этими данными. Например, чтобы нейросеть по запросу «создай фотореалистичное изображение букета ландышей в стеклянной вазе» выдала адекватную картинку, она должна «узнать», что представляют из себя ландыши, как выглядит стеклянная ваза и что значит «фотореалистичный». Для этого ранее нейросети «показали» разные изображения ландышей (фото, рисунки), «сказали», что цветы с такими свойствами — это именно ландыши: вот эти нарисовал художник, а вот эти — сфотографированы. Нейросеть все это проанализировала, запомнила и по запросу может «собрать» нужную картинку из того, что когда-то «видела».
Точно так же ее можно научить анализировать человеческую речь, фотографии и видео и затем воссоздавать голос или внешность человека на основе загруженных в программу образцов. Если имитируется голос, появляется голосовой дипфейк, а если внешность — видеодипфейк.
Голосовые дипфейки
Для их создания мошенникам нужен образец голоса. Чтобы его получить, они могут украсть аккаунт в мессенджере (там наверняка есть голосовые сообщения) или же позвонить жертве и записать голос. Образец голоса затем загружается в нейросеть, программа анализирует особенности речи (тембр, интонации) и синтезирует голос, похожий на образцовый. Этим голосом мошенники записывают сообщение с просьбой перевести деньги. Обоснование просьбы может быть очень правдоподобным так как мошенники из угнанного аккаунта взяли не только образец голоса, но еще и почитали переписку, а из нее можно многое узнать о жизни человека. К примеру, если человек кому-то в сообщениях пожаловался на здоровье, жулики могут попросить деньги на лечение, срочную операцию и т. д.
Заподозрить подделку сложно: сообщение очень короткое, а голос действительно похож. К тому же мошенники подключают социальную инженерию: речь всегда идет о каком-то негативном событии, об опасности и необходимости срочно спасать ситуацию. Это выбивает жертву из колеи, особенно если сообщение от имени близкого человека или родственника.
Видеодипфейки
Мошенник сначала записывает видео, а потом заменяет в нем лицо на лицо человека, аккаунт которого взломал и будет использовать в схеме обмана. Сюжет классический — срочно нужны деньги. Ролик затем рассылается контактам взломанного пользователя.
Более сложный видеодипфейк — цифровой двойник человека, созданный нейросетью на основе его фотографий и видео. То есть подделывается и изображение, и голос. С помощью таких дипфейков мошенники обманывают подписчиков популярных каналов, где подписка платная или продаются онлайн-курсы. Жулики сначала создают фальшивый канал блогера — с его фото, похожим названием и оформлением. Потом записывают «кружок», где цифровой двойник блогера призывает купить курс только сегодня с мегаскидкой, и дают ссылку на оплату. Обычно все это происходит, когда настоящий автор курса открывает его продажу. Или наоборот — после закрытия продаж: мошенники читают комментарии подписчиков и ищут тех, кто не успел занять место на курсе, затем от имени автора присылают им в личку «эксклюзивное предложение»: только для вас последнее место, успейте оплатить.
Похожую схему мошенники проворачивали с сотрудниками компаний и организаций: создавали копию аккаунта руководителя в мессенджере и присылали голосовой или видеодипфейк, в котором «начальник» давал указания — перевести деньги на счет или сообщить конфиденциальную информацию.
Другой вариант — дипфейки с использованием личности известного человека или авторитетного эксперта в какой-то сфере. В таких роликах часто рекламируются «прибыльные инвестиционные проекты» и звучит призыв вложить деньги.
Еще злоумышленники могут создавать дипфейки для шантажа и давления: с помощью нейросети имитируют короткий видеозвонок представителя власти, который сообщает, что связь плохая и дальше он будет писать в чате. Пишет человеку, что тот якобы уличен в финансировании запрещенных организаций и скоро с ним свяжутся правоохранители. «Правоохранители» связываются и начинают запугивать, но потом предлагают «решить вопрос» — заплатить деньги.
Как защититься от дипфейков
Нейросети совершенствуются, поэтому и качество дипфейков прогрессирует. Распознать подделку может быть очень трудно. Для начала нужно вообще заподозрить, что человек, который прислал вам сообщение, не тот, за кого себя выдает. Но все же есть признаки, которые могут выдать дипфейк. Если это подделка голоса, такой признак — интонация: нейросеть не может на 100 % воспроизвести оригинальную интонацию речи, голос получается монотонным, «механическим».
В видеодипфейках можно заметить несовпадение цвета кожи, освещенности, поскольку лицо «вклеено» в видео, а условия фото- и видеосъемки разные. Подделку могут выдать артикуляция (движение губ при говорении) и мимика: нейросети, которые используют мошенники, не настолько продвинутые, чтобы заставить «вклеенное» из фото лицо выглядеть абсолютно естественно. Поэтому движения губ могут отставать от звука, моргание может «тормозить» или вообще отсутствовать.
Защититься от дипфейков поможет осторожность и ответственное отношение к информации, которую публикуете в Сети. Чтобы мошенники не могли получить образец голоса, фото и видео с вашим участием, не выкладывайте все подряд в открытом доступе.
Правила безопасности
1. Не записывайте голосовые сообщения для общих чатов
Мошенники специально проникают в общие чаты и используют информацию оттуда для обмана участников.
2. Не используйте свой голос в автоответчике
Эксперты говорят, что хватит даже небольшого отрезка записи голоса, чтобы создать дипфейк.
3. Не отвечайте на звонки с незнакомых номеров
Мошенники могут звонить с целью записать образец голоса.
4. Настройте приватность своих страниц в соцсетях
Все, что человек публикует в Сети в открытом доступе, помогает мошенникам составить его портрет и придумать адресную схему обмана — разработанную специально для него. Именно такие схемы мошенничества набирают сегодня популярность.
5. Поставьте надежные пароли в мессенджерах и настройте двухфакторную аутентификацию
Это защитит от взлома. Во взломанном аккаунте мошенник может найти все необходимое для создания дипфейка: голосовое сообщение (образец голоса) и факты из переписки для сочинения правдоподобной легенды.
6. Осторожно относитесь к просьбам о переводе денег
Если знакомый или родственник пишет в мессенджере и просит срочно перевести ему деньги, позвоните ему на мобильный и проверьте информацию из сообщения.
7. Не переводите деньги по незнакомым номерам телефона
Если кто-то из семьи или друзей просит перевести деньги, но почему-то на карту или мобильный номер чужого человека, это явный признак обмана. Позвоните человеку, от имени которого пришла просьба о переводе, и узнайте, а писал ли он вам вообще. Если человек не ответил на звонок, а затем пишет «Не могу говорить» и торопит с переводом, отправьте ему вопрос, ответ на который не сможет дать мошенник.
8. Будьте внимательны при оплате подписок и платных курсов
Автор рекламирует курс и дает ссылку на оплату в посте или размещает ее в закрепленном сообщении, но не высылает каждому участнику в личку.
9. Не верьте сообщениям незнакомцев в мессенджерах
Неважно, кем представляется человек. Не совершайте никаких финансовых операций и не сообщайте конфиденциальные данные по просьбе незнакомцев.