Искусственный интеллект сократил стоимость и время подготовки мошеннической атаки. Раньше злоумышленнику приходилось вручную изучать жертву, писать сценарий разговора и искать человека с похожим голосом. Теперь нейросеть за несколько минут анализирует утекшие персональные данные, пишет убедительное сообщение, копирует голос родственника и генерирует видео от имени руководителя.
Главное изменение связано не с качеством отдельных дипфейков, а с масштабированием. Один мошенник с набором автоматизированных инструментов может одновременно атаковать сотни пользователей, подстраивая легенду под возраст, место работы, покупки, состав семьи и финансовые привычки каждого человека.
Разберём, как мошенники используют искусственный интеллект, почему фишинг — это вид мошенничества, который стал опаснее из-за нейросетей, и какие признаки помогают распознать поддельный голос, видео или сообщение.
Как мошенники используют искусственный интеллект и утечки персональных данных
Одна из наиболее опасных схем строится на объединении нейросетей с базами утекших данных. Злоумышленнику уже не обязательно самостоятельно взламывать аккаунт пользователя. Он может купить или получить сведения из нескольких утечек, а затем поручить ИИ сопоставить записи по номеру телефона, адресу электронной почты, ФИО и другим идентификаторам.
В результате разрозненные сведения превращаются в подробный цифровой профиль. Мошенник может узнать, каким банком пользуется человек, где он работает, в каких магазинах делает покупки и кому регулярно переводит деньги. Чем больше таких данных удалось собрать, тем правдоподобнее становится легенда.
Например, вместо массового письма о случайной доставке жертва получает сообщение о заказе из магазина, которым действительно пользуется. Вместо абстрактного звонка из банка мошенники называют реальные персональные данные и последние операции. Наличие точной информации снижает критичность восприятия: человеку кажется, что незнакомец не мог узнать такие сведения случайно.
Максим Митин, разработчик ИИ-архитектур, автор открытой модели MiniMax-M2.7-Ghetto-MoE-8-Experts и руководитель ИИ-проекта Livadies, считает главным риском именно сочетание искусственного интеллекта с крупными корпоративными утечками:
ИИ в такой схеме выполняет сразу несколько функций. Языковая модель очищает и объединяет базы, выделяет связи между людьми, формирует психологический портрет, пишет сообщения и адаптирует их под ответы жертвы. Голосовые и видеомодели добавляют визуальное или звуковое подтверждение легенды.
Из-за этого даже обычное фишинговое письмо становится точечным. В нём могут упоминаться реальные родственники, работодатель, заказ или адрес доставки. Пользователь видит знакомый контекст и воспринимает сообщение не как массовую рассылку, а как персональное обращение.
Фишинг — это вид мошенничества, который нейросети сделали персональным
Фишинг — это вид мошенничества, при котором человека убеждают самостоятельно передать данные, перейти на поддельный сайт, установить программу или подтвердить финансовую операцию. Технически мошенники не всегда взламывают банковскую систему. Они создают ситуацию, в которой жертва сама вводит логин, пароль, данные карты или код подтверждения.
Классический фишинг строился на массовости. Тысячи пользователей получали одинаковое письмо о блокировке карты, возврате налога, штрафе или посылке. Большинство адресатов замечали ошибки, неактуальную информацию и подозрительную ссылку.
Генеративный ИИ изменил механику. Нейросеть может написать сообщение без грамматических ошибок, воспроизвести стиль конкретного человека и продолжить диалог с учётом ответов пользователя. Автоматизированный бот способен вести десятки переписок параллельно и менять аргументы, когда жертва начинает сомневаться.
Отдельное направление — создание копий сайтов банков, маркетплейсов, государственных сервисов и интернет-магазинов. ИИ помогает быстро воспроизводить дизайн, писать тексты для страниц и генерировать отзывы. Ссылка на такой ресурс может отличаться от настоящего адреса одним символом, дополнительным словом или другой доменной зоной.
Цель остаётся прежней: получить реквизиты карты, пароль, код из СМС, данные учётной записи или заставить пользователя отправить деньги. Однако вероятность успеха растёт, когда сообщение опирается на реальные персональные данные и выглядит как продолжение знакомой ситуации.
Как мошенники подделывают голос родственника или руководителя
Для клонирования голоса нейросети нужен образец речи. Его можно получить из видеоролика, интервью, голосового сообщения, видеокружка или публичной записи в социальной сети. Чем чище исходный звук и чем длиннее запись, тем точнее модель воспроизводит тембр, интонацию и манеру речи.
После обучения модели мошенник вводит нужный текст и получает аудиозапись, которая звучит голосом другого человека. Некоторые инструменты работают почти в реальном времени, поэтому злоумышленник может разговаривать с жертвой по телефону, меняя собственный голос во время звонка.
Чаще всего технология используется в эмоциональных сценариях. Пользователю звонит якобы родственник, который попал в ДТП, больницу или полицию. Человеку не дают времени на анализ и требуют немедленно перевести деньги, передать их курьеру или назвать данные карты.
В корпоративном секторе применяется схема fake boss. Сотруднику финансового отдела пишет человек, который представляется директором или владельцем компании. Затем он отправляет голосовое сообщение либо видеокружок и требует срочно оплатить новый счёт. Давление авторитетом и ограниченное время снижают вероятность того, что бухгалтер проверит реквизиты через независимый канал.
Как создают дипфейки и поддельные видеосообщения
Видеодипфейк создаётся на основе фотографий и записей человека. Нейросеть заменяет лицо, синхронизирует движения губ с подготовленной речью и имитирует мимику. Для короткого ролика в мессенджере не требуется безупречное качество: маленький экран, сжатие видео и несколько секунд записи скрывают часть артефактов.
Мошенники используют видеокружки именно потому, что пользователь привык воспринимать их как быстрые и неформальные сообщения. Низкое разрешение и короткая длительность не вызывают подозрений, а знакомое лицо создаёт ощущение прямого контакта.
Денис Балашов, эксперт в финтех-решениях с более чем 15-летним опытом работы в платёжных системах и интеграциях с крупнейшими мировыми финансовыми игроками, управляющий партнёр SkyCapital, выделяет три наиболее распространённые группы атак:
По каким признакам можно распознать дипфейк
Определить качественную подделку только по изображению становится сложнее. Разработчики устраняют характерные дефекты, а сжатие в мессенджерах дополнительно маскирует ошибки. Поэтому проверять нужно не только качество видео, но и сценарий общения.
Первый тревожный признак — срочность. Мошенник требует перевести деньги немедленно, запрещает звонить другим людям и объясняет, почему нельзя прерывать разговор. Давление необходимо, чтобы пользователь не успел сопоставить факты.
Второй признак — смена реквизитов или канала оплаты. Руководитель внезапно просит перечислить деньги новому подрядчику, родственник требует отправить средства на чужую карту, а сотрудник банка предлагает установить приложение или перевести деньги на «безопасный счёт». Необычная операция важнее реалистичности голоса или лица.
Третий признак — технические дефекты. У дипфейка могут быть неестественные паузы, монотонная речь, несовпадение движения губ со звуком, странное моргание, размытые края лица и резкие изменения освещения. В аудиозаписи иногда слышны обрывы слов, одинаковые интонации и отсутствие естественного фонового шума.
Четвёртый признак — уход от нестандартных вопросов. Если собеседник не может ответить на вопрос, известный только близким людям, повторяет одну формулировку или пытается немедленно вернуть разговор к переводу денег, контакт следует прекратить.
Однако отсутствие артефактов не доказывает подлинность. Надёжная проверка строится не на попытке визуально разоблачить нейросеть, а на подтверждении запроса через независимый канал.
Кто должен отвечать за ущерб от ИИ-мошенничества
Споры об ответственности возникают потому, что в одной атаке участвует несколько инфраструктурных элементов. Персональные данные могут утечь из компании, звонок проходит через сеть оператора, сообщение распространяется через мессенджер, а деньги переводятся через банк.
Банк контролирует операцию и видит признаки аномального поведения: нового получателя, нетипичную сумму, изменение устройства, серию быстрых переводов или попытку вывести все средства. Антифрод-система может приостановить платёж и запросить повторное подтверждение. Однако слишком жёсткие фильтры приводят к блокировке законных операций, поэтому полностью исключить мошеннические переводы без роста числа ложных срабатываний невозможно.
Оператор связи способен фильтровать подменные номера, массовые звонки и подозрительную активность. Онлайн-платформа отвечает за защиту аккаунта, восстановление доступа и ограничение рассылок со взломанных профилей. Компания, которая хранит персональные данные, должна снижать вероятность утечки и минимизировать объём собираемой информации.
Пользователь контролирует финальный этап: переход по ссылке, передачу кода или подтверждение перевода. Но возможности человека ограничены, если мошенник использует реальные паспортные данные, знакомый голос и взломанный аккаунт родственника.
Поэтому ответственность нельзя сводить только к невнимательности жертвы. Чем больше данных и финансовых операций контролирует организация, тем выше должна быть её обязанность предотвращать аномалии, защищать инфраструктуру и предупреждать клиента.
Как защититься от мошенников, использующих искусственный интеллект
Основная мера защиты — принцип Zero Trust, при котором любой входящий запрос считается непроверенным независимо от имени, номера телефона, фотографии и голоса собеседника. Знакомый аккаунт мог быть взломан, номер — подменён, а аудио — сгенерировано.
Любую просьбу о переводе денег нужно проверять через другой канал. После голосового сообщения следует самостоятельно позвонить человеку по сохранённому номеру. После обращения якобы из банка — завершить разговор и набрать официальный номер с карты или сайта организации. После указания руководителя — подтвердить платёж через установленную внутри компании процедуру.
Для семей можно заранее определить кодовое слово или личный вопрос. Оно особенно полезно при звонках о ДТП, больнице и других чрезвычайных ситуациях. При этом кодовое слово нельзя хранить в открытой переписке, к которой злоумышленник может получить доступ.
Корпоративные платежи следует защищать не только паролями, но и регламентом. Смена реквизитов, перевод новому контрагенту или крупная внеплановая операция должны подтверждаться минимум двумя сотрудниками. Голосовое сообщение директора не должно заменять согласование в учётной системе или электронной подписи.
Для аккаунтов необходимо включить двухфакторную аутентификацию, использовать разные пароли и завершать неизвестные сессии. СМС остаётся дополнительным барьером, но приложение-аутентификатор или аппаратный ключ сложнее перехватить при перевыпуске SIM-карты.
Стоит ограничить публикацию длинных голосовых сообщений и видеозаписей в открытом доступе. Полностью скрыть голос и лицо невозможно, но сокращение исходных материалов усложняет создание качественной копии.
Нельзя сообщать коды из СМС, push-уведомлений и приложений-аутентификаторов. Сотрудникам банков, операторов связи и государственных органов такие коды не нужны. Запрос кода означает, что злоумышленник уже пытается войти в аккаунт или подтвердить операцию.
Почему схемы с ИИ будут становиться опаснее
Технологический барьер продолжает снижаться. Генерация текста уже доступна бесплатно, клонирование голоса занимает минуты, а короткий видеодипфейк можно подготовить без профессионального оборудования. В результате мошенничество переходит от массовых однотипных рассылок к автоматизированным персональным атакам.
Следующий этап — объединение нескольких инструментов в одного агента. Такой бот сможет самостоятельно находить сведения о человеке, писать сценарий, звонить, отвечать на возражения и менять тактику в реальном времени. Один оператор будет контролировать не отдельную жертву, а целую сеть автоматизированных диалогов.
Поэтому распознавание подделки по голосу, лицу или стилю текста постепенно теряет эффективность. Практическая защита строится на проверке операции: кто просит деньги, почему изменились реквизиты, можно ли подтвердить запрос другим способом и что произойдёт, если отложить решение на десять минут.
Искусственный интеллект не меняет конечную цель злоумышленника. Мошеннику по-прежнему нужны деньги, данные или доступ к аккаунту. Нейросеть лишь делает легенду быстрее, дешевле и убедительнее. Чем сильнее сообщение давит на срочность, страх или авторитет, тем важнее прекратить контакт и начать проверку с нуля.
