Сотрудник финансового отдела глобальной инженерной компании Arup перевёл почти 25 миллионов долларов после присоединения к видеоконференции, которая казалась легитимной и включала главного финансового директора и коллег. Позже выяснилось, что почти все участники были созданы с помощью ИИ. Атака удалась благодаря тому, что злоумышленники обошли технические средства защиты, эксплуатируя человеческое доверие через убедительные синтетические голоса и лица во время видеозвонка. Согласно новому руководству, опубликованному Resemble AI, этот случай стал ярким примером того, как дипфейки превратились из изолированных демонстраций в массовую угрозу безопасности для предприятий, финансовых учреждений и государственных структур, при этом исследования Gartner, FBI и Всемирного экономического форума показывают рост опасности.
Сотрудник Arup санкционировал перевод в 25 миллионов долларов во время видеоконференции, созданной ИИ
Инцидент с Arup стал ключевым примером мошенничества с дипфейками в отрасли. Сотрудник финансового отдела сначала заподозрил фишинговое письмо с просьбой о конфиденциальной транзакции. Вместо немедленных действий он присоединился к видеоконференции, которая казалась легитимной, с главным финансовым директором и несколькими коллегами. Все выглядели и звучали аутентично, встреча казалась полностью законной. Следуя инструкциям, полученным во время звонка, сотрудник одобрил несколько переводов на сумму около 25 миллионов долларов. Позже следователи выяснили, что почти все участники звонка были созданы с помощью ИИ. Атака удалась, потому что она обошла технические средства защиты, которые организации совершенствовали десятилетиями, без вредоносного ПО, скомпрометированных устройств или вредоносных вложений. Сотрудник правильно распознал подозрительное письмо, но его решение было переиграно кажущимся подтверждением, предоставленным знакомыми лицами и голосами во время видеовстречи.
Gartner сообщает, что 62% организаций столкнулись с атаками дипфейков
По данным исследования Gartner, приведённым в отчёте Resemble AI, 62% организаций за последний год столкнулись с атакой дипфейков. Почти семь из десяти атак были направлены на видеосистемы, а 67% — на голосовые коммуникации. Отчёт FBI за 2025 год по жалобам на интернет-преступления оценил, что мошенничество с помощью ИИ принесло примерно 893 миллиона долларов убытков. Исследователи также оценивают, что в 2025 году в интернете циркулировало около восьми миллионов синтетических медиа-объектов, что является взрывным ростом по сравнению с предыдущими годами. Несмотря на различия в методологиях, все крупные исследования сходятся в одном: расширение возможностей ИИ для обмана развивается быстрее, чем могут обеспечить существующие системы защиты. Для финансовых учреждений последствия выходят за рамки дезинформации в соцсетях — каждый процесс, основанный на распознавании голоса, видеоверфикации или доверии к цифровой идентичности, становится потенциальной точкой атаки.
Технология клонирования голоса требует всего нескольких секунд аудио
Отчёт Resemble AI утверждает, что организации должны перестать рассматривать дипфейки как отдельные киберугрозы и воспринимать их как проблему идентичности. Технология клонирования голоса теперь требует всего нескольких секунд публично доступного аудио для создания убедительных имитаций. Презентации, отчёты о доходах, подкасты и интервью становятся тренировочным материалом для злоумышленников, стремящихся выдавать себя за руководителей. Генерация видео также значительно улучшилась: то, что раньше требовало дорогих визуальных эффектов, теперь создаётся с помощью потребительских ИИ-инструментов, способных генерировать убедительные мимики, синхронизированную речь и реалистичные видеозвонки. Gartner ранее предсказал, что к 2026 году 30% предприятий перестанут считать проверку личности полностью надёжной из-за появления дипфейков, и этот прогноз становится всё более актуальным по мере усложнения атак.
Финансовый сектор сталкивается с impersonation-атаками руководителей и инвестиционными мошенничествами
Хотя атаки с дипфейками затрагивают разные отрасли, финансовый сектор особенно уязвим из-за высокой стоимости решений, основанных на доверительных коммуникациях. Одобрение платежей, восстановление аккаунтов, удалённое оформление, консультации по управлению состоянием и взаимодействие с клиентами всё чаще происходят через цифровые каналы, где идентичность традиционно подтверждается визуально или голосом. Руководство выявило несколько повторяющихся схем атак. Самая ценная — impersonation руководителей, использующая клонированных руководителей для санкционирования мошеннических платежей. Мошенничество с инвестициями продолжает использовать ИИ-сгенерированные видео политиков, знаменитостей и финансовых персон, продвигающих фальшивые торговые платформы или криптовалюты. Мошенничество при найме — ещё одна растущая проблема, когда синтетические личности и ИИ-сгенерированные соискатели пытаются получить работу внутри организации, чтобы получить доступ к чувствительным системам или информации. Мошенничество среди потребителей развивается через голоса, имитирующие членов семьи, в так называемых виртуальных похищениях или атаках по имитации службы поддержки.
Традиционные средства защиты не обнаруживают атаки на основе восприятия
Отчёт подчёркивает, что большинство инвестиций в кибербезопасность ориентированы на обнаружение вредоносного ПО, подозрительных писем или скомпрометированных устройств, однако дипфейки действуют иначе — они атакуют восприятие, а не сети. Когда сотрудник одобряет платёж с доверенного ноутбука во время обычной видеовстречи, стандартные средства защиты зачастую не выявляют ничего необычного. Нет вредоносных вложений для изоляции, нет скомпрометированного устройства — есть человек, принимающий, казалось бы, законное деловое решение на основе поддельных визуальных и аудио данных. Именно это объясняет, почему организации всё чаще рассматривают обнаружение дипфейков как отдельную дисциплину, а не как расширение существующих технологий против фишинга.
Руководство Resemble AI рекомендует четырёхуровневую стратегию защиты
Вместо одной системы отчёт советует использовать многоуровневый подход, сочетающий четыре взаимодополняющих компонента. Первый — проверка личности через обнаружение живости и постоянную аутентификацию. Второй — установление происхождения контента с помощью технологий Content Credentials и цифровых водяных знаков для подтверждения источника. Третий — системы анализа аудио, видео и изображений на наличие артефактов синтетического происхождения с возможностью объяснения результатов для расследования командой безопасности. Четвёртый — постоянный мониторинг, позволяющий выявлять impersonation руководителей, использование фальшивых брендов и распространение дипфейков до того, как они приобретут широкое распространение. Согласно отчёту, ни один слой не способен полностью устранить угрозу, и организации должны предполагать, что злоумышленники рано или поздно обойдут отдельные средства защиты, и строить системы безопасности соответственно.
FAQ
Что произошло в инциденте с дипфейком в Arup?
Сотрудник финансового отдела глобальной инженерной компании Arup перевёл почти 25 миллионов долларов после присоединения к видеоконференции, которая казалась включающей главного финансового директора и нескольких коллег. Позже следователи выяснили, что почти все участники были созданы с помощью ИИ, использовав убедительные синтетические голоса и лица для эксплуатации человеческого доверия и обхода технических средств защиты.
Сколько организаций столкнулись с атаками дипфейков по данным Gartner?
По данным исследования Gartner, приведённым в отчёте Resemble AI, 62% организаций за последний год столкнулись с атакой дипфейков. Почти семь из десяти атак были направлены на видеосистемы, а 67% — на голосовые коммуникации, при этом отчёт FBI за 2025 год оценил убытки от мошенничеств с ИИ примерно в 893 миллиона долларов.
Какую стратегию защиты рекомендует руководство Resemble AI против дипфейков?
Руководство рекомендует многоуровневую стратегию, сочетающую проверку личности через обнаружение живости и постоянную аутентификацию, установление происхождения контента с помощью Content Credentials и цифровых водяных знаков, системы анализа аудио и видео на наличие синтетических артефактов, а также постоянный мониторинг для выявления impersonation руководителей и использования фальшивых брендов до их широкого распространения.
