Как дипфейк Марко Рубио обнажил пугающую простоту голосового мошенничества с ИИ

Добро пожаловать в Eye on AI! В этом выпуске... xAI выпускает Grok 4 на фоне критики из-за антисемитских публикаций… Perplexity запускает ИИ-браузер, чтобы конкурировать с Google — начиная с опытных пользователей… По имеющимся данным, OpenAI готовится запустить собственный веб-браузер.

Аудиодипфейк, имитирующий государственного секретаря Марко Рубио, связался с иностранными министрами, губернатором одного из штатов США и членом Конгресса с помощью голосовых сообщений, сгенерированных ИИ и воспроизводящих его голос, — об этом сообщил высокопоставленный американский чиновник, а также депеша Государственного департамента от 3 июля.

Нет публичных свидетельств того, что кто-либо из получателей сообщений, предположительно созданных для извлечения конфиденциальной информации или получения доступа к аккаунтам, был обманут этой схемой. Тем не менее этот инцидент — очередной резонансный пример того, насколько лёгкими и пугающе убедительными стали голосовые мошенничества с использованием ИИ.

Загрузив всего 15–30 секунд чьей-либо речи в такие сервисы, как Eleven Labs, Speechify и Respeecher, теперь можно напечатать любое сообщение и воспроизвести его голосом этого человека. Стоит отметить, что эти инструменты вполне легитимно используются для самых разных целей — от обеспечения доступности до создания контента, — однако, как и многие ИИ-технологии, они могут быть использованы злоумышленниками в корыстных целях.

Угроза дипфейков усилилась

Дипфейки, созданные с помощью ИИ, — не новость, особенно в отношении топ-менеджеров и публичных чиновников, однако они становятся всё более серьёзной проблемой. Восемь месяцев назад я сообщал, что более половины опрошенных директоров по информационной безопасности (CISO) назвали видео- и аудиодипфейки растущей угрозой. С тех пор эта угроза лишь усилилась. Новое исследование Surfshark показало, что только в первой половине 2025 года число инцидентов, связанных с дипфейками, резко возросло до 580 — почти в четыре раза больше, чем за весь 2024 год (150 инцидентов), и значительно больше, чем 64 инцидента, зафиксированных с 2017 по 2023 год. Потери от мошенничества с использованием дипфейков также резко возросли: совокупный ущерб достиг 897 млн $, из которых 410 млн $ пришлось только на первую половину 2025 года. Наиболее распространённая схема — имитация публичных фигур с целью продвижения мошеннических инвестиций, что уже привело к потерям в размере 401 млн $.

«Дипфейки превратились в реальные, активные угрозы кибербезопасности», — сообщил мне по электронной почте Авиад Мизрачи, руководитель технологического отдела (CTO) и сооснователь компании по безопасности программного обеспечения Frontegg. «Мы уже наблюдаем случаи, когда видеозвонки, сгенерированные ИИ, успешно вводят сотрудников в заблуждение и вынуждают их авторизовывать платежи на миллионы долларов. Эти атаки происходят прямо сейчас, и это мошенничество становится пугающе простым в исполнении для хакеров.»

Часть проблемы, добавил Мизрачи, состоит в том, что традиционные методы аутентификации — имена пользователей, пароли, одноразовые коды и приложения для аутентификации — не были рассчитаны на мир, в котором мошенник может клонировать ваш голос или лицо за считанные секунды. Дело в том, что подобные мошенничества не обязательно предполагают взлом аккаунта — они основаны на том, чтобы обманом заставить реального человека передать учётные данные или самостоятельно авторизовать действия.

«Эти традиционные меры безопасности для проверки личности человека, очевидно, больше не работают», — сказал он, добавив, что большинство команд по кибербезопасности по-прежнему недооценивают дипфейки — и именно эту уязвимость эксплуатируют злоумышленники. Убедительный поддельный голос в голосовом сообщении или видеозвонке может убедить человека обойти стандартные процедуры или одобрить банковский перевод, даже если все инструменты аутентификации технически задействованы.

Чтобы защититься от подобного обмана, сказал Мизрачи, организациям необходимо внедрять более надёжные инструменты безопасности, опирающиеся на физические устройства — например, смартфон или аппаратный ключ безопасности — для подтверждения личности. Эти инструменты, известные как ключи доступа FIDO2 или WebAuthn, значительно сложнее подделать или использовать для фишинга. Помимо проверки устройств, интеллектуальные системы верификации также могут отслеживать поведенческие сигналы — такие как скорость набора текста, местоположение или привычки при входе в систему — для выявления аномалий, которые клонированный голос не способен воспроизвести. Эти дополнительные уровни защиты существенно затрудняют успешное проведение атаки с использованием дипфейков.

Маргарет Каннингем, директор по стратегии в области безопасности и ИИ в компании по кибербезопасности Darktrace, отметила, что попытка имитации Рубио наглядно демонстрирует, насколько легко генеративный ИИ может быть использован для проведения убедительных, целенаправленных атак с применением социальной инженерии.

«Эта угроза потерпела неудачу не потому, что была плохо подготовлена, — она провалилась, потому что не попала в нужный момент человеческой уязвимости», — сказала она. «Люди часто принимают решения не в спокойных, сосредоточенных условиях. Они реагируют в режиме многозадачности, под давлением и руководствуясь тем, что кажется им знакомым. В такие моменты знакомый голос или официально выглядящее сообщение легко могут обойти осторожность.»

Дипфейки оказали влияние на демократии по всему миру

Генеративный ИИ также резко снизил порог входа в сфере манипуляций со СМИ — сделав их быстрее, дешевле и масштабируемее, чем когда-либо прежде. И это оказывает влияние на демократии по всему миру: недавний репортаж New York Times показал, что дипфейки на основе ИИ изменили ход выборов как минимум в 50 странах мира, используясь для унижения или дискредитации оппонентов.

«Это новый рубеж для операций влияния», — сообщила мне Лия Сискинд, научный сотрудник по ИИ в Фонде защиты демократий. «Мы видели другие случаи использования дипфейков высокопоставленных государственных чиновников для получения доступа к личным аккаунтам, однако использование ИИ для влияния на дипломатические отношения и процессы принятия решений — это опасная эскалация. Это неотложная проблема национальной безопасности с серьёзными дипломатическими последствиями.»

На данный момент Сискинд рекомендует государственным чиновникам избегать популярных зашифрованных платформ, таких как Signal, которые, будучи защищёнными с точки зрения содержания, лишены механизмов верификации личности. «Учитывая лёгкость создания дипфейк-аудио и формирования реалистично выглядящих аккаунтов в любом потребительском мессенджере, высокопоставленным государственным чиновникам следует придерживаться защищённых каналов связи», — сказала она.

Примечание: посмотрите это новое видео Fortune о моём посещении испытательной лаборатории квантовых вычислений IBM. Я прекрасно провёл время в кампусе IBM в Йорктаун-Хайтс (шедевр модернизма середины века, спроектированный Ээро Саариненом — тем же архитектором, что создал Арку в Сент-Луисе и классический терминал TWA Flight Center в аэропорту JFK) в Нью-Йорке. Видео стало частью моего материала для ежегодного выпуска Fortune 500, в который вошла статья, подробно рассказывающая о недавнем отскоке IBM.

Как я написал в своём материале: «Прогулка по исследовательскому центру IBM — это словно погружение в два мира одновременно. Здесь есть стальные и стеклянные изгибы дизайна Сааринена, перемежающиеся массивными стенами из камней, собранных на окрестных полях, и оригинальные кресла Имза, расставленные в уютных нишах для обсуждений. Но этот модернизм XX века резко контрастирует с элегантным, массивным, похожим на холодильник квантовым компьютером — одним из самых передовых в мире, — который занимает центральное место в зоне совместной работы и рабочей лаборатории, наполняя пространство ровным гулом своей системы охлаждения.»

А теперь — остальные новости об ИИ.

Шэрон Голдман
sharon.goldman@fortune.com
@sharongoldman

Этот материал был первоначально опубликован на Fortune.com