Google подал иск против китайской киберпреступной группировки, использовавшей Gemini для массовых фишинговых атак

Google подал иск в федеральный суд Нью-Йорка против группировки Outsider Enterprise, обвинив её в использовании модели Gemini для автоматизации масштабных фишинговых кампаний. По данным компании, преступники сгенерировали код и шаблоны для тысяч поддельных сайтов, имитирующих порталы телеком-операторов и финансовых сервисов. В результате операции, по оценкам ФБР, было похищено 3,87 млн номеров кредитных карт, а общий ущерб составил около $1,9 млрд с июля 2023 года. Google сообщает, что за две недели до подачи иска поступило около 55 тыс. жалоб на подозрительные сообщения в Google Messages, многие из которых связывают с деятельностью этой группировки.

Иск стал первым публичным случаем, когда корпорация напрямую обвинила преступников в злоупотреблении её генеративной ИИ-технологией для совершения киберпреступлений. В документах суда указано, что группировка использовала Gemini для создания фальшивых веб-страниц и рассылки SMS-сообщений с целью кражи финансовых данных у сотен тысяч пользователей в США. Поддельные сайты охватывали десятки стран, что указывает на международный масштаб операции. Эксперты отмечают, что такой подход значительно ускоряет и удешевляет создание фишинговых ресурсов, делая атаки более массовыми и сложными для отслеживания.

Как преступники использовали Gemini для фишинга

По версии Google, участники группировки Outsider Enterprise применяли модель для генерации HTML-кода, текстов писем и шаблонов веб-страниц. Это позволяло быстро развёртывать новые фишинговые ресурсы, адаптируясь под разные языки и регионы. Преступники маскировали свои сайты под легитимные порталы операторов связи и финансовых учреждений, что повышало доверие жертв. Например, поддельные страницы могли имитировать личные кабинеты банков или платёжные системы, запрашивая ввод данных банковских карт.

ФБР оценивает, что с июля 2023 года группировка разослала около 2,5 млн мошеннических сообщений и создала более 8 тыс. фишинговых сайтов. Операция затронула десятки стран, что свидетельствует о хорошо организованной инфраструктуре. В иске указано, что преступники также использовали автоматизацию для обхода защитных механизмов, таких как фильтрация спама и обнаружение подозрительных доменов. Это делает атаки более устойчивыми к традиционным методам блокировки.

Последствия для пользователей и финансовых систем

Ущерб от деятельности группировки оценивается в $1,9 млрд, что включает прямые потери от кражи данных, расходы на возврат средств и репутационные издержки для пострадавших компаний. Похищенные 3,87 млн номеров кредитных карт могли быть использованы для онлайн-покупок, мошеннических переводов или продажи на теневых форумах. Финансовые учреждения вынуждены тратить ресурсы на блокировку скомпрометированных карт и расследование инцидентов, что увеличивает операционные издержки.

Для пользователей последствия могут быть долгосрочными: украденные данные могут быть использованы для повторных атак, таких как целевой фишинг или оформление кредитов по поддельным документам. Также возрастает риск мошенничества с криптовалютными кошельками, так как преступники могут использовать украденные учётные данные для доступа к цифровым активам. Эксперты рекомендуют регулярно проверять выписки по картам, использовать двухфакторную аутентификацию и быть осторожными с подозрительными ссылками в сообщениях.

Ответственность ИИ-разработчиков: новый этап в борьбе с киберпреступностью

Подача иска Google знаменует собой сдвиг в подходе к ответственности за злоупотребление ИИ-технологиями. Ранее компании вроде OpenAI или Microsoft ограничивались блокировкой аккаунтов или улучшением защитных механизмов, но теперь разработчики ИИ начинают активнее преследовать преступников в судебном порядке. Это может стать прецедентом для других компаний, которые также столкнутся с фактами использования их моделей в мошеннических схемах.

В то же время возникают вопросы о том, насколько эффективно такие меры смогут сдерживать преступников. Группировки могут переключаться на альтернативные модели или использовать легитимные сервисы для генерации контента, что усложняет задачу правоохранительных органов. Google заявил, что намерен сотрудничать с властями для пресечения подобных атак, но полностью искоренить проблему будет крайне сложно без международной координации.

Технические меры защиты: как противостоять новым угрозам

Для противодействия атакам, подобным тем, что использовала группировка Outsider Enterprise, компаниям и пользователям необходимо внедрять комплексные меры безопасности. Google и другие технологические гиганты уже работают над улучшением фильтрации сообщений и блокировкой подозрительных доменов. Однако преступники постоянно совершенствуют свои методы, используя ИИ для генерации более убедительных текстов и дизайна страниц.

Одним из ключевых шагов является внедрение поведенческого анализа, который может выявлять аномалии в поведении пользователей, например, неожиданные запросы на ввод данных или подозрительные транзакции. Также важно обучать сотрудников и пользователей распознавать фишинговые атаки, особенно в условиях, когда мошенники всё чаще используют легитимные инструменты для обмана. Финансовые учреждения могут внедрять дополнительные уровни проверки, такие как подтверждение личности через биометрию или одноразовые коды.

Юридические и этические вызовы использования ИИ

Дело Google против Outsider Enterprise ставит перед правовой системой новые вызовы, связанные с регулированием ИИ и ответственностью за его использование. Вопрос о том, кто несёт ответственность за ущерб, причиненный с помощью ИИ, остаётся открытым. Разработчики моделей утверждают, что не контролируют конечное использование своих технологий, но суды могут посчитать иначе, особенно если компании не предпринимают достаточных мер для предотвращения злоупотреблений.

Этические аспекты также требуют внимания. Использование ИИ в преступных целях поднимает вопросы о том, как компании должны балансировать инновации с безопасностью. Некоторые эксперты призывают к обязательному внедрению watermarking (водяных знаков) для контента, сгенерированного ИИ, что помогло бы быстрее выявлять мошеннические материалы. Однако такие меры могут быть легко обойдены, если преступники используют кастомные модели или обучают их на закрытых данных.

Что ждать в будущем: тренды и прогнозы

С учётом роста популярности генеративных моделей можно ожидать, что случаи их использования в киберпреступных целях будут учащаться. Преступники уже применяют ИИ для создания фальшивых голосовых сообщений, видео и текстов, что усложняет задачу правоохранительных органов. Технологические компании вынуждены инвестировать в разработку более надёжных защитных механизмов, таких как детекторы ИИ-сгенерированного контента и системы поведенческого анализа.

В то же время государства могут ужесточить регулирование в области ИИ, требуя от компаний внедрения обязательных мер безопасности. Например, в Евросоюзе уже действует Закон об ИИ, который обязывает разработчиков внедрять системы управления рисками. В США также обсуждаются новые инициативы по регулированию генеративных моделей. Это может привести к тому, что компании будут нести большую ответственность за ущерб, причиненный с помощью их технологий.

Практические рекомендации для пользователей и бизнеса

Для пользователей важно помнить, что даже самые совершенные технологии не защитят от мошенничества, если не соблюдать базовые правила кибербезопасности. Не открывайте подозрительные ссылки, даже если они пришли от знакомых, и не вводите личные данные на незнакомых сайтах. Используйте менеджеры паролей и двухфакторную аутентификацию, чтобы усложнить задачу злоумышленникам.

Для бизнеса ключевым шагом является внедрение многоуровневой защиты, включающей мониторинг аномальной активности, обучение сотрудников и сотрудничество с правоохранительными органами. Финансовые учреждения должны уделять особое внимание анализу транзакций в реальном времени, чтобы быстро выявлять и блокировать подозрительные операции. Также полезно делиться информацией о новых угрозах с отраслевыми партнёрами, чтобы быстрее реагировать на emerging тренды в киберпреступности.