Атака на банковский ИИ: как преступники обходят защиту и что советует Центробанк

Мошенники продолжают находить новые способы обхода банковских систем и технологий, включая решения на базе искусственного интеллекта. По данным статистики, преступники не только адаптируются к существующим мерам защиты, но и используют сложные методы воздействия на сами алгоритмы, чтобы добиться ошибок в их работе. По оценке Банка России, только в 2025 году мошенники похитили у клиентов финансовых организаций около 30 миллиардов рублей, что на 6,4 процента больше, чем годом ранее. 

Эксперты отмечают, что злоумышленники способны вмешиваться в процесс обучения ИИ. Один из таких методов — внедрение искаженных данных в обучающие наборы. Если такие данные попадают в систему, модель начинает делать неверные выводы, что может быть использовано для проведения мошеннических операций. Кроме того, возможны так называемые состязательные атаки, при которых специально подготовленные запросы или данные заставляют систему принимать ошибочные решения. 

ЦБ также обращает внимание на риск получения злоумышленниками информации о применяемых моделях. Такие сведения могут быть найдены в открытых источниках, включая репозитории и документацию, либо извлечены через анализ ответов системы. Это позволяет готовить более точечные атаки и получать первоначальный доступ к инфраструктуре.

Среди других угроз — внедрение вредоносного программного обеспечения, изменение алгоритмов обучения, а также кража программного кода и данных. Отдельно выделяется атака типа «губка», при которой система перегружается большим количеством запросов и может выйти из строя из-за нехватки вычислительных ресурсов.

Для снижения рисков регулятор рекомендует банкам и другим участникам финансового рынка усиливать контроль за использованием ИИ, особенно в операциях с высоким уровнем риска, таких как платежи. В этих случаях операции должен дополнительно подтверждать сотрудник.

Особое внимание предлагается уделять качеству данных, на которых обучаются модели. Их происхождение необходимо отслеживать, а сами данные проверять на ошибки и несоответствия с помощью форматно-логического и структурного контроля. Также рекомендуется применять шифрование для защиты информации, использовать методы обезличивания персональных данных и маскирования чувствительных сведений. Проверка уязвимостей должна проводиться на всех этапах работы с ИИ — от разработки до эксплуатации.

Банк России советует внедрять методы повышения устойчивости моделей к атакам, а также тестировать системы после обучения с использованием отдельных наборов данных, не совпадающих с обучающими. Дополнительно рекомендуется регулярно обновлять и дообучать модели, фиксируя каждую их версию и контролируя целостность данных. Это позволит системам быстрее адаптироваться к новым угрозам и снижать вероятность успешных атак.