Банк России впервые системно описал риски применения искусственного интеллекта в финансовом секторе и предложил участникам рынка базовые правила защиты. Регулятор выпустил методические рекомендации, где разобрал потенциальные сценарии атак на ИИ-системы и меры противодействия.
Ключевой сигнал — автоматизация не должна быть безусловной. В операциях с повышенным риском, включая платежи, ЦБ советует сохранять «человека в контуре»: решения ИИ должны подтверждаться сотрудником.
Регулятор также фактически перекладывает ответственность за безопасность на сами организации: им предложено разработать собственные модели угроз и политики защиты ИИ. Курировать этот блок должен профильный заместитель руководителя.
Отдельный акцент сделан на работе с внешними ИИ-сервисами. ЦБ указывает на необходимость проверки поставщиков, в том числе участия их моделей в программах поиска уязвимостей, что должно снижать риски для клиентов и инфраструктуры.
Документ стал первой попыткой регулятора задать рамку для быстро растущего сегмента, где уровень рисков пока опережает практику регулирования.
