Банк России формирует рекомендации по защите ИИ в финансовом секторе
Рекомендации Банка России по ИИ
16 июня Банк России представил методические рекомендации для финансовых организаций по применению технологий искусственного интеллекта (ИИ). Эти рекомендации направлены на повышение уровня информационной безопасности в финансовых учреждениях. Документ включает систематизацию рисков, связанных с ИИ, описывает возможные тактики атак на ИИ-системы и предлагает меры защиты.
Зачем нужны рекомендации
Юлия Суворова, директор по правовым вопросам и комплаенс в финансовом маркетплейсе "Сравни", отметила, что рекомендации Банка России помогут снизить финансовые потери клиентов кредитных организаций. Такие меры актуальны, поскольку ИИ уже активно используется в банковском секторе, от скоринга до защиты от мошенничества. Регулятор таким образом закрепляет базовые принципы управления модельными рисками, что способствует повышению устойчивости систем и снижению вероятности ошибок, ведущих к финансовым потерям.
Реализация на практике
Суворова подчеркнула, что крупные банки уже интегрировали подобные практики в свои системы. Например, ИИ активно используется в "Сбербанке" при выдаче кредитов физическим лицам. Эти рекомендации для них скорее о доработке существующих систем. Дмитрий Сыцко, директор по информационным технологиям БКС Банка, также согласился с этим, добавив, что банкам необходимо развивать процессы контроля качества данных и тестирования устойчивости ИИ-систем.
Систематизация рисков
Сыцко отметил, что ключевая ценность рекомендаций регулятора заключается в систематизации рисков, связанных с ИИ. Это включает оценку качества и актуальности данных, предсказуемость решений и устойчивость к атакам на ИИ-системы. Такие структурированные подходы помогут финансовым организациям более эффективно управлять рисками и защищать своих клиентов.
Этические принципы и предыстория
Напомним, что в июле прошлого года Банк России разработал Кодекс этики в сфере разработки и применения ИИ на финансовом рынке. Документ носит рекомендательный характер и предлагает информировать клиентов о применении ИИ, предоставлять возможность отказаться от взаимодействия, а также мониторить качество ИИ и обеспечивать информационную безопасность. Эти шаги способствуют повышению прозрачности и доверия клиентов к финансовым продуктам и услугам.
Подписывайтесь на наш канал в MAX: все главные новости о финансах, ничего лишнего!