Анализируют риски внедрения искусственного интеллекта в финансы: что нужно знать
Риски использования искусственного интеллекта в финансовом секторе
Технологии искусственного интеллекта (ИИ) обладают потенциалом как создавать, так и усугублять различные риски для финансовых организаций. Однако, согласно отчету Банка России, большинство финансовых учреждений не считают, что внедрение ИИ существенно увеличивает их риск-профиль. Доклад называется "Применение искусственного интеллекта на финансовом рынке: текущий статус и условия дальнейшего развития".
Мнение финансовых организаций о рисках ИИ
В документе подчеркивается, что "при неправильном использовании технологии ИИ потенциально могут привести к реализации различных рисков". Тем не менее, организации, которые регулярно применяют ИИ, в целом не склонны считать, что он значительно влияет на их риск-профиль. Более трети опрошенных отметили, что риски, связанные с нарушением финансовой стабильности, рыночные риски, риски ликвидности, кредитные риски и риски нарушения прав инвесторов и потребителей, имеют низкую вероятность возникновения при использовании ИИ.
Операционные и репутационные риски как приоритетные
Согласно результатам опроса, наибольшую обеспокоенность вызывают репутационный и операционный риски, которые были отмечены 20% и 16% респондентов соответственно как имеющие средний уровень вероятности. В то же время 13% участников опроса определили риск зависимости от поставщиков ИИ-решений как высокий. Учитывая, что значительная часть опрошенных (68%) использует решения третьих лиц, а 26% привлекают разработчиков для создания кастомизированных ИИ-решений, можно ожидать, что с ростом распространенности ИИ эти риски будут возрастать.
Встраивание ИИ в систему управления рисками
Результаты опроса также указывают на то, что искусственный интеллект постепенно интегрируется в общую систему управления рисками, а стандарты и процедуры реагирования на риск-события уже распространяются на инциденты, связанные с ИИ. Однако, как стало известно из исследования, 66% респондентов (включая 25% из числа субъектов малого и среднего бизнеса) не устанавливают специальные правила для управления рисками, связанными с ИИ. При этом 42% опрошенных не проводят оценку и классификацию уровней риска моделей ИИ и случаев их использования.
Подписывайтесь на наш канал в Телеграм: все главные новости о финансах, ничего лишнего!