Мамута заявил о важности принципов нейтральности и этики ИИ
Принципы применения ИИ
Заместитель председателя Банка России Михаил Мамута рассказал, что государству важно определить принципы нейтральности и этики при использовании искусственного интеллекта в предоставлении услуг. Он отметил, что такие рамки должны описывать, какие дисклеймеры и пояснения получает пользователь, когда пользуется сервисами на базе ИИ. По словам Мамуты, отсутствие понятных правил может создать риски в будущем, если языковые модели достигнут уровня суперинтеллекта и людям станет сложно понимать, насколько происходящее остается под контролем человека. При этом он подчеркнул, что подобный сценарий пока остается отдаленной перспективой.
Роль дисклеймеров и правил
Мамута объяснил, что регулятору важно заранее определить, какие оговорки и предупреждения сопровождают взаимодействие человека с алгоритмами, чтобы снизить вероятность неправильного восприятия решений ИИ. Он добавил, что формирование таких требований поможет сохранить прозрачность работы технологий и усилить доверие пользователей к цифровым сервисам. В его понимании, эти меры создают основу для безопасного применения искусственного интеллекта в финансовой сфере и в других отраслях, где автоматизация становится стандартом.
Доверие к ИИ‑помощникам
Зампред Банка России подчеркнул, что нейтральный ИИ‑помощник способен вызывать у людей больше доверия, чем сотрудник финансовой компании, который может действовать с предвзятостью. Он отметил, что пользователи ждут объективности и прозрачности, а беспристрастный алгоритм лучше соответствует этим ожиданиям. По мнению Мамуты, такая особенность может повысить качество клиентского взаимодействия и снизить давление, которое нередко возникает в процессе продаж финансовых продуктов.
Подход к регулированию
Говоря о действующем регулировании, Мамута уточнил, что сейчас регулятор делает акцент на методических рекомендациях. Он отметил: "Что касается перспектив регулирования ИИ, то мы пока идем по пути методических рекомендаций, мы даем ориентиры, как выстроить безопасные клиентоориентированные сервисы". По его словам, подобный мягкий формат позволяет организациям постепенно адаптироваться к новым условиям и выстраивать технологические решения, не нарушающие интересы пользователей и требования безопасности.
Подписывайтесь на наш канал в MAX: все главные новости о финансах, ничего лишнего!
