ИИ используется банками в самых разных направлениях: от автоматизации внутренних процессов до создания новых клиентских сервисов. В частности, ИИ помогает в анализе кредитоспособности заемщиков, прогнозировании риска дефолта, выявлении мошенничества, управлении ликвидностью и активами, обработке клиентских запросов (например, через чат-ботов), а также в построении персонализированных рекомендаций.
Фото:depositphotos.com
«Внедрение ИИ позволяет банкам более точно обрабатывать большие объемы данных, сокращать издержки, снижать операционные риски и повышать удобство взаимодействия с клиентами. Однако широкое использование таких технологий требует также усиленного внимания к управлению рисками, прозрачности решений и соблюдению регуляторных требований», - сообщили в пресс-службе Агентства РК по регулированию и развитию финансового сектора (АРРФР).
С учетом создания нового специализированного управления, ответственного за аналитику модельных рисков и применение искусственного интеллекта, регулятор планирует разработку единых подходов к обеспечению прозрачности (explainability) алгоритмов, используемых банками и финтех-компаниями.
«Особое внимание будет уделено тем моделям, которые оказывают прямое влияние на права, финансовое положение и решения в отношении клиентов. Для таких моделей интерпретируемость и обоснованность результатов является ключевым требованием. Планируется формализация требований к explainability, с возможным последующим закреплением этих требований в нормативных правовых актах. Это позволит обеспечить единый стандарт прозрачного, контролируемого и безопасного применения ИИ в финансовом секторе», - рассказали в АРРФР.
Методы стресс-тестирования станут неотъемлемой частью комплексной оценки ИИ-моделей. Предусматривается, что стресс-тестирование будет проводиться в рамках процедур валидации и переоценки моделей, с использованием различных сценариев и условий, включая нестабильные или критические.
«Такая проверка будет направлена на оценку устойчивости модели к воздействию внешних и внутренних факторов, а также на выявление уязвимостей и недопустимых отклонений в прогнозах и поведении алгоритмов. В зависимости от назначения и критичности модели будут подбираться разные типы сценариев, моделирующие как стандартные, так и маловероятные, но значимые события», - сообщает АРРФР.
Результаты стресс-тестирования станут основой для разработки унифицированных требований к устойчивости ИИ-моделей, включая минимальные показатели надежности и стабильности. При необходимости эти результаты также будут использоваться для инициирования изменений в нормативных документах, направленных на предотвращение технологических и модельных рисков в банковской системе.
Использование генеративного искусственного интеллекта в банковской и финансовой деятельности требует особого подхода, учитывая как потенциал таких технологий, так и риски, связанные с возможными искажениями информации, недостоверными выводами, отсутствием верификации и юридической ответственности за сгенерированные материалы.
На текущем этапе на уровне государства разрабатывается отдельный закон «Об искусственном интеллекте», а также сопутствующие изменения в действующие нормативные правовые акты, включая отраслевые регулирования. Законопроект предусматривает установление правовых рамок использования ИИ, включая генеративные технологии, и определение степени допустимого автоматизированного вмешательства в принятие решений в различных сферах, в том числе в финансовой.
«В этой связи регулирование использования генеративного ИИ в сфере финансовых консультаций, подготовки отчетности и взаимодействия с клиентами будет выстраиваться в соответствии с положениями разрабатываемого законодательства. После его принятия и вступления в силу, регулятор совместно с другими заинтересованными органами сможет выработать более конкретные требования к применению таких систем в банковской практике, включая возможные ограничения, форматы сопровождения генерации человеком, обязательную верификацию данных и хранение истории взаимодействий», - объясняют в АРРФР.
Источник prodengi.kz