Банк России выпустил методические рекомендации для банков по безопасному применению нейросетей. Эти рекомендации призваны помочь финансовым организациям повысить уровень информационной безопасности при использовании технологий искусственного интеллекта (ИИ).
В документе впервые систематизированы риски, связанные с применением ИИ, описаны возможные векторы атак на ИИ-системы и предложены меры защиты. Например, при использовании нейросетей в критически важных процессах с высоким уровнем рисков информационной безопасности, таких как платежные операции, Банк России рекомендует требовать подтверждения операции сотрудником.
Центробанк также советует участникам рынка разрабатывать собственные модели угроз и политики информационной безопасности для работы с ИИ. Ответственность за подготовку этих внутренних документов возлагается на заместителя руководителя организации по вопросам защиты информации.
Отдельное внимание уделено безопасности при использовании ИИ-сервисов от сторонних поставщиков. Наличие у поставщика модели ИИ, которая участвует в программе обнаружения уязвимостей, может повысить доверие к такому сервису.
Эксперты портала CPL Finance отмечают, что рекомендации Банка России являются важным шагом к обеспечению безопасности финансовых операций в условиях растущего использования ИИ. Однако, учитывая новизну технологий и потенциальную сложность угроз, остается неопределенность относительно полной эффективности всех предложенных мер защиты в долгосрочной перспективе.
— Эксперты CPL Finance