Центральный банк выделил три основных риска развития искусственного интеллекта на финансовом рынке: конкуренция, доступ к данным и этический вопрос.
Активное внедрение технологий искусственного интеллекта в банковской сфере может привести к угрозе снижения конкуренции, компрометации данных, которые используются для обучения ИИ, а также повлечь за собой этические риски, отметил заместитель председателя Банка России Алексей Гузнов в рамках выступления на международном банковском форуме Ассоциации банков России (АБР).
Прежде всего растет риск монополизации крупными игроками технологий искусственного интеллекта, поскольку их развитие требует значительных инвестиций как в вычислительные мощности, так и в инфраструктуру обработки данных, которые зачастую недоступны менее ресурсным компаниям. «Наверное, результат получат только те, кто имеет возможность уже сейчас вложиться. И это формирует определенные перекосы», – отметил эксперт. Кроме того, существует риск недостаточного обеспечения информационной безопасности и, как следствие, возможность утечки персональных данных пользователя.
Среди этических рисков эксперт выделил угрозу принятия предвзятых и дискриминационных решений. «Это не только наша проблема, она сейчас осмысляется философски – проблема сочетания человеческого интеллекта и искусственного. Так как ИИ быстрее учится естественному языку, он может гораздо искуснее формировать иллюзии, подбирать соответствующий контекст», – пояснил Алексей Гузнов.
Любые технологии несут в себе как положительные, так и отрицательные явления, считает член комитета Госдумы по информационной политике, информационным технологиям и связи Антон Немкин. «Хорошо, когда мы можем понять какие отрицательные явления есть у некоторой технологии и сразу их купировать. Другое дело, когда возможные негативные последствия на старте определить сложно. Это, во многом, характерно для сферы цифровизации и связано с тем, что развитие технологий, в том числе ИИ, происходят очень динамично – мы не всегда поспеваем за ними», – пояснил Антон Немкин.
Сейчас как в России, так и во всем мире происходит определение возможных угроз, которые несет в себе ИИ, а также разработка мер по их устранению, отметил депутат. «Это достаточно масштабная и кропотливая работа, требующая постоянного баланса. Важно понимать, что отрасль ИИ находятся в зачаточном состоянии. Поэтому ее нормативное «закрепощение» потенциально может привести к замедлению темпов развития. Напомню, что с такой практикой уже столкнулись некоторые страны, в которых в следствие излишней регуляции ИИ-технологий значительно упал инвестиционный потенциал. Поэтому, к этому вопросу нужно подходить осторожно и иногда притормаживать», – пояснил Антон Немкин.
Обозначенные Банком России риски релевантны для сегмента ИИ, считает депутат. «Поэтому необходимо определить хотя бы рамочное понимание того, как мы будем их преодолевать. Например, в контексте персональных данных – необходимо предъявлять четкие стандарты, а также следить за их исполнением. У нас в стране, к сожалению, даже без ИИ технологий, утечки – колоссальная проблема. Я думаю, что развитие ИИ должно происходить в опоре на кибербезопасность: без второго не может быть и первого. Вопрос монополизации также очень сложный и здесь есть место для большой дискуссии, в том числе, в контексте стимулирования малых и средних компаний к разработке ИИ со стороны государства», – считает депутат.
«Напомню, что в прошлом году, несмотря на санкционное давление рынок искусственного интеллекта вырос на 18%. Это очень позитивный тренд, поэтому данный сегмент должен оставаться под пристальными вниманием всех участников цифровизации», – заключил Антон Немкин.
