Порядка 70% кредитных учреждений и страховых компаний используют в своей работе нейросети. Аналитики РАН рассказали о рисках применения ИИ в финансовой сфере. Информацию об этом предоставило издание «Известия» со ссылкой на источник.

Искусственный интеллект применяется банками для осуществления платежей, определения кредитного потенциала клиентов, предоставления страховых услуг и управления активами. ИИ позволяет повысить эффективность работы, снижает уровень издержек. При этом строго следует требованиям регуляторов. Нейросети выявляют мошеннические действия и помогают людям быстрее решать проблемы. Однако новые технологии несут в себе опасности, о которых рассказали специалисты РАН.

Из-за внедрения искусственного интеллекта повышается риск кибератак. Злоумышленники осуществляют свои действия через взлом генеративных моделей: создают поддельные письма, запускают вредоносное ПО и захватывают пользовательские устройства. В результате данные клиентов становятся известны нечистым на руку дельцам. Они прибегают к вымогательству, заставляют людей перечислять деньги на свои счета.

Злоумышленники могут внедряться в языковые модели финансовых организаций. Преступники нарушают их алгоритм работы и запускают систему изменения поведения. Через приложения, работающие на этих структурах, отправляются мошеннические сообщения.

Еще одна проблема связана с предвзятостью алгоритмов. Порой они неверно воспроизводят информацию или искажают ее. В результате для клиентов усиливается дискриминация в процессе оформления кредита или приобретения страховых продуктов. Особенно ярко ее ощущают на себе уязвимые группы населения. Для них закрывается доступ к финансовым услугам. Возрастают и юридические риски. В нейросетях может произойти сбой, что приводит к неверному подписанию документов или к невозможности осуществления сделки.

Эксперты отмечают, что на российском рынке существует ограниченный круг поставщиков языковых моделей. Это связано с большими затратами на разработку новых технологий. Олигополия нескольких компаний фактически задает ритм для работы всей системы. Любой сбой создает риски для большинства пользователей. Почти все банки используют схожие технологии ИИ.

Использование банками и инвестиционными компаниями схожих алгоритмов приводит к тому, что на рынке предлагаются примерно одни и те же активы и устанавливаются равные цены. Финансовые игроки не сговариваются специально, но сектор фактически развивается в одном направлении без возможности использовать альтернативные варианты. Леонид Делицын, аналитик ФГ «ФИНАМ», говорит, что существует также риск проникновения вредоносного кода в обучающие данные. Он отравляет популярные сервисы и посредством рекомендаций распространяется на всю систему.

Наталья Мильчакова, аналитик Freedom Finance Global, отмечает, что внедрение искусственного интеллекта приводит к вытеснению с рынка небольших игроков. На развитие инфраструктуры нейросетей требуются немалые затраты. В результате увеличивается неравенство: крупные организации получают возможность развиваться быстрее. Сильнее ощущается разница в зарплатах. Те, кто расходуют деньги на кибербезопасность, начинают сокращать персонал. Такая тенденция приводит к усилению конкуренции.