За последние годы искусственный интеллект (ИИ) произвел революцию во многих областях, включая банковский сектор. Были как положительные, так и отрицательные стороны его реализации, в частности проблема алгоритмической дискриминации в кредитовании.
В Канаде и во всем мире внедрение искусственного интеллекта в крупных банках привело к повышению производительности и повышению персонализации услуг.
По данным глобального опроса IEEE, к 2025 году ожидается, что внедрение решений на основе искусственного интеллекта удвоится во всем мире, достигнув 80 процентов финансовых учреждений.
Некоторые банки более продвинуты, например BMO Financial Group, которая создала специальные должности для наблюдения за интеграцией ИИ в свои цифровые услуги, чтобы оставаться конкурентоспособными. В результате, благодаря ИИ, прибыль мировой банковской отрасли к 2028 году может превысить 2 триллиона долларов США, что представляет собой рост почти на девять процентов в период с 2024 по 2028 год.
В написании этого анализа мне, как профессору Университета Лаваля, специализирующемуся на управлении знаниями и инновациями, а также специалисту по научным коммуникациям, помогали в написании этого анализа Кандет Умар Бах, автор исследовательского проекта по алгоритмической дискриминации, и Азиза Халилем, эксперт по управлению и киберрискам во Французском органе пруденциального надзора и разрешения проблем.
Интеграция ИИ в банковский сектор уже значительно оптимизировала финансовые процессы, обеспечив повышение операционной эффективности на 25–40 процентов. В сочетании с растущими возможностями больших данных (например, массовым сбором данных) ИИ предлагает мощную аналитику, которая уже может снизить погрешность финансовых систем на 18–30 процентов.
Это также позволяет отслеживать миллионы транзакций в режиме реального времени, обнаруживать подозрительное поведение и даже превентивно блокировать определенные мошеннические транзакции. Это одно из применений, реализованных JP Morgan.
Кроме того, такие платформы, как FICO, которые специализируются на анализе решений на основе искусственного интеллекта, помогают финансовым учреждениям использовать разнообразные данные о клиентах, уточняя свои кредитные решения с помощью передовых моделей прогнозирования.
Несколько банков по всему миру теперь полагаются на автоматизированные рейтинговые алгоритмы, которые могут анализировать многочисленные параметры, включая доход, кредитную историю и коэффициенты задолженности, за считанные секунды. На кредитном рынке эти инструменты значительно улучшают обработку заявок, особенно в «стандартных» случаях, например, с явными гарантиями по кредиту.
А как насчет остальных случаев?
Как отмечают американские исследователи Тамбари Нука и Амос Огунола, иллюзия того, что алгоритмы дают справедливые и объективные прогнозы, представляет собой серьезный риск для банковского сектора.
Анализируя научную литературу, они предостерегают от соблазна слепо делегировать оценку сложного человеческого поведения автоматизированным системам. Несколько центральных банков, в том числе канадский, также выразили серьезные сомнения по этому поводу, предупредив об операционных рисках, связанных с чрезмерной зависимостью от ИИ, особенно при оценке кредитоспособности и платежеспособности.
Хотя алгоритмы технически нейтральны, они могут усилить существующее неравенство, когда обучающие данные испорчены историческими предубеждениями, особенно теми, которые унаследованы от системной дискриминации определенных групп. Эти предвзятости возникают не только из-за явных переменных, таких как пол или этническое происхождение, но также из косвенных корреляций с такими факторами, как место жительства или тип работы.
Например, рейтинговые системы могут назначать женщинам более низкие кредитные лимиты даже в ситуациях, когда они финансово эквивалентны мужчинам. Анализ переменных, таких как почтовые индексы и история трудоустройства, также может привести к исключению членов маргинальных групп, таких как лица с расовой принадлежностью, работники с нерегулярными доходами и недавние иммигранты.
Вирджиния Юбэнкс, профессор из США и эксперт в области социальной справедливости, хорошо иллюстрирует это явление, показывая, как люди, живущие в исторически неблагополучных районах или с нетипичным карьерным путем, подвергаются наказанию из-за автоматических финансовых решений, основанных на предвзятых данных.
В связи с этим возникает важнейший вопрос:как мы можем гарантировать, что автоматизация финансовых решений поможет уменьшить неравенство в доступе к банковским услугам?
В научной литературе исследуются несколько путей реагирования на эти риски дискриминации. Нука и Огунола, например, предлагают подход к финансовой доступности. Это предполагает постоянное совершенствование статистических моделей путем выявления и исправления систематических ошибок в данных обучения, чтобы уменьшить неравенство в обращении между социальными группами.
Помимо технических решений, недавно была создана нормативная база, обеспечивающая прозрачность и справедливость алгоритмов в таких чувствительных секторах, как финансы. Примерами этому являются канадский закон об искусственном интеллекте и данных и европейский закон ЕС об искусственном интеллекте. Последний, принятый в 2024 году и внедряемый постепенно, накладывает строгие требования к системам искусственного интеллекта высокого риска, например тем, которые используются для выдачи кредитов.
Статья 13 устанавливает требования прозрачности, обеспечивающие возможность проверки систем и понимание их решений всеми заинтересованными сторонами. Цель состоит в том, чтобы предотвратить алгоритмическую дискриминацию и обеспечить этичное и справедливое использование. Финансовые регуляторы также призваны сыграть решающую роль в обеспечении соблюдения правил добросовестной конкуренции и обеспечении разумной и прозрачной практики в интересах финансовой стабильности и защиты клиентов.
Однако давление со стороны определенных технологических и финансовых лобби с целью замедлить принятие строгих стандартов представляет собой значительный риск:отсутствие регулирования в некоторых странах и трудности с соблюдением требований в других могут способствовать непрозрачности в ущерб наиболее уязвимым гражданам.