Лимит доверия: как ИИ решает, сколько денег вам можно дать (и почему это часто несправедливо)

Введение: Эффект "лимитопада" и кредитная спираль

Изображение создано с помощью ChatGPT

Представьте: вы годами пользуетесь кредитной картой, всегда вовремя вносите платежи и у вас хорошая кредитная история. И вдруг – совершенно без предупреждения – приходит сообщение о том, что кредитный лимит снижен. Еще вчера у вас было в запасе 500 тысяч рублей, а сегодня – всего 50 тысяч. В самом худшем случае, новый лимит устанавливают точно на уровне того, сколько вы сейчас должны, и карта для вас становится бесполезной.

Этот кейс - то, с чем столкнулись тысячи клиентов Synchrony Bank, одного из самых больших в США банков, выпускающих карты с логотипами компаний вроде Amazon и PayPal. Банк стал известен тем, что поступает не очень хорошо с людьми, и клиенты назвали это «лимитопадом». Решения, которые принимает банк, как будто живут своей жизнью: вам могут годами доверять, а потом в какой-то момент резко урезать доступные деньги.

Как пишут на форумах, главная причина в том, что алгоритм реагирует на изменение в том, как ведет себя заемщик. Допустим, человек долго не брал карту или всегда держал на ней ноль, а потом вдруг взял почти все, что можно. Система решает, что риск вырос и начинает защищаться.

Ситуация усложняется так называемым каскадным эффектом. Когда один банк уменьшает лимит, показатель утилизации кредита – то есть, сколько вы должны по отношению к общему выданному вам новому кредитному лимиту – резко растет. Кредитные бюро и другие банки видят в этом знак, что заемщик вдруг стал ненадежным. В итоге кредитный рейтинг падает, и другие банки тоже начинают уменьшать лимиты. Человек попадает в спираль, из которой почти не выбраться. И все из-за решения одного алгоритма.

Особенно неприятно, когда лимит уменьшают до размера долга. Например, если вы должны 99 тысяч рублей, а лимит был 100 тысяч, банк может установить новый лимит в 99 тысяч 1 рубль. Тогда картой нельзя будет что-то купить, а использование кредита станет почти 100 процентов – это очень плохой сигнал для всей финансовой системы. При этом, с юридической точки зрения, такое в большинстве стран, в том числе в США (согласно закону Truth in Lending Act), разрешено и банк не обязан предупреждать клиента.

Случай с Synchrony Bank – это очень яркий пример большой проблемы современной финансовой системы. Все больше решений, которые сильно влияют финансовое благополучие людей, принимают алгоритмы, и пользователям не понятно, как они работают. Такие решения почти невозможно оспорить, потому что очень сложно доказать, что в коде алгоритма был злой умысел или дискриминация.

Раздел 1: Стратегия "Low-and-Grow": как банки растят лояльных должников

16 января 2026 года Федеральная резервная система США выпустила важное исследование, объясняющее, как контролируются лимиты по кредитным картам. Изучив сведения о миллионах американцев, которые пользуются кредитными картами, ФРС узнала, что каждый год примерно 12% кредитных карт получают увеличение лимита – в общем, это 160 миллиардов долларов дополнительно доступных денежных средств в кредит. Но главное, что показало исследование, – 80% из всех этих повышений лимитов делаются не по просьбе клиентов, а самими банками; они происходят автоматически, и клиент может об этом даже не знать.

Внутри банковской сферы эту тактику называют «low-and-grow» ("начни с малого и расти"), и она особенно часто используется в отношении различных групп клиентов. Исследование показало, что к людям с хорошей и плохой кредитной историей относятся совершенно по-разному.

Источник: ФРС США, исследование "More Credit, More Debt: New Evidence on Automated Credit Decisions"

Причина такого несоответствия – в том, как устроен бизнес банков. Заемщики с очень хорошей кредитной историей – то есть superprime клиенты – как правило, – это так называемые «транзакторы» (transactors): они пользуются картой для удобства и выплачивают долг полностью каждый месяц. Банк на таких почти не получает дохода. Тогда как клиенты с плохой кредитной историей – subprime – вероятнее всего – «револьверы» (revolvers) – то есть, постоянно переносящие долг с месяца на месяц и платящие высокие проценты. Для банка это лучший клиент, и банк заинтересован в том, чтобы он тратил больше.

Исследование Федеральной резервной системы это прямо подтверждает:

Кроме того, алгоритмы научились вычислять, какой уровень использования карты будет наилучшим. Если клиент использует от 30-70% своего лимита, для банка это – сигнал к действию: «Этот клиент – наш! Давайте ему еще денег!». Нахождение в этом промежутке по результату равносильно увеличению кредитного рейтинга на 60 баллов. Таким образом, даже если кредитная история не идеальна, активное использование карты и выплата процентов делают клиента "любимчиком" банка.

Последствия этой стратегии понятны. Получив увеличенный лимит, люди начинают тратить больше. Психологически, новый лимит воспринимается как дополнительные, доступные деньги. Исследование показывает, что в среднем заемщики увеличивают свой долг на тридцать процентов от суммы увеличения лимита, а их показатель использования возвращается к прежнему уровню всего через шесть месяцев. Получается замкнутый круг: банк получает больше процентов, а клиент – больше долгов.

Раздел 2: Призрак дискриминации: кейс Apple Card

В ноябре 2019 года Дэвид Хайнемайер Ханссон, автор известного веб-фреймворка Ruby on Rails, написал твит, который вызвал большой резонанс в техническом мире:

Этот твит очень быстро распространился. Стив Возняк, один из основателей Apple, публично заявил, что столкнулся с похожей проблемой: его кредитный лимит по той же карте был в десять раз больше, чем у его жены, хотя у них не было отдельных счетов и собственности.

Шум нарастал, и Департамент финансовых услуг штата Нью-Йорк (NYDFS) начал расследование в отношении Goldman Sachs – банка, выпустившего Apple Card. Все ожидали громкого процесса, который бы показал, как алгоритмы поддерживают гендерную дискриминацию. Но опубликованные в марте 2021 года результаты расследования многих огорчили.

Регулятор однозначно заявил: «Нарушений закона о справедливом кредитовании не обнаружено». Проанализировав около 400 000 заявок от жителей Нью-Йорка, NYDFS заключил, что алгоритм Goldman Sachs не был сексистским в обычном понимании. Различия в кредитных лимитах объяснялись не полом, а другими, законными на вид, факторами. Например, в случае жены Ханссона, которая была иммигранткой, ее кредитная история в Америке была короче. Еще одним фактором могло быть то, что раньше многие женщины были просто «доверенными пользователями» кредитных карт своих мужей, а не основными владельцами – это как-то иначе учитывается в системах оценки кредитоспособности.

В этом и заключается суть проблемы. Алгоритм, вероятно, не имел прямой дискриминационной команды вроде if gender == 'female' then limit = limit / 20. Однако он учился и работал с данными, отражавшими историческую и системную дискриминацию. Это называется прокси-дискриминацией. Модель не использует напрямую защищенные характеристики, такие как пол, раса или возраст, но опирается на другие переменные – почтовый индекс, образование, род занятий, – которые с ними тесно связаны. Алгоритм не «видит» цвет вашей кожи, но он «видит», что вы живете в районе, где исторически был ограниченный доступ к банковским услугам, и на основании этого делает вывод о вашей надежности как заемщика.

Кейс с Apple Card показал, что законы о справедливом кредитовании, разработанные в 1970-х годах, оказались не готовы к проблемам, которые ставит перед нами машинное обучение. Законы ищут явное намерение причинить вред, а современные проблемы – это системные смещения (bias), заложенные в самих данных, на которых учатся модели.

Раздел 3: Эксплуатация наивности: поведенческая экономика в действии

Долгое время классическая экономическая теория основывалась на идее "homo economicus" – человека разумного, который всегда действует так, как лучше для себя. Но работы Даниэля Канемана и Ричарда Талера, получивших Нобелевскую премию за поведенческую экономику, показали, что люди нередко поступают неразумно. Мы склонны к лени, импульсивны и плохо планируем на будущее. Банки это хорошо знают и активно этим пользуются.

Одно из основных когнитивных искажений – гиперболическое дисконтирование. Оно в том, что мы намного больше ценим награду сейчас, чем ту же самую, но которую получим позже, даже если вторая, по сути, выгоднее. Для многих из нас выбор между пирожным сегодня и хорошей фигурой через год очевиден. То же самое верно и для денег: удовольствие от покупки какой-нибудь приятной вещи на тысячу рублей сейчас часто важнее, чем получить через год 1100 рублей, положив деньги на счет.

Другое важное понятие – ментальный учет (mental accounting). Мы в уме делим свои деньги на разные "счета": на продукты, на отпуск, на развлечения. Кредитная карта в этой системе создает впечатление отдельного, почти бесконечного "счета". Тратить деньги с карты не так обидно, как отдавать наличные. Психологи называют это "отсоединением платежа от покупки" (payment decoupling).

И, наконец, главная проблема – наша наивность в отношении собственного самоконтроля. Большинство из нас уверено, что в следующем месяце начнет копить и выплатит все долги. Но этот "следующий месяц" как-то не наступает.

Именно на этом основана стратегия автоматического повышения лимитов для тех, кто пользуется кредитной картой в долг. Банк, видя, что клиент не справляется с долгами и постоянно платит проценты, считает это не проблемой, а возможностью. Вместо того чтобы помочь клиенту избавиться от долгов, банк предлагает ему еще больше денег, поддерживая его прежнее поведение. Исследование Федеральной резервной системы прямо подтверждает этот циничный подход:

Это создает серьезную этическую проблему. С одной стороны, банк не нарушает закон – он просто предоставляет клиенту то, чего тот, кажется, хочет: больше доступного кредита. С другой стороны, банк обладает асимметричной информацией: он знает о поведенческих слабостях клиента лучше, чем сам клиент. Использование этих знаний для извлечения прибыли, которое загоняет человека в еще большие долги, балансирует на грани эксплуатации.

Раздел 4: Технологии будущего: Reinforcement Learning в управлении лимитами

Если вам кажутся достаточно сложными вышеописанные методы, основанные на статистике и поведенческой экономике, то в будущем нас ждут еще более сложные и приспособляемые системы. Традиционные методы машинного обучения заменяются обучением с подкреплением (Reinforcement Learning, RL) – подход, который позволяет алгоритмам обучаться оптимальному поведению в динамической среде методом проб и ошибок.

Представьте, что компьютерная программа учится играть в шахматы. Она не изучает миллионы партий, сыгранных сильными игроками (как в стандартном supervised learning). Вместо этого она просто знает правила и начинает играть сама с собой. Каждое действие – ход – в определенной ситуации – положении фигур на доске – приводит к определенному результату. Если ход в итоге ведет к победе, он получает положительное “вознаграждение” (reward). Если к поражению – отрицательное. Сыграв миллионы таких партий, программа сама вырабатывает стратегию, которая зачастую лучше человеческой интуиции и известных тактик.

Теперь применим эту идею к управлению кредитными лимитами. В этой модели:

• Агент (Agent) – это программа банка, принимающая решения.

• Среда (Environment) – это все клиенты банка и внешние экономические обстоятельства.

• Состояние (State) – это полный профиль клиента в данный момент времени: его кредитная история, текущий остаток, насколько он использует свой лимит, как часто и на что тратит деньги, как взаимодействует с банковским приложением и прочее.

• Действие (Action) – это решение, которое может принять агент: увеличить лимит на X%, уменьшить на Y%, оставить как есть, предложить новый продукт.

• Вознаграждение (Reward) – это измеряемый результат для бизнеса от этого действия. Положительным вознаграждением может быть рост процентного дохода от клиента. Отрицательным – его дефолт (потеря всей суммы долга) или переход в категорию “транзакторов”, которые не приносят прибыли.

Этот процесс можно описать циклом “Состояние-Действие-Вознаграждение”:

1. Агент видит состояние клиента.

2. Основываясь на своей текущей стратегии (policy), он выбирает действие.

3. Среда реагирует на это действие, клиент меняет свое поведение, и агент получает вознаграждение (или штраф).

4. Агент меняет свою стратегию, чтобы в будущем увеличить общее вознаграждение, и переходит к следующему состоянию.

В отличие от неподвижных моделей, которые просто относят клиента к “хорошим” или “плохим” на основе данных, RL-система учится управлять жизненным циклом клиента. Она может научиться играть вдолгую: например, не повышать лимит клиенту, который кажется выгодным сейчас, понимая, что через год это, скорее всего, приведет к дефолту. Или, наоборот, она может понять, что небольшое и своевременное увеличение лимита “транзактору” может заставить его стать “револьвером” через несколько месяцев.

Возможности таких систем для банков огромны. Они позволяют перейти от простого реагирования на риски к активному управлению прибылью от клиентской базы. Но это же открывает и новые, опасные с этической точки зрения возможности. RL-модель, единственной целью которой является увеличение прибыли, может научиться еще более эффективно и незаметно использовать слабости человеческой психологии и поведения, создавая “идеальные” долги, из которых будет почти невозможно выбраться.

Заключение: Лимит как инструмент управления

И как же банки определяют, какую сумму нам можно одолжить? Как мы выяснили, решение принимается не разумным банковским аналитиком, а сложным, многослойным алгоритмическим “чёрным ящиком”.

С одной стороны, этот “ящик” старается грамотно контролировать риски и увеличивать доход, применяя статистические модели и психологию поведения. Он выучился находить самых выгодных клиентов – “револьверов” – и поощрять их задолженность с помощью тактики “low-and-grow”.

С другой стороны, этот “ящик” учится на данных, в которых присутствуют прежние и системные предубеждения. Он, возможно, сам по себе не женоненавистник и не расист, однако, как показал случай с Apple Card, он может повторять несправедливость, существующую в обществе, и при этом оставаться абсолютно законным.

Вдобавок, в будущем появляются все лучшие средства, вроде обучения с подкреплением, которые могут не только делить клиентов на группы, но и активно воздействовать на их поведение в будущем, увеличивая доход для банка.

Поэтому кредитный лимит в наши дни – это уже не просто оценка того, насколько банк доверяет заёмщику. Это сильный метод поведенческой инженерии, итог сложного взаимодействия между риском, доходом, прежними данными и психологией. И в этом взаимодействии правила всё чаще придумывает тот, кто владеет алгоритмом.