Как ИИ помогает финансовым организациям при внедрении ML-моделей?

Клиент — один из российских банков — использовал модели машинного обучения для управления жизненным циклом клиента, включая прогнозирование склонности к продуктам и оттока, оценку LTV и доходности. Среднее время от идеи до внедрения (time to market, T2M) могло достигать 6 месяцев.

У заказчика для каждого этапа создания моделей машинного обучения работали отдельные, не интегрированные между собой информационные системы, которые. обслуживали разные команды, выполняющие, кроме исследований, и сервисные функции. Например, специалисты по снижению оттока клиентов с помощью ИИ разрабатывали модели и передавали их сервисной команде для внедрения. Такой подход привел к значительным временным затратам. Сервисные команды поддерживали несколько ИИ-групп и зачастую не были знакомы со всеми вводными проектов, что усложняло процесс внедрения.

Банк хотел сократить сроки внедрения ИИ в различные сценарии и увеличить скорость обновления моделей.

Банк может использовать модели машинного обучения для управления жизненным циклом клиента

Чтобы решить проблему клиента, была поставлена цель — кардинально сократить Т2М ML-моделей.

Решение: платформа «Сайбокс»

«Сайбокс» ― ML-платформа, которая позволяет применять полный комплекс современных аналитических методов и алгоритмов к бизнес-данным компании для выделения полезной информации. Продукт разработан Т1 ИИ (входит в ИТ-холдинг Т1).

Платформа «Сайбокс» предоставляет компаниям инструменты для управления жизненным циклом моделей машинного обучения через единый интерфейс. Пользователи компании-клиента могут как управлять своими ИТ-ресурсами в облаке, так и арендовать их, что позволяет гибко подходить к задачам моделирования и оптимизировать затраты. Одна из важных особенностей — возможность контроля и мониторинга прогнозов ML-моделей, а также объяснение их результатов. Платформа также упрощает процесс разработки и исполнения обученных моделей: их можно создать автоматически без специальных знаний и навыков программирования.

Что может платформа «Сайбокс»?

1. Распределять вычислительные ресурсы между командами, инструментами, заданиями по обучению ИИ моделей, исполняемыми ИИ моделями
2. Подготавливать данные для обучения и применения ИИ-моделей
3. Создавать ИИ-модели для решения прикладных задач разного типа: сегментировать клиентов, рекомендовать дополнительные товары и услуги, прогнозировать отток, оценивать качество изделий, создавать цифровых помощников на основе LLM, компьютерное зрение и т.п.
4. Следить за качеством прогнозов у исполняемых ИИ моделей и работы сервиса на его основе
5. Создавать каталоги моделей и данных на уровне компании для тиражирования в новые задачи и процессы

Что требовалось команде заказчика

Для банка основной задачей при внедрении платформы была возможность предоставить своим разработчикам самостоятельно внедрять ИИ-модели, чтобы освободить от дополнительной нагрузки сервисные команды. Бизнес-команды по ИИ заказчика нуждались в инструментах для моделирования, которые можно использовать в режиме самообслуживания или по запросу. К ним относятся инструменты для подготовки данных, обучения моделей, проведения экспериментов, их оптимизации, хранения, запуска, использования и мониторинга.

Для проектных ИИ-команд заказчика было важным самостоятельно следить за качеством прогнозов ИИ-моделей, настраивать оповещения и вносить изменения при необходимости. Близость к бизнесу и экспертиза позволяла им оперативно идентифицировать проблемы в прогнозах и находить пути решения. Платформа «Сайбокс» дала возможность разработчикам клиента полностью отвечать за свою модель: от идеи до внедрения в эксплуатацию, а также корректировать ее при необходимости.

У заказчика было требование: в момент пиковых нагрузок команда проекта нуждалась в возможности своими силами вертикально или горизонтально масштабировать ИИ-сервис, чтобы сохранить время отклика и обработать приоритетные запросы в соответствии с SLA (Service Level Agreement). Разработчикам также необходимо было обмениваться артефактами моделирования. Вопрос удалось решить: в «Сайбокс» их можно перемещать бесшовно, так как платформа обеспечивает единый доступ для всех пользователей.

Еще одно пожелание — управлять квотой вычислительных ресурсов под запрос. При использовании «Сайбокс» команда заказчика сама решает, как поделить ее мощности между всеми проектами, инструментами и ИИ-моделями. При этом владельцы ИТ-инфраструктуры понимают, кто и сколько использует для задач моделирования. Можно гибко вносить изменения, управлять мощностями, предотвращать простой и дефицит ресурсов GPU.

Кроме функциональных особенностей, все ИТ-продукты для банковской сферы должны соответствовать высоким стандартам из-за строгих регуляторных требований, в том числе обеспечивать безопасность персональных данных клиентов банка.

Как платформа «Сайбокс» изменила процессы разработки и внедрения ML-моделей в банке

Основная функция «Сайбокс» — создание общих рабочих пространств для проектных ИИ-команд банка, чтобы сократить время на обмен артефактами моделирования, такими как наборы данных, модели и модельные сервисы на их основе. Платформа открыла единый доступ для всех ИИ-команд клиента — теперь они могут работать в едином рабочем пространстве, где доступны все необходимые данные и инструменты. Это позволяет сотрудникам управлять ролевой моделью доступа и вычислительными ресурсами, а также быстро реагировать на изменения или проблемы в работе уже внедренных решений. У платформы «Сайбокс» — интуитивно понятный интерфейс, в котором каждая команда взаимодействует с артефактами моделирования. Ранее передача моделей осуществлялась через отдельные инструменты, из-за чего усложнялись процессы интеграции и управления. Платформа обеспечила управление наборами данных с помощью контроля версий и связи с моделями и экспериментами. Теперь можно быстро определить, на чем обучена модель и какие данные использовались для прогнозов.

Репозиторий моделей машинного обучения позволил отслеживать историю изменений моделей и экспериментов по их созданию. Это упростило переиспользование моделей для других проектов или откат на нужную версию.

Управление средами разработки дало возможность оперативно получать окружение для разработки кода с разрешенными на уровне компании библиотеками, быстро воспроизводить его для новых ИИ-моделей и иметь доступ к артефактам из репозитория данных и моделей.

Использование фреймворков для настройки гиперпараметров и интерпретации результатов обучения ускорило процесс решения прикладных задач. Поддержка репозитория Hugging Face обеспечила запуск ИИ-моделей для различных задач всего в два клика, что значительно упростило процесс апробирования и принятия решений о дальнейшем использовании моделей. Кроме того, модели могут исполняться в реальном времени или по расписанию с использованием автоматических конвейеров без необходимости написания кода.

Платформа «Сайбокс» также способна масштабировать вычислительные ресурсы под ИИ-задачи или пиковый трафик. Можно сделать это автоматически за считанные секунды или вручную, что особенно важно в моменты повышенной нагрузки. Например, при оценке кредитной заявки во время рекламных акций, когда требуется обработка данных от 100 и более заемщиков в минуту.

Снижение затрат, рост производительности и другие итоги

Самым заметным результатом внедрения «Сайбокс» в банке стало снижение Т2М — в три раза — до 60 дней вместо 180. Показатель и сейчас продолжает уменьшаться, и время Т2М в будущем может составить до нескольких недель или даже дней. Банк добился значительных успехов в работе своих кросс-функциональных ИИ-команд. Теперь они могут самостоятельно реализовывать идеи по применению ИИ в приложениях и продуктах для клиентов и делают это намного быстрее, чем раньше — процесс разработки ускорился на 70%.

Важным итогом проекта стало уменьшение операционных издержек. За счет оптимизации поддержки инструментов для моделирования и внедренных ИИ-моделей показатель снизился на 40%. Производительность специалистов в области ИИ возросла в два раза, а время, необходимое для предоставления обратной связи бизнесу, существенно сократилось.

Где еще можно использовать платформу «Сайбокс»

Платформа «Сайбокс» универсальна и может применяться в разных отраслях. В нефтегазовой отрасли она предсказывает зоны нефтеносности и выявляет наиболее перспективные участки для бурения. Оптимизация параметров бурения с помощью машинного обучения позволяет прогнозировать идеальные условия для буровых работ, что снижает риски и сроки. Еще «Сайбокс» помогает планировать маршруты танкеров, учитывая погодные условия, и тем самым сокращает затраты на транспортировку. В нефтепереработке платформа прогнозирует качество конечного продукта, чтобы улучшить его характеристики и уменьшить энергозатраты. Также платформа может предсказывать спрос на нефтепродукты на автозаправочных станциях.

В ритейле «Сайбокс» анализирует поведение покупателей, предсказывая спрос на товары и оптимизируя запасы. С ее помощью можно снизить уровень издержек и улучшить уровень обслуживания клиентов. В логистике платформа определяет транспортные маршруты, учитывая трафик и погодные условия, что приводит к снижению затрат на транспортировку и повышению скорости доставки. На производстве — применяется для мониторинга состояния оборудования и предсказания его отказов, чтобы предотвратить простои и снизить затраты на обслуживание.

«Сайбокс позволяет экспертам ИИ полностью сосредоточиться на решении прикладных задач компаний с помощью искусственного интеллекта за счет сокращения времени на выполнение рутинных операций, а новичкам — создавать ИИ- модели и решения промышленного уровня на их основе, используя функции автоматизации шагов машинного обучения в платформе, а также — копилота, встроенного в среды разработки моделей в платформе, ускоряющего разработку кода, его читаемость и безопасность» ― рассказал владелец продукта «Сайбокс» Владимир Мамеко.