ИИ в финансовом секторе: преодоление барьеров внедрения и управление рисками

Описание: Сергей Путятинский, Вице-президент по операционной деятельности и информационным технологиям, ФГ БКС, обсуждает текущее состояние дел и проблемы, связанные с внедрением LLM (Large Language Models) и машинного обучения (ML) в корпоративной среде.

Внедрение LLM:

Проблема 1: Стихийное внедрение. Внедрение LLM происходит хаотично, "мимо" руководителей и без системного подхода. Сотрудники используют чат-системы для локальных задач, что повышает их эффективность, но не отражается на ключевых финансовых показателях.

Проблема 2: Отсутствие контроля. Недостаточный контроль за использованием LLM приводит к рискам утечки конфиденциальной информации и нецелевому использованию рабочего времени.

Проблема 3: Отсутствие корпоративного внедрения. Редкие случаи корпоративного внедрения LLM обусловлены проблемами безопасности, отсутствием выбора между собственными решениями, облачными сервисами или готовыми пакетами, а также нехваткой баз знаний с корпоративной информацией.

Решения (важность выбора подхода):
Не делать ничего: Сотрудники продолжат использовать инструменты для личной эффективности, повышая свою компетенцию.
Обеспечить инфраструктуру: Создание интеграционного ландшафта для оркестрации запросов, обеспечения информационной безопасности и контроля утечек.
Активный подход: Разработка стратегии внедрения AI, определение целей, формирование корпоративной платформы с базами знаний, обучение сотрудников и создание сценариев работы с AI.

Пример: Компания Спикера (БКС) выбрала третий путь, подразумевающий значительные инвестиции и изменения в организации.

Внедрение машинного обучения (ML):

Проблема: Разрыв между декларируемым и фактическим использованием ML. Несмотря на широкое использование термина "ML" в финансовом секторе, в реальной практике, при принятии решений, зачастую используются устаревшие методы, такие как логистическая регрессия. Нейронные сети, которые дают непрозрачные ответы, не получили широкого распространения.
Причины:
Страх аналитиков перед отдачей решений полностью машине, так как текущие модели принятий решений работают.
Недостаток инструментов для MLOps (оркестровки моделей, A/B-тестирования).
Решения:
Управление данными: инвентаризация, определение доменов и владельцев данных, обеспечение качества данных.
Анализ текущих процессов: выяснение реального использования аналитических моделей.
Обучение специалистов: предоставление инструментария и обучение сотрудников, при необходимости замена не готовых к переходу на новые технологии.
Контроль эффективности: владение цифрами, отслеживание эффективности старых и новых моделей, AB-тестирование.

Общий вывод:

Подчеркивается важность стратегического планирования и тщательной подготовки для успешного внедрения как LLM, так и ML в корпоративной среде. Необходимо уделять внимание управлению данными, обучению персонала и контролю эффективности, для этого требуется лидерство, вера в результат и готовность к изменениям.
CNews FORUM 2025: Информационные технологии завтра.
Предcтавители бизнеса, госструктур, ИТ-компаний, а также независимые эксперты и аналитики приняли участие в дискуссии о том, как будет проходить информатизация экономики в ближайшие годы.
Цель мероприятия – предоставить независимую площадку для обсуждения ключевых вопросов и актуальных проблем рынка ИКТ, инновационных технологий, подходов к реализации ИТ-проектов – с участием трех сторон – бизнеса, ИТ-поставщиков и государства.