Какой лучший способ связать данные вашего бизнеса с ИИ?

Кратко

Генеративный ИИ трансформирует бизнес-аналитику, обеспечивая безопасное, основанное на данных принятие решений в масштабах, с помощью таких инструментов, как RAG, агентный ИИ и интегрированные платформы BI, чтобы предоставлять действенные инсайты напрямую пользователям, защищая при этом конфиденциальную информацию.

Генеративный ИИ переписывает правила для стратегии бизнеса, основанной на данных. Трудоемкие процессы становятся автоматизированными и разговорными, что способствует новой эпохе «интеллекта решений», характеризующейся простым и точным выявлением мощных инсайтов именно тогда и там, где они необходимы. Это мир, в котором ИИ мгновенно выявляет тренды, необходимые руководителям для быстрого и уверенного принятия решений.

За последние два года мы наблюдали значительные прорывы в возможностях ИИ в области бизнес-аналитики, но есть один нюанс. Прежде чем организации смогут внедрять генеративную бизнес-аналитику, им нужно связать модели ИИ с их очень чувствительными бизнес-данными так, чтобы не оставить их уязвимыми.

Векторизация, RAG, MCP и навыки агентов — это форматы и протоколы, которые помогают преодолеть этот разрыв, но в этой новой области ни одно решение не стало отраслевым стандартом. Конечно, загрузка конфиденциальных финансовых отчетов и личных данных на публичную платформу ИИ, такую как ChatGPT, примерно так же безопасна, как публикация их прямо в Instagram.

Как объясняет Шерил Джонс, специалист по ИИ в NetCom Learning, как только кто-то загружает таблицу в эти сервисы, невозможно предсказать, когда или если она станет публично доступной. «Одна из главных угроз безопасности ChatGPT — возможность непреднамеренной утечки данных», — пишет она в блоге. «Сотрудники могут вводить конфиденциальную информацию компании, данные клиентов или собственные алгоритмы, которые затем могут быть использованы в обучающих данных модели или раскрыты в будущих выводах другим пользователям.»

От RAG к богатым инсайтам BI

Вместо того чтобы напрямую обращаться к ChatGPT, многие организации инвестируют в создание кастомных чатботов на базе собственных LLM, подключенных к корпоративным базам данных. Один из способов — использовать технику, известную как «дополненное извлечение генерации» или RAG, которая динамически расширяет знания LLM, извлекая и интегрируя внешние данные в ответы ИИ, повышая их точность и релевантность. Это способ «тонкой настройки» модели ИИ без фактического изменения ее алгоритмов или обучения.

Системы RAG собирают данные из внешних источников и разбивают их на небольшие управляемые части, используя числовые векторные представления, хранящиеся в векторной базе данных, что делает их поисковыми для LLM. Это позволяет модели выявлять релевантные данные по запросу пользователя, добавляя их к исходному запросу, чтобы сгенерировать ответ, основанный на связанной информации.

«Основой любой успешной реализации системы RAG является модульная архитектура, которая соединяет необработанные данные с языковой моделью через интеллектуальное извлечение», — объясняет Хелен Журавел, директор по продуктовым решениям в Binariks. «Такая структура позволяет командам сохранять ответы точными, актуальными и основанными на внутренней информации без необходимости переобучения модели при каждом обновлении.»

Однако RAG не застрахован от проблем безопасности, связанных с передачей данных напрямую чатботам, и не является полноценным решением. Сам по себе RAG не позволяет LLM предоставлять традиционную бизнес-аналитику, поскольку модели все еще предназначены для выдачи инсайтов в разговорной форме. В RAG отсутствуют основные компоненты платформ BI. Для создания полноценных интерактивных отчетов и панелей организациям потребуется интегрировать комплексную бизнес-логику, движок визуализации данных и инструменты управления данными с LLM.

Готовые решения GenBI в коробке

К счастью, организации также могут приобрести готовые системы генеративной бизнес-аналитики, такие как Amazon Q в QuickSight, Sisense и Pyramid Analytics, которые выглядят и работают более как традиционные платформы BI. Отличие в том, что они нативно интегрированы с LLM для повышения доступности.

Благодаря своей архитектуре «подключи и работай», Pyramid Analytics может напрямую подключать сторонние LLM к источникам данных, таким как Databricks, Snowflake и SAP. Это исключает необходимость создавать дополнительные каналы передачи данных или форматировать данные особым образом. Для защиты конфиденциальной информации Pyramid избегает отправки любых необработанных данных в LLM.

В блоге Pyramid CTO Ави Перес объясняет, что запросы пользователей отделены от исходных данных, что гарантирует, что ничего не покидает контролируемую среду клиента. «Платформа передает только запрос на естественном языке и контекст, необходимый языковой модели для генерации ответа», — отмечает он.

Например, если кто-то задает вопрос о продажах и расходах в разных регионах, Pyramid передаст только сам запрос и ограниченную информацию, такую как метаданные, схемы и семантические модели, необходимые для контекста. «Самые данные не отправляются», — говорит Перес. «LLM использует свои интерпретативные возможности, чтобы вернуть нам подходящий рецепт ответа, который затем использует движок Pyramid для скриптинга, запросов, анализа и построения контента.»

Другие платформы генеративной BI по-разному реализуют подключение к базе данных ИИ. Amazon Q в QuickSight решает вопросы безопасности, держась в изоляции внутри AWS. Кроме того, Amazon обещает не использовать запросы и подсказки клиентов для обучения базовых моделей, чтобы избежать утечки данных.

Платформы генеративной BI делают бизнес-аналитику доступной и легкой для навигации. Благодаря разговорным интерфейсам, нефункциональные пользователи могут взаимодействовать с ними с помощью естественных языковых подсказок, чтобы находить нужные ответы. Они также могут автоматически создавать панели и визуализации, которые помогают пользователям исследовать свои данные более глубоко.

Пользователи могут даже создавать целые отчеты и контекстуальные сводки, превращая статичные данные в объяснимые истории, что облегчает понимание трендов и аномалий.

Действенные инсайты с агентным BI

Чтобы сделать бизнес-аналитику более действенной, некоторые организации решили применять RAG-пайплайны с базовыми технологиями «агентного ИИ», такими как навыки агентов и протокол контекста модели (MCP). Цель — превратить BI из пассивного инструмента отчетности в автономную систему, которая понимает ключевые инсайты и может выполнять задачи на основе своих открытий.

Навыки агентов — это библиотека модульных возможностей, разработанных компанией Anthropic, позволяющих ИИ-агентам выполнять конкретные действия, такие как создание PDF-файлов, вызов определенного API или выполнение сложных статистических расчетов. Эти навыки могут активироваться агентами по мере необходимости, позволяя им выполнять работу вместо человека.

Между тем, MCP — это открытый универсальный стандарт, который соединяет LLM с внешними источниками данных и программными инструментами. Он позволяет ИИ-агентам безопасно и структурировано получать доступ к живым системам и инструментам без необходимости создавать собственные соединители.

Эти технологии имеют синергии, подходящие для области бизнес-аналитики, объединяясь для создания нового типа агентного рабочего процесса BI. Например, если пользователь задает вопрос «Почему снизились продажи на Юге?», агент использует MCP для получения конкретного контекста, такого как роль пользователя, права доступа, предыдущие отчеты и актуальные данные из CRM компании.

Затем агент использует RAG для извлечения релевантных данных, таких как региональные маркетинговые планы, протоколы встреч и так далее, чтобы определить причины снижения продаж. После нахождения ответа агент использует навыки агентов для выполнения действий, таких как создание сводного отчета, уведомление ответственной команды продаж и обновление прогноза бюджета в ERP.

Генеральный директор Cisco Аруна Равичандран очень оптимистично настроен по поводу агентного BI и его потенциала сделать «подключенный интеллект» повсеместным в рабочей среде. «В эту новую эпоху сотрудничество происходит без трений», — прогнозирует он. «Цифровые работники предвидят потребности, координируют задачи в фоновом режиме и решают проблемы до их возникновения.»

Несмотря на оптимизм, RAG, MCP и навыки агентов остаются в экспериментальной стадии, и многие скептически относятся к их долгосрочному внедрению. Нет стандартной схемы для построения рабочих процессов агентного BI, и пока что они, скорее всего, останутся прерогативой крупных организаций с ресурсами и талантами, способными посвятить себя таким проектам.

Все получают улучшенное ИИ принятие решений

Доступ к данным LLM — в некотором смысле, последний барьер на пути к истинному интеллекту решений, когда мощные инсайты могут быть выявлены любым в тот момент, когда они нужны. Как только это будет реализовано, принятие решений больше не будет ограничиваться аналитическими командами или руководящим составом, а станет частью повседневных бизнес-операций.

Все больше сотрудников участвуют в стратегическом решении проблем, что имеет глубокие последствия. Организации, успешно интегрирующие свои данные с аналитикой на базе ИИ, по сути превращают корпоративную информацию из изолированного актива в язык решительных действий, которым владеет каждый сотрудник.