Cách tốt nhất để kết nối dữ liệu doanh nghiệp của bạn với AI là gì?

Tóm tắt

AI sinh tạo đang biến đổi trí tuệ doanh nghiệp bằng cách cho phép ra quyết định an toàn, dựa trên dữ liệu quy mô lớn, sử dụng các công cụ như RAG, AI đại lý và các nền tảng BI tích hợp để cung cấp những hiểu biết hành động trực tiếp cho người dùng trong khi bảo vệ thông tin nhạy cảm.

AI sinh tạo đang viết lại quy trình cho chiến lược kinh doanh dựa trên dữ liệu. Các quy trình tốn công sức đang trở nên tự động hóa và đối thoại, thúc đẩy kỷ nguyên mới của “trí tuệ quyết định,” đặc trưng bởi việc hiển thị đơn giản và chính xác các hiểu biết mạnh mẽ đúng lúc và đúng nơi cần thiết. Đó là một thế giới nơi AI ngay lập tức phát hiện các xu hướng mà các lãnh đạo điều hành cần để đưa ra quyết định nhanh chóng và tự tin.

Trong hai năm qua, chúng ta đã chứng kiến những bước tiến lớn trong khả năng trí tuệ doanh nghiệp của AI, nhưng có một điều cần lưu ý. Trước khi các tổ chức có thể chấp nhận trí tuệ doanh nghiệp sinh tạo, họ cần kết nối các mô hình AI với dữ liệu doanh nghiệp nhạy cảm của mình theo cách không để lộ thông tin.

Vectorization, RAG, MCP và Kỹ năng Đại lý là một số định dạng và giao thức giúp thu hẹp khoảng cách này, nhưng trong lĩnh vực mới nổi này, chưa có giải pháp nào trở thành tiêu chuẩn ngành. Tất nhiên, việc tải lên các báo cáo tài chính bí mật và thông tin cá nhân để sử dụng trên các nền tảng AI công khai như ChatGPT gần như không an toàn như đăng trực tiếp lên Instagram.

Ngay khi ai đó cung cấp một bảng tính cho các dịch vụ này, không ai biết liệu hoặc khi nào dữ liệu đó có thể bị rò rỉ ra công chúng, giải thích Cheryl Jones, chuyên gia AI tại NetCom Learning. “Một trong những rủi ro an ninh hàng đầu của ChatGPT là khả năng vô tình rò rỉ dữ liệu,” cô viết trong một bài blog. “Nhân viên có thể nhập thông tin bí mật của công ty, dữ liệu khách hàng hoặc thuật toán độc quyền vào ChatGPT, sau đó có thể được sử dụng trong dữ liệu huấn luyện của mô hình hoặc bị lộ trong các kết quả xuất ra trong tương lai cho người dùng khác.”

Từ RAG đến Hiểu biết BI phong phú

Thay vì hỏi trực tiếp ChatGPT, nhiều tổ chức đang đầu tư vào việc tạo ra các chatbot tùy chỉnh được hỗ trợ bởi các LLM độc quyền kết nối với cơ sở dữ liệu doanh nghiệp. Một cách để làm điều này là sử dụng kỹ thuật gọi là “truy xuất tăng cường sinh” hay RAG, giúp tăng cường kiến thức của các LLM bằng cách truy xuất và tích hợp dữ liệu bên ngoài vào phản hồi của AI, nâng cao độ chính xác và tính phù hợp của chúng. Đây là cách “tinh chỉnh” một mô hình AI mà không cần thay đổi thuật toán hoặc quá trình huấn luyện của nó.

Hệ thống RAG thu thập dữ liệu từ các nguồn bên ngoài và phân chia thành các phần nhỏ, dễ quản lý, dựa trên các nhúng số trong cơ sở dữ liệu vector, giúp chúng có thể tìm kiếm được cho các LLM. Điều này cho phép LLM hiển thị các phần dữ liệu phù hợp với câu hỏi của người dùng, trước khi thêm chúng vào yêu cầu ban đầu để tạo ra phản hồi dựa trên dữ liệu đã kết nối.

“Nền tảng của bất kỳ hệ thống RAG thành công nào là kiến trúc mô-đun kết nối dữ liệu thô với mô hình ngôn ngữ thông qua truy xuất thông minh,” giải thích Helen Zhuravel, giám đốc giải pháp sản phẩm tại Binariks. “Cấu trúc này cho phép các nhóm giữ cho phản hồi chính xác, cập nhật và dựa trên kiến thức nội bộ, mà không cần huấn luyện lại mô hình sau mỗi cập nhật.”

Tuy nhiên, RAG không miễn nhiễm với các vấn đề an ninh liên quan đến việc cung cấp dữ liệu trực tiếp cho chatbot AI, và nó không phải là giải pháp hoàn chỉnh. RAG đơn thuần không cho phép các LLM cung cấp trí tuệ doanh nghiệp truyền thống, vì các mô hình vẫn được thiết kế để đưa ra các hiểu biết của chúng theo cách đối thoại. RAG không có các thành phần xây dựng truyền thống của các nền tảng BI. Để tạo ra các báo cáo và bảng điều khiển tương tác toàn diện, các tổ chức còn cần tích hợp logic kinh doanh toàn diện, một engine trực quan dữ liệu và các công cụ quản lý dữ liệu với LLM.

Giải pháp GenBI sẵn có trong hộp

May mắn thay, các tổ chức cũng có thể mua các hệ thống BI sinh tạo đã hoàn chỉnh như Amazon Q trong QuickSight, Sisense và Pyramid Analytics, trông và cảm nhận giống như các nền tảng BI truyền thống hơn. Điểm khác biệt là chúng tích hợp sẵn với LLM để nâng cao khả năng truy cập.

Với kiến trúc cắm và chạy, Pyramid Analytics có thể kết nối trực tiếp các LLM của bên thứ ba với các nguồn dữ liệu như Databricks, Snowflake và SAP. Điều này loại bỏ nhu cầu xây dựng các đường dẫn dữ liệu bổ sung hoặc định dạng dữ liệu theo cách đặc biệt. Để bảo vệ thông tin nhạy cảm, Pyramid tránh gửi bất kỳ dữ liệu thô nào đến LLM.

Trong một bài blog, CTO của Pyramid, Avi Perez, giải thích rằng các câu hỏi của người dùng được tách biệt khỏi dữ liệu nền, đảm bảo rằng không có gì rời khỏi môi trường kiểm soát của khách hàng. “Nền tảng chỉ truyền yêu cầu bằng ngôn ngữ tự nhiên và ngữ cảnh cần thiết để mô hình ngôn ngữ tạo ra công thức trả lời câu hỏi của bạn,” ông lưu ý.

Ví dụ, nếu ai đó hỏi về doanh số và chi phí ở các khu vực khác nhau, Pyramid sẽ chỉ truyền câu hỏi và thông tin giới hạn đến LLM, như metadata, sơ đồ và mô hình ngữ nghĩa cần thiết để cung cấp ngữ cảnh. “Dữ liệu thực tế không được gửi đi,” Perez nói. “LLM sẽ sử dụng khả năng diễn giải của mình để gửi lại cho chúng ta một phản hồi phù hợp, mà engine của Pyramid sẽ dùng để lập trình, truy vấn, phân tích và xây dựng nội dung.”

Các nền tảng BI sinh tạo khác xử lý kết nối AI- cơ sở dữ liệu theo cách khác. Amazon Q trong QuickSight giải quyết các vấn đề an ninh bằng cách giữ mọi thứ riêng biệt trong môi trường AWS. Ngoài ra, Amazon cam kết không sử dụng các yêu cầu và truy vấn của khách hàng để huấn luyện các mô hình nền tảng của Amazon Q, nhằm ngăn chặn rò rỉ dữ liệu theo cách đó.

Các nền tảng BI sinh tạo giúp trí tuệ doanh nghiệp dễ tiếp cận và dễ điều hướng hơn. Vì chúng cung cấp giao diện đối thoại, người dùng không kỹ thuật có thể tương tác bằng các yêu cầu bằng ngôn ngữ tự nhiên để tìm ra câu trả lời họ cần. Họ cũng có thể sử dụng AI để tự động xây dựng bảng điều khiển và trực quan hóa giúp người dùng khám phá dữ liệu của mình sâu hơn.

Người dùng thậm chí có thể tạo ra toàn bộ báo cáo và tóm tắt ngữ cảnh, biến dữ liệu tĩnh thành câu chuyện dễ hiểu, giúp dễ dàng nhận biết xu hướng và bất thường.

Hiểu biết hành động với BI đại lý

Để làm cho trí tuệ doanh nghiệp trở nên hành động hơn, một số tổ chức đã chọn áp dụng các pipeline RAG với các công nghệ “AI đại lý” nền tảng như Agent Skills và Giao thức Ngữ cảnh Mô hình (MCP). Mục tiêu là biến BI từ một công cụ báo cáo thụ động thành một hệ thống tự chủ hiểu các hiểu biết chính và thậm chí thực hiện các nhiệm vụ dựa trên những gì chúng phát hiện.

Agent Skills đề cập đến một thư viện các khả năng mô-đun do Anthropic phát triển, cho phép các AI đại lý thực hiện các hành động cụ thể, như tạo tệp PDF, gọi API cụ thể hoặc thực hiện các phép tính thống kê phức tạp. Các kỹ năng này có thể được kích hoạt bởi các đại lý khi cần, cho phép chúng thực hiện công việc thay mặt con người.

Trong khi đó, MCP là một tiêu chuẩn mở, toàn cầu kết nối các LLM và các nguồn dữ liệu, phần mềm bên ngoài. Nó cho phép các AI đại lý truy cập các hệ thống và công cụ trực tiếp một cách an toàn và có cấu trúc, mà không cần xây dựng các bộ kết nối tùy chỉnh.

Các công nghệ này có sự cộng hưởng phù hợp với phạm vi của trí tuệ doanh nghiệp, kết hợp để tạo ra một quy trình BI đại lý mới. Nếu người dùng hỏi “Tại sao doanh số giảm ở miền Nam?”, đại lý sẽ sử dụng MCP để lấy vào ngữ cảnh cụ thể cần thiết để trả lời câu hỏi đó, như vai trò của người dùng và quyền truy cập, các báo cáo trước đó họ đã truy cập và dữ liệu trực tiếp từ nền tảng CRM của công ty.

Sau đó, đại lý sẽ sử dụng RAG để truy xuất dữ liệu phù hợp, như kế hoạch marketing khu vực, bản ghi cuộc họp, v.v., để xác định nguyên nhân giảm doanh số. Sau khi tìm ra câu trả lời, đại lý sẽ dùng Agent Skills để thực hiện các hành động, như tạo báo cáo tóm tắt, thông báo cho đội bán hàng chịu trách nhiệm và cập nhật dự báo ngân sách trong ERP.

Giám đốc Marketing của Cisco, Aruna Ravichandran, rất lạc quan về BI đại lý và tiềm năng của nó để làm cho “trí tuệ kết nối” trở nên phổ biến trong nơi làm việc. “Trong kỷ nguyên mới này, sự hợp tác diễn ra không có ma sát,” ông dự đoán. “Nhân viên kỹ thuật số dự đoán nhu cầu, phối hợp nhiệm vụ trong nền và giải quyết các vấn đề trước khi chúng nổi lên.”

Dù còn nhiều lạc quan, RAG, MCP và Kỹ năng Đại lý vẫn đang trong giai đoạn thử nghiệm, và nhiều người còn hoài nghi về việc chúng sẽ được chấp nhận lâu dài. Chưa có khung tiêu chuẩn nào để xây dựng quy trình BI đại lý, và ít nhất hiện tại, chúng có khả năng vẫn chỉ dành cho các tổ chức lớn có nguồn lực và nhân tài để đầu tư vào các dự án này.

Mọi người đều có thể ra quyết định có AI hỗ trợ

Việc truy cập dữ liệu LLM, theo một nghĩa nào đó, là một trở ngại cuối cùng trên con đường đến trí tuệ quyết định thực sự, nơi các hiểu biết mạnh mẽ có thể được hiển thị cho bất kỳ ai khi cần thiết. Khi đã vượt qua được, quá trình ra quyết định sẽ không còn bị giới hạn trong các nhóm phân tích hoặc phòng ban điều hành nữa, mà sẽ trở thành một phần của hoạt động kinh doanh hàng ngày.

Ngày càng nhiều nhân viên tham gia vào việc giải quyết các vấn đề chiến lược, điều này có ảnh hưởng sâu rộng. Các tổ chức thành công trong việc tích hợp dữ liệu của chính họ với phân tích dựa trên AI về cơ bản đang biến thông tin doanh nghiệp từ một tài sản riêng biệt thành ngôn ngữ của hành động quyết đoán mà mọi nhân viên đều nói được.