Apa Cara Terbaik Menghubungkan Data Bisnis Anda ke AI?

Secara Singkat

AI Generatif sedang mengubah kecerdasan bisnis dengan memungkinkan pengambilan keputusan yang aman dan berbasis data secara skala besar, menggunakan alat seperti RAG, AI agenik, dan platform BI terintegrasi untuk menyampaikan wawasan yang dapat ditindaklanjuti langsung kepada pengguna sambil melindungi informasi sensitif.

AI Generatif sedang menulis ulang buku panduan untuk strategi bisnis berbasis data. Proses yang memakan waktu menjadi otomatis dan percakapan, memudahkan langkah menuju era baru “decision intelligence,” yang ditandai oleh munculnya wawasan kuat secara sederhana dan tepat waktu di tempat dan saat yang dibutuhkan. Ini adalah dunia di mana AI secara instan menampilkan tren yang perlu diketahui oleh pemimpin eksekutif untuk membuat keputusan dengan cepat dan percaya diri.

Dalam dua tahun terakhir, kita telah menyaksikan lonjakan besar dalam kemampuan kecerdasan bisnis AI, tetapi ada catatan. Sebelum organisasi dapat mengadopsi kecerdasan bisnis generatif, mereka perlu menghubungkan model AI ke data bisnis yang sangat sensitif dengan cara yang tidak meninggalkan data tersebut terbuka.

Vektorisasi, RAG, MCP, dan Skill Agen adalah beberapa format dan protokol yang membantu menjembatani kesenjangan ini, tetapi dalam ruang yang sedang berkembang ini, belum ada solusi tunggal yang muncul sebagai standar industri. Tentu saja, mengunggah laporan keuangan rahasia dan informasi identifikasi pribadi ke platform AI yang bersifat publik seperti ChatGPT sama amannya dengan memposting langsung ke Instagram.

Saat seseorang memasukkan spreadsheet ke layanan ini, tidak ada yang tahu apakah atau kapan data tersebut akan bocor secara publik, jelas Cheryl Jones, seorang spesialis AI di NetCom Learning. “Salah satu risiko keamanan utama ChatGPT adalah potensi kebocoran data yang tidak disengaja,” tulisnya dalam sebuah posting blog. “Karyawan mungkin memasukkan informasi rahasia perusahaan, data pelanggan, atau algoritma proprietary ke ChatGPT, yang kemudian bisa digunakan dalam data pelatihan model atau terekspos dalam output di masa depan kepada pengguna lain.”

Dari RAG ke Wawasan BI yang Kaya

Alih-alih bertanya langsung ke ChatGPT, banyak organisasi berinvestasi dalam pembuatan chatbot kustom yang didukung oleh LLM proprietary yang terhubung ke basis data perusahaan. Salah satu caranya adalah menggunakan teknik yang dikenal sebagai “retrieval augmented generation” atau RAG, yang secara dinamis meningkatkan pengetahuan LLM dengan mengambil dan menggabungkan data eksternal ke dalam respons AI, meningkatkan akurasi dan relevansinya. Ini adalah cara untuk “menyetel halus” model AI tanpa benar-benar mengubah algoritma atau pelatihannya.

Sistem RAG mengumpulkan data dari sumber eksternal dan memecahnya menjadi potongan kecil yang dapat dikelola, yang diambil dari embedding numerik yang disimpan dalam basis data vektor, sehingga dapat dicari oleh LLM. Ini memungkinkan LLM menampilkan potongan data yang relevan dengan pertanyaan pengguna, sebelum menambahkannya ke prompt asli agar dapat menghasilkan respons yang didasarkan pada data yang terhubung.

“Dasar dari implementasi sistem RAG yang sukses adalah arsitektur modular yang menghubungkan data mentah ke model bahasa melalui retrieval yang cerdas,” jelas Helen Zhuravel, direktur solusi produk di Binariks. “Struktur ini memungkinkan tim menjaga respons tetap akurat, terkini, dan berlandaskan pengetahuan internal, tanpa perlu melatih ulang model setiap kali ada pembaruan.”

Namun, RAG tidak kebal terhadap masalah keamanan yang terkait dengan memberi data langsung ke chatbot AI, dan ini bukan solusi lengkap. RAG sendiri tidak memungkinkan LLM memberikan kecerdasan bisnis konvensional, karena model masih dirancang untuk mengeluarkan wawasan mereka secara percakapan. RAG tidak memiliki blok bangunan tradisional dari platform BI. Untuk menghasilkan laporan dan dashboard yang lengkap dan interaktif, organisasi juga perlu mengintegrasikan logika bisnis yang komprehensif, mesin visualisasi data, dan alat manajemen data dengan LLM.

GenBI Siap Pakai dalam Satu Paket

Untungnya, organisasi juga memiliki opsi membeli sistem BI generatif siap pakai seperti Amazon Q di QuickSight, Sisense, dan Pyramid Analytics, yang tampil dan terasa lebih seperti platform BI tradisional. Perbedaannya adalah mereka terintegrasi secara native dengan LLM untuk meningkatkan aksesibilitas.

Dengan arsitektur plug-and-play-nya, Pyramid Analytics dapat menghubungkan LLM pihak ketiga langsung ke sumber data seperti Databricks, Snowflake, dan SAP. Ini menghilangkan kebutuhan membangun pipeline data tambahan atau memformat data dengan cara khusus. Untuk melindungi informasi sensitif, Pyramid menghindari pengiriman data mentah ke LLM sama sekali.

Dalam sebuah posting blog, CTO Pyramid, Avi Perez, menjelaskan bahwa pertanyaan pengguna dipisahkan dari data dasar, memastikan bahwa tidak ada yang keluar dari lingkungan terkendali pelanggan. “Platform ini hanya meneruskan permintaan dalam bahasa alami dan konteks yang diperlukan agar model bahasa dapat menghasilkan resep yang dibutuhkan untuk menjawab pertanyaan Anda,” katanya.

Misalnya, jika seseorang menanyakan tentang penjualan dan biaya di berbagai wilayah, Pyramid hanya akan meneruskan pertanyaan dan informasi terbatas ke LLM, seperti metadata, skema, dan model semantik yang diperlukan untuk konteks. “Data aktual sendiri tidak dikirim,” kata Perez. “LLM akan menggunakan kemampuan interpretatifnya untuk mengembalikan resep yang sesuai yang kemudian akan digunakan oleh mesin Pyramid untuk menyusun, mengquery, menganalisis, dan membangun konten.”

Platform BI generatif lainnya menangani koneksi AI-database secara berbeda. Amazon Q di QuickSight mengatasi masalah keamanan dengan menjaga semuanya terisolasi dalam lingkungan AWS. Selain itu, Amazon berjanji untuk tidak menggunakan prompt dan query pelanggan untuk melatih model dasar yang mendukung Amazon Q, sehingga mencegah kebocoran data dengan cara itu.

Platform BI generatif membuat kecerdasan bisnis menjadi mudah diakses dan mudah dinavigasi. Karena menawarkan antarmuka percakapan, pengguna non-teknis dapat berinteraksi dengannya menggunakan prompt bahasa alami untuk mencari jawaban yang mereka butuhkan. Mereka juga dapat menggunakan AI untuk secara otomatis membangun dashboard dan visualisasi yang dapat membantu pengguna yang perlu menjelajahi data mereka lebih jauh.

Pengguna bahkan dapat menghasilkan seluruh laporan dan ringkasan kontekstual, mengubah data statis menjadi cerita yang dapat dijelaskan, sehingga lebih mudah memahami tren dan anomali.

Wawasan yang Dapat Ditindaklanjuti dengan Agentic BI

Untuk mencoba membuat kecerdasan bisnis lebih dapat ditindaklanjuti, beberapa organisasi memilih menerapkan pipeline RAG dengan teknologi “agentic AI” dasar seperti Skill Agen dan Model Context Protocol (MCP). Tujuannya adalah mengubah BI dari alat pelaporan pasif menjadi sistem otonom yang memahami wawasan utama dan bahkan dapat mengeksekusi tugas berdasarkan apa yang mereka temukan.

Skill Agen mengacu pada perpustakaan kemampuan modular yang dikembangkan oleh Anthropic yang memungkinkan agen AI melakukan tindakan tertentu, seperti membuat file PDF, memanggil API tertentu, atau melakukan perhitungan statistik kompleks. Kemampuan ini dapat diaktifkan oleh agen kapan saja diperlukan, memungkinkan mereka melakukan pekerjaan atas nama manusia.

Sementara itu, MCP adalah standar universal terbuka yang menghubungkan LLM dan sumber data eksternal serta alat perangkat lunak. Ini memungkinkan agen AI mengakses sistem dan alat secara langsung dan terstruktur tanpa perlu membangun konektor khusus.

Teknologi ini memiliki sinergi yang cocok dengan ruang lingkup kecerdasan bisnis, menggabungkan untuk menciptakan alur kerja BI agentic yang baru. Jika pengguna menanyakan “Mengapa penjualan menurun di Selatan?”, agen akan menggunakan MCP untuk menarik konteks spesifik yang diperlukan untuk menjawab pertanyaan tersebut, seperti peran pengguna dan izin akses, laporan sebelumnya yang diakses, dan data langsung dari platform CRM perusahaan.

Kemudian, agen akan menggunakan RAG untuk mengambil data relevan, seperti rencana pemasaran regional, transkrip rapat, dan sebagainya, untuk mengidentifikasi alasan penurunan penjualan. Setelah menemukan jawaban, agen akan menggunakan Skill Agen untuk mengambil tindakan, seperti menghasilkan laporan ringkasan, memberi tahu tim penjualan yang bertanggung jawab, dan memperbarui perkiraan anggaran di ERP.

CMO Cisco, Aruna Ravichandran, sangat optimis tentang Agentic BI dan potensinya untuk membuat “kecerdasan terhubung” merata di seluruh tempat kerja. “Di era baru ini, kolaborasi terjadi tanpa gesekan,” prediksinya. “Pekerja digital mengantisipasi kebutuhan, mengoordinasikan tugas di latar belakang, dan menyelesaikan masalah sebelum muncul.”

Meskipun penuh optimisme, RAG, MCP, dan Skill Agen masih dalam fase eksperimen, dan banyak yang skeptis tentang adopsi jangka panjangnya. Tidak ada kerangka kerja standar untuk membangun alur kerja BI agentic, dan untuk saat ini setidaknya, mereka kemungkinan akan tetap eksklusif untuk organisasi besar yang memiliki sumber daya dan talenta untuk mendukung proyek semacam itu.

Semua Orang Mendapatkan Pengambilan Keputusan Berbasis AI

Akses data LLM, dalam pengertian tertentu, adalah hambatan terakhir dalam perjalanan menuju decision intelligence sejati, di mana wawasan yang kuat dapat diungkapkan oleh siapa saja saat mereka membutuhkannya. Setelah ini terpecahkan, pengambilan keputusan tidak lagi terbatas pada tim analis atau eksekutif, tetapi menjadi bagian dari operasi bisnis sehari-hari.

Semakin banyak karyawan yang terlibat dalam pemecahan masalah strategis, yang memiliki implikasi mendalam. Organisasi yang berhasil mengintegrasikan data mereka sendiri dengan analitik berbasis AI secara esensial mengubah informasi perusahaan dari aset yang terisolasi menjadi bahasa tindakan tegas yang digunakan oleh setiap karyawan.