AI dan Web3: Tantangan Keamanan Keuangan Kecerdasan Buatan Desentralisasi

Baru-baru ini, Istanbul Blockchain Week (IBW 2025) memfokuskan pada tren penggabungan AI dan Web3, menjadi platform penting untuk diskusi keamanan Web3 tahun ini. Dalam dua forum bulat, banyak pakar industri melakukan diskusi mendalam tentang status aplikasi teknologi AI dalam Desentralisasi Keuangan (DeFi) dan tantangan keamanannya.

Para ahli menunjukkan bahwa dengan perkembangan pesat model bahasa besar (LLM) dan agen AI, sebuah paradigma keuangan yang sepenuhnya baru — Desentralisasi Kecerdasan Buatan Keuangan (DeFAI) — sedang secara bertahap terbentuk. Namun, perubahan ini juga membawa permukaan serangan baru dan risiko keamanan.

Seorang eksekutif perusahaan keamanan mengatakan: "DeFAI memiliki prospek yang luas, tetapi juga memaksa kita untuk meninjau kembali mekanisme kepercayaan dalam sistem desentralisasi. Berbeda dengan kontrak pintar yang berbasis logika tetap, proses pengambilan keputusan agen AI dipengaruhi oleh konteks, waktu, bahkan interaksi sejarah. Ketidakpastian ini tidak hanya memperburuk risiko, tetapi juga menciptakan peluang bagi penyerang."

"AI代理" pada dasarnya adalah agen cerdas yang dapat membuat keputusan dan mengeksekusi secara mandiri berdasarkan logika AI, biasanya diizinkan untuk berjalan oleh pengguna, protokol, atau DAO. Di antara mereka, perwakilan yang paling khas adalah robot perdagangan AI. Saat ini, sebagian besar AI代理 beroperasi di atas arsitektur Web2, bergantung pada server terpusat dan API, yang membuatnya rentan terhadap serangan injeksi, manipulasi model, atau pemalsuan data. Begitu terjepit, ini tidak hanya dapat menyebabkan kerugian finansial, tetapi juga dapat memengaruhi stabilitas keseluruhan protokol.

Forum juga menyebutkan situasi serangan yang khas: ketika agen perdagangan AI yang dijalankan oleh pengguna DeFi memantau pesan media sosial sebagai sinyal perdagangan, penyerang menerbitkan peringatan palsu, misalnya "protokol tertentu diserang", yang dapat membujuk agen tersebut untuk segera memulai likuidasi darurat. Tindakan ini tidak hanya akan menyebabkan kerugian aset pengguna, tetapi juga akan memicu volatilitas pasar, yang kemudian dapat dimanfaatkan oleh penyerang melalui perdagangan mendahului (Front Running).

Terkait risiko tersebut, para ahli umumnya berpendapat bahwa keamanan agen AI tidak seharusnya menjadi tanggung jawab satu pihak saja, melainkan merupakan tanggung jawab bersama antara pengguna, pengembang, dan lembaga keamanan pihak ketiga.

Pertama, pengguna perlu memahami batasan hak yang dimiliki oleh agen, dengan hati-hati memberikan izin, serta memperhatikan untuk meninjau operasi berisiko tinggi dari agen AI. Kedua, pengembang harus menerapkan langkah-langkah pertahanan pada tahap desain, seperti: penguatan kata kunci, isolasi sandbox, pembatasan laju, dan logika fallback. Ketiga, perusahaan keamanan pihak ketiga harus memberikan tinjauan independen terhadap perilaku model agen AI, infrastruktur, serta cara integrasi di blockchain, dan bekerja sama dengan pengembang dan pengguna untuk mengidentifikasi risiko serta mengusulkan langkah mitigasi.

Para ahli memperingatkan: "Jika kita terus memperlakukan agen AI sebagai 'kotak hitam', maka kecelakaan keamanan di dunia nyata hanyalah masalah waktu." Untuk para pengembang yang sedang mengeksplorasi arah DeFAI, saran yang diberikan adalah: "Sama seperti kontrak pintar, logika perilaku agen AI juga diimplementasikan oleh kode. Mengingat ini adalah kode, ada kemungkinan untuk diserang, oleh karena itu perlu dilakukan audit keamanan dan pengujian penetrasi secara profesional."

IBW sebagai salah satu acara blockchain paling berpengaruh di Eropa, telah menarik lebih dari 15.000 peserta dari pengembang global, proyek, investor, dan regulator. Tahun ini, dengan dimulainya pemberian lisensi proyek blockchain oleh Komisi Pasar Modal Turki (CMB), posisi industri IBW semakin meningkat.