Fusion de l'IA et du Web3 : défis de sécurité de la finance décentralisée en intelligence artificielle

Récemment, la Semaine de la blockchain d'Istanbul (IBW 2025) s'est concentrée sur les tendances de fusion entre l'IA et le Web3, devenant une plateforme importante pour les discussions sur la sécurité du Web3 cette année. Lors de deux tables rondes, plusieurs experts du secteur ont mené des discussions approfondies sur l'état actuel de l'application des technologies d'IA dans la Décentralisation financière (DeFi) et les défis de sécurité.

Les experts soulignent qu'avec le développement rapide des modèles de langage de grande taille (LLM) et des agents IA, un tout nouveau paradigme financier - la Décentralisation de l'Intelligence Artificielle Financière (DeFAI) - est en train de se former. Cependant, cette transformation apporte également de nouvelles surfaces d'attaque et des risques de sécurité.

Un cadre d'une société de sécurité a déclaré : "DeFAI a un large potentiel, mais cela nous oblige également à réexaminer les mécanismes de confiance dans les systèmes décentralisés. Contrairement aux contrats intelligents basés sur une logique fixe, le processus de décision des agents IA est influencé par le contexte, le temps, et même les interactions historiques. Cette imprévisibilité non seulement aggrave les risques, mais crée également des opportunités pour les attaquants."

"AI代理" est essentiellement un agent intelligent capable de prendre des décisions autonomes et d'exécuter des actions basées sur une logique AI, généralement autorisé à fonctionner par un utilisateur, un protocole ou un DAO. Le représentant le plus typique est le robot de trading AI. Actuellement, la plupart des agents AI fonctionnent sur une architecture Web2, dépendant de serveurs et d'API centralisés, ce qui les rend vulnérables à des menaces telles que les attaques par injection, la manipulation de modèles ou la falsification de données. Une fois détourné, cela peut non seulement entraîner des pertes financières, mais aussi affecter la stabilité de l'ensemble du protocole.

Le forum a également mentionné un scénario typique d'attaque : lorsque l'agent de trading IA utilisé par un utilisateur DeFi surveille les messages sur les réseaux sociaux comme signaux de trading, un attaquant peut publier de fausses alertes, par exemple "un certain protocole subit une attaque", ce qui peut inciter cet agent à déclencher immédiatement une liquidation d'urgence. Cette opération peut non seulement entraîner des pertes d'actifs pour l'utilisateur, mais aussi provoquer des fluctuations sur le marché, que l'attaquant peut ensuite exploiter par du Front Running.

Concernant les risques mentionnés, les experts s'accordent à dire que la sécurité des agents IA ne devrait pas être la seule responsabilité d'une partie, mais plutôt une responsabilité partagée entre les utilisateurs, les développeurs et les agences de sécurité tierces.

Tout d'abord, les utilisateurs doivent être clairs sur l'étendue des autorisations détenues par les agents, accorder les autorisations avec prudence et prêter attention à l'examen des opérations à haut risque des agents IA. Ensuite, les développeurs doivent mettre en œuvre des mesures de défense dès la phase de conception, telles que : le renforcement des prompts, l'isolement des environnements sandbox, la limitation des taux et la logique de retour en arrière, etc. Les entreprises de sécurité tierces doivent fournir un examen indépendant du comportement des modèles des agents IA, de l'infrastructure et des méthodes d'intégration sur la blockchain, et collaborer avec les développeurs et les utilisateurs pour identifier les risques et proposer des mesures d'atténuation.

Les experts avertissent : "Si nous continuons à considérer les agents IA comme une 'boîte noire', il n'est qu'une question de temps avant qu'un accident de sécurité ne se produise dans le monde réel." Pour les développeurs qui explorent la direction DeFAI, il donne le conseil suivant : "Tout comme pour les contrats intelligents, la logique de comportement des agents IA est également réalisée par du code. Puisqu'il s'agit de code, il existe un risque d'attaque, c'est pourquoi des audits de sécurité professionnels et des tests de pénétration sont nécessaires."

IBW, en tant que l'une des manifestations blockchain les plus influentes d'Europe, a attiré plus de 15 000 participants, y compris des développeurs, des porteurs de projets, des investisseurs et des régulateurs du monde entier. Cette année, avec le lancement officiel par la Commission des marchés de capitaux de Turquie (CMB) de la délivrance de licences pour des projets blockchain, la position d'IBW dans l'industrie est encore renforcée.