Fusión de AI y Web3: Descentralización de los desafíos de seguridad en la inteligencia artificial financiera

Recientemente, la Semana de Blockchain de Estambul (IBW 2025) se centró en las tendencias de fusión entre IA y Web3, convirtiéndose en una plataforma importante para la discusión sobre la seguridad de Web3 este año. En dos foros de mesa redonda, varios expertos de la industria llevaron a cabo una discusión profunda sobre el estado actual de la aplicación de la tecnología de IA en las finanzas descentralizadas (DeFi) y los desafíos de seguridad.

Los expertos señalan que, con el rápido desarrollo de los modelos de lenguaje de gran tamaño (LLM) y los agentes de IA, se está formando un nuevo paradigma financiero: la Descentralización de la Inteligencia Artificial Financiera (DeFAI). Sin embargo, esta transformación también ha traído nuevas superficies de ataque y riesgos de seguridad.

Un ejecutivo de una empresa de seguridad declaró: "DeFAI tiene un amplio futuro, pero también nos obliga a reevaluar los mecanismos de confianza en los sistemas de Descentralización. A diferencia de los contratos inteligentes basados en lógica fija, el proceso de decisión de los agentes de IA está influenciado por el contexto, el tiempo e incluso las interacciones históricas. Esta imprevisibilidad no solo agrava los riesgos, sino que también crea oportunidades para los atacantes."

"AI代理" es esencialmente un agente inteligente capaz de tomar decisiones y ejecutar acciones de forma autónoma basándose en lógica de IA, generalmente autorizado para funcionar por usuarios, protocolos o DAO. El representante más típico son los robots de trading de IA. Actualmente, la mayoría de los AI代理 operan sobre una arquitectura Web2, dependiendo de servidores y API centralizados, lo que los hace vulnerables a amenazas como ataques de inyección, manipulación de modelos o alteración de datos. Una vez secuestrado, no solo puede resultar en pérdidas de fondos, sino que también puede afectar la estabilidad de todo el protocolo.

En el foro también se mencionó un escenario típico de ataque: cuando un agente de trading AI que opera un usuario de DeFi está monitoreando mensajes en redes sociales como señales de trading, un atacante publica alertas falsas, como "un protocolo está siendo atacado", lo que podría inducir al agente a iniciar inmediatamente una liquidación de emergencia. Esta operación no solo puede resultar en pérdidas de activos para el usuario, sino que también puede provocar volatilidad en el mercado, que luego puede ser aprovechada por el atacante a través de la Descentralización.

Ante los riesgos mencionados, los expertos coinciden en que la seguridad de los agentes de IA no debe ser asumida por una sola parte, sino que es una responsabilidad compartida entre los usuarios, los desarrolladores y las instituciones de seguridad de terceros.

Primero, los usuarios deben tener claro el alcance de los permisos que posee el agente y otorgar permisos con cautela, además de revisar las operaciones de alto riesgo del agente de IA. En segundo lugar, los desarrolladores deben implementar medidas de defensa desde la fase de diseño, como: fortalecimiento de las palabras clave, aislamiento en sandbox, limitaciones de tasa y lógica de retroceso, entre otros mecanismos. Por último, las empresas de seguridad de terceros deben proporcionar una revisión independiente del comportamiento del modelo del agente de IA, la infraestructura y la forma de integración en la cadena, y colaborar con los desarrolladores y usuarios para identificar riesgos y proponer medidas de mitigación.

Los expertos advierten: "Si seguimos tratando a los agentes de IA como una 'caja negra', los accidentes de seguridad en el mundo real son solo una cuestión de tiempo." Para los desarrolladores que están explorando la dirección de DeFAI, su consejo es: "Al igual que los contratos inteligentes, la lógica de comportamiento de los agentes de IA también se implementa mediante código. Dado que es código, existe la posibilidad de ser atacado, por lo que es necesario realizar auditorías de seguridad profesionales y pruebas de penetración."

IBW, como uno de los eventos de blockchain más influyentes de Europa, ha atraído a más de 15,000 participantes de desarrolladores, proyectos, inversores y reguladores de todo el mundo. Este año, con el lanzamiento oficial de la emisión de licencias para proyectos de blockchain por parte de la Comisión del Mercado de Capitales de Turquía (CMB), la posición de IBW en la industria se ha visto aún más fortalecida.