La seguridad de la IA es un problema cada vez más evidente, la encriptación completamente homomórfica se convierte en la solución.
Recientemente, un modelo de IA llamado Manus ha logrado resultados revolucionarios en la prueba de referencia GAIA, superando el rendimiento de los modelos de lenguaje de gran tamaño en su misma categoría. Manus ha demostrado la capacidad de completar de manera independiente tareas complejas, como negociaciones comerciales internacionales, que involucran análisis de contratos, planificación estratégica y formulación de propuestas en múltiples etapas. En comparación con los sistemas tradicionales, Manus tiene ventajas claras en la descomposición dinámica de objetivos, el razonamiento multimodal y el aprendizaje mejorado por memoria. Puede descomponer grandes tareas en cientos de subtareas ejecutables, mientras maneja varios tipos de datos y mejora continuamente la eficiencia de la toma de decisiones y reduce la tasa de errores a través del aprendizaje por refuerzo.
La aparición de Manus ha reavivado la discusión en la industria sobre la trayectoria del desarrollo de la IA: ¿el futuro se dirige hacia la inteligencia artificial general (AGI) o hacia sistemas multiagente (MAS)? Esto refleja, de hecho, la contradicción central sobre cómo equilibrar la eficiencia y la seguridad en el desarrollo de la IA. Cuanto más cercano esté un agente inteligente a la AGI, más opaco será su proceso de toma de decisiones y mayor será el riesgo; por otro lado, aunque la colaboración entre múltiples agentes puede dispersar el riesgo, puede perder oportunidades clave de decisión debido a la latencia en la comunicación.
A medida que los sistemas de IA se vuelven cada vez más inteligentes, sus posibles riesgos de seguridad también están aumentando. Por ejemplo, en escenarios médicos, la IA necesita acceder a datos genéticos sensibles de los pacientes; en negociaciones financieras, puede involucrar información financiera empresarial no divulgada. Además, los sistemas de IA pueden tener sesgos algorítmicos, como hacer recomendaciones salariales injustas para ciertos grupos durante el proceso de contratación. Más grave aún, los sistemas de IA pueden convertirse en objetivos de ataques de hackers, influyendo en su juicio mediante la inserción de señales específicas.
Para hacer frente a estos desafíos, la industria ha propuesto diversas estrategias de seguridad, entre las cuales la encriptación completamente homomórfica (Fully Homomorphic Encryption, FHE) se considera una tecnología clave para resolver los problemas de seguridad en la era de la IA. FHE permite realizar cálculos sobre datos en estado de encriptación, lo que significa que incluso el propio sistema de IA no puede descifrar los datos originales.
A nivel de datos, FHE asegura que toda la información ingresada por el usuario (incluidas las características biométricas, la voz, etc.) sea procesada en estado de encriptación, evitando eficazmente la filtración de información. A nivel de algoritmo, FHE implementa el "entrenamiento de modelos encriptados", lo que significa que incluso los desarrolladores no pueden espiar el proceso de decisión de la IA. En el ámbito de la colaboración entre múltiples agentes inteligentes, el uso de la tecnología de encriptación umbral puede asegurar que, incluso si un solo nodo es comprometido, no se produzca una filtración de datos global.
Aunque la tecnología de seguridad Web3 puede no tener una conexión directa con los usuarios comunes, tiene un impacto profundo en todos. En este mundo digital lleno de desafíos, será difícil para los usuarios proteger sus derechos si no toman medidas de seguridad activas.
Actualmente, varios proyectos están explorando el campo de la seguridad en Web3. Por ejemplo, un proyecto fue pionero en implementar la tecnología de encriptación completamente homomórfica en la red principal y ha colaborado con varias empresas tecnológicas de renombre. Sin embargo, los proyectos de seguridad a menudo no son del agrado de los especuladores, y si podrán romper esta situación y convertirse en líderes en el campo de la seguridad, aún está por verse.
A medida que la tecnología de IA se acerca constantemente al nivel de inteligencia humana, los sistemas de defensa no tradicionales se vuelven cada vez más importantes. El Cifrado homomórfico no solo puede resolver los problemas de seguridad actuales, sino que también sienta las bases para la era de la IA fuerte en el futuro. En el camino hacia la AGI, el Cifrado homomórfico ya no es una opción, sino una condición necesaria para garantizar el desarrollo seguro de la IA.
Esta página puede contener contenido de terceros, que se proporciona únicamente con fines informativos (sin garantías ni declaraciones) y no debe considerarse como un respaldo por parte de Gate a las opiniones expresadas ni como asesoramiento financiero o profesional. Consulte el Descargo de responsabilidad para obtener más detalles.
13 me gusta
Recompensa
13
6
Compartir
Comentar
0/400
LuckyBlindCat
· hace23h
¿Es fiable esta encriptación? No me atrevo a confiar demasiado.
Ver originalesResponder0
HodlKumamon
· hace23h
¡Entendido, miau~ La encriptación de datos seguros es el mayor escudo del futuro, desu!
Ver originalesResponder0
ZeroRushCaptain
· hace23h
comprar la caída se ha convertido en un experto en cajeros automáticos, aún vive en la fantasía del bull run
Ver originalesResponder0
NftPhilanthropist
· hace23h
yo fhe es como la nueva prueba de impacto para la seguridad de la ia fr
Ver originalesResponder0
ForkYouPayMe
· hace23h
Otro producto de marketing engañoso.
Ver originalesResponder0
OnChainDetective
· hace23h
los patrones sugieren otra "solución" sobrevalorada, para ser honesto... he visto esta película antes
encriptación completamente homomórfica FHE: Seguridad de la IA nueva fortaleza
La seguridad de la IA es un problema cada vez más evidente, la encriptación completamente homomórfica se convierte en la solución.
Recientemente, un modelo de IA llamado Manus ha logrado resultados revolucionarios en la prueba de referencia GAIA, superando el rendimiento de los modelos de lenguaje de gran tamaño en su misma categoría. Manus ha demostrado la capacidad de completar de manera independiente tareas complejas, como negociaciones comerciales internacionales, que involucran análisis de contratos, planificación estratégica y formulación de propuestas en múltiples etapas. En comparación con los sistemas tradicionales, Manus tiene ventajas claras en la descomposición dinámica de objetivos, el razonamiento multimodal y el aprendizaje mejorado por memoria. Puede descomponer grandes tareas en cientos de subtareas ejecutables, mientras maneja varios tipos de datos y mejora continuamente la eficiencia de la toma de decisiones y reduce la tasa de errores a través del aprendizaje por refuerzo.
La aparición de Manus ha reavivado la discusión en la industria sobre la trayectoria del desarrollo de la IA: ¿el futuro se dirige hacia la inteligencia artificial general (AGI) o hacia sistemas multiagente (MAS)? Esto refleja, de hecho, la contradicción central sobre cómo equilibrar la eficiencia y la seguridad en el desarrollo de la IA. Cuanto más cercano esté un agente inteligente a la AGI, más opaco será su proceso de toma de decisiones y mayor será el riesgo; por otro lado, aunque la colaboración entre múltiples agentes puede dispersar el riesgo, puede perder oportunidades clave de decisión debido a la latencia en la comunicación.
A medida que los sistemas de IA se vuelven cada vez más inteligentes, sus posibles riesgos de seguridad también están aumentando. Por ejemplo, en escenarios médicos, la IA necesita acceder a datos genéticos sensibles de los pacientes; en negociaciones financieras, puede involucrar información financiera empresarial no divulgada. Además, los sistemas de IA pueden tener sesgos algorítmicos, como hacer recomendaciones salariales injustas para ciertos grupos durante el proceso de contratación. Más grave aún, los sistemas de IA pueden convertirse en objetivos de ataques de hackers, influyendo en su juicio mediante la inserción de señales específicas.
Para hacer frente a estos desafíos, la industria ha propuesto diversas estrategias de seguridad, entre las cuales la encriptación completamente homomórfica (Fully Homomorphic Encryption, FHE) se considera una tecnología clave para resolver los problemas de seguridad en la era de la IA. FHE permite realizar cálculos sobre datos en estado de encriptación, lo que significa que incluso el propio sistema de IA no puede descifrar los datos originales.
A nivel de datos, FHE asegura que toda la información ingresada por el usuario (incluidas las características biométricas, la voz, etc.) sea procesada en estado de encriptación, evitando eficazmente la filtración de información. A nivel de algoritmo, FHE implementa el "entrenamiento de modelos encriptados", lo que significa que incluso los desarrolladores no pueden espiar el proceso de decisión de la IA. En el ámbito de la colaboración entre múltiples agentes inteligentes, el uso de la tecnología de encriptación umbral puede asegurar que, incluso si un solo nodo es comprometido, no se produzca una filtración de datos global.
Aunque la tecnología de seguridad Web3 puede no tener una conexión directa con los usuarios comunes, tiene un impacto profundo en todos. En este mundo digital lleno de desafíos, será difícil para los usuarios proteger sus derechos si no toman medidas de seguridad activas.
Actualmente, varios proyectos están explorando el campo de la seguridad en Web3. Por ejemplo, un proyecto fue pionero en implementar la tecnología de encriptación completamente homomórfica en la red principal y ha colaborado con varias empresas tecnológicas de renombre. Sin embargo, los proyectos de seguridad a menudo no son del agrado de los especuladores, y si podrán romper esta situación y convertirse en líderes en el campo de la seguridad, aún está por verse.
A medida que la tecnología de IA se acerca constantemente al nivel de inteligencia humana, los sistemas de defensa no tradicionales se vuelven cada vez más importantes. El Cifrado homomórfico no solo puede resolver los problemas de seguridad actuales, sino que también sienta las bases para la era de la IA fuerte en el futuro. En el camino hacia la AGI, el Cifrado homomórfico ya no es una opción, sino una condición necesaria para garantizar el desarrollo seguro de la IA.