Безпека за допомогою штучного інтелекту: повністю гомоморфне шифрування або стане рішенням
Нещодавно система штучного інтелекту під назвою Manus досягла проривних результатів у тестуванні GAIA, її продуктивність перевершила продуктивність великих мовних моделей аналогічного рівня. Manus продемонстрував здатність самостійно виконувати складні завдання, такі як міжнародні бізнес-угоди, що включають аналіз контрактів, розробку стратегій та генерування пропозицій. У порівнянні з традиційними системами, Manus проявляє видатні результати в динамічному розподілі цілей, крос-модальному міркуванні та підсиленому навчанні пам'яті. Він може розбивати великі завдання на безліч виконуваних підзадач, одночасно обробляючи різні типи даних та постійно покращуючи ефективність і точність прийняття рішень за допомогою підсиленого навчання.
Прогрес Manus знову спричинив обговорення в галузі щодо шляхів розвитку штучного інтелекту: чи розвиватися в напрямку загального штучного інтелекту (AGI), чи домінувати системам з багатьма агентами (MAS)? Це обговорення насправді відображає основну проблему балансу між ефективністю та безпекою в розвитку AI. Чим ближче одиночний інтелект до AGI, тим вищий ризик непрозорості процесу прийняття рішень; з іншого боку, хоча співпраця багатьох агентів може розподілити ризики, вона може пропустити критичні моменти прийняття рішень через затримки в комунікації.
Розвиток Manus також підкреслює вроджені ризики безпеки в системах штучного інтелекту. Наприклад, у медичних сценаріях можуть бути залучені чутливі генетичні дані пацієнтів; у фінансових переговорах можуть бути доступні непублічні фінансові дані компаній. Крім того, в системах ШІ можуть існувати алгоритмічні упередження, які, наприклад, у процесі набору персоналу призводять до несправедливих пропозицій з оплати праці для певних груп. Існує також ризик атак, коли хакери можуть вводити в оману рішення системи ШІ за допомогою спеціальних методів.
Ці виклики підкреслюють тривожну тенденцію: чим розумніші системи ШІ, тим ширша їх потенційна площа атаки.
У сфері Web3 безпека завжди була основним питанням. В даний час розроблено безліч технологій шифрування для вирішення цих викликів:
Модель нульового довіри безпеки: ця модель вимагає сувірної автентифікації та авторизації кожного запиту на доступ, не довіряючи жодному стандартному пристрою.
Децентралізована ідентичність (DID): це новий стандарт децентралізованої цифрової ідентичності, який не потребує залежності від централізованих реєстраційних систем.
Повністю гомоморфне шифрування (FHE): це передова технологія шифрування, яка дозволяє виконувати обчислення над даними в зашифрованому стані без необхідності їх розшифровки.
повністю гомоморфне шифрування вважається важливим інструментом для вирішення проблем безпеки в епоху штучного інтелекту. Воно може відігравати роль у кількох аспектах:
У даних: усі введені користувачем відомості можуть оброблятися в зашифрованому стані, навіть сама система штучного інтелекту не може розшифрувати оригінальні дані.
Алгоритмічний рівень: реалізація "шифрування моделей навчання" через повністю гомоморфне шифрування, навіть розробники не можуть безпосередньо спостерігати за процесом прийняття рішень AI.
Співпраця: зв'язок між кількома агентами штучного інтелекту може здійснюватися за допомогою шифрування з порогом, навіть якщо один з вузлів буде зламано, це не призведе до витоку глобальних даних.
У екосистемі Web3 вже є кілька проектів, які прагнуть дослідити ці технології безпеки. Наприклад, uPort у 2017 році представив рішення для децентралізованої ідентичності, NKN у 2019 році випустив основну мережу на основі моделі нульового довіри. А в галузі повністю гомоморфного шифрування Mind Network став першим FHE проектом, що запустився в основній мережі та співпрацює з кількома відомими установами.
З розвитком технологій штучного інтелекту, які все більше наближаються до рівня людського інтелекту, створення потужних систем захисту стає все більш важливим. Повністю гомоморфне шифрування не тільки може вирішити сучасні проблеми безпеки, але й підготувати нас до майбутньої ери потужного штучного інтелекту. На шляху до AGI FHE може бути не лише вибором, а й необхідною умовою для забезпечення безпечного функціювання систем штучного інтелекту.
Ця сторінка може містити контент третіх осіб, який надається виключно в інформаційних цілях (не в якості запевнень/гарантій) і не повинен розглядатися як схвалення його поглядів компанією Gate, а також як фінансова або професійна консультація. Див. Застереження для отримання детальної інформації.
повністю гомоморфне шифрування FHE: Безпека за допомогою штучного інтелекту виклики під час рішень Web3
Безпека за допомогою штучного інтелекту: повністю гомоморфне шифрування або стане рішенням
Нещодавно система штучного інтелекту під назвою Manus досягла проривних результатів у тестуванні GAIA, її продуктивність перевершила продуктивність великих мовних моделей аналогічного рівня. Manus продемонстрував здатність самостійно виконувати складні завдання, такі як міжнародні бізнес-угоди, що включають аналіз контрактів, розробку стратегій та генерування пропозицій. У порівнянні з традиційними системами, Manus проявляє видатні результати в динамічному розподілі цілей, крос-модальному міркуванні та підсиленому навчанні пам'яті. Він може розбивати великі завдання на безліч виконуваних підзадач, одночасно обробляючи різні типи даних та постійно покращуючи ефективність і точність прийняття рішень за допомогою підсиленого навчання.
Прогрес Manus знову спричинив обговорення в галузі щодо шляхів розвитку штучного інтелекту: чи розвиватися в напрямку загального штучного інтелекту (AGI), чи домінувати системам з багатьма агентами (MAS)? Це обговорення насправді відображає основну проблему балансу між ефективністю та безпекою в розвитку AI. Чим ближче одиночний інтелект до AGI, тим вищий ризик непрозорості процесу прийняття рішень; з іншого боку, хоча співпраця багатьох агентів може розподілити ризики, вона може пропустити критичні моменти прийняття рішень через затримки в комунікації.
Розвиток Manus також підкреслює вроджені ризики безпеки в системах штучного інтелекту. Наприклад, у медичних сценаріях можуть бути залучені чутливі генетичні дані пацієнтів; у фінансових переговорах можуть бути доступні непублічні фінансові дані компаній. Крім того, в системах ШІ можуть існувати алгоритмічні упередження, які, наприклад, у процесі набору персоналу призводять до несправедливих пропозицій з оплати праці для певних груп. Існує також ризик атак, коли хакери можуть вводити в оману рішення системи ШІ за допомогою спеціальних методів.
Ці виклики підкреслюють тривожну тенденцію: чим розумніші системи ШІ, тим ширша їх потенційна площа атаки.
У сфері Web3 безпека завжди була основним питанням. В даний час розроблено безліч технологій шифрування для вирішення цих викликів:
Модель нульового довіри безпеки: ця модель вимагає сувірної автентифікації та авторизації кожного запиту на доступ, не довіряючи жодному стандартному пристрою.
Децентралізована ідентичність (DID): це новий стандарт децентралізованої цифрової ідентичності, який не потребує залежності від централізованих реєстраційних систем.
Повністю гомоморфне шифрування (FHE): це передова технологія шифрування, яка дозволяє виконувати обчислення над даними в зашифрованому стані без необхідності їх розшифровки.
повністю гомоморфне шифрування вважається важливим інструментом для вирішення проблем безпеки в епоху штучного інтелекту. Воно може відігравати роль у кількох аспектах:
У даних: усі введені користувачем відомості можуть оброблятися в зашифрованому стані, навіть сама система штучного інтелекту не може розшифрувати оригінальні дані.
Алгоритмічний рівень: реалізація "шифрування моделей навчання" через повністю гомоморфне шифрування, навіть розробники не можуть безпосередньо спостерігати за процесом прийняття рішень AI.
Співпраця: зв'язок між кількома агентами штучного інтелекту може здійснюватися за допомогою шифрування з порогом, навіть якщо один з вузлів буде зламано, це не призведе до витоку глобальних даних.
У екосистемі Web3 вже є кілька проектів, які прагнуть дослідити ці технології безпеки. Наприклад, uPort у 2017 році представив рішення для децентралізованої ідентичності, NKN у 2019 році випустив основну мережу на основі моделі нульового довіри. А в галузі повністю гомоморфного шифрування Mind Network став першим FHE проектом, що запустився в основній мережі та співпрацює з кількома відомими установами.
З розвитком технологій штучного інтелекту, які все більше наближаються до рівня людського інтелекту, створення потужних систем захисту стає все більш важливим. Повністю гомоморфне шифрування не тільки може вирішити сучасні проблеми безпеки, але й підготувати нас до майбутньої ери потужного штучного інтелекту. На шляху до AGI FHE може бути не лише вибором, а й необхідною умовою для забезпечення безпечного функціювання систем штучного інтелекту.