OpenAI、Anthropic 與 Google 合作,共享智慧以對抗中國的 AI 模型蒸餾

根據 1M AI News 的監測,OpenAI、Anthropic 和 Google 正透過產業非營利組織 Frontier Model Forum 分享資訊,以共同偵測其服務條款相關的「對抗式蒸餾(adversarial distillation)」違規行為。該組織由三家公司與 Microsoft 共同於 2023 年設立。蒸餾是一種技術,會使用既有模型的輸出來訓練新的模型,以較低成本複製前者的能力。AI 公司常用蒸餾來打造更小、更有效率的模型版本,但未經授權的第三方蒸餾在業界頗具爭議。OpenAI 確認其參與此項合作,並引用其先前提交給美國國會的一份備忘錄,內容稱深度學習試圖「搭乘由 OpenAI 與其他領先的美國實驗室所開發的能力的便車」。Google、Anthropic 與 Frontier Model Forum 則拒絕置評。美國政府官員估計,未經授權的蒸餾每年會為矽谷實驗室造成數十億美元的獲利損失。此項合作借鑑的是網路安全產業的做法:公司會分享攻擊情報。去年川普政府發布的 AI 行動計畫也呼籲建立專門的資訊分享與分析中心。不過,由於目前反托拉斯法允許共享的界線存在不確定性,資訊分享的範圍仍受到限制。這三家公司尚未提供公開證據,說明中國模型創新在多大程度上依賴蒸餾,但它們聲稱,可透過大型資料請求的數量來衡量此類行為的頻率。

查看原文
此頁面可能包含第三方內容,僅供參考(非陳述或保證),不應被視為 Gate 認可其觀點表述,也不得被視為財務或專業建議。詳見聲明
  • 打賞
  • 留言
  • 轉發
  • 分享
留言
請輸入留言內容
請輸入留言內容
暫無留言