深度僞造監管的必要性

簡要

深度僞造技術曾經是新奇事物，但現在迅速演變爲對商業、社會和民主的系統性威脅——迫切需要監管、強大的檢測工具和更強的媒體素養，以保障數字世界中的信任。

深度僞造不再是新鮮事。它們正在迅速成爲對商業、社會和民主的系統性威脅。根據歐洲議會的數據，到2025年，預計將分享約800萬條深度僞造視頻，而2023年僅爲50萬條。在英國，五分之二的人聲稱在過去六個月內遇到過至少一個深度僞造視頻。但曾經相對容易識別的深度僞造，因公開可用的人工智能模型日益復雜化，使得檢測變得比以往任何時候都更加困難。

生成對抗網路(GANs)和擴散模型的進步促進了高級超現實深度僞造技術的發展。這兩種技術在實現實時視頻通話或直播中的無縫換臉和聲音調制方面發揮了重要作用。這極大提升了用戶體驗，虛擬頭像等功能使遊戲和會議更加個性化和沉浸式。但這也爲實時冒充詐騙打開了大門。

你可能會認爲只有那些不熟悉的人才會無法識別他們非常了解和信任的人的冒充。但在去年五月，一羣騙子假冒工程公司Arup的一名高級經理，成功說服財務部門的一名員工將2億港元的資金轉移到五個當地銀行帳戶。在過去的12個月中，類似的攻擊冒充高級員工和首席執行官已針對法拉利、WPP和Wiz等公司發起，破壞了人們對數字通信的信任。

語音複製也隨着深度僞造技術的興起而迅速發展。由人工智能驅動的語音合成現在能夠以驚人的準確度復制人聲。令人震驚的是，僅需幾秒鍾的音頻就足以創建一個幾乎完美的複製。這對於各種創意用途來說可能是很棒的，比如個性化有聲書或配音，但它也有可能造成巨大的傷害。

今年七月，佛羅裏達州的一名女性被欺騙，交出了15,000美元的保釋金，因爲她聽到她認爲是女兒在車禍後呼救的聲音。這個電話是一個AI複製，假裝成她的女兒，最終將電話轉給了一名所謂的律師，後者提供了轉帳的指示。這些複製僅僅是使用人們聲音的片段拼湊而成，這些片段可以通過社交媒體渠道輕易找到，這突顯了被濫用的潛力。

在社交媒體上，現實與虛構之間的界限正在模糊。AI生成的虛擬影響者主導着在線營銷領域，爲品牌提供完全可控的人物形象。觀衆現在必須在一個合法與人工個性幾乎無法區分的世界中導航，這引發了關於媒體真實性的問題。在好萊塢，深度僞造技術被用來讓演員返老還童或重現歷史人物。雖然這讓制作公司能夠以相對較低的成本提高內容質量，但也給了騙子復制名人可信外貌的手段，並利用它引發爭議。

但風險遠不止於名人誤傳。深度僞造可以用來制造政治分歧，通過傳播虛假敘事或僞造政治人物發表虛假演講的視頻。其後果可能是深遠的，影響公衆輿論，改變國家選舉的進程，並可能毒化全球政治話語。

面對如此多的威脅，各國政府正在作出回應。在歐洲，人工智能法案包含一項強制標記的條款，要求使用人工智能生成或修改的內容必須進行標記，以使用戶意識到其來源。雖然該法案沒有禁止深度僞造，但它禁止在某些情況下使用隱祕操控人們的人工智能系統。一些政府正在積極使用或投資於能夠識別聲音、面孔或圖像微妙變化的檢測技術。

但監管仍然滯後於技術。強制標籤、人工智能僞造物檢測算法和音頻取證是解決方案的重要組成部分，但抑制深度僞造的威脅需要更廣泛和全面的策略。強有力的監管和倫理指導，加上對媒體素養的投資，在打擊深度僞造欺詐和虛假信息中同樣發揮着重要甚至更大的作用。

監管和倫理指南必須變得更加積極主動，水印和強制披露標準必須成爲任何深度僞造策略的常規特徵。與此同時，媒體素養必須被視爲優先事項。公民必須具備批判性思維能力，質疑他們所看到和聽到的內容。只有通過監管者、私營部門和公民社會之間的合作，我們才能保護數字生活，並確保深度僞造威脅成爲過去。