斯嘉麗·約翰遜要求對未經授權的深度僞造視頻進行人工智能監管

好萊塢女演員斯嘉麗·約翰遜正式呼籲立法者制定更嚴格的人工智能監管政策，因爲她發現一段未經授權的深度僞造視頻在數字平台上廣泛傳播，其中包含她的形象。

爭議圍繞一段人工智能生成的視頻展開，該視頻展示了約翰遜與衆多其他猶太名人一起，似乎在譴責說唱歌手坎耶·韋斯特最近在社交媒體平台上發表的反猶太言論。

人工智能時代的名人身分權

在視頻中，一位40歲女演員的AI生成版本穿着一件白色T恤，上面印着一只手展示中指。這段未經授權的內容是在韋斯特發表有爭議的反猶太人言論以及通過他的網站推廣納粹標志T恤後出現的。

“我的家人和朋友們告訴我，一段以我爲原型的AI生成視頻...正在網上傳播並獲得關注，”約翰遜在周三對《人物》雜志的官方回應中表示。

這位女演員強調了她個人的立場和更廣泛的關切："我是一位對反猶太主義或任何形式的仇恨言論沒有容忍的猶太女性。但我也堅信，人工智能乘以仇恨言論的潛力是比任何一個爲此承擔責任的人更大的威脅。我們必須指出人工智能的濫用，無論其信息如何，否則我們就有失去對現實的控制的風險。"

技術倫理的十字路口

這段有爭議的視頻據報道是由以色列生成式人工智能專家Ori Bejerano創建的，視頻中還包括大約20個AI生成的名人版本，包括亞當·桑德勒、米拉·庫尼斯、德雷克、傑瑞·宋飛、史蒂文·斯皮爾伯格、馬克·扎克伯格、薩莎·拜倫·科恩、傑克·布萊克、萊尼·克拉維茨、本·斯蒂勒和大衛·施維默。

每個由AI生成的名人都穿着相同的白色T恤，上面顯示着一個中指，手心中央有大衛星，下面寫着坎耶的名字。視頻以“夠了就是夠了”的聲明結束，並鼓勵觀衆“加入反對反猶太主義的鬥爭。”

這一事件突顯了圍繞人工智能深度僞造技術的復雜倫理困境。盡管視頻的內容反對反猶太主義，但它同時展示了名人形象在沒有同意的情況下是多麼容易被挪用——具有諷刺意味的是，它成爲了它所聲稱反對的那個問題的一個例子。

約翰遜在她的聲明中詳細闡述了更廣泛的影響，將自己描述爲"人工智能的一個非常公衆的受害者"，同時警告說"人工智能的威脅影響着我們每一個人。"

監管環境與未來保護措施

這位女演員的擔憂出現在一個快速發展的AI生成內容監管環境中。根據最近的數據，27個美國州已經制定了針對深度僞造技術不同方面的法律，而到2025年，全球違反這些法律的經濟處罰將大幅增加。

"關於人工智能，有一場1000英尺的浪潮即將來臨，幾個進步國家已以負責任的方式作出回應，但美國不在其中，”約翰遜表示。“我呼籲美國政府將限制人工智能使用的立法通過作爲首要任務；這是一個兩黨問題，極大地影響着人類的直接未來。”

她特別表示擔憂，認爲美國政府在通過保護所有公民免受人工智能迫在眉睫的危險的立法方面似乎“癱瘓”了。

人工智能冒充的持續挑戰

這並不是約翰遜第一次面對未經授權的人工智能復制她的身分。2024年5月，她批評了OpenAI，因爲用戶注意到名爲“Sky”的ChatGPT聲音與她獨特的聲音有驚人的相似之處。雖然OpenAI堅稱Sky的聲音“並不是約翰遜的模仿”，但該公司在爭議後仍暫停了該聲音。

在2023年11月，約翰遜還威脅對一家在廣告中使用她肖像的公司採取法律行動。該公司回應稱：“視頻中包含了由李薩AI制作的圖像。與此人無關。”

雖然約翰遜目前是唯一一位公開談論這一情況的未授權視頻中的名人，但其他明星曾對韋斯特的言論表示擔憂。"老友記"演員大衛·施維默最近向平台擁有者埃隆·馬斯克提出呼籲，寫道："我們無法阻止一個瘋狂的偏執狂繼續吐露充滿仇恨、無知的毒液……但我們可以阻止給他一個擴音器，馬斯克先生。"

施維默補充道：“坎耶·韋斯特在你的平台X上有3270萬粉絲。這是現存猶太人數量的兩倍。他令人厭惡的仇恨言論導致了對猶太人的真實暴力。”

根據媒體報道，West在周日停用了他的X帳號。特拉維夫研究所的聯合創始人Hen Mazzig對此AI視頻爭議評論道：“濫用AI是危險的，這毫無疑問。但你知道什麼更危險嗎？不受限制的反猶太仇恨每天都會在平台上傳播給數百萬用戶。”

隨着檢測技術的進步，像Reality Defender和Pindrop這樣的公司現在提供復雜的深度僞造檢測工具，其中一些聲稱檢測率達到99%。這些技術代表了潛在的技術解決方案，以補充Johansson和其他人倡導的法律框架。