原文發表於《國際安全研究》2022年第3期，第3-31頁。【內容提要】深度偽造是人工智能技術和數字技術發展的產物，自2017年第一個深度偽造的作品出現，深度偽造正在世界範圍內快速擴散。人工智能與大數據技術的發展和普及，使得有心者製作各種深度偽造作品的門檻大大降低，導致互聯網和各種社交媒體充斥著各式各樣的深度偽造作品。深度偽造技術既有造福於人類社會的正麵功能，也有給國家安全帶來風險與挑戰的負麵作用。它不僅給國際形勢和國際安全環境帶來了巨大的衝擊，讓國際社會本就存在的“信任赤字”更為惡化，而且在國防安全、政治安全、經濟安全和國民安全等領域製造了更多、更為複雜的問題。國際經濟犯罪團夥利用深度偽造對中國企業和民眾進行詐騙活動；以美國為首的西方國家更是頻頻利用深度偽造的作品，在涉疆、涉港等問題上對中國發難；在重大國際問題上，國際上的各種勢力更是利用深度偽造爭取中國的民意，造成部分民眾認知的錯亂；等等。要治理深度偽造所帶來的各種安全隱患，就要在總體國家安全架構下完善針對深度偽造的綜合治理體係，同時倡導綜合安全、合作安全和共同安全的理念，與國際社會共同打造數字時代人類安全的命運共同體。【關鍵詞】深度偽造；人工智能；國家安全；總體國家安全觀【作者簡介】劉國柱，浙江大學世界史研究所/非傳統安全與和平發展研究中心教授（杭州 郵編：310058）。深度偽造（Deepfakes）是一個合成詞，是人工智能（AI）領域由“深度學習”（deep learning）和偽造（fake）合成的一個詞匯。它用來描繪利用人工智能技術和大數據生成的視頻、照片和其他文本，這些視頻、照片和文本看起來非常逼真，不要說非專業技術，就連專業技術亦難以識別其真偽。深度偽造包含兩方麵的含義，首先，它是一種技術，一種製作超逼真視聽作品的技術。其次，它指根據深度偽造技術製作的視聽作品。深度偽造的主要危險在於它會讓一個人——無論是政治家、商界精英還是普通公眾——向他人呈現另一種“現實”：一個真實的人在做一些他們從未做過的事情或者說一些他們從未說過的話，從而通過這樣的“現實”欺騙不知情的公眾。深度偽造問題已經引起國內外學術界的重視，並出現了一些具有一定水平的研究成果。其中，國內學術界對深度偽造問題的研究主要集中在以下四個方麵。第一，以美國為研究對象，探討深度偽造的出現給美國社會帶來的各種風險、挑戰，以及美國州和聯邦兩級立法機構應對深度偽造的立法嚐試。第二，從傳播學的角度，分析深度偽造帶來的影響，認為深度偽造加劇了更加係統性的平台控製，從而催化了政治分裂和政治冷漠，也進一步挑戰了傳統电子游戏cq9體製的專業權威。傳播學研究甚至認為，人工智能技術的“魔獸”一旦被放出籠子，對媒體的威脅就難以遏製。第三，從顛覆性技術異化以及治理的角度分析研究，認為以深度偽造為代表的顛覆性技術異化，已經成為數字化時代的威脅和人類社會可持續發展的重要挑戰，對現存社會倫理規範、經濟和法律製度乃至國際秩序造成破壞性衝擊。第四，從國家安全的角度進行分析，認為深度偽造技術在近幾年迅速興起，為國家間的政治抹黑、軍事欺騙、經濟犯罪甚至恐怖主義行動等提供了新工具，給政治安全、經濟安全、社會安全和國民安全等國家安全領域帶來了諸多風險。研究者提出：通過研發預警檢測手段、推進立法管製、加強宣傳教育以及推進國際安全合作治理等手段，來應對深度偽造技術的濫用及其安全挑戰。美國學術界對深度偽造關注較早，研究成果豐富，代表了國外對深度偽造研究的最高水平，並且其研究多從國家安全的角度認識深度偽造問題。研究者認為，作為人工智能技術發展的產物，深度偽造技術雖然也有一些積極的作用，但從美國國家安全的角度看，它不僅會增強競爭對手對美國發動信息戰和政治戰的能力，而且會對美國國內選舉政治造成重大影響，甚至會影響美國國內政治走向，加劇美國國內政治的兩極分化；深度偽造還會引發國家間的危機和衝突，特別是增加擁有核武器國家之間爆發核戰爭的風險。美國學者給出的解決方案主要有兩個：第一，公權力部門和網絡平台特別是社交網絡平台，通過技術研發，遏製不道德、非法或惡意內容深度偽造作品的傳播。第二，加強立法，在不抑製言論自由和技術進步的前提下，以法律來規範深度偽造行為，減輕和消除它給國家安全帶來的威脅。上述國內外學術界的研究成果屬於深度偽造領域的開拓之作。當今世界技術發展一日千裏，顛覆性技術不斷突破，尤其是以人工智能為代表的數字技術的發展日新月異。作為人工智能技術發展的產物之一，深度偽造技術同樣在不斷改進，隨之帶來的各種問題，尤其是與國家安全相關的問題也在不斷湧現。這也決定了深度偽造不僅涉及新興技術治理的問題，更是事關包括政治安全、經濟安全和社會安全等在內的綜合安全問題。因此，有必要站在總體國家安全觀的高度，從國家治理和全球治理的角度對深度偽造問題進行分析，並提出應對之策。數字技術與數字媒體的發展和普及，使得區分真假媒體視聽作品和文本變得越來越困難，這個領域的最新進展是深度偽造的出現。深度偽造是運用人工智能技術和大數據來描繪某人說和做的從未發生過的事情，輔之以社交媒體的覆蓋麵和傳播速度，可以迅速影響成千上萬甚至更龐大的群體，進而對社會產生難以估量的負麵影響。深度偽造通常被描述為使用機器學習（machine learning）技術創建的偽造品，這是人工智能技術的一個子領域，特別是生成對抗網絡（Generative Adversarial Networks，GANs）的產物。其過程是：兩個被稱為神經網絡的機器學習係統會相互競爭地進行訓練。第一個網絡或生成器的任務是創建偽造的數據，如照片、聲音，或複製原始數據集屬性的視頻片段；第二個網絡或鑒別器的任務是識別偽造的數據。這兩個稱為“生成器”和“鑒別器”的網絡在相同的圖像、視頻或聲音數據集上進行訓練，然後第一個網絡嚐試創建足以欺騙第二個網絡的新樣本，第二個網絡用於確定它看到的新媒體是否真實。這樣，它們互相推動改進。基於每次迭代的結果，生成器網絡不斷進行調整，以創建越來越接近真實的數據。上述兩個網絡間的競爭——通常是數千次甚至數百萬次迭代——直到生成器提高其性能，使鑒別器無法再區分真實數據和偽造數據。計算機視覺技術——如焦點識別，可以與生成對抗網絡相結合，以跟蹤圖像或視頻中的特定物體。使用麵部特殊標誌跟蹤，或識別人麵部的主要特征，允許程序準確地交換目標麵部。類似的技術也存在於增強現實領域，即虛擬物品在現實世界中實時顯示的領域。在Instagram和SnapChat等網站或應用程序上，以麵部交換和過濾的形式，換臉是一件非常快速和輕鬆的事情，關鍵是這樣做幾乎沒有任何成本。2016年，迪士尼電影工作室將凱莉·費雪（Carrie Fisher）年輕時的形象植入電影《星球大戰外傳：俠盜一號》中，耗資數百萬美元；如果使用深度偽造技術，幾小時內就可以免費創建一個完美的複製程序。學術界一般認為第一個深度偽造的作品是2017年底一個署名為“Deepfakes”（深度偽造）的用戶發布在美國著名社交电子游戏cq9媒體紅迪網（reddit）上的視頻，該視頻是使用名人的形象合成的色情視頻。這樣的視頻使用真實的鏡頭並合成了真實的聲音，因此許多觀眾認為他們正在觀看的視頻是真實的。這段視頻一出現便迅速傳播，引發各界關注，深度偽造問題也因此逐漸進入了研究者的視野。自那個時期開始，越來越多的深度偽造作品出現在電子媒體特別是社交平台上。從技術角度看，深度偽造可以分為以下三類。第一類是深度偽造視頻技術。三種數字技術對於深度偽造視頻技術的發展發揮了至關重要的作用：首先，計算機視覺科技的發展開發了一種算法，可以自動繪製圖像中麵部的標誌特征，比如眉毛和鼻子的位置，從而產生了麵部識別技術。其次，互聯網的興起，特別是視頻和照片分享平台的大量湧現，形成了以互聯網為基礎的龐大的視聽數據庫，為各種深度偽造視頻提供了取之不盡的大數據。最後，圖像取證能力技術的發展，使係統可以自動檢測偽造品。上述技術的發展為人工智能技術的繁榮創造了先決條件，機器學習特別是深度學習的優勢就在於它的循環學習方法：它可以檢測大型數據集之中的模式，並產生類似的產品；它能夠從取證算法的輸出中學習，因為這些算法教會了人工智能算法在下一個生產周期中需要改進什麽。如此循環往複，製作出來的視頻產品相似度就越來越高，甚至幾乎完全一樣。第二類是語音克隆技術。語音克隆技術也被稱為音頻深度偽造、語音合成、語音轉換或交換。語音克隆技術已經發展到這樣的水平：隻需采集到一個人的幾句話，人工智能語音克隆軟件就可以生成與目標人類語音非常相似的合成語音。這一技術已經成為日常家用電子產品的標準功能，如穀歌家庭（Google Families）、蘋果智能語音助手（Siri）、亞馬遜語音虛擬助手（Amazon Alexa）等。各種方便訪問的人工智能應用程序使創建語音克隆產品變得更加便利，語音克隆體的質量也迅速提高。因此，人工智能技術使得語音克隆的可信度和創建可信克隆的速度達到了一個新的高度。第三類是文本合成技術。在深度偽造的背景下，文本合成技術可以生成模仿目標獨特說話風格的文本。這些技術主要依賴於自然語言處理（Natural Language Processing，NLP）技術。這是計算機科學和語言學交叉形成的一門科學學科，它的主要應用是改善人類和計算機之間的文本和語言互動。自然語言處理係統可以分析大量的文本，包括一個特定目標的音頻剪輯文本，從而形成一個能夠在一定程度上解釋演講的係統，包括詞語以及對所表達的微妙情感和意圖的理解。這可能會製造一個人說話風格的模型，並反過來又可以用來合成新穎的演講。自然語言處理常用的架構是一種稱為“機器學習模型”（Transformer）的深度學習算法。該算法基本上可以通過學習單詞序列如何在句子和文本中相互關聯，將一個輸入的文本“轉換”為一個新的文本。位於舊金山的一家人工智能研究實驗室開放人工智能（Open AI）創建的第三代語言預測模型（GenerativePre-trained Transformer 3，GPT-3）被認為是這一技術領域的領先者。開放人工智能實驗室的研究人員聲稱，“GPT-3甚至可以生成电子游戏cq9文章，而人類評估者很難將其與人類所寫的文章區分開來”。作為數字時代人工智能技術發展的產物，深度偽造技術就如同基本的圖像和視頻桌麵編輯器一樣，並不存在錯誤和邪惡之處，它隻是一個工具。與其他技術一樣，深度偽造技術同樣具有雙刃劍的特性，人們出於不同的目的可以創作出不同性質的深度偽造作品。從深度偽造產品本身的性質看，目前出現的深度偽造作品可以分為三類。第一類是具有積極作用的產品或應用。深度偽造技術在許多行業具有積極用途，包括電影、教育媒體和數字通信、遊戲和娛樂、社交媒體和醫療保健、材料科學以及各種商業領域（如時尚和電子商務）等。電影業可以通過多種方式從深度偽造技術中受益。例如，它可以幫助因疾病而失去聲音的演員製作數字聲音，或者更新電影片段而不需要重新拍攝；它還可以為任何語言的電影自動配音，從而讓不同語言的觀眾更好地欣賞電影和教育媒體。例如，在醫學上，漸凍人協會（The ALS Association）正在利用深度偽造技術，為漸凍症患者提供幫助。漸凍人協會與一家名為“琴鳥”（Lyrebird）的公司合作，使用語音克隆技術來幫助漸凍症患者。該公司鼓勵漸凍症患者在他們還能夠發聲時備份他們的聲音，並將語音克隆技術與眼睛閱讀器輔助技術聯係起來，使漸凍症患者在喪失說話能力之後，依然能夠用他原始的、獨特的聲音而不是“機器”聲音來與家人和朋友進行交流。第二類是較為中性的深度偽造，主要是娛樂和幽默性質的深度偽造作品。這類作品往往是以公眾人物作為娛樂對象。例如，2020年在中國社交媒體上廣為流傳的一段深度偽造視頻，表現的是時任美國總統唐納德·特朗普（Donald Trump）和國務卿邁克爾·蓬佩奧（MichaelPompeo）兩個人用中文合唱了一首歌曲《我愛你中國》，明顯屬於娛樂大眾之作。優兔（YouTube）上有1 820萬粉絲的吉米·坎摩爾（Jimmy Kimmel）在他的節目中播放了特朗普總統的視頻，總統的聲音在“醉酒唐納德·特朗普”的片段中慢了下來，聽起來像是喝醉了。這樣的深度偽造作品沒有惡意，純屬幽默，觀眾也明白這樣的視頻並不是真的，所以不會造成不良的社會後果。第三類屬於惡意的深度偽造。這一類深度偽造被創作者用於某種特殊的目的，往往會給國家安全、社會治理帶來嚴峻的威脅和挑戰。如在深度偽造中占比最高的是利用深度偽造技術合成的色情視頻。深度偽造的色情視頻受害者不僅包括一些影視明星，也包括一些普通女性，屬於人工智能技術發展帶來的新的性別安全問題。深度偽造還被用來抹黑政治人物，尤其是正在從事選舉工作的政治候選人，從而影響一些國家的政治進程。深度偽造也被用來對一些國家正在發生的政治事件作出不利的描述，不僅可能激化社會矛盾、導致群體性事件的發生，也可能影響國家的政治形象，在國際舞台上給這些國家製造難題和困境。深度偽造還會給企業和個人在經濟上帶來損失，無論是通過深度偽造影響一些企業股票，還是影響一些企業剛剛上市的產品，都會給企業帶來巨大的損失。深度偽造造成的詐騙活動，更是讓一些企業和個人蒙受了重大損失。更嚴重的是，深度偽造可能會摧毀社會信任，信任赤字將惡化整個社會的心理生態環境。美國眾議院常設情報特別委員會（House Permanent Select Committee on Intelligence）主席亞當·希夫（Adam Schiff）在其主持的“人工智能對國家安全的挑戰”聽證會上，曾經得出這樣的結論：“讓深度偽造和其他虛假信息模式變得真正有害的是社交媒體的無處不在，以及虛假信息傳播的速度。”希夫的分析說明了深度偽造的主要特征：以網絡社交平台為主要傳播媒介，傳播速度快。在20世紀甚至21世紀初的大部分時間裏，雜誌、報紙和電視廣播公司管理著向公眾傳遞的信息。上述媒體均建立了嚴格的專業標準來控製电子游戏cq9質量，而大眾媒體和自媒體的數量相對較少，這意味著隻有有限數量的個人和組織可以廣泛傳播信息。然而，在過去十來年，智能手機的普及使得社交媒體被廣泛運用，越來越多的人開始習慣從各種社交媒體平台獲取信息，如國外用戶從臉書、推特，國內用戶從微信、微博等平台獲取信息。這些平台依賴大量用戶來生成相對未經過濾的內容，而用戶傾向於展示他們自身的體驗，瀏覽並發送他們同意的觀點（平台算法也增強了這種趨勢），將他們參與的社交媒體平台變成了“回音室”。這些平台也容易受到所謂的信息級聯影響（cascading impacts），即受深度偽造作品影響的人向其所在的多個群組傳遞、分享信息，選擇相信這些信息的群組受眾又會將這些未加鑒別的深度偽造作品傳播到更大範圍，從而造成深度偽造的累積效應。《科學》（Science）雜誌的一項研究報告稱，推特上的虛假信息通常會被更多的人轉發，而且比真實信息要快得多，尤其是政治話題。自第一個深度偽造視頻出現後，深度偽造以其質量、數量和多樣性的特點穩步上升而受到極大的關注，這反向推動了深度偽造更為迅猛的發展。聯合國裁軍研究所（The United Nations Institute for Disarmament Research，UNIDIR）的追蹤研究發現，自2018年11月以來，在線識別的深度偽造視頻數量每六個月就會翻一番。當一段關於美國眾議院議長南希·佩洛西（NancyPatricia Pelosi）似乎喝多了、走路搖擺不穩的深度偽造視頻上傳到互聯網後，不到48個小時，僅僅在臉書和推特兩個社交平台就獲得了幾百萬的點擊量。另外根據筆者在優兔（YouTube）的觀察，此類深度偽造的作品傳播速度普遍都十分迅速，擁有非常高的點擊量。如拜登唱歌、特朗普跳舞的深度偽造視頻自2020年11月17日上傳，到2021年12月23日，已經獲得了10 941 585次的點擊量；特朗普總統與英國伊麗莎白女王的“史詩之舞”，從2017年7月4日發布，到2022年4月12日已經有13 786 468人次觀看。公眾人物主要包括國家政要、跨國公司老板和影視界明星等，因其具有高知名度和較大的社會影響而備受深度偽造者的青睞，美國前總統貝拉克·奧巴馬（Barack Obama）及其妻子米歇爾·奧巴馬（MichelleObama）、特朗普及其女兒伊萬卡·特朗普（Ivanka Trump），眾議院議長佩洛西、英國女王伊麗莎白、臉書創始人和老板馬克·紮克伯格（Mark Zuckerberg）、2018年被《時代》（Times）雜誌評為“最具影響力100人”的以色列著名演員蓋爾·加朵（Gal Gadot），以及中國的一些影視界明星等，都曾經出現在各種深度偽造的視頻作品中。深度偽造之所以能夠迅速流行並傳播，主要有以下幾個原因：1. 人工智能技術的發展和普及使得製作深度偽造作品更簡單易行與其他人工智能技術一樣，深度偽造和合成媒體不需要專門的硬件或設備來開發，擁有強大顯卡的台式電腦就足夠了。商業性甚至免費的深度偽造服務已經出現在公開市場上，這些服務的普及將降低進入門檻，使得任何有興趣的人幾乎都可以擁有創建專業級深度偽造作品的能力。2. 互聯網空間免費獲取數據集使深度偽造的門檻變得很低計算機視覺社區已經創建了帶有標記的視覺材料的大型數據集，其中許多數據集都可以在互聯網上免費獲得。這些數據集是訓練機器學習算法所必需的。深度偽造數據的創建者可以很容易地訪問這些數據集；此外，由於雲計算提供的服務，訓練機器學習算法所需的計算能力成本較低，如穀歌的Colaboratory（簡稱Colab）可以讓任何人通過瀏覽器編寫和執行任意高級通用編程語言（Python）代碼。它尤其適合機器學習、數據分析和教育目的。用戶無需進行設置，就可以直接使用，同時還能獲得圖形處理單元（Graphics Processing Unit，GPU）等計算資源的免費使用權限。因此，一台普通的電腦，甚至是一部能上網的智能手機，都足以創造出高質量的深度偽造作品。從傳播學的角度看，色情和政治類作品往往具有低俗、虛假、傳播快的特性，加上人性的獵奇心理——這在東西方國家都是一樣的，如中國有“好事不出門，惡事行千裏”的諺語，西方國家則有“當真相還在穿鞋時，謊言已經傳遍半個世界”（A lie travels halfway around the world while the truthis getting its shoes on）的諺語，講的都是同樣的道理——這些因素使得色情和政治類深度偽造作品傳播最廣。美國麻省理工學院（MIT）通過對推特進行深入研究，“分析了十多年來300萬用戶發布的約12.6萬條級聯电子游戏cq9報道”，結果發現，“一個捏造的故事傳播到1 500人的速度是一個真實故事的6倍”。而且，虛假的政治故事比關於商業、恐怖主義或科學的虛假故事傳播得更快。4. 近年來歐美國家的政治極化也加快了深度偽造信息的傳播速度冷戰結束後，外部壓力的弱化反而加劇了歐美國家國內政治的兩極分化。政治極化的一個重要後果就是減少了公眾之間跨領域政治互動的機會；而同質的社交網絡又降低了對不同觀點的容忍度，放大了理念上的兩極化，在一定程度上提高了接受意識形態兼容电子游戏cq9的難度，並增強了對不同信息的封閉程度。這些趨勢創造了一個深度偽造作品高度吸引特定受眾群體的環境。總之，人工智能、大數據技術的發展和普及，使得有心者製作各種深度偽造作品的門檻大大降低，導致互聯網和各種社交媒體充斥著各式各樣的深度偽造作品。盡管深度偽造隻是一種技術工具，並且具有造福於社會的功能，但是，深度偽造技術更多地表現出負麵作用，因而給國家安全和社會治理帶來的挑戰更為複雜。2018年7月19日，美國參議員馬可·盧比奧（MarcoRubio）在傳統基金會（Heritage Foundation）的演講中談到深度偽造的危害時警告說，過去威脅美國需要核武器、航空母艦和導彈，但今天，所需要的隻是“製作一個非常逼真的假視頻的能力，它可能會破壞cq9电子平台的選舉，可能使cq9电子平台的國家陷入巨大的內部危機，並深深削弱cq9电子平台。”盧比奧關於深度偽造對國家安全帶來的威脅與挑戰分析不一定全麵，但也說明了問題的實質。目前，國際社會、尤其是數字技術發展領先的國家，對於深度偽造給國際社會和國家安全帶來挑戰的認識越來越清晰，也越來越重視。從近年來世界上出現的各種深度偽造案例及其發展趨勢來看，深度偽造無論是對國際安全、國家傳統安全如軍事安全和政治安全，還是國家非傳統安全，都帶來了越來越大的衝擊和挑戰。當今世界，安全的時空領域較之以往更加寬廣，各國人民命運與共、唇齒相依，沒有任何國家能夠實現脫離國際安全的自身安全，也不存在建立在其他國家不安全基礎之上的自身安全。所以，國際安全是國家安全的重要依托。盡管深度偽造技術出現的時間還不長，但已經對國際形勢和國際安全環境造成了衝擊，並在一定範圍內產生了重大影響。主要體現在以下幾個方麵：1. 深度偽造會破壞國際社會的戰略互信並衝擊脆弱的和平環境在國際關係中，戰略互信是國際安全與國際形勢穩定的核心支柱，可以為全球合作和多邊合作體製建設奠定堅實的基礎。但信息的數字化以及幾乎無處不在的快速通信的數字手段，促進了虛假和誤導性內容的傳播。從國際安全和國際形勢穩定的角度看，深度偽造與其他顛覆性數字技術相結合，將極大地降低全球和區域多邊機構以及國際關係行為體彼此間的信任。對於在國際社會和國際安全領域試圖製造事端的國家與非國家行為體而言，它們可以隨時獲取和利用日益先進的深度偽造技術，減少信息武器化的障礙，擴大參與並深度影響國際安全形勢。2019年，印度和巴基斯坦之間的緊張局勢升級期間，路透社發現了30起關於該事件的深度偽造視頻：這些視頻大部分是2017年印巴衝突期間，發生在印巴兩國一些城市的民眾向對方抗議示威的場景。“有心人士”利用人工智能技術對這些視頻作了處理，被有意錯誤描述為正在印度和巴基斯坦發生的視頻片段。這些深度偽造的合成視頻極大地刺激了印巴兩國的民族主義者，導致事態升級。由於擔心事態失控，印度和巴基斯坦官方被迫暫時關閉了一些社交平台。一些國家的政治和軍事領導人依賴公開與秘密的信息環境作出重大決策，特別是在重大危機麵前，需要快速作出決策。但武器化的深度偽造可以被用來擾亂信息環境，這在持續的政治和軍事緊張局勢中，可能會引發國際危機甚至導致對立或對抗的升級。例如，一段關於某擁有核武器國家將其核武庫提升至高度警戒的深度偽造信息，可能會導致其他擁有核武器的國家相應提高其核力量的警戒等級。以核大國對其他擁核國家核武器監控能力而言，這樣的深度偽造不必然會導致核武器的使用，但很可能會破壞敵對國家之間以及盟友之間圍繞戰略穩定的政治和安全氛圍。倫敦國王學院的瑪麗娜·法瓦羅（Marina Favaro）將深度偽造歸類為“大規模扭曲的武器”（Weapons of Mass Distortion），認為它能夠降低一個國家的態勢感知能力，並可能侵蝕核指揮、控製和通信（NC3）；隨著深度偽造的複雜程度不斷提高，核武器決策者將發現越來越難以信任機器生成的信息，無論是在快速作出決策還是根據事實信息作出決策方麵，都將因對收到的信息缺乏信任而導致決策者在危機期間處於不利地位。在2021年3月舉行的“技術複雜性下的核武器決策”研討會上，北約一些前高級決策者討論了深度偽造的危險並作出判斷，認為新興技術尤其是人工智能技術的發展，“將影響決策者管理、吸收、解釋、信任、驗證信息以及最終作出決定和決策的能力”。3.涉及他國領導人的深度偽造作品會對國家關係造成影響涉及他國領導人的深度偽造作品不僅給國家領導人帶來負麵影響，也會影響國家間關係。2018年，比利時社會黨在電視台播放了一段美國總統特朗普關於氣候變化的視頻。在視頻中，特朗普呼籲在即將到來的全民公投中投票退出《巴黎氣候變化協定》。他說：“正如你所知，我有勇氣退出《巴黎氣候變化協定》，你也應該如此。因為你們現在在比利時所做的實際上更糟。你們同意了，但你們沒有采取任何措施。”比利時社會黨製作這一視頻的出發點並不是出於惡意，而是希望吸引比利時人簽署在線請願書，呼籲比利時政府采取更緊急的氣候行動。特朗普在視頻的最後說：“cq9电子平台都知道氣候變化是假的，就像這個視頻一樣。”這相當於最後說明了這是一段偽造的視頻。但是，恰恰是最後這一句話，並沒有以當地語言出現在字幕中，再加上特朗普對待氣候變化的一貫立場，讓收視者理所當然地認為這就是特朗普的演講，是在幹涉比利時的內政。這段視頻就這樣激發了比利時人對美國總統幹預比利時氣候政策的憤慨。深度偽造技術對非國家行為者尤其是國際恐怖組織來說，無疑具有很高的利用價值。早期的恐怖組織缺乏製作虛假但可信的音頻和視頻的資源，如今隨著深度偽造技術的成熟，它們可以輕而易舉地製造這類作品了。恐怖組織通過深度偽造的視頻或音頻，展現對手包括政府官員發表煽動性言論或從事挑釁性行動，最大限度地對其目標受眾產生有利於恐怖組織的影響。如“伊斯蘭國”（ISIS）的附屬機構可能製作這樣的視頻：某軍事聯盟的士兵射殺伊斯蘭國家的平民和婦女兒童，或轟炸了某伊斯蘭國家的清真寺；某國政府官員、執法人員焚燒《古蘭經》等。這類視頻無疑會激起伊斯蘭國家穆斯林的怒火，釀成針對特定國家目標如大使館、領事館或企業的抗議活動，甚至導致類似於2012年美國駐利比亞班加西領事館遇襲之類事件。這樣的深度偽造作品還有利於恐怖組織招募人員，補充後備力量。而對這種深度偽造的逆向對等操作，就是西方國家的媒體也可以製作深度偽造的宣傳視頻，讓西方國家的公眾相信恐怖組織及其活動給西方世界構成的威脅。總體來看，深度偽造給本就緊張的大國關係和國際安全形勢帶來了更為複雜的挑戰，尤其是加劇了國際社會和現有國際體係本就存在的信任赤字，給國際和平、安全和穩定帶來了多方麵的挑戰，引發了國際社會對深度偽造問題的關注。聯合國裁軍研究所2021年的創新對話大會（The 2021 Innovations Dialogue Conference）的主題就是“深度偽造、信任和國際安全”。會議探討了信任對國際安全與穩定的重要性、日益增長的深度偽造現象如何破壞這種信任，以及如何通過以聯合國為中心的多邊合作機製，應對深度偽造給國際安全帶來的挑戰。深度偽造同樣會對民族國家的傳統安全即國防、軍事安全和政治安全帶來更大的衝擊和挑戰。虛假信息是與戰爭和軍事相生相伴的一門古老的“藝術”。以欺詐、偽造的信息影響國家的政治決策和軍事行動在人類曆史上屢見不鮮。遠一點的有1898年“緬因號”戰列艦在哈瓦那港爆炸後，美國媒體利用這一事件進行誤導性報道，從而煽動公眾支持對西班牙開戰；近到美國前國務卿科林·鮑威爾（Colin Powell）以手中塑料袋裏疑似洗衣粉的粉末，指稱伊拉克擁有大規模殺傷性武器，進而為美國發動伊拉克戰爭提供合法理由。它們都屬於較為經典的對虛假信息的利用。深度偽造技術的發展和傳播，將使虛假信息在政治和軍事領域的應用更為普遍和容易，從而使民族國家在傳統安全領域麵臨更為複雜的挑戰。1. 指揮自動化係統方麵的深度偽造為雙方軍事行動提供戰術優勢在現代軍事體係中，指揮自動化係統（C4ISR）是軍隊的神經中樞，先進的C4ISR能力通過對態勢的感知、對環境和對手的了解、對戰場信息的處理以及縮短感知和響應之間的時間，為己方的軍事行動提供優勢。這一係統的核心就是戰爭或戰場信息的獲取、處理以及運用。這就給對手提供了利用信息的空間。在未來的軍事行動中，戰爭和戰場上的對手可以生成高級指揮官的深度偽造，向對手的部隊下達虛假或矛盾的命令。為此，他們可以使用從媒體或通過情報獲得的真實指揮官的視頻或錄音；或者創建不真實的衛星情報圖像，誤導基於人工智能的目標識別係統，這樣就可以“毒化”圖像數據並將民用基礎設施識別為軍事設施，或將軍事目標歸類為非軍事目標，引導對手錯誤地攻擊目標；他們還可以運用人工智能技術發起錯誤信息活動，從而導致盟友之間產生爭端。在人工智能時代，軍事指揮官再也不需要像二戰時期那樣設計複雜的騙局，以虛假的D日登陸地點信息欺騙納粹德國總參謀部。未來的軍事行動中不再需要這種物理欺騙，因為人工智能為設置數字陷阱和虛假信息提供了更強大的“武器”——深度偽造。數字時代特別是人工智能技術的發展給各國進行政治戰（Political Warfare）帶來了顛覆性的變化。深度偽造將極大地改變政治戰的內涵和實施方式，那些擁有先進人工智能能力和侵入性訪問其他國家大數據庫能力的國際關係行為體，將在政治戰中獲得巨大優勢。人工智能為虛假信息的傳播者提供了快速偵察目標國家社交媒體受眾並識別其心理弱點的能力。人工智能驅動的係統可以快速生成修改過的內容和深度偽造的數字產品，從而推動針對目標國家民眾和國家利益的虛假敘事，衝擊目標國家民眾的心理，侵蝕目標國家社會的信任，給目標國家的政治安全帶來更大的挑戰和威脅。自20世紀中期高速攝影機發明以來，捕捉高度可靠證據的技術比製造令人信服的偽造品的技術要便宜得多，也更容易獲得。如今，每個擁有智能手機的人都可以錄下他們所見證的事件高清視頻。人們習慣於相信自己所看到的東西——“眼見為實”“有圖有真相”——但人工智能技術的發展已經使得製作逼真的假視頻和假圖片變得簡單而廉價，從而徹底顛覆“眼見為實”“有圖有真相”的認知。紐約州立大學奧爾巴尼分校（Universityat Albany，StateUniversity of New York）的計算機視覺專家在談到深度偽造對社會心理的衝擊時分析說：“媒體通過微妙的操縱來改變人們對政客、事件和想法的理解，可以產生更廣泛的心理影響。”人們可能會質疑他們在網上或媒體上看到的更多視頻的有效性，即使這些視頻完全真實，也會導致更多的混亂。深度偽造最具破壞性的方麵可能不是虛假信息本身，而是不斷接觸虛假信息，會導致公眾覺得包括視頻在內的很多信息根本不可信，從而導致一種被稱為“信息世界末日”（information apocalypse）或“現實冷漠”（reality apathy）的現象。實際上，最大的威脅不是人們會被欺騙，而是人們會開始將一切都視為欺騙。這種效應也被描述為“騙子的紅利”（liars dividend）：那些傳播懷疑和不確定性的國際關係行為體最終會受益，因為他們獲得了掩蓋真相的能力，這恰恰就是政治戰的核心內涵。很明顯，這樣的效應已經初現。美國優利公司（Unisys Corporation）2018年的安全指數調查發現，將近19%的美國人不太可能參加中期選舉投票，因為他們擔心外部行為者會損害該國的選舉投票係統；近86%的受訪者對美國選舉投票係統可能受到局外人影響的前景表示擔憂。優利公司的首席信托官湯姆·帕特森（TomPatterson）說：“2018 年優利安全指數暴露出民眾對cq9电子平台的投票選舉製度缺乏信任，這可能會削弱對美國民主製度的信心。”3. 深度偽造會改變“脆弱國家”在國家治理方麵的政治進程經濟合作與發展組織（Organisation for Economic Co-operation andDevelopment，OECD）將脆弱性視為一種普遍現象，在政治、社會、安全、環境和經濟五個主要維度上，每個國家都不同程度地以不同方式存在脆弱現象。脆弱指數比較高的國家往往存在政治與社會局勢不穩定、經濟落後和治安混亂等現象。被視為“脆弱國家”（Fragile States）的往往都是整體發展水平比較落後的發展中國家。在“脆弱國家”，深度偽造還可能加劇社會分裂、內亂、恐慌和衝突，造成政局動蕩，甚至會導致暴力衝突和軍事政變。例如，2018年10月，加蓬總統阿裏·邦戈·翁丁巴（Ali-Ben Bongo Ondimba）在訪問沙特阿拉伯時因病住院，並從11月起在摩洛哥繼續接受治療。由於邦戈長期未公開露麵，加蓬民眾普遍認為其健康狀況不佳，甚至已經死亡。2018年12月31日，邦戈在摩洛哥向國內民眾發表新年賀詞，承認自己身體有恙但正在康複。這段視頻引發了一場全國性的危機。包括部分軍人在內的相當多的人認為視頻是深度偽造作品，加蓬政府的目的是試圖隱瞞總統的健康狀況。最終，這一敘事導致了加蓬軍方的政變，政變軍人的理由就是，他們懷疑總統正在康複的視頻屬於深度偽造，認為總統已經失去履行職責的能力。事後根據《華盛頓郵報》記者尋求專業數字技術公司查證，邦戈新年賀詞視頻盡管存在瑕疵，但並無明確的深度偽造算法介入的證據；而反對派成員提供的說明視頻，反而存在人工智能操縱的跡象。這一案例表明，深度偽造的視頻可能會引起一些國家的政局動蕩。特定情況下適時出現的深度偽造會造成社會動蕩，激化社會矛盾甚至改變一個國家的政治進程。有特定目的的人或團體可能會製作深度偽造的作品煽動民眾聚集，製造群體性事件，引發公共安全危機或者暴力事件。2019年印度的印度教教徒通過WhatsApp傳播大量深度偽造的視頻，助長了針對印度穆斯林群體暴力和騷亂暴發的頻率和強度；同一年，發生在緬甸針對羅興亞人的騷亂，出現在社交平台的深度偽造視頻和圖片同樣發揮了推波助瀾的作用。深度偽造在非傳統安全領域帶來的挑戰主要是經濟領域。深度偽造既給包括股票、期貨市場帶來重大衝擊，也對國家的經濟運行造成負麵影響，對企業的影響更為直接。此外，各國公眾也都會麵臨各種各樣的基於深度偽造的經濟詐騙活動。深度偽造對經濟安全的威脅可以從國家、企業和個人三個層麵來理解。1. 國家層麵：深度偽造的內容會損害國家的經濟穩定深度偽造危害國家經濟安全的常見手段有以下幾種：一是捏造政府的行為。世界各國的財政、商務和金融監管機構一直在與試圖影響市場走勢的謠言作鬥爭——這些謠言往往通過各種社交平台流傳開來。如2019 年，印度中央銀行試圖平息社交媒體有關當局將很快關閉某些商業銀行的謠言。深度偽造可能會編造諸如政府官員關於稅收政策調整的討論，或具有官方背景的銀行家私下討論未來利率變化，或被視為政府智囊的智庫學者關於地區開發的討論，等等。在經濟和金融危機時期，深度偽造可能利用和放大先前存在的經濟擔憂和市場的波動。二是製造虛假的突發性事件。突發性事件往往對期貨市場和股市構成重大衝擊。2013年4月23日，一個名為“敘利亞電子軍”（Syrian Electronic Army）的黑客組織劫持了美聯社的推特賬戶，並在推特上寫道：“突發：白宮發生兩次爆炸，奧巴馬受傷。”這一虛假聲明立即引發了大量交易，接下來的三分鍾，原油價格暴跌，10年期美國國債收益率下跌，投資者轉移風險，道·瓊斯工業指數下跌150點，標準普爾500指數資本價值損失超過1.36億美元。三分鍾之後，一名美聯社員工在推特上寫道：“cq9电子平台被黑客入侵了。”緊隨其後的是官方確認該“电子游戏cq9”是一個騙局，劇烈動蕩的市場很快恢複正常。為交易公司提供市場數據的Nanex創始人埃裏克·亨薩德（Eric S. Hunsader）說：“美聯社的假推文是股市曆史上最活躍的兩分鍾。”可以盡快控製的一般的虛假信息尚且造成如此大的金融和經濟動蕩，由深度偽造引起的懷疑要想消除將更為困難，後者會讓市場動蕩持續更長的時間，造成的損失也更加巨大。三是惡意銀行擠兌。一些國家的銀行發生擠兌，這樣的电子游戏cq9經常出現在社交媒體中。發生擠兌的原因很多，其中部分原因與社交媒體的深度偽造有關。盡管基於社交媒體的深度偽造如製造銀行排長隊的視頻或照片並不一定是銀行擠兌的主要原因，但社交媒體為此類謠言的快速傳播提供了平台，當公眾對金融形勢或銀行健康運轉的懷疑開始變得普遍時，社交媒體可以迅速放大它們，從而讓擠兌變得更加瘋狂。2. 企業層麵：深度偽造給企業帶來的威脅和挑戰更為直接2021年3月10日，鑒於針對企業的深度偽造活動日益猖獗，美國聯邦調查局特意對美國私營企業發出了警告。聯邦調查局預測，在未來12—18個月，外國行為者將越來越多地使用支持人工智能的虛假媒體進行“網絡釣魚和社會工程犯罪”，其中深度偽造工具將用於創建“合成企業角色”或模仿現職員工，並且很可能對受害企業和組織造成“非常重大的財務和聲譽影響。”穆迪投資者服務公司（Moody’s Investor Service）也向客戶發出警告，先進的技術使得製作旨在損害企業聲譽的深度偽造視頻和圖像變得更加容易，導致公司的業務和信用質量受到威脅。其實，cq9电子平台隻要看特斯拉（Tesla）首席執行官埃隆·馬斯克（ElonMusk）的案例就可以明白，深度偽造給企業負責人製造的負麵形象對企業造成的衝擊有多大。馬斯克在一個流行的直播播客中吸食大麻，導致特斯拉股價下跌6%。因此，看起來非常逼真的深度偽造視頻，會產生與馬斯克直播同樣的效果，無論是針對企業負責人，還是針對企業的產品，造成的後果是顯而易見的：很有可能會讓高管和公司的聲譽崩盤，並在很短的時間內摧毀公眾對企業的信任和股東價值，而要修複這些損失還需要企業付出更大的代價。一項研究估計，受深度偽造信息的影響，全球企業每年損失高達780億美元，其中包括90億美元用於修複聲譽損失和170億美元因財務虛假信息而造成的損失。全球領先的戰略傳播和公共事務谘詢公司富思博睿格潤（Finsbury Glover Hering）分析了深度偽造對企業構成的五種潛在威脅：一是網絡釣魚攻擊。即利用深度偽造技術偽裝成其他人欺騙目標泄露敏感信息。二是交易欺詐。即以高級管理人員身份向毫無戒心的員工或經濟夥伴打電話或發送電子郵件，要求緊急轉賬。三是利用深度偽造的視頻對企業進行勒索，在這種敲詐勒索的情況下，深度偽造的真實性幾乎無關緊要，因為損害瞬間就會發生。四是股票操縱，即在財務業績季適時進行的深度偽造，例如冒充企業的首席執行官（CEO）宣布重大經營虧損，導致股價暴跌。五是偽造的監管行為，這種深度偽造活動針對的不一定是特定公司而是整個行業。想象一下捏造的中央銀行會議的視頻剪輯，其中描繪了官員討論流動性問題或未來利率變化，或者电子游戏cq9主播或股市專家宣布市場崩盤，這些視頻將會在整個行業掀起多麽大的波瀾。富思博睿格潤研究報告提到的上述五種“潛在威脅”，有一些實際已經發生了。2019年，一位英國能源公司的董事長被深度偽造的語音電話所欺騙。詐騙者使用商業語音生成軟件與他進行交流，而與他交流的人發出的聲音是他非常熟悉的總公司首席執行官的聲音。他被說服將220 000歐元（約243 000美元）轉入匈牙利供應商的銀行賬戶，直到第三次通話時，他才發現了一點破綻，但錢已經被詐騙者轉移。目前為止，已知的深度偽造造成的最大損失發生在中國香港。2020年年初，一名香港銀行的經理被他認為是“一家阿聯酋公司董事的人”騙取了3 500萬美元。詐騙者同樣是使用人工智能語音合成軟件，合成了這位以前與香港經理交流過的阿聯酋公司董事的聲音。據美國智庫卡內基和平基金會（Carnegie Endowment For International Peace）學者研究，利用深度偽造技術對企業進行的付款欺詐，僅2019年就給美國企業造成了高達17億美元的損失。針對個人的深度偽造主要有以下幾種情形：一是身份盜竊。深度偽造至少有兩種可以導致身份盜用的方式：一種形式是有針對性的深度偽造來竊取個人身份，然後用受害者的合成語音對其親朋好友發起欺詐性匯兌；另一種形式是以虛假身份創建銀行賬戶的深度偽造音頻或視頻，促進洗錢活動或偷稅漏稅。二是冒名頂替詐騙。主要指的是犯罪分子冒充“政府執法部門、知名企業或技術支持專家”向受害者施壓，迫使其付款。深度偽造可以增強冒名頂替者詐騙的真實性。詐騙者可能會複製特定個人的聲音，通過人工智能係統撥打許多受害者的電話號碼，而且還能夠根據受害者所在地區自動模擬當地的方言或口音。詐騙犯通過操縱受害者的情緒並製造一種虛假的緊迫感，讓受害者往往無暇顧及甄別真假。而且，許多騙局故意針對更脆弱的受害者，包括老年人和女性群體。三是網絡勒索。在網絡勒索計劃中，犯罪分子聲稱擁有有關受害者的令人尷尬乃至恐慌的信息，並威脅要發布這些信息，除非他們得到報酬或提供更多他們想要的材料。網絡勒索者可以使用深度偽造來生成更有說服力的虛假勒索材料，有時還在與受害者通信中引用受害者的密碼或電話號碼，這些密碼或電話號碼通常來自公開的數據轉儲。勒索者可能向受害者發送受害者本人的麵部圖像或視頻，這些圖像或視頻被合成疊加到色情內容中，作為他們訪問敏感信息的證據。根據美國聯邦調查局的數據，2019 年，美國居民報告的網絡勒索損失（不包括勒索軟件造成的損失）為1.07億美元。總體來看，深度偽造對全球經濟體係或者成熟健康的市場經濟國家的穩定性不太容易構成嚴重威脅。發展中國家或新興市場經濟體麵臨來自深度偽造的威脅更大。經濟不穩定和政府機構不那麽受民眾信任的國家在深度偽造的信息麵前更加脆弱；而對於正在經曆經濟或金融危機的發達國家來說，深度偽造信息可能發揮“最後一根稻草”的作用。另外，深度偽造對目標個人和企業造成經濟損失的危險更大。需要指出的是，單一深度偽造的影響並不局限於單一類型或類別的風險，而是會在不同層次引發連鎖反應。首先，由於深度偽造的目標是個人，其影響往往從個人層麵開始。其次，可能會對個人所在的團體或組織如政黨造成傷害。再次，深度偽造案例的累積和疊加，可能會影響社會心理。最後，導致社會信任的普遍缺失，從而造成嚴重的社會危害。隨著互聯網特別是移動互聯網的普及，深度偽造技術也給中國帶來了非常複雜的安全問題。2019年11月29日，國家互聯網信息辦公室（以下簡稱“國家網信辦”）負責人，在談到《網絡音視頻信息服務管理規定》（以下簡稱《規定》）出台的背景時強調：“出台《規定》是促進網絡音視頻信息服務活動健康有序發展的需要。當前，網絡音視頻信息服務迅速發展，用戶規模不斷壯大……與此同時，也帶來了傳播違法和不良信息、侵犯人民群眾合法權益等風險隱患，特別是隨著‘深度偽造’等新技術新應用在網絡音視頻領域的運用，這些風險進一步集聚、放大，可能被利用從事危害國家安全、破壞社會穩定、擾亂社會秩序、侵犯他人合法權益等法律法規禁止的活動，造成政治安全風險和國家安全、公共安全風險，對社會穩定造成不良影響。”這一判斷說明，深度偽造給中國國家安全、社會穩定和公民權益帶來了威脅和挑戰，也從一個側麵印證了習近平總書記對中國安全形勢的總體判斷。習近平總書記在中央國家安全委員會第一次會議上，對中國麵臨的安全形勢曾經作出這樣的判斷：“當前我國國家安全內涵和外延比曆史上任何時候都要豐富，時空領域比曆史上任何時候都要寬廣，內外因素比曆史上任何時候都要複雜。”深度偽造技術給國家安全帶來不同類型的威脅和挑戰，這些威脅與挑戰又表現在不同的層次上，既給包括政治和軍事安全在內的傳統國家安全帶來新的問題和挑戰，同時也對包括國家、企業和個人在內的經濟安全構成了多層次的挑戰。因此，應對深度偽造在不同領域、不同層次的挑戰，不能“頭痛醫頭腳痛醫腳”，應該以總體國家安全觀為指導，建立應對深度偽造技術的綜合治理體係。堅持以人民安全為宗旨，是中國共產黨執政為民的基本原則在國家安全領域的反映。作為新興技術的副產品，深度偽造同樣也給中國國民安全帶來了威脅和挑戰，是當今中國國民安全領域需要重點關注的問題。深度偽造在其他國家給公眾帶來的安全威脅，在中國也同樣存在。某些方麵，中國公眾麵臨的安全形勢甚至更為嚴峻，如，中國是運用新技術的電信詐騙的重災區。據央視網報道，在中國公安部門和金融機構加大反詐騙宣傳的情況下，2020年，全國立案電信網絡詐騙案件92.7萬起，案件造成群眾財產損失353.7億元；2021年以來，全國電信網絡詐騙案件日均發案2 700起，日平均損失達到了1.4億元；2021年1—9月，全國共破獲電信網絡詐騙案件26.2萬起，抓獲犯罪嫌疑人37.3萬人，同比分別上升41.1%和116.4%。盡管無法確認使用深度偽造技術在電信詐騙中所占的比例有多高，但可以肯定的是，隨著人工智能技術的發展，詐騙分子越來越多地將最新技術應用於詐騙活動中。習近平總書記在網絡安全和信息化工作座談會上指出：“現在網絡詐騙案件越來越多，作案手段花樣翻新，技術含量越來越高。這也提醒cq9电子平台，在發展新技術、新業務時，必須警惕風險蔓延。”“明者防禍於未萌，智者圖患於將來”。由於越來越多的新興技術可能被應用於詐騙活動，cq9电子平台必須主動防範、積極應對。對深度偽造的治理，要本著對社會負責、對人民負責的態度，加強對人工智能和網絡空間的治理，因此，還要廣泛依靠人民培養積極健康、向上、向善的數字生態係統。數字時代帶來的一個巨大變化就是個人以個體行為主體的角色來參與培育和保護值得信賴的數字和信息生態係統。尤其是，相當大比例的數字內容是由個人用戶生成的，個人也可以確保準確和良性的信息被共享。所以，整個社會要有意識地在個人層麵培養公眾在數字時代、人工智能時代的道德意識和社會責任感。鑒於中國各地區特別是城鄉發展不平衡，民眾對於數字產品認知存在巨大差異，管理部門、網絡平台和技術專家，都有義務和責任向社會說明人工智能時代新合成媒體的影響力及可能造成的危害，隻要公眾了解到合成媒體和可能造成的不良後果，這種欺騙產生影響的可能性就會降低。當公眾被教導去發現和識別深度偽造的特征和缺陷，就能夠用自己的判斷決定該相信什麽、不該相信什麽。此外，還要注重對特定群體的數字技術掃盲，特別是提高沒有接受過係統數字知識訓練、隻了解數字知識皮毛、隻能簡單地使用數字產品（如智能手機）的老年人的數字知識水平。據美國學者丹妮爾·西特倫（Danielle Citron）研究，在數字素養方麵存在“代際鴻溝”（generational divide），55歲以上的一代更有可能傳播謊言和假电子游戏cq9。全國人大代表、中國銀監會消費者保護局局長鄧智毅在接受記者專訪時表示，在中國，電信詐騙的受騙者多為老年人。盡管這並非專門因深度偽造而起，但深度偽造可能會加劇這種現象。因此，任何數字技術掃盲政策都應考慮所有年齡組和社會不同層麵，以彌合數字鴻溝和代溝。隻有更多的公眾意識到了深度偽造可能造成的危害，進而在整個社會培養防範深度偽造的公眾意識，深度偽造對國民安全造成的威脅才能降到最低。從這個角度看，公眾意識是防範深度偽造音頻、視頻不良影響的最好“疫苗”。國家政治安全涉及國家主權、國家製度、國民意識形態和執政安全等方麵。深度偽造對中國政治安全帶來的挑戰主要表現為宗教極端意識形態和民族分離勢力的滲透和分裂活動，特別是西方國家利用所謂的新疆民族和宗教問題，試圖分裂中國，以及利用“港獨”勢力禍亂香港，給“一國兩製”在香港的實施製造麻煩。在涉疆問題上，西方媒體製作了包括深度偽造在內的大量的虛假報道，極力抹黑中國政府的治疆方略和政策，汙蔑中國政府在新疆實施“強迫勞動”和“種族滅絕”政策。2021年4月29日，中華人民共和國駐比利時王國大使館專門發布了揭露以美國為首的西方國家製作包括深度偽造在內的關於涉疆問題的虛假信息的文章，揭露在美國反華勢力的操縱下，一些歪曲事實的“學術機構”、造謠的“專家學者”和不顧道德的“業餘演員”，是如何製造謊言、包括利用現代人工智能技術製造更加逼真的謊言，以通過誹謗中國的治疆政策誤導國際公共話語。與這兩個主題配套的深度偽造視頻也不斷出現在西方主流媒體上。如英國廣播公司（BBC）關於所謂“強迫勞動”的專題報道。在那個視頻中，使用的是中央電視台的扶貧報道——出於剪輯的需要，它甚至無法完全遮蔽中央電視台的標誌——該深度偽造視頻將安徽省在對口幫扶的新疆和田地區皮山縣招聘工人的鏡頭，扭曲改變為“強迫”新疆的維族青年到內地工作，原來報道中的笑容一閃而過，而將父母對即將出行兒女的擔憂描繪成生離死別。還有一些深度偽造視頻汙蔑中國政府通過計劃生育政策在新疆實施所謂的“種族滅絕”政策等。正是這樣深度偽造的假視頻、假音頻，給中國政府的新疆政策抹黑，將涉疆問題建構成為所謂的“人權”問題和中國政府的“種族滅絕政策”，不僅誤導了外部世界的民眾，讓中國外交麵臨更為惡劣的國際環境，也影響了新疆的和平安定和民族團結局麵以及未來的發展。涉港問題是西方國家插手中國內政、給中國政治安全帶來挑戰的另一個重要抓手。2019年，香港黑暴動亂期間，英國和美國媒體都利用了深度偽造視頻向外界傳遞對香港特區政府和執法警隊的不滿。香港一家專門驗證深度偽造虛假信息的平台——“求驗傳媒”管理人員在接受BBC訪問時指出，他們觀察發現，有許多社交網站專頁在這次“修例風波”期間“不負責任地散播謠言”，發布許多符合它們政治理念的消息；智能手機的性能提升，讓更多人可以拍攝照片或視頻，再按圖片或短片內容編造故事而不理會這些描述是否準確，是這次香港動亂出現“大量假电子游戏cq9或誤導性訊息流傳的原因”。上述涉疆和涉港的案例表明，深度偽造已經並將日益成為威脅中國政治安全的重要手段，讓中國的政治安全麵臨更為複雜的形勢。對深度偽造技術的治理，要上升到維護國家政治安全的高度以嚴密防範和打擊利用人工智能和數字技術進行滲透、顛覆破壞活動、暴力恐怖活動、民族分裂活動和宗教極端活動。治理深度偽造問題，既要重視傳統安全，又要重視非傳統安全。與其他國家一樣，深度偽造給中國傳統安全和非傳統安全帶來了新的威脅和挑戰。在傳統安全領域，除了上述所提到深度偽造給新疆和香港地區的政治穩定帶來的挑戰外，深度偽造在國土安全和國防安全領域同樣給中國帶來了一些新的威脅和挑戰。無論是在和平時期，還是在未來可能的戰爭條件下，中國指揮自動化係統同樣會麵臨競爭對手利用深度偽造技術進行幹擾和誤導的威脅；競爭對手和境外敵對勢力也會繼續利用深度偽造技術對中國發動政治戰，在中國社會製造不信任的情緒和氛圍，以降低中國民眾對中國社會製度和執政黨的信任度。為此，一方麵，中國要加快國防和軍隊的現代化建設，要貫徹習近平強軍思想，貫徹新時代軍事戰略方針，統籌推進傳統安全領域和新型安全領域軍事鬥爭準備。在堅持黨對人民軍隊的絕對領導、堅持政治建軍的基礎上，以科技強軍、人才強軍，加快機械化、信息化和智能化的融合發展。尤其是“加快軍事智能化發展，提高基於網絡信息體係的聯合作戰能力、全域作戰能力，有效塑造態勢、管控危機、遏製戰爭、打贏戰爭”。另一方麵，針對深度偽造的音/視頻基本上是以互聯網為基本載體，維護政治安全一定要高度重視網絡意識形態安全問題。習近平總書記將網絡稱為“當前意識形態鬥爭的最前沿”，認為“掌握網絡意識形態主導權，就是守護國家的主權和政權”；各級管理部門“要把維護網絡意識形態安全作為守土盡責的重要使命，充分發揮製度體製優勢，堅持管用防並舉……切實維護以政權安全、製度安全為核心的國家政治安全”。可以說，人工智能和數字時代政治戰的特征表明，在互聯網這個戰場上能否頂得住、打得贏，已經直接關係到中國的意識形態安全和政治安全。但cq9电子平台也要看到，深度偽造更多是針對個體用戶，其所帶來的非傳統安全問題也更為普遍和突出。無論是前述涉及針對中國企業和中國公眾經濟安全的詐騙問題，還是因為“報複色情”引發的性別安全問題，或者因為虛假信息引發的中國期貨市場以及股票市場劇烈波動等問題，都已經成為中國各執法部門必須麵對和應對的現實問題。在國家和社會日常治理活動中，管理和執法部門麵對的更多的也是上述非傳統安全領域的問題。深度偽造引發的非傳統安全問題直接關係到中國公共安全。公共安全是基本的民生，因而需要把處理和應對深度偽造引發的非傳統安全問題“放在維護最廣大人民根本利益中來認識，放在貫徹落實總體國家安全觀中來思考，放在推進國家治理體係和治理能力現代化中來把握”。唯有形成有效的社會治理和良好的社會秩序，才能促進社會公平正義，充實中國公眾的獲得感、幸福感和安全感，進而實現中國社會的良好治理以及確保人民安居樂業、社會安定有序和國家的長治久安。（四）深度偽造治理要兼顧外部安全與內部安全及自身安全與共同安全兩對關係“共同構建和平、安全、開放、合作的網絡空間，建立多邊、民主、透明的全球互聯網治理體係”，是深度偽造治理的國際路徑。1. 各國須齊心協力應對作為全球共同安全威脅的深度偽造安全問題早已越出國界，任何一個國家的短板都可能會造成外部風險的湧入，形成安全風險窪地。在安全領域中，深度偽造造成的危害非常突出。如歐美國家對“報複色情”的寬容政策，導致深度偽造的色情視頻基本上集中在這些國家，不僅給這些國家女性帶來巨大威脅，也給其他國家的女性——無論是包括影視界名人在內的公眾人物，還是普通民眾——帶來性別安全的隱患。所以，在深度偽造導致的安全威脅麵前，沒有哪個國家可以獨善其身，各國可謂安危與共、唇齒相依。因而要給予內部和外部、自身與共同安全同等的重視，協調應對深度偽造帶來的安全威脅與挑戰，維護各國公眾的共同利益。2. 以建立在各國共同價值基礎之上的數字生態係統治理深度偽造問題深度偽造治理取決於建立良好的全球數字生態係統，這樣的數字生態係統必須建立在各國共同價值基礎之上。數字技術已經成為支撐社會功能的核心，正在徹底改變社會的各個方麵。國際安全和穩定都依賴於維護一個值得信賴和穩定的數字生態係統。因此，國際社會迫切需要優先考慮數字信任和安全問題，並采取具體措施來保護和促進共享的共同價值標準。目前，在全球數字技術領域，發展不平衡、規則不健全、秩序不合理等問題日益突出，尤其是歐美一些國家在數字技術領域采取雙重標準，數字空間治理規則難以反映包括中國在內的廣大發展中國家的意願和利益。中國要繼續推動數字領域的全球治理體係變革，特別是在作為深度偽造作品最主要載體的互聯網領域。建立良好的全球數字生態係統應該堅持以下幾個原則：一是尊重網絡主權。即要尊重各國自主選擇網絡發展道路和管理模式、互聯網公共政策和平等參與國際網絡空間管理的權利，不幹涉他國內政，不從事、縱容和支持危害他國國家安全的網絡活動。二是維護和平安全。網絡空間不能成為各國角力的戰場，不能成為違法犯罪的溫床。各國應共同防範和反對利用網絡空間進行恐怖、淫穢和各種經濟犯罪的活動。三是構建良好秩序。既要提倡自由，也要保持秩序；既要尊重公眾交流思想、表達意願的權利，也要依法構建良好的網絡秩序，保障公眾在網絡空間的合法權益。四是堅持多邊主義。各國應加強溝通交流，完善網絡空間對話機製，同時發揮政府、國際組織、互聯網企業、技術社群、民間機構和公民個人等各個主體的作用，共同製定全球互聯網治理規則，使全球互聯網治理體係更加公正合理。3. 打造良好的全球數字生態係統須發揮聯合國等機構的作用聯合國的關鍵作用是促進合作、多邊主義、實質性對話和對最緊迫和最具有挑戰性的問題提出協商一致意見。網絡空間中的信任、安全和穩定問題也不例外。到目前為止，國際安全的現有多邊框架並沒有明確處理深度偽造技術的規範和標準，因而，在聯合國及其相關機構的參與主導下，參考一些國家和地區處理深度偽造的監管機製和方法，製定國際公認的規範和技術標準，是目前能夠被大多數國家所接受的、打造良好的數字生態係統的可行路徑。（五）在總體國家安全架構下完善針對深度偽造的綜合治理體係隨著以互聯網、人工智能技術為代表的數字技術的飛躍發展，它帶來的負麵影響也逐漸顯現，中國也在總體國家安全體係架構下，逐漸建立並完善數字治理體係。深度偽造技術出現後，中國比較早認識到這一新興技術對國家安全的威脅，並不斷采取應對舉措加強在這一領域的治理，已經形成了較為完善的綜合治理體係。首先，中國正在逐漸完善應對深度偽造的法律體係。2016年11月7日，第十二屆全國人民代表大會常務委員會第二十四次會議通過了《中華人民共和國網絡安全法》，並從2017年5月1日起正式實施；2021年6月10日，第十三屆全國人民代表大會常務委員會第二十九次會議通過了《中華人民共和國數據安全法》，從2021年9月1日起正式實施；為保護中國公眾的個人信息安全，2021年8月20日，第十三屆全國人民代表大會常務委員會第三十次會議通過了《中華人民共和國個人信息保護法》，從2021年11月1日起開始實施。上述三個法律，構建了比較完善的應對數字時代、維護國家安全的法律體係，為危及國家安全的各種深度偽造活動設置了不可觸碰的高壓線。其次，有針對性地頒布遏製惡意深度偽造行為的管理條例和規定。這在歐美國家稱為“軟法律”（Soft Law）。2019年11月18日，國家互聯網信息化辦公室會同文化和旅遊部、國家廣播電視總局聯合印發了《網絡音視頻信息服務管理規定》，要求“任何組織和個人不得利用網絡音視頻信息服務以及相關信息技術從事危害國家安全、破壞社會穩定、擾亂社會秩序、侵犯他人合法權益等法律法規禁止的活動，不得製作、發布、傳播煽動顛覆國家政權、危害政治安全和社會穩定、網絡謠言、淫穢色情，以及侵害他人名譽權、肖像權、隱私權、知識產權和其他合法權益等法律法規禁止的信息內容”。再次，從立法到執法，強化並壓實信息發布平台的責任。《中華人民共和國數據安全法》規定：“開展數據處理活動，應當遵守法律、法規，尊重社會公德和倫理，遵守商業道德和職業道德，誠實守信，履行數據安全保護義務，承擔社會責任，不得危害國家安全、公共利益，不得損害個人、組織的合法權益。”《網絡音視頻信息服務管理規定》則對數據平台提出了更具體的要求：“網絡音視頻信息服務提供者應當落實信息內容安全管理主體責任，配備與服務規模相適應的專業人員，建立健全用戶注冊、信息發布審核、信息安全管理、應急處置、從業人員教育培訓、未成年人保護、知識產權保護等製度……有效應對網絡安全事件，防範網絡違法犯罪活動，維護網絡數據的完整性、安全性和可用性。”這一規定壓實了信息發布平台的責任和義務。與此同時，國家監管機構和執法部門加大了對違規平台的執法力度。2021年3月，針對未履行安全評估程序的語音社交軟件和涉及深度偽造技術的應用，國家網信辦、公安部指導北京、天津、上海、浙江和CQ9电子等地網信部門、公安機關依法約談包括小米、快手、字節跳動、阿裏巴巴、網易雲音樂、騰訊等11家企業，督促這11家數字企業按照《網絡安全法》《具有輿論屬性或社會動員能力的互聯網信息服務安全評估規定》等法律法規及政策要求，認真開展安全評估，完善風險防控機製和措施，並對安全評估中發現的安全隱患及時采取有效整改措施，切實履行企業信息內容安全主體責任。最後，完善公民公共安全教育體係。習近平總書記在提到如何落實總體國家安全觀時強調：“把公共安全教育納入國民教育和精神文明建設體係，推動安全教育進企業、進農村、進社區、進學校、進家庭，加強安全公益宣傳，健全公共安全社會心理幹預體係，積極引導社會輿論和公眾情緒，動員全社會的力量來維護公共安全。”《中華人民共和國網絡安全法》也明確要求，“各級人民政府及其有關部門應當組織展開經常性的網絡安全教育，並指導、督促有關單位做好網絡安全宣傳教育工作。大眾傳播媒介應當有針對性地麵向社會進行網絡安全宣傳教育”。各級政府和相關機構在全國範圍內加大了對公眾的公共安全教育力度。公共安全教育的普及，有助於提高公眾的公共安全意識，防範和降低深度偽造造成的各種安全威脅。中國是一個網絡大國，但並非網絡強國，國內民眾教育水平、知識水平參差不齊。國內部分地區存在著民族分離勢力、暴力恐怖勢力和宗教極端思想。再加上境外敵對勢力利用技術和話語權優勢，在國際社會加大對中國的意識形態攻勢。深度偽造是境內外各種不穩定勢力針對中國社會越來越頻繁使用的重要手段，對中國國家安全造成的影響會更為複雜，這就要求cq9电子平台在總體國家安全觀的指導下，統籌應對新興技術發展給國家安全形勢帶來的新挑戰。人工智能和其他數字技術的不斷進步，互聯網技術的進一步普及，使得深度偽造技術產品的質量、數量和多樣性在穩步上升；而相關軟件工具的出現，服務的開放性和數據的易采集性等，都使得製造深度偽造產品的大眾化能力不斷增強。接觸深度偽造產品已經成為互聯網和數字社交平台用戶日常生活的一部分。如在最近的俄羅斯—烏克蘭衝突中，即使遠離戰場的中國公眾，也幾乎每天都會接觸到一些深度偽造的軍事、政治方麵的信息。這些深度偽造的信息數量和影響之大、在世界各地傳播速度之快，引起了一些數字平台的警覺。它所造成的潛在風險，也為各國敲響了警鍾。同時，惡意使用深度偽造技術以及這種技術的泛濫，無論是在傳統安全領域，還是在非傳統安全領域，都給國家和國際的和平、安全和穩定帶來了多方麵的風險和挑戰，也讓公眾麵臨的安全問題更加複雜化。越來越容易獲得的深度偽造技術讓一係列國家和非國家行為體參與到原本複雜的虛假信息活動中，也更加容易和方便去影響其他國家的政治局勢甚至政治走向；國家與非國家行為體還可以利用深度偽造來破壞其他國家的信息環境，從而在持續的政治和軍事緊張局勢中引發危機或導致緊張局勢的升級。深度偽造最深刻的影響在於，它創造了“騙子的紅利”——對從個人、社會、國家和國際社會不同層麵的信任關係造成破壞，從而給社會、國家乃至全球治理製造更多、更持久的困難。
目前，包括中國、美國、歐盟和聯合國在內的大國和國際組織都已經認識到深度偽造對個人、社會、國家和國際安全帶來的挑戰和威脅，並且從新技術的研發、加強對信息發布平台的監管以及社會立法等方麵采取行動，力求遏製惡意深度偽造給國家安全帶來的各種威脅。但是，數字活動的跨境性也決定了要解決深度偽造帶來的國家安全問題，國家間的合作是必不可少的。國際社會必須摒棄國際安全治理的雙重標準，在相互尊重、相互信任的基礎上，倡導綜合安全、合作安全、共同安全的理念，共同打造數字時代人類安全的命運共同體。
