刘国柱：深度伪造与国家安全：基于总体国家安全观的视角

作者：刘国柱，浙江大学世界史研究所/非传统安全与和平发展研究中心教授

微信平台编辑：周悦

【内容提要】深度伪造是人工智能技术和数字技术发展的产物，自2017年第一个深度伪造的作品出现，深度伪造正在世界范围内快速扩散。人工智能与大数据技术的发展和普及，使得有心者制作各种深度伪造作品的门槛大大降低，导致互联网和各种社交媒体充斥着各式各样的深度伪造作品。深度伪造技术既有造福于人类社会的正面功能，也有给国家安全带来风险与挑战的负面作用。它不仅给国际形势和国际安全环境带来了巨大的冲击，让国际社会本就存在的“信任赤字”更为恶化，而且在国防安全、政治安全、经济安全和国民安全等领域制造了更多、更为复杂的问题。国际经济犯罪团伙利用深度伪造对中国企业和民众进行诈骗活动；以美国为首的西方国家更是频频利用深度伪造的作品，在涉疆、涉港等问题上对中国发难；在重大国际问题上，国际上的各种势力更是利用深度伪造争取中国的民意，造成部分民众认知的错乱；等等。要治理深度伪造所带来的各种安全隐患，就要在总体国家安全架构下完善针对深度伪造的综合治理体系，同时倡导综合安全、合作安全和共同安全的理念，与国际社会共同打造数字时代人类安全的命运共同体。

【关键词】深度伪造；人工智能；国家安全；总体国家安全观

深度伪造问题已经引起国内外学术界的重视，并出现了一些具有一定水平的研究成果。其中，国内学术界对深度伪造问题的研究主要集中在以下四个方面。第一，以美国为研究对象，探讨深度伪造的出现给美国社会带来的各种风险、挑战，以及美国州和联邦两级立法机构应对深度伪造的立法尝试。第二，从传播学的角度，分析深度伪造带来的影响，认为深度伪造加剧了更加系统性的平台控制，从而催化了政治分裂和政治冷漠，也进一步挑战了传统新闻体制的专业权威。传播学研究甚至认为，人工智能技术的“魔兽”一旦被放出笼子，对媒体的威胁就难以遏制。第三，从颠覆性技术异化以及治理的角度分析研究，认为以深度伪造为代表的颠覆性技术异化，已经成为数字化时代的威胁和人类社会可持续发展的重要挑战，对现存社会伦理规范、经济和法律制度乃至国际秩序造成破坏性冲击。第四，从国家安全的角度进行分析，认为深度伪造技术在近几年迅速兴起，为国家间的政治抹黑、军事欺骗、经济犯罪甚至恐怖主义行动等提供了新工具，给政治安全、经济安全、社会安全和国民安全等国家安全领域带来了诸多风险。研究者提出：通过研发预警检测手段、推进立法管制、加强宣传教育以及推进国际安全合作治理等手段，来应对深度伪造技术的滥用及其安全挑战。

上述国内外学术界的研究成果属于深度伪造领域的开拓之作。当今世界技术发展一日千里，颠覆性技术不断突破，尤其是以人工智能为代表的数字技术的发展日新月异。作为人工智能技术发展的产物之一，深度伪造技术同样在不断改进，随之带来的各种问题，尤其是与国家安全相关的问题也在不断涌现。这也决定了深度伪造不仅涉及新兴技术治理的问题，更是事关包括政治安全、经济安全和社会安全等在内的综合安全问题。因此，有必要站在总体国家安全观的高度，从国家治理和全球治理的角度对深度伪造问题进行分析，并提出应对之策。

一深度伪造技术特征及其快速传播的原因

数字技术与数字媒体的发展和普及，使得区分真假媒体视听作品和文本变得越来越困难，这个领域的最新进展是深度伪造的出现。深度伪造是运用人工智能技术和大数据来描绘某人说和做的从未发生过的事情，辅之以社交媒体的覆盖面和传播速度，可以迅速影响成千上万甚至更庞大的群体，进而对社会产生难以估量的负面影响。

（一）深度伪造技术及类别

1.深度伪造技术分类

第二类是语音克隆技术。语音克隆技术也被称为音频深度伪造、语音合成、语音转换或交换。语音克隆技术已经发展到这样的水平：只需采集到一个人的几句话，人工智能语音克隆软件就可以生成与目标人类语音非常相似的合成语音。这一技术已经成为日常家用电子产品的标准功能，如谷歌家庭（GoogleFamilies）、苹果智能语音助手（Siri）、亚马逊语音虚拟助手（AmazonAlexa）等。各种方便访问的人工智能应用程序使创建语音克隆产品变得更加便利，语音克隆体的质量也迅速提高。因此，人工智能技术使得语音克隆的可信度和创建可信克隆的速度达到了一个新的高度。

第三类是文本合成技术。在深度伪造的背景下，文本合成技术可以生成模仿目标独特说话风格的文本。这些技术主要依赖于自然语言处理（NaturalLanguageProcessing，NLP）技术。这是计算机科学和语言学交叉形成的一门科学学科，它的主要应用是改善人类和计算机之间的文本和语言互动。自然语言处理系统可以分析大量的文本，包括一个特定目标的音频剪辑文本，从而形成一个能够在一定程度上解释演讲的系统，包括词语以及对所表达的微妙情感和意图的理解。这可能会制造一个人说话风格的模型，并反过来又可以用来合成新颖的演讲。自然语言处理常用的架构是一种称为“机器学习模型”（Transformer）的深度学习算法。该算法基本上可以通过学习单词序列如何在句子和文本中相互关联，将一个输入的文本“转换”为一个新的文本。位于旧金山的一家人工智能研究实验室开放人工智能（OpenAI）创建的第三代语言预测模型（GenerativePre-trainedTransformer3，GPT-3）被认为是这一技术领域的领先者。开放人工智能实验室的研究人员声称，“GPT-3甚至可以生成新闻文章，而人类评估者很难将其与人类所写的文章区分开来”。

2.深度伪造作品分类

从深度伪造产品本身的性质看，目前出现的深度伪造作品可以分为三类。第一类是具有积极作用的产品或应用。深度伪造技术在许多行业具有积极用途，包括电影、教育媒体和数字通信、游戏和娱乐、社交媒体和医疗保健、材料科学以及各种商业领域（如时尚和电子商务）等。电影业可以通过多种方式从深度伪造技术中受益。例如，它可以帮助因疾病而失去声音的演员制作数字声音，或者更新电影片段而不需要重新拍摄；它还可以为任何语言的电影自动配音，从而让不同语言的观众更好地欣赏电影和教育媒体。例如，在医学上，渐冻人协会（TheALSAssociation）正在利用深度伪造技术，为渐冻症患者提供帮助。渐冻人协会与一家名为“琴鸟”（Lyrebird）的公司合作，使用语音克隆技术来帮助渐冻症患者。该公司鼓励渐冻症患者在他们还能够发声时备份他们的声音，并将语音克隆技术与眼睛阅读器辅助技术联系起来，使渐冻症患者在丧失说话能力之后，依然能够用他原始的、独特的声音而不是“机器”声音来与家人和朋友进行交流。

（二）深度伪造的特征

美国众议院常设情报特别委员会（HousePermanentSelectCommitteeonIntelligence）主席亚当·希夫（AdamSchiff）在其主持的“人工智能对国家安全的挑战”听证会上，曾经得出这样的结论：“让深度伪造和其他虚假信息模式变得真正有害的是社交媒体的无处不在，以及虚假信息传播的速度。”希夫的分析说明了深度伪造的主要特征：以网络社交平台为主要传播媒介，传播速度快。

1.网络社交平台是传播深度伪造作品的最主要渠道

在20世纪甚至21世纪初的大部分时间里，杂志、报纸和电视广播公司管理着向公众传递的信息。上述媒体均建立了严格的专业标准来控制新闻质量，而大众媒体和自媒体的数量相对较少，这意味着只有有限数量的个人和组织可以广泛传播信息。然而，在过去十来年，智能手机的普及使得社交媒体被广泛运用，越来越多的人开始习惯从各种社交媒体平台获取信息，如国外用户从脸书、推特，国内用户从微信、微博等平台获取信息。这些平台依赖大量用户来生成相对未经过滤的内容，而用户倾向于展示他们自身的体验，浏览并发送他们同意的观点（平台算法也增强了这种趋势），将他们参与的社交媒体平台变成了“回音室”。这些平台也容易受到所谓的信息级联影响（cascadingimpacts），即受深度伪造作品影响的人向其所在的多个群组传递、分享信息，选择相信这些信息的群组受众又会将这些未加鉴别的深度伪造作品传播到更大范围，从而造成深度伪造的累积效应。《科学》（Science）杂志的一项研究报告称，推特上的虚假信息通常会被更多的人转发，而且比真实信息要快得多，尤其是政治话题。

2.深度伪造发展迅猛

4.深度伪造以公众人物等为主要对象

（三）深度伪造快速传播的原因

深度伪造之所以能够迅速流行并传播，主要有以下几个原因：

1.人工智能技术的发展和普及使得制作深度伪造作品更简单易行

与其他人工智能技术一样，深度伪造和合成媒体不需要专门的硬件或设备来开发，拥有强大显卡的台式电脑就足够了。商业性甚至免费的深度伪造服务已经出现在公开市场上，这些服务的普及将降低进入门槛，使得任何有兴趣的人几乎都可以拥有创建专业级深度伪造作品的能力。

2.互联网空间免费获取数据集使深度伪造的门槛变得很低

计算机视觉社区已经创建了带有标记的视觉材料的大型数据集，其中许多数据集都可以在互联网上免费获得。这些数据集是训练机器学习算法所必需的。深度伪造数据的创建者可以很容易地访问这些数据集；此外，由于云计算提供的服务，训练机器学习算法所需的计算能力成本较低，如谷歌的Colaboratory（简称Colab）可以让任何人通过浏览器编写和执行任意高级通用编程语言（Python）代码。它尤其适合机器学习、数据分析和教育目的。用户无需进行设置，就可以直接使用，同时还能获得图形处理单元（GraphicsProcessingUnit，GPU）等计算资源的免费使用权限。因此，一台普通的电脑，甚至是一部能上网的智能手机，都足以创造出高质量的深度伪造作品。

3.深度伪造中占比最高的是色情和政治类作品

从传播学的角度看，色情和政治类作品往往具有低俗、虚假、传播快的特性，加上人性的猎奇心理——这在东西方国家都是一样的，如中国有“好事不出门，恶事行千里”的谚语，西方国家则有“当真相还在穿鞋时，谎言已经传遍半个世界”（Alietravelshalfwayaroundtheworldwhilethetruthisgettingitsshoeson）的谚语，讲的都是同样的道理——这些因素使得色情和政治类深度伪造作品传播最广。美国麻省理工学院（MIT）通过对推特进行深入研究，“分析了十多年来300万用户发布的约12.6万条级联新闻报道”，结果发现，“一个捏造的故事传播到1500人的速度是一个真实故事的6倍”。而且，虚假的政治故事比关于商业、恐怖主义或科学的虚假故事传播得更快。

4.近年来欧美国家的政治极化也加快了深度伪造信息的传播速度

冷战结束后，外部压力的弱化反而加剧了欧美国家国内政治的两极分化。政治极化的一个重要后果就是减少了公众之间跨领域政治互动的机会；而同质的社交网络又降低了对不同观点的容忍度，放大了理念上的两极化，在一定程度上提高了接受意识形态兼容新闻的难度，并增强了对不同信息的封闭程度。这些趋势创造了一个深度伪造作品高度吸引特定受众群体的环境。

总之，人工智能、大数据技术的发展和普及，使得有心者制作各种深度伪造作品的门槛大大降低，导致互联网和各种社交媒体充斥着各式各样的深度伪造作品。尽管深度伪造只是一种技术工具，并且具有造福于社会的功能，但是，深度伪造技术更多地表现出负面作用，因而给国家安全和社会治理带来的挑战更为复杂。

二深度伪造对国家安全的威胁与挑战

（一）深度伪造对国际安全的威胁和对国际形势的影响

当今世界，安全的时空领域较之以往更加宽广，各国人民命运与共、唇齿相依，没有任何国家能够实现脱离国际安全的自身安全，也不存在建立在其他国家不安全基础之上的自身安全。所以，国际安全是国家安全的重要依托。

尽管深度伪造技术出现的时间还不长，但已经对国际形势和国际安全环境造成了冲击，并在一定范围内产生了重大影响。主要体现在以下几个方面：

1.深度伪造会破坏国际社会的战略互信并冲击脆弱的和平环境

2.深度伪造有可能会影响军事决策和军备控制

一些国家的政治和军事领导人依赖公开与秘密的信息环境作出重大决策，特别是在重大危机面前，需要快速作出决策。但武器化的深度伪造可以被用来扰乱信息环境，这在持续的政治和军事紧张局势中，可能会引发国际危机甚至导致对立或对抗的升级。例如，一段关于某拥有核武器国家将其核武库提升至高度警戒的深度伪造信息，可能会导致其他拥有核武器的国家相应提高其核力量的警戒等级。以核大国对其他拥核国家核武器监控能力而言，这样的深度伪造不必然会导致核武器的使用，但很可能会破坏敌对国家之间以及盟友之间围绕战略稳定的政治和安全氛围。伦敦国王学院的玛丽娜·法瓦罗（MarinaFavaro）将深度伪造归类为“大规模扭曲的武器”（WeaponsofMassDistortion），认为它能够降低一个国家的态势感知能力，并可能侵蚀核指挥、控制和通信（NC3）；随着深度伪造的复杂程度不断提高，核武器决策者将发现越来越难以信任机器生成的信息，无论是在快速作出决策还是根据事实信息作出决策方面，都将因对收到的信息缺乏信任而导致决策者在危机期间处于不利地位。在2021年3月举行的“技术复杂性下的核武器决策”研讨会上，北约一些前高级决策者讨论了深度伪造的危险并作出判断，认为新兴技术尤其是人工智能技术的发展，“将影响决策者管理、吸收、解释、信任、验证信息以及最终作出决定和决策的能力”。

3.涉及他国领导人的深度伪造作品会对国家关系造成影响

4.深度伪造很可能会成为国际恐怖活动的催化剂

（二）深度伪造给国家传统安全带来的挑战

深度伪造同样会对民族国家的传统安全即国防、军事安全和政治安全带来更大的冲击和挑战。虚假信息是与战争和军事相生相伴的一门古老的“艺术”。以欺诈、伪造的信息影响国家的政治决策和军事行动在人类历史上屡见不鲜。远一点的有1898年“缅因号”战列舰在哈瓦那港爆炸后，美国媒体利用这一事件进行误导性报道，从而煽动公众支持对西班牙开战；近到美国前国务卿科林·鲍威尔（ColinPowell）以手中塑料袋里疑似洗衣粉的粉末，指称伊拉克拥有大规模杀伤性武器，进而为美国发动伊拉克战争提供合法理由。它们都属于较为经典的对虚假信息的利用。深度伪造技术的发展和传播，将使虚假信息在政治和军事领域的应用更为普遍和容易，从而使民族国家在传统安全领域面临更为复杂的挑战。

1.指挥自动化系统方面的深度伪造为双方军事行动提供战术优势

2.深度伪造给国家政治安全带来更大的挑战和威胁

数字时代特别是人工智能技术的发展给各国进行政治战（PoliticalWarfare）带来了颠覆性的变化。深度伪造将极大地改变政治战的内涵和实施方式，那些拥有先进人工智能能力和侵入性访问其他国家大数据库能力的国际关系行为体，将在政治战中获得巨大优势。人工智能为虚假信息的传播者提供了快速侦察目标国家社交媒体受众并识别其心理弱点的能力。人工智能驱动的系统可以快速生成修改过的内容和深度伪造的数字产品，从而推动针对目标国家民众和国家利益的虚假叙事，冲击目标国家民众的心理，侵蚀目标国家社会的信任，给目标国家的政治安全带来更大的挑战和威胁。

3.深度伪造会改变“脆弱国家”在国家治理方面的政治进程

（三）深度伪造给非传统国家安全带来的挑战

深度伪造在非传统安全领域带来的挑战主要是经济领域。深度伪造既给包括股票、期货市场带来重大冲击，也对国家的经济运行造成负面影响，对企业的影响更为直接。此外，各国公众也都会面临各种各样的基于深度伪造的经济诈骗活动。深度伪造对经济安全的威胁可以从国家、企业和个人三个层面来理解。

1.国家层面：深度伪造的内容会损害国家的经济稳定

深度伪造危害国家经济安全的常见手段有以下几种：一是捏造政府的行为。世界各国的财政、商务和金融监管机构一直在与试图影响市场走势的谣言作斗争——这些谣言往往通过各种社交平台流传开来。如2019年，印度中央银行试图平息社交媒体有关当局将很快关闭某些商业银行的谣言。深度伪造可能会编造诸如政府官员关于税收政策调整的讨论，或具有官方背景的银行家私下讨论未来利率变化，或被视为政府智囊的智库学者关于地区开发的讨论，等等。在经济和金融危机时期，深度伪造可能利用和放大先前存在的经济担忧和市场的波动。

二是制造虚假的突发性事件。突发性事件往往对期货市场和股市构成重大冲击。2013年4月23日，一个名为“叙利亚电子军”（SyrianElectronicArmy）的黑客组织劫持了美联社的推特账户，并在推特上写道：“突发：白宫发生两次爆炸，奥巴马受伤。”这一虚假声明立即引发了大量交易，接下来的三分钟，原油价格暴跌，10年期美国国债收益率下跌，投资者转移风险，道·琼斯工业指数下跌150点，标准普尔500指数资本价值损失超过1.36亿美元。三分钟之后，一名美联社员工在推特上写道：“我们被黑客入侵了。”紧随其后的是官方确认该“新闻”是一个骗局，剧烈动荡的市场很快恢复正常。为交易公司提供市场数据的Nanex创始人埃里克·亨萨德（）说：“美联社的假推文是股市历史上最活跃的两分钟。”可以尽快控制的一般的虚假信息尚且造成如此大的金融和经济动荡，由深度伪造引起的怀疑要想消除将更为困难，后者会让市场动荡持续更长的时间，造成的损失也更加巨大。

2.企业层面：深度伪造给企业带来的威胁和挑战更为直接

富思博睿格润研究报告提到的上述五种“潜在威胁”，有一些实际已经发生了。2019年，一位英国能源公司的董事长被深度伪造的语音电话所欺骗。诈骗者使用商业语音生成软件与他进行交流，而与他交流的人发出的声音是他非常熟悉的总公司首席执行官的声音。他被说服将220000欧元（约243000美元）转入匈牙利供应商的银行账户，直到第三次通话时，他才发现了一点破绽，但钱已经被诈骗者转移。目前为止，已知的深度伪造造成的最大损失发生在中国香港。2020年年初，一名香港银行的经理被他认为是“一家阿联酋公司董事的人”骗取了3500万美元。诈骗者同样是使用人工智能语音合成软件，合成了这位以前与香港经理交流过的阿联酋公司董事的声音。据美国智库卡内基和平基金会（CarnegieowmentForInternationalPeace）学者研究，利用深度伪造技术对企业进行的付款欺诈，仅2019年就给美国企业造成了高达17亿美元的损失。

3.个人层面：深度伪造主要被用于欺诈或勒索行为

二是冒名顶替诈骗。主要指的是犯罪分子冒充“政府执法部门、知名企业或技术支持专家”向受害者施压，迫使其付款。深度伪造可以增强冒名顶替者诈骗的真实性。诈骗者可能会复制特定个人的声音，通过人工智能系统拨打许多受害者的电话号码，而且还能够根据受害者所在地区自动模拟当地的方言或口音。诈骗犯通过操纵受害者的情绪并制造一种虚假的紧迫感，让受害者往往无暇顾及甄别真假。而且，许多骗局故意针对更脆弱的受害者，包括老年人和女性群体。

总体来看，深度伪造对全球经济体系或者成熟健康的市场经济国家的稳定性不太容易构成严重威胁。发展中国家或新兴市场经济体面临来自深度伪造的威胁更大。经济不稳定和政府机构不那么受民众信任的国家在深度伪造的信息面前更加脆弱；而对于正在经历经济或金融危机的发达国家来说，深度伪造信息可能发挥“最后一根稻草”的作用。另外，深度伪造对目标个人和企业造成经济损失的危险更大。

需要指出的是，单一深度伪造的影响并不局限于单一类型或类别的风险，而是会在不同层次引发连锁反应。首先，由于深度伪造的目标是个人，其影响往往从个人层面开始。其次，可能会对个人所在的团体或组织如政党造成伤害。再次，深度伪造案例的累积和叠加，可能会影响社会心理。最后，导致社会信任的普遍缺失，从而造成严重的社会危害。

三深度伪造治理：基于总体国家安全观的视角

习近平总书记在中央国家安全委员会第一次会议上，对中国面临的安全形势曾经作出这样的判断：“当前我国国家安全内涵和外延比历史上任何时候都要丰富，时空领域比历史上任何时候都要宽广，内外因素比历史上任何时候都要复杂。”深度伪造技术给国家安全带来不同类型的威胁和挑战，这些威胁与挑战又表现在不同的层次上，既给包括政治和军事安全在内的传统国家安全带来新的问题和挑战，同时也对包括国家、企业和个人在内的经济安全构成了多层次的挑战。因此，应对深度伪造在不同领域、不同层次的挑战，不能“头痛医头脚痛医脚”，应该以总体国家安全观为指导，建立应对深度伪造技术的综合治理体系。

（一）深度伪造治理必须坚持以人民安全为宗旨

道，在中国公安部门和金融机构加大反诈骗宣传的情况下，2020年，全国立案电信网络诈骗案件92.7万起，案件造成群众财产损失353.7亿元；2021年以来，全国电信网络诈骗案件日均发案2700起，日平均损失达到了1.4亿元；2021年1—9月，全国共破获电信网络诈骗案件26.2万起，抓获犯罪嫌疑人37.3万人，同比分别上升41.1%和116.4%。尽管无法确认使用深度伪造技术在电信诈骗中所占的比例有多高，但可以肯定的是，随着人工智能技术的发展，诈骗分子越来越多地将最新技术应用于诈骗活动中。习近平总书记在网络安全和信息化工作座谈会上指出：“现在网络诈骗案件越来越多，作案手段花样翻新，技术含量越来越高。这也提醒我们，在发展新技术、新业务时，必须警惕风险蔓延。”“明者防祸于未萌，智者图患于将来”。由于越来越多的新兴技术可能被应用于诈骗活动，我们必须主动防范、积极应对。

对深度伪造的治理，要本着对社会负责、对人民负责的态度，加强对人工智能和网络空间的治理，因此，还要广泛依靠人民培养积极健康、向上、向善的数字生态系统。数字时代带来的一个巨大变化就是个人以个体行为主体的角色来参与培育和保护值得信赖的数字和信息生态系统。尤其是，相当大比例的数字内容是由个人用户生成的，个人也可以确保准确和良性的信息被共享。所以，整个社会要有意识地在个人层面培养公众在数字时代、人工智能时代的道德意识和社会责任感。

鉴于中国各地区特别是城乡发展不平衡，民众对于数字产品认知存在巨大差异，管理部门、网络平台和技术专家，都有义务和责任向社会说明人工智能时代新合成媒体的影响力及可能造成的危害，只要公众了解到合成媒体和可能造成的不良后果，这种欺骗产生影响的可能性就会降低。当公众被教导去发现和识别深度伪造的特征和缺陷，就能够用自己的判断决定该相信什么、不该相信什么。

此外，还要注重对特定群体的数字技术扫盲，特别是提高没有接受过系统数字知识训练、只了解数字知识皮毛、只能简单地使用数字产品（如智能手机）的老年人的数字知识水平。据美国学者丹妮尔·西特伦（DanielleCitron）研究，在数字素养方面存在“代际鸿沟”（generationaldivide），55岁以上的一代更有可能传播谎言和假新闻。全国人大代表、中国银监会消费者保护局局长邓智毅在接受记者专访时表示，在中国，电信诈骗的受骗者多为老年人。尽管这并非专门因深度伪造而起，但深度伪造可能会加剧这种现象。因此，任何数字技术扫盲政策都应考虑所有年龄组和社会不同层面，以弥合数字鸿沟和代沟。

（二）深度伪造治理必须以维护国家政治安全为根本

国家政治安全涉及国家主权、国家制度、国民意识形态和执政安全等方面。深度伪造对中国政治安全带来的挑战主要表现为宗教极端意识形态和民族分离势力的渗透和分裂活动，特别是西方国家利用所谓的新疆民族和宗教问题，试图分裂中国，以及利用“港独”势力祸乱香港，给“一国两制”在香港的实施制造麻烦。

上述涉疆和涉港的案例表明，深度伪造已经并将日益成为威胁中国政治安全的重要手段，让中国的政治安全面临更为复杂的形势。对深度伪造技术的治理，要上升到维护国家政治安全的高度以严密防范和打击利用人工智能和数字技术进行渗透、颠覆破坏活动、暴力恐怖活动、民族分裂活动和宗教极端活动。

（三）深度伪造治理既重视传统安全又重视非传统安全

治理深度伪造问题，既要重视传统安全，又要重视非传统安全。与其他国家一样，深度伪造给中国传统安全和非传统安全带来了新的威胁和挑战。在传统安全领域，除了上述所提到深度伪造给新疆和香港地区的政治稳定带来的挑战外，深度伪造在国土安全和国防安全领域同样给中国带来了一些新的威胁和挑战。无论是在和平时期，还是在未来可能的战争条件下，中国指挥自动化系统同样会面临竞争对手利用深度伪造技术进行干扰和误导的威胁；竞争对手和境外敌对势力也会继续利用深度伪造技术对中国发动政治战，在中国社会制造不信任的情绪和氛围，以降低中国民众对中国社会制度和执政党的信任度。

为此，一方面，中国要加快国防和军队的现代化建设，要贯彻习近平强军思想，贯彻新时代军事战略方针，统筹推进传统安全领域和新型安全领域军事斗争准备。在坚持党对人民军队的绝对领导、坚持政治建军的基础上，以科技强军、人才强军，加快机械化、信息化和智能化的融合发展。尤其是“加快军事智能化发展，提高基于网络信息体系的联合作战能力、全域作战能力，有效塑造态势、管控危机、遏制战争、打赢战争”。

但我们也要看到，深度伪造更多是针对个体用户，其所带来的非传统安全问题也更为普遍和突出。无论是前述涉及针对中国企业和中国公众经济安全的诈骗问题，还是因为“报复色情”引发的性别安全问题，或者因为虚假信息引发的中国期货市场以及股票市场剧烈波动等问题，都已经成为中国各执法部门必须面对和应对的现实问题。在国家和社会日常治理活动中，管理和执法部门面对的更多的也是上述非传统安全领域的问题。

深度伪造引发的非传统安全问题直接关系到中国公共安全。公共安全是基本的民生，因而需要把处理和应对深度伪造引发的非传统安全问题“放在维护最广大人民根本利益中来认识，放在贯彻落实总体国家安全观中来思考，放在推进国家治理体系和治理能力现代化中来把握”。唯有形成有效的社会治理和良好的社会秩序，才能促进社会公平正义，充实中国公众的获得感、幸福感和安全感，进而实现中国社会的良好治理以及确保人民安居乐业、社会安定有序和国家的长治久安。

（四）深度伪造治理要兼顾外部安全与内部安全及自身安全与共同安全两对关系

“共同构建和平、安全、开放、合作的网络空间，建立多边、民主、透明的全球互联网治理体系”，是深度伪造治理的国际路径。

1.各国须齐心协力应对作为全球共同安全威胁的深度伪造

2.以建立在各国共同价值基础之上的数字生态系统治理深度伪造问题

深度伪造治理取决于建立良好的全球数字生态系统，这样的数字生态系统必须建立在各国共同价值基础之上。数字技术已经成为支撑社会功能的核心，正在彻底改变社会的各个方面。国际安全和稳定都依赖于维护一个值得信赖和稳定的数字生态系统。因此，国际社会迫切需要优先考虑数字信任和安全问题，并采取具体措施来保护和促进共享的共同价值标准。目前，在全球数字技术领域，发展不平衡、规则不健全、秩序不合理等问题日益突出，尤其是欧美一些国家在数字技术领域采取双重标准，数字空间治理规则难以反映包括中国在内的广大发展中国家的意愿和利益。中国要继续推动数字领域的全球治理体系变革，特别是在作为深度伪造作品最主要载体的互联网领域。

建立良好的全球数字生态系统应该坚持以下几个原则：一是尊重网络主权。即要尊重各国自主选择网络发展道路和管理模式、互联网公共政策和平等参与国际网络空间管理的权利，不干涉他国内政，不从事、纵容和支持危害他国国家安全的网络活动。二是维护和平安全。网络空间不能成为各国角力的战场，不能成为违法犯罪的温床。各国应共同防范和反对利用网络空间进行恐怖、淫秽和各种经济犯罪的活动。三是构建良好秩序。既要提倡自由，也要保持秩序；既要尊重公众交流思想、表达意愿的权利，也要依法构建良好的网络秩序，保障公众在网络空间的合法权益。四是坚持多边主义。各国应加强沟通交流，完善网络空间对话机制，同时发挥政府、国际组织、互联网企业、技术社群、民间机构和公民个人等各个主体的作用，共同制定全球互联网治理规则，使全球互联网治理体系更加公正合理。

3.打造良好的全球数字生态系统须发挥联合国等机构的作用

联合国的关键作用是促进合作、多边主义、实质性对话和对最紧迫和最具有挑战性的问题提出协商一致意见。网络空间中的信任、安全和稳定问题也不例外。到目前为止，国际安全的现有多边框架并没有明确处理深度伪造技术的规范和标准，因而，在联合国及其相关机构的参与主导下，参考一些国家和地区处理深度伪造的监管机制和方法，制定国际公认的规范和技术标准，是目前能够被大多数国家所接受的、打造良好的数字生态系统的可行路径。

（五）在总体国家安全架构下完善针对深度伪造的综合治理体系

随着以互联网、人工智能技术为代表的数字技术的飞跃发展，它带来的负面影响也逐渐显现，中国也在总体国家安全体系架构下，逐渐建立并完善数字治理体系。深度伪造技术出现后，中国比较早认识到这一新兴技术对国家安全的威胁，并不断采取应对举措加强在这一领域的治理，已经形成了较为完善的综合治理体系。

首先，中国正在逐渐完善应对深度伪造的法律体系。2016年11月7日，第十二届全国人民代表大会常务委员会第二十四次会议通过了《中华人民共和国网络安全法》，并从2017年5月1日起正式实施；2021年6月10日，第十三届全国人民代表大会常务委员会第二十九次会议通过了《中华人民共和国数据安全法》，从2021年9月1日起正式实施；为保护中国公众的个人信息安全，2021年8月20日，第十三届全国人民代表大会常务委员会第三十次会议通过了《中华人民共和国个人信息保护法》，从2021年11月1日起开始实施。上述三个法律，构建了比较完善的应对数字时代、维护国家安全的法律体系，为危及国家安全的各种深度伪造活动设置了不可触碰的高压线。

与此同时，国家监管机构和执法部门加大了对违规平台的执法力度。2021年3月，针对未履行安全评估程序的语音社交软件和涉及深度伪造技术的应用，国家网信办、公安部指导北京、天津、上海、浙江和广东等地网信部门、公安机关依法约谈包括小米、快手、字节跳动、阿里巴巴、网易云音乐、腾讯等11家企业，督促这11家数字企业按照《网络安全法》《具有舆论属性或社会动员能力的互联网信息服务安全评估规定》等法律法规及政策要求，认真开展安全评估，完善风险防控机制和措施，并对安全评估中发现的安全隐患及时采取有效整改措施，切实履行企业信息内容安全主体责任。

最后，完善公民公共安全教育体系。习近平总书记在提到如何落实总体国家安全观时强调：“把公共安全教育纳入国民教育和精神文明建设体系，推动安全教育进企业、进农村、进社区、进学校、进家庭，加强安全公益宣传，健全公共安全社会心理干预体系，积极引导社会舆论和公众情绪，动员全社会的力量来维护公共安全。”《中华人民共和国网络安全法》也明确要求，“各级人民政府及其有关部门应当组织展开经常性的网络安全教育，并指导、督促有关单位做好网络安全宣传教育工作。大众传播媒介应当有针对性地面向社会进行网络安全宣传教育”。各级政府和相关机构在全国范围内加大了对公众的公共安全教育力度。公共安全教育的普及，有助于提高公众的公共安全意识，防范和降低深度伪造造成的各种安全威胁。

中国是一个网络大国，但并非网络强国，国内民众教育水平、知识水平参差不齐。国内部分地区存在着民族分离势力、暴力恐怖势力和宗教极端思想。再加上境外敌对势力利用技术和话语权优势，在国际社会加大对中国的意识形态攻势。深度伪造是境内外各种不稳定势力针对中国社会越来越频繁使用的重要手段，对中国国家安全造成的影响会更为复杂，这就要求我们在总体国家安全观的指导下，统筹应对新兴技术发展给国家安全形势带来的新挑战。

结语

人工智能和其他数字技术的不断进步，互联网技术的进一步普及，使得深度伪造技术产品的质量、数量和多样性在稳步上升；而相关软件工具的出现，服务的开放性和数据的易采集性等，都使得制造深度伪造产品的大众化能力不断增强。接触深度伪造产品已经成为互联网和数字社交平台用户日常生活的一部分。如在最近的俄罗斯—乌克兰冲突中，即使远离战场的中国公众，也几乎每天都会接触到一些深度伪造的军事、政治方面的信息。这些深度伪造的信息数量和影响之大、在世界各地传播速度之快，引起了一些数字平台的警觉。它所造成的潜在风险，也为各国敲响了警钟。

同时，恶意使用深度伪造技术以及这种技术的泛滥，无论是在传统安全领域，还是在非传统安全领域，都给国家和国际的和平、安全和稳定带来了多方面的风险和挑战，也让公众面临的安全问题更加复杂化。越来越容易获得的深度伪造技术让一系列国家和非国家行为体参与到原本复杂的虚假信息活动中，也更加容易和方便去影响其他国家的政治局势甚至政治走向；国家与非国家行为体还可以利用深度伪造来破坏其他国家的信息环境，从而在持续的政治和军事紧张局势中引发危机或导致紧张局势的升级。深度伪造最深刻的影响在于，它创造了“骗子的红利”——对从个人、社会、国家和国际社会不同层面的信任关系造成破坏，从而给社会、国家乃至全球治理制造更多、更持久的困难。

目前，包括中国、美国、欧盟和联合国在内的大国和国际组织都已经认识到深度伪造对个人、社会、国家和国际安全带来的挑战和威胁，并且从新技术的研发、加强对信息发布平台的监管以及社会立法等方面采取行动，力求遏制恶意深度伪造给国家安全带来的各种威胁。但是，数字活动的跨境性也决定了要解决深度伪造带来的国家安全问题，国家间的合作是必不可少的。国际社会必须摒弃国际安全治理的双重标准，在相互尊重、相互信任的基础上，倡导综合安全、合作安全、共同安全的理念，共同打造数字时代人类安全的命运共同体。

【来稿日期：2022-01-02】

【修回日期：2022-04-12】

【责任编辑：齐琳】

数字经济智库

政治学与国际关系论坛

为了更好的服务数字中国建设，服务“一带一路”建设，加强数字经济建设过程中的理论交流、实践交流。来自中国数字经济以及“一带一路”建设领域的专家学者们成立了数字经济智库，为数字中国的建设添砖加瓦。商务部原副部长魏建国担任名誉院长，知名青年学者黄日涵、储殷等领衔。政治学与国际关系论坛是数字经济智库旗下的专门平台。