引言
由深度伪造生成的虚假信息欺骗性、危害性强，这类虚假信息的传播给国家安全带来潜在的严重危害。概述深度伪造的概念和应用类型，分析其对国家安全和公共信任带来的风险，提出须警惕所谓“技术中性”论调，对西方掌控优势且对全球治理产生重大影响力的技术提前布控，做好谋划，同时制定科技伦理和相应法律规制，避免其成为危害国家安全的武器。例如：加快反深伪检测技术的更新迭代，实施政府、民间企业、社交平台跨部门合作；解构西方话语陷阱，洞察虚假信息背后的战略意图，掌握议程设置主动权，加强国际舆论引导；推进培育新媒体素养，提升对深度伪造信息的辨识能力。
引文格式：李战子，韩泽婷. 被武器化的虚假信息：深度伪造与舆论战[J].国防科技，2023,44（3）：121-127.
PART.1研究背景
大数据和机器智能的出现对社会和国家安全产生了深刻影响。现代战争的形式已从物理搏杀、信息作战升级为智能化战争,战争目的也从资源利益和文化霸权转向力量威慑和话语权的争夺。依托人工智能( Artificial Intelligence, 简称AI )的”深度伪造”是虚假信息的一种高级形态，能够呈现以假乱真的效果。在全球全媒体社交平台的加持之下,深度伪造引发病毒式传播,被网络霸权国所武器化。本文探讨深度伪造的类型及其在舆论战中的应用，旨在提出舆论战中应对虛假信息武器化的策略。
PART.2主要研究内容
“深度伪造”一词译自英文“Deepfake”，多指利用数据生成器和数据鉴别器构成的生成式对抗网络（GANs）进行博弈，生成难以辨别的伪造图像、音频、视频和文本。
通过梳理深度伪造的概念和工作原理，可将其特征归纳如下：第一，能快速、精准地捕捉场景、内容、情感、风格等语境要素，从而能够智能合成视频、音频、图像和文字；第二，为了提高生成脸谱图的还原度，深度伪造需采集海量人脸数据、学习大量样本，因此，主要攻击公众人物形象；第三，日趋“平民化”，即机器训练周期日益缩短、技术门槛降低、
造假成本下降；第四，从单一模态向多模态生成发展；第五，以社交媒体平台为主传播渠道，具有极强传播性。
就伪造技术而言，深度伪造可分为四类：深度伪造图像、深度伪造视频、深度伪造音频和文本生成。
深度伪造被武器化可概括为四个方面：第一，操纵选举，危害国家安全；第二，加剧国内社会阶层分化，丑化对手国家的国际形象；第三，降低公共机构、政府部门的公信力；第四，造成对整个新闻媒体行业的信任赤字。
近年来，一些学者高度关注人工智能和深度伪造在舆论战等方面的应用风险与治理。舆论战通过议程设置和各种媒介宣传（虚假的文字、图片报道）瓦解敌方斗志，营造有利于自身的舆论环境。一张视觉冲击力强的深伪图片，一段合成的具有煽动性的政要演讲，都可能在社会重大事件或政治事件节点上被用于操纵舆论意见，激化社会矛盾，影响一国的国际形象。此外，社会舆论操纵程度加深，计算宣传大行其道，成为人工智能时代社会舆论操纵的新方式。
除了操纵受众认知，污化舆论环境外，深度伪造还引发了伦理担忧。部分媒体宣扬的所谓“技术中性论”容易降低人们对深度伪造的警惕，给国家安全带来更多的不确定性。因此，必须通过科技伦理使人工智能的开发和应用被限制在伦理和法律边界之内。对于暂时无法确定但现实风险较高的人工智能应用理应暂时叫停，直到各界达成共识。深度伪造模糊了虚假和真相的边界，将对社会信任、媒体信任、政治信任产生巨大影响。就我国现状来看，须严加防范这项技术成为电信诈骗、敲诈勒索、网络骚扰和舆论霸凌的武器，避免其沦为颠覆伦理道德、左右受众认知观念、放大偏见和绑架民意的推手。
要实施虚假信息治理，首先需要加大反深伪检测技术的开发，完善深伪风险治理体系；其次，要解构虚假信息，加强国际舆论引导；最后，要提升可靠信息的关注度，培育大众新媒体素养。
当前，国际舆论场中，由西方国家主导的话语仍有较强的传播力。在此背景下，加强科技创新能力，提振具有中国特色的话语和叙事能力，特别是对深度伪造的虚假信息进行辨识和揭露，同时加大反深度伪造检测技术的开发，能够提升全民新媒体素养，借助媒介融合趋势更有效地传播中国主张、中国智慧、中国方案等。
