透视深度合成技术及其安全影响.docx

《透视深度合成技术及其安全影响.docx》由会员分享，可在线阅读，更多相关《透视深度合成技术及其安全影响.docx（13页珍藏版）》请在第一文库网上搜索。

1、透视深度合成技术及其安全影响导语：人工智能技术快速发展应用既给社会发展带来了巨大机遇，同时也带来了诸多风险，人工智能对国家安全的影响已成为世界各国的重要关切和研究议程。深度合成(DeePSyntheSiS)这一技术近年来也日益受到关注。深度合成可生成人类肉眼无法识别的虚假图像和视频，对个人隐私、网络安全、社会稳定和国家安全等造成了现实威胁。与此同时，针对深度合成的检测和治理成为各国各界热点关注的问题，相应的深度合成检测技术也在快速发展，开展主动技术检测评估工作是防范深度合成技术作恶的必由之路。本文就深度合成技术的发展现状、主要应用及其对安全的影响进行分析考察，供感兴趣的读者参考。01、什么是深

2、度合成技术？深度合成(DeePSyntheSiS)(也叫深度伪造)这一概念最早出现在2017年底，起初是一名为深度伪造(deepfakes)的红迪网(Reddit)用户在网上发布了一段利用名人面孔合成的色情视频，引发各界关注。深度伪造是深度学习(deep1earning)与伪造(fake)二者的组合词，一开始专指用基于人工智能尤其是深度学习的人像合成技术。随着技术的进步，深度合成技术已经发展为包括视频伪造、声音伪造、文本伪造和微表情合成等多模态视频欺骗技术。深度合成背后的支撑技术是深度学习，具体来说主要是生成性对抗网络(GenerativeAdversaria1Network,GAN)和卷积神

3、经网络(Convo1utiona1Neura1Network,CNN)o用于深度学习算法的真实数据或模拟数据越多，合成的视、音频等深度合成产品的逼真程度就越高，在这些假视频和音频中能够让人说现实中没有说过的话、做现实中没有做过的事，甚至达到以假乱真的程度。运用这一技术，可以将一张下载的陌生人的正脸静态人物照片瞬间活起来，根据指令做出相应的眨眼、张嘴、皱眉等精细动作和表情变化，并在短短十几秒内生成流畅视频。早期的换脸视频尚存在微表情不自然面部边缘有锯齿等明显换脸痕迹，但随着技术成熟，深度合成内容已能以假乱真，传统的基于生物特征的鉴别方式越来越难以发挥作用。02、深度合成将会带来什么安全影响？清华

4、大学人工智能研究院等五家单位联合发布的深度合成十大趋势报告(2023)显示，在国内外主流音视频网站、社交媒体平台上，2023年新发布的深度合成(合成)视频的数量较2017年已增长10倍以上，可见深度合成产品正在爆炸式增长。深度合成内容制作与传播数量高速增长2023深度合成十大趋势报告深度合成是一把双刃剑。一方面，它可以用于虚拟偶像、虚拟手语主播、老照片修复、劣迹艺人替换等商业场景，为大众带来新的奇特体验。这一技术在影视、传媒、教育等领域呈现出大量的正向应用，伴随着不断涌现的使用需求，各类商业化产品层出不穷，深度合成内容数量和关注度呈现飞速增长，受众接受度显著提升。尤其是去年元宇宙概念的流行，为

5、深度合成技术提供了更加宽广的应用场景。业内人士称，未来随着自动数据生成、全身合成、3D塑型等技术的逐渐成型，一个新的人类生存场景将以深度合成技术为基石展开。比较有代表性的例子是，深度合成技术帮助修复了志愿军老照片，让大家可以一睹最可爱的人的青春风采和灿烂笑容。此外，在影视制作领域，深度合成技术已成为艺人出现劣迹后的救场工具。电视剧长安十二时辰光荣时代突围等多部作品均使用了该技术，图形计算领域的顶尖技术公司英伟达在2023年就凭借高超的深度合成技术，合成了一个黄仁勋的数字李生版本，展现了数字技术强大的创造力和可能性。此外，这一技术还能用于对深度家庭的疗愈救助。例如，2019年9月，一位母亲向阿里

6、巴巴人工智能实验室求助，希望能将她患癌离世的14岁女儿做成可以交互的软件。3个月后，技术人员帮这位妈妈合成了一段长达20秒的语音存在天猫精灵里，为她提供了失去女儿后感到万分痛苦的疗愈手段。深度合成技术修复志愿军老照片但与此同时，这一技术也给国家安全带来了重大挑战。随着该技术的逐步平民化，不法分子可轻易伪造音频、视频,实施诬陷、诽谤、诈骗、勒索等违法行为，给个人、企业造成声誉损害和财产损失，乃至给社会秩序、国家安全造成严重威胁。德国研究团队就利用这一技术制作出了包括普京、小布什等国家首脑的假视频。美国国会也专门就深度合成技术的影响举行听证会，表明深度合成技术引发多方高度关注。2023年10月，安

7、徽合肥警方曾查获一起非法利用深度合成技术伪造手机用户人脸动态视频破解身份核验，为黑灰产业提供注册虚拟手机卡等技术支撑的案件。其他类似事件开始更多的进入公众视野。2023年，山东省公安厅网络安全总队公布了几个利用深度合成技术实施诈骗的案例。某公司财务接到领导电话要求立刻给供应商转款两万元，并将转账信息以邮件形式发送到对方邮箱。由于电话中老板的口音十分逼真，公司财务毫不怀疑地在一小时内完成了转账。不难预见，一旦这一技术进入军事应用领域，将会使得战争迷雾变得更加扑朔迷离。兵者，诡道也。敌对双方可能会运用这一技术进行战略、战术诱骗，给战争增添更多的不确定因素。与此同时，这一技术也为煽动敌对国家间的军事

8、冲突提供了新途径。例如，A国雇佣代理黑客使用人工智能技术制作深度伪造视频或音频材料，虚构B国密谋针对C国采取先发制人打击，并将这段深度伪造材料故意向C国情报部门秘密透露，就会引发C国的战略误判，迫使其采取对抗手段。在这种情况下，B国也将不得不采取措施予以应对。就这样，一场由A国借助人工智能技术策划的针对B、C两国的恶意情报欺诈就完成了。随着深度合成/伪造技术在军事领域的应用，敌对双方发生误判和冲突升级的风险将会显著增加。03、深度伪造的克星一一深度合成检测技术与深度伪造相对应的，针对深度合成技术进行检测和鉴别就是深度合成检测技术。正如中国工程院院士、信息技术专家郭贺铿提出的那样,“深度合成衍生

9、出的安全问题需从源头解决，以技术规制技术，以魔法打败魔法。深度合成和检测类似猫鼠游戏”，双方都在不断的学习攻防中自我进化，规避上一代对抗技术，因此检测技术需要持续更新与迭代优化。目前深度合成检测技术主要有以下几个方向，均取得了一定研究进展。其一，是基于区块链技术的检测方法。区块链技术通过智能合约和共识机制为数字内容提供安全可信通道，可保证数字内容的完整性和可追溯性。基于区块链技术的深度合成检测方法有望在源头遏制深度合成作品的传播。其二，基于神经网络架构的检测方法。和超分辨率算法的检测方法，通过人脸不同区域和头部位置之间的不兼容性来识别深度合成内容。其三，基于时序特征的检测方法。深度合成视频通常

10、是逐帧伪造再合成的，各帧之间存在时序不一致性，研究人员以此为切入点开展研究，事实证明基于时序特征的深度合成检测算法可行，且对伪造算法和数据集具有较强的泛化能力。此外，还有基于生成对抗网络指纹特征的检测方法。研究人员发现使用生成对抗网络（GAN）生成的图像会留下痕迹，且不同生成对抗网络对应的痕迹不同，此类痕迹可以理解为生成对抗网络的指纹特征。最后，还有基于生理特征的检测方法。研究人员利用A1生成的视频仍不完美的特性，给出利用人脸图像中的对称性、牙齿和眼睛细节等特定特征检测人脸图像是否为A1生成的方法。与此同时，国内外很多机构都对这一技术问题展开了项目研究。例如，2019年5月，Rea1A1与清华

11、大学人工智能研究院联合发布了的人工智能安全平台一一ReaISafe对抗攻防平台，其支持对多种算法和模型进行对抗攻击和防御。ReaISafe平台同时可以提供全面、细致的攻击防御算法的评测与比较，输出安全评测报告。2019年6月，研究人员Archange1利用神经网络和区块链技术，对视频源进行标记并存档，当出现伪造视频时，可以从档案里追溯原始视频。此类方法适合敏感人物视频，例如国家领导人、政客等，防止该类篡改视频的大量传播影响国家安全与国家形象。国外对这一领域的研究也十分引人注目。2018年，美国国防高级研究计划局（DARPA）设立了多媒体取证专项（MediaForensics),美国国家科学技术

12、研究院(N1ST)设立了年度性的多媒体取证竞赛MediaForensCha11engeo美国达特茅期工学院、纽约州立大学、普渡大学、SamHOUStOn州立大学、Drexe1大学、意大利佛罗伦萨大学等研究机构纷纷投入力量开展了多媒体取证的研究。至目前，研究人员提出了一些用于识别与定位伪造多媒体内容的取证技术，与以上内容伪造技术形成了一定抗衡。2018年8月，美国国防部高级研究计划局(DARPA)推出了全球首款检测变脸工具，该工具主要依据deepfake里采用的训练数据大都是睁着眼睛的人脸图像，采用此类数据生成出来的伪造人脸基本缺乏基本的眨眼功能，故该工具采用了1RCN网络模型，对眼部区域的开合

13、程度进行量化分析，从而检测视频中人物的眨眼情况，最终根据此类细节判断视频真假。该工具根据深度合成技术的发展处于不断迭代更新中，如新的深度合成技术已经解决了伪造人脸基本缺乏眨眼动作的缺陷，MediaFOrenSiCS工具也采用了新的识别方法。04、国内外深度合成检测技术的典型产品有哪些？目前，国内外已经出现了一些比较成熟的检测深度合成的产品，具有代表性的有以下几个。一是百度公司开发的百度安全深度合成检测。凭借在深度合成检测上深厚的技术积累，百度安全深度换脸检测平台在人脸伪造大数据中，寻找造假的蛛丝马迹。通过训练深度神经网络模型识别假脸的边缘效应、纹理、肤色变化、分辨率差异、扭曲等特征来鉴别假脸，

14、结合数字图像处理技术，为数据鉴伪工作，提供有力支持。同时，还可以识别声音是否存在伪造的情况，提供合成语音及人声转换检测。该产品可以适用于视频网站、新闻机构、网络论坛和新媒体等多个应用场景。例如，在视频网站场景，可以通过对视频中提取图片的检测，高效识别人脸伪造信息，降低人力审核成本，降低业务违规风险；在新闻机构场景，可以识别机构网站或者资源库中的图片和视频是否存在人脸伪造信息，降低人力审核成本，降低业务违规风险。支持定期检测，也可对上传图片做实时检测；在网络论坛领域，可以识别网络论坛或者资源库中的图片和视频是否存在人脸伪造信息，降低人力审核成本，降低业务违规风险。支持定期检测，也可对上传图片做实

15、时检测；在新媒体领域，能够识别新媒体或者资源库中的图片和视频是否存在人脸伪造信息，降低人力审核成本，降低业务违规风险。支持定期检测，也可对上传图片做实时检测。该产品的功能演示界面如下图：response检测的图片检测结果概览仅支持PNGJPG.JPEG、BMP类0文件.图片大小不超过5M百度安全深度合成检测功能演示status*：Otdescription*:woke,-teta,:(-err-code:0.face_11sf：(eIocatkxi*:-top:87.729188233614.-height*,:112,14742054231.-width-：91.511106666178,-

16、1eft-：307.93475886062).score：,0.9conc1usion”：rr该产品的主要功能特点有以下几点：一是持续领先的检测技术。依托百度安全在深度合成检测方面的丰富技术积累和不断更新的技术能力，保障检测服务的领先能力；二是识别准确率高。假脸识别功能基于深度学习的智能识别技术，拥有海量人脸、图片训练集，准确率行业领先；三是不断维护的数据支撑。深度换脸伪造技术进步日新月异，持续的投入的对抗和检测，积累起海量数据，保障可靠的检测能力。四是灵活的接入方式。支持快速方便的WEBAPI或SDK调用,提供根据业务场景和需求适配的行业解决方案。二是由北京瑞莱智慧科技有限公司开发的DeePReaI。在2023年7月举办的世界人工智能大会期间，瑞莱智慧ReaIAI正式发布了基于第三代人工智能的DeepReaI