透视深度合成技术及其安全影响.docx
《透视深度合成技术及其安全影响.docx》由会员分享,可在线阅读,更多相关《透视深度合成技术及其安全影响.docx(13页珍藏版)》请在第一文库网上搜索。
1、透视深度合成技术及其安全影响导语:人工智能技术快速发展应用既给社会发展带来了巨大机遇,同时也带来了诸多风险,人工智能对国家安全的影响已成为世界各国的重要关切和研究议程。深度合成(DeePSyntheSiS)这一技术近年来也日益受到关注。深度合成可生成人类肉眼无法识别的虚假图像和视频,对个人隐私、网络安全、社会稳定和国家安全等造成了现实威胁。与此同时,针对深度合成的检测和治理成为各国各界热点关注的问题,相应的深度合成检测技术也在快速发展,开展主动技术检测评估工作是防范深度合成技术作恶的必由之路。本文就深度合成技术的发展现状、主要应用及其对安全的影响进行分析考察,供感兴趣的读者参考。01、什么是深
2、度合成技术?深度合成(DeePSyntheSiS)(也叫深度伪造)这一概念最早出现在2017年底,起初是一名为深度伪造(deepfakes)的红迪网(Reddit)用户在网上发布了一段利用名人面孔合成的色情视频,引发各界关注。深度伪造是深度学习(deep1earning)与伪造(fake)二者的组合词,一开始专指用基于人工智能尤其是深度学习的人像合成技术。随着技术的进步,深度合成技术已经发展为包括视频伪造、声音伪造、文本伪造和微表情合成等多模态视频欺骗技术。深度合成背后的支撑技术是深度学习,具体来说主要是生成性对抗网络(GenerativeAdversaria1Network,GAN)和卷积神
3、经网络(Convo1utiona1Neura1Network,CNN)o用于深度学习算法的真实数据或模拟数据越多,合成的视、音频等深度合成产品的逼真程度就越高,在这些假视频和音频中能够让人说现实中没有说过的话、做现实中没有做过的事,甚至达到以假乱真的程度。运用这一技术,可以将一张下载的陌生人的正脸静态人物照片瞬间活起来,根据指令做出相应的眨眼、张嘴、皱眉等精细动作和表情变化,并在短短十几秒内生成流畅视频。早期的换脸视频尚存在微表情不自然面部边缘有锯齿等明显换脸痕迹,但随着技术成熟,深度合成内容已能以假乱真,传统的基于生物特征的鉴别方式越来越难以发挥作用。02、深度合成将会带来什么安全影响?清华
4、大学人工智能研究院等五家单位联合发布的深度合成十大趋势报告(2023)显示,在国内外主流音视频网站、社交媒体平台上,2023年新发布的深度合成(合成)视频的数量较2017年已增长10倍以上,可见深度合成产品正在爆炸式增长。深度合成内容制作与传播数量高速增长2023深度合成十大趋势报告深度合成是一把双刃剑。一方面,它可以用于虚拟偶像、虚拟手语主播、老照片修复、劣迹艺人替换等商业场景,为大众带来新的奇特体验。这一技术在影视、传媒、教育等领域呈现出大量的正向应用,伴随着不断涌现的使用需求,各类商业化产品层出不穷,深度合成内容数量和关注度呈现飞速增长,受众接受度显著提升。尤其是去年元宇宙概念的流行,为
5、深度合成技术提供了更加宽广的应用场景。业内人土称,未来随着自动数据生成、全身合成、3D塑型等技术的逐渐成型,一个新的人类生存场景将以深度合成技术为基石展开。比较有代表性的例子是,深度合成技术帮助修复了志愿军老照片,让大家可以一睹最可爱的人的青春风采和灿烂笑容。此外,在影视制作领域,深度合成技术已成为艺人出现劣迹后的救场工具。电视剧长安十二时辰光荣时代突围等多部作品均使用了该技术,图形计算领域的顶尖技术公司英伟达在2023年就凭借高超的深度合成技术,合成了一个黄仁勋的数字李生版本,展现了数字技术强大的创造力和可能性。此外,这一技术还能用于对深度家庭的疗愈救助。例如,2019年9月,一位母亲向阿里
6、巴巴人工智能实验室求助,希望能将她患癌离世的14岁女儿做成可以交互的软件。3个月后,技术人员帮这位妈妈合成了一段长达20秒的语音存在天猫精灵里,为她提供了失去女儿后感到万分痛苦的疗愈手段。深度合成技术修复志愿军老照片但与此同时,这一技术也给国家安全带来了重大挑战。随着该技术的逐步平民化,不法分子可轻易伪造音频、视频,实施诬陷、诽谤、诈骗、勒索等违法行为,给个人、企业造成声誉损害和财产损失,乃至给社会秩序、国家安全造成严重威胁。德国研究团队就利用这一技术制作出了包括普京、小布什等国家首脑的假视频。美国国会也专门就深度合成技术的影响举行听证会,表明深度合成技术引发多方高度关注。2023年10月,安
7、徽合肥警方曾查获一起非法利用深度合成技术伪造手机用户人脸动态视频破解身份核验,为黑灰产业提供注册虚拟手机卡等技术支撑的案件。其他类似事件开始更多的进入公众视野。2023年,山东省公安厅网络安全总队公布了几个利用深度合成技术实施诈骗的案例。某公司财务接到领导电话要求立刻给供应商转款两万元,并将转账信息以邮件形式发送到对方邮箱。由于电话中老板的口音十分逼真,公司财务毫不怀疑地在一小时内完成了转账。不难预见,一旦这一技术进入军事应用领域,将会使得战争迷雾变得更加扑朔迷离。兵者,诡道也。敌对双方可能会运用这一技术进行战略、战术诱骗,给战争增添更多的不确定因素。与此同时,这一技术也为煽动敌对国家间的军事
8、冲突提供了新途径。例如,A国雇佣代理黑客使用人工智能技术制作深度伪造视频或音频材料,虚构B国密谋针对C国采取先发制人打击,并将这段深度伪造材料故意向C国情报部门秘密透露,就会引发C国的战略误判,迫使其采取对抗手段。在这种情况下,B国也将不得不采取措施予以应对。就这样,一场由A国借助人工智能技术策划的针对B、C两国的恶意情报欺诈就完成了。随着深度合成/伪造技术在军事领域的应用,敌对双方发生误判和冲突升级的风险将会显著增加。03、深度伪造的克星一一深度合成检测技术与深度伪造相对应的,针对深度合成技术进行检测和鉴别就是深度合成检测技术。正如中国工程院院士、信息技术专家郭贺铿提出的那样,“深度合成衍生
- 配套讲稿:
如PPT文件的首页显示word图标,表示该PPT已包含配套word讲稿。双击word图标可打开word文档。
- 特殊限制:
部分文档作品中含有的国旗、国徽等图片,仅作为作品整体效果示例展示,禁止商用。设计者仅对作品中独创性部分享有著作权。
- 关 键 词:
- 透视 深度 合成 技术 及其 安全 影响