依法推动深度合成技术向上向善.docx

《依法推动深度合成技术向上向善.docx》由会员分享，可在线阅读，更多相关《依法推动深度合成技术向上向善.docx（4页珍藏版）》请在第一文库网上搜索。

1、依法推动深度合成技术向上向善【资政场】随着人工智能技术不断迭代演进，网络治理面临新课题、新挑战。习近平总书记高度关注人工智能技术发展，强调“要加强人工智能发展的潜在风险研判和防范，维护人民利益和国家安全，确保人工智能安全、可靠、可控”，“建立健全保障人工智能健康发展的法律法规、制度体系、伦理道德”。人工智能技术的广泛应用，在促进数字经济与数字社会迅猛发展的同时，也带来风险与挑战。如深度合成技术若遭非法滥用，不仅会侵害公民人身权益与财产安全，还会污染网络生态环境、危及国家网络安全。因此，需要以法治方式筑牢信息安全屏障，确保人工智能技术在法治轨道上健康发展。深度合成技术安全风险急需立法回应2023

2、年我国人工智能核心产业规模达5080亿元，同比增长18%,跻身国际领先行列。深度合成技术是人工智能领域一项前沿技术，不仅包含了深度伪造技术，也泛指所有A1生成算法和涵盖自动生成图像、视频、语音、文本、音乐等内容的人工智能合成技术。其中深度伪造技术借助人工智能技术，通过深度学习对生物识别信息、音频或视频等进行修改和创造，能高度还原一个人的样貌、声音、动态，甚至能以假乱真，有被滥用的风险。实际上，目前也已出现通过深度伪造技术进行诈骗的案例。人工智能的生态环境与安全治理，是构建网络空间命运共同体的重要环节。为防范人工智能发展的潜在风险，各国日益重视人工智能深度合成技术的法律规制。美国通过平台审查、技

3、术对抗、法律监督形成自下而上的治理路径，先后提出了多部与深度伪造有关的法案。欧盟则将深度伪造视为对生物识别信息的滥用，运用通用数据保护条例加以规制，并发布反虚假信息行为准则，通过行业自律、提升人工智能安全素养、加强人工智能伦理治理等协调欧盟各成员国参与治理。对人工智能深度合成技术安全风险进行立法回应，已经成为包括中国在内的许多国家的共识。规制深度合成技术应用的中国方案党的十八大以来，我国网络安全和信息化事业取得重大成就。网络安全和信息化工作始终坚持党管互联网，坚持网信为民，走中国特色治网之道，统筹发展和安全，筑牢国家网络安全屏障。针对人工智能技术应用潜在风险的防范，我国以多部门立法相结合的方式

4、作出积极回应。在法律层面上，民法典第1019条的规定为深度伪造技术的图像和视频应用划定红线。在规章层面，网络音视频信息服务管理规定网络信息内容生态治理规定等规范性文件相继制定，规定了服务提供者对深度合成的音频或视频的显著标识义务。今年年初施行的互联网信息服务深度合成管理规定是我国最具系统性、针对性、可操作性的第一部规制深度合成的专门立法。该法规定在深度伪造技术应用中，利用生物识别信息编辑的，应取得信息主体的单独同意；提供智能对话、合成人声、人脸生成、沉浸式拟真场景等生成或者显著改变信息内容功能的服务的，应当进行显著标识，避免公众混淆或者误认。深度合成管理规定的出台，开启了对深度合成技术全方位立

5、法治理的时代。近日颁布的生成式人工智能服务管理暂行办法，是我国首部全面监管生成式人工智能的立法文件。该法一方面划定不得生成违法内容、防止歧视、尊重知识产权和他人合法权益的法律底线；一方面鼓励创新发展，对生成式人工智能服务实行包容审慎和分类分级监管。这两部规章的实施，不仅为我国人工智能深度合成技术健康发展提供了重要法制保障，而且所采用的由监管机构全面监管、预先遏制新技术潜在安全风险的开创性治理路径，为全球人工智能治理提供了中国方案、贡献了中国智慧。构建规制深度合成技术应用法律体系加快发展数字经济，贯彻落实国家发展新一代人工智能的决策部署，提升人工智能安全治理能力，应坚持以人民为中心的人工智能治理

6、理念，结合民法、行政法、刑法等多法律部门，构建多维度、全方位的法律规范体系，切实规制深度合成技术应用，推动科技向善，发展负责的人工智能。在人工智能立法方面，各地相继出台新规，国家层面的人工智能立法也在提速。笔者认为，对深度合成的规制应纳入人工智能治理框架，重视深度合成技术的算法治理，提升区块链溯源防伪和反向破解技术，对人工智能应用生物识别信息提出严格限制。在个人信息保护方面，在利用生物识别信息深度伪造的场景中，信息处理者应取得信息主体的单独书面同意，切实履行“通知一删除”义务、“发现一删除“义务以及“发现一标记”义务。在民法保护方面，对生物识别信息应采用权利保护模式，信息主体有证据证明行为人非法利用生物识别信息进行深度伪造的，有权立即申请人格权侵害禁令，责令停止侵害，屏蔽、删除A1换脸记录。在行政立法方面，应提升深度合成专门立法的法律位阶，落实数字平台的主体监管责任，强化问责机制与惩罚性赔偿责任。在刑事立法方面，可考虑对以深度伪造技术为犯罪工具窃用他人身份的犯罪行为设定新罪名；适度降低应用深度伪造技术进行侮辱、诽谤或危害国家安全等犯罪行为的入罪门槛，适用法定刑升格；加大惩治信息网络犯罪力度，有效维护清朗网络空间。（作者：吴文嫔，系北京市习近平新时代中国特色社会主义思想研究中心特约研究员、北京交通大学法学院教授）（2023年）