人工智能的风险挑战、竞争与治理.docx
《人工智能的风险挑战、竞争与治理.docx》由会员分享,可在线阅读,更多相关《人工智能的风险挑战、竞争与治理.docx(21页珍藏版)》请在第一文库网上搜索。
1、人工智能的风险挑战,竞争与治理目录前言11 .认识人工智能的技术、应用和扩散风险21.1. 技术层面的数据和隐私安全风险21.2. 应用层面的人工智能军事化风险21.3. 扩散层面的人工智能滥用风险32 .人工智能发展带来竞争和监管挑战41. 1.人工智能领域的技术竞争42. 2.人工智能领域的军备竞赛52. 3.人工智能领域的监管问题6?ChatGPT的AIGC技术代表着人工智能的历史性突破7?横空出世的ChatGPT7?AIGC技术的突破7?人工智能质的飞跃9?ChatGPT预示了人工智能的未来I1?人工智能正带来一次新的工业革命11?人工智能发展是人类对自身局限挑战的最高阶段11?人工智
2、能将推动大脑和其他身体机能整合式扩展13?ChatGPT对生活的改变和人工智能对社会的冲击14?ChatGPT的不利的影响15?人工智能带来就业困境和新的社会不平等16?人工智能技术的风险18?人工智能社会的治理207.对人工智能治理的思考221. 1.加强人工智能的敏捷治理227. 2.强化多利益攸关方的治理参与238. 3.建立行之有效的国际治理机制24前言美国OPenA1公司2023年发布的生成式人工智能(AIGC)产品ChatGPT,凭借拥有高质量文本内容的输出能力,能够精确、高效地完成分析、翻译、撰写代码等工作,引发了广泛关注。大国在人工智能的赛道上已经展开了激烈的角逐,以便抢占未来
3、新兴技术的制高点和主导权。尽管此类人工智能应用能够为社会工作带来极大的帮助,但是,在这背后,人工智能技术的发展和应用所带来的安全风险同样成为国际社会关注的焦点话题。可以说,人工智能的颠覆性特征及其发展现状凸显了监管和治理的紧迫性。因此,在保障人工智能健康稳定发展的同时,更加需要认知其带来的风险,并思考人工智能治理的路径和措施。1 .认识人工智能的技术、应用和扩散风险随着人工智能技术的突飞猛进,各界对人工智能的关注度也日益提升,尤其是人工智能的颠覆性作用以及由此而来的安全风险,引发多方探讨。当前,人工智能的安全风险可以概括为技术、应用和扩散三个方面。1.1. 技术层面的数据和隐私安全风险人工智能
4、技术的进步很大程度上得益于数据挖掘技术的进步。人工智能算法的实现是通过对数据进行挖掘、训练和学习,使人工智能模型能够做出更加精准的分析和决策。然而,在数据隐私安全方面,人工智能既存在算法“黑箱”的缺陷,也存在虚假数据和数据泄露的问题。首先,算法“黑箱”是指用户可以获得人工智能提供的相应信息,而无法知晓算法内部的运转机制。因此,算法往往在用户面前是不透明的,用户也就无法确认算法机制是否存在偏见、错误及其他安全问题。其次,虚假数据容易引发人们对人工智能的担忧。训练人工智能模型的数据集来源存在虚假的可能,而这类数据会对算法造成影响,从而导致人工智能模型在开展分析和决策时得出错误的结果。再次,由于人工
5、智能需要不断地对数据进行学习,客观上意味着对数据安全提出了更高的要求。数据在政府部门、企业及第三方机构之间的存储和流动是数据安全的关键。在此过程中,网络攻击、设备毁坏、人员操作不当等都容易造成数据泄露,因此会给国家和企业带来严重的安全风险。1.2. 应用层面的人工智能军事化风险任何技术创新往往都具有“双刃剑”的特性,新技术的突破更是离不开其在军事领域的首先应用。互联网最早起源于美国的阿帕网,被率先运用于军事部门,目的是加强部门间军事信息的交流与共享。人工智能作为新的两用技术,具有显著的颠覆性特征,通过智能化的态势感知、战场情报分析、辅助决策和自主武器系统的使用,能够对战争造成非对称的影响。这种
6、鲜明的特性能够以较低的代价获得更高的收益,从而使武装力量更加推崇和依赖人工智能技术。尽管人工智能的军事化应用存在颠覆性的特征,但是它还可能引发误伤平民和非军事目标的人道主义风险、人工智能系统稳定性风险以及加剧持续冲突的战略风险。值得注意的是,即便如此,在人工智能发展的关键技术上,任何一方都不想处于受制于人的局面,故而,各方都不断加大人工智能研发投入。因此,人工智能的军事化应用或许会引发该领域的军备竞赛,具有陷入“安全困境”的风险。1.3. 扩散层面的人工智能滥用风险从目前情况看,生成式人工智能取得了较大的发展,尤其是类似ChatGPT这样的人工智能应用具有很强的便利性,可以使个人用户通过网络连
7、接接入,从而增加了不同地区用户使用该程序的数量。尽管人工智能技术的扩散会提高生产生活效率,但是,更需要注意的是这类技术被非国家行为体滥用和非法使用问题。美国智库中东媒体研究所(MEMRI)针对其国内恐怖主义威胁监测(DTTM)项目发表了报告全球新纳粹和白人至上主义者都关注人工智能一一政府予以关注的新的国家安全威胁一一其目的包括招募人员、骚扰少数群体和犯罪活动,包括黑客攻击银行、推翻政府、攻击基础设施、促进游击战和使用大规模杀伤性武器(Neo-NazisAndWhiteSupremacistsWor1dwide1ookToArtificia1Inte11igence(AI)-ANationa1S
8、ecurityThreatInTheMakingToWhichNoGovernmentIsPayingAttention-ForPurposesSuchAsRecruitmentjHarassingMinorities,AndCrimina1Activityinc1udingHackingBanks,OverthrowingGovernment1AttackingInfrastructurefPromotingGueri11aWarfare,AndUsingWMDsJo报告显示,世界各地的新纳粹分子、白人至上主义者和其他极端分子正在使用人工智能工具,达到实施犯罪活动目的。其中,报告提到,极端分
- 配套讲稿:
如PPT文件的首页显示word图标,表示该PPT已包含配套word讲稿。双击word图标可打开word文档。
- 特殊限制:
部分文档作品中含有的国旗、国徽等图片,仅作为作品整体效果示例展示,禁止商用。设计者仅对作品中独创性部分享有著作权。
- 关 键 词:
- 人工智能 风险 挑战 竞争 治理