多无人系统协同中的人工智能安全探索.docx

《多无人系统协同中的人工智能安全探索.docx》由会员分享，可在线阅读，更多相关《多无人系统协同中的人工智能安全探索.docx（16页珍藏版）》请在第一文库网上搜索。

1、多无人系统协同中的人工智能安全探索目录编者按2?前言22 .无人系统概要33 .无人系统发展历程31. 1.国外无人系统发展历程33. 2.我国无人系统发展现状4?统筹推进多无人系统协同赋能应用与风险防控意义重大5?多无人系统协同研究持续高速发展的重要抓手5?不断增强我国军事实力的有效途径5?提升我国社会安全保障水平的关键前提5?实现未来高度智能化社会建设的必然要求5?多无人系统协同安全发展概况6?多无人系统协同面临的挑战7?内生安全86.1.1.前述8?通信与交互安全8?协同决策与集群演化算法安全9?系统架构安全9?衍生安全106.2.1.前述10?公共安全10?伦理安全10?军事安全11?

2、”四位一体”全面推进多无人系统协同安全发展11?推进无人系统的安全生态建设12?推进无人系统的先进技术建设12?推进无人系统的法律规范建设13?推进无人系统的社会伦理建设138.多无人系统协同控制技术面临的挑战及应对方法131. 1.多无人系统协同控制面临的挑战138. 2.面向挑战的具体应对方法148.2.1.智能指挥与决策148.2.2.分布式协同控制158.2.3.协同的故障监测和诊断158.2.4.共享控制16?对策建议16?构建国家级无人系统验证平台，推动人才队伍建设16?逐步深化无人系统产业“放管服”，发展新一代人工智能安全生态16?充分发挥多无人系统协同的优势，赋能应用17编者按

3、多无人系统协同可以将在空间上分布的无人系统有机连接起来，实现多系统在时间、空间、模式、任务等多维度上的有效协同，最终形成目标探测、跟踪识别、智能决策、自主控制和效能评估的完整链条。多无人系统协同在给社会创造价值的过程中，也会带来着诸多安全隐患，特别是在军事作战、产业升级、政府监管、社会治理以及伦理等多个方面将给国家安全带来新的挑战。本文阐述了统筹推进多无人系统协同赋能应用与风险防控的重大意义，提出了“四位一体”全面推进多无人系统协同安全发展的战略思路，探索了多无人系统协同在内生安全和衍生安全层面潜在的挑战与应对思路。就智能无人系统安全，文章建议，构建国家级无人系统验证平台，推动人才队伍建设；逐

4、步深化无人系统产业“放管服”，发展新一代人工智能安全生态；充分发挥多无人系统协同的优势，赋能保障和改善民生，服务构建人类命运共同体。前言智能无人系统种类多样，覆盖海陆空不同空间，正在全面深入国家安全和社会生活各领域，并推动新一轮产业变革和相关技术高度集成。多无人系统协同作为一项人工智能的颠覆性技术，将在空间上分布的无人系统有机连接起来,实现多系统在时间、空间、模式、任务等多维度上的有效协同，最终形成目标探测、跟踪识别、智能决策、自主控制和效能评估的完整链条。伴随着技术水平的不断提升，多无人系统的使命任务将不断拓展，将极大地改变日常生活方式和军事作战方式。多无人系统协同在给社会创造价值的过程中存

5、在着诸多安全隐患，如无人车的交通事故，无人机的扰航、恐怖袭击，机器人造成工人失业等。多无人系统协同可能将在军事作战、产业升级、政府监管、社会治理以及伦理等多个方面给国家安全带来新的挑战。目前，国内多无人系统协同的研究仍处于起步阶段，其基础理论框架对未来无人系统发展和技术突破起着至关重要的作用。因此，本文针对这一空白领域展开前瞻研究，旨在揭示多无人系统协同中人工智能安全的重要意义，针对相应问题提出对策建议，以期为我国无人系统安全发展提供参考。2 .无人系统概要无人系统由单个无人平台或多个无人平台构成，能够自主或通过远程操控完成指定任务，该系统高度融合机械化、信息化和智能化平台形成智能无人系统，包

6、括单个的无人飞行器、无人车辆、无人舰船、无人潜器等典型对象。多机器人、多运动体以及多系统之间的协同操作将分布式的多无人平台连接起来,形成一个基于网络空间有机联系的复杂系统。这个复杂系统能够实现时间、空间、模式和任务等多维度的有效协同，最终形成对目标的探测、跟踪、识别、智能决策和行为及评估的完整的链条，我们称之为多系统协调能力。3 .无人系统发展历程3.1. 国外无人系统发展历程早在上世纪30年代美国发明了第一款地面无人爆破车辆，之后，地面无人系统呈现一个螺旋式的发展趋势。截至2010年9月，美军在伊拉克跟阿富汗战场上一共投入了大量的地面无人作战平台，完成了多项作战任务。整个战争过程中，暴露出协

7、同问题主要有三个：指挥无序、故障频发、控制不利。之所以存在这一类问题，是由于多运动体与运动平台之间缺乏协同控制和优化的有效机制。有人/无人间的有效协同，将成为未来地面战争主要的模式。截至2013年美国已经完成开放式架构体系的开发。美国的有人、无人系统的协同，前期经历了从有人到无人的遥控、有人无人协同阶段，目前正处于开展全自主协同的研究阶段。1916年3月美国推进了分群式的无人机研究，即多个无人机能够协同飞行作业；2017年3月美国的相关部门启动终身学习机器项目，以推动人工智能机器人在实际行动中的应用；2017年6月，美国在“真北”的神经元系统上研究开发类脑超算系统；2017年12月，美国开始研

8、究人工智能芯片，提出通过将人工智能芯片植入到大脑以改变人的基本情绪的设想；2018年3月，美国无人机项目采用谷歌人工智能技术来提高无人机识别精度2018年4月25日，美国在未来地面人机组合计划中，专门研究了机器人和人工智能如何与人类协同行动问题。2015年12月，俄罗斯亮相了天王星9无人车辆系统，通过有人和无人协同作战击毙了70余名武装分子并占领阵地，这个战争被视为有人和无人协同作战系统中协同作战的一个典范。在智能交通中，有人/无人协同可以提高无人车的自主性、安全性，这也是目前无人车研究的一个重要发展方向。谷歌公司已经有50辆智能车安全行驶了20万公里，截至2018年1月，美国全境有40多家企

9、业拿到了无人车的上路牌照。目前有4个州通过了有关的允许无人车上路的法律，驾驶无人车已经成为一个势不可挡的重要发展趋势。据预测，到2035年，全球无人车的销售量将达到1200万辆，其中有相当的数量将在中国销售，由此多车之间的协同将成为无人车的一个主要的运营模式。基于多车协同的新运营模式，值得思考的是今后的交通设施是否还需要像现在这样的红绿灯管控，是否需要靠左行驶，是否需要学习驾驶车辆，如何来界定事故责任等的一系列问题。3.2.我国无人系统发展现状目前，我国在智能化无人系统方面进行了大量研究工作。2018年3月，中央电视台首次公布了无人行动系统的实验室。同年5月，电科集团有200架固定翼编程的无人

10、机进行飞行，虽然目前仍停留在编程飞行过程中，但是成功实现了小型窄翼、折叠翼无人机双机低空的投放和模态转换的试验。我国在人工智能2.0的研究规划中，将自主式智能无人系统作为人工智能发展的一个重要内容，其中人工智能2.0的八大基础理论研究之一，就有智能无人系统自主协同控制优化与决策的方法；自主无人系统的智能技术成为八大关键技术之一；同时，自主智能无人系统支撑的平台成为五大基础支撑平台之一。我国智能化无人系统关键技术的发展路线图，描绘了各个相关的技术领域在每个阶段的发展水平，分别按照智能无人系统、智能自主控制等六个等级进行划分。?.统筹推进多无人系统协同赋能应用与风险防控意义重大?.1.多无人系统协

11、同研究持续高速发展的重要抓手2017年7月，国务院印发的新一代人工智能发展规划阐释了人工智能新时代战略的丰富内涵，这为我国多无人系统中人工智能安全改革指明了方向，进一步明确了中长期发展的目标。我国人工智能新时代战略实施以来迎来了很大起色，但关于多无人系统中的人工智能安全问题仍未给出明确解决方案。寻找各项问题解决方案，立足安全基础，推进多无人系统的稳步发展，有利于多无人系统人工智能落地。?.2.不断增强我国军事实力的有效途径军事实力是综合国力最直接的体现，在多无人系统广泛应用于军事领域的背景下，其安全问题的重要性更加突出。一方面，越来越多的国家研发出了智能化武器，实现多无人系统协同作战的能力越来

12、越强，未来的战争将由多无人系统协同作战主导；因此，在智能化战争中如何保证领土主权和国土安全具有重要意义。另一方面，在智能化战争中多无人系统自身的防护同样具有重要意义，如何保证自身系统的安全、保证数据不泄露、控制权在手、遭遇打击仍能完成任务是目前多无人系统研究的一大课题。?.3.提升我国社会安全保障水平的关键前提人工智能安全是关系到我国经济社会发展的时代性、战略性问题。多无人系统协同将广泛应用于工业、农业、经济和国防领域，对国家安全也会带来深刻变革。由于多无人系统滥用门槛低，容易被极端组织和犯罪团伙利用，管理难度远大于从前。加强人工智能新时代多无人系统立法，形成数据、模型、应用等一系列相关的法律

13、、法规，完善人工智能使用标准的制定，有助于带动国家整体社会安全保障水平的提升。?.4.实现未来高度智能化社会建设的必然要求传统无人系统目前已应用于社会的智能化建设，如智能快递分拣、无人超市、交通违章识别等，节省了大量的人力。未来，多无人系统协同的广泛应用将会在更大程度上保障和改善民生。但相较于传统无人系统，应用具备通信和交互能力的多无人系统可能会引发更加严重的公共安全、伦理安全等问题。因此，重点加强多无人系统应用中的问题研究和风险防范至关重要，只有处理好上述问题，才能确保多无人系统在未来能够安全可靠地为社会做出贡献，推动我国新一代人工智能健康发展。?.多无人系统协同安全发展概况随着多无人系统协

14、同理论体系的成熟，相应的产品与应用呈现出迅猛发展的势头。从应用领域的角度，多无人系统产品主要包括无人车集群，无人机集群和无人船集群。无人车集群不但能够将各类车辆的驾驶人员解放出来，极大地减轻汽车驾驶员的工作量，还能够通过智能优化算法合理安排道路资源，缓解交通压力，并减少道路交通安全事故的发生。无人机集群的应用则涵盖了军事上的攻击、骚扰、侦查任务以及民用的灾害救援、监控巡查、环境监测、农业植保等领域。无人船集群则主要用于执行危险、枯燥以及其他不适于有人舰艇执行的任务，包括水质监测、航道测绘、海上巡逻等。相较于传统的有人系统，多智能体系统具有多方面优势，包括更低的操作门槛，更低的运维成本，更广泛的

15、应用领域，更稳定的运行状况，更高效的资源分配等。在军事上，多无人系统更是能够极大程度地保障操作人员的安全，减少人员的伤亡，在进攻端还能够利用其数量优势形成长距离、大范围、高精度的饱和式打击，甚至有可能改变现代战争的模式。随着多无人系统的飞速发展，很多发达国家目前正积极推进智能多无人系统安全框架研究以及法案的制定。美国在多无人系统中的人工智能安全方面的研究以及政策发布非常频繁，2019年6月，美国更新了国家人工智能研究和发展战略计划，将人工智能系统安全列为战略目标之一；2023年1月发布的人工智能应用监管指南备忘录（草案）提出了人工智能十项监管原则；2023年3月通过的2023年国家人工智能计划法案支持对无人系统的道德、法律、社会等安全问题展开研究；2023年11月更新的人工智能和国家安全中详细写明了智能多无人系统在军事上的发展与伦理安全问题。欧盟方面同样在智能无人系统安全上展开了积极研究以及政策制定，欧盟各成员国都纷纷出台法律法规以规范无人机运行。法国自2019年7月起规定无人机必须注册电子账号；德国规定所有无人机必须在机身刻上所有者的姓名与地址；英国把机场附近的无人机禁飞区半径从原来的Ikm增加到5