人工智能军事应用的“能”与“不能”.docx

《人工智能军事应用的“能”与“不能”.docx》由会员分享，可在线阅读，更多相关《人工智能军事应用的“能”与“不能”.docx（15页珍藏版）》请在第一文库网上搜索。

1、人工智能军事应用的“能”与不能”目录编者按21 .人工智能的军事应用有何不足?22 .英媒分析人工智能的军事应用及其风险52.1.概述52.2.人工智能基本情况62.3.人工智能的军事应用62.3.1.远程工作62.3.2.情报监视侦察62.3.3.流程自动化72.3.4.网络战72.3.5.电子战72.3.6.指挥控制与决策辅助72.3.7.自主车辆与军用机器人72.3.8.蜂群72.3.9,致命性自主武器系统(1AWS)72.3.10.信息战82.4.英国军事人工智能发展情况82.5.潜在风险82.6.小结93.人工智能在军事应用中的风险和漏洞93.1.概述93.2.对抗性方法103.2.

2、1.投毒103.2.2.逃避113.2.3.逆向工程123.2.4.推理攻击133.3.对大国竞争的启示143.3.1.数据不对称143.3.2.开发能力143.3.3.人工智能只是一种工具144.人工智能军事应用的“三能三不能”154.1.能颠覆战争形态，但不能改变战争本质154.2.能辅助人类决策，但不能完全取代人类154.3.能成为战争主导技术，但不能包办战争全部技术16编者按人工智能在军事领域的应用，是推动军事技术进步和军事革命演进的重要力量，是改变作战样式和颠覆战争形态的关键推手。在人工智能军事应用的热潮中，必须审慎思考谋后而定，深刻认识人工智能军事应用的技术枢纽作用，辩证看待人工智

3、能军事应用的功能边界，准确把握人工智能的“能”与“不能”，既要反对鄙薄论，也要反对万能论，全面客观厘清人工智能军事应用的“能”与“不能”，努力在人工智能军事应用中抢占先机、赢得主动、体系发展、跃升突破。1. 人工智能的军事应用有何不足？1)人工智能军事应用的脆弱性和不确定性主要就体现在人工智能的机制机理上。人工智能大概分三大门派：1.1) 一是以模仿大脑皮层神经网络及神经网络间的连接机制与学习算法的联结主义(ConneCtioniSm),主要表现为深度学习方法，即用多隐层的处理结构处理各种大数据；1.2) 二是以模仿人或生物个体、群体控制行为功能及感知动作型控制系统的行为主义(ACtiOniS

4、m),主要表现为具有奖惩控制机制的强化学习方法，即通过行为增强或减弱的反馈来实现输出规划的表征；1.3) 三是以物理符号系统(即符号操作系统)具有产生智能行为的充分必要条件假设(NeWe1IandSimOn,1976)和有限理性原理为代表的符号主义(Symbo1icism),主要表现为知识图谱应用体系，即用模拟大脑的逻辑结构来加工处理各种信息和知识。正是由于这三种人工智能派别的取长补短，再结合蒙特卡洛算法(两种随机算法中的一种，如果问题要求在有限采样内，必须给出一个解，但不要求是最优解，那就要用蒙特卡罗算法。反之，如果问题要求必须给出最优解，但对采样没有限制，那就要用拉斯维加斯算法)使得特定领

5、域的人工智能系统超过人类的智能成为了可能，如IBM的Waston问答系统和Deepmind的A1phaGo围棋系统等。尽管这些人工智能系统取得了骄人的绩效，但仍有不少缺陷和不足之处，而且还有可能产生很大的隐患和危险。2）其次，对于行为主义中的增强学习，它的优点是能够根据交互作用中的得失进行学习绩效的累积，与人类真实的学习机制相似。该方法最主要的缺点是把人的行为过程看的太过简单，实验中往往只是测量简单的奖惩反馈过程，有些结论不能迁移到现实生活中，所以往往外部效度不高。还有，行为主义锐意研究可以观察的行为，但是由于它的主张过于极端，不研究心理的内部结构和过程，否定意识的重要性，进而将意识与行为对立

6、起来，进而限制了人工智能的纵深发展。3）最后是符号主义及其知识图谱，符号主义属于现代人工智能范畴，基于逻辑推理的智能模拟方法模拟人的智能行为。该方法的实质就是模拟人的大脑抽象逻辑思维，通过研究人类认知系统的功能机理，用某种符号来描述人类的认知过程，并把这种符号输入到能处理符号的计算机中，就可以模拟人类的认知过程，从而实现人工智能。可以把符号主义的思想简单的归结为“认知即计算”。从符号主义的观点来看，知识是信息的一种形式，是构成智能的基础。知识表示、知识推理、知识运用是人工智能的核心，知识可用符号表示，认知就是符号的处理过程，推理就是采用启发式知识及启发式搜索对问题求解的过程，而推理过程又可以用

7、某种形式化的语言来描述，因而有可能建立起基于知识的人类智能和机器智能的同一理论体系。目前知识图谱领域面临的主要挑战问题包括：1）知识的自动获取；2）多源知识的自动融合；3）面向知识的表示学习；4）知识推理与应用。符号主义主张用逻辑方法来建立人工智能的统一理论体系，但却遇到了“常识”问题的障碍，以及不确知事物的知识表示和问题求解等难题，因此，受到其他学派的批评与否定。对于人工智能军事应用而言，智能化作战要素可简单概括为“人”“武器”和“谋略”，三者之间的统筹结合是影响战争胜负的关键。历史上每一次变革都促使“人”与“武器”结合得越来越紧密。然而，人工智能的内涵与核心是使机器具有近似于人的思维和能力

8、，即让“武器”具备“人”的“谋略”能力。因此，智能化作战的突出特征就是智能自主，其脆弱性和不确定性也就表现在这些方面：1）自主感知战场态势还较弱。好的军事感知系统可以多维度空间的探测、侦察、扫描、感知等智能化新型技术手段为基础，自动分析获取敌方、我方和友方兵力部署、武器装备、兵力运用和战场环境等信息，自主形成战场态势分析图。但是理想很丰满，现实却很骨感，包括最先进的美军在这方面差距也很大。2）自主交互作战规划不完备。根据作战指挥员的意图，以战场情报信息为基础，自行设计并提供多套作战方案或行动计划，供作战指挥员灵活选择，同时，进行战场态势判断，提出作战方案并验证方案的可行性。而实际上，这方面的技

9、术应用对于指控人员而言，常常是“只有苦劳，没有功劳”的抱怨，原因是人机往往失配。3）自主规划作战任务不可解释。理想的无人作战系统能够围绕筹划阶段的决心方案，自主研究生成作战行动总体计划和分支计划，并围绕实施阶段的动态决心，自主完善原有作战计划或进一步生成更为可行的作战计划。其具有根据全程动态，自主设计生成作战计划，并有自主循环验证作战计划的能力。但是当算法复杂到一定程度时，这些理想状态就会生成许多矛盾，变得无法说明。4）自主评估作战效果还得不到保障。目前.，各国在战场毁坏评估方面还存在一些问题，较难获得高精度、实时性毁伤评估信息。有人无人作战单元完成打击任务后，自主对打击效果信息进行采集整理、

10、分级分类，同时基于大数据分析比对，评估毁伤效果，并依据效果规划制定下一轮打击决策。这将从根本上解决目前主要靠抵近侦察进行毁伤效果评估的困难局面，但是对此还没有好的解决办法。现在的自主为什么说是“伪自主”？原因是其底层的技术架构：机器学习和大数据处理机制局限所致。无论行为主义的强化学习、联结主义的深度学习，还是符号主义的专家系统都不能如实准确地反映人类的认知能力，比如直觉、情感、责任、价值、荣誉等。目前国内外的军事智能化本质上都还是自动化或高级自动化（加了统计概率的自动化）的基本框架（即大数据、智能、移动、云计算的混合），没有充分挖掘实时开放、强对抗性和不确定性战场环境下人、机、环境之间相互作用

11、的本质特征、机理及其对未来作战方式、战略战术的影响。在真实环境中往往不能充分发挥人和机器智能各自的优势，在人机混合系统的输入端割裂了数据/信息/知识整合输入，处理过程中阻断了公理/非公理混合推理、输出方式离散了直觉/逻辑联合决策。简单地说，就是没有形成一套完整的以深度态势感知（包括事实与价值）为决策中心的指控系统和人、机、环境关联耦合的人机融合智能基础科学理论体系。单纯的人工智能军事应用未来的前景具有上述的脆弱性和不确定性，所以前景不容乐观，如何克服这些弱点和缺点，目前世界各国都在抢占这个技术制高点，我们也不能束以待毙，形成良好的人在环的军事人机环境融合智能化将是一个大趋势。古有的孙子兵法之谋

12、略，近有战争论之战术，未来的可能为人机环境系统融合之思想。人有道，机有器。智能讲看得见的得失（机“器”过程）、多少（事实大小），智慧讲看不见的有无（人“道”方向）、是非（价值比较）。正可谓：未来的博弈态势中除了天时、地利、人和之外，还应有“机辅”。智能包含科学，智能创造了科学，科学只是智能的一个部分-科学智能。2. 英媒分析人工智能的军事应用及其风险2.1) 概述2023年12月7日，英国无人机战争网站发布报告称，人工智能备受各国军事部门青睐，在军事领域得到广泛应用。但是，军事人工智能系统也存在一定的潜在风险。鉴于英国所面临的安全挑战与其他大国不同，应当回避人工智能有关风险，另辟蹊径以维护国家

13、安全。2023年12月7日，英国无人机战争网站发布报告称，人工智能备受各国军事部门青睐，在军事领域得到广泛应用。但是，军事人工智能系统也存在一定的潜在风险。鉴于英国所面临的安全挑战与其他大国不同，应当回避人工智能有关风险，另辟蹊径以维护国家安全。3. 2.人工智能基本情况英国政府将人工智能描述为“能够执行需要人类智慧才能完成任务的技术，如视觉感知、语音识别和语言翻译等”。人工智能系统具有学习或适应新信息的能力。由于人工智能系统通过识别数据集内的统计关系来工作，常用于处理以下问题：1）自动化任务；2）处理复杂或大型数据集；3）预测行为；4）标记异常情况或感兴趣事件；5）数据标记和错误纠正。人工智

14、能速度快、善于处理大型复杂数据集、以及准确执行重复性任务的特点，奠定了其在军事领域中的作用。军事部门比较感兴趣的人工智能属性包括：1）快速分析和行动；2）大型简单任务的自动化；3）机器人与自主系统；4）识别模式以预测未来趋势或检测异常；5）对目标和信号进行分类与识别；6）系统优化；7）改进决策质量。4. 3.人工智能的军事应用5. 3.1.远程工作机器人和自动化系统可代替人类执行“枯燥、肮脏或危险”的军事任务。自主技术可以执行爆炸物探测与处理、海上或陆上扫雷行动，在敌对环境中进行侦察等任务。6. 3.2.情报监视侦察情报收集汇集了大量数据，包括文本文件、视频和图像、电子拦截信息以及互联网开源信

15、息。人工智能已经在处理和分析这些数据方面发挥作用。2.3.3.流程自动化通过应用人工智能，可将军事部门的人事、后勤、财务和会计等日常工作流程自动化，在提高工作效率的同时，让工作人员处理其他更复杂的事务。2.3.4.网络战人工智能系统可以主动识别可疑活动并实时应对网络攻击。通过扫描可疑的行为模式以及潜在的恶意代码，人工智能系统可以发现表征新型网络威胁的信号。此外，人工智能也可以参与进攻性的网络作战，例如用来识别网络防御的薄弱点，或者设计新型恶意软件。2.3.5.电子战人工智能的支持者认为，人工智能在电子战的所有要素中都可以发挥作用，因为它有能力应对新的和意想不到的威胁，而且与传统技术相比，人工智能的快速运行速度更具优势。2.3.6.指挥控制与决策辅助在指挥控制与决策中，人工智能工具的速度和能力可以帮助处理外围任务，使指挥官专注于人类更擅长的事务。不久的将来，可能会使用人工智能将一系列传感器数据整合到通用作战图中，供指挥官使用。2.3.7.自主车辆与军用机器人自主车辆通过传感器和人工智能软件来感知环境、识别障碍物、融合传感器数据、导航并与其他车辆通信。该技术现已足够成熟，主要军事大国正着手部署军用自主车辆。另外，能够自主飞行的无人机也在开发之中，如美空军研究实验室“天空博格人”(SkybOrg)项目。2.3.8.蜂群