基于大模型分析Palantir AIP在军事应用中的利弊.docx

《基于大模型分析Palantir AIP在军事应用中的利弊.docx》由会员分享，可在线阅读，更多相关《基于大模型分析Palantir AIP在军事应用中的利弊.docx（5页珍藏版）》请在第一文库网上搜索。

1、基于大模型分析PaIantirAIP在军事应用中的利弊目录摘要11 .人工智能平台(A1P)介绍12 .人工智能大型语言模型应用于军事战术32. 1.平台功能33. 2.平台演示34. A1P及大模型的潜在军事应用价值35. AIP及大模型的缺陷分析46. 总结5摘要大模型代表着人工智能领域的重大进步，并且可能成为人工智能的发展趋势和未来。过去几年，以大模型为技术支撑的A1产品频繁推出，其中，OPenA1推出的ChatGPT尤其引人关注，并将大模型在军事领域的潜在应用范围进行了广泛拓展。但同时也暴露出大模型本身的缺陷，如存在事实性错误(即“幻觉”)等。美国大数据分析公司PaIantir于202

2、3年4月26日推出其第四款平台产品人工智能平台(AIP),因拥有将大语言模型集成至私人网络的功能，该公司声称AIP能够直接被应用于现代军事作战。据该公司官网显示，其与美国陆军存在紧密合作关系。本文拟结合大模型本身的优势和缺陷，对Pa1antirAIP在军事应用中的潜在价值和相应缺陷进行分析。关键词：Pa1antirAIP:人工智能；大语言模型；军事应用；幻觉1 .人工智能平台(AIP)介绍Pa1antirTechno1ogiesInC.是位于美国科罗拉多州丹佛的一家软件和服务公司，以大数据分析闻名，其创立之初曾获美国中情局资助。最出色的案例是以大数据技术帮助美国军方成功定位和击毙基地组织首脑本

3、拉登。此外，据该公司官网透露，其与美国陆军存在紧密合作关系，曾帮助美国陆军构建战术情报目标访问节点CnTA)原型，推进供应链优化，并为前线人员提供最先进的作战数据和A1功能。2023年4月26日，Pa1antir公司发布视频宣布推出继Gotham、Foundry和Apo1Io之后的第四款平台产品一一人工智能平台(AIP)。该平台最大的特色在于能够将OPenA1的GPT-4和谷歌的BERT等大语言模型(11M)集成到私人运营的网络中。据Pa1antir官网介绍，AIP共有3大核心功能1）一是人工智能核心，通过AIP在私人网络中部署大语言模型或其他人工智能软件，客户将获得与其业务相关的实时、完全保

4、真的数据，包括所有操作、决策和流程；2）二是人工智能范围和行动，可实现安全的人工智能交接，帮助防止违反法律或法规的行为；3）三是人工智能控制平面，可实时监视和控制大语言模型的活动和范围，以促进用户遵守法律、数据敏感性和监管审计要求等。由上述描述可知，PaIantirA1P主要依托大语言模型发挥功能。大语言模型（11M）是由具有超过数十亿、甚至万亿参数的神经网络组成的语言模型，使用自监督学习或半监督学习对大量未标记文本进行训练，是大模型（FoUndatiOnMOde1）的一个分支。例如模型GPT-3、Pa1MGa1aCtiCa和11aMA等人工智能产品均采用了大语言模型技术。大语言模型于2018

5、年问世，并以出色的性能广为人知，其最常使用transformer架构，可以用4个参数来表征，分别是：模型的大小、训练数据集的大小、训练成本、训练后的性能。PaIantirAIP的发布再一次将大模型带入大众视野，使其成为焦点，尤其是其在军事领域的潜在应用价值。下文将对A1P及大模型技术在军事领域的潜在应用进行分析。表12023年以来出现的大语言模型产品（来源：维基百科）名称发布日期开发机构参数量（十亿）GPT-32023年OpenA1175GPT-Neo2023年3月EIeutherA12.7GPT-J2023年6月E1eutherA16Megatron-TuringN1G2023年10月Mic

6、rosoftandNvidia530Ernie3.0Titan2023年）2月百度260C1aude2023年）2月Anthropic52G1aM(Genera1ist1anguageMode12023年12月谷歌1200Gopher2023年）2月DeepMind2801aMDA(1anguageMode1sforDia1ogApp1ications)2023年1月Goog1e137GPT-NeoX2023年2月E1eutherA20Chinchi11a2023年3月DeepMind70Pa1M(Pathways1anguageMode1)2023年4月谷歌540OPT(OpenPretra

7、inedTransformer)2023年5月Meta175Ya1M1OOB2023年6月Yandex100Minerva2023年6月谷歌540B1OOM2023年7月1argeCo1Iaboration1edbyHuggingFace175GaIactica2023年）1月Meta120A1exaTM(TeacherMode1s)2023年11月亚马逊2011aMA(1arge1anguageMode1MetaA1)2023年2月Meta65GPT-42023年3月OpenA11000Cerebras-GPT2023年3月Cerebras13Fa1con2023年3月Techno1ogyi

8、nnovationInstitute40B1oombergGPT2023年3月B1oomberg1.P.50PanGU-Z2023年3月华为1085OpenAssistan2023年3月1AION172 .人工智能大型语言模型应用于军事战术2.1. 平台功能这款平台是如何工作的呢？首先，它部署了大型语言模型和人工智能，用于提供实时的情报数据。该平台还具有安全功能，让您定义模型可以看到和执行的操作、任务和工作流程。其次，该平台提供了业界领先的保护措施，以控制、治理和信任人工智能。操作员和人工智能在平台上采取行动时，该平台能生成安全的数字操作记录，防止人工智能在敏感场合下造成重大法律、监管和伦理风

9、险。最后，该平台还提供了强大的计算机视觉、高级位置和导航、效果匹配和模拟等工具，以及标准军事决策程序，这些工具可以帮助您更好地了解军事教义、后勤和战斗动态。2. 2.平台演示该平台的演示从一个负责监测东欧活动的军事操作员开始。他们刚刚收到一条警报，称军事装备集结在友军部队30公里外的一片田野中。该平台利用大型语言模型，允许操作员快速提出问题。他们询问该地区的敌军单位，利用人工智能构建可能的单位编队。该地区的敌军部队是谁？我们的操作员请求额外的图像来建立更完整的潜在敌方设备画面。该平台提供了部署附近的无人机收集视频的选项。任务MQ9捕捉这个位置的视频。镜头确认了潜在威胁。无人机的画面显示了一辆敌

10、方T80主战坦克。该平台让操作员生成三种可能的行动方案。接下来，他们使用该平台自动将这些选项发送到上级指挥部。将这三个选项发送给我的指挥官审查。指挥官选择了一个行动方案，该平台帮助他确定了哪个单位最接近敌方坦克。该平台还提供了一个自动地形分析模型，可以处理所有现有的地理空间情报，以了解部队的机动性。从这里开始，该平台根据部队的组成和地形的穿越能力，建议最佳路线。指挥官现在可以开始为Omega小组制定行动计划。3. AIP及大模型的潜在军事应用价值在其宣传视频中，PaIantir展示了AIP如何被应用于现代战争场景中。在AIP的辅助下，指挥官或执行任务的士兵可以使用类似ChatGPT的聊天机器人

11、来执行相关军事任务，包括命令无人机进行侦察，制定攻击计划并协调干扰敌方通信等，如使用MQ-9“死神”无人机来帮助评估敌方部队能力，例如每个军事单位拥有的轻型反坦克武器的数量等，并提出可能的应对措施。此前，大模型在军事领域的应用已经引起广泛讨论，其潜在应用方面涵盖：1 ,可通过简化软件开发流程加速武器装备研发；2 .可结合其他智能化生成技术改善仿真作战环境；3 ,可以打破时空限制提升军事训练效果；4,可有效应对海量多源信息融合的挑战，助力情报融合与分析；5,可引导社交媒体及舆情认知，提供新的认知作战方式；6 .可帮助军事规划人员从多个维度了解战场几何结构，协助军事规划。图1大语言模型协助军事规划

12、2023年，ChatGPT的问世使大模型在军事领域的潜在应用范围得以广泛拓展，除上述应用外，其还可能被用于自动目标识别及监视、战场环境支持、无人驾驶车辆、无人机系统及自主武器系统控制、海量军事数据管理、态势感知、路径规划，等等。如今，AIP的出现极大地简化了大模型产品的部署，可能会加快大模型在军事领域的应用速度和拓展应用范围。但无论是AIP还是大模型，在实际应用中均可能存在相应的缺陷，下文将进行详细分析。4. AIP及大模型的缺陷分析Pa1antir以“合乎道德和法律规范”的优势标榜AIP,称其能够对人工智能进行合法合规相关的管理，但其并未详细说明AIP如何实现这一优势。据悉，若要严格控制大语

13、言模型和算法，确保其“合乎道德和法律规范”，A1P必须满足以下条件:1）一是在既能够收集机密数据又能够收集公开数据的秘密系统中，AIP能够以“合乎道德和法规”的方式被应用；2）二是必须由运营商决定人工智能的访问权限和行动权限；3）三是AIP应使用先进的限制机制来防止人工智能实施未经授权的操作。鉴于Pa1antir未详细说明解决上述问题的具体举措，“合乎道德和法规”亦可能成为AIP面临的挑战。在上述问题的解决无法得到保障的情况下，使用A1P协助执行军事相关的任务时，可能出现机密信息泄露、任务执行混乱以及更容易被敌军反制等问题。基于上述分析，人应该在AIP的使用中发挥监视和决策等关键作用，但在其宣

14、传视频中，Pa1antir只是将人塑造为一个听取建议的角色，且未说明采取何种措施以避免大模型技术的缺陷。大语言模型技术在实际应用中暴露出的缺陷主要是幻觉。幻觉是指生成的内容与提供的源文本无关联或不忠实于源文本。根据输出是否与提示相矛盾，幻觉可以分为封闭域和开放域。幻觉的形成原因较多，但主要有两种，一是由于源文本内容存在谬误；二是由于模型的训练方式，包括来自transfOrmer的错误解码、模型先前生成的历史序列的偏差、模型在其参数中编码其知识的方式产生的偏差。ChatGPT的出现使得幻觉问题更加突出，有分析师指出幻觉是阻止大语言模型技术进步的一个主要问题。且其不仅存在于大语言模型，任何的人工智

15、能都可能出现该问题。值得注意的是，研究表明，语言模型不仅会产生幻觉，还会放大幻觉，即使是那些旨在缓解这一问题的语言模型也是如此。可见目前没有有效的方法可以解决该问题。在PaIantirA1P发布后，其在军事应用领域的强大功能获得高度关注，但同时，幻觉问题也成为其主要隐患，不少受众均表达出对这一问题的担忧。若不能有效解决这一问题，其应用将极大受限。假设AIP集成的大语言模型存在幻觉问题，在其应用于军事领域时可能导致各种事故，如在使用无人机侦察时可能提供错误信息，影响指挥官判断从而下达错误指令；在制定攻击计划时可能由于错误的评估导致任务失败或资源浪费；在协调干扰敌方通信时可能提供错误路径导致任务延迟达成等。5.总结美国大数据分析公司Pa1antir推出的人工智能平台（AIP）拥有集成其他大模型产品至私人网络的强大功能。此前大模型技术已被广泛应用于军事领域，帮助军队实现自主化。A1P则进一步简化了大模型相关产品的部署，有望在军事领域被广泛应用。但其目前仍存在两个方面的主要问题，一是是否能够有效解决“合乎道德和法规”的问题，消除军事机密