【白皮书市场研报】ModelOps技术及应用趋势白皮书-76页_市场营销策划_2022年各行业白皮书.docx

《【白皮书市场研报】ModelOps技术及应用趋势白皮书-76页_市场营销策划_2022年各行业白皮书.docx》由会员分享，可在线阅读，更多相关《【白皮书市场研报】ModelOps技术及应用趋势白皮书-76页_市场营销策划_2022年各行业白皮书.docx（77页珍藏版）》请在第一文库网上搜索。

1、6技术应用及趋势白皮书Oct.2021TlBt云极E：CBINSIGHTSICHINAIDataCanVasCBCBINSIGHTSCHINACBINSIGHTSI CHINAMoclelOpsn目云极Canvas技术应用及趋势白皮书TableofContents导语与发现4Chapter溯源篇6Mod包Ops的前世今生Chapter 2 技术篇21Mod包Ops框架、难点与机遇Chapter 3 应用篇47ModelOp5的主要应用场景Chapter 4 展望篇67MQdclDps技术及应用趋势7375结语72参考贵料附录撷英从上世纪50年代的模式识别早期应用，到近几年来机器学习模型在咨领域

2、应用的遍她开花,人们对模型认知越发全面，也对模型运行的风险越爱谨慎U如果说模型的开发过程是一个皴据科学建模的科学讲算过程，那么镇型的测试上就与运维的工程化过程则显得不甚科学。借饕于软件工程的DevOps理念和实鹿，工程化团队与数据科学家一起构建了-McdelOps的方法论、标准过程与最佳的系磕实跳，即在建模开发过程早题就考虑需求到上统与下线的全生命周期过程、模型和颈蒯靖果的可理解性、测试覆盖的全面性、对未知数据分布的泛化能力、对模型衰减与异常使用的可监控性与可处置能力。未来，随着机器学习等蝶型的普遍化康用，模型运维的里要性越发凸显，ModelOps嚼成为皴据智能系绫开发运行过程箔标配G北京九章

3、云极科技有限公司董事长方磊博士导语与发现近年来，人工智能的不断发展，掀起各个产业数字化的浪潮，作为新一轮产业变革的核心驱希力，人工智能及机器学习的落地方式日趋多元，越来越察的企业认识到这类技术的变革优势并加以应用，大量AI/ML模型被快速开发、部署。问题逐然而，粗放式的发展使得“重开发，轻治理之风盛行,渐暴露一一开发与运维之间鸿阂高筑，许多模型从实验室走出之后得不到部署；模型没有被妥善管理，重复开发问题日益严重；黎团队间，协作不畅的问题也逐渐显现；模型的监控程度及可操作性不佳，无法实现规模化经济企业亟需一种科学的AI治理方式，对隐藏技术债进行偿还。这一背景下,MocfelO恪应时而生。 流程化

4、Streamlined 可复用Reusable.可追溯Traceable 无缝整合Seamlessintegration 持续监控Continuous monitoring 可解释Interpretability 可操作Operationalization 自适应Self-adaptiveCZCBINSIGHTSI CHINA5CSCBINSIGHTSICHINA01IBtotfe由阵治理曰掘张派:CB喀坦地中国）导语与发现近年来，人工智能的不断发屣，掀起各个产业数字化的浪潮，作为新一轮产业变结合，将模型的全生命周期梳理为流程化、标准化的诩环，通过持续.监控及畿证以不断训获模型，达到生产优化的

5、效果。这一企业级的模型治理方式能使数据科学家、各个工程师技运维人员间权责清航协作顺畅。同时，ModeLOps将企业维度所有模型进行入库管理，模型库的存在使模型真正成为企业所，复用性提升，解决了重氤开发的同题。使模型开爱到部署的的最后一英里”更加通畅之外，ModelOps工作流程宫动化、持罐监蒯高复用性的优势使得模型更具可靠性，规模经济更易达成。AI技术应用的初衷是用机器替代人去做基利、重复性高的工作，从这类工作中解放人工，完成更高维、复杂的工作。在MadelOps的应用中，企业的模型治理流程被规范优、标准化、持辘控，这使得对模型的治理在某种程度上可以变作一项重复性较高的基础性工作，AI自治化一

6、一以AI治理Al变为可能。在未来，随着技术的更迭和治理方式的改变，AI将拥有部分能够性，实现更高维的智能。ModelOps目前仍处于起步阶段，M着企业对隐藏技术债的察觉，对模型治理的重视程度提高，这一高效赋能、科学治理的方式将逐渐普及。在这篇报告中,我仁艳从对ModelOps的溯源入手，从技术框架、行业应用及趋势展望等方面,对ModelOps的全貌进行分析。 起源一ModelOg的出现背景 演进一M。加1。阳.的发展历程 产学结合，伴云而生MQdalQpf产业图景起源：ModelOps的出现背景Al自治化趋势下，XOps出现的必要性Al技术在企业中的座用日趋成熟y工程化、自治化的趋势逐渐明晰格

7、企业在提高技水的落地效率并实现飙模轻济的过程中，除技术本身的研发之外，潴试、部髻瑟运营团队的反馁同样至关重要，逡也给流卷(技术、产品的全生命周期)的管理、可操作槿提出了更高的要求，催生了XOps的出现。xops意为x&0P底gticms,是将运维的某些过程前置，镶嵌到特定技术(X)开发过程中的一料流程管理铤第包括DevOps、DataOps.MLOps和Med0a等。XOps的鹿用能一定程度上提高技术薜地过程的可操作性，优化重复，冗余的流程,实现流程自动化管理，并提高可复用性以实现规模经济。C：CBINSIGHTSCHINA匡2|DpvDps极念I火源:CE胸ghf!S中国）CSCBINSfG

8、HTSI CHINA7起源：ModelOps的出现背景XOps始于Dev0pso在最初的软件开发中,由软件外/工程师迸行构建、期划及管码的褊写，再交.给测斌工程师进行测试，运舞团队负责在此之后进行发布、部署及维妒,以串行方式进行软件的开发及运维工作，被称为瀑布(Waterfall)交付模型。然而这种流程交付周期长，以单向为主。随着技术的不断进步和用户需求日益害祥化，源布式交付模型退焦的豳点够待及也2000年左右，毓捷:开发(AgileDevelopmeint)持籁集或(Continuousllntegiratian,ci)持皴交付(ContinuausDelivery,cd)的出现大大提高了开

9、发的效率，而开发和运维之间的懒同问题却日益凸显2009年，在第一届。曰*0川5口3心大会上，DevOps(DevelopmientftOperattonis)的概念被首次提出:有别于特定的软件、平台器技术，DevOps是一组过程、方法与框架的统称，将开发与运营的过程整合,通过促进开发、测试、运维、质量保障等部门之间的海通及协作,消除各介环节之间的鸿淘。作为一狎小步快跑，快速迭代的方式，DevOps贴近工程应用，通过自就化流程来使得教件/技术的全生命周期迸行管理，增强可操作性，使流程更加快捷和可靠。除DevOpS外，XOps家族的成员还有DataOps(提高毅据利用指数)及MLOps(机器学司模

10、型开发及投产一贯性治理)等如今,XOps在企业中的应用日益普及,不同种类的XOps系统正在企业、事业群蔻事业部等不同维度提供曲值。近年来，nX0ps家族成员在寥派研究机构发布的耒亮趋势中榜上有名oDeployMonitorOperateBSCBINSIGHTSICHINA#CZCBINSIGHTSICHINAQIDevOps流薜。架臻源：方加&心曰国疑隰开宣嬴懿)起源：ModelOps的出现背景软件管理演化进程中.ModHOps出现的必要性整看技末的不断成熟，人工智能及机器学习在企业中的虚用日趋多元，在此背跳下,MLOps扩展了DevOps的原理，重于机器学习模型开发及投产一贯性治理，支持机器

11、学习模型和应用程序啦敏建开发和部署。在塔长最快的GitHubTop-20项目中，有5个是机；学习运维工具.这同时也使企业开发、部署的匐模型数量激增与员C5CBINSIGHTSI CHINA9工、专利、散据等相限，模型正成为企业一项愈发重寰、歪待管理的簧产，然而对于模型的管理难度，尤其对于大型企业而言,却远高于前者。与其他费蠹.木司，爰其会恿若览间流逝震生蠢移，展开源到任分新.部号上爆等一嶷别兄皆洗梅过后，熏凳因为徜黛需求皿，甚至是日箍增长的赍料而让模型执行茶壕变得人再适用O狭义的MLOps侧重于机瞬学习模型开发及投产一损性的研究，主要在部署、服务和监控；而ModelOps可以理解为广义的MLO

12、ps-它是对MLOps的扩展，不仅包括机器学习模矍的常规部署，还包括更复杂的机需学可模型的持薮再训练、自动更新和同步开发与箭署ModelOps可用于所有模型的可视化/操作化，包括但不限于与MLOps相关的机器.学习模型，这种治理蒙盖了模型的整个的生命周期治理对象核心功能评判标准机器学习模型语言模型gg知识图律3优化模型八P其他AI梭型基于特定规则的模型特征工程多源异构蝴艇数据联邦构建t全流程监控.状态可视化运维号准化空程解耦I合规建库存赢治理可复现I可操作1可追溯自动定可解释I可靠鲁棒性f质量控制i流式计算模型设计I模型开发I模型测试I模型部署I模型训练迭代进化模型评估C5CBINSIGHTS

13、CHINA图4 陶就1琶,魏族要素框黎（来源:CB 荫ghts中国）在ModelOpffiBustoessofData联合由媵的报告中,他们采访了1oo名AI导向（AI-f0CU5）机嘀的高管，平均每个龛访企业投产270+AI模型,其中81%受访者表示，机构内有5支以上鱼1榄型部署团队，29%的受访者表示机构内AI模型郃署团队殿运超过10支。对来自不同开发团队，种类咎异（传统模型、AI模型、ML模型）,部署薛境不同（内部部署、云上部署政混合部署）的模型进行全生命周期营瓒给企业带来了新的挑战，开发出的模型因覆有被有效管理而无法雷署、投产，以带来实际效益，成为企独面临的普遢痛点ModelOps的出

14、现，渣盖了AI工程化、自治化趋势下，模型管理市场的空白。ModelOps（Model&Operations）面向Al技决策模型（包括基于机器学习、知识图谱、规则、语言学和优化模型等）,主要任务是消除模型开发、部署、更新、治理之间的鸿沟，以自动化和优化流程的能力对模型进行至生命周期曾理，这种自幼、统一的治理方式使模型开发、部署、监控、优化及短护的曲更科学、可操作,通过将模型性能和业务指标（KPI）相匹究，不断迭代以适应频簸变化的市场需求。随着模型被视为企业的重要资产,模型管理的意识逐新觉醒,ModelOps正以标准化、可视化可操作性及自动化治理等优势,被越来越多的机构接纲弁使用，在企业的却战略中的重要性日益凸显。起源：ModelOps的出现背景2009第一届口蹩城那怎避大会上2DevOps（rnant&1函覆畿穗蔺褰耀应酶他微不彼舞提傲了一静瞥逸胭熟询温了噂蠢解野节前直