Intel正在全力研发图形处理器深度学习方面对NVIDIA和谷歌还有一场恶战.docx

Inte1正在全力研发图形处理器，深度学习方面对NV1D1A和谷歌还有一场恶战斯坦福大学近日更新了DAWNBenchmark的4月份的成绩。DAWNBench是一套用于端到端逸度学习训练和推理的基准套件。它提供了一套通用的深学习评价指标，用于量化训练时间、训练成本、推理延迟以及推理成本，并通过不同的优化策略、模型体系结构、软件框架、云和硬性来计算推理成本。Inference1atenCy6A11SUbmiSSk)OSObjective：1atencyrequiredtoc1assifyoneImageNetImageusingamode1withatop-5va1idationaccuracyof93%orgreater.,!-examp1e1atency.a,.Rank,.Mode1HardwareFramework(mi11iseconds)ResNet50IPI20189.96，“，”：AmazonEC2c5.18x1arge二二广CorporationCaffesource2ResNetSOI4c)InteI(R)AVCreA11InteI(R)Optimized12.4000/AmazonEC2(c5.4arge:二Corporation°CaffeIxsource3ReSNet501.-CAIntd(R).r.InteI(R)Optimized17.300八.AmazonEC2c5.2x1are;匚Corporation°CaffeI3I2018source41CCC,6七N:1P1/30GB/8CPU(Goog1ec4.22.2700StanfordDAWN,.TensorFIowv1.2Compute)sourceINov5I26.82005oX1P130GB8CPU(GoogP>jsourceCOmPUte)wINov2017InteI的ResNet模型（Caffe框架），即完全由XeOn处理器构建的亚马逊EC2平台，推理延迟和推理成本上都拿下第一。InferenceCOSt6A11Submtssions2018IS0.02JteKR)Inte1(R)OptimizedAmazonEC2k5,2x1argeCorporationCaffe2sourceResNetSOAPr2018I$0.02Mre叱Inte1(R)WimizedAmazonEC2c5.41argeCorporationCaffe°source3Ie"!W1,C1K80/61GB/4CPU(AmazonC2$0.07StnfordDAWNMXNet0.11.0f.,”p2j<1arge)sourceNov20"4ResNet152NOV2017$0.11StanfordDAWNTensorFIowv1.21P1OO30GB8CPU(Goog1eCompute)source5ResNet1521K80/61GB，JJOU'Ar*”"匕aNOV2017$0.12StanfordDAWNTensorFIowv1.21K80/61GB/浮疗把fsource'-心CFUUaqResNet50u>Objective:Averagecostonpub1icc1oudinstancestoc1assify10.000va1idationimagesfromImageNetusingofanimagec1assicatiomode1withatop5va1idationaccuracyof93%orgreater.RankCostMode1FrameworkHardware(USD)具体来说，Inte1平台处理IoOOO张图片的延迟是9.96ms,成本0.02美元。成本方面，最接近Inte1的是NVIDIA基于MXNet框架的K80显卡+4坠平台，0.07美元、延迟29.4ms。测试中，Inte1Xeon在计算方面的主要对手，一是谷歌自研的TPUv2（张量处理器），二是NVIDIA的GPU阵列（包括TeS1V1OO）0ImageC1assificationonImageNetA11SubmissionsTrainingTime6Objective：Timetakentotrainanimagec1assificationmode1toatop-5va1idationaccuracyof93%OfgreateronImageNet.当然，图形识别（93%以上精度）的总训练时间上，基于谷歌TPUV2、TCnSOrF1oW学习框架的ResNet50模型高居第一，仅需30分钟，比第一代提升T477倍。这套测试我们可以这样理解，不同硬件平台相当于考生，大家同时开始背一套考试题和答案，名叫谷歌的考生最先背会、InteI则是考场上作答速度和准度最高的。考虑到InteI正在全力研发图形处理器，深度学习方面对NVIDIA和谷歌还有一场恶战。