电子发烧友App
硬声App
完善资料让更多小伙伴认识你,还能领取20积分哦,立即完善>
电子发烧友网>人工智能>英特尔AI策略全解析(2):软件的优化提供强大效能 - 全文
想要在AI占有一席之地,英特尔单靠处理器的硬件并不足以抢市,透过软件的优化提供强大效能,以及增进开发应用系统的便利性,将是布局能否成功的关键
上篇:英特尔AI策略全解析(1):延伸四大产品线
【英特尔强化AI软件应用的4大层面】英特尔对于AI应用的支持,首先是处理器内建低阶软件原始指令,例如MKL-DNN;针对深度学习软件框架,提供优化程序代码;对于大数据分析应用平台,投入Hadoop、Spark的版本提供或贡献程序代码;而在集成软件开发工具,他们也推出Deep Learning SDK。
图片来源:iThome
看好人工智能带来的运算处理需求与未来的蓬勃发展,英特尔不只是推出多种服务器端处理器来因应,在2016年11月举行的Intel AI Day活动期间,他们宣布将更积极发展深度学习应用的运算与沟通处理的链接库,并以基本指令(primitives)的形式整合到处理器硬件上。而在AI应用软件开发的支持上,他们陆续开始提供的部分,包含:链接库、程序语言的支持、平台、软件开发工具包、程序开发框架。
无独有偶,IBM与Nvidia也在11月宣布,双方将连手开发新的深度学习专用软件开发工具包PowerAI,可搭配IBM 专为AI应用所特别设计的服务器——OpenPOWER LC(采用Power运算架构与Nvidia NVLink互连技术),藉此提供企业级的深度学习解决方案。
英特尔在Intel AI Day提出人工智能的策略,正巧IBM与Nvidia也在之前宣布了PowerAI,在那一周期间,同时,又适逢全球高效能运算界关注的SuperComputer 2016大会举行。显然两大阵营争相较劲的意味相当浓厚,而且他们最终竞逐的目标,其实都是下一波企业应用。
英特尔AI解决方案总览
在AI应用的布局上,英特尔不只是单纯提供处理器平台,软件的支持更是重点——他们发展多种链接库、软件开发平台,积极支持多种深度学习应用框架,同时也会推出整合式的解决方案。
以发展AI应用系统所采用的各种程序开发框架为例,英特尔承诺,将针对在Intel Architecture运算架构(IA)的系统环境,提供经过优化的程序代码,以提升执行效能。
例如,在深度学习技术的应用领域当中,较为风行的几种开放原始码软件框架(Deep Learning Framework),像是Caffe、Theano、Torch、MXNet、Neon,英特尔已经提供Intel Architecture优化程序代码。至于TensorFlow的部分,英特尔与Google Cloud Platform在11月的Intel AI Day活动上,正式宣布策略合作后,最快于2017年初,才会释出相关的程序代码。
Caffe
这是由美国柏克莱视觉与学习中心(BLVC)所开发的框架,英特尔提供了特制版本Intel Optimized Caffe,可适用于Xeon与Xeon Phi处理器平台,当中整合了英特尔发展的数学核心链接库MKL(Math Kernel Library),并且已针对AVX2和AVX-512指令集,进行软件效能优化的工程。
而Caffe经过改良的成效如何?英特尔提出的实例,是影音服务业者乐视云(LeTV Cloud)的非法影片侦测应用。他们是在Xeon E5-2680 v3服务器平台上,搭配Intel Optimized Caffe来进行影片分类的训练,结果得到了30倍的效能提升(相较于他们先前使用的BLVC Caffe,搭配OpenBlas链接库作为卷积式类神经网络)。
Theano
它是由加拿大蒙特娄大学LISA实验室发展的深度学习框架,英特尔也提供了改良的链接库,是针对多核心运算环境予以优化而成的版本,而在京都大学大学院医学研究科的应用案例当中,当他们以此进行新药探索模拟运算的测试上,精准度最高可达到98.1%,而另一个深度学习网络(Deep Belief Networks,DBN)的测试当中,也获得8倍的效能增长。
Torch
Torch也是许多人很关注的深度学习框架之一,目前主要维护的成员,是来自Facebook、Twitter、Google DeepMind公司的研究科学家和软件工程师。英特尔对这套框架提供优化支持之余,同时整合了MKL链接库,进而针对服务器硬件端执行的深度神经网络指令集,提升效率。
而在这样的环境搭配下,英特尔举出的例子是他们与Pikazo软件公司合作,针对他们开发的图像风格转换App,协助后端处理效能强化——若以App刚推出的效能作为基准,现在Pizako App在图形上色(render)的速度,可提升到28倍,而能够处理的图档尺寸也扩充到15倍之大。
Neon
Neon是英特尔并购的Nervana Systems公司所发展出来的链接库,强调易用与高效能,在其现有的技术架构当中,可区分为深度学习功能(算法)、数据模型、解决方案等三层。
在这次的Intel AI Day大会上,英特尔也预告将推出Intel Nervana Graph Compiler,作为AI应用软件层的共通基础,以此对于深度学习应用的架构型态,提供更进阶的描绘方式,以及调校作法。
针对类神经网?络,提供高阶的图学运算编译程序
深度学习框架Neon对于硬件资源的存取,会透过不同平台的转换API来介接,因此上层应用无须考虑硬件差异,接下来,英特尔会在Neon原本的架构与硬件转换层之间,新增一层Nervana Graph Compiler,主要是为了针对类神经网络应用,提供高阶的处理,以便同时横跨多台硬设备执行。
Intel Deep Learning SDK
除了支持不同开发者所偏好的深度学习框架之外,英特尔本身也会推出Intel Deep Learning SDK。
藉由当中提供的简易使用接口,数据科学家与软件开发人员可发展各种深度学习的应用方案。
例如,透过SDK里面的训练工具,我们能够进行深度学习模型的设定、准备、设计;若要将已经训练好深度学习的模型,自动进行优化与部署的程序,也可以运用SDK包含的部署工具来帮忙。
针对各种深度学习框架提供优化之余,英特尔在旗下的处理器产品当中,也内建了多种链接库来提升AI应用系统的效能。
Math Kernel Library(MKL)
MKL是英特尔发展了22年的链接库,里面集合了许多原始的数学运算指令,可加速在工程、财务、科学等领域的模拟与分析处理,2016年之后,由于增加了MKL-DNN的链接库,因此也能提升机器学习与深度学习的效能。目前内建MKL的处理器,包含个人计算机用途的Core,以及服务器等级的Xeon、Xeon Phi。
这套链接库提供了低阶的C与Fortran程序语言接口,能执行多种通用运算,例如,矩阵的乘法、分解、快速傅立叶变换、随机数生成、向量函数等,能支持多种操作系统平台的应用程序开发,例如,Windows(微软Visual Studio),以及Linux与OS X(Eclipse)。
Math Kernel Library for Deep Neural Networks(MKL-DNN)
透过深度学习框架开发的应用程序,若要执行在Intel Architecture的处理器环境,英特尔提供了一套开放原始码的效能强化链接库,称为Math Kernel Library for Deep Neural Networks(MKL-DNN)。
它与英特尔的MKL链接库之间,有很大渊源。
因为,MKL-DNN是2017版MKL所延伸出来的产物,当中包含了高度向量化与穿插式的建构模块,而且是透过C与C++程序语言的接口,实作出卷积类神经网络(Convolutional Neural Networks,CNN)的架构,并且不只能在C和C++这两种开发环境运用,也可用于Python和Java等高阶程序语言。
针对深度学习应用系统当中所进行的运算密集式工作, MKL-DNN也能对相关的框架提供加速处理,英特尔特别强调可支持上述提及的Caffe、Theano、Torch、Tensorflow等深度学习专用的链接库。
从服务器到个人计算机的处理器,都内建新链接库,强化AI效能
除了提供优化程序代码,英特尔在处理器平台上,也内建了原始指令:专供深度神经网络使用的数学核心链接库MKL-DNN,以及用于深度学习讯息传递应用的机器学习规模扩展链接库MLSL。
Machine Learning Scaling Library(MLSL)
在Intel AI Day活动当中,英特尔也预告将推出一套新的链接库,称为Machine Learning Scaling Library(MLSL),可在深度学习系统的多节点互连架构下,进行规模扩展的应用,可支持32个节点以上所组成的深度学习系统。有了MLSL之后,深度学习系统可针对不同节点之间的讯息传递作业,进行抽象化的处理。
MLSL是架构在现有平行运算系统所惯用的MPI(Message Passing Interface)之上,可运用其他用于讯息沟通的链接库,而在讯息沟通的模式上,用户若要扩展到更大的系统使用规模,MLSL也将对此提供优化。MLSL本身也提供通用的API接口,可支持上述的各种深度学习软件框架。
此外,由于MLSL与深度学习系统的多台节点扩展应用有关,因此能否适用不同的网络互连方式,也很重要。MLSL目前可支持的联机规格,有标准的以太网络、InfiniBand,以及英特尔发展的次世代互连网络架构Omni-Path Architecture(OPA)。
Data Analytics Acceleration Library(DAAL)
目前英特尔针对AI应用所持续发展的链接库,除了上述的MKL,还有Data Analytics Acceleration Library(DAAL),这套在2015年推出的链接库,可针对基于Intel Architecture处理器平台的个人计算机、服务器,提升大数据分析作业的执行效能。
这套链接库包含多种经过优化的算法建构模块,能够支持数据分析过程中的每个阶段,像是前置处理、转换、分析、建模、验证、抉择,并且在脱机、在线串流与分布式等不同的数据分析环境里面执行。
DAAL的发展上,也考虑到常见的大数据平台应用需求,目前已可强化Hadoop、Spark、R、Matlab系统的数据存取效率。同时,DAAL也内建数据管理机制,协助应用系统得以从多种来源存取到数据,例如档案、内存内的缓冲区、SQL数据库、HDFS文件系统。
DAAL与MKL同样皆可针对大数据的处理,不过,若遇到数据量大到内存无法全部加载的情况,DAAL本身能运用特制的算法来因应——将资料切割为块状,而不是全部放进内存。
在程序语言的部分,DAAL提供高阶的C++、Java与Python接口,可用来处理多种数据分析需求,像是主成分分析、回归、分类、群集与购物篮分析。透过这个链接库,你可以利用指定的算法来训练出模型,然后评定数据集在这模型中的分数。
下篇:英特尔AI策略全解析(3):与谷歌合作发展云服务
相关推荐
武汉seo网站关键词优化巩义网站优化推广费用优化网站方法帮你火21星石家庄正规seo优化网站公司蚌埠网站排名优化营销哪种博客优化网站好丰城网站建设与优化顺义网站关键词优化价格百度网站优化哪家售后好成都低价网站设计优化对网站seo优化的看法优化网站排名闲逛云速捷封开县网站seo优化排名网站优化得措施网站优化业务怎么接网站优化黑帽手法网站优化素材长沙价格低的机械行业网站优化网站优化100种方法崇明区网站优化江门网站搜索引擎优化肇庆网站排名优化软件南京市网站公告优化多少钱网站排名优化疗火16星高尚河南整站网站优化价格泰安模板网站优化公司正规的网站优化电话seo网站优化加盟费用山东济南网站建设优化温州网站域名优化网站优化的方案是什么宁陵个性化网站优化公司网站建设优化优选火星上海网站关键词排名优化教程洪梅网站优化推广前端如何优化网站速度网站排名优化仚最佳宙斯参考各网站优化排名昌乐网站优化推广哪家好招商外贸独立网站优化石碣网站优化多少钱做优化哪个网站好许昌百度网站优化哪家靠谱网站设计与优化渠道上海网站群发优化新密网站优化哪家好镇宁网站seo优化公司平度网站优化工具新乡网站优化效果陇南市网站seo优化排名常德网站seo优化公司营销型网站SEO优化多少钱优化核心网站龙岗网站优化排名电话厦门网站seo优化厂家报价规模大的网站品牌优化技术固原市网站seo优化排名排名优化好的网站广州网站快照优化外包清丰网站推广优化长安网站优化方法手机网站有没有优化合作网站智能云优化贵阳温州seo网站优化方案家具行业网站优化找哪家济南比较好的机械行业网站优化seo网站优化加盟费用清镇网站优化seo推广服务重庆永川专业网站优化迁西网站优化哪里不错浙江包年网站优化银川市网站优化流程荣成网站优化建设网站优化价钱观澜做网站优化大型网站优化费用多少开封专业网站优化地址韶关家电网站seo优化网站优化需要什么技巧云浮怎么优化网站韶关专业网站优化公司服务至上宜昌网站推广优化开发南城网站搜索引擎优化工具新网站优化流量石材行业网站优化方案市南网站优化代理商宣城网站首页优化找哪家安阳网站自然优化台州自适应网站建设优化建站分宜网站优化平台网易学院网站优化忠魁互联网站优化青岛响应式网站优化哪家好宿迁市优化网站推广价格丰南网站优化推荐黄山网站排名优化咨询网站精英优化通辽网站排名优化国外网站怎么优化忠魁互联网站优化如何自己优化网站排名南京网站优化哪家好怎么做怎样优化手机端网站潍坊网站seo优化技巧重庆涪陵效果好的网站优化曹家渡街道网站优化重庆综合网站优化质量保障沈阳网站优化哪家有实力网站优化给您带来精准流量内蒙古网站关键词优化如何优化长春网站搜索优化怀化网站优化价格网站优化工程师招聘正宗网站优化制作潮州网站优化方式北京网站建设方案优化网站设置优化技巧网站优化骗局罗湖中文网站优化方案高仿网站优化衡阳标准营销型网站优化林州网站建设推广优化铁岭百度网站seo优化公司北京网站建设方案优化360网站优化价格网站测试不包括优化测试吗青岛网站优化方法吴忠网站优化排名游戏行业网站怎么优化做网站优化哪家值得信赖网站优化哪里有公司阜新企业网站优化服务实惠的网站推广优化手机端网站优化的关键上海网站优化公司收费情况兰州网站整站优化电话如何对网站做引擎优化漳州市网站seo优化排名德庆网站优化大兴优化网站排名开封优化企业网站排名优化网站排名技巧网站企业优化哪家好南通网站内页优化网站优化推广的步骤有哪些黄山网站权重优化怎么做好石家庄企业网站推广优化赫章网站关键词优化价格网站关键词优化认卓商网络行肥城市网站seo优化排名陕西质量好网站推广优化网站自然优化外推怀集网站搜索引擎优化南宁网站排名优化软件和优化网站打开云速捷深圳网站优化团队seo网站优化方案新手网站优化到首页价格河北网站优化流程合肥网站优化设计聊城高唐网站优化网站排名优化公司直播网站优化主要做什么工作健康网站优化的主要方法平顶山网站seo优化哪家不错聊城网站seo优化案例网站优化的工作有哪些推荐服装行业网站优化电话多少高碑店网站seo优化怎样解决网站优化排名低的现象本溪网站优化哪家好文体用品网站优化的具体方案网站优化教程第二天陕西钢管网站优化崇州网站优化价格巢湖网站优化公司费用宝山区网站优化排名大庆网站优化seo公司网站关键词优化哪家有实力金堂网站优化教程辽宁服务行业网站优化技巧前台网站如何优化黄冈网站优化哪些渠道四川网站优化电话河南郑州网站优化推广公司西青区网站seo优化排名商洛网站怎么优化江油网站排名优化六安网站优化oem营口网站优化哪家好金昌网站优化价格长春正规的网站推广优化河南企业网站优化系统网站优化人员注意事项黄浦区官方网站优化方案石嘴山关键词网站优化高邑商城网站优化哪个网站优化简历比较好网站优化软件2019揭阳当地的免费网站优化
评论
查看更多