威尼斯人官网

张飞软硬开源基于STM32 BLDC直流无刷电机驱动器开发视频套件,👉戳此立抢👈

从8小时到80秒,NVIDIA如何实现AI训练用时大突破?

墨记 2019-07-11 17:29 次阅读

“天下武功,唯快不破”,你需要以“快”制胜。
 
如今,全球顶级公司的研究人员和数据科学家团队们都在致力于创建更为复杂的AI模型。但是,AI模型的创建工作不仅仅是设计模型,还需要对模型进行快速地训练。
 
这就是为什么说,如果想在AI领域保持领导力,就首先需要有赖于AI基础设施的领导力。而这也正解释了为什么MLPerf AI训练结果如此之重要。
 
通过完成全部6项MLPerf基准测试,NVIDIA展现出了全球一流的性能表现和多功能性。NVIDIA AI平台在训练性能方面创下了八项记录,其中包括三项大规模整体性能纪录和五项基于每个加速器的性能纪录。
 
表1:NVIDIA MLPerf AI纪录

每个加速器的比较基于早前报告的基于单一NVIDIA DGX-2H(16个 V100 GPU)、与其他同规模相比较的MLPerf 0.6的性能(除MiniGo采用的是基于8个V100 GPU的NVIDIA DGX-1 ) |最大规模MLPerf ID:Mask R-CNN:0.6-23,GNMT:0.6-26,MiniGo:0.6-11 |每加速器MLPerf ID:Mask R-CNN,SSD,GNMT,Transformer:全部使用0.6-20,MiniGo:0.6-10
 
以上测试结果数据由谷歌、英特尔、百度、NVIDIA、以及创建MLPerf AI基准测试的其他数十家顶级技术公司和大学提供背书,能够转化为具有重要意义的创新。
 
简而言之,NVIDIA的AI平台如今能够在不到两分钟的时间内完成此前需要一个工作日才能完成的模型训练。
 
各公司都知道,释放生产力是一件重中之重的要务。超级计算机如今已经成为了AI的必备工具,树立AI领域的领导力首先需要强大的AI计算基础设施支持。
 
NVIDIA最新的MLPerf结果很好地展示了将NVIDIA V100 Tensor核心GPU应用于超算级基础设施中所能带来的益处。
 
在2017年春季的时候,使用搭载了V100 GPU的NVIDIA DGX-1系统训练图像识别模型ResNet-50,需要花费整整一个工作日(8小时)的时间。
 
而如今,同样的任务,NVIDIA DGX SuperPOD使用相同的V100 GPU,采用Mellanox InfiniBand进行互联,并借助可用于分布式AI训练的最新NVIDIA优化型AI软件,仅需80秒即可完成。
 
80秒的时间,甚至都不够用来冲一杯咖啡。
 
图1:AI时间机器
2019年MLPerf ID(按图表从上到下的顺序):ResNet-50:0.6-30 | Transformer:0.6-28 | GNMT:0.6-14 | SSD:0.6-27 | MiniGo:0.6-11 | Mask R-CNN:0

 AI的必备工具:DGX SuperPOD 能够更快速地完成工作负载

 仔细观察今日的MLPerf结果,会发现NVIDIA DGX SuperPOD是唯一在所有六个MLPerf类别中耗时都少于20分钟的AI平台:
 
图2:DGX SuperPOD打破大规模AI纪录
大规模MLPerf 0.6性能 | 大规模MLPerf ID:RN50 v1.5:0.6-30,0.6-6 | Transformer:0.6-28,0.6-6 | GNMT:0.6-26,0.6-5 | SSD:0.6-27,0.6-6 | MiniGo:0.6-11,0.6-7 | Mask R-CNN:0.6-23,0.6-3
 
更进一步观察会发现,针对重量级目标检测和强化学习,这些最困难的AI问题,NVIDIA AI平台在总体训练时间方面脱颖而出。
 
使用Mask R-CNN深度神经网络的重量级目标检测可为用户提供高级实例分割。其用途包括将其与多个数据源(摄像头、传感器激光雷达、超声波等)相结合,以精确识别并定位特定目标。
 
这类AI工作负载有助于训练自动驾驶汽车,为其提供行人和其他目标的精确位置。另外,在医疗健康领域,它能够帮助医生在医疗扫描中查找并识别肿瘤。其意义的重要性非同小可。
 
NVIDIA的“重量级目标检测”用时不到19分钟,性能几乎是第二名的两倍。
 
强化学习是另一有难度的类别。这种AI方法能够用于训练工厂车间机器人,以简化生产。城市也可以用这种方式来控制交通灯,以减少拥堵。NVIDIA采用NVIDIA DGX SuperPOD,在创纪录的13.57分钟内完成了对MiniGo AI强化训练模型的训练。

咖啡还没好,任务已完成:即时AI基础设施提供全球领先性能

打破基准测试纪录不是目的,加速创新才是目标。这就是为什么NVIDIA构建的DGX SuperPOD不仅性能强大,而且易于部署。
 
DGX SuperPOD全面配置了可通过NGC容器注册表免费获取的优化型CUDA-X AI软件,可提供开箱即用的全球领先AI性能。
 
在这个由130多万名CUDA开发者组成的生态系统中,NVIDIA与开发者们合作,致力于为所有AI框架和开发环境提供有力支持。
 
我们已经助力优化了数百万行代码,让我们的客户能够将其AI项目落地,无论您身在何处都可以找到NVIDIA GPU,无论是在云端,还是在数据中心,亦或是边缘。

AI基础设施如今有够快,未来会更快

更好的一点在于,这一平台的速度一直在提升。NVIDIA每月都会发布CUDA-X AI软件的新优化和性能改进,集成型软件堆栈可在NGC容器注册表中免费下载,包括容器化的框架、预先训练好的模型和脚本。
 
借助在CUDA-X AI软件堆栈上的创新,NVIDIA DGX-2H服务器的MLPerf 0.6吞吐量比NVIDIA七个月前发布的结果提升了80%。
 
图3:基于同一服务器,性能提升高达80%
对单个历元上单一DGX-2H服务器的吞吐量进行比较(数据集单次通过神经网络)|  MLPerf ID 0.5 / 0.6比较:ResNet-50 v1.5: 0.5-20/0.6-30 | Transformer: 0.5-21/0.6-20 | SSD: 0.5-21/0.6-20 | GNMT: 0.5-19/0.6-20 | Mask R-CNN: 0.5-21/0.6-20
收藏 人收藏
分享:

评论

相关推荐

【5月12】不懂编程没关系,邀请您来学AI

不懂编程没关系,邀请您来学AI活动概述:本活动是现场讲座,由台湾知名AI教育专家、金门创新学院院长、台湾Android技
发表于 05-24 00:00 0次 阅读
【5月12】不懂编程没关系,邀请您来学AI

广州制造的发展得益于什么的助力

现在我们围绕‘场景、算力、算法、大数据、通信’等人工智能发展要素,搭建拥有自主知识产权的人工智能技术....
发表于 07-23 16:44 0次 阅读
广州制造的发展得益于什么的助力

你还在使用传统的办公方式吗

移动互联网早已成为了必需品,而人工智能也在渐渐改变着人们的各种使用习惯。
发表于 07-23 15:42 10次 阅读
你还在使用传统的办公方式吗

新加坡AI图像识别独角兽Trax完成1亿美元D轮融资

新加坡 AI 图像识别独角兽 Trax 今日宣布完成厚朴投资领投的1亿美元 D 轮融资。
的头像 行业投资 发表于 07-23 15:09 132次 阅读
新加坡AI图像识别独角兽Trax完成1亿美元D轮融资

热点 | 容联入选中国企业云科技服务商十强,通讯云领域第一

在7月17日举办的2019·爱分析中国企业云高峰论坛上,“2019·爱分析中国企业云科技服务商50强....
的头像 CTI论坛 发表于 07-23 11:23 148次 阅读
热点 | 容联入选中国企业云科技服务商十强,通讯云领域第一

AI商业化该怎样加快脚步

人工智能时代,不同企业对AI的安全意识和防御水平有所不同。
发表于 07-23 11:22 18次 阅读
AI商业化该怎样加快脚步

某些嵌入式AI处理器比其它更智能?

人工智能仍然是一个新兴且快速发展的领域。神经网络的应用场景快速增加,例如目标识别、语音和声音分析、5....
发表于 07-23 09:05 104次 阅读
某些嵌入式AI处理器比其它更智能?

5G时代云化转型已成为必然趋势

云可以帮助企业实现降本增效,云化转型已成为必然趋势,因此中国云市场将持续高速发展。近期中国信息通信研....
发表于 07-23 09:01 113次 阅读
5G时代云化转型已成为必然趋势

AI技术如何运用在智慧交通中去

智慧交通响应最快、发展也最全面,共享出行、无人驾驶、智慧停车、智能灯杆等创新应用接连落地,呈现出“百....
发表于 07-23 08:54 25次 阅读
AI技术如何运用在智慧交通中去

韩国开发预测交通状况的智能系统

据悉,韩国UNIST电气电子计算机工程部的研发团队与美国普渡大学、亚利桑那州立大学成功开发出一款AI....
的头像 机器人技术与应用 发表于 07-22 18:00 424次 阅读
韩国开发预测交通状况的智能系统

AI 的未来,就在我们的大脑里面吗?

将芯片造成大脑模样
的头像 汽车工程师 发表于 07-22 17:25 325次 阅读
AI 的未来,就在我们的大脑里面吗?

合适的电机对于机器人来说有多重要

随着技术的提高,速度和灵活性的提高,成本的下降,机器人的采用率势必会提高。
发表于 07-22 17:16 44次 阅读
合适的电机对于机器人来说有多重要

智能化的体验何时才能普及

基于AI人脸识别技术的企业客户管理,通过来访的企业客户实时通过人脸进行存档,形成企业客户由普通的用户....
发表于 07-22 17:05 25次 阅读
智能化的体验何时才能普及

有什么事情是人工智能做不了的吗

5G生活智能化,应该指智能家居,物联网的技术。
发表于 07-22 16:59 31次 阅读
有什么事情是人工智能做不了的吗

人工智能的普及对哪些的工作人员造成威胁

人工智能的实质表面上看代替人工作了 并生产出一种新的能源方式做出反应。
发表于 07-22 16:57 34次 阅读
人工智能的普及对哪些的工作人员造成威胁

Al的趋势你能想象得到吗

随着物联网、大数据等技术的快速发展,AI正通过不同的技术方向向应用场景开始融入大家的生活中。
发表于 07-22 16:34 23次 阅读
Al的趋势你能想象得到吗

人工智能会改变你的舌尖味蕾吗

人工智能技术企业开始做舌尖上的生意,帮助食品企业制造更有竞争力的产品。
发表于 07-22 16:28 23次 阅读
人工智能会改变你的舌尖味蕾吗

对于人工智能3.0时代你了解多少

人工智能正在进行着突飞猛进的发展。
发表于 07-22 16:24 27次 阅读
对于人工智能3.0时代你了解多少

DeepCubeA的AI程序,20步内破解出魔方!

反正在玩这点上来说,人类是真滴搞不过AI了。
的头像 网易智能 发表于 07-22 15:54 232次 阅读
DeepCubeA的AI程序,20步内破解出魔方!

AI如何助力药物研究

人工智能的介入,能够为马拉松式的药物研发找到新的突破点。
发表于 07-22 10:25 41次 阅读
AI如何助力药物研究

智能产业知识产权如何保护

人工智能技术日新月异,智能产业发展风起云涌。
发表于 07-22 10:03 51次 阅读
智能产业知识产权如何保护

5G新玩法赋能音乐盛典沉浸式体验

作为5G网络全覆盖、5G真4K全程直播的原创音乐盛典,当晚通过咪咕音乐、咪咕视频、咪咕直播、咪视通、....
发表于 07-22 09:37 43次 阅读
5G新玩法赋能音乐盛典沉浸式体验

98%都认错,AI视觉系统真的没救了?

AI:“臣妾认不出啊!”
的头像 新智元 发表于 07-22 08:37 314次 阅读
98%都认错,AI视觉系统真的没救了?

前十的AI专利拥有者中美国占一半,无中国企业

排名前十的人工智能专利拥有者中有5家美国公司,2家日本公司,1家韩国公司,1家德国公司和1家荷兰公司....
的头像 Blue5 发表于 07-21 18:36 1580次 阅读
前十的AI专利拥有者中美国占一半,无中国企业

小米推出多款新品,主打AI概念

近日,小米有品众筹上架了一位新成员“多亲AI助手”,界面简单易用,结合智能语音识别技术,可控制家居家....
的头像 芯智讯 发表于 07-21 11:18 728次 阅读
小米推出多款新品,主打AI概念

AI在医疗领域有哪些应用?

近日,中国科学院深圳先进技术研究院医药所计算机辅助药物设计中心的袁曙光课题组,在 Cell 子刊 T....
的头像 机器人技术与应用 发表于 07-21 10:55 396次 阅读
AI在医疗领域有哪些应用?

AI革命,智能机器人将进入我们生活中的那些领域?

正在进行的人工智能革命将改变几乎所有的工作,创造巨大的社会和经济机遇和挑战。有些人认为,智能电脑会将....
的头像 传感器技术 发表于 07-21 09:55 499次 阅读
AI革命,智能机器人将进入我们生活中的那些领域?

小米有品众筹又一位多亲AI新成员,能结合智能语音识别也可控制家居家电

近日,小米有品众筹上架了一位新成员“多亲AI助手”,界面简单易用,结合智能语音识别技术,可控制家居家....
的头像 第一手机界 发表于 07-21 09:48 613次 阅读
小米有品众筹又一位多亲AI新成员,能结合智能语音识别也可控制家居家电

一亿多条政府真实数据的比赛你见识过吗?

本次大赛面向的是内地和港澳地区高等院校、专业研究机构、数据分析公司、开发者等举办的大型数据创新类竞赛....
的头像 新智元 发表于 07-21 07:35 279次 阅读
一亿多条政府真实数据的比赛你见识过吗?

马斯克:脑机技术是避免人类成为AI奴隶的唯一方法

Neuralink项目由马斯克与其他8人成立于2016年7月。而这8名联合创始人都是一些知名度极高的....
的头像 VR陀螺 发表于 07-21 07:27 264次 阅读
马斯克:脑机技术是避免人类成为AI奴隶的唯一方法

央视网AI布局迈入加速度有何意义

AI时代已经到来,一场抢占“智能+”制高点的攻坚战役,正在各行各业如火如荼地上演。
发表于 07-20 09:19 104次 阅读
央视网AI布局迈入加速度有何意义

大胆预测未来工厂里有哪些新科技?

人工智能、深度学习、边缘计算、数字孪生、Factory 2.0……热词频现,数字化技术与各行业的交汇....
的头像 ABB中国 发表于 07-19 17:54 523次 阅读
大胆预测未来工厂里有哪些新科技?

AI正在悄悄听懂你的话

实际上无声语音识别是一项典型的“美好而无用”的AI技术,它既完美体现了一系列技术的排列组合。
发表于 07-19 16:43 51次 阅读
AI正在悄悄听懂你的话

智能协作能为人类做到什么

把人类的动作当做“棋谱”大量输入给神经网络,让神经网络自行挖掘动作和实现目标之间的关系。
发表于 07-19 16:36 40次 阅读
智能协作能为人类做到什么

人工智能如何影响网络安全

人工智能的攻防之战不断展开,在网络上关于它的负面评论也渐渐浮现。
发表于 07-19 16:25 48次 阅读
人工智能如何影响网络安全

如何从难以普及的数据增强技术

虽然数据驱动不是AI算法训练的唯一途径,但在产业中已经出现了很明显的趋势。
发表于 07-19 16:19 55次 阅读
如何从难以普及的数据增强技术

为AI加上安全锁有没有可能

然而随着AI的发展与应用,这门新技术所暴露出来的危险与不确定性确实也渐渐浮出水面。
发表于 07-19 16:15 37次 阅读
为AI加上安全锁有没有可能

如何让AI赋能智慧电力和智慧城市建设

谈到如何赋能智慧电力建设,常向魁说,大华智慧电力解决方案以人工智能、物联网、大数据等技术为核心,在传....
发表于 07-19 16:11 127次 阅读
如何让AI赋能智慧电力和智慧城市建设

人工智能时代,它是下一个机器人明星产品

在本届峰会上,深圳未来科技有限公司展示的儿童智能机器人通过语言识别、人脸识别、语音唤醒等技术,搭建了....
的头像 机器人峰会 发表于 07-19 15:34 161次 阅读
人工智能时代,它是下一个机器人明星产品

新人工智能模型提高预测乳癌准确度达87%

新的AI模型能以良好的准确度来预测患者恶性乳癌一年内的发展,以减少进行不必要测试的女性患者人数。
发表于 07-19 15:29 49次 阅读
新人工智能模型提高预测乳癌准确度达87%

中国云端智能机器人募资 5 亿美元,准备赴美上市

近日,云端智能机器人运营商达闼科技(CloudMinds)正式向其递交招股书,准备在纽交所上市,据悉....
的头像 DeepTech深科技 发表于 07-19 15:02 323次 阅读
中国云端智能机器人募资 5 亿美元,准备赴美上市

达摩院“机器智能实验室”成型,阿里AI芯片会怎样?

随着达摩院这两年的成长,在AI 布局的深度与应用的广度又更上一层楼,现在其机器智能实验室已经是整个阿....
的头像 满天芯 发表于 07-19 14:55 152次 阅读
达摩院“机器智能实验室”成型,阿里AI芯片会怎样?

AI智能教育,从小培养孩子兴趣

7月17日,上书院联合瓦力工厂举办的“机器人编程课程”暑期研学活动于瓦力工厂公主坟校区顺利举行。
的头像 瓦力工厂机器人 发表于 07-19 11:52 350次 阅读
AI智能教育,从小培养孩子兴趣

NVIDIA GPU解决方案亮相 推进专业视听产业升级

亚太专业视听和交互体验式通信技术交流的平台会议InfoComm China 2019在北京启幕,作为....
发表于 07-19 10:58 118次 阅读
NVIDIA GPU解决方案亮相 推进专业视听产业升级

AI加持下的互联网反欺诈

针对互联网乱象纷飞的欺诈行为,芯盾时代一直秉持着零容忍的态度,在虚假交易、薅羊毛、信息泄露、信用欺诈....
的头像 芯盾时代 发表于 07-19 10:09 379次 阅读
AI加持下的互联网反欺诈

DOCOMO在推动5G发展方面的一些举措介绍

在5G方面,DOCOMO会在两个月以后9月份在世界橄榄球大会上正式开展预商用,在明年的春天会开始5G....
发表于 07-19 10:08 53次 阅读
DOCOMO在推动5G发展方面的一些举措介绍

加入AI自主学习后会发生什么事

软件升级包括分区清洁、自主学习。
发表于 07-19 09:55 46次 阅读
加入AI自主学习后会发生什么事

如何让AI能力延伸至边缘

人工智能技术的复兴,主要归功于过去几年以来以IT为代表的计算能力的显着提升。
发表于 07-19 09:50 45次 阅读
如何让AI能力延伸至边缘

科技如何避免成为黑产帮凶

科技的发展推动了社会进步,同时也带来很多风险和隐患。
发表于 07-19 09:48 45次 阅读
科技如何避免成为黑产帮凶

人工智能(AI)对于当今生活的现实意义有什么

人工智能绝对是现代生产力变革的巨大动力,和不远的将来,和你和我都息息相关,现如今它已经在不远的将来向....
发表于 07-19 09:43 47次 阅读
人工智能(AI)对于当今生活的现实意义有什么

来看看中国机器人的发展现状

新的视觉技术、机器人的认知、灵巧性的追求、高投资回报、机械手的开发等都在不断吸引着协作机器人新兴入局....
的头像 高工机器人 发表于 07-19 09:35 177次 阅读
来看看中国机器人的发展现状
网站地图