您的位置:皇家国际官网 > 通讯 > 英伟达在GTC2018日本站推多款新品,聚焦机器人和

英伟达在GTC2018日本站推多款新品,聚焦机器人和

2019-11-03 14:36

皇家国际官网 1

原标题:英伟达在日本推多款新品,聚焦机器人和自动驾驶

原标题:英伟达新GPU发布:快到飞起,快到老黄瞬间学会了跳舞

据9月13日消息,在北京时间今天上午举行的GTC2018日本站上,英伟达首席执行官黄仁勋介绍了该公司在AI方面的最新进展,宣布了一系列新产品,其中包括NVIDIA TensorRT 超大规模平台、NVIDIA Drive AGX Xavier开发套件以及Jetson AGX Xavier开发套件等。

皇家国际官网 2

栗子 假装发自 东京

现场还补充介绍了英伟达于不久前分别发布的新Quadro RTX和新Geforce RTX。据介绍,富士公司成为日本第一家采用NVIDIA DGX-2 AI超级计算机的公司,它将用于加速医疗保健和医疗成像系统等领域的AI技术的开发,以及用于显示器的高功能材料等。

本文系网易智能工作室(公众号smartman 163)出品。聚焦AI,读懂下一个大时代!

皇家国际官网 3

英伟达在本次GTC2018日本站上宣布的新产品具体有:

【网易智能讯 9月13日消息】在北京时间今天上午举行的GTC(GPU Technoglogy Conference)2018日本站上,英伟达首席执行官黄仁勋介绍了该公司在AI方面的最新进展,宣布了一系列新产品,其中包括Tesla T4 GPU、Nvidia Drive AGX Xavier开发套件以及Jetson AGX Xavier开发套件等。现场还补充介绍了英伟达于不久前分别发布的新Quadro RTX和新Geforce RTX。

没办法,就是快

NVIDIA TensorRT超大规模平台

据介绍,富士公司(FUJIFILM)成为日本第一家采用NVIDIA DGX-2 AI超级计算机的公司,它将用于加速医疗保健和医疗成像系统等领域的AI技术的开发,以及用于显示器的高功能材料等。

快到飞起。

英伟达今天推出了一个全新的人工智能数据中心平台——TensorRT超大规模平台,能够为语音、视频、图像和推荐服务提供推理加速解决方案。该平台可为端到端应用提供最快性能和更低延迟,使超大规模数据中心能够提供新的服务,例如增强型自然语言交互,以及对搜索查询的给出直接答案而非模糊匹配的一系列结果。处理查询的速度比仅采用CPU时快40倍。NVIDIA预计AI推理行业有望在未来五年内平稳增长至200亿美元的市场。

黄仁勋在本次GTC2018日本站上宣布的新产品具体有:

昨天,东京,“教主”黄仁勋发布了一枚新GPU:Tesla T4

NVIDIA TensorRT超大规模平台包括一整套硬件和软件产品,这些产品针对强大、高效的推理进行了优化。关键要素包括:

Nvidia Tesla T4 Tensor Core GPU

按照英伟达的说法,Tesla T4是为推理而生的。

NVIDIA Tesla T4 GPU——搭载320个Turing Tensor Core和2560个CUDA Core,这款全新GPU具有突破性的性能,以及灵活的多精度功能,从FP32到FP16再到INT8及INT4。它采用高能效的75瓦小型PCIe封装,可轻松适用于大多数服务器。FP16的峰值性能为65 teraflops,INT8为130 teraflops,INT4为260 teraflops。

皇家国际官网 4

2,560个CUDA,320个张量核心 (Tensor Core) ,推理加速表现如下。

NVIDIA TensorRT 5——推理优化器和运行时引擎,NVIDIA TensorRT 5支持Turing Tensor Core,并对适用于多精度工作负载的神经网络优化集进行了扩展。

英伟达今天宣布推出TESLA T4 Tensor CORE GPU,引入了革命性的Turing Tensor Core技术,具有用于AI推理的多精度计算。T4提供从FP32到FP16到INT8以及INT4精度的突破性性能,其性能比CPU高出40倍。

皇家国际官网 5

NVIDIA TensorRT推理服务器——这一容器化的微服务软件使应用能够在数据中心生产中采用AI模型。其在NVIDIA GPU Cloud容器注册中免费提供,可实现数据中心吞吐量和GPU利用率的最大化,支持所有常用AI模型和框架,并集成了Kubernetes和Docker。

TensorRT Hyperscale

蓝为CPU,灰为P4,绿为T4

NVIDIA AGX系列

英伟达今天推出了一个人工智能数据中心平台——TensorRT Hyperscale,能够为语音、视频、图像和推荐服务提供推理加速解决方案。

比赛结束,基于帕斯卡架构的P4前辈,在T4面前输得很惨:

英伟达今天还宣布了其AGX阵容,这是英伟达基于Xavier的产品系列的新名称,这些产品专为从机器人到自动驾驶汽车的自动机器系统而设计,嵌入了AI HPC。今天推出的是Nvidia Drive AGX Xavier开发套件,这是一个用于构建自动驾驶系统的平台。这种开放、可扩展的软件和硬件解决方案使公司能够无缝地开发和测试定制的自动驾驶技术,简化生产。Nvidia还提供类似的Clara平台,专为医疗应用而设计,作为疾病早期检测、诊断和治疗的新工具。

该平台为端到端应用提供最快的性能和更低的延迟,使超大规模数据中心能够提供新的服务,例如增强的自然语言交互和搜索查询的直接答案,而不是可能的结果列表。

语音识别模型DeepSpeech 2上,T4比P4的5倍还要快;

style="font-size: 16px;">在神经网络翻译模型GNMT上,T4的速度接近P4的4倍

style="font-size: 16px;">在图像识别模型ResNet-50上,T4也接近P4的3倍

英伟达在GTC2018日本站推多款新品,聚焦机器人和自动驾驶。Jetson AGX Xavier开发套件

Nvidia还推出了TensorRT 5,这是Nvidia深度学习推理优化器和运行时引擎的最新版本,

注意,在T4诞生之前,P4在深度学习界的地位,也是很崇高的。

英伟达今天宣布推出Jetson AGX Xavier开发套件,部分日本的工业和制造商率先开始使用该新系统。作为世界上第一台为人工智能,机器人和边缘计算而创建的计算机,Jetson AGX Xavier的大规模计算性能可以处理对下一代机器人至关重要的测距、定位、测绘、视觉和感知以及路径规划。同时黄仁勋在今天GTC大会上介绍到,雅马哈汽车公司将选择NVIDIA Jetson AGX Xavier作为开发系统,为其即将推出的自动机器系列提供动力。

TensorRT 5支持新的图灵架构、新的优化和INT8 API,与仅使用CPU的平台相比,其推理速度提高了40倍。

Tesla T4快在哪里

文章来源:网易智能

NVIDIA AGX系列

算力的增长,图灵架构里的张量核心 (Tensor Core) 是重中之重。

皇家国际官网 6

皇家国际官网 7

英伟达今天还宣布了其AGX阵容,这是英伟达基于Xavier的产品系列的新名称,这些产品专为从机器人到自动驾驶汽车的自动机器系统而设计,嵌入了AI HPC。

T4的320个张量核心,让数据吞吐量疾速增长,峰值达到260 TOPS(精度INT4) 。

今天推出的是Nvidia Drive AGX Xavier开发套件,这是一个用于构建自动驾驶系统的平台。这种开放、可扩展的软件和硬件解决方案使公司能够无缝地开发和测试定制的自动驾驶技术,简化生产。

再回头看两年前的P4:

Nvidia还提供类似的Clara平台,专为医疗应用而设计,作为疾病早期检测、诊断和治疗的新工具。

皇家国际官网 8

Jetson AGX Xavier开发套件

别看速度提升那么多,Tesla T4的功耗(TDP) 依然停留在谦虚的75瓦

英伟达今天宣布推出Jetson AGX Xavier开发套件,部分日本的工业和制造商率先开始使用该新系统。

这样的GPU,哪里需要哪里搬,英伟达称之为“宇宙通用推理加速器 (Universal Inference Accelerator) ” 。

作为世界上第一台为人工智能,机器人和边缘计算而创建的计算机,Jetson AGX Xavier的大规模计算性能可以处理对下一代机器人至关重要的测距、定位、测绘、视觉和感知以及路径规划。

把参数排列起来,是不是更燃:

同时黄仁勋在今天GTC大会上宣布,雅马哈汽车公司将选择NVIDIA Jetson AGX Xavier作为开发系统,为其即将推出的自动机器系列提供动力。(李健)皇家国际官网,返回搜狐,查看更多

皇家国际官网 9

责任编辑:

(后四行)多种精度混合,有助于加速推理

顺便,T4的显存为16GB GDDR6,带宽为320 GB/s

皇家国际官网 10

以RTX为名的显卡,不论是专业级的Quadro系列还是游戏显卡Geforce系列,都是在T4的关怀之下,学习光线追踪技巧的。哪里该有光亮,哪里该是阴影,几乎不会错。

TensorRT也更新了

TensorRT 5

加速推理,是一项宏伟的事业,只有GPU是不够的。

和Tesla T4一同发布的,是TensorRT 5推理加速引擎。

皇家国际官网 11

这一次更新,主要是为图灵架构提供支持,最高可以达到CPU 40倍的推理速度。

5.0版本中,有8个新的API(精度INT8) ,用于优化推理模型,神经网络翻译也好,推荐系统也好。

现在,TensorRT已经可以和TensorFlow集成,和MatLab集成,ONNX也没放过。

皇家国际官网 12

TensorRT推理服务器

除此之外,搭配着引擎食用的TensorRT推理服务器,也一起发布了,做足全套功课。

服务器的作用,是提升GPU的利用率,在一个节点上同时运行不同框架上的多个模型。以下是一个“学跳舞”模型的生成效果举栗。

皇家国际官网 13

原来是这样啊:

皇家国际官网 14

举栗:只要跟对师傅,就能学好舞步

现在,推理服务器的测试版本已经提供下载了,大家可以试试看:

进击的AGX

有些推理,可以永远留在计算机里。

还有一些,就需要接受现实世界的调教了。

皇家国际官网 15

Nvidia Isaac

针对机器人的大脑,以及其他自动化设备的大脑,英伟达也发布了一系列AGX系统

Jetson AGX,Drive AGX以及Clara AGX皆在此列,是基于Xavier芯片打造的开发包(Devkit) 。

先说Drive AGX,顾名思义,用来开发自动驾驶应用。开发包里有一台计算机,搭载了Drive软件,可以与汽车联动。

皇家国际官网 16

这台电脑,只是老黄在发布会上举起的许多重物之中,比较轻的一个。

团队希望,开发者能在这“大脑”里,写出各式各样的脑回路,帮助自动驾驶汽车适应艰险的路况。

皇家国际官网 17

Drive AGX开发包,10月1日开始发售。

Jetson AGX与之同理,只是用于工业场景。在人口老龄化形势严峻的日本,工业自动化尤其受到重视。

英伟达说,Jetson AGX是全球第一台为自动化设备定制的计算机。工程机械巨头小松制作所等许多企业已经投入使用了。

Clara AGX是医疗场景下的开发包,但这里没有计算机,只是纯纯的SDK

皇家国际官网 18

一句重要的话

如果想要申请谷歌云上的T4早期试用,请在这里填表:

—返回搜狐,查看更多

责任编辑:

本文由皇家国际官网发布于通讯,转载请注明出处:英伟达在GTC2018日本站推多款新品,聚焦机器人和

关键词: 皇家国际官网