9 月 26 日，NVIDIA英伟达在北京举行GTC大会，NVIDIA 创始人兼首席执行官黄仁勋在演讲中展示了能够加快人工智能大规模采用速度的全新技术，并介绍了为云服务商、电商和智慧城市提供的各项计算平台服务。

 

发布AI 推理软件TensorRT 3：可每秒识别 5,200 张图片

为满足市场需求，NVIDIA发布了 TensorRT 3 AI 推理软件，该软件能够在生产环境中运行经过训练的神经网络（请参阅“深度学习训练与推理之间有何区别？”）。这款新软件能够大幅提升从云端向终端设备（包括无人驾驶汽车和机器人）的推理性能，并能降低成本。

 

当NVIDIA  GPU结合TensorRT 3，就能够在所有框架上开展超快、超高效的推理工作，从而实现众多支持 AI 的服务，例如图像和语音识别、自然语言处理、视觉搜索和个性化建议。据黄仁勋介绍，搭配 Tesla V100 GPU 加速器的 TensorRT 每秒能够识别多达 5,700 张图片，而如今所用的 CPU 则每秒仅能识别 140 张图片。

 

据称，搭配NVIDIA最新 GPU 的一台服务器顶得上当前 150 台 CPU 服务器。换个角度来说，采用 GPU 加速技术的一个数据中心所开展的推理工作相当于 13 个仅采用 CPU 的数据中心。

除了 TensorRT 3 以外，黄仁勋还发布了能够实现 AI 加速的软件。其中包括能够大规模提供实时、低延迟视频分析的 DeepStream SDK、以及能够加快 HPC 和深度学习应用速度的加速计算软件平台 CUDA 的最新版本：CUDA 9。

 

为云服务提供商和OEM提供Tesla V100

NVIDIA创始人兼首席执行官黄仁勋在 GPU 技术大会上发表演讲时表示，阿里云、百度和腾讯正在将NVIDIA V100 GPU运用到其数据中心和云服务基础架构中。

黄仁勋表示：“人工智能是当前时代最为重要的技术发展，具有造福社会的巨大潜力。随着全球领先的云服务提供商相继采用Volta GPU和NVIDIA的软件来部署全球最佳的人工智能平台，我们将看到来自医药、自动化交通、精密制造、乃至更多领域的惊人突破。”

 

为京东实现自动化配送

NVIDIA 还宣布将与中国大型在线零售商京东合作。

京东每年配送的包裹数量超过 300 亿，且这一数字还在以 50% 的速度逐年增长。为应对如此大的增幅，京东正着手推出能够向客户派发包裹的 JDrover，以及能携带 30 公斤包裹的无人机 JDrone。京东的目标是在 2022 年之前建设一支拥有 100 万架无人机的机群。

这两种配送工具均由京东创新实验室研发，由 NVIDIA Jetson 超级计算平台提供技术支持，且运行 TensorRT以实现导航和无人送货。

 

为智慧城市交通提供Metropolis 视频分析平台

 

英伟达Metropolis于5月发布，是一个包含各种工具和技术从终端到云端的视频分析平台，以构建覆盖交通与停车管理、执法、城市服务各个方面更智能更快速的AI赋能应用。

全球已有 50 多家顶尖公司在使用 NVIDIA Metropolis，如今阿里巴巴和华为也加入了这一行列。据黄仁勋介绍，在 2020 年之前，将借力在城市中部署的超过 10 亿台的摄像头，以期解决交通拥堵、紧急事件通知和失踪人员搜寻等问题。