NVIDIA DeepStream SDK 说明及链接

NVIDIA DeepStream SDK

DeepStream 的多平台支持为您提供了一种更快、更简单的方式来开发视觉AI应用程序和服务。您甚至可以在本地、边缘和云中部署它们,只需单击一个按钮。

开始   在Launchpad上试用


什么是 NVIDIA DeepStream?

NVIDIA 的 DeepStream SDK 是一个基于 GStreamer 的完整流分析工具包,用于基于 AI 的多传感器处理、视频、音频和图像理解。它非常适合视觉 AI 开发人员、软件合作伙伴、初创公司和OEM构建 IVA 应用程序和服务。

您现在可以创建流处理管道,其中包含神经网络和其他复杂的处理任务,如跟踪、视频编码/解码和视频渲染。这些管道可以对视频、图像和传感器数据进行实时分析。

DeepStream 是 NVIDIA Metropolis, 不可或缺的一部分,该平台用于构建端到端服务和解决方案,将像素和传感器数据转化为可操作的见解。

福利

强大灵活的SDK

DeepStream SDK非常适合广泛行业的各种用例。

多种编程选项

使用C/C++、Python或Graph Composer简单直观的UI创建强大的视觉AI应用程序。

实时洞察

了解边缘丰富的多模态实时传感器数据。

托管人工智能服务

在云原生容器中部署AI服务,并使用库伯内特斯编排它们。

TCO降低

通过使用TAO工具包训练、调整和优化模型以及使用DeepStream部署模型来提高流密度。


独特能力

享受从边缘到云的无缝发展

DeepStream为您提供了一种更快、更简单的方式来构建基于AI的视频、音频和图像分析的无缝流媒体管道。它附带40多个hardware-accelerated插件和扩展,以优化前/后处理、推理、多目标跟踪、消息代理等。此外,它还提供了一些世界上性能最好的实时多对象跟踪器。

使用DeepStream的现成容器轻松构建云原生应用程序,这些应用程序可以部署在公共和私有云、由NVIDIA GPU驱动的工作站或NVIDIA Jetson上。其“一次开发,随处部署”方法简化了代码管理并提供了极大的可扩展性。DeepStream Container Builder工具还可以更轻松地使用NVIDIA NGC容器构建高性能、云原生AI应用程序,这些容器可以轻松大规模部署,并使用库伯内特斯和Helm Charts进行管理。

DeepStream REST-API可让您在运行时管理多个参数,简化SaaS解决方案的创建。使用标准REST-API接口,您可以构建用于控制和配置的Web门户,或集成到您现有的应用程序中。

了解更多

构建端到端AI解决方案

通过使用NVIDIA Metcity is构建端到端视觉AI系统,加快整体开发工作并解锁更高的实时性能。从生产质量的视觉AI模型开始,使用TAO Toolkit对其进行调整和优化,并使用DeepStream进行部署。

获得令人难以置信的灵活性——从快速原型设计到完整的生产级解决方案——并选择您的推理路径。通过原生集成到NVIDIA Triton™推理服务r,您可以在PyTorch和TensorFlow等原生框架中部署模型进行推理。使用NVIDIA TensorRT™用于高吞吐量推理,具有多GPU、多流和批处理支持选项,也有助于您实现最佳性能。

PipeTuner 1.0是一种新的开发人员工具,现在可以轻松调整广泛的参数,以优化AI管道以进行推理和跟踪

了解更多

加速视觉AI开发

DeepStream SDK捆绑了30多个示例应用程序,旨在帮助您启动开发工作。大多数示例提供C/C++、Python和Graph Composer版本,并在NVIDIA Jetson和dGPU平台上运行。通过支持Windows Subsystem forLinux(WSL2),您现在可以在Windows环境中进行开发,而无需访问远程Linux系统。

DeepStream Service Maker通过抽象GStreamer的复杂性来简化开发过程,从而轻松构建C++面向对象的应用程序。使用Service Maker只需几行代码即可构建完整的DeepStream管道

DeepStream库由CV-CUDA、NvImageCodec和PyNvVideoCodec提供支持,提供低级GPU加速操作,以优化视觉AI管道的前期和后期阶段。

Graph Composer为DeepStream开发人员提供强大的低代码开发选项,以创建复杂的管道并使用Container Builder快速部署它们。

了解更多

创建下一代人工智能应用程序

严格的调度控制、自定义调度器和高效的资源管理对于与机械臂和自动化质量控制线等确定性系统集成至关重要。

随着图形执行格式(GXF)的引入,与DeepStream管道处理的视觉流传感器相比,可以轻松地与运行在不同时域的控制信号集成。

新的参考应用程序可帮助您快速启动生成式AI应用程序的开发。对传感器融合的新支持BEVFusion增加了激光雷达和雷达输入,可以与相机输入融合,为开发人员带来了一系列新的用例。

了解更多

为Vision AI提供生产就绪的解决方案

DeepStream是英伟达人工智能企业的一部分,英伟达人工智能企业是一个端到端、安全、云原生的人工智能软件平台,经过优化,可将企业加速到人工智能的前沿。
英伟达人工智能企业为英伟达人工智能开源软件提供验证和集成,访问人工智能解决方案工作流程以加快生产时间,在任何地方部署人工智能的认证,以及企业级支持、安全性和应用编程接口稳定性,以降低开源软件的潜在风险。

了解更多


探索多种编程选项

C/C++

用C/C++创建应用程序,直接与GStreamer和DeepStream插件交互,并使用参考应用程序和模板。

了解更多关于C/C++

蟒蛇

DeepStream管道可以使用Gst Python构建,GStreamer框架的Python绑定。绑定和Python示例应用程序的源代码可在GitHub上获得。

了解有关Python的更多信息

Graph Composer

Graph Composer是一个低代码开发工具,增强了DeepStream用户体验。使用简单、直观的UI,处理管道通过拖放操作构建。

了解更多关于Graph Composer

提高准确性和实时性能

Jetson Orin NanoJetson Orin NXJetson Orin AGX™T4A2A10A30A100H100L40L4Quadro(A6000)A4000L4000ARM SBSA
应用型号跟踪器推断分辨率精密GPUGPUDLA1DLA2GPUDLA1DLA2GPUGPUGPUGPUGPUGPUGPUGPUGPUGPUGPUGPU
人检测PeopleNet-ResNet34(v2.3.3)无跟踪器960x544INT8256372175175970329329912610
773181961964292951009122920402936187070113017466233613
PeopleNet-ResNet34(v2.3.3)NvDCF(性能)960x544INT82153151701706253103108665682063280642506103427815632855127714135788
车牌识别TrafficCamNet
LPDNet
LPRNet
NvDCF960x544
640x480
96x48
INT8
INT8
FP16
120180--370--382253107113272150280122807411404788670N/A
3D人体姿态估计PeopleNet-ResNet34 BodyPose3DNvDCF960x544
192x256
INT8
FP16
28-40--76--10167160128151255226200235148104313
动作识别ActionRecognitionNet(3DConv)无跟踪器224x224x3x32FP163451--147--173744505529961270<--atag--37/>8703136383193001910

RTX GPU性能仅针对旗舰产品进行报告。所有SKU都支持DeepStream。

DeepStream SDK可让您将AI应用于流式视频,同时优化视频解码/编码、图像缩放以及转换和边缘到云的连接,以实现完整的端到端性能优化。

要了解有关使用DeepStream的性能的更多信息,请查看留档。

阅读客户故事

优化班加罗尔机场的运营

Industry.AI使用包括DeepStream在内的英伟达大都会堆栈来提高机场的安全性和效率。使用视觉人工智能,它能够跟踪被遗弃的行李,标记长长的乘客队列,并提醒安全团队注意潜在问题。

阅读博客

加强配送中心运营

KoiReader使用包含DeepStream SDK的NVIDIA开发人员工具开发了一种人工智能驱动的机器视觉解决方案,以帮助百事可乐在动态分销环境中实现精度和效率。

了解更多关于KoiReader

扩展人工智能驱动的智能空间

FYMA使用NVIDIA DeepStream和NVIDIA Triton™来改进人工智能驱动的空间分析,帧速率超过以前的基准10倍,准确度提高3倍。

了解更多

一般常见问题

DeepStream是开源的吗?

DeepStream是一个闭源SDK。请注意,所有参考应用程序的源代码和几个插件都可用。

可以使用DeepStream SDK部署哪些应用程序?

DeepStream SDK可用于构建端到端人工智能驱动的应用程序来分析视频和传感器数据。一些流行的用例是零售分析、停车管理、管理物流、光学检测、机器人和运动分析。

哪些平台和操作系统与DeepStream兼容?

请参阅平台和操作系统兼容性表。

我可以使用DeepStream在TensorFlow或PyTorch中本地运行我的模型吗?

是的,现在通过集成Triton推理服务器,这是可能的。还有DeepStream6.1.1,应用程序可以使用gPRC与Triton推理服务器的独立/远程实例进行通信。

如何使用DeepStream从TAO Toolkit部署模型?

DeepStream支持开箱即用的几种流行网络。例如,DeepStream支持MaskRCNN。此外,DeepStream还附带了一个示例来运行流行的活在当下的模型,FasterRCNN、SSD和RetinaNet。

NVIDIA Ampere架构GPU是否支持DeepStream?

是的,DS 6.0或更高版本支持安培架构

DeepStream SDK是否支持音频分析?

是的,DeepStream SDK6.1.1支持音频。要开始使用,请下载软件并查看参考音频和自动语音识别(ASR)应用程序。阅读ASR DeepStream插件了解更多信息

本文来自互联网用户投稿,该文观点仅代表作者本人,不代表本站立场。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。如若转载,请注明出处:http://www.mzph.cn/news/851848.shtml

如若内容造成侵权/违法违规/事实不符,请联系多彩编程网进行投诉反馈email:809451989@qq.com,一经查实,立即删除!

相关文章

公交车载视频监控系统解决方案

公交车载视频监控系统基于iVMS-7200移动视频监控管理平台&#xff0c;通过3G/4G网络接入车载前端&#xff0c;实现实时监控、录像回放、GIS地图定位、轨迹回放、设备状态查询、紧急报警等功能。 车载前端包含车载硬盘录像机(简称车载DVR或MDVR)、车载专用摄像机、车载LCD显示屏…

50.Python-web框架-Django中引入静态的bootstrap样式

目录 Bootstrap 官网 特性 下载 在线样例 Bootstrap 入门 Bootstrap v5 中文文档 v5.3 | Bootstrap 中文网 在django中使用bootstrap 新建static\bootstrap5目录&#xff0c;解压后的Bootstrap文件&#xff0c;拷贝项目里就好。 在template文件里引用css文…

k8s metrics-server服务监控pod 的 cpu、内存

项目场景&#xff1a; 需要开启指标服务&#xff0c;依据pod 的 cpu、内存使用率进行自动的扩容或缩容 pod 的数量 解决方案&#xff1a; 下载 metrics-server 组件配置文件&#xff1a; wget https://github.com/kubernetes-sigs/metrics-server/releases/latest/download/…

植物大战僵尸杂交版 MacBook 苹果电脑下载安装详细教程

最近老是看到别人玩植物大战僵尸杂交版&#xff0c;可是找了一圈发现都是PC版本的&#xff0c;原来游戏作者只做了一个PC版本&#xff0c;还好最终没有放弃终于在 Mac 上安装上了植物大战僵尸杂交版 版本是 2.0.88 真的蛮好玩的就是关卡有亿点点难&#xff0c;我最爱玩无尽模式…

一站式解决ComfyUI安装、调试和界面操作,附安装包 C001

点击打开以上网页&#xff0c;页面往下拉&#xff0c;找到“Direct link to download”&#xff0c;点击即可下载官方安装包。 下载完成后&#xff0c;将安装包移动到你想要安装的地方&#xff0c;解压&#xff08;推荐使用7-Zip&#xff09;&#xff0c;然后点击“run_nvidia_…

无需插件脚本,IDEA配置多服务一键启动

分享本教程的初衷是本人在本地调试时业务场景中需要调用多个服务&#xff0c;并且每次为了找到需要启动的服务花了很多不必要的时间&#xff0c;我相信很多同为开发的小伙伴也有和我一样的困扰。但是学会这招后多个服务需要同时启动时仅需一键即可搞定。接下来让我们一步步设置…

【PasteSpider】的集群组件【PasteCluster】(让你的项目快速支持集群模式)的思路及实现(含源码)

PasteSpider是什么? 一款使用.net编写的开源的Linux容器部署助手&#xff0c;支持一键发布&#xff0c;平滑升级&#xff0c;自动伸缩&#xff0c;Key-Value配置&#xff0c;项目网关&#xff0c;环境隔离&#xff0c;运行报表&#xff0c;差量升级&#xff0c;私有仓库&…

物联网网关和飞鸟物联平台如何助力其实现智能化升级,提升生产效率-天拓四方

随着工业4.0时代的到来&#xff0c;物联网技术逐渐成为推动工业转型升级的关键力量。物联网网关作为连接工业设备与网络的核心枢纽&#xff0c;在工业自动化、数据收集与分析等方面发挥着越来越重要的作用。本案例将围绕一家知名制造企业&#xff0c;展示物联网网关和飞鸟物联平…

提升消费者满意度的五星售后服务认证

在当今竞争激烈的市场环境中&#xff0c;消费者满意度是企业取得成功的重要因素。五星售后服务认证作为一种权威性认证&#xff0c;可以显著提高消费者满意度&#xff0c;增强企业的竞争力。本文将从四个方面探讨五星售后服务认证如何提高消费者满意度。 五星售后服务认证是由国…

SpringCash

文章目录 简介引入依赖application.yml配置常用注解使用1. 启动类添加注解使用方法上添加注解 简介 Spring Cache是一个框架&#xff0c;实现了基于注解的缓存功能底层可以使用EHCache、Caffeine、Redis实现缓存。 注解一般放在Controller的方法上&#xff0c;CachePut 注解一…

高精度定位技术的必要性与实际应用

在当今社会&#xff0c;随着科技的飞速发展&#xff0c;高精度精准定位技术已成为一项不可或缺的基础技术&#xff0c;其应用范围涉及军事、航空、智能交通、无人驾驶、智慧城市建设等众多领域。高精度精准定位不仅为人们的日常生活带来极大便利&#xff0c;还对提升国家的科技…

鸿蒙轻内核A核源码分析系列六 MMU协处理器(1)

在前面系列分析虚实映射时&#xff0c;涉及到了一些MMU协处理器与相关的汇编代码没有深入讲解。本文来专门分析那些协处理器与汇编代码。 本文中所涉及的源码&#xff0c;以OpenHarmony LiteOS-A内核为例&#xff0c;均可以在开源站点 https://gitee.com/openharmony/kernel_l…

运行mvn命令打包项目jar包报错?“Fatal error compiling: 无效的目标发行版: 19 ”, 让我来看看~

最近写实验&#xff0c;要打包项目&#xff0c;但是不管是在cmd运行“mvn clean package -Dmaven.test.skiptrue”命令&#xff0c;还是在idea上去操作&#xff0c;都出现了这样的一个错误&#xff1a; [EROR] Failed to exeoute goal org.apache.maven.plugins:maven-comnpile…

倾斜摄影优化之重:轻量化

老子云倾斜摄影轻量化 1、支持全网多端流畅展示 2、支持私有化部署 3、一键轻量化G级模型 4、多种精度选择 5、支持二次开发 &#xff08;1&#xff09;、压缩可达98%以上 &#xff08;2&#xff09;、多种精度任选&#xff1a;普清、标清、高清、超清 &#xff08;3&am…

Illustrator 2024 mac/win版:创新设计,一触即发

Illustrator 2024是一款由Adobe公司开发的强大且全面的矢量图形设计软件&#xff0c;它以其卓越的性能和丰富的功能&#xff0c;为设计师们提供了一个高效、直观且富有创意的工作环境。 Illustrator 2024 mac/win版获取 作为一款矢量图形设计软件&#xff0c;Illustrator 2024…

linux shell查看24h内修改的文件

执行命令&#xff1a; find /path -type f -mtime 0

【电机】开环控制系统和闭环控制系统

1 什么是控制系统 控制系统是指由控制主体、控制客体和控制媒体组成的具有自身目标和功能的管理系统。也可以理解为&#xff1a;为了使控制对象达到预期的稳定状态。例如一个水箱的温度控制&#xff0c;可以通过控制加热设备输出的功率进而来改变水温达到目标温度&#xff0c;…

基于WPF技术的换热站智能监控系统09--封装水泵对象

1、添加用户控件 2、编写水泵UI 控件中用到了Viewbox控件&#xff0c;Viewbox控件是WPF中一个简单的缩放工具&#xff0c;它可以帮助你放大或缩小单个元素&#xff0c;同时保持其宽高比。通过样式和属性设置&#xff0c;你可以创建出既美观又功能丰富的用户界面。在实际开发中…

Java使用swing实现简易计算器

效果如下 代码实现 import javax.swing.*; import java.awt.*; import java.awt.event.ActionEvent; import java.awt.event.ActionListener;public class SimpleCalculator {private JFrame frame;private JTextField numField1;private JTextField numField2;private JTex…

数据结构习题(快期末了)

一个数据结构是由一个逻辑结构和这个逻辑结构上的一个基本运算集构成的整体。 从逻辑关系上讲&#xff0c;数据结构主要分为线性结构和非线性结构两类。 数据的存储结构是数据的逻辑结构的存储映像。 数据的物理结构是指数据在计算机内实际的存储形式。 算法是对解题方法和…