如何在现场电脑是部署onnx模型

调整版本为Release x64(关键)并配置好CUDA和CUDNN。
注意:Release | x64是基类主配置,包含目录下有编译器的一些链接库

以及一些库目录:
在这里插入图片描述
在这里插入图片描述
以及附加依赖项:

msvcprt.lib
kernel32.lib
user32.lib
gdi32.lib
winspool.lib
comdlg32.lib
advapi32.lib
shell32.lib
ole32.lib
oleaut32.lib
uuid.lib
odbc32.lib
odbccp32.lib
那么我的建议是直接把这些对应的dll都找到然后放到release文件下,不然每次一出错就需要配置很多环境。
-Microsoft.Cpp.x64.user是基类分配置
但是两者都是全局配置,修改会直接修改VS17/19/22的配置,所以建议不要用全局配置来配置环境,容易环境混乱
包含目录:
C:\Program Files\NVIDIA GPU Computing Toolkit\CUDA\v11.7\include
D:\deeplearningpakage\opencv-4.8.1-vc16\build\include
D:\deeplearningpakage\opencv-4.8.1-vc16\build\include\opencv2
D:\deeplearningpakage\onnxruntime-win-x64-gpu-1.14.1\include

库目录:
C:\Program Files\NVIDIA GPU Computing Toolkit\CUDA\v11.7\lib\x64
D:\deeplearningpakage\opencv-4.8.1-vc16\build\x64\vc16\lib
D:\deeplearningpakage\onnxruntime-win-x64-gpu-1.14.1\lib

附加依赖项:
cublas.lib
cublasLt.lib
cuda.lib
cudadevrt.lib
cudart.lib
cudart_static.lib
cudnn.lib
cudnn64_8.lib
cudnn_adv_infer.lib
cudnn_adv_infer64_8.lib
cudnn_adv_train.lib
cudnn_adv_train64_8.lib
cudnn_cnn_infer.lib
cudnn_cnn_infer64_8.lib
cudnn_cnn_train.lib
cudnn_cnn_train64_8.lib
cudnn_ops_infer.lib
cudnn_ops_infer64_8.lib
cudnn_ops_train.lib
cudnn_ops_train64_8.lib
cufft.lib
cufftw.lib
cufilt.lib
curand.lib
cusolver.lib
cusolverMg.lib
cusparse.lib
nppc.lib
nppial.lib
nppicc.lib
nppidei.lib
nppif.lib
nppig.lib
nppim.lib
nppist.lib
nppisu.lib
nppitc.lib
npps.lib
nvblas.lib
nvjpeg.lib
nvml.lib
nvptxcompiler_static.lib
nvrtc-builtins_static.lib
nvrtc.lib
nvrtc_static.lib
OpenCL.lib

opencv_world481.lib
onnxruntime.lib
onnxruntime_providers_cuda.lib
onnxruntime_providers_shared.lib
onnxruntime_providers_tensorrt.lib

Release生成exe成功

运行程序报错:
在这里插入图片描述

加入dll到exe所属目录下(特别注意exe生成地址)
在这里插入图片描述

问题点:
1>LINK : fatal error LNK1104: 无法打开文件“msvcprt.lib”
解答:类似这种系统的安装包出错了,直接重新建一个解决方案,将代码拷贝到新解决方案中。系统会自己纠正内部环境问题。

2、报错0x00007FF8A368CF19 处(位于 onnx模型落地归纳.exe 中)有未经处理的异常: Microsoft C++ 异常: Ort::Exception,位于内存位置 0x000000000014FBF0 处。

解答:这个错误是模型出了问题。检查一下模型的input数据,和output是不是fp32精度的。Int64的输出onnx不支持。

本文来自互联网用户投稿,该文观点仅代表作者本人,不代表本站立场。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。如若转载,请注明出处:http://www.mzph.cn/news/829134.shtml

如若内容造成侵权/违法违规/事实不符,请联系多彩编程网进行投诉反馈email:809451989@qq.com,一经查实,立即删除!

相关文章

C#Lazy 实现延迟加载详解与示例

在C#中&#xff0c;Lazy< T> 类是一个非常有用的工具&#xff0c;它可以用于延迟加载值&#xff0c;尤其是在创建对象时可能很昂贵&#xff0c;或者你想要延迟初始化直到真正需要该值的情况下。在本文中&#xff0c;我们将详细介绍 Lazy< T> 的实现机制和用法&…

代码随想录算法训练营day40

题目&#xff1a;343. 整数拆分、96.不同的二叉搜索树 参考链接&#xff1a;代码随想录 343. 整数拆分 思路&#xff1a;五部曲来走。dp数组&#xff0c;dp[i]用于记录拆i得到的最大乘积和&#xff0c;我们要求的也就是dp[n]&#xff1b;递推公式&#xff0c;我们想拆分i&am…

ZooKeeper集群的搭建

ZooKeeper集群的搭建 将master节点的/data目录下的ZooKeeper安装包解压到/opt/software目录下 tar -zxvf apache-zookeeper-3.6.3-bin.tar.gz -C /opt/software/在master节点切换至ZooKeeper安装目录的conf目录下&#xff0c;将zoo_sample.cfg重命名为zoo.cfg&#xff0c;并…

设计模式-创建型模式-工厂模式

工厂模式是一种用来创建对象的模式&#xff0c;它将对象的创建和使用分离开来&#xff0c;使得代码更加灵活和可扩展。 下面代码中CarFactory是一个工厂类&#xff0c;它根据传入的参数来创建不同类型的Car对象。通过工厂模式&#xff0c;在不改变客户端代码的情况下轻松地添加…

OpenHarmony语言基础类库【@ohos.util.LinkedList (线性容器LinkedList)】

LinkedList底层通过双向链表实现&#xff0c;双向链表的每个节点都包含对前一个元素和后一个元素的引用。当需要查询元素时&#xff0c;可以从头遍历&#xff0c;也可以从尾部遍历&#xff0c;插入、删除效率高&#xff0c;查询效率低。LinkedList允许元素为null。 LinkedList…

基于Springboot的点餐平台

基于SpringbootVue的点餐平台的设计与实现 开发语言&#xff1a;Java数据库&#xff1a;MySQL技术&#xff1a;SpringbootMybatis工具&#xff1a;IDEA、Maven、Navicat 系统展示 用户登录 首页展示 菜品信息 菜品资讯 购物车 后台登录 用户管理 菜品分类管理 菜品信息管理 …

#ESP32S3N8R8(按键点灯)

一、按键对应端口为GPIO0&#xff08;上拉&#xff09; 二、代码 #include <stdio.h> #include "driver/gpio.h" #include "freertos/FreeRTOS.h" #include "freertos/task.h" #include "unistd.h"void app_main(void) {int co…

synchronized和lock区别以及volatile和synchronized的区别

lock和synchronized区别&#xff1a; Lock是一个接口&#xff0c;而synchronized是Java中的关键字&#xff0c;synchronized是内置的语言实现&#xff1b; synchronized在发生异常时&#xff0c;会自动释放线程占有的锁&#xff0c;因此不会导致死锁现象发生&#xff1b;而Loc…

YOLOv8 实现车牌检测,生成可视化检测视频(20240424)

原项目源码地址&#xff1a;GitHub 我的源码地址&#xff1a;Gitee 环境搭建请参考&#xff1a;Win10 搭建 YOLOv8 运行环境&#xff08;20240423&#xff09;-CSDN博客 环境测试请参考&#xff1a;本地运行测试 YOLOv8&#xff08;20240423&#xff09;-CSDN博客 训练数据…

【java数据结构-优先级队列向下调整Topk问题,堆的常用的接口详解】

&#x1f308;个人主页&#xff1a;努力学编程’ ⛅个人推荐&#xff1a;基于java提供的ArrayList实现的扑克牌游戏 |C贪吃蛇详解 ⚡学好数据结构&#xff0c;刷题刻不容缓&#xff1a;点击一起刷题 &#x1f319;心灵鸡汤&#xff1a;总有人要赢&#xff0c;为什么不能是我呢 …

OpenHarmony实战开发-媒体查询 (@ohos.mediaquery)

概述 媒体查询作为响应式设计的核心&#xff0c;在移动设备上应用十分广泛。媒体查询可根据不同设备类型或同设备不同状态修改应用的样式。媒体查询常用于下面两种场景&#xff1a; 针对设备和应用的属性信息&#xff08;比如显示区域、深浅色、分辨率&#xff09;&#xff0…

机器学习模型保存和导出pmml文件(python代码)

1.导出依赖库文件 原生python环境 pip freeze这是最常用的方法&#xff0c;适用于任何基于pip的Python环境&#xff0c;无论是全局环境还是虚拟环境&#xff08;如venv或virtualenv&#xff09;。requirements.txt通常用于纯Python项目&#xff0c;不包括C库等非Python依赖。…

异步日志方案spdlog

异步日志方案spdlog spdlog 是一款高效的 C 日志库&#xff0c;它以其极高的性能和零成本的抽象而著称。spdlog 支持异步和同步日志记录&#xff0c;提供多种日志级别&#xff0c;并允许用户将日志输出到控制台、文件或自定义的接收器。 多线程使用和同步、异步日志没有关系是…

纺织业搭跨境电商快车 浙江国潮服饰 “出海”正当时

近期的多篇报道均聚焦于纺织业中浙江国潮服饰品牌利用跨境电商平台加速国际化进程的趋势&#xff0c;以下是对这一现象的综合概述&#xff1a; 行业背景与趋势&#xff1a;国潮兴起&#xff1a;融合传统中国元素的服饰已经成为全球时尚潮流的一部分&#xff0c;受到国内外消费…

Linux系统----信号(万字文章超级详细并且简单易学附有实操shell指令图及注释!)

绪论​ “Do one thing at a time, and do well.”&#xff0c;本章开始Linux系统其中信号是学习操作系统的基本下面将会讲到什么是信号、信号的多种产生方式、信号如何保存的、信号如何处理的、以及一些信号的细节。话不多说安全带系好&#xff0c;发车啦&#xff08;建议电脑…

金属输送带是什么

金属输送带&#xff1a;现代工业中的重要组成部分 金属输送带&#xff0c;也称为金属传送带或金属网带&#xff0c;是一种广泛应用于各种工业领域的输送设备。它由金属丝、金属板或金属网制成&#xff0c;通过链轮、齿轮或滚筒驱动&#xff0c;用于在生产线或工艺过程中运输各…

【鸿蒙】通知

一、概要 Android的Notification。 说到通知&#xff0c;就想到了推送。 通知这块可以做到不像Android一样需要集成各家厂商的推送了&#xff0c;不知道是否有建立独立的推送系统 这是官网上介绍的跨APP进行的IPC通知。实际在Android开发过程中&#xff0c;可能这种场景会相对…

MarginNote 3 for Mac:一站式思维导图与笔记神器,让学习更高效

MarginNote 3 for Mac是一款功能强大的阅读和学习工具软件&#xff0c;它将PDF/EPUB阅读器和多种学习工具集成起来&#xff0c;旨在帮助用户更有效地进行阅读、笔记整理以及知识管理。 这款软件的核心功能在于其能够将阅读与学习过程紧密结合。用户可以在阅读文档时&#xff0…

C++之特殊类的设计

目录 一、设计一个类&#xff0c;不能被拷贝 二、设计一个类&#xff0c;只能在堆上创建对象 方案一、析构函数私有 方案二、构造函数私有 三、设计一个类&#xff0c;只能在栈上创建对象 四、设计一个类&#xff0c;不能被继承 一、设计一个类&#xff0c;不能被拷…

勒索软件安全防护手册

文章目录 相关背景勒索软件概述勒索软件主要类型文件加密类勒索软件数据窃取类勒索软件系统加密类勒索软件。屏幕锁定类勒索软件 勒索软件典型传播方式利用安全漏洞传播利用钓鱼邮件传播利用网站挂马传播利用移动介质传播利用软件供应链传播利用远程桌面入侵传播 典型勒索软件攻…