【测试通过环境】

win10 x64
vs2019
cuda11.7+cudnn8.8.0
TensorRT-8.6.1.6
opencvsharp==4.9.0
.NET Framework4.7.2

NVIDIA GeForce RTX 2070 Super

版本和上述环境版本不一样的需要重新编译TensorRtExtern.dll，TensorRtExtern源码地址：TensorRT-CSharp-API/src/TensorRtExtern at TensorRtSharp2.0 · guojin-yan/TensorRT-CSharp-API · GitHub

Windows版 CUDA安装参考：Windows版 CUDA安装_win cuda安装-CSDN博客

【特别注意】

tensorrt依赖不同硬件需要自己从onnx转换tensorrt，转换就是调用api实现，比如

TensorRtSharp.Custom.Nvinfer.OnnxToEngine(@"yolov8sl-cls.onnx",1024);

【视频演示和解说】

使用C#部署yolov8-cls的图像分类的tensorrt模型_哔哩哔哩_bilibili试环境：win10 x64vs2019cuda11.7+cudnn8.8.0TensorRT-8.6.1.6opencvsharp==4.9.0.NET Framework4.7.2特别注意：环境一定要对上，否则无法正常运行，具体可以参考我的博客和录制视频。博客地址：https://blog.csdn.net/FL1623863129/article/details/139298871, 视频播放量 1、弹幕量 0、点赞数 0、投硬币枚数 0、收藏人数 0、转发人数 0, 视频作者 未来自主研究中心, 作者简介 未来自主研究中心，相关视频：使用C#部署yolov8的目标检测tensorrt模型，使用C#部署yolov8的旋转框obb检测tensorrt模型，使用C#部署yolov8-pose的姿态估计关键点检测tensorrt模型，重生紫薇之：容嬷嬷带我了解yolo v10！ ----人工智能/计算机视觉/yolo，将yolov8封装成一个类几行代码完成语义分割任务，C++使用纯opencv去部署yolov8官方obb旋转框检测，这也太全了！图像处理、特征提取、目标检测、图像检索、图像分类、图像修复、医疗影像等七大计算机视觉算法一口气学完！，C++使用纯opencv部署yolov9的onnx模型，用C#部署yolov8的tensorrt模型进行目标检测winform最快检测速度，yolov8 TensorRT C++ C#部署https://www.bilibili.com/video/BV1K1421q71C/?vd_source=989ae2b903ea1b5acebbe2c4c4a635ee

【部分实现源码】

using System;
using System.Collections.Generic;
using System.ComponentModel;
using System.Data;
using System.Drawing;
using System.Linq;
using System.Text;
using System.Threading.Tasks;
using System.Windows.Forms;
using FIRC;
using OpenCvSharp;
using TrtCommon;
using TensorRtSharp;
using TensorRtSharp.Custom;
using System.Diagnostics;
using System.IO;namespace WindowsFormsApp1
{public partial class Form1 : Form{public Form1(){InitializeComponent();}private void button1_Click(object sender, EventArgs e){var names=File.ReadAllLines("labels.txt");var detector = new Yolov8Cls("yolov8l-cls.engine");Mat image1 = Cv2.ImRead(@"1.jpg");var results = detector.Predict(new List<Mat> { image1 });Console.WriteLine("推理结果："+ names[results[0].datas[0].index]);}private void button2_Click(object sender, EventArgs e){TensorRtSharp.Custom.Nvinfer.OnnxToEngine(@"yolov8l-cls.onnx",1024);}private void button3_Click(object sender, EventArgs e){var detector = new Yolov8Cls("yolov8l-cls.engine");VideoCapture capture = new VideoCapture(0);if (!capture.IsOpened()){Console.WriteLine("video not open!");return;}Mat frame = new Mat();var sw = new Stopwatch();//int fps = 0;while (true){capture.Read(frame);if (frame.Empty()){Console.WriteLine("data is empty!");break;}sw.Start();var results = detector.Predict(new List<Mat> { frame });Console.WriteLine("推理结果：" + results[0].datas[0].index);//sw.Stop();//fps = Convert.ToInt32(1 / sw.Elapsed.TotalSeconds);//sw.Reset();//Cv2.PutText(frame, "FPS=" + fps, new OpenCvSharp.Point(30, 30), HersheyFonts.HersheyComplex, 1.0, new Scalar(255, 0, 0), 3);显示结果//Cv2.ImShow("Result", frame);//int key = Cv2.WaitKey(10);//if (key == 27)//    break;}capture.Release();}}
}

【演示源码下载地址】https://download.csdn.net/download/FL1623863129/89374051

注意源码提供上面对应环境的dll，只需要安装上面一样cuda+cudnn和tensorrt版本即可正常运行。如果您不安装一样版本不能正常运行。此时需要重新编译TensorRtExtern.dll，此外由于tensorrt依赖硬件不一样电脑可能无法共用tensorrt模型，所以必须要重新转换onnx模型到engine才可以运行。