目录
- 前言
- pip安装
- 可能出现的报错:
- tar.gz安装
前言
看了无数教程和b站视频,啊啊啊啊啊啊啊啊啊啊啊tensorRT要我狗命啊。我要写全网tensorRT最全的博客!!!
总体来说成功安装方式有两种,pip安装和tar.gz安装(其实官网安装方式居多,奈何没有sudu权限~)我在两台服务器上分别用连这个红安装了tensorRT8.6.1,
硬件:
ubuntu 20.04
cuda:11.0
查看指令:cat usr/local/cuda/version.txt
cat /etc/issue
pip安装
参考:NVIDIA官方安装教程
安装指令:
进入anaconda环境,python3 -m pip install --upgrade tensorrt
(安装最新版)
测试:
python3
>>> import tensorrt
>>> print(tensorrt.__version__)
>>> assert tensorrt.Builder(tensorrt.Logger())
可能出现的报错:
1.[TensorRT] ERROR: CUDA initialization failure with error 222. Please check your CUDA installation: http://docs.nvidia.com/cuda/cuda-installation-guide-linux/index.html
2.CUDA initialization failure with error: 35. Please check your CUDA installation:
解决方案:
pip uninstall tensorrt
pip install tensorrt==查看安装版本,一个一个试
(毕竟我也没办法升级显卡驱动等等~)
成功安装,如下:
tar.gz安装
参考官方安装教程:https://docs.nvidia.com/deeplearning/tensorrt/install-guide/index.html#installing-tar
- 进入下载页面官方下载,注册然后点击“NVIDIA TensorRT 8.x Download”,勾选“ I Agree To the Terms of the NVIDIA TensorRT License Agreement”
2. 把压缩包放在可放的路径,解压:tar zxf TensorRT-8.6.1.6.Linux.x86_64-gnu.cuda-11.8.tar.gz
cd TensorRT-8.6.1.6
export LD_LIBRARY_PATH= L D L I B R A R Y P A T H : / h o m e / 用户名 / 1. s o f t w a r e s / T e n s o r R T − 8.6.1.6 / l i b s o u r c e / . b a s h r c e x p o r t L D L I B R A R Y P A T H = LD_LIBRARY_PATH:/home/用户名/1.softwares/TensorRT-8.6.1.6/lib source ~/.bashrc export LD_LIBRARY_PATH= LDLIBRARYPATH:/home/用户名/1.softwares/TensorRT−8.6.1.6/libsource /.bashrcexportLDLIBRARYPATH=LD_LIBRARY_PATH:/home/用户名/1.softwares/TensorRT-8.6.1.6/include/
source ~/.bashrc - 参考官网,pip安装各种包
这些wheel都在TensorRT-8.6.1.6文件夹中,cd过去pip就行
- 测试
cd 1.softwares/TensorRT-8.6.1.6/samples/sampleOnnxMNIST
make
../../bin/sample_onnx_mnist
参考连接:
https://zhuanlan.zhihu.com/p/392143346
【Linux安装Tensorrt】 https://www.bilibili.com/video/BV1kB4y117NZ/?share_source=copy_web&vd_source=4e0c29ba5725db288c1234b3d73dcfce
https://blog.csdn.net/qq_42160143/article/details/129837613