概述
本文记录在本地部署腾讯混元大模型的过程。仅为部署记录,不涉及过多的技术要点。
混元大模型主页:https://github.com/Tencent/HunyuanVideo
该模型应该是当前开源的效果不错的模型,其实官方文档将部署过程写的相当详细了,但是这里为了便于后期的学习,特意将部署过程记录下,因为部署过程中还是有写一些问题在的。
官方配置过程
1 下载项目
//也可以在官网 下载zip 然后本地解压
git clone https://github.com/tencent/HunyuanVideo
cd HunyuanVideo
2 环境配置
【注意】模型官方推荐的CUDA版本为 12.4或者11.8,所以您的CUDA版本应为 12.4及以上,或者11.8-12.4 因为CUDA高版本对低版本有兼容性的。我跑这个模型 CUDA版本为12.2,所以后续在配置环境时,主要参考11.8进行配置。
We recommend CUDA versions 12.4 or 11.8 for the manual installation.
具体的环境配置参照官方得文档即可。注意 您的CUDA版本如果低于 12.4 参考 11.8进行配置。
# 1. Create conda environment
conda create -n HunyuanVideo python==3.10.9# 2. Activate the environment
conda activate HunyuanVideo# 3. Install PyTorch and other dependencies using conda
# For CUDA 11.8
conda install pytorch==2.4.0 torchvision==0.19.0 torchaudio==2.4.0 pytorch-cuda=11.8 -c pytorch -c nvidia
# For CUDA 12.4
conda install pytorch==2.4.0 torchvision==0.19.0 torchaudio==2.4.0 pytorch-cuda=12.4 -c pytorch -c nvidia# 4. Install