大模型相关目录
大模型，包括部署微调prompt/Agent应用开发、知识库增强、数据库增强、知识图谱增强、自然语言处理、多模态等大模型应用开发内容
从0起步，扬帆起航。
- 基于Dify的智能分类方案：大模型结合KNN算法（附代码）
- OpenCompass：大模型测评工具
- 一文读懂多模态大模型基础架构
- 大模型管理平台：one-api使用指南
- 大模型RAG、ROG、RCG概念科普
- RAGOnMedicalKG：大模型结合知识图谱的RAG实现
- DSPy：变革式大模型应用开发
- 最简明的Few-shot Prompt指南
- Semantic Kernel：微软大模型开发框架——LangChain 替代
- 对话大模型Prompt是否需要礼貌点？
- swift与Internvl下的多模态大模型分布式微调指南（附代码和数据）
- 多模态大模型Internvl-1.5-26B微调后部署及测试实录（附代码）
- 多模态大模型Internvl-2-26B的OCR赋能方案（附代码）
- miniconda+xinference的大模型推理部署指南
- Conda pack 进行Python环境打包
文章目录
- 大模型相关目录
- 前言
- 实战
- 安装
- 新建环境
- 打包环境
- 环境迁移
- 激活环境
前言
工程项目落地免不了环境部署，可以使用conda-pack 进行conda 环境打包和分发。
实战
安装
pip install conda-pack
新建环境
conda create -n openai731 python=3.9.17
conda activate openai731
pip install openai
打包环境
conda pack -n openai731 -o openai731.tar.gz
# 把虚拟环境 my_env 打包为 my_env.tar.gz
conda pack -n my_env# -o 参数指定打包路径和名称，把虚拟环境 my_env 打包为 out_name.tar.gz
conda pack -n my_env -o out_name.tar.gz# 把某个特定路径的虚拟环境打包为 my_env.tar.gz
conda pack -p /explicit/path/to/my_env
环境迁移
找到指定路径下的openai731.tar.gz
拷贝到U盘
解压到目标机器的conda env（使用）
# 创建目录 `my_env`，并将环境解压至该目录
mkdir -p my_env
tar -xzf my_env.tar.gz -C my_env
此处解压应用上述指令。
激活环境
“以管理员身份”，进入CMD
进入conda的env的建立的环境中； CD D:\programfiles\miniconda\envs\openai731\;
# 进入项目路径
cd C:\my_env# 激活环境
.\Scripts\activate.bat# 从激活环境中清除前缀。
.\Scripts\conda-unpack.exe# 退出环境
.\Scripts\deactivate.bat
