目录

一、整体结构

二、终端运行

2.1 下载模型文件

2.2 修改代码

 2.3 运行

---

本文主要对 ChatGLM2-6B 的运行代码进行解读。

一、整体结构

项目的整体结构如下所示。

node@node:~/ChatGLM2-6B$ tree -L 1
.
├── api.py
├── cli_demo.py        #命令行运行
├── evaluation
├── FAQ.md
├── MODEL_LICENSE
├── openai_api.py      #封装的OpenAI API
├── ptuning            #微调代码
├── README_EN.md
├── README.md
├── requirements.txt   #运行依赖
├── resources
├── utils.py           #多显卡运行
├── web_demo2.py       
└── web_demo.py        #可视化运行3 directories, 11 files

二、终端运行

2.1 下载模型文件

首先，需要下载模型文件，可以从魔搭社区下载。