【AI】ubuntu 22.04 本地搭建Qwen-VL 支持图片识别的大语言模型 AI视觉

下载源代码

yeqiang@yeqiang-MS-7B23:~/Downloads/src$ git clone https://gh-proxy.com/https://github.com/QwenLM/Qwen-VL
正克隆到 'Qwen-VL'...
remote: Enumerating objects: 584, done.
remote: Counting objects: 100% (305/305), done.
remote: Compressing objects: 100% (129/129), done.
remote: Total 584 (delta 273), reused 177 (delta 176), pack-reused 279
接收对象中: 100% (584/584), 26.69 MiB | 1.50 MiB/s, 完成.
处理 delta 中: 100% (334/334), 完成.
 

下载模型

yeqiang@yeqiang-MS-7B23:~/Downloads/ai$ git clone https://www.modelscope.cn/qwen/Qwen-VL-Chat.git
正克隆到 'Qwen-VL-Chat'...
remote: Enumerating objects: 205, done.
remote: Counting objects: 100% (48/48), done.
remote: Compressing objects: 100% (46/46), done.
remote: Total 205 (delta 17), reused 17 (delta 2), pack-reused 157
接收对象中: 100% (205/205), 15.59 MiB | 1.57 MiB/s, 完成.
处理 delta 中: 100% (82/82), 完成.
yeqiang@yeqiang-MS-7B23:~/Downloads/ai$ cd Qwen-VL-Chat/
yeqiang@yeqiang-MS-7B23:~/Downloads/ai/Qwen-VL-Chat$ ll
总用量 2776
-rw-rw-r-- 1 yeqiang yeqiang    1159 2024-04-07 14:10:32 config.json
-rw-rw-r-- 1 yeqiang yeqiang      73 2024-04-07 14:10:32 configuration.json
-rw-rw-r-- 1 yeqiang yeqiang    2087 2024-04-07 14:10:32 configuration_qwen.py
-rw-rw-r-- 1 yeqiang yeqiang     221 2024-04-07 14:10:32 generation_config.json
-rw-rw-r-- 1 yeqiang yeqiang   44654 2024-04-07 14:10:32 modeling_qwen.py
-rw-rw-r-- 1 yeqiang yeqiang     135 2024-04-07 14:10:32 pytorch_model-00001-of-00010.bin
-rw-rw-r-- 1 yeqiang yeqiang     135 2024-04-07 14:10:32 pytorch_model-00002-of-00010.bin
-rw-rw-r-- 1 yeqiang yeqiang     135 2024-04-07 14:10:32 pytorch_model-00003-of-00010.bin
-rw-rw-r-- 1 yeqiang yeqiang     135 2024-04-07 14:10:32 pytorch_model-00004-of-00010.bin
-rw-rw-r-- 1 yeqiang yeqiang     135 2024-04-07 14:10:32 pytorch_model-00005-of-00010.bin
-rw-rw-r-- 1 yeqiang yeqiang     135 2024-04-07 14:10:32 pytorch_model-00006-of-00010.bin
-rw-rw-r-- 1 yeqiang yeqiang     135 2024-04-07 14:10:32 pytorch_model-00007-of-00010.bin
-rw-rw-r-- 1 yeqiang yeqiang     135 2024-04-07 14:10:32 pytorch_model-00008-of-00010.bin
-rw-rw-r-- 1 yeqiang yeqiang     135 2024-04-07 14:10:32 pytorch_model-00009-of-00010.bin
-rw-rw-r-- 1 yeqiang yeqiang     135 2024-04-07 14:10:32 pytorch_model-00010-of-00010.bin

-rw-rw-r-- 1 yeqiang yeqiang   79941 2024-04-07 14:10:32 pytorch_model.bin.index.json
-rw-rw-r-- 1 yeqiang yeqiang   14873 2024-04-07 14:10:32 qwen_generation_utils.py
-rw-rw-r-- 1 yeqiang yeqiang 2561218 2024-04-07 14:10:32 qwen.tiktoken
-rw-rw-r-- 1 yeqiang yeqiang   25351 2024-04-07 14:10:32 README.md
-rw-rw-r-- 1 yeqiang yeqiang     133 2024-04-07 14:10:32 SimSun.ttf
-rw-rw-r-- 1 yeqiang yeqiang   21915 2024-04-07 14:10:32 tokenization_qwen.py
-rw-rw-r-- 1 yeqiang yeqiang     173 2024-04-07 14:10:32 tokenizer_config.json
-rw-rw-r-- 1 yeqiang yeqiang   14555 2024-04-07 14:10:32 visual.py
 

git拉取modescope.cn的镜像大小不正确,使用git lfs pull拉取大文件

sudo apt install git-lfs

在Qwen-VL-Chat目录下执行

git lfs install
git lfs pull

效果

yeqiang@yeqiang-MS-7B23:~/Downloads/ai/Qwen-VL-Chat$ ll -h
总用量 19G
-rw-rw-r-- 1 yeqiang yeqiang 1.2K 2024-04-07 14:10:32 config.json
-rw-rw-r-- 1 yeqiang yeqiang   73 2024-04-07 14:10:32 configuration.json
-rw-rw-r-- 1 yeqiang yeqiang 2.1K 2024-04-07 14:10:32 configuration_qwen.py
-rw-rw-r-- 1 yeqiang yeqiang  221 2024-04-07 14:10:32 generation_config.json
-rw-rw-r-- 1 yeqiang yeqiang  44K 2024-04-07 14:10:32 modeling_qwen.py
-rw-rw-r-- 1 yeqiang yeqiang 1.9G 2024-04-07 15:11:56 pytorch_model-00001-of-00010.bin
-rw-rw-r-- 1 yeqiang yeqiang 1.9G 2024-04-07 15:00:18 pytorch_model-00002-of-00010.bin
-rw-rw-r-- 1 yeqiang yeqiang 1.9G 2024-04-07 15:15:37 pytorch_model-00003-of-00010.bin
-rw-rw-r-- 1 yeqiang yeqiang 1.9G 2024-04-07 15:11:06 pytorch_model-00004-of-00010.bin
-rw-rw-r-- 1 yeqiang yeqiang 1.8G 2024-04-07 15:19:55 pytorch_model-00005-of-00010.bin
-rw-rw-r-- 1 yeqiang yeqiang 1.9G 2024-04-07 15:02:08 pytorch_model-00006-of-00010.bin
-rw-rw-r-- 1 yeqiang yeqiang 1.9G 2024-04-07 15:08:07 pytorch_model-00007-of-00010.bin
-rw-rw-r-- 1 yeqiang yeqiang 1.9G 2024-04-07 15:02:31 pytorch_model-00008-of-00010.bin
-rw-rw-r-- 1 yeqiang yeqiang 1.9G 2024-04-07 15:15:58 pytorch_model-00009-of-00010.bin
-rw-rw-r-- 1 yeqiang yeqiang 1.7G 2024-04-07 15:20:21 pytorch_model-00010-of-00010.bin

-rw-rw-r-- 1 yeqiang yeqiang  79K 2024-04-07 14:10:32 pytorch_model.bin.index.json
-rw-rw-r-- 1 yeqiang yeqiang  15K 2024-04-07 14:10:32 qwen_generation_utils.py
-rw-rw-r-- 1 yeqiang yeqiang 2.5M 2024-04-07 14:10:32 qwen.tiktoken
-rw-rw-r-- 1 yeqiang yeqiang  25K 2024-04-07 14:10:32 README.md
-rw-rw-r-- 1 yeqiang yeqiang  11M 2024-04-07 15:02:44 SimSun.ttf
-rw-rw-r-- 1 yeqiang yeqiang  22K 2024-04-07 14:10:32 tokenization_qwen.py
-rw-rw-r-- 1 yeqiang yeqiang  173 2024-04-07 14:10:32 tokenizer_config.json
-rw-rw-r-- 1 yeqiang yeqiang  15K 2024-04-07 14:10:32 visual.py
yeqiang@yeqiang-MS-7B23:~/Downloads/ai/Qwen-VL-Chat$ du -sh
37G    .
 

检查python3版本

yeqiang@yeqiang-MS-7B23:~/Downloads/ai/Qwen-VL-Chat$ python3 -V
Python 3.10.12
 

创建venv环境

sudo apt install python3.10-venv
cd ~/Downloads/src/Qwen-VL/
python3 -m venv venv

加载env

yeqiang@yeqiang-MS-7B23:~/Downloads/src/Qwen-VL$ source venv/bin/activate
(venv) yeqiang@yeqiang-MS-7B23:~/Downloads/src/Qwen-VL$ python -V
Python 3.10.12
(venv) yeqiang@yeqiang-MS-7B23:~/Downloads/src/Qwen-VL$ pip -V
pip 22.0.2 from /home/yeqiang/Downloads/src/Qwen-VL/venv/lib/python3.10/site-packages/pip (python 3.10)
 

安装依赖

pip install -r requirements.txt

安装好的清单

(venv) yeqiang@yeqiang-MS-7B23:~/Downloads/src/Qwen-VL$ pip list
Package                       Version
----------------------------- -----------
absl-py                       2.1.0
accelerate                    0.29.1
certifi                       2024.2.2
charset-normalizer            3.3.2
contourpy                     1.2.1
cycler                        0.12.1
einops                        0.7.0
filelock                      3.13.3
fonttools                     4.51.0
fsspec                        2024.3.1
grpcio                        1.62.1
huggingface-hub               0.22.2
idna                          3.6
Jinja2                        3.1.3
kiwisolver                    1.4.5
Markdown                      3.6
MarkupSafe                    2.1.5
matplotlib                    3.8.4
mpmath                        1.3.0
networkx                      3.3
numpy                         1.26.4
nvidia-cublas-cu12            12.1.3.1
nvidia-cuda-cupti-cu12        12.1.105
nvidia-cuda-nvrtc-cu12        12.1.105
nvidia-cuda-runtime-cu12      12.1.105
nvidia-cudnn-cu12             8.9.2.26
nvidia-cufft-cu12             11.0.2.54
nvidia-curand-cu12            10.3.2.106
nvidia-cusolver-cu12          11.4.5.107
nvidia-cusparse-cu12          12.1.0.106
nvidia-nccl-cu12              2.19.3
nvidia-nvjitlink-cu12         12.4.127
nvidia-nvtx-cu12              12.1.105
packaging                     24.0
pillow                        10.3.0
pip                           22.0.2
protobuf                      5.26.1
psutil                        5.9.8
pyparsing                     3.1.2
python-dateutil               2.9.0.post0
PyYAML                        6.0.1
regex                         2023.12.25
requests                      2.31.0
safetensors                   0.4.2
scipy                         1.13.0
setuptools                    59.6.0
six                           1.16.0
sympy                         1.12
tensorboard                   2.16.2
tensorboard-data-server       0.7.2
tiktoken                      0.6.0
tokenizers                    0.13.3
torch                         2.2.2
torchvision                   0.17.2
tqdm                          4.66.2
transformers                  4.32.0
transformers-stream-generator 0.0.4
triton                        2.2.0
typing_extensions             4.11.0
urllib3                       2.2.1
Werkzeug                      3.0.2
 

下载字体

(venv) yeqiang@yeqiang-MS-7B23:~/Downloads/src/Qwen-VL$ wget https://gh-proxy.com/https://github.com/StellarCN/scp_zh/raw/master/fonts/SimSun.ttf 

给模型做个软连接

(venv) yeqiang@yeqiang-MS-7B23:~/Downloads/src/Qwen-VL$ ln -s ~/Downloads/ai/Qwen-VL-Chat . 
(venv) yeqiang@yeqiang-MS-7B23:~/Downloads/src/Qwen-VL$ ll
总用量 10628
drwxrwxr-x 3 yeqiang yeqiang     4096 2024-04-07 13:58:32 assets
-rw-rw-r-- 1 yeqiang yeqiang     1029 2024-04-07 13:58:32 BUILD.md
-rw-rw-r-- 1 yeqiang yeqiang     1686 2024-04-07 13:58:32 Dockerfile.qwendemo
-rw-rw-r-- 1 yeqiang yeqiang     2209 2024-04-07 13:58:32 Dockerfile.qwenint4openai
-rw-rw-r-- 1 yeqiang yeqiang     1821 2024-04-07 13:58:32 Dockerfile.qwenopenai
drwxrwxr-x 5 yeqiang yeqiang     4096 2024-04-07 13:58:32 eval_mm
-rw-rw-r-- 1 yeqiang yeqiang     2540 2024-04-07 13:58:32 FAQ_ja.md
-rw-rw-r-- 1 yeqiang yeqiang     2235 2024-04-07 13:58:32 FAQ_ko.md
-rw-rw-r-- 1 yeqiang yeqiang     1809 2024-04-07 13:58:32 FAQ.md
-rw-rw-r-- 1 yeqiang yeqiang     2208 2024-04-07 13:58:32 FAQ_zh.md
drwxrwxr-x 2 yeqiang yeqiang     4096 2024-04-07 13:58:32 finetune
-rw-rw-r-- 1 yeqiang yeqiang    12479 2024-04-07 13:58:32 finetune.py
-rw-rw-r-- 1 yeqiang yeqiang     6903 2024-04-07 13:58:32 LICENSE
-rw-rw-r-- 1 yeqiang yeqiang     2703 2024-04-07 13:58:32 NOTICE
-rw-rw-r-- 1 yeqiang yeqiang    17688 2024-04-07 13:58:32 openai_api.py
lrwxrwxrwx 1 yeqiang yeqiang       39 2024-04-07 16:19:51 Qwen-VL-Chat -> /home/yeqiang/Downloads/ai/Qwen-VL-Chat
-rw-rw-r-- 1 yeqiang yeqiang    42732 2024-04-07 13:58:32 README_CN.md
-rw-rw-r-- 1 yeqiang yeqiang    43566 2024-04-07 13:58:32 README_JA.md
-rw-rw-r-- 1 yeqiang yeqiang    42118 2024-04-07 13:58:32 README_KO.md
-rw-rw-r-- 1 yeqiang yeqiang    45050 2024-04-07 13:58:32 README.md
-rw-rw-r-- 1 yeqiang yeqiang       46 2024-04-07 13:58:32 requirements_openai_api.txt
-rw-rw-r-- 1 yeqiang yeqiang      133 2024-04-07 13:58:32 requirements.txt
-rw-rw-r-- 1 yeqiang yeqiang       18 2024-04-07 13:58:32 requirements_web_demo.txt
-rw-rw-r-- 1 yeqiang yeqiang 10518768 2024-04-07 16:18:51 SimSun.ttf
drwxrwxr-x 2 yeqiang yeqiang      103 2024-04-07 13:58:32 touchstone
-rw-rw-r-- 1 yeqiang yeqiang    13203 2024-04-07 13:58:32 TUTORIAL_ja.md
-rw-rw-r-- 1 yeqiang yeqiang    14132 2024-04-07 13:58:32 TUTORIAL_ko.md
-rw-rw-r-- 1 yeqiang yeqiang    13391 2024-04-07 13:58:32 TUTORIAL.md
-rw-rw-r-- 1 yeqiang yeqiang    11423 2024-04-07 13:58:32 TUTORIAL_zh.md
drwxrwxr-x 6 yeqiang yeqiang      115 2024-04-07 16:15:50 venv
-rw-rw-r-- 1 yeqiang yeqiang     9695 2024-04-07 13:58:32 web_demo_mm.py
 

启动web界面

(venv) yeqiang@yeqiang-MS-7B23:~/Downloads/src/Qwen-VL$ python3 web_demo_mm.py -c ./Qwen-VL-Chat --server-name 0.0.0.0 --server-port 8000
Traceback (most recent call last):
  File "/home/yeqiang/Downloads/src/Qwen-VL/web_demo_mm.py", line 12, in <module>
    import gradio as gr
ModuleNotFoundError: No module named 'gradio'
 

漏了web的依赖

pip install -r requirements_web_demo.txt

2060带不动

参考资料

魔搭社区

通义千问

Qwen-VL/README_CN.md at master · QwenLM/Qwen-VL · GitHub

本文来自互联网用户投稿,该文观点仅代表作者本人,不代表本站立场。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。如若转载,请注明出处:http://www.mzph.cn/news/798836.shtml

如若内容造成侵权/违法违规/事实不符,请联系多彩编程网进行投诉反馈email:809451989@qq.com,一经查实,立即删除!

相关文章

代码+视频,手动绘制logistic回归预测模型校准曲线(Calibration curve)(2)

校准曲线图表示的是预测值和实际值的差距&#xff0c;作为预测模型的重要部分&#xff0c;目前很多函数能绘制校准曲线。 一般分为两种&#xff0c;一种是通过Hosmer-Lemeshow检验&#xff0c;把P值分为10等分&#xff0c;求出每等分的预测值和实际值的差距 另外一种是calibrat…

JetBrains IDE 2024.1 发布 - 开发者工具

JetBrains IDE 2024.1 (macOS, Linux, Windows) - 开发者工具 CLion, DataGrip, DataSpell, Fleet, GoLand, IntelliJ IDEA, PhpStorm, PyCharm, Rider, RubyMine, WebStorm 请访问原文链接&#xff1a;JetBrains IDE 2024.1 (macOS, Linux, Windows) - 开发者工具&#xff0…

在线免费图像处理

功能 尺寸修改(自定义和内置常用的照片尺寸)图像压缩(比较好的情况最高可以压缩 10 倍, 如果是无损压缩可以压缩 5 倍左右,参数范围 50~70 左右)图像方向修改图像格式修改修改后的效果支持实时反馈, 并且支持点击图像预览,同时保留历史修改图片(在预览中可以查看) 入口 图片…

嵌入式学习49-单片机2

指令周期 1M 机器周期 12M &#xff08;晶体震荡器产生&#xff09; 中断两种方式 …

Java常用API_正则表达式_检验字符串是否满足规则——基础使用方法及综合练习

正则表达式可以校验字符串是否满足一定的规则&#xff0c;并用来校验数据格式的合法性。 简单举例&#xff1a; 校验一个qq号是否符合要求 要求&#xff1a;6位到20位之内&#xff0c;不能以0开头&#xff0c;必须全是数字 代码演示&#xff1a; public class Test1 {public…

【代码随想录】哈希表

文章目录 242.有效的字母异位词349. 两个数组的交集202. 快乐数1. 两数之和454. 四数相加 II383. 赎金信15. 三数之和18. 四数之和 242.有效的字母异位词 class Solution {public boolean isAnagram(String s, String t) {if(snull || tnull || s.length()!t.length()){return …

性能测试工具 ab(Apache Bench)使用详解

Apache Bench (ab) 是一个由 Apache 提供的非常流行的、简单的性能测试工具&#xff0c;用于对 HTTP 服务器进行压力测试。下面是 ab 工具的一些基本使用方法。 安装 在大多数 Unix 系统中&#xff0c;ab 通常作为 Apache HTTP 服务器的一部分预装在系统中。你可以通过在终端…

机器学习——模型融合:平均法

机器学习——模型融合&#xff1a;平均法 在机器学习领域&#xff0c;模型融合是一种通过结合多个基本模型的预测结果来提高整体模型性能的技术。模型融合技术通常能够降低预测的方差&#xff0c;提高模型的鲁棒性&#xff0c;并在一定程度上提高预测的准确性。本文将重点介绍…

每日一题:三数之和

给你一个整数数组 nums &#xff0c;判断是否存在三元组 [nums[i], nums[j], nums[k]] 满足 i ! j、i ! k 且 j ! k &#xff0c;同时还满足 nums[i] nums[j] nums[k] 0 。请 你返回所有和为 0 且不重复的三元组。 注意&#xff1a;答案中不可以包含重复的三元组。 示例 1…

Django项目定时任务django-crontab

首先定义一个定时任务函数tasks.py&#xff08;见文章末尾示例&#xff09;&#xff0c;编写函数&#xff0c;然后在setting.py中配置定时任务 1、首先安装django-crontab pip install django-crontab 2、在setting.py中添加应用 (在所有自定义注册app之上) INSTALLED_APPS …

基于SpringBoot的“汽车租赁系统”的设计与实现(源码+数据库+文档+PPT)

基于SpringBoot的“汽车租赁系统”的设计与实现&#xff08;源码数据库文档PPT) 开发语言&#xff1a;Java 数据库&#xff1a;MySQL 技术&#xff1a;SpringBoot 工具&#xff1a;IDEA/Ecilpse、Navicat、Maven 系统展示 系统功能结构图 管理员登录界面图 管理员功能界面…

LeetCode 2415. 2415. 反转二叉树的奇数层

解题思路 bfs&#xff0c;在奇数层的时候&#xff0c;将该层所有的值进行翻转。 相关代码 /*** Definition for a binary tree node.* public class TreeNode {* int val;* TreeNode left;* TreeNode right;* TreeNode() {}* TreeNode(int val) { this.…

三、Redis持久化

目录 一、Redis持久化的原理 1、RDB方式&#xff1a; 2、AOF方式&#xff1a; 二、redis 持久化配置 1、RDB持久化相关配置 2、AOF持久化相关配置 一、Redis持久化的原理 Redis默认情况下&#xff0c;是把数据存储在内存中的&#xff0c;所有数据的写入&#xff0c;查询等…

【Linux】在 Linux 上模拟网络故障

文章目录 模拟网络丢包模拟网络延迟、抖动模拟网络包重复模拟网络带宽受限模拟网络错误模拟网络乱序重置网络清空所有规则 模拟网络丢包 # 在enp189s0f1网络接口上替换排队规则&#xff0c;应用netem规则来模拟30%的数据包丢失 tc qdisc replace dev enp189s0f1 root netem lo…

吴恩达2022机器学习专项课程(一) 第二周课程实验:多元线性回归(Lab_02)

1.训练集 使用Numpy数组存储数据集。 2.打印数组 打印两个数组的形状和数据。 3.初始化w&#xff0c;b 为了演示&#xff0c;w&#xff0c;b预设出接近最优解的值。w是一个一维数组&#xff0c;w个数对应特征个数。 4.非向量化计算多元线性回归函数 使用for循环&…

程序“猿”:现实世界的魔法师

在这个由代码构建的数字世界里&#xff0c;程序员就像现实世界中的魔法师。他们用键盘敲击出的符号和逻辑&#xff0c;创造出让人们生活变得更加便捷和丰富的软件和应用。但除了技术的高深莫测&#xff0c;你知道程序员们最喜欢什么吗&#xff1f;让我们一探究竟。 首先&#x…

【pycharm报错】rror: Microsoft Visual C++ 14.0 or greater is required.

一、报错 二、下载vs 路径&#xff1a;https://visualstudio.microsoft.com/zh-hans/visual-cpp-build-tools/ 三、安装 四、安装成功并启动 重新安装chromadb成功

springCloud-LoadBalancer负载均衡微服务负载均衡器LoadBalancer

2020年前SpringCloud是采用Ribbon作为负载均衡实现&#xff0c;但是在2020后采用了LoadBalancer替代 LoadBalancer默认提供了两种负载均衡策略&#xff08;只能通过配置类来修改负载均衡策略&#xff09; 1.RandomLoadBalancer-随机分配策略 2.RoundRobinLoadBalancer-轮询分配…

Linux IO的奥秘:深入探索数据流动的魔法

Linux I/O&#xff08;输入/输出&#xff09;系统是其核心功能之一&#xff0c;负责处理数据在系统内部及与外界之间的流动。为了优化这一流程&#xff0c;Linux进行了一系列努力和抽象化&#xff0c;以提高效率、灵活性和易用性。&#x1f680; 1. 统一的设备模型 Linux将所…

鸿蒙ArkTS开始实例:【canvas实现签名板功能】

使用ArkTS中的canvas实现签名板的功能&#xff0c;canvas画布大家都很熟悉&#xff0c;我们会用它经常实现一些画板或者图表、表格之类的功能。canvas签名板是我在开发APP过程中实现的一个功能&#xff0c;开发过程中也是遇到比较多的问题。我会按照以下几点来讲解开发整个过程…