数字人对话系统 Linly-Talker（已加入Qwen和GeminiPro加强对话+上传任意图片的数字人）

🔥🔥🔥数字人对话系统 Linly-Talker🔥🔥🔥（已加入Qwen和GeminiPro加强对话+上传任意图片的数字人）

English 简体中文

欢迎大家star我的仓库 https://github.com/Kedreamix/Linly-Talker

我在B站也有更新我的视频，大家也可以看看效果 ​www.bilibili.com/video/BV1rN4y1a76x/

2023.12 更新 📆

用户可以上传任意图片进行对话

2024.01 更新 📆

令人兴奋的消息！我现在已经将强大的GeminiPro和Qwen大模型融入到我们的对话场景中。用户现在可以在对话中上传任何图片，为我们的互动增添了全新的层面。

介绍

Linly-Talker是一个将大型语言模型与视觉模型相结合的智能AI系统,创建了一种全新的人机交互方式。它集成了各种技术,例如Whisper、Linly、微软语音服务和SadTalker会说话的生成系统。该系统部署在Gradio上,允许用户通过提供图像与AI助手进行交谈。用户可以根据自己的喜好进行自由的对话或内容生成。

在这里插入图片描述

创建环境

conda create -n linly python=3.8 
conda activate linlypip install torch==1.11.0+cu113 torchvision==0.12.0+cu113 torchaudio==0.11.0 --extra-index-url https://download.pytorch.org/whl/cu113conda install ffmpeg pip install -r requirements_app.txt

ASR - Whisper

借鉴OpenAI的Whisper,具体使用方法参考https://github.com/openai/whisper

TTS - Edge TTS

使用微软语音服务,具体使用方法参考https://github.com/rany2/edge-tts

THG - SadTalker

说话头生成使用SadTalker,参考CVPR 2023,详情见https://sadtalker.github.io

下载SadTalker模型:

bash scripts/download_models.sh

LLM - Conversation

Linly-AI

Linly来自深圳大学数据工程国家重点实验室,参考https://github.com/CVI-SZU/Linly

下载Linly模型:https://huggingface.co/Linly-AI/Chinese-LLaMA-2-7B-hf

git lfs install
git clone https://huggingface.co/Linly-AI/Chinese-LLaMA-2-7B-hf

或使用API:

# 命令行
curl -X POST -H "Content-Type: application/json" -d '{"question": "北京有什么好玩的地方?"}' http://url:port  # Python
import requestsurl = "http://url:port"
headers = {"Content-Type": "application/json"
}data = {"question": "北京有什么好玩的地方?" 
}response = requests.post(url, headers=headers, json=data)
# response_text = response.content.decode("utf-8")
answer, tag = response.json()
# print(answer)
if tag == 'success':response_text =  answer[0]
else:print("fail")
print(response_text)

Qwen

来自阿里云的Qwen，查看 https://github.com/QwenLM/Qwen

下载 Qwen 模型: https://huggingface.co/Qwen/Qwen-7B-Chat-Int4

git lfs install
git clone https://huggingface.co/Qwen/Qwen-1_8B-Chat

Gemini-Pro

来自 Google 的 Gemini-Pro，了解更多请访问 https://deepmind.google/technologies/gemini/

请求 API 密钥: https://makersuite.google.com/

模型选择

在 app.py 文件中，轻松选择您需要的模型。

# 取消注释并设置您选择的模型:# llm = Gemini(model_path='gemini-pro', api_key=None, proxy_url=None) # 不要忘记加入您自己的 Google API 密钥
# llm = Qwen(mode='offline', model_path="Qwen/Qwen-1_8B-Chat")
# 自动下载
# llm = Linly(mode='offline', model_path="Linly-AI/Chinese-LLaMA-2-7B-hf")
# 手动下载到指定路径
llm = Linly(mode='offline', model_path="./Chinese-LLaMA-2-7B-hf")

优化

一些优化:

  • 使用固定的输入人脸图像,提前提取特征,避免每次读取
  • 移除不必要的库,缩短总时间
  • 只保存最终视频输出,不保存中间结果,提高性能
  • 使用OpenCV生成最终视频,比mimwrite更快

Gradio

Gradio是一个Python库,提供了一种简单的方式将机器学习模型作为交互式Web应用程序来部署。

对Linly-Talker而言,使用Gradio有两个主要目的:

  1. 可视化与演示:Gradio为模型提供一个简单的Web GUI,上传图片和文本后可以直观地看到结果。这是展示系统能力的有效方式。

  2. 用户交互:Gradio的GUI可以作为前端,允许用户与Linly-Talker进行交互对话。用户可以上传自己的图片并输入问题,实时获取回答。这提供了更自然的语音交互方式。

具体来说,我们在app.py中创建了一个Gradio的Interface,接收图片和文本输入,调用函数生成回应视频,在GUI中显示出来。这样就实现了浏览器交互而不需要编写复杂的前端。

总之,Gradio为Linly-Talker提供了可视化和用户交互的接口,是展示系统功能和让最终用户使用系统的有效途径。

启动

首先说明一下的文件夹结构如下

Linly-Talker/ 
├── app.py
├── app_img.py
├── utils.py
├── Linly-api.py
├── Linly-example.ipynb
├── README.md
├── README_zh.md
├── request-Linly-api.py
├── requirements_app.txt
├── scripts
│   └── download_models.sh
├──	src
│	└── .....
├── inputs
│   ├── example.png
│   └── first_frame_dir
│       ├── example_landmarks.txt
│       ├── example.mat
│       └── example.png
├── examples
│   ├── driven_audio
│   │   ├── bus_chinese.wav
│   │   ├── ......
│   │   └── RD_Radio40_000.wav
│   ├── ref_video
│   │   ├── WDA_AlexandriaOcasioCortez_000.mp4
│   │   └── WDA_KatieHill_000.mp4
│   └── source_image
│       ├── art_0.png
│       ├── ......
│       └── sad.png
├── checkpoints // SadTalker 权重路径
│   ├── mapping_00109-model.pth.tar
│   ├── mapping_00229-model.pth.tar
│   ├── SadTalker_V0.0.2_256.safetensors
│   └── SadTalker_V0.0.2_512.safetensors
├── gfpgan // GFPGAN 权重路径
│   └── weights
│       ├── alignment_WFLW_4HG.pth
│       └── detection_Resnet50_Final.pth
├── Chinese-LLaMA-2-7B-hf // Linly 权重路径├── config.json├── generation_config.json├── pytorch_model-00001-of-00002.bin├── pytorch_model-00002-of-00002.bin├── pytorch_model.bin.index.json├── README.md├── special_tokens_map.json├── tokenizer_config.json└── tokenizer.model

接下来进行启动

python app.py

在这里插入图片描述

可以任意上传图片进行对话

python app_img.py

在这里插入图片描述

参考

  • https://github.com/openai/whisper
  • https://github.com/rany2/edge-tts
  • https://github.com/CVI-SZU/Linly
  • https://github.com/OpenTalker/SadTalker

本文来自互联网用户投稿，该文观点仅代表作者本人，不代表本站立场。本站仅提供信息存储空间服务，不拥有所有权，不承担相关法律责任。如若转载，请注明出处：http://www.mzph.cn/news/596088.shtml

如若内容造成侵权/违法违规/事实不符，请联系多彩编程网进行投诉反馈email:809451989@qq.com，一经查实，立即删除！

相关文章

Git专栏篇

Git专栏篇

一、基础知识 二、常用手段 1. 复制其他提交到本分支 目的：现有git仓库，该仓库有两个分支a和b，将a分支的最近三个版本提交内容复制 到b分支的提交上。 在 Linux 系统中，你可以按照以下步骤将分支 A 的最近三个版本的提交内容复…
阅读更多...
linux 环境下安装ffmpeg。

linux 环境下安装ffmpeg。

参考 https://www.anquanclub.cn/9782.html 下载解压 wget http://www.ffmpeg.org/releases/ffmpeg-3.1.tar.gz tar -zxvf ffmpeg-3.1.tar.gz cd ffmpeg-3.1. ./configure --prefix/usr/local/ffmpeg make && make install 之后在 ffmepg目录下执行 ./ffmpeg -versio…
阅读更多...
CMake中引入第三方库

CMake中引入第三方库

CMake中，如果我们需要引入第三方库，首先想到的是用find_package函数。的确，如果我们引入的第三方库是一些比较标准的库如OpenCV可以用下面的代码。 set(OpenCV_DIR xxxx) # xxxx目录包含OpenCVConfig.cmake find_package(opencv required) #…
阅读更多...
XOR运算文件加密示例

XOR运算文件加密示例

前言： XOR加密是一种非常简单的加密技术属于对称加密（相同的密钥进行加密和解密），不提供机密性或完整性验证因此不适用于高度敏感的数据，容易受到各种攻击，包括已知明文攻击。在实际应用中，应该…
阅读更多...
实时记录和查看Apache 日志

实时记录和查看Apache 日志

Apache 是一个开源的、广泛使用的、跨平台的 Web 服务器，保护 Apache Web 服务器平台在很大程度上取决于监控其上发生的活动和事件，监视 Apache Web 服务器的最佳方法之一是收集和分析其访问日志文件。 Apache 访问日志提供了有关用户如何与您的网站交互…
阅读更多...
外贸客户邮箱采集软件的工作原理

外贸客户邮箱采集软件的工作原理

外贸客户邮箱采集软件是专为外贸从业人员设计的工具，旨在帮助用户快速、准确地获取潜在客户的邮箱地址。此类软件在国际贸易中发挥着越来越重要的作用，尤其在当前数字化时代，有效的客户邮箱采集已成为外贸业务成功的关键因素之一。 该软件的…
阅读更多...
Volcano Controller控制器源码解析

Volcano Controller控制器源码解析

Volcano Controller控制器源码解析 本文从源码的角度分析Volcano Controller相关功能的实现。 本篇Volcano版本为v1.8.0。 Volcano项目地址: https://github.com/volcano-sh/volcano controller命令main入口: cmd/controller-manager/main.go controller相关代码目录: pkg/co…
阅读更多...
一加 Buds 3正式发布：普及旗舰音质 一加用户首选

一加 Buds 3正式发布：普及旗舰音质 一加用户首选

1月4日，一加新品发布会正式推出旗下新款耳机一加 Buds 3。延续一加经典美学，秉承音质完美主义追求，一加 Buds 3全面普及一加旗舰耳机体验，其搭载旗舰同款“超清晰同轴双单元”，配备49dB 4000Hz超宽频主动降噪&#xff…
阅读更多...
pandas时间加减

pandas时间加减

在 Pandas 中，可以使用加减法运算符(、-)对时间序列进行加减运算。还可以使用 pd.DateOffset 或 pd.Timedelta 对时间序列进行偏移。 示例： import pandas as pd# 创建时间序列 date_rng pd.date_range(start1/1/2020, end1/10/2020, freqD) df pd.D…
阅读更多...
万界星空科技MES系统中的生产管理

万界星空科技MES系统中的生产管理

MES系统能够帮助企业实现生产计划管理、生产过程控制、产品质量管理、车间库存管理、项目看板管理等，提高企业制造执行能力。 万界星空MES系统特点： 1. 采用强大数据采集引擎、整合数据采集渠道（RFID、条码设备、PLC、Sensor、IPC、PC等&…
阅读更多...
【中小型企业网络实战案例 七】配置限速

【中小型企业网络实战案例 七】配置限速

相关学习文章： 【中小型企业网络实战案例 一】规划、需求和基本配置 【中小型企业网络实战案例 二】配置网络互连互通【中小型企业网络实战案例 三】配置DHCP动态分配地址 【中小型企业网络实战案例 四】配置OSPF动态路由协议【中小型企业网络实战案例 五】配置可…
阅读更多...
C++系列十三：C++中的引用

C++系列十三：C++中的引用

C中的引用 1. 引用的声明与初始化2. 引用在函数中的应用3. 引用的注意事项与陷阱 引用在C中是一种特殊的变量，它为其他变量提供了一个别名。这意味着，引用和它所引用的变量实际上是同一个实体。通过引用，可以直接访问和修改变量的值&#xff…
阅读更多...
Hubery-个人项目经历记录

Hubery-个人项目经历记录

研究生期间很有幸的进入到了崔老师的组，从此也就进入到了分析人体生理信号的领域，充满挑战的同时也充满了乐趣。借着CSDN整理一下近几年来参与的项目，这里蕴含着我各种美好的回忆，也作为一个展示自己的平台吧。 开始之前&#xff…
阅读更多...
作业--day41

作业--day41

利用模板类完成顺序表 #include <iostream>using namespace std;//模板类 template <typename T> class SeqTab{T arr[20];int maxsize; public:SeqTab():maxsize(0){}void Insert(T a);void Search(T a);void Delete(int index);void Show(); };//尾插 template …
阅读更多...
鸿蒙（HarmonyOS）项目方舟框架（ArkUI）之线性布局容器Column组件

鸿蒙（HarmonyOS）项目方舟框架（ArkUI）之线性布局容器Column组件

鸿蒙&#xff08;HarmonyOS&#xff09;项目方舟框架&#xff08;ArkUI&#xff09;之线性布局容器Column组件 一、操作环境 操作系统: Windows 10 专业版、IDE:DevEco Studio 3.1、SDK:HarmonyOS 3.1 二、Column组件 沿垂直方向布局的容器。 子组件 可以包含子组件。 接…
阅读更多...
完美解决Github 2fa二次验证问题

完美解决Github 2fa二次验证问题

完美解决Github 2fa二次验证问题 原文阅读 https://onedayxyy.cn/docs/github-2fa 前言 你的 Github 账户可能被封禁! 教你应对 Github 最新的 2FA 二次验证! 无地区限制, 无额外设备的全网最完美方案 1、2FA 的定义 双因素身份验证 (2FA) 是一种身份和访管理安全方法&…
阅读更多...
栈和队列基本实现

栈和队列基本实现

1、栈 1.1栈的概念及结构 栈时一种特殊的线性表&#xff0c;只允许在固定的一端进行插入和删除元素操作。进行数据插入和删除操作的一端称为栈顶&#xff0c;另一端称为栈底。栈中的数据元素遵守后进先出LIFO&#xff08;Last In First Out&#xff09;的原则。 1.2栈的基本实…
阅读更多...
物流实时数仓：数仓搭建（DWS）一

物流实时数仓：数仓搭建（DWS）一

系列文章目录 物流实时数仓&#xff1a;采集通道搭建 物流实时数仓&#xff1a;数仓搭建 物流实时数仓&#xff1a;数仓搭建&#xff08;DIM&#xff09; 物流实时数仓&#xff1a;数仓搭建&#xff08;DWD&#xff09;一 物流实时数仓&#xff1a;数仓搭建&#xff08;DWD&am…
阅读更多...
遥测终端机——连接智能世界的桥梁

遥测终端机——连接智能世界的桥梁

在当今的智能化时代&#xff0c;数据的重要性日益凸显。各个行业都需要对数据进行实时监测、处理和分析&#xff0c;以提升生产效率、优化运营管理。遥测终端机作为连接智能世界的桥梁&#xff0c;正逐渐成为各行业的必备设备。 遥测终端机是一种集数据采集、存储、传输和管理于…
阅读更多...
《微信小程序开发从入门到实战》学习七十一

《微信小程序开发从入门到实战》学习七十一

6.6 网络API 6.6.5 WebSocket API 使用WebSocket API可使小程序与服务器建立长连接。小程序端和服务端长时间内可主动向对端发送一些数据 需要先调用wx.connectSocket创建一个连接&#xff0c;返回一个SocketTask对象&#xff0c;然后WebSocket方式通信。 SocketTask对象可…
阅读更多...
最新文章

Copyright @ 2022~2023