大家好,我是海鸽。
今天,我要和大家分享如何将请求 GPT 的案例,快速“复刻”成 GPT 网页版。这不仅简单,而且对于我们这些后端开发者来说,简直是福音!
先睹为快
看看这个界面,是不是感觉很熟悉?
这就是我们今天要介绍的主角-Streamlit,此篇文章我们仅仅从复刻一个聊天机器人的角度介绍,认识一下其强大之处。
初识Streamlit
Streamlit 是一个开源的 Python 库,它允许数据科学家快速地将数据脚本转换为交互式网页应用程序。
使用 Streamlit,你可以轻松地创建和分享数据应用,而无需深入了解前端开发。它特别适合于机器学习、数据分析和数据可视化项目。
白话一下就是,Streamlit 可以让没有任何前端基础的人,使用 Python 开发 Web 应用,没有复杂的配置,没有复杂的语法,开箱即用,拎包入住。
Streamlit 的主要特性
Streamlit 作为一个用于快速构建数据应用的 Python 库,其核心特性主要包括:
-
快速开发:使用 Streamlit,你可以用很少的代码快速搭建起一个基本的 Web 应用。
-
数据可视化:Streamlit 支持多种数据可视化库,如 Matplotlib、Plotly、Bokeh 等,可以轻松地将图表和数据展示在 Web 应用中。
-
部署简单:Streamlit 应用可以通过 Streamlit 共享、部署到 Heroku、AWS 等云平台,或者使用 Docker 容器化部署。
-
易于集成:Streamlit 可以很容易地与现有的 Python 数据科学栈集成,包括 Pandas、NumPy、Scikit-learn 等。
这些特性使得 Streamlit 成为数据科学家、分析师和机器学习工程师快速展示和分享他们工作的强大工具。
Streamlit 的安装和使用过程相对简单,以下是基本步骤:
安装 Streamlit
首先,你需要确保你的计算机上安装了 Python。然后,通过 pip 安装 Streamlit。在命令行中运行以下命令:
pip install streamlit==1.36.0
创建一个 Streamlit 应用
-
创建 Python 脚本:创建一个新的 Python 文件,例如
app.py
。 -
创建
.env
配置文件:免费的GPT KEY获取、免费的千义通问KEY获取
OPENAI_API_KEY=sk-Y8wTnsdeG************7gw*******3LG
DASHSCOPE_API_KEY=sk-b***********192e00
- 编写代码:在
app.py
中编写你的 Streamlit 应用代码。以下是一个简单的示例:
# !usr/bin/env python
# -*- coding:utf-8 _*-
# __author__:lianhaifeng# 导入 Streamlit 库
import streamlit as stfrom gpt_bot_stream import stream_invoke
from qw_bot import xiao_hei_zi# 使用 Streamlit 的 API 来创建应用
st.title('10分钟编写大模型应用')st.caption('利用大模型和Streamlit复刻一个闽南菜助手应用')with st.sidebar:option = st.selectbox('选择大模型引擎',('GPT-3.5', 'GPT-4', "qwen-turbo", "qwen-max"))model_mapping = {'GPT-3.5': 'gpt-3.5-turbo','GPT-4': 'gpt-4','qwen-turbo': 'qwen-turbo','qwen-max': 'qwen-max',
}def set_model(model_option: str):"""根据用户选择设置模型参数"""return model_mapping.get(model_option, "gpt-3.5-turbo")# 根据选项设置会话状态中的OpenAI模型参数
st.session_state["openai_model"] = set_model(option)# 检查会话状态中是否已有消息列表,如果没有,则初始化为空列表
if "messages" not in st.session_state:st.session_state.messages = []# 遍历会话状态中的消息列表
for message in st.session_state.messages:# 使用与消息角色对应的聊天消息区域with st.chat_message(message["role"]):# 在聊天消息区域显示消息内容st.markdown(message["content"])
# 初始化一个聊天输入框,鼓励用户输入消息并@特定的助手
prompt = st.chat_input("随时@你想要的[海哥Python]+ 使用闽南菜助手!")# 如果用户输入了消息
if prompt:# 将用户消息添加到会话状态中的消息列表st.session_state.messages.append({"role": "user", "content": prompt})# 显示用户消息with st.chat_message("user"):st.markdown(prompt)# 检查是否启用了特定的OpenAI模型if st.session_state["openai_model"] in ["gpt-3.5-turbo", "gpt-4", "qwen-turbo", "qwen-max"]:# 显示助手正在思考的消息with st.chat_message("assistant"):with st.spinner("Thinking..."):# 准备向后端服务请求的数据request_inputs = {"messages": st.session_state.messages,"model_name": st.session_state["openai_model"]}print(request_inputs)# 调用后端服务,获取助手的回复if request_inputs["model_name"] in ["qwen-turbo", "qwen-max"]:stream_invoke = xiao_hei_ziresponse = st.write_stream(stream_invoke(**request_inputs))# 显示助手的回复st.markdown(response)# 将助手的回复添加到消息列表st.session_state.messages.append({"role": "assistant", "content": response})
导入的 GPT 大模型请求(gpt_bot_stream.py
):
#! -*-conding=: UTF-8 -*-from langchain_openai import ChatOpenAI
from langchain_core.prompts import ChatPromptTemplate
from langchain_core.output_parsers import StrOutputParserfrom dotenv import load_dotenv, find_dotenv # 导入dotenv库,用于加载环境变量_ = load_dotenv(find_dotenv()) # 加载.env文件中的环境变量output_parser = StrOutputParser()def stream_invoke(messages, model_name: str = "gpt-3.5-turbo"):llm = ChatOpenAI(temperature=0.9, streaming=True, base_url="https://api.chatanywhere.com.cn/v1",model_name=model_name)prompt = ChatPromptTemplate.from_messages([("system", "你是世界级的大厨,精通闽南菜,请根据提供的信息,回答问题。"),("user", "{input}")])prompt_llm = prompt | llm | output_parserreturn prompt_llm.stream(messages)if __name__ == '__main__':for response in stream_invoke(messages="介绍一下泉州海蛎煎?详细些!"):print(response)
导入的千问大模型请求(qw_bot.py
):
#! -*-conding=: UTF-8 -*-from dotenv import find_dotenv, load_dotenv
from langchain_community.llms import Tongyi
from langchain_core.runnables import RunnableSequence
from langchain.prompts import PromptTemplateload_dotenv(find_dotenv())def xiao_hei_zi(messages: str = '介绍一下泉州海蛎煎?详细些!', model_name: str = "qwen-turbo"):llm = ""match model_name:case "qwen-turbo":llm = Tongyi(temperature=1, model_name=model_name)case "qwen-max":llm = Tongyi(temperature=1, model_name=model_name)if not llm:llm = Tongyi(temperature=1, model_name=model_name)print(llm.model_name)template = '''你是世界级的大厨,精通闽南菜,请根据提供的信息,回答问题,详细些!。问题:{question}'''prompt = PromptTemplate(template=template,input_variables=["question"])chain = RunnableSequence(prompt | llm)res = chain.stream({"question": messages})print(res)return resif __name__ == '__main__':xiao_hei_zi()
运行 Streamlit 应用
在命令行中,确保你位于包含 app.py
的目录下,然后运行以下命令:
streamlit run app.py
这将启动一个本地服务器,并在默认的浏览器中打开你的 Streamlit 应用。你可以通过 http://localhost:8501
访问它。
🌟 结语
如果分享你的信息,对你有用!别忘了三连击哦!!点赞
、在看
、关注
!