文心一言、讯飞星火、GPT、通义千问等线上API调用示例

大模型相关目录

大模型，包括部署微调prompt/Agent应用开发、知识库增强、数据库增强、知识图谱增强、自然语言处理、多模态等大模型应用开发内容
从0起步，扬帆起航。

  1. 大模型应用向开发路径及一点个人思考
  2. 大模型应用开发实用开源项目汇总
  3. 大模型问答项目问答性能评估方法
  4. 大模型数据侧总结
  5. 大模型token等基本概念及参数和内存的关系
  6. 大模型应用开发-华为大模型生态规划
  7. 从零开始的LLaMA-Factory的指令增量微调
  8. 基于实体抽取-SMC-语义向量的大模型能力评估通用算法（附代码）
  9. 基于Langchain-chatchat的向量库构建及检索（附代码）
  10. 一文教你成为合格的Prompt工程师
  11. 最简明的大模型agent教程
  12. 批量使用API调用langchain-chatchat知识库能力
  13. langchin-chatchat部分开发笔记（持续更新）
  14. 文心一言、讯飞星火、GPT、通义千问等线上API调用示例

文章目录

  • 大模型相关目录
    • 接口使用
    • 文心一言
    • 讯飞星火
    • 通义千问
    • GPT

接口使用

import ask_Tongyi
import ask_Wenxin
import ask_Xunfei
import pandas as pd
import numpy as np# llm = ask_Tongyi.TongyiAPI()
# llm = ask_Wenxin.WenxinAPI()
llm = ask_Xunfei.XunfeiAPI()data = pd.read_excel(r'C:\Users\12258\Desktop\123\线上API和14B性能对比.xlsx')prompt_ls = data['Docs'].tolist()
question_ls = data['Question'].tolist()
n = len(data)anwser_ls = []
for index in range(n):
# for index in range(1):single_query = prompt_ls[index] + '\n' + question_ls[index]single_anwser = llm.get_one_response_by_prompt(single_query)print(single_query)print(single_anwser)anwser_ls.append(single_anwser['text'])pd.DataFrame(anwser_ls).to_excel(r'C:\Users\12258\Desktop\123\xunfei_anwser.xlsx',index=False)

文心一言

import requests
import jsonclass WenxinAPI:def __init__(self):self.API_KEY = '*'self.SECRET_KEY = '*'self.token = self.get_access_token()def get_access_token(self):"""使用 API Key，Secret Key 获取access_token，替换下列示例中的应用API Key、应用Secret Key"""url = "https://aip.baidubce.com/oauth/2.0/token?grant_type=client_credentials&client_id={api}&client_secret={secret}".format(api=self.API_KEY,secret=self.SECRET_KEY)payload = json.dumps("")headers = {'Content-Type': 'application/json','Accept': 'application/json'}response = requests.request("POST", url, headers=headers, data=payload)return response.json().get("access_token")def get_one_response_by_prompt(self, question):url = "https://aip.baidubce.com/rpc/2.0/ai_custom/v1/wenxinworkshop/chat/ernie-3.5-8k-0205?access_token=" + self.tokenpayload = json.dumps({"messages": [{"role": "user","content": question}]})headers = {'Content-Type': 'application/json'}response = requests.request("POST", url, headers=headers, data=payload)# print(response.text)return {'text':json.loads(response.text)['result']}if __name__ == '__main__':test_query = '你是谁'llm = WenxinAPI()anwser = llm.get_one_response_by_prompt(test_query)print(anwser)

讯飞星火

需要一个引用文件：SparkApi.py

import _thread as thread
import base64
import datetime
import hashlib
import hmac
import json
from urllib.parse import urlparse
import ssl
from datetime import datetime
from time import mktime
from urllib.parse import urlencode
from wsgiref.handlers import format_date_timeimport websocket  # 使用websocket_client
answer = ""class Ws_Param(object):# 初始化def __init__(self, APPID, APIKey, APISecret, Spark_url):self.APPID = APPIDself.APIKey = APIKeyself.APISecret = APISecretself.host = urlparse(Spark_url).netlocself.path = urlparse(Spark_url).pathself.Spark_url = Spark_url# 生成urldef create_url(self):# 生成RFC1123格式的时间戳now = datetime.now()date = format_date_time(mktime(now.timetuple()))# 拼接字符串signature_origin = "host: " + self.host + "\n"signature_origin += "date: " + date + "\n"signature_origin += "GET " + self.path + " HTTP/1.1"# 进行hmac-sha256进行加密signature_sha = hmac.new(self.APISecret.encode('utf-8'), signature_origin.encode('utf-8'),digestmod=hashlib.sha256).digest()signature_sha_base64 = base64.b64encode(signature_sha).decode(encoding='utf-8')authorization_origin = f'api_key="{self.APIKey}", algorithm="hmac-sha256", headers="host date request-line", signature="{signature_sha_base64}"'authorization = base64.b64encode(authorization_origin.encode('utf-8')).decode(encoding='utf-8')# 将请求的鉴权参数组合为字典v = {"authorization": authorization,"date": date,"host": self.host}# 拼接鉴权参数，生成urlurl = self.Spark_url + '?' + urlencode(v)# 此处打印出建立连接时候的url,参考本demo的时候可取消上方打印的注释，比对相同参数时生成的url与自己代码生成的url是否一致return url# 收到websocket错误的处理
def on_error(ws, error):# print("### error:", error)pass# 收到websocket关闭的处理
def on_close(ws,one,two):# print(" ")pass# 收到websocket连接建立的处理
def on_open(ws):thread.start_new_thread(run, (ws,))def run(ws, *args):data = json.dumps(gen_params(appid=ws.appid, domain= ws.domain,question=ws.question))ws.send(data)# 收到websocket消息的处理
def on_message(ws, message):# print(message)data = json.loads(message)code = data['header']['code']if code != 0:# print(f'请求错误: {code}, {data}')ws.close()else:choices = data["payload"]["choices"]status = choices["status"]content = choices["text"][0]["content"]global answeranswer += content# print(1)if status == 2:ws.close()def gen_params(appid, domain,question):"""通过appid和用户的提问来生成请参数"""data = {"header": {"app_id": appid,"uid": "1234"},"parameter": {"chat": {"domain": domain,"random_threshold": 0.5,"max_tokens": 8192,"auditing": "default"}},"payload": {"message": {"text": question}}}return datadef main(appid, api_key, api_secret, Spark_url,domain, question):# print("星火:")wsParam = Ws_Param(appid, api_key, api_secret, Spark_url)websocket.enableTrace(False)wsUrl = wsParam.create_url()ws = websocket.WebSocketApp(wsUrl, on_message=on_message, on_error=on_error, on_close=on_close, on_open=on_open)ws.appid = appidws.question = questionws.domain = domainws.run_forever(sslopt={"cert_reqs": ssl.CERT_NONE})
import requests
import json
import SparkApiclass XunfeiAPI:def __init__(self):self.appid = "*"self.api_secret = "*"self.api_key = "*"self.domain = "generalv2"self.url = "ws://spark-api.xf-yun.com/v2.1/chat" # v2.0def getText(self, text, role, content):'''获取角色和文本存入text中'''jsoncon = {}jsoncon["role"] = rolejsoncon["content"] = contenttext.append(jsoncon)return textdef get_one_response_by_prompt(self, question):SparkApi.answer = ""SparkApi.main(self.appid, self.api_key, self.api_secret, self.url, self.domain, self.getText([], "user", question))return {'text':SparkApi.answer}if __name__ == '__main__':test_query = '你是谁'llm = XunfeiAPI()anwser = llm.get_one_response_by_prompt(test_query)print(anwser)

通义千问

import requests
import json
import dashscope
from dashscope import Generation
from http import HTTPStatusclass TongyiAPI:def __init__(self):API_KEY = 'sk-*'dashscope.api_key = API_KEYself.gen = Generation()def get_one_response_by_prompt(self, prompt):response = self.gen.call(model=dashscope.Generation.Models.qwen_turbo,prompt=prompt)# The response status_code is HTTPStatus.OK indicate success,# otherwise indicate request is failed, you can get error code# and message from code and message.if response.status_code == HTTPStatus.OK:# print(response.output)  # The output textprint(response.usage)  # The usage informationreturn response.outputelse:print(response.code)  # The error code.print(response.message)  # The error message.

GPT

通过openai-sb调用

import requests
import json
import openaiclass GPTAPI:def __init__(self):self.API_KEY = 'sb-*'self.url = 'https://api.openai-sb.com/v1/chat/completions'openai.api_key = self.API_KEYopenai.api_base = 'https://api.openai-sb.com/v1'def getText(self, text, role, content):'''获取角色和文本存入text中'''jsoncon = {}jsoncon["role"] = rolejsoncon["content"] = contenttext.append(jsoncon)return textdef get_one_response(self, question):payload = json.dumps({"model": "gpt-3.5-turbo","messages": [{"role": "user","content": question}]})headers = {'Authorization': "Bearer "+self.API_KEY,'Content-Type': 'application/json'}response = requests.request("POST", self.url, headers=headers, data=payload)try:return response.json()['choices'][0]['message']['content']except Exception as e:print(e)return ''def get_one_response_by_prompt(self, prompt):payload = json.dumps({"model": "gpt-3.5-turbo","messages": prompt})headers = {'Authorization': "Bearer "+self.API_KEY,'Content-Type': 'application/json'}response = requests.request("POST", self.url, headers=headers, data=payload)return response.json()if __name__ == '__main__':test_query = '你是谁'llm = GPTAPI()anwser = llm.get_one_response_by_prompt(test_query)print(anwser)

本文来自互联网用户投稿，该文观点仅代表作者本人，不代表本站立场。本站仅提供信息存储空间服务，不拥有所有权，不承担相关法律责任。如若转载，请注明出处：http://www.mzph.cn/news/780216.shtml

如若内容造成侵权/违法违规/事实不符，请联系多彩编程网进行投诉反馈email:809451989@qq.com，一经查实，立即删除！

相关文章

零基础教程：R语言lavaan结构方程模型（SEM）

零基础教程：R语言lavaan结构方程模型（SEM）

查看原文>>>最新基于R语言lavaan结构方程模型（SEM）实践技术应用 基于R语言lavaan程序包，通过理论讲解和实际操作相结合的方式，由浅入深地系统介绍结构方程模型的建立、拟合、评估、筛选和结果展示的全过程。我们筛选大量…
阅读更多...
07-工作流设计：如何设计合理的多人开发模式？

07-工作流设计：如何设计合理的多人开发模式？

一个企业级项目是由多人合作完成的，不同开发者在本地开发完代码之后，可能提交到同一个代码仓库，同一个开发者也可能同时开发几个功能特性。这种多人合作开发、多功能并行开发的特性如果处理不好，就会带来诸如丢失代码、合错代码、…
阅读更多...
echarts 旭日图 层级嵌套

echarts 旭日图 层级嵌套

基础的可以直接参考官网进行配置。 Echarts旭日图的特点如下： 1 层次结构展示：旭日图适用于展示层次结构数据，通过不同的扇形区域来表示不同层次的数据。每个扇形区域的大小和位置表示了数据的大小和层次关系。 2 渐进式呈现：旭…
阅读更多...
RelayAttention：让大型语言模型更高效地处理长提示符

RelayAttention：让大型语言模型更高效地处理长提示符

一、前言 虽然大型语言模型 (LLM) 近年来取得了非常显著的进展，也在各种自然语言处理任务中展现出强大的能力。然而，LLM 的在实际的应用落地层面也面临着一些实际挑战，其中之一就是效率和成本问题，导致了在垂直行业实际落地的应用…
阅读更多...
【spring】@Primary注解学习

【spring】@Primary注解学习

Primary介绍 Primary 是 Spring 框架中的一个注解，用于在多个相同类型的 bean 中指定一个默认的 bean。当 Spring 容器在自动装配时遇到类型冲突，即存在多个相同类型的 bean 时，如果没有使用 Qualifier 或其他方式指定具体的 bean&#xff0…
阅读更多...
关于深度学习的 PyTorch 项目如何上手分析？从什么地方切入？

关于深度学习的 PyTorch 项目如何上手分析？从什么地方切入？

文章目录 PyTorch 项目分析1.背景2.分析流程 PyTorch 项目分析 1.背景 当我们拿到一个 PyTorch 的深度学习项目时，应该怎么入手？怎么去查看代码？ 2.分析流程 首先阅读对应项目的 README.md 文件。通过阅读 README.md ，一般可以…
阅读更多...
高风险IP来自哪里：探讨IP地址来源及其风险性质

高风险IP来自哪里：探讨IP地址来源及其风险性质

在网络安全领域，高风险IP地址是指那些可能涉及恶意活动或网络攻击的IP地址。了解这些高风险IP地址的来源可以帮助网络管理员更好地识别和应对潜在的安全威胁。本文将探讨高风险IP地址的来源及其风险性质，并提供一些有效的应对措施。 风险IP查询&#xf…
阅读更多...
计算机毕业设计Python+Spark知识图谱高考志愿推荐系统 高考数据分析 高考可视化 高考大数据 大数据毕业设计 机器学习 深度学习 人工智能

计算机毕业设计Python+Spark知识图谱高考志愿推荐系统 高考数据分析 高考可视化 高考大数据 大数据毕业设计 机器学习 深度学习 人工智能

学院（全称）： 专业（全称）： 姓名 学号 年级 班级 设计（论文） 题目 基于Spark的高考志愿推荐系统设计与实现 指导教师姓名 职称 拟…
阅读更多...
C++：右值引用 和移动赋值std::move分析

C++：右值引用 和移动赋值std::move分析

文章目录 右值引用定义：code：移动赋值定义：code (包含自实现类中的6大默认)：类对象的移动构造类成员对象的移动构造右值引用 左值：赋值号左边，可以取地址 变量名返回左值引用的函数调用前置自增，前置自减：++i；–i;赋值运算…右值：赋值号右边，不可以取地址；将亡值，…
阅读更多...
Vulnhub：MY FILE SERVER: 1

Vulnhub：MY FILE SERVER: 1

目录 信息收集 1、arp 2、nmap 3、whatweb WEB web信息收集 dirmap FTP匿名登录 enum4linux smbclient showmount FTP登录 ssh-kegen ssh登录 提权 系统信息收集 脏牛提权 get root 信息收集 1、arp ┌──(root㉿ru)-[~/kali/vulnhub] └─# arp-scan -l I…
阅读更多...
前端bugs

前端bugs

问题： Failed to load plugin typescript-eslint declared in package.json eslint-config-react-app#overrides[0]: Cannot find module eslint/package.json 解决： google了一晚上还得是chatgpt管用 运行以下命令【同时还要注意项目本身使用的Node版…
阅读更多...
【2024】使用zabbix监控ESXI 6.5虚拟化系统

【2024】使用zabbix监控ESXI 6.5虚拟化系统

本次实验将采用docker部署zabbix 5.2平台监控ESXI 6.5虚拟化系统—————————————————————————— 请自行准备环境： 关于docker部署方案请参考： docker之核心概念与安装 关于docker部署zabbix方案请参考： docker容器方式部署zabbix监控平台 关于ESXI安…
阅读更多...
Halcon3D表面平面度检测-平面差值法

Halcon3D表面平面度检测-平面差值法

//倾斜平面矫正 https://blog.csdn.net/m0_51559565/article/details/137146179前言 通常我们对表面平面度进行检测时，通常使用2种方式。1：通过大卷积核的高斯滤波进行拟合平面，然后求取拟合平面与3D模型间的点间的距离。2：通过平…
阅读更多...
Android裁剪图片为波浪形或者曲线形的ImageView

Android裁剪图片为波浪形或者曲线形的ImageView

如果需要做一个自定义的波浪效果的进度条，裁剪图片，对ImageView的图片进行裁剪，比如下面2张图，如何实现？ 先看下面的效果，看到其实只需要对第一张高亮的图片进行处理即可，灰色状态的作为背景图。…
阅读更多...
centos7配置阿里云的镜像站点作为软件包下载源

centos7配置阿里云的镜像站点作为软件包下载源

目录 1、备份 2、下载新的 CentOS-Base.repo 到 /etc/yum.repos.d/ 3、测试 阿里镜像提供的配置方法：centos镜像_centos下载地址_centos安装教程-阿里巴巴开源镜像站 1、备份 [rootlocalhost ~]# mv /etc/yum.repos.d/CentOS-Base.repo /etc/yum.repos.d/CentO…
阅读更多...
第十二章：预处理命令

第十二章：预处理命令

文章目录 第十二章：预处理命令宏定义无参宏定义带参数的宏定义 文件包含处理 第十二章：预处理命令 作用：由编译预处理程序对程序中的特殊命令作出解释，以产生新的源程序对其进行正式编译 C语言与其他语言的重要区别就是可以使用预…
阅读更多...
PTA L2-038 病毒溯源

PTA L2-038 病毒溯源

病毒容易发生变异。某种病毒可以通过突变产生若干变异的毒株，而这些变异的病毒又可能被诱发突变产生第二代变异，如此继续不断变化。 现给定一些病毒之间的变异关系，要求你找出其中最长的一条变异链。 在此假设给出的变异都是由突变引起的&a…
阅读更多...
apk被play protect blocked的解决方案（ADB+Appium+webdriverio）

apk被play protect blocked的解决方案（ADB+Appium+webdriverio）

起因:公司有海外项目，需要推广apk ，数量多，但是由于被play protect阻止安装，初版解决方案 apk加固、换签名、垃圾代码、修改资源文件的MD5，但是由于原生代码标记过于严重，推广成本高，又换了一种…
阅读更多...
用 AI 编程-释放ChatGPT的力量

用 AI 编程-释放ChatGPT的力量

最近读了本书，是 Sean A Williams 写的，感觉上还是相当不错的。一本薄薄的英文书，还真是写的相当好。如果你想看，还找不到，可以考虑私信我吧。 ChatGPT for Coders Unlock the Power of AI with ChatGPT: A Comprehens…
阅读更多...
Vue2版本封装公共echarts的监听方法

Vue2版本封装公共echarts的监听方法

#注意 ： 因为一个页面有多个图表，所以封装一个公共的js文件，方便后续使用。 适用于Vue2版本，粘贴即用即可。 1、echartsMixin.js文件如下 // echartsMixin.js import echarts from echartsexport default {data() {return {myC…
阅读更多...
最新文章

Copyright @ 2022~2023