利用C++与Python调用千帆免费大模型,构建个性化AI对话系统

千帆大模型已于2024年4月25日正式免费,调用这个免费的模型以实现自己的AI对话功能,遵循以下步骤:

了解千帆大模型:

千帆大模型是百度智能云推出的一个平台,提供了一系列AI能力和工具,用于快速开发和应用AI技术。该平台提供了从数据管理、数据标注、模型开发、模型纳管到部署上线的全生命周期AI能力研发与应用管理服务。

注册与登录:

如果已经是开发者,可以直接登录百度智能云千帆大模型平台。如果没有账号,需要先进行注册,并按照提示完成账号的创建和登录。

数据准备:

在开始之前,需要准备用于训练和测试的数据。这些数据应该包含对话的输入和期望的输出。千帆大模型平台支持多种数据格式和导入方式,可以根据实际情况选择合适的方式进行数据导入。

数据标注:

对于导入的数据,需要进行标注,以便模型能够理解和学习对话的模式和规则。在千帆大模型平台上,可以使用平台提供的工具进行数据的标注工作。

模型训练:

在完成数据标注后,可以使用千帆大模型平台提供的工具进行模型的训练。训练过程中,可以根据需要调整模型的参数和配置,以获得更好的对话效果。

模型评估与优化:

训练完成后,可以对模型进行评估,查看其在测试数据上的表现。如果模型的表现不佳,可以根据评估结果进行模型的优化和调整。

部署与测试:

当模型训练和优化完成后,可以将其部署到千帆大模型平台上,并进行实际的测试。通过与模型进行对话,验证模型的性能和效果,并根据需要进行进一步的调整和优化。

集成与应用:

如果模型的表现符合预期,可以将其集成到自己的应用中,实现自己的AI对话功能。在集成过程中,需要注意与千帆大模型平台的接口和协议进行匹配和对接。需要注意的是,虽然千帆大模型已经免费,但在使用过程中可能会产生一些额外的费用,如数据存储、计算资源等。因此,在使用之前需要了解平台的收费标准和计费方式,以便做好预算和规划。

python实现与千帆大模型交互

import sys

sys.path.append(r'C:\Users\XXX\AppData\Local\Programs\Python\Python312-32\Lib\site-packages')

import requests

import json

def getcookies():  

  url = " https://aip.baidubce.com/oauth/2.0/token"  

  params = {  

      'grant_type': 'client_credentials',  

      'client_id':'4O0GgKpCfUT5mxZ4s3f',  # 替换为你的客户端ID  

      'client_secret': 'RKETeu3iLn4YbCclMUei21ZVVnD6Y' # 替换为你的客户端密钥  

    }  

  headers = {  

      'Content-Type': 'application/x-www-form-urlencoded',  

      'Accept': 'application/json'  

    }  

     

  response = requests.post(url, params=params, headers=headers)  

  if response.status_code == 200:  

      data = response.json()  

      if'access_token' in data:  

          print(data['access_token'])

          return data['access_token']  

      else:  

          print("服务器响应中未找到 access_token")  

          return None  

  else:  

      print(f"请求失败,状态码:{response.status_code}")  

      returnNone

   

def getvalue(content, token):  

  token = getcookies()        

#如果成功获取的token格式如下,一个月获取一次

 # token = "24.0a2e1101e19ebe5e500a0962b30468fb.2592000.1700073516.282335-70004478"

  url = " https://aip.baidubce.com/rpc/2.0/ai_custom/v1/wenxinworkshop/chat/ernie-speed-128k?access_token=" + token

  #content为填充的润色语句,要求可以自行改进

  payload = json.dumps({

      "messages": [

            {    

              "content": "原文内容:{{" + content + "}}\

要求:\

1. 使用更专业与精准的词汇,提取关键内容,重构文本表达更加简洁、准确和有层次。\

2. 调整结构顺序,使文字更具吸引力、可读性和说服力,内容简短精炼,字数不超过原始内容的70%。\

3. 重构后的文本相较于原文有较大的提升和改良,无需展示修改过程。\

4. 直接按新序号展示最终修订后的内容,无需添加任何说明。",

"role": "user"

            }

        ]

    })

  headers = {

      'Content-Type': 'application/json'

    }

   

  response = requests.request("POST", url, headers=headers, data=payload)

   

  #print(response.text)

  return response.text

C++调用pyhton文件中的函数

头文件定义

#ifndef PYTHONCALLER_H

#define PYTHONCALLER_H

#include <Python.h>

#include <string>

class PythonCaller {

private:

  PyObject* pModule;

  PyObject* pGetvalueFunc;

  PyObject* pGetcookiesFunc;

public:

  PythonCaller();

  ~PythonCaller();

  bool Initialize(std::string path, std::string name);

  void Finalize();

  std::string CallGetValue(const std::string& url, const std::string& cookies);

  std::string CallGetCookies();

};

#endif  // PYTHONCALLER_H

#else

#endif

源文件定义

#include "PythonCaller.h"

PythonCaller::PythonCaller() : pModule(nullptr) {}

PythonCaller::~PythonCaller() {

  Finalize();

}

bool PythonCaller::Initialize(std::string path, std::string name) {

  Py_Initialize();

  PyRun_SimpleString("import sys");

  PyRun_SimpleString(("sys.path.append('" + path + "')").c_str());

  PyObject* pName = PyUnicode_DecodeFSDefault(name.c_str());

  pModule = PyImport_Import(pName);

  Py_DECREF(pName);

  if (pModule == nullptr) {

      return0;

    }

  pGetvalueFunc = PyObject_GetAttrString(pModule,"getvalue");

  if (!pGetvalueFunc || !PyCallable_Check(pGetvalueFunc)) {

      Py_XDECREF(pGetvalueFunc);

      return0;

    }

  pGetcookiesFunc = PyObject_GetAttrString(pModule,"getcookies");

  if (!pGetcookiesFunc || !PyCallable_Check(pGetcookiesFunc)) {

      Py_XDECREF(pGetcookiesFunc);

      return0;

    }

  return 1;

}

void PythonCaller::Finalize() {

  if (pModule != nullptr) {

      Py_DECREF(pModule);

      pModule = nullptr;  //将 pModule 置为 nullptr

    }

  if (pGetvalueFunc != nullptr) {

      Py_DECREF(pGetvalueFunc);

      pGetvalueFunc = nullptr;  //将 pModule 置为 nullptr

    }

  if (pGetcookiesFunc != nullptr) {

      Py_DECREF(pGetcookiesFunc);

      pGetcookiesFunc = nullptr;  //将 pModule 置为 nullptr

    }

  Py_Finalize();

}

std::string PythonCaller::CallGetValue(const std::string& url, const std::string& cookies) {

  if (!pGetvalueFunc || !PyCallable_Check(pGetvalueFunc)) {

      Py_XDECREF(pGetvalueFunc);

      return"";

    }

   

  PyObject* pArgs = PyTuple_New(2);

  PyTuple_SetItem(pArgs, 0, PyUnicode_FromString(url.c_str()));

  PyTuple_SetItem(pArgs, 1, PyUnicode_FromString(cookies.c_str()));// 设置第二个参数为字符串

  PyObject* pValue = PyObject_CallObject(pGetvalueFunc, pArgs);

  Py_DECREF(pArgs);

  if (pValue == nullptr) {

      PyErr_Print();

      return"Error: Call to 'getvalue' failed";

    }

  std::string result;

  if (pValue == Py_None) {

      result = "Result of call: None";

    }

  else {

      PyObject* pStr = PyObject_Str(pValue);

      if (pStr != nullptr) {

          const char* utf8_str = PyUnicode_AsUTF8(pStr);

          result = std::string(utf8_str);

          Py_DECREF(pStr);

        }

      else {

          result = "Error: Unable to convert result to string";

        }

    }

  Py_DECREF(pValue);

  return result;

}

std::string PythonCaller::CallGetCookies() {

  if (!pGetcookiesFunc || !PyCallable_Check(pGetcookiesFunc)) {

      Py_XDECREF(pGetcookiesFunc);

      return"";

    }

  PyObject* pArgs = PyTuple_New(0);

  PyObject* pValue = PyObject_CallObject(pGetcookiesFunc, pArgs);

  Py_DECREF(pArgs);

  if (pValue == nullptr) {

      PyErr_Print();

      return"Error: Call to 'getvalue' failed";

    }

  std::string result;

  if (pValue == Py_None) {

      result = "Result of call: None";

    }

  else {

      PyObject* pStr = PyObject_Str(pValue);

      if (pStr != nullptr) {

          const char* utf8_str = PyUnicode_AsUTF8(pStr);

          result = std::string(utf8_str);

          Py_DECREF(pStr);

        }

      else {

          result = "Error: Unable to convert result to string";

        }

    }

  Py_DECREF(pValue);

  return result;

}

C++与python函数的交互过程

  if (mgIspythonCaller == 0) {

      mgIspythonCaller = mgpythonCaller.Initialize(mgSelfPath, "ai");

    }

   

  if (!mgIspythonCaller) {

      return1;

    }

  string str = mgpythonCaller.CallGetValue(content, "");

visualstudio中python环境设置

根据程序环境,选择对应版本的python安装

图片

图片

图片

下载源码地址:https://www.lanzoub.com/iAFK0203yd4h

本文来自互联网用户投稿,该文观点仅代表作者本人,不代表本站立场。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。如若转载,请注明出处:http://www.mzph.cn/bicheng/19257.shtml

如若内容造成侵权/违法违规/事实不符,请联系多彩编程网进行投诉反馈email:809451989@qq.com,一经查实,立即删除!

相关文章

【以太网端口浪涌静电防护设计电路】

以太网端口浪涌静电防护设计电路 注&#xff1a;资料来自 深圳市浪拓电子技术有限公司 方案图 方案图 方案图 方案图 方案图 方案图 方案图 方案图 方案图 方案图

python如何安装tar.gz

首先我们到官网下载tar.gz。 然后解压我们下载的pip-9.0.1文件&#xff0c;我的解压后放在d&#xff1a;/p下 运行cmd&#xff0c;输入cd d:\p&#xff0c;按回车键&#xff0c;随后再次输入d: 在d:\p>的光标处输入pip-9.0.1\setup.py install&#xff0c;然后按回车键。 最…

水电收费远程抄表

1.前言&#xff1a;从传统到现代的改变 水电收费远程抄表&#xff0c;是科学技术在公共服务领域的一次重要运用&#xff0c;它改变了过去人力上门服务抄表的传统模式&#xff0c;提高了高效率&#xff0c;降低了偏差&#xff0c;为群众与企业带来了极大的便利。这种系统运用智…

【保姆级介绍下Foxmail 邮箱】

&#x1f308;个人主页: 程序员不想敲代码啊 &#x1f3c6;CSDN优质创作者&#xff0c;CSDN实力新星&#xff0c;CSDN博客专家 &#x1f44d;点赞⭐评论⭐收藏 &#x1f91d;希望本文对您有所裨益&#xff0c;如有不足之处&#xff0c;欢迎在评论区提出指正&#xff0c;让我们共…

LVM、磁盘配额

LVM与磁盘配额 一、LVM LVM(逻辑卷管理)&#xff1a;是Linux系统下对硬盘分区的管理机制。 LVM机制适合于管理管理大存储设备。可以动态对硬盘进行扩容。 逻辑上的磁盘&#xff0c;概念上的磁盘&#xff0c;文件系统创建之后不考虑底层的物理磁盘。 若干个磁盘分区或者物理…

LORA微调,让大模型更平易近人

技术背景 最近和大模型一起爆火的&#xff0c;还有大模型的微调方法。 这类方法只用很少的数据&#xff0c;就能让大模型在原本表现没那么好的下游任务中“脱颖而出”&#xff0c;成为这个任务的专家。 而其中最火的大模型微调方法&#xff0c;又要属LoRA。 增加数据量和模…

【数据结构与算法 | 链表篇】力扣876

1. 力扣876 : 链表的中间节点 (1). 题 给你单链表的头结点 head &#xff0c;请你找出并返回链表的中间结点。 如果有两个中间结点&#xff0c;则返回第二个中间结点。 示例 1&#xff1a; 输入&#xff1a;head [1,2,3,4,5] 输出&#xff1a;[3,4,5] 解释&#xff1a;链表…

技术架构设计指南:从需求到实现

技术架构是软件系统的骨架&#xff0c;它决定了系统的性能、可靠性、扩展性等关键特性。本文将介绍技术架构设计的一般步骤和方法。 第一步&#xff1a;需求分析 在设计技术架构之前&#xff0c;首先要对系统需求进行全面深入的分析。这包括功能需求、非功能需求&#xff08;如…

java使用jdbcTemplatep批量插入数据

JdbcTemplate 是 Spring 框架中提供的一个简化 JDBC 操作的工具类&#xff0c;它封装了 JDBC 的核心功能&#xff0c;使得开发者能够更方便、简洁地进行数据库操作。 下面是一个使用 JdbcTemplate 进行批量插入的示例&#xff1a; import org.springframework.jdbc.core.Batch…

理解OAuth:服务间的授权机制

理解OAuth:服务间的授权机制 好的,让我来教你一下关于这个奇怪的东西。 在不同的项目中,认证有很多不同的方式。但在我们深入探讨它的使用方式之前,让我们先来看看它最初的用途。 首先,我们可以从名称中得到一些线索。“auth”这个词与什么有关呢?问题是,这里的“aut…

开抖店必须要办理营业执照吗?不用营业执照开店的个人店能用吗?

大家好&#xff0c;我是电商花花。 可能大家都发现了&#xff0c;抖音小店个人店不用营业执照&#xff0c;只凭借身份证就能开店。 但是这个个人店花花并不建议大家去开&#xff0c;虽然说用用身份证也能开店&#xff0c;有效的帮我们减少了开店的成本&#xff0c;但是个人店…

QT基础初学

目录 1.什么是QT 2.环境搭建 QT SDK的下载 QT的使用 QT构建项目 快捷指令 QT的简单编写 对象树 编码问题 组件 初识信号槽 窗口的释放 窗口坐标体系 1.什么是QT QT 是一个跨平台的 C 图形用户界面库&#xff0c;支持多个系统&#xff0c;用于开发具有图形界面的应…

比较kube-proxy模式:iptables还是IPVS?

kube-proxy是任何 Kubernetes 部署中的关键组件。它的作用是将流向服务&#xff08;通过集群 IP 和节点端口&#xff09;的流量负载均衡到正确的后端pod。kube-proxy可以运行在三种模式之一&#xff0c;每种模式都使用不同的数据平面技术来实现&#xff1a;userspace、iptables…

QT::QNetworkReply类readAll()读取不到数据的可能原因

程序中&#xff0c;当发送请求时&#xff0c;并没有加锁&#xff0c;而是在响应函数中加了锁&#xff0c;导致可能某个请求的finished信号影响到其他请求响应数据的读取 connect(reply,&QNetworkReply::finished,this,&Display::replyFinished);参考这篇文章&#xff…

[LLM]从GPT-4o原理到下一代人机交互技术

一 定义 背景&#xff1a;在推出GPT-4o之前&#xff0c;使用语音模式与ChatGPT交流的延迟较长&#xff0c;无法直接观察语调、多个说话者或背景噪音&#xff0c;且无法输出笑声、歌唱或表达情感。 GPT-4o作为OpenAI推出的一款多模态大型语言模型&#xff0c;代表了这一交互技…

听说京东618裁员?所以日常准备很重要呀

文末有最少必要的面试题&#xff0c;还准备了离线 PDF 版本。 京东也要向市场输送人才了? 这几天看到技术群里不少朋友在讨论京东裁员相关的信息。 我去看了下京东近期的操作&#xff0c;京东内部考勤调整和午休时间缩短&#xff0c;以及强化打卡机制等管理调整&#xff1b;有…

R可视化:生存分析森林图

生存分析森林图 生存分析森林图 介绍 ggplot2绘制生存分析森林图加载R包 knitr::opts_chunk$set(message = FALSE, warning = FALSE)library(tidyverse) library(survival) library(survminer) library(tableone) library(forestplot)# rm(list = ls()) options(stringsAsFa…

AMEYA360代理 | 村田电子去寄生电感降噪元件(LCT)特点和规格

株式会社村田制作所(以下简称“村田”)开发了行业首款(1)利用负互感(2)、能对从数MHz到1GHz的谐波(3)范围内电源噪声进行抑制的去寄生电感降噪元件“LXLC21系列”(以下简称“本产品”)。只需将1件本产品连接至电源电路中的电容器&#xff0c;即可消除与本产品连接的电容器的ESL…

链表5(考试用)7-5 sdut-C语言实验-链表的逆置

7-5 sdut-C语言实验-链表的逆置 分数 20 全屏浏览 作者 马新娟 单位 山东理工大学 输入多个整数&#xff0c;以-1作为结束标志&#xff0c;顺序建立一个带头结点的单链表&#xff0c;之后对该单链表的数据进行逆置&#xff0c;并输出逆置后的单链表数据。 输入格式: 输入…

OpenMv图片预处理

本博客讲述的是获取一张图片首先对图像进行处理,比如畸形矫正,图像滤波等操作。 1.histeq()自适应直方图均衡 # 自适应直方图均衡例子 # # 此示例展示了如何使用自适应直方图均衡来改善图像中的对比度。 #自适应直方图均衡将图像分割成区域,然后均衡这些区域中的直方图,…