QianfanLLMEndpoint和QianfanChatEndpoint的区别

一、功能定位

  1. QianfanLLMEndpoint:
    • 功能定位:专注于提供基础的文本补全能力,主要适用于需要纯文本输出的场景。
    • 输入/输出:接受字符串提示作为输入,并返回字符串形式的补全结果。
    • 应用场景:适用于文本生成、内容创作等需要直接文本输出的任务。
  2. QianfanChatEndpoint:
    • 功能定位:针对对话能力进行设计,支持多轮对话和历史消息记录,更加适用于需要模拟对话交互的场景
    • 输入/输出:接受Chat消息列表(包含用户输入和可能的上下文信息)作为输入,并返回Chat消息形式的回答。
    • 应用场景:适用于聊天机器人、客服系统、智能问答等需要对话交互的应用。

二、接口特点

  1. QianfanLLMEndpoint:
    • 通常提供较为简单的文本补全接口,可能不包含复杂的对话管理和上下文理解能力。
    • 调用方式可能较为直接,如直接传入字符串并获取补全结果。
  2. QianfanChatEndpoint:
    • 提供了更丰富的对话管理能力,包括理解对话上下文、处理多轮对话等。
    • 调用时可能需要传入包含用户输入和上下文信息的Chat消息列表,并返回包含回答和可能的新上下文的Chat消息。

三、使用示例

  1. QianfanLLMEndpoint使用示例

     
    import os
    from dotenv import find_dotenv,load_dotenv
    from langchain_community.llms import QianfanLLMEndpoint
    load_dotenv(find_dotenv())
    QIANFAN_AK = os.environ["QIANFAN_AK"]
    QIANFAN_SK = os.environ["QIANFAN_SK"]
    llm = QianfanLLMEndpoint(streaming=True)
    output = llm.invoke("hello how are you?")
    print('output:', type(output), output)
    
    output: <class 'str'> 作为一个人工智能语言模型,我不太理解您的问题,但我能够尽力回答您的问题。您想说什么?”可以帮我回答一下吗?我很乐意帮助您

  2. QianfanChatEndpoint使用示例

     
import os
from dotenv import find_dotenv,load_dotenv
from langchain_community.llms import QianfanLLMEndpoint
load_dotenv(find_dotenv())
QIANFAN_AK = os.environ["QIANFAN_AK"]
QIANFAN_SK = os.environ["QIANFAN_SK"]
llm = QianfanChatEndpoint(streaming=True)
from langchain_core.language_models.chat_models import HumanMessage
messages = [HumanMessage(content="Hello")]
re = llm.invoke(messages)
print('re:', type(re), re)
re: <class 'langchain_core.messages.ai.AIMessage'> content='您好!有什么我可以帮助您的吗?' response_metadata={'token_usage': {}, 'model_name': 'ERNIE-Bot-turbo', 'finish_reason': 'stop'} id='run-86585c12-1b56-4d17-b01c-fca94cd2b955-0'

本文来自互联网用户投稿,该文观点仅代表作者本人,不代表本站立场。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。如若转载,请注明出处:http://www.mzph.cn/diannao/44304.shtml

如若内容造成侵权/违法违规/事实不符,请联系多彩编程网进行投诉反馈email:809451989@qq.com,一经查实,立即删除!

相关文章

【密码学】公钥密码的基本概念

在先前我写的密码学体制文章中谈到&#xff0c;现代密码学分为两大体制&#xff0c;介绍了一些有关对称密码体制诸如流密码和分组密码的内容。本文的主要内容则切换到公钥密码体制&#xff08;又称非对称密码体制&#xff09;&#xff0c;简述了公钥密码体制的基本思想和应用方…

六个Python实用技巧,大幅提升你的编程效率!

关注星标&#xff0c;每天学习Python新技能 Python作为当下最流行的编程语言之一&#xff0c;以其简洁易懂的语法和强大的第三方库支持&#xff0c;深受开发者的喜爱。在实际开发中&#xff0c;掌握一些实用的Python小技巧&#xff0c;可以大大提升编程效率和代码质量。 本文…

网络安全筑基篇——XSS、XML、XXE

目录 前言 什么是XSS&#xff1f; XSS的类型有哪些&#xff1f; 反射型 存储型 DOM型 XSS原理 XSS修复建议 绕过 XSS与CSRF与SSRF漏洞区别 XML是什么&#xff1f; XXE是什么&#xff1f; XXE漏洞的触发点 XXE的原理 XXE的危害有哪些&#xff1f; 1、敏感数据泄露…

院内导航:如何用科技破解就医找路难题

自2019年开始“院内导航”被纳入医院智慧服务评估体系以来&#xff0c;到2023年改善就医服务升级的部署&#xff0c;每一步都见证了我国医疗卫生体系向智能化、人性化迈进的坚实步伐。 面对庞大复杂的医院环境与日益增长的就诊需求&#xff0c;如何让患者在茫茫人海中迅速找到就…

CSDN回顾与前行:我的创作之旅——2048天的技术成长与感悟

CSDN回顾与前行&#xff1a;我的创作之旅——2048天的技术成长与感悟 &#x1f496;The Begin&#x1f496;点点关注&#xff0c;收藏不迷路&#x1f496; 前言 时光荏苒&#xff0c;岁月如梭。转眼间&#xff0c;从我在CSDN上写下第一篇技术博客《2-6 带头结点的链式表操作集…

Springcloud双重预防管理体系平台危险作业票子系统-计算机毕业设计源码48672

摘 要 随着企业生产规模的扩大和生产技术的提高&#xff0c;双重预防管理体系逐渐成为企业安全生产的重要手段。在双重预防管理体系中&#xff0c;危险作业票管理是其中的关键环节之一&#xff0c;对于预防生产事故和保障生产安全具有重要作用。 为了更好地管理危险作业票&…

移动应用:商城购物类,是最常见的,想出彩或许就差灵犀一指

在移动应用中&#xff0c;商城购物类的非常常见&#xff0c;模式也非常成熟&#xff0c;想要设计的出彩也是有难度的&#xff0c;这次分享一些不同的。

C语言之Const关键字与指针

目录 1 前言2 变量与指针的储存方式3 const int *var;int *const var&#xff1b;const int *const var&#xff1b;理解与区分4 总结 1 前言 实际开发过程中经常遇到const关键字作用于指针的情况&#xff0c;例如&#xff1a;const int *var;int *const var&#xff1b;const…

Linux开发板(正点原子阿尔法_IMX6U)QT5.12.9交叉编译到ARM开发板(已解决)

问题记录&#xff1a;Qt下ctrlR直接构建项目&#xff0c;然后在build-01_led-Desktop_Qt_5_12_9_GCC_64bit-Debugz中将构建的执行文件&#xff0c;scp到ARM开发板下&#xff0c;发现通过指令./01_led后出现以下报错。 问题原因&#xff1a;因为Qt构建默认使用的是64bit的gcc&am…

群辉NAS同步Android手机日历日程

目录 一、安装套件 二、手机导出日历日程 三、NAS套件导入日历 四、获得DAVx5登陆链接 五、手机配置 六、验证 上一篇文章我们解决了Android手机与群辉NAS的通讯录的同步,这期我们说说如何同步Android手机的日历中的日程到群辉NAS。 看过上篇文章的伙伴知道,Android需要…

深入了解Rokid UXR2.0 SDK内置的Unity AR Glass开发组件

本文将了解到Rokid AR开发组件 一、RKCameraRig组件1.脚本属性说明2.如何使用 二、PointableUI组件1.脚本属性说明2.如何使用 三、PointableUICurve组件1.脚本属性说明2.如何使用 四、RKInput组件1.脚本属性说明2.如何使用 五、RKHand组件1.脚本属性说明2.如何使用3.如何禁用手…

东旭蓝天被控股股东占用78亿:近七年业绩奇差,或面临退市

《港湾商业观察》施子夫 张楠 在7月5日一口气发了超过30份公告后&#xff0c;终于让投资者对于东旭蓝天2023年和今年一季度经营业绩有了更清晰的观察。 与此同时&#xff0c;东旭蓝天&#xff08;下称&#xff09;也收到了深交所的关注函。种种不利因素之下&#xff0c;上市…

Angular路由 属性的学习

canActivate属性 在Angular中&#xff0c;canActivate 是路由守卫&#xff08;Route Guards&#xff09;的一种&#xff0c;用于控制用户对特定路由的访问权限。路由守卫是Angular路由系统中的一个功能&#xff0c;它们可以在路由激活之前执行自定义逻辑&#xff0c;以决定是否…

AMEYA360:国民技术推出多款高能专用MCU产品

2024年7月8日&#xff0c;国民技术推出多款高能专用MCU产品。N32H482(通用控制)、N32H487(高性能互联)、N32GH473(电机控制)、N32H474(数字电源控制)四大系列高性能MCU新品&#xff0c;以及基于Arm Cortex M0内核实现的N32G052系列高性价比通用MCU新品。 全新一代高性能MCU新品…

android13 rom frameworks 蓝牙自动接收文件

总纲 android13 rom 开发总纲说明 目录 1.前言 2.源码查找 3.我们先实现第一种改法 4.实现第二种改法 5.第三种改法代码参考 6.编译测试 1.前言 我们从导航栏这里,点开这个蓝牙的接收框,弹出来的对话框,使用android studio 的layout inspector可以发现这个是 Bluetoo…

Linux之免费证书工具certbot安装和使用

一、cerbot简介 Certbot是一个免费的开源软件工具&#xff0c;用于在手动管理的网站上自动使用Let’s Encrypt证书以启用HTTPS。要想让自己的网站启用https协议&#xff0c;需要一个由CA&#xff08;数字证书认证机构&#xff09;颁发的&#xff0c;能够让各个浏览器都能承认的…

【ROS 快速解决】launch 文件编写

通过launch文件以及roslaunch命令可以一次性启动多个节点&#xff0c;并且可以设置丰富的参数 通常存放路径&#xff1a;工作空间目录 / launch / xxx.launchlaunch 文件本质是一个 xml 类型的文件&#xff0c;基本格式如下<launch> <node .../> ## 最重要的标签 …

强化OT安全英国发布工控网络事件响应实践指南

该安全机构指出&#xff0c;OT/ICS网络的运行方式与传统的IT网络存在诸多关键差异。 尽管保护数据的机密性是IT网络的主要目标&#xff0c;但OT安全更侧重于维护设备的可用性和完整性&#xff0c;而非数据访问。RITICS解释道&#xff1a;“网络事件响应计划应兼顾IT和ICS/OT系…

Spring Web MVC入门(1)(建立连接)

一.什么是Spring Web MVC? Spring Web MVC是基于ServletAPI构建的原始Web框架,从一开始就包含在Spring框架中.它的正式名称"Spring Web MVC"来自其源模块的名称(Spring-webmvc),但它通常被称为"Spring MVC". 二.MVC的定义 MVC是Model View Controller的缩…

迅狐矩阵系统:一键式剪辑神器,引领矩阵运营新潮流!

在数字化浪潮汹涌的当下&#xff0c;视频内容已经成为人们获取信息、娱乐休闲的重要方式。然而&#xff0c;面对海量的视频素材和日益增长的用户需求&#xff0c;如何高效、高质量地剪辑和分发视频内容&#xff0c;成为了摆在众多内容创作者和运营团队面前的难题。幸运的是&…