LLM之LangChain（七）| 使用LangChain，LangSmith实现Prompt工程ToT

       如下图所示，LLM仍然是自治代理的backbone，可以通过给LLM增加以下模块来增强LLM功能:

  • Prompter Agent
  • Checker Module
  • Memory module
  • ToT controller

       当解决具体问题时，这些模块与LLM进行多轮对话。这是基于LLM的自治代理的典型情况，其中动态创建链并按顺序执行，同时多次轮询LLM。

       下图是LangSmith[1]的界面，从图中可以看到使用的tokens总数以及两个延迟类别。

       此图显示了Trace部分，其中包含为该代理创建的完整链，以及输入和输出。LangSmith在链的每一步都给出了详细的分解，包括成本（tokens）和延迟。

       会话和状态历史记录（上下文）存储在内存模块中，这使代理可以参考思维过程的先前部分，并可能从历史记忆采取不同的路线。

      为了验证ToT技术的有效性，本文实现了一个基于ToT的代理来解决数独难题。

论文[2]实验结果表明，ToT框架可以显著提高数独解谜的成功率

       论文指出的一个漏洞是LLM是基于前面的序列生成内容，而忽略了向后编辑。然而，当我们人类解决一个问题时，如果派生的步骤不正确，我们很可能会回溯到以前的迭代。这种回溯方法否定了LLM达到不确定或无答案场景的危险。

       其次，为了建立确保正确性，我们人类的一种做法是在解决问题的每一步都进行测试，这确保了最终解决方案的可信度。本文统计了自回归语言模型在基于以前的token生成新token时，不会显式执行逻辑正确性检查，这限制了LLM纠正自身错误的能力。随着模型生成更多的tokens，一个小错误可能会被放大，这通常被称为级联。因此这会导致生成质量下降，并使其难以从错误中恢复。级联很早就被认为是手动创建提示链的一种危险。然而，考虑到自主代理在运行中创建了一系列提示，它仍然容易受到级联的影响。

该策略[2]通过LLM和提示器代理之间的多轮对话来解决问题。

      上图显示了四种方法的成功率：zero-shot（zs）、one-shot（os）、few-shot（fs）和Tree-of-Thought（tot）。

       以下是ToT代理的完整代码，您可以将其复制并粘贴到笔记本中。您需要更新的只是OpenAI API密钥和LangSmith API密钥。

pip install langchainpip install langchain_experimentalpip install -U langsmithpip install openai​#######​import osfrom uuid import uuid4​unique_id = uuid4().hex[0:8]os.environ["LANGCHAIN_TRACING_V2"] = "true"os.environ["LANGCHAIN_PROJECT"] = f"Agent Tot"os.environ["LANGCHAIN_ENDPOINT"] = "https://api.smith.langchain.com"os.environ["LANGCHAIN_API_KEY"] = "xxxxxxxxxxxxxxxxxxxxxxxx"os.environ['OPENAI_API_KEY'] = str("xxxxxxxxxxxxxxxxxxxxxxxx")​#######​from langchain.llms import OpenAIllm = OpenAI(temperature=1, max_tokens=512, model="text-davinci-003")​#######​sudoku_puzzle =   "3,*,*,2|1,*,3,*|*,1,*,3|4,*,*,1"sudoku_solution = "3,4,1,2|1,2,3,4|2,1,4,3|4,3,2,1"problem_description = f"""{sudoku_puzzle}​- This is a 4x4 Sudoku puzzle.- The * represents a cell to be filled.- The | character separates rows.- At each step, replace one or more * with digits 1-4.- There must be no duplicate digits in any row, column or 2x2 subgrid.- Keep the known digits from previous valid thoughts in place.- Each thought can be a partial or the final solution.""".strip()print(problem_description)​######## The following code implement a simple rule based checker for # a specific 4x4 sudoku puzzle.#######​from typing import Tuplefrom langchain_experimental.tot.checker import ToTCheckerfrom langchain_experimental.tot.thought import ThoughtValidityimport re​class MyChecker(ToTChecker):    def evaluate(self, problem_description: str, thoughts: Tuple[str, ...] = ()) -> ThoughtValidity:        last_thought = thoughts[-1]        clean_solution = last_thought.replace(" ", "").replace('"', "")        regex_solution = clean_solution.replace("*", ".").replace("|", "\\|")        if sudoku_solution in clean_solution:            return ThoughtValidity.VALID_FINAL        elif re.search(regex_solution, sudoku_solution):            return ThoughtValidity.VALID_INTERMEDIATE        else:            return ThoughtValidity.INVALID​######## Testing the MyChecker class above:#######​checker = MyChecker()assert checker.evaluate("", ("3,*,*,2|1,*,3,*|*,1,*,3|4,*,*,1",)) == ThoughtValidity.VALID_INTERMEDIATEassert checker.evaluate("", ("3,4,1,2|1,2,3,4|2,1,4,3|4,3,2,1",)) == ThoughtValidity.VALID_FINALassert checker.evaluate("", ("3,4,1,2|1,2,3,4|2,1,4,3|4,3,*,1",)) == ThoughtValidity.VALID_INTERMEDIATEassert checker.evaluate("", ("3,4,1,2|1,2,3,4|2,1,4,3|4,*,3,1",)) == ThoughtValidity.INVALID​######## Initialize and run the ToT chain, # with maximum number of interactions k set to 30 and # the maximum number child thoughts c set to 8.#######​from langchain_experimental.tot.base import ToTChain​tot_chain = ToTChain(llm=llm, checker=MyChecker(), k=30, c=5, verbose=True, verbose_llm=False)tot_chain.run(problem_description=problem_description)​#######

         代理的输出、迭代和回溯可以在输出中看到：

> Entering new ToTChain chain...Starting the ToT solve procedure./usr/local/lib/python3.10/dist-packages/langchain/chains/llm.py:278: UserWarning: The predict_and_parse method is deprecated, instead pass an output parser directly to LLMChain.  warnings.warn(Thought: 3,4,*,2|1,*,3,*|*,1,*,3|4,*,*,1    Thought: 3,4,1,2|1,*,3,*|*,1,*,3|4,*,*,1        Thought: 3,4,1,2|1,2,3,*|*,1,*,3|4,*,*,1            Thought: 3,4,1,2|1,2,3,4|*,1,*,3|4,*,*,1                Thought: 3,4,1,2|1,2,3,*|1,1,*,3|4,*,*,1                Thought: 3,4,1,2|1,2,3,*|*,2,*,3|4,*,*,1                Thought: 3,4,1,2|1,2,3,*|*,1,1,3|4,*,*,1                Thought: 3,4,1,2|1,2,3,*|*,1,*,4|4,*,*,1                Thought: 3,4,1,2|1,2,3,*|*,1,*,1|4,4,*,1            Thought: 3,4,1,2|1,2,3,*|1,1,*,3|4,*,*,1            Thought: 3,4,1,2|1,2,3,*|*,1,2,3|4,*,*,1            Thought: 3,4,1,2|1,2,3,*|*,1,*,3|4,1,*,1            Thought: 3,4,1,2|1,2,3,*|*,1,*,3|4,*,1,1        Thought: 3,4,1,2|1,*,3,4|*,1,*,3|4,*,*,1            Thought: 3,4,1,2|1,2,3,4|*,1,*,3|4,*,*,1                Thought: 3,4,1,2|1,2,3,4|2,1,*,3|4,*,*,1                    Thought: 3,4,1,2|1,2,3,4|2,1,4,3|4,*,*,1                        Thought: 3,4,1,2|1,2,3,4|2,1,4,3|4,1,*,*                        Thought: 3,4,1,2|1,2,3,4|2,1,4,3|4,2,*,*                        Thought: 3,4,1,2|1,2,3,4|2,1,4,3|4,3,*,*                            Thought: 3,4,1,2|1,2,3,4|2,1,4,3|4,3,1,*                            Thought: 3,4,1,2|1,2,3,4|2,1,4,3|4,3,2,*                                Thought: 3,4,1,2|1,2,3,4|2,1,4,3|4,3,2,1​> Finished chain.3,4,1,2|1,2,3,4|2,1,4,3|4,3,2,1

        在Colab笔记本中查看的输出如下所示：

参考文献：

[1] https://cobusgreyling.medium.com/langsmith-1dd01049c3fb

[2] https://arxiv.org/pdf/2305.08291.pdf

[3] https://cobusgreyling.medium.com/langchain-langsmith-llm-guided-tree-of-thought-47a2cd5bcfca

本文来自互联网用户投稿，该文观点仅代表作者本人，不代表本站立场。本站仅提供信息存储空间服务，不拥有所有权，不承担相关法律责任。如若转载，请注明出处：http://www.mzph.cn/news/677659.shtml

如若内容造成侵权/违法违规/事实不符，请联系多彩编程网进行投诉反馈email:809451989@qq.com，一经查实，立即删除！

相关文章

Linux 命令基础

Linux 命令基础

Shell概述 Linux操作系统的Shell作为操作系统的外壳，为用户提供使用操作系统的接口。它是命令语言、命令解释程序及程序设计语言的统称。 Shell是用户和Linux内核之间的接口程序，如果把硬件想象成一个球体的中心，内核围绕在硬件的外层管理着…
阅读更多...
keil调试出现cannot evaluate新思路

keil调试出现cannot evaluate新思路

我在用最新的keil时也出现了这个问题，网上说的办法几乎没啥用，包括魔术棒的设置和将变量定义为全局变量，都没用。 这里我使用的是keil5.13，编译器是AC6.21，硬件是STM32F407VET6 可以看到，即使是定义为全局变…
阅读更多...
问题：超声波纵波斜入射时，当入射角大于第一临界角小于第二临界角时，在第二介质内只有折射横波。 #微信#经验分享#其他

问题：超声波纵波斜入射时，当入射角大于第一临界角小于第二临界角时，在第二介质内只有折射横波。 #微信#经验分享#其他

问题：超声波纵波斜入射时，当入射角大于第一临界角小于第二临界角时，在第二介质内只有折射横波。 参考答案如图所示
阅读更多...
对于模糊查询的SQL，怎么优先返回等值记录

对于模糊查询的SQL，怎么优先返回等值记录

说明：记录一次SQL改进的方法，希望能对大家有启发。 场景 前端项目有一个输入框，根据输入的银行名称，去模糊查询对应的数据库表，返回结果集，显示到下拉列表中。 因为银行名称字段包括了分行名&#xff0c…
阅读更多...
缓存穿透、缓存击穿与缓存雪崩

缓存穿透、缓存击穿与缓存雪崩

缓存穿透、缓存击穿与缓存雪崩 1.本质区别 缓存穿透指的是数据库不存在数据，导致无法缓存，每次查询都查数据库，数据库压垮 缓存击穿指的是缓存键值对key过期了，key过期期间，大量请求访问，不经过缓存&…
阅读更多...
ONLYOFFICE桌面编辑器8.0新特性：PDF表单、RTL支持、Moodle集成、本地界面主题等

ONLYOFFICE桌面编辑器8.0新特性：PDF表单、RTL支持、Moodle集成、本地界面主题等

ONLYOFFICE是由领先的IT公司—Ascensio System SIA经验丰富的IT专家开发的项目。这是一款强大的在线编辑器，能够为提供高效的文本文档、电子表格、演示文稿、表单和 PDF 编辑工具。 继 ONLYOFFICE 文档 v8.0发布后，适用于 Linux、Windows 和 macOS 的免费…
阅读更多...
C++中类的6个默认成员函数【构造函数】 【析构函数】

C++中类的6个默认成员函数【构造函数】 【析构函数】

文章目录 前言构造函数构造函数的概念构造函数的特性 析构函数 前言 在学习C我们必须要掌握的6个默认成员函数，接下来本文讲解2个默认成员函数 构造函数 如果一个类中什么成员都没有，简称为空类。 空类中真的什么都没有吗？并不是&#xff0c…
阅读更多...
电商网站基础布局——以小兔鲜为例

电商网站基础布局——以小兔鲜为例

项目准备 /* base.css */ /* 內减模式 */ * {margin: 0;padding: 0;box-sizing: border-box; }/* 设置网页统一的字体大小、行高、字体系列相关属性 */ body {font: 16px/1.5 "Helvetica Neue", Helvetica, Arial, "Microsoft Yahei","Hiragino Sans…
阅读更多...
Codeforces Round 106 D. Coloring Brackets 【区间DP + 记忆化搜索实现】

Codeforces Round 106 D. Coloring Brackets 【区间DP + 记忆化搜索实现】

D. Coloring Brackets 约定 ∣ S ∣ ≤ 700 |S| \leq 700 ∣S∣≤700 题意 给定一个正则括号序列 s s s，我们需要求出合法的染色方案数。合法的条件为： 每个符号要么不染色，要么染红色，要么染蓝色对于每对配对的括号&#xf…
阅读更多...
（十八）springboot实战——spring securtity注解方式的授权流程源码解析

（十八）springboot实战——spring securtity注解方式的授权流程源码解析

前言 在上一节内容中，我们介绍了如何在FilterSecurityInterceptor过滤器中处理用户的授权流程，并分析了其源码，spring security还提供了方法级别的授权方式，通过EnableMethodSecurity注解启用权限认证流程，只需要在方…
阅读更多...
Ivanti Pulse Connect Secure VPN SSRF(CVE-2023-46805)漏洞

Ivanti Pulse Connect Secure VPN SSRF(CVE-2023-46805)漏洞

免责声明：文章来源互联网收集整理，请勿利用文章内的相关技术从事非法测试，由于传播、利用此文所提供的信息或者工具而造成的任何直接或者间接的后果及损失，均由使用者本人负责，所产生的一切不良后果与文章作者无关。该…
阅读更多...
Failed to construct ‘RTCIceCandidate‘ sdpMid and sdpMLineIndex are both null

Failed to construct ‘RTCIceCandidate‘ sdpMid and sdpMLineIndex are both null

最近在搞webrtc，在编写函数处理远端传递来的candidate时报错了，具体信息如下。国内关于webrtc的资料很少，所以去国外社区转了一圈，回来记录一下报错的解决方案 其实这个bug也好解决，根据报错信息可以判断是RTCIceCand…
阅读更多...
Java 学习和实践笔记（5）

Java 学习和实践笔记（5）

三种类型的变量： Java中常量的定义： 下面的这个加号表示连接的意思，也就是把前面的字符串常量和后面的变量值在显示时连在一起： 显示效果如下： 如果没有用这个加号，就会报错：
阅读更多...
微信小程序（四十）API的封装与调用

微信小程序（四十）API的封装与调用

注释很详细，直接上代码 上一篇 新增内容： 1.在单独的js文件中写js接口 2.以注册为全局wx的方式调用接口 源码： utils/testAPI.js const testAPI{/*** * param {*} title */simpleToast(title提示){//可传参，默认为‘提示’wx.sho…
阅读更多...
【FPGA】Verilog：奇偶校验位发生器 | 奇偶校验位校验器

【FPGA】Verilog：奇偶校验位发生器 | 奇偶校验位校验器

目录 0x00 奇偶校验位发生器 0x01 奇偶校验位校验器 0x02 错误检测器和纠错器
阅读更多...
第三百一十七回

第三百一十七回

文章目录 1. 概念介绍2. 实现方法2.1 hintText2.2 labelText2.3 controller 3. 示例代码4. 内容总结 我们在上一章回中介绍了"如何在输入框中处理光标"相关的内容，本章回中将介绍如何添加输入框默认值.闲话休提，让我们一起Talk Flutter吧。 1.…
阅读更多...
treeData 树结构数据处理(react)

treeData 树结构数据处理(react)

1.什么是tree 树(tree)形结构是一种重要的非线性结构，依据分支关系定义的层次结构，在这种结构中，每个元素至多只有一个前趋，但可以有多个后继。 树的定义：树(Tree)是n(n 大于等于0)个节点的有限集合T，当n0…
阅读更多...
常用工具类-Collections

常用工具类-Collections

常用工具类-Collections 排序操作查找操作填充操作判断集合是否有交集不可变集合 java.util.Collections类是一个工具类，它包含了一些静态方法，用于操作集合（如列表和映射）。这个类主要用于创建不可修改的集合、填充集合、替换元素…
阅读更多...
C++模版（初阶）

C++模版（初阶）

🌈函数复用的两种不恰当方式 ☀️1.函数重载 以Swap函数为例，有多少种参数类型组合，就要重载多少个函数： void Swap(int& left, int& right) {int temp left;left right;right temp; } void Swap(double& left,…
阅读更多...
材料非线性Matlab有限元编程：切线刚度法

材料非线性Matlab有限元编程：切线刚度法

导读：本文主要围绕材料非线性问题的有限元Matlab编程求解进行介绍，重点围绕牛顿-拉普森法（切线刚度法）、初应力法、初应变法等三种非线性迭代方法的算法原理展开讲解，最后利用Matlab对材料非线性问题有限元迭代求解算法进行实现，展示了实现求解的核心代码。这些内容都将收…
阅读更多...
推荐文章
最新文章

Copyright @ 2022~2023