构建LangChain应用程序的示例代码：32、如何为任何工具添加人工验证教程

本演示展示了如何为任何工具添加人工验证。我们将使用HumanApprovalCallbackHandler来实现这一功能。

假设我们需要使用ShellTool。将此工具添加到自动化流程中存在明显的风险。让我们看看如何强制人工手动批准输入到此工具的输入。

注意：我们通常建议不要使用ShellTool。它有很多滥用的方式，并且大多数用例并不需要它。我们在这里仅出于演示目的使用它。

from langchain.callbacks import HumanApprovalCallbackHandler
from langchain.tools import ShellTool# 创建ShellTool实例
tool = ShellTool()# 运行一个简单的命令，输出“Hello World!”
print(tool.run("echo Hello World!"))

添加人工批准

将默认的HumanApprovalCallbackHandler添加到工具中，将使得用户必须在命令实际执行之前手动批准每一个输入。

tool = ShellTool(callbacks=[HumanApprovalCallbackHandler()])# 尝试运行一个命令，列出/usr目录下的内容
print(tool.run("ls /usr"))# 尝试运行一个命令，列出/private目录下的内容
print(tool.run("ls /private"))

配置人工批准

假设我们有一个代理，它接受多个工具，我们希望它只在特定工具和特定输入上触发人工批准请求。我们可以配置回调处理器来实现这一点。

from langchain.agents import AgentType, initialize_agent, load_tools
from langchain_openai import OpenAI# 定义一个函数，用于决定是否需要人工检查
def _should_check(serialized_obj: dict) -> bool:return serialized_obj.get("name") == "terminal"# 定义一个函数，用于人工批准输入
def _approve(_input: str) -> bool:if _input == "echo 'Hello World'":return Truemsg = ("Do you approve of the following input? ""Anything except 'Y'/'Yes' (case-insensitive) will be treated as a no.")msg += "\n\n" + _input + "\n"resp = input(msg)return resp.lower() in ("yes", "y")# 创建回调列表，包含人工批准回调处理器
callbacks = [HumanApprovalCallbackHandler(should_check=_should_check, approve=_approve)]# 创建OpenAI实例，设置温度为0，表示输出的确定性最高
llm = OpenAI(temperature=0)# 加载工具列表
tools = load_tools(["wikipedia", "llm-math", "terminal"], llm=llm)# 初始化代理，使用ZERO_SHOT_REACT_DESCRIPTION类型的代理
agent = initialize_agent(tools,llm,agent=AgentType.ZERO_SHOT_REACT_DESCRIPTION,
)# 运行代理，执行查询操作，并使用回调
agent.run("It's 2023 now. How many years ago did Konrad Adenauer become Chancellor of Germany.",callbacks=callbacks,
)# 运行代理，执行终端打印操作，并使用回调
agent.run("print 'Hello World' in the terminal", callbacks=callbacks)# 运行代理，执行列出/private目录下所有目录的操作，并使用回调
agent.run("list all directories in /private", callbacks=callbacks)