杭州建设网站需要多少钱,东莞证券手机app下载安装,最好的韩国服务器,intitle 网站建设LangChain系列文章
LangChain 实现给动物取名字#xff0c;LangChain 2模块化prompt template并用streamlit生成网站 实现给动物取名字LangChain 3使用Agent访问Wikipedia和llm-math计算狗的平均年龄LangChain 4用向量数据库Faiss存储#xff0c;读取YouTube的视频文本搜索I…LangChain系列文章
LangChain 实现给动物取名字LangChain 2模块化prompt template并用streamlit生成网站 实现给动物取名字LangChain 3使用Agent访问Wikipedia和llm-math计算狗的平均年龄LangChain 4用向量数据库Faiss存储读取YouTube的视频文本搜索Indexes for information retrieveLangChain 5易速鲜花内部问答系统LangChain 6根据图片生成推广文案HuggingFace中的image-caption模型LangChain 7 文本模型TextLangChain和聊天模型ChatLangChainLangChain 8 模型Model I/O输入提示、调用模型、解析输出LangChain 9 模型Model I/O 聊天提示词ChatPromptTemplate, 少量样本提示词FewShotPromptLangChain 10思维链Chain of Thought一步一步的思考 think step by stepLangChain 11实现思维树Implementing the Tree of Thoughts in LangChain’s ChainLangChain 12调用模型HuggingFace中的Llama2和Google Flan t5LangChain 13输出解析Output Parsers 自动修复解析器LangChain 14 SequencialChain链接不同的组件LangChain 15根据问题自动路由Router Chain确定用户的意图LangChain 16 通过Memory记住历史对话的内容LangChain 17 LangSmith调试、测试、评估和监视基于任何LLM框架构建的链和智能代理LangChain 18 LangSmith监控评估Agent并创建对应的数据库 1. Agents 代理
Agents的核心理念是利用语言模型选择一系列要采取的行动。在Chains中一系列行动是硬编码的在代码中。在Agents中语言模型被用作推理引擎以确定要采取哪些行动以及顺序。
概念 这里有几个关键组成部分
1.1 Agent
这是负责决定下一步该采取什么步骤的链条。这由语言模型和提示驱动。这个链条的输入包括
工具可用工具的描述用户输入高层次目标中间步骤为了实现用户输入而先前执行的任何动作工具输出对
输出是下一步要采取的行动或发送给用户的最终响应代理动作或代理完成。动作指定一个工具和该工具的输入。
不同的代理有不同的推理提示风格不同的编码输入方式和不同的解析输出方式。有关内置代理的完整列表请参见代理类型。您还可以轻松构建自定义代理我们将在下面的入门部分中展示如何操作。
1.2 工具
工具是代理可以调用的函数。围绕工具有两个重要的设计考虑
为代理提供访问正确工具的权限以对代理最有帮助的方式描述工具
如果没有同时考虑这两个方面你将无法构建一个可工作的代理。如果你不给代理访问正确的工具集它将永远无法完成你给它的目标。如果你没有很好地描述工具代理将不知道如何正确使用它们。
LangChain 提供了广泛的内置工具集但也使定义自己的工具包括自定义描述变得容易。有关内置工具的完整列表请参见工具集成部分。
1.3 工具包
对于许多常见任务代理将需要一组相关工具。为此LangChain提供了工具包的概念 - 大约3-5个工具组成用于实现特定目标。例如GitHub工具包中有一个用于搜索GitHub问题的工具一个用于读取文件的工具一个用于评论的工具等等。
LangChain提供了广泛的工具包供您使用。有关内置工具包的完整列表请参阅工具包集成部分。
1.4 AgentExecutor
代理执行器是代理的运行时。这实际上是调用代理执行它选择的动作将动作输出传递回代理并重复。在伪代码中大致如下
next_action agent.get_action(...)
while next_action ! AgentFinish:observation run(next_action)next_action agent.get_action(..., next_action, observation)
return next_action虽然这可能看起来很简单但这个运行时为您处理了几个复杂情况包括
处理代理选择不存在的工具的情况处理工具出错的情况处理代理产生的无法解析为工具调用的输出的情况在所有级别代理决策工具调用记录和观察到标准输出和/或LangSmith。
1.5 其他类型的代理运行时
AgentExecutor类是LangChain支持的主要代理运行时。但是我们还支持其他更实验性的运行时。这些包括
计划并执行代理Baby AGIAuto GPT
您也可以始终创建自己的自定义执行逻辑我们将在下面展示如何做到这一点。
2. 开始代码实现
为了更好地理解代理框架让我们使用LangChain表达语言LCEL从头开始构建一个代理。我们需要构建代理本身定义自定义工具并在自定义循环中运行代理和工具。最后我们将展示如何使用标准的LangChain AgentExecutor来使执行更容易。
一些重要的术语和模式需要知道
AgentAction这是一个表示代理应该采取的行动的数据类。它有一个工具属性这是应调用的工具的名称和一个tool_input属性该工具的输入AgentFinish这是一个表示代理已经完成并应该返回给用户的数据类。它有一个return_values参数是一个要返回的字典。它通常只有一个键 - 输出 - 是一个字符串因此通常只返回这个键。intermediate_steps这些代表传递的先前代理操作和相应的输出。这些对于将来的迭代非常重要这样代理就知道它已经做了什么工作。这被定义为List[Tuple[AgentAction, Any]]。请注意observation目前被保留为Any类型以便最大程度地灵活。实际上这通常是一个字符串。
2.1 设置LangSmith
根据定义代理在返回用户可见的输出之前会采取一系列自主确定的、依赖输入的步骤。这使得调试这些系统特别棘手观察特别重要。LangSmith在这种情况下特别有用。
在使用LangChain构建时任何使用LCEL构建的内置代理或自定义代理都将自动在LangSmith中被追踪。如果我们使用AgentExecutor不仅会得到代理规划步骤的完整追踪还会得到工具的输入和输出的追踪。
要设置LangSmith我们只需要设置以下环境变量
export LANGCHAIN_TRACING_V2true
export LANGCHAIN_API_KEYyour-api-key2.2 定义代理
我们首先需要创建我们的代理。这是负责决定下一步采取什么行动的链条。
在这个例子中我们将使用OpenAI函数调用来创建这个代理。这通常是创建代理的最可靠方式。
在本指南中我们将构建一个具有自定义工具访问权限的自定义代理。我们选择这个例子是因为在大多数实际用例中您将需要自定义代理或工具。我们将创建一个简单的工具用于计算单词的长度。这很有用因为由于标记化LLMs实际上可能会搞砸这个。我们将首先创建它而不带有记忆但然后我们将展示如何添加记忆。记忆是为了启用对话而必需的。
首先让我们加载我们将用来控制代理的语言模型。
from langchain.chat_models import ChatOpenAIllm ChatOpenAI(modelgpt-3.5-turbo, temperature0)我们可以看到它在尝试计算字符串educa中的字母时遇到了困难。
llm.invoke(how many letters in the word educa?)AIMessage(contentThere are 6 letters in the word educa.)接下来让我们定义一些要使用的工具。让我们编写一个非常简单的Python函数来计算传入的单词的长度。
from langchain.agents import tooltool
def get_word_length(word: str) - int:Returns the length of a word.return len(word)tools [get_word_length]现在让我们创建提示。因为OpenAI函数调用是为工具使用而优化的我们几乎不需要任何关于如何推理或如何输出格式的指令。我们只需要两个输入变量输入和agent_scratchpad。输入应该是包含用户目标的字符串。agent_scratchpad应该是包含先前代理工具调用和相应工具输出的消息序列。
from langchain.prompts import ChatPromptTemplate, MessagesPlaceholderprompt ChatPromptTemplate.from_messages([(system,You are very powerful assistant, but bad at calculating lengths of words.,),(user, {input}),MessagesPlaceholder(variable_nameagent_scratchpad),]
)代理如何知道它可以使用哪些工具在这种情况下我们依赖于OpenAI调用LLMs的功能它们将函数作为单独的参数并经过专门训练知道何时调用这些函数。
要将我们的工具传递给代理我们只需要将它们格式化为OpenAI函数格式并将它们传递给我们的模型。通过绑定函数我们确保它们在每次调用模型时被传递。
from langchain.tools.render import format_tool_to_openai_functionllm_with_tools llm.bind(functions[format_tool_to_openai_function(t) for t in tools])将这些部分组合在一起我们现在可以创建代理。我们将导入最后两个实用程序函数一个用于格式化中间步骤代理动作、工具输出对以将其转换为可以发送到模型的输入消息的组件以及一个用于将输出消息转换为代理动作/代理完成的组件。
from langchain.agents.format_scratchpad import format_to_openai_function_messages
from langchain.agents.output_parsers import OpenAIFunctionsAgentOutputParseragent ({input: lambda x: x[input],agent_scratchpad: lambda x: format_to_openai_function_messages(x[intermediate_steps]),}| prompt| llm_with_tools| OpenAIFunctionsAgentOutputParser()
)现在我们有了我们的代理让我们来玩一下吧让我们传递一个简单的问题和空的中间步骤看看它返回什么
agent.invoke({input: how many letters in the word educa?, intermediate_steps: []})AgentActionMessageLog(toolget_word_length, tool_input{word: educa}, log\nInvoking: get_word_length with {word: educa}\n\n\n, message_log[AIMessage(content, additional_kwargs{function_call: {arguments: {\n word: educa\n}, name: get_word_length}})])我们可以看到它响应一个AgentAction以采取行动实际上是AgentActionMessageLog - AgentAction的子类还跟踪完整的消息日志。
如果我们设置了LangSmith我们将看到一个跟踪让我们检查每个步骤中的输入和输出的序列。https://smith.langchain.com/public/04110122-01a8-413c-8cd0-b4df6eefa4b7/r
2.3 定义运行时
所以这只是第一步 - 现在我们需要为此编写一个运行时。最简单的方法就是不断循环调用代理然后执行动作直到返回AgentFinish为止。让我们在下面编写代码
from langchain.schema.agent import AgentFinishuser_input how many letters in the word educa?
intermediate_steps []
while True:output agent.invoke({input: user_input,intermediate_steps: intermediate_steps,})if isinstance(output, AgentFinish):final_result output.return_values[output]breakelse:print(fTOOL NAME: {output.tool})print(fTOOL INPUT: {output.tool_input})tool {get_word_length: get_word_length}[output.tool]observation tool.run(output.tool_input)intermediate_steps.append((output, observation))
print(final_result)TOOL NAME: get_word_lengthTOOL INPUT: {word: educa}There are 5 letters in the word educa.Woo! It’s working.
整合代码实现
# 导入与 OpenAI 语言模型交互的模块。
from langchain.llms import OpenAI # 导入用于创建和管理提示模板的模块。
from langchain.prompts import PromptTemplate # 导入用于构建基于大型语言模型的处理链的模块。
from langchain.chains import LLMChain # 导入从 .env 文件加载环境变量的库。
from dotenv import load_dotenv # 导入创建和管理 OpenAI 聊天模型实例的类。
from langchain.chat_models import ChatOpenAI# 加载 .env 文件中的环境变量。
load_dotenv() # 设置环境变量包括项目 ID 和 Langchain API 的相关设置。
import os
from uuid import uuid4
unique_id uuid4().hex[0:8]
os.environ[LANGCHAIN_PROJECT] fTracing word length - {unique_id}# 初始化 LangSmith 客户端。
from langsmith import Client
client Client()# 创建 ChatOpenAI 实例。
llm ChatOpenAI(modelgpt-3.5-turbo, temperature0, verboseTrue)# 定义一个自定义工具用于获取单词的长度。
from langchain.agents import tooltool
def get_word_length(word: str) - int:Returns the length of a word.return len(word)tools [get_word_length]# 创建聊天提示模板。
from langchain.prompts import ChatPromptTemplate, MessagesPlaceholderprompt ChatPromptTemplate.from_messages([(system, You are very powerful assistant, but bad at calculating lengths of words.),(user, {input}),MessagesPlaceholder(variable_nameagent_scratchpad),]
)# 将 ChatOpenAI 实例与工具绑定。
from langchain.tools.render import format_tool_to_openai_functionllm_with_tools llm.bind(functions[format_tool_to_openai_function(t) for t in tools])# 定义代理。
from langchain.agents.format_scratchpad import format_to_openai_function_messages
from langchain.agents.output_parsers import OpenAIFunctionsAgentOutputParseragent ({input: lambda x: x[input],agent_scratchpad: lambda x: format_to_openai_function_messages(x[intermediate_steps]),}| prompt| llm_with_tools| OpenAIFunctionsAgentOutputParser()
)# 处理用户输入使用代理执行循环直到获取最终结果。
from langchain.schema.agent import AgentFinishuser_input how many letters in the word educa?
intermediate_steps []
while True:output agent.invoke({input: user_input,intermediate_steps: intermediate_steps,})if isinstance(output, AgentFinish):final_result output.return_values[output]breakelse:print(fTOOL NAME: {output.tool})print(fTOOL INPUT: {output.tool_input})tool {get_word_length: get_word_length}[output.tool]observation tool.run(output.tool_input)intermediate_steps.append((output, observation))
print(final_result)
输出结果
(develop)⚡ % python Agents/chat_agents_word_length.py ~/Workspace/LLM/langchain-llm-app
TOOL NAME: get_word_length
TOOL INPUT: {word: educa}
There are 5 letters in the word educa.代码
https://github.com/zgpeace/pets-name-langchain/tree/develop
参考
https://python.langchain.com/docs/modules/agents/
