建筑行业网站建设,网上购物系统流程图,合肥公司建设网站首页,wordpress文章时间标签Langchain 的 LLMChain 1. 开始使用运行 LLM 链的其他方式解析输出从字符串初始化 LLMChain 是一个简单的链#xff0c;它围绕语言模型添加了一些功能。它在整个LangChain中广泛使用#xff0c;包括在其他链和代理中。
LLMChain 由 PromptTemplate 和语言模型#xff08;LL… Langchain 的 LLMChain 1. 开始使用运行 LLM 链的其他方式解析输出从字符串初始化 LLMChain 是一个简单的链它围绕语言模型添加了一些功能。它在整个LangChain中广泛使用包括在其他链和代理中。
LLMChain 由 PromptTemplate 和语言模型LLM 或聊天模型组成。它使用提供的输入键值以及内存键值如果可用格式化提示模板将格式化的字符串传递给 LLM 并返回 LLM 输出。
1. 开始使用
示例代码
import os
import openaifrom dotenv import load_dotenv, find_dotenv
_ load_dotenv(find_dotenv()) # read local .env file
os.environ[OPENAI_API_KEY] os.environ[OPENAI_API_KEY]
os.environ[OPENAI_API_BASE] os.environ[OPENAI_API_BASE]
openai.api_key os.environ[OPENAI_API_KEY]
openai.api_base os.environ[OPENAI_API_BASE]import warnings
warnings.filterwarnings(ignore)from langchain import PromptTemplate, OpenAI, LLMChainprompt_template 对于一家生产{产品}的公司来说取一个什么中文名字好只需回复一个答案。llm OpenAI(temperature0)
llm_chain LLMChain(llmllm,promptPromptTemplate.from_template(prompt_template)
)
llm_chain(彩色袜子)输出结果
{产品: 彩色袜子, text: \n\n彩趣袜业}运行 LLM 链的其他方式
除了所有 Chain 对象共享的 call 和 run 方法之外 LLMChain 还提供了几种调用链逻辑的方法
apply 允许您针对输入列表运行链
示例代码
input_list [{产品: 袜子},{产品: 计算机},{产品: 鞋}
]llm_chain.apply(input_list)输出结果
[{text: \n\n袜袜家}, {text: \n\n计算之星}, {text: \n\n鞋之家}]generate 与 apply 类似只是它返回 LLMResult 而不是字符串。 LLMResult 通常包含有用的生成例如令牌用法和完成原因。
llm_chain.generate(input_list)输出结果
LLMResult(generations[[Generation(text\n\n袜袜家, generation_info{finish_reason: stop, logprobs: None})], [Generation(text\n\n计算之星, generation_info{finish_reason: stop, logprobs: None})], [Generation(text\n\n鞋之家, generation_info{finish_reason: stop, logprobs: None})]], llm_output{token_usage: {prompt_tokens: 198, total_tokens: 227, completion_tokens: 29}, model_name: text-davinci-003}, run[RunInfo(run_idUUID(4c04d0ca-c183-4723-a1ad-8949ec0a67c9)), RunInfo(run_idUUID(c581efac-f58d-447d-a7d7-df84088987db)), RunInfo(run_idUUID(932ab858-8eda-494d-91b4-8f75dbfa1096))])predict 与 run 方法类似只不过输入键被指定为关键字参数而不是 Python 字典。
# 单个输入示例
llm_chain.predict(产品彩色袜子)输出结果
\n\n彩趣袜业# 多个输入示例template 告诉我一个关于{主题}的{形容词}笑话。
prompt PromptTemplate(templatetemplate, input_variables[形容词, 主题])
llm_chain LLMChain(promptprompt, llmOpenAI(temperature0))llm_chain.predict(形容词悲伤, 主题鸭子)输出结果
\n\n一只鸭子在湖边游泳突然发现自己被困在了一个漩涡里它拼命地挣扎但是没有用它只能眼睁睁地看着自己被淹死。这时一只鹅飞过来看到了这一幕它对鸭子说“别担心我会帮你”于是鹅用它的嘴巴把鸭子吸出了漩涡鸭子很感激解析输出
默认情况下即使底层 prompt 对象具有输出解析器 LLMChain 也不解析输出。如果您想在 LLM 输出上应用该输出解析器请使用 predict_and_parse 而不是 predict 和 apply_and_parse 而不是 apply 。
对于 predict
from langchain.output_parsers import CommaSeparatedListOutputParseroutput_parser CommaSeparatedListOutputParser()
template 列出彩虹中的所有颜色
prompt PromptTemplate(templatetemplate, input_variables[], output_parseroutput_parser)
llm_chain LLMChain(promptprompt, llmllm)llm_chain.predict()输出结果
\n\n红色、橙色、黄色、绿色、青色、蓝色、紫色对于 predict_and_parser
llm_chain.predict_and_parse()输出结果
[红色、橙色、黄色、绿色、青色、蓝色、紫色]
# 英文的输出结果
# [Red, orange, yellow, green, blue, indigo, violet]从字符串初始化
您还可以直接从字符串模板构造LLMChain。
template 告诉我一个关于{主题}的{形容词}笑话。
llm_chain LLMChain.from_string(llmllm, templatetemplate)llm_chain.predict(形容词悲伤, 主题鸭子)输出结果
\n\n一只鸭子在湖边游泳突然发现自己被困在了一个漩涡里它拼命地挣扎但是没有用它只能眼睁睁地看着自己被淹死。这时一只鹅飞过来看到了这一幕它对鸭子说“别担心我会帮你”于是鹅用它的嘴巴把鸭子吸出了漩涡鸭子很感激完结
