05LangChain实战课 - 提示工程与FewShotPromptTemplate的应用

LangChain实战课 - 提示工程与FewShotPromptTemplate的应用

提示工程的重要性

在LangChain框架中，提示工程是构建有效大模型应用的关键。通过精心设计的提示，我们可以引导大语言模型（LLM）生成预期的输出。本节课深入探讨了如何利用LangChain中的提示模板进行有效的提示工程。

理解partial_variables的作用

在提示模板的构建过程中，partial_variables允许我们插入额外的变量，如输出解析器指定的format_instructions。这些变量指导模型生成结构化的输出，如JSON格式的数据。通过在提示中明确指示期望的输出格式，模型能够遵循这一格式，生成易于解析的数据结构。

提示工程的原则和策略

吴恩达老师和OpenAI的官方文档都提出了一系列关于提示工程的原则和策略，包括：

1. 写清晰的指示
2. 给模型提供参考（示例）
3. 将复杂任务拆分成子任务
4. 给GPT时间思考
5. 使用外部工具
6. 反复迭代问题

这些原则和策略不仅指导大语言模型，也指导我们的思维过程，使处理问题的思路更清晰。

提示的结构

一个实用的提示框架包括：

• 指令（Instruction）：告诉模型任务的大概内容和执行方式。
• 上下文（Context）：作为模型的额外知识来源，可以手动插入或通过向量数据库检索得来。
• 提示输入（Prompt Input）：具体的问题或需要大模型执行的任务。
• 输出指示器（Output Indicator）：标记生成文本的开始，如“解”或“import”。

LangChain 提示模板的类型

LangChain提供了多种提示模板，包括PromptTemplate、FewShotPromptTemplate、PipelinePromptTemplate和ChatPromptTemplate等，以适应不同的应用场景。

使用 PromptTemplate

PromptTemplate是基础的提示模板，用于生成适用于不同场景的提示。通过from_template方法，我们可以从字符串模板中创建提示模板对象，并使用format方法替换模板中的变量。

使用 ChatPromptTemplate

对于聊天模型，LangChain提供了一系列的模板，包括SystemMessagePromptTemplate、HumanMessagePromptTemplate等，以适应不同的聊天角色。

FewShotPromptTemplate的应用

FewShotPromptTemplate是提示工程中非常重要的部分，它利用少量示例帮助模型理解任务并生成正确的响应。通过创建示例样本、提示模板和FewShotPromptTemplate对象，我们可以构建出最合适的提示，引导模型生成预期的输出。

示例选择器的使用

当示例很多时，使用示例选择器可以节省Token用量，提高效率。LangChain提供了SemanticSimilarityExampleSelector，根据语义相似性选择最相关的示例。

总结

本节课介绍了提示工程的原理和几种提示模板的用法，特别是FewShotPromptTemplate的应用。提供示例对于解决某些任务至关重要，FewShot的方式能够显著提高模型回答的质量。下一节课将探讨输出解析和“思维链提示”（Chain of Thought，简称CoT）。

思考题

1. 探索PromptTemplate的参数：查看LangChain文档，尝试使用template_format和validate_template参数。
2. 使用PipelinePromptTemplate和自定义Template：尝试使用这些模板，并构建自己的应用。
3. 构想鲜花店运营场景中的客户服务对话任务：设计一个少样本学习任务，让模型学习如何解答客户的问题。

1. 探索PromptTemplate的参数

在LangChain中，PromptTemplate 是一个用于生成提示（prompts）的类，它允许开发者自定义与模型交互的方式。以下是template_format和validate_template参数的简要说明：

• template_format：此参数用于指定模板字符串的格式。通常，模板字符串中会包含一些占位符，这些占位符在实际使用时会被具体的值替换。template_format参数可以指定这些占位符的格式，以确保模板能够正确地生成提示。例如，如果模板中需要一个日期，template_format可以确保日期的格式是正确的。

• validate_template：此参数用于验证模板是否符合特定的标准或规则。在生成提示之前，使用validate_template可以检查模板是否包含必要的元素，或者是否符合特定的语法规则。这有助于避免生成无效或错误的提示，从而提高模型交互的质量和效率。

要使用这些参数，你需要查看LangChain的文档，了解具体的使用方法和示例。然后，你可以尝试编写自己的模板，并使用这些参数来格式化和验证模板。

2. 使用PipelinePromptTemplate和自定义Template

PipelinePromptTemplate是LangChain中的一个高级模板，它允许你将多个提示模板组合成一个管道（pipeline），这样可以按顺序执行多个步骤。以下是如何使用PipelinePromptTemplate和自定义模板的步骤：

• 定义自定义模板：首先，你需要定义自己的模板，这些模板可以是简单的字符串模板，也可以是更复杂的模板，包含多个步骤和逻辑。

• 创建PipelinePromptTemplate：然后，你可以创建一个PipelinePromptTemplate实例，并将你的自定义模板作为步骤添加到管道中。

• 构建应用：最后，你可以使用这个管道模板来构建你的应用。例如，如果你正在构建一个问答系统，你可能需要一个模板来提取问题，一个模板来生成查询，以及一个模板来格式化答案。

这里是一个简单的例子：

from langchain.PromptTemplate import PromptTemplate
from langchain.PipelinePromptTemplate import PipelinePromptTemplate# 定义自定义模板
template1 = PromptTemplate(input_variables=["question"], template="你的问题是什么？")
template2 = PromptTemplate(input_variables=["query"], template="生成查询：{query}")# 创建PipelinePromptTemplate
pipeline_template = PipelinePromptTemplate(steps=[template1, template2])# 使用模板
# 假设你有一个"question"变量，包含用户的问题
question = "天空为什么是蓝色的？"
# 通过模板生成查询
query = pipeline_template({"question": question})

3. 构想鲜花店运营场景中的客户服务对话任务

在鲜花店的客户服务场景中，你可以设计一个少样本学习任务，让模型学习如何解答客户的问题。以下是设计这个任务的步骤：

• 收集数据：首先，你需要收集一些客户服务对话的样本。这些样本可以是真实的对话记录，也可以是模拟的对话。

• 标注数据：然后，你需要对这些样本进行标注，指出每个问题的正确答案或响应。

• 设计模板：接下来，你可以设计一些模板，这些模板可以帮助模型理解和生成客户服务对话。

• 训练模型：使用这些标注好的数据和模板，你可以训练一个模型，让它学习如何回答客户的问题。

• 评估和迭代：最后，你需要评估模型的性能，并根据需要进行迭代和优化。

这里是一个简单的示例模板：

# 客户问：我想要一束玫瑰花，有什么推荐的吗？
template = PromptTemplate(input_variables=["question"], template="客户想要{question}，推荐{answer}。")# 假设模型已经训练好，并且知道如何回答这个问题
answer = "我们有一款名为'浪漫满屋'的玫瑰花束，非常受欢迎。"
response = template({"question": "一束玫瑰花", "answer": answer})
print(response)  # 输出：客户想要一束玫瑰花，推荐我们有一款名为'浪漫满屋'的玫瑰花束，非常受欢迎。

通过这种方式，你可以构建一个能够自动回答客户问题的智能客户服务系统。