如何在不依赖函数调用功能的情况下结合工具与大型语言模型

当大型语言模型（LLM）原生不支持函数调用功能时，如何实现智能工具调度？本文通过自然语言解析+结构化输出控制的方法来实现。

GitHub代码地址

核心实现步骤

1. 定义工具函数
   使用@tool装饰器声明可调用工具：

from langchain_core.tools import tool@tool
def multiply_by_max(a: int, b: list[int]
) -> int:"""将a乘以b列表中的最大值"""return a * max(b)@tool
def divide_by(a: float, b: float) -> float:"""将a除以b"""return a / b

2. 构建响应模型
   使用Pydantic定义结构化响应格式：

from pydantic import BaseModel, Fieldclass Response(BaseModel):name: str = Field(None, description="调用的函数名称")args: dict = Field(None, description="函数参数")

3. 创建输出解析器

from langchain_core.output_parsers import PydanticOutputParserparser = PydanticOutputParser(pydantic_object=Response)

4. 设计提示模板

from langchain_core.prompts import ChatPromptTemplateprompt = ChatPromptTemplate.from_messages([("human", """请根据需求从下列函数中选择合适的工具：可用工具：\n{functions}\n输出格式：\n{format_instructions}问题：{query}""")
]).partial(functions=[tool.args_schema.model_json_schema() for tool in [multiply_by_max, divide_by]],format_instructions=parser.get_format_instructions()
)

工作原理

1. 自然语言解析：LLM分析用户query的语义
2. 工具匹配：根据函数描述自动选择最合适的工具
3. 参数提取：从自然语言中提取结构化参数
4. 格式化输出：生成符合预定格式的JSON响应

示例演示

示例1：数学计算

chain = prompt | ChatOpenAI(model="qwen-max") | parser
result = chain.invoke("请将3乘以一至九的最大值")
# 输出：
# name='multiply_by_max', args={'a':3, 'b':[1,2,3,4,5,6,7,8,9]}

示例2：无匹配工具

result = chain.invoke("查询北京天气")
# 输出：
# name=None, args=None