【NLP 72、Prompt、Agent、MCP、function calling】

命运把我们带到哪里，就是哪里

                                                —— 25.5.13

一、Prompt

1.User Prompt 用户提示词

        当我们与大模型进行对话时，我们向大模型发送的消息，称作User Prompt，也就是用户提示词，一般就是我们提出的问题或者想说的话

        但是我们在现实生活中与人对话，同一个问题不同的人会有多种的回复，但是当我们和AI交流时，同一个词只会有一种通用性回复，若想让AI也能像人一样提供不同的回答，我们可以对AI添加一个“人设”。

        ① 最直接的方法，就是将给AI提供的人设信息和用户的要求打包成同一条User Prompt发送。

        ② 将人设信息单独提出来，放到一个提示词中，这个提示词我们称为System Prompt

---

2.System Prompt 系统提示词

        System Prompt主要用来描述AI的角色、性格、背景信息、语气等等（只要不是用户直接说出的内容，都可以放进System Prompt中）。每次用户发送User Prompt时，同时系统会自动发送System Prompt 

        在网页端的聊天机器人中，System Prompt往往是系统预设的， 用户不能随便更改，但是通常来讲，网站会提供一些设置，用户可以写下自己的偏好，这些偏好再自动转换为System Prompt的一部分

---

二、Agent

1.什么是Agent

        大模型 Agent 是指基于大型预训练模型（如 GPT-3、GPT -4、文心一言、通义千问等）构建的智能体，能够理解和生成自然语言。它以大型语言模型作为核心计算引擎，利用模型的语言理解、生成和推理能力，结合自主性、交互性、反应性和主动性等特点，使 AI 能够更加智能地应对各种任务，可看作是能够思考与行动的 “智能助手”，不仅理解需求，还能主动提供解决方案并付诸实践。

---

2.AutoGPT

        本地运行的一个小程序

步骤

① 准备一些功能函数

② 将这些函数和其功能描述、使用方法一同注册到AutoGPT中，AutoGPT会根据这些信息生成一个System Prompt，告诉AI模型用户提供了哪些工具以及它们的功能、以及如果AI想要使用他们应该返回怎样的格式等等

③ 然后将这个System Prompt连同用户的请求一同发送AI模型

④ AI模型按照要求的格式返回一个调用某个函数的消息，AutoGPT进行解析之后，调用对应的函数

⑤ 将结果丢给AI

⑥ AI根据函数调用的结果决定下一步进行什么操作

⑦ 反复以上流程，直到任务完成为止

---

3.AI Agent & Agent Tool

人们将AutoGPT这种负责在模型、工具和最终用户之间传话的程序叫做AI Agent，而这些提供给Agent的函数或服务，就叫做Agent Tool

---

三、function calling

        虽然我们在System Prompt中声明了AI模型的返回格式，但是AI模型是一个概率模型，还是有可能返回格式错误的内容，为了处理这种情况，很多AI Agent会在发现AI返回的格式不对时，自动进行重传，例如Cline

        ChatGPT、Claude、Gemini等公司推出一个叫做function calling的新功能，这个功能的核心思想是：统一格式，规范描述，function calling对这些描述System Prompt进行一些标准化，例如：每个Tool都用一个JSON对象来定义，工具名写在name字段，功能说明写在desc字段，工具所需要的参数写在params中，然后这些JSON对象从System Prompt中被剥离出来，单独放到一个字段中，最后，function calling也规定了AI使用工具时应该返回的格式，所以System Prompt中的格式定义也可以删除

        通过function calling，所有的工具描述都放在相同的地方，所有工具描述也都按照相同的格式（JSON），AI使用工具时的回复也都依照相同的格式（JSON），于是人们就能更有针对性的训练AI模型，让他理解这种调用的场景，且因为回复的格式是固定的（JSON），当AI的回复格式出现错误时，AI自己可以检查到出现错误并进行重试，用户根本感觉不到，降低了用户端的开发难度，同时也节省了用户端重试带来的Token开销

缺点

        没有自己统一的标准，每家大厂定义的API标准都不同，甚至很多开源模型还不支持Function Calling，因此 System Prompt 与 Function Calling 两种方式在市面上是并存的     

  

---

四、MCP协议

把Tool变成服务，统一的托管，让所有的Agent进行调用，这就是MCP

MCP是一个通信协议，专门用来规范 Agent 和 Tool 服务之间是怎么交互的，运行Tool的服务叫做MCP Server，调用它的 Agent 叫做MCP Client

MCP协议规定了MCP Server如何和MCP Client进行通信，以及MCP Server要提供哪些接口，

MCP除了普通的Tool这种函数调用的形式，MCP Server也可以直接提供数据，提供类似文件读写的服务叫做Resource，或者为Agent提供提示词的模板叫做Prompt

MCP Server 既可以和Agent跑在同一台机器上，通过标准输入输出进行通信。

也可以被部署在网络上，通过HTTP进行通信。

MCP本身和AI模型没有关系，它并不关心Agent用的是哪个模型，MCP只负责帮Agent管理工具、资源和提示词

---

五、梳理流程

① 对AI Agent（MCP Client）进行提问

② Agent将接收到的问题包装在USER PROMPT中

③ Agent通过MCP协议从MCP Server中获取所有Tool的信息

④ Agent将这些Tool的信息转化为 SYSTEM PROMPT 或 Function Caliing 的格式，然后和用户请求 User Prompt 一起打包发送给AI模型

⑤ AI模型发现有一个叫做web_browse的网页浏览工具，于是通过普通回复或者Function Calling的格式产生一个调用这个Tool的请求，希望从网上搜索答案

⑥ Agent收到这个请求后，通过MCP协议去调用MCP Server里的 web_browse 工具

⑦ web_browse工具访问指定的网站之后将内容返回给Agent

⑧ Agent再将内容转发给AI模型，AI模型根据网页内容和自己的思考，生成最终的答案，将答案传给AI Agent（MCP Client）

⑨ 最后，由AI Agent把结果展示给用户

这就是System Promt、User Prompt、AI Agent、Agent Tools、Function Calling、MCP、AI模型之间的联系与区别