Cline与大模型的交互协议（内涵Agent实现原理）

MCP协议MCP只规定了MCP Host与MCP Server之间的沟通协议并没有对大模型的输入和输出格式提出要求因此不同的MCP Host就可能会用不同的格式来与大模型进行沟通比如Cline就是用的xml。MCP与大模型的沟通方式配置中转服务器中转服务器代码importhttpxfromfastapiimportFastAPI,Requestfromstarlette.responsesimportStreamingResponseclassAppLogger:def__init__(self,log_filellm.log):Initialize the logger with a file that will cleard on startup.self.log_filelog_file# Clear the log file on startupwithopen(self.log_file,w,encodingutf-8)asf:f.write()deflog(self,message:str):Log a message to both file and console.# Log to filewithopen(self.log_file,a,encodingutf-8)asf:f.write(message\n)# Log to consoleprint(message)appFastAPI()loggerAppLogger(llm.log)# DeepSeek API 配置DEEPSEEK_API_URLhttps://api.deepseek.com/v1/chat/completionsapp.post(/chat/completions)asyncdefproxy_request(request:Request):body_bytesawaitrequest.body()body_strbody_bytes.decode(utf-8)logger.log(f模型请求{body_str})bodyawaitrequest.json()logger.log(模型返回\n)asyncdefevent_stream():asyncwithhttpx.AsyncClient()asclient:asyncwithclient.stream(POST,DEEPSEEK_API_URL,jsonbody,headers{Content-Type:application/json,Accept:text/event-stream,Authorization:request.headers.get(Authorization,),},)asresponse:asyncforlineinresponse.aiter_lines():logger.log(line)yieldf{line}\nreturnStreamingResponse(event_stream(),media_typetext/event-stream)if__name____main__:importuvicorn uvicorn.run(app,host0.0.0.0,port8000)中转服务器的cline配置API Provider: OpenAI CompatibleBase URL: http://localhost:8000OpenAI Compatible API Key: apikeyModel ID: deepseek-chat解读简单场景下Cline发往模型的请求cline发送给大模型的工具中包含两种一种是cline的内置工具写入文件、替换文件内容、读取文件、运行终端命令另一种是MCP工具天气预告、气象预警等cline规定了工具调用请求必须要使用XML格式传递外面是工具名称里面是参数值只要是模型按照Cline规定的这种XML格式返回Cline就可以帮助模型调用各种他想要调用的工具use_mcp_tool: 请求连接使用MCP服务提供的工具每个MCP服务器可以提供具有不同功能的多个工具server_name: MCP服务器的名称tool_name: 要执行的工具名称arguments: json对象工具的参数如果调用工具之后模型拿到的结果不是想要的还会继续调用其他工具知道拿到满意的结果为止解读简单场景下模型发往Cline的返回模型采用的是SSE的方式逐量返回的在SSE的返回结果里面如果某一样以开头返回结果的话这一样就是注释在SSE中注释的主要作用是保持连接避免我们的客户端中转服务器因超时而断开连接大模型返回的内容{id:7df94a6a-ef32-4db2-aca0-e71876a63d1a,object:chat.completion.chunk,created:1775277255,model:deepseek-chat,system_fingerprint:fp_eaab8d114b_prod0820_fp8_kvcache_new_kvcache,choices:[{index:0,delta:{content: the},logprobs:null,finish_reason:null}],usage:null}流式返回的响应中将content拼接到一起就是模型整体返回给我们的内容。Cline调用一个MCP工具查看日志记录第一部分是标签第二部分是use_mcp_toolserver_name/server_nametool_calls/tool_callsarguments{ latitude: 40.7128, longitude: -74.0060 }/arguments/use_mcp_tool标签LLM大模型有没有记忆模型本身没有记忆大语言模型LLM本质上是无状态的函数它每次处理你的请求时都是独立计算的不记得你刚才说的是什么你需要手动管理上下文如果你希望Agent有记忆就必须每次调用模型时把之前的对话历史、关键信息、任务状态等重新放进这次请求的消息列表里。解构本质Cline的XML协议与ReAct的关系模型整个思考调用过程什么事ReAct: 思考-行动-观察Thought、Action、Observation什么是Agent: 持续思考、持续调用外部工具、直至解决用户问题的一个程序Cline本质上就是一个Agent也是根据ReAct的思想来构建他的Agent的流程的提问ReAct也是Cline这种XML格式来与模型沟通的嘛当然不是了XML知识数据传输的一个格式而已ReAct呢是一个思想它并不跟某个格式绑定ReAct的精髓在于我们前面提到的Thought、Action、ObservationReActReasoning Acting思想由普林斯顿大学和谷歌研究院的研究团队在2022 年合作提出核心思想通过让语言模型交替生成推理轨迹Thought和任务特定操作Action在接收外部反馈Observation形成一个思考-行动-观察的闭环从而协同发挥模型的推理能力与外部交互的能力。这也是现在很多AI Agent如LangChain、AutoGPT等底层范式的重要理论基础ReaCt当初在论文刚被提出时是通过文本进行交互的Thought、Action、Observation如果想与模型以这种文本格式进行交互我们需要给提供一个System Prompt提示词。你需要解决一个任务。为此你需要将任务分解为多个步骤。对于每个步骤首先使用 Thought: 思考要做什么然后使用可用工具之一决定一个 Action:。接着你将根据你的行动从环境/工具中收到一个 Observation:。持续这个思考和行动的过程直到你有足够的信息来提供 FinalAnswer:。 这里有一些例子 示例 1: Question: 埃菲尔铁塔有多高 Thought: 我需要找到埃菲尔铁塔的高度。可以使用搜索工具。 Action: get_height(埃菲尔铁塔) Observation: 埃菲尔铁塔的高度约为330米包含天线。 Thought: 搜索结果显示了高度。我已经得到答案了。 FinalAnswer: 埃菲尔铁塔的高度约为330米。 示例 2: Question: 帮我找一个简单的番茄炒蛋食谱并看看家里的冰箱里有没有西红柿。 Thought: 这个任务分两步。第一步找到番茄炒蛋的食谱。第二步检查冰箱里是否有西红柿。我先用 find_recipe 工具找食谱。 Action: find_recipe(dish番茄炒蛋) Observation: 简单的番茄炒蛋食谱将2个鸡蛋打散2个番茄切块。热油先炒鸡蛋盛出。再热油炒番茄至软烂加入鸡蛋放盐调味即可。 Thought: 好的我已经有食谱了。食谱需要西红柿。现在我需要用 check_fridge 工具看看冰箱里有没有西红柿。 Action: check_fridge(item西红柿) Observation: 冰箱检查结果有3个西红柿。 Thought: 我找到了食谱并且确认了冰箱里有西红柿。可以回答问题了。 FinalAnswer: 简单的番茄炒蛋食谱是鸡蛋打散番茄切块。先炒鸡蛋再炒番茄混合后加盐调味。冰箱里有3个西红柿。 请严格遵守 输出Action后立即停止生成 等待返回真实的Observation 擅自生成Observation将导致错误 本次任务可用工具 get_forecast(latitude, longitude): 获取指定坐标的天气预报。返回包含预报信息的字符串。 write_to_file(filename, content): 将指定内容写入指定文件。成功时返回 写入成功。自己写Agent时与模型的交互格式可以自定义如Thought-Action-Observation、XML、JSON等只要这个格式本质上使用的是ReAct的模式那都是可以的所以做一个类似Cline这样的Agent需要什么呢首先我们要告诉模型需要返回结果的格式其次我们需要告诉模型可用的工具列表最后我们要告诉模型一定要使用ReAct模式把这些要求写到System Prompt里面 用户问Question作为触发真个Agent就可以跑起来了。