2.【多模型接入架构】如何同时接入GPT、Gemini、Claude并统一管理？（完整实现方案）

【多模型接入架构实战】如何同时接入GPT、Gemini、Claude并统一管理避免代码爆炸的终极方案一、问题场景我在做AI工具系统初期只接了一个模型比如Gemini代码很简单responsegemini.generate(prompt)一开始没问题但很快用户开始提需求能不能加GPTClaude写代码更强能切换吗哪个便宜用哪个可以吗 于是我直接加了判断逻辑ifmodelgpt:returncall_gpt()elifmodelgemini:returncall_gemini()结果一周后代码直接炸了每个接口都在写 if/else不同模型参数完全不一样想加新模型要改10多个文件典型的“早期设计不当导致系统不可扩展”二、问题分析1. 不同模型协议完全不一致模型输入格式特点GPTmessages[]标准对话Geminiprompt简单Claudemessages system特殊 如果不抽象代码会越来越乱2. 业务逻辑耦合模型错误写法defchat(model,input):ifmodelgpt:... 业务层直接依赖模型细节三、解决方案核心设计思想统一接口 适配器模式 工厂模式架构如下业务层 ↓ 统一模型接口BaseModel ↓ 模型适配层Adapter ↓ 具体模型实现GPT / Gemini / Claude四、实操步骤完整实现步骤1定义统一接口fromabcimportABC,abstractmethodclassBaseModel(ABC):abstractmethoddefgenerate(self,messages):pass步骤2实现GPT适配器classGPTModel(BaseModel):defgenerate(self,messages):# 模拟调用return{model:gpt,content:GPT response}步骤3实现Gemini适配器classGeminiModel(BaseModel):defgenerate(self,messages):promptself._convert(messages)return{model:gemini,content:Gemini response}def_convert(self,messages):return .join([m[content]forminmessages])步骤4工厂模式统一管理classModelFactory:_models{gpt:GPTModel,gemini:GeminiModel,}classmethoddefget_model(cls,name):ifnamenotincls._models:raiseValueError(Unsupported model)returncls._models[name]()步骤5业务层调用关键defchat(model_name,messages):modelModelFactory.get_model(model_name)returnmodel.generate(messages) 从此业务层完全不关心具体模型五、验证结果优化前新增模型改10文件切换模型大量if判断优化后新增模型只加一个类切换模型参数级完成开发效率提升至少3倍六、踩坑记录真实经验1️⃣ 不要把API key写在模型类里 应该统一放配置中心2️⃣ 不同模型返回结构不统一 必须做标准化输出return{content:...,usage:{},model:xxx}3️⃣ 超时机制一定要做 不然某个模型卡死拖垮系统七、总结多模型系统的核心不是“支持多个模型”而是让模型“可替换”八、优化建议进阶加入负载均衡自动选模型加入成本策略优先便宜模型加入Fallback机制失败自动切换九、下一篇预告 【Prompt工程系统】如何让AI输出稳定、可控、可复用