使用Deno Deploy部署Azure OpenAI代理，无缝兼容开源ChatGPT客户端

1. 项目概述与核心价值如果你正在使用一些开源的 ChatGPT 客户端比如 ChatGPT-Next-Web、LobeChat 或者 OpenCat但苦于 OpenAI 的 API 访问不稳定或者费用较高那么将后端切换到微软 Azure OpenAI 服务是一个相当靠谱的选择。Azure 的服务在国内访问相对顺畅并且提供了企业级的稳定性和合规保障。不过问题来了绝大多数开源客户端在设计时其 API 调用格式都是直接对接 OpenAI 官方接口的与 Azure OpenAI 的接口格式并不兼容。直接修改客户端代码去适配 Azure对于非开发者来说门槛实在不低。今天要聊的这个deno-azure-openai-proxy项目就是为了解决这个“最后一公里”的问题。它是一个轻量级的代理服务核心工作就一件事把客户端发来的标准 OpenAI API 请求“翻译”成 Azure OpenAI API 能听懂的格式再把 Azure 的响应“翻译”回客户端能识别的格式。这样一来你心爱的开源客户端无需任何改动只需要把 API 地址指向这个代理就能无缝使用 Azure OpenAI 的强大模型了。这个项目的巧妙之处在于它的部署平台——Deno Deploy。这是一个类似于 Vercel 或 Cloudflare Workers 的 Serverless 边缘计算平台。选择它意味着你不需要自己维护服务器项目代码会运行在全球各地的边缘节点上延迟低并且 Deno Deploy 免费套餐提供了每天 10 万次的请求额度对于个人或小团队使用来说基本等于零成本。相比于另一个热门选择 Cloudflare Workers它的一个显著优势是对国内网络环境更友好很多情况下可以直连无需额外配置。简单来说这个工具就像是一个“协议转换器”或“适配器”架在了你的开源 ChatGPT 应用和 Azure OpenAI 服务之间让你能用 OpenAI 的“钥匙”去开 Azure 的“门”。2. 核心原理与架构拆解要理解这个代理如何工作我们得先看看 OpenAI 和 Azure OpenAI 的 API 到底有哪些不同。知道了差异才能明白代理在中间做了什么。2.1 OpenAI 与 Azure OpenAI API 差异解析虽然底层模型可能相同但两者的调用方式在细节上区别很大主要集中在请求地址Endpoint、请求头Headers和请求体Body上。Endpoint请求地址:OpenAI:https://api.openai.com/v1/chat/completionsAzure OpenAI:https://{your-resource-name}.openai.azure.com/openai/deployments/{deployment-name}/chat/completions?api-version{api-version}差异点: Azure 的地址结构复杂得多需要包含你的资源名称resourceName、模型部署名称deployment-name和 API 版本api-version。Headers请求头:OpenAI: 使用Authorization: Bearer sk-xxx其中sk-xxx是你的 OpenAI API Key。Azure OpenAI: 使用api-key: your-azure-openai-key。这是一个完全不同的认证方式。差异点: 认证字段名和值的格式都不同。Body请求体:OpenAI: 直接指定model参数如model: gpt-3.5-turbo。Azure OpenAI: 请求体中不包含model参数。模型信息已经体现在 URL 的{deployment-name}部分了。你需要在 Azure 门户上为某个模型如 GPT-3.5-Turbo创建一个部署Deployment并给它起一个名字比如my-gpt35。调用时URL 里用的是这个部署名而不是原始的模型名。差异点: 模型指定方式从请求体转移到了 URL 路径中。2.2 代理服务器的“翻译”工作流基于以上差异这个 Deno 代理的工作流程就清晰了。假设一个开源客户端向代理发送了一个标准 OpenAI 请求POST https://your-proxy.deno.dev/v1/chat/completions Headers: { Authorization: Bearer sk-xxx } Body: { model: gpt-3.5-turbo, messages: [...] }代理接收到这个请求后会按顺序完成以下“翻译”步骤解析与验证提取请求中的Authorization头但这里面的sk-xxx在 Azure 语境下是无效的。实际上代理会忽略这个头或者将其作为备用验证本项目未使用。真正的 Azure API Key 需要通过环境变量等方式配置在代理服务中。模型映射Mapper这是关键一步。代理读取请求体中的model字段例如gpt-3.5-turbo然后在一个预定义的映射表mapper中查找对应的 Azure 部署名。例如映射规则可能是{ gpt-3.5-turbo: my-azure-gpt35-deployment }。如果找不到映射代理可以配置为直接透传原模型名但这通常会导致 Azure 端报错因为 Azure 不认识gpt-3.5-turbo这个名称它只认部署名。重构请求 URL代理根据配置的 Azure 资源名称resourceName、映射得到的部署名deployment-name和 API 版本api-version拼装出真正的 Azure OpenAI 接口 URL。重构请求头将Authorization: Bearer sk-xxx替换为api-key: {你的Azure密钥}。这个密钥同样来自代理服务的环境变量配置。调整请求体从请求体中删除或忽略model字段因为 Azure 不需要它。其他字段如messages,temperature,max_tokens等保持不变。转发请求与流式响应将重构后的请求转发给 Azure OpenAI 服务。对于聊天补全Chat Completion接口为了支持打字机效果需要处理流式响应Server-Sent Events。代理需要正确地将 Azure 返回的流数据转发回客户端并保持流的特性。错误处理与转发如果 Azure 服务返回错误代理需要捕获这个错误并将其转换为客户端能够理解的错误格式通常是 OpenAI 的格式返回方便客户端进行统一处理。整个过程中代理对客户端完全透明。客户端以为自己一直在和 OpenAI 官方 API 对话实际上背后已经是稳定可靠的 Azure 服务了。这种设计极大地降低了用户的使用和迁移成本。3. 环境准备与部署详解理论清楚了接下来我们动手把它部署起来。整个过程非常“无服务器”你只需要准备好几个关键信息然后在网页上点一点即可。3.1 前期准备获取 Azure OpenAI 关键信息在部署代理之前你必须先拥有一个可用的 Azure OpenAI 资源。如果你还没有需要去 Azure 门户申请部分地区可能需要申请审批。这里假设你已经有了。你需要从 Azure 门户获取以下三个核心信息资源名称Resource Name 这是你创建的 Azure OpenAI 资源的名称不是订阅ID也不是资源组名。在 Azure 门户中进入你的 OpenAI 资源在“概览”页面就能看到。它通常是类似my-openai-resource这样的字符串。它会被用在最终的请求域名里。API 密钥API Key 在资源的“密钥与终结点”页面你可以找到两个密钥Key1 和 Key2任选一个即可。这个密钥用于代理向 Azure 发起认证。模型部署名称Deployment Name 在 Azure OpenAI Studio 中你需要为想要使用的模型创建“部署”。例如你可以选择“gpt-35-turbo”模型然后创建一个部署并给它起个名字比如gpt-35-turbo-deployment。这个你自定义的部署名才是后续调用中真正用到的“模型名”。请记下你为gpt-3.5-turbo、gpt-4等模型创建的部署名。注意Azure 上的模型名称可能与 OpenAI 官方略有不同例如gpt-3.5-turbo在 Azure 上可能是gpt-35-turbo。创建部署时请看清模型列表中的确切名称。代理的映射关系是基于你自定义的部署名而不是 Azure 内部的模型标识。3.2 一键部署流程推荐这是最快捷的部署方式适合绝大多数用户。访问部署链接 点击项目 README 中的 Deploy on Deno 链接。登录 Deno Deploy 如果你是第一次使用会跳转到 Deno Deploy 仪表盘并要求登录。支持使用 GitHub 账号直接授权登录非常方便。登录成功后可能需要重新点击一次部署链接。创建项目 点击链接后你会进入项目创建页面。Deno Deploy 会自动拉取项目的代码。Project Name 给你的项目起个名字比如my-azure-openai-proxy。这会成为你默认二级域名的一部分my-azure-openai-proxy.deno.dev。其他选项 通常保持默认即可。配置环境变量 这是最关键的一步。项目创建后不要急着访问先进入Settings-Environment Variables。 你需要添加以下两个环境变量RESOURCE_NAME: 值填写你从 Azure 门户获取的资源名称。MAPPER: 值填写一个JSON 字符串用来定义模型映射关系。这是最容易出错的地方。MAPPER 配置详解 假设你在 Azure 上创建了如下部署针对gpt-35-turbo模型部署名为my-gpt35针对gpt-4模型部署名为my-gpt4针对text-embedding-ada-002模型部署名为my-embedding那么MAPPER环境变量的值应该填写为{gpt-3.5-turbo:my-gpt35,gpt-4:my-gpt4,text-embedding-ada-002:my-embedding}重要提示必须是一个合法的、紧凑的 JSON 字符串不能有多余的换行或尾随逗号。键Key是客户端请求中传来的模型名如gpt-3.5-turbo。值Value是你在 Azure 上对应的部署名如my-gpt35。如果你希望某些模型名不经过映射直接透传虽然不推荐可以不将其包含在 MAPPER 中但需要确保代理代码支持此逻辑当前版本主要依赖映射。添加完成后页面类似下图部署与访问 保存环境变量后系统会自动重新部署。部署完成后在项目的Settings-Domains部分你可以看到系统分配的子域名例如https://my-azure-openai-proxy.deno.dev。这个地址就是你的代理服务地址。3.3 手动部署与自定义域名一键部署已经能满足需求。手动部署适合想查看或微调代码的用户步骤类似登录 Deno Deploy 。点击 “New Project”然后选择 “Playground” 进入代码编辑器。将项目 main.ts 的原始内容全部复制粘贴到编辑器中。你可以在代码里直接修改resourceName和mapper变量的值约在代码第10-20行但更推荐使用环境变量因为这样更安全且修改后无需重新粘贴代码。点击 “Save Deploy”。同样在项目设置的 Environment Variables 中配置RESOURCE_NAME和MAPPER。绑定自定义域名 如果你不想使用*.deno.dev的域名可以绑定自己的域名。在项目设置的Domains部分点击 “Add Domain”。输入你的域名例如api-ai.yourdomain.com。Deno Deploy 会给你提供一组 CNAME 记录值例如xxxx.deno.dev。你需要到你的域名注册商或 DNS 管理后台如 Cloudflare, Aliyun DNS为api-ai.yourdomain.com添加一条 CNAME 记录指向 Deno Deploy 提供的值。DNS 生效通常几分钟到几小时后Deno Deploy 会检测到并完成 SSL 证书的自动签发。之后你就可以用https://api-ai.yourdomain.com来访问你的代理了。实操心得对于国内用户如果deno.dev域名访问有波动绑定一个自己备案的域名并通过国内 CDN 进行加速可以显著提升稳定性和访问速度。不过Deno Deploy 的边缘节点本身在全球分布直连性能在大多数情况下已经不错。4. 客户端配置与使用实战代理部署好并拿到访问地址假设为https://my-proxy.deno.dev后下一步就是配置你的 ChatGPT 客户端了。这里以几个最流行的开源项目为例。4.1 配置 ChatGPT-Next-WebChatGPT-Next-Web 可能是目前最流行的自部署 ChatGPT 界面之一。部署或打开你的 ChatGPT-Next-Web 站点。点击左下角的“设置”齿轮图标。找到“接口地址”API Endpoint或“OpenAI API HOST”的配置项。将默认的https://api.openai.com替换为你的代理地址例如https://my-proxy.deno.dev。注意这里只需要填写到域名不需要后面的/v1。因为客户端自己会拼接/v1/chat/completions等路径。在“API Key”处这里需要填写的是你的 Azure OpenAI API 密钥而不是 OpenAI 的密钥。这是整个流程中唯一需要输入 Azure Key 的地方。代理服务本身并不需要你配置这个 Key但客户端发送请求时需要一个 Key这个 Key 会被代理用来向 Azure 发起请求。在代理代码中它从环境变量AZURE_OPENAI_KEY读取这个密钥。因此请务必在 Deno Deploy 的环境变量中再添加一条AZURE_OPENAI_KEY其值为你的 Azure Key。这是很多新手容易遗漏的关键一步“模型”选择在客户端的模型选择下拉框中你应该选择那些已经在代理的MAPPER中配置好的模型名例如gpt-3.5-turbo或gpt-4。当你选择gpt-3.5-turbo并发送请求时客户端会向https://my-proxy.deno.dev/v1/chat/completions发送请求其中包含model: gpt-3.5-turbo。代理收到后会根据MAPPER将其转换为对应的 Azure 部署名如my-gpt35然后使用AZURE_OPENAI_KEY去调用 Azure 接口。4.2 配置 LobeChatLobeChat 是另一个设计精美的开源聊天客户端。在 LobeChat 的 Web 界面中点击左下角的“设置”。进入“语言模型”设置。在 “OpenAI” 或 “Azure OpenAI” 提供商配置中取决于版本你需要Endpoint: 填写你的代理地址如https://my-proxy.deno.dev。API Key: 填写你的 Azure OpenAI API 密钥。模型列表: 通常 LobeChat 会从接口自动拉取模型列表。如果拉取失败或需要自定义你可以在配置中手动添加模型名称填写gpt-3.5-turbo和gpt-4等与你的MAPPER配置保持一致。保存后即可使用。4.3 测试代理是否工作配置完成后如何验证一切正常最直接的方法是使用curl命令或 Postman 进行测试。打开终端执行以下命令请替换[你的代理地址]、[你的Azure Key]和[映射的模型名]curl -X POST [你的代理地址]/v1/chat/completions \ -H Content-Type: application/json \ -H Authorization: Bearer dummy-key \ -d { model: gpt-3.5-turbo, messages: [{role: user, content: Hello, say hi to me.}], stream: true }注意这里的Authorization头在代理逻辑中可能被忽略真正的认证靠的是代理服务内部配置的AZURE_OPENAI_KEY。但为了模拟客户端行为我们还是加上一个 dummy key。如果代理工作正常你应该会收到一个流式响应一堆以data:开头的行。如果看到类似下面的错误则需要排查{error:{message:Invalid resource name}}检查RESOURCE_NAME环境变量是否正确。{error:{message:Deployment not found}}检查MAPPER环境变量中的部署名是否与 Azure 门户中的完全一致。{error:{message:Missing API key}}检查是否在 Deno Deploy 环境变量中正确配置了AZURE_OPENAI_KEY。连接超时或拒绝检查你的代理域名是否能正常访问Deno Deploy 项目是否处于运行状态。5. 高级配置与疑难排错即使按照步骤操作也可能会遇到一些问题。这里汇总了一些常见的情况和进阶配置技巧。5.1 环境变量配置的常见陷阱环境变量是配置的核心也是最容易出错的地方。问题现象可能原因解决方案部署成功但调用返回404或Invalid resourceRESOURCE_NAME填写错误仔细检查 Azure 门户中“概览”页的“资源名称”确保没有多余空格或拼写错误。调用返回Deployment not found1.MAPPERJSON 格式错误2. 部署名拼写错误3. 部署未成功完成1. 使用在线 JSON 校验工具检查MAPPER字符串。2. 核对 Azure OpenAI Studio 中部署的“名称”区分大小写。3. 在 Azure 门户确认部署状态为“成功”。调用返回Missing API key或4011. 未配置AZURE_OPENAI_KEY2. Key 已失效或错误1. 在 Deno Deploy 环境变量中添加AZURE_OPENAI_KEY。2. 去 Azure 门户“密钥与终结点”页面重新复制一个有效的密钥。流式响应不工作一次性返回客户端或代理的流式处理逻辑问题确保客户端请求中设置了stream: true。代理代码已支持流式此问题较少见。自定义域名访问失败DNS 未生效或 CNAME 记录错误使用dig或nslookup命令检查你的域名是否已正确解析到 Deno Deploy 提供的 CNAME。等待 DNS 完全生效。实操心得在 Deno Deploy 中修改环境变量后项目会自动重新部署。你可以通过查看项目的 “Deployments” 日志来确认新的部署是否成功以及是否有运行时报错。日志是排查问题最有力的工具。5.2 支持更多模型与 API 版本项目默认可能使用一个较新的 Azure OpenAI API 版本。但有时你可能需要兼容旧客户端或使用特定功能。自定义 API 版本 Azure OpenAI 的 API 版本迭代较快。你可以在 Deno Deploy 环境变量中增加API_VERSION来指定。例如设置API_VERSION2023-05-15。可用的版本号需要查阅 Azure OpenAI API 参考文档 。扩展 MAPPER 支持更多模型 除了gpt-3.5-turbo和gpt-4你可能还想使用gpt-4-turbo、gpt-4o或嵌入模型text-embedding-ada-002。只需在 Azure 上创建对应的模型部署然后将映射关系添加到MAPPER环境变量中即可。例如{ gpt-3.5-turbo: my-gpt35, gpt-4: my-gpt4, gpt-4-turbo: my-gpt4t, gpt-4o: my-gpt4o, text-embedding-ada-002: my-embedding }注意嵌入模型Embeddings的接口路径是/v1/embeddings代理代码也需要支持。当前项目版本已支持此接口。5.3 安全性考量与最佳实践将 API 密钥放在客户端如浏览器中配置始终存在泄露风险。虽然代理模式已经比直接暴露 Azure 终结点和密钥给客户端要好一些因为客户端只知道代理地址不知道真实的 Azure 资源名但AZURE_OPENAI_KEY仍然配置在代理服务端。密钥管理 务必使用 Deno Deploy 的环境变量来管理AZURE_OPENAI_KEY绝对不要将其硬编码在客户端或代理的公开代码中。定期轮换更新你的 Azure 密钥是一个好习惯。访问限制可选 当前的代理是公开可访问的。如果你希望限制只有自己的客户端能调用可以考虑以下进阶方案客户端 IP 白名单 修改代理代码在 Deno 中读取请求的 IP (req.headers.get(cf-connecting-ip)或Deno.env.get(DENO_REGION))并与预设的白名单比对。但 Deno Deploy 作为边缘函数获取真实客户端 IP 可能不准且你的客户端 IP 可能动态变化。简单令牌验证 在代理代码中增加一个自定义的请求头验证。例如要求客户端在请求中携带一个特定的X-Auth-Token头代理端验证这个令牌是否匹配。你需要在客户端配置中额外添加这个请求头。这增加了复杂度但提升了安全性。使用 Cloudflare 等网关 将你的自定义域名放在 Cloudflare 后面利用 Cloudflare 的防火墙规则、WAF 或 Access 服务来限制访问源。对于个人和小团队使用依靠环境变量管理和定期轮换密钥已经提供了基本的安全保障。将代理服务视为一个需要保护的小型后端服务即可。5.4 性能监控与成本控制Deno Deploy 免费套餐的 10 万次请求/天额度非常充裕但了解其计费方式仍有必要。请求数 每次客户端向代理发起的一次对话请求算一次请求。流式响应中虽然数据分块返回但仍然只算一次请求。出站流量 免费套餐包含每月 100 GiB 的出站流量。对于文本对话消耗的流量微乎其微。但如果你通过代理调用 DALL-E 图像生成 API 并返回大量图片数据则需要留意流量使用。执行时长 免费套餐有每日总执行时长的限制。对于简单的代理转发逻辑几乎不可能用完。你可以在 Deno Deploy 仪表盘的 “Usage” 页面查看这些资源的使用情况。如果用量接近限制系统会发出警告。我个人在几个月的中度使用每天数十次对话中请求数和流量消耗都远远低于免费限额。对于绝大多数个人项目和学习用途完全可以放心使用。