使用Deno部署Gemini代理：实现OpenAI兼容与国内直连

1. 项目概述一个为AI开发者准备的“直连”工具如果你正在折腾各种AI编程助手比如Cursor、Cline或者喜欢用ChatBox、Cherry Studio这类客户端那你大概率遇到过同一个头疼的问题想用Google的Gemini模型但网络环境不允许API调用总是失败。更别提那些需要稳定、长上下文比如100万tokens的场景了直接访问的延迟和不确定性让人抓狂。我最近在折腾一个开源项目时就遇到了这个瓶颈。我需要一个能稳定、高速访问Gemini API的代理方案它最好能兼容OpenAI的接口格式这样我现有的工具链几乎不用改动就能无缝切换。经过一番搜寻和测试我锁定了trueai-org/gemini这个项目。它的核心价值非常明确使用Deno部署一个免费的代理服务将Gemini API包装成兼容OpenAI的格式实现国内直连让你在任何网络环境下都能稳定使用Gemini尤其是其强大的100万上下文模型。这听起来像是一个“梯子”但它本质上是一个协议转换与请求转发的中介服务。你不再需要关心复杂的网络配置只需要一个能访问的服务器甚至可以是免费的Deno Deploy云服务部署好这个代理你的AI客户端就能像调用OpenAI一样调用Gemini了。这对于开发者、研究者或者任何希望将Gemini集成到自己工作流中的人来说是一个极具实用性的解决方案。接下来我会详细拆解它的工作原理、两种部署方式本地与云的详细步骤以及我在实操中踩过的坑和总结的经验。2. 核心原理与方案选型解析在动手部署之前理解这个项目是如何工作的以及为什么选择Deno作为实现平台能帮你更好地使用它并在出问题时快速定位。2.1 核心工作流程从客户端到Gemini的旅程这个代理服务扮演了一个“翻译官”和“信使”的角色。整个数据流可以清晰地分为以下几步客户端发起请求你的AI编程助手如Cursor或聊天客户端如ChatBox按照OpenAI API的格式包括URL路径、请求头、JSON数据结构向你的代理服务器地址发送一个请求。代理接收并转换运行在Deno上的代理服务接收到这个请求。它的核心代码会解析这个请求提取出关键信息messages对话历史、model参数虽然Gemini可能不直接对应但代理可以映射或忽略、以及最重要的Authorization头中的Bearer Token这里存放的是你的Gemini API Key。协议适配与转发代理服务将OpenAI格式的请求体重新组装成Google Gemini API所期望的格式。这是一个关键的转换步骤因为两者的API设计有显著差异。例如OpenAI的/v1/chat/completions端点对应Gemini的/v1/models/gemini-pro:generateContent等端点。调用原生Gemini API代理服务使用从请求中提取的Gemini API Key向Google AI Studio的官方API端点https://generativelanguage.googleapis.com发起HTTPS请求。此时代理服务器本身需要能够正常访问Google服务这就是为什么推荐部署在境外服务器。接收响应并回译代理收到Gemini API返回的JSON响应后再将其“翻译”回OpenAI客户端能识别的格式。比如将Gemini的响应内容包装进choices[0].message.content这个结构里。返回结果给客户端最终这个经过格式转换的响应被发回给你的AI客户端。对于客户端来说它感觉自己只是在和另一个OpenAI兼容的API对话完全感知不到后端的Gemini。通过这个流程网络环境的限制被巧妙地转移到了代理服务器这一层。只要你的代理服务器能畅通访问Google而你本地能访问你的代理服务器整个链路就通了。2.2 为什么是Deno技术栈选择的深层考量项目作者选择了Deno而非更常见的Node.js这是一个经过深思熟虑的决定主要优势体现在安全性和部署简易性上默认安全模型Deno默认情况下没有文件、网络或环境变量的访问权限除非显式通过命令行标志如--allow-net开启。这为代理服务这种网络中转应用提供了“最小权限”的安全基础减少了因代码缺陷导致安全问题的风险。在部署脚本中我们看到了--allow-net和--allow-read的权限声明这正是精确控制其能力的体现。内置工具链与单文件执行Deno内置了测试、格式化、依赖管理等工具并且可以直接执行远程或本地的TypeScript/JavaScript文件无需复杂的npm install和node_modules。这使得部署脚本deploy.sh极其简洁几乎就是“下载并运行”一条命令的事降低了部署和维护的心智负担。对云原生部署的友好性Deno Deploy是一个与Deno运行时深度绑定的全球分布式边缘计算平台。部署一个Deno应用到Deno Deploy上异常简单几乎是一键部署并且能获得全球低延迟的访问点。这对于本项目“提供可访问代理”的目标来说是绝配。虽然项目也支持传统服务器部署但Deno Deploy无疑是快速体验和轻量使用的首选。注意选择Deno也意味着你需要适应其生态。虽然它兼容大部分npm包但如果你需要引入项目未包含的特定Node.js原生模块可能会遇到兼容性问题。好在本代理项目的功能相对单纯主要依赖HTTP客户端和标准库Deno的生态完全足够。2.3 与同类方案的对比它解决了什么独特问题市面上存在一些其他的Gemini代理或API包装库但这个项目有其鲜明的特点专注OpenAI兼容性许多库只是提供了Gemini SDK的另一种调用方式。而这个项目的首要目标是完美模拟OpenAI API。这意味着任何支持OpenAI接口的软件都能直接使用迁移成本为零。开箱即用的部署体验提供了从本地到云端的完整部署脚本和指南特别是对Deno Deploy的详细支持让没有服务器运维经验的用户也能在几分钟内搭建起服务。强调“直连”与可用性项目描述明确指向“国内直连”、“不限地区/网络环境”这精准击中了特定用户群体的核心痛点。它不只是一个代码库更是一个完整的、可立即投入使用的解决方案。项目集的协同作者所在的trueai-org还维护了类似思路的Midjourney API代理和Grok代理等项目。这表明其背后是一套成熟的技术方案用于解决“访问国际AI服务”的通用问题可靠性经过多个项目验证。3. 两种部署方式详解与实操指南项目提供了两种主要的部署路径本地/自有服务器部署和Deno Deploy云部署。我将分别详细拆解并附上我实操过程中的每一个细节。3.1 方案一本地或自有服务器部署推荐用于生产这是最稳定、可控性最高的方式。你可以使用海外的VPS如AWS Lightsail、Google Cloud、DigitalOcean的新加坡或美西节点或者任何你能控制的、能访问Google服务的Linux服务器。3.1.1 服务器准备与环境检查首先确保你有一台服务器。这里以最常见的Ubuntu 22.04 LTS为例。系统更新与基础工具通过SSH连接到你的服务器首先更新系统并安装一些必要工具。sudo apt update sudo apt upgrade -y sudo apt install -y curl git wget安装Deno运行时Deno的安装非常简便。使用官方的一键安装脚本。curl -fsSL https://deno.land/install.sh | sh安装完成后脚本会提示你需要将Deno添加到PATH。通常是将类似export DENO_INSTALL/root/.deno和export PATH$DENO_INSTALL/bin:$PATH这样的行添加到你的shell配置文件如~/.bashrc或~/.zshrc中然后执行source ~/.bashrc使其生效。你可以通过运行deno --version来验证安装是否成功。3.1.2 项目部署与启动接下来的步骤和项目README中描述的一致但我会补充更多上下文和注意事项。# 1. 克隆项目仓库 git clone https://github.com/trueai-org/gemini.git cd gemini # 2. 给部署脚本执行权限 chmod x deploy.sh # 3. 运行部署脚本 ./deploy.sh现在让我们深入看看deploy.sh这个脚本到底做了什么。理解它有助于你在出现问题时进行调试。#!/bin/bash # 这是一个典型的部署脚本它主要做了以下几件事 # 1. 检查Deno是否安装。 # 2. 安装项目依赖如果有deno.json或import_map.json。 # 3. 以特定权限启动应用。 # 使用 --allow-net 允许网络访问调用Gemini API必需 # 使用 --allow-read 允许读取本地文件可能用于加载配置或证书 # --watch 参数用于开发环境文件变化时自动重启生产环境可移除 deno run --allow-net --allow-read --watch src/deno_index.ts实操心得在生产环境我建议移除--watch标志并使用一个进程管理工具来保持服务常驻比如systemd或pm2。下面是如何创建一个简单的systemd服务创建服务文件sudo nano /etc/systemd/system/gemini-proxy.service写入以下配置请根据你的实际路径修改[Unit] DescriptionGemini to OpenAI Proxy Service Afternetwork.target [Service] Typesimple Userroot # 建议创建一个专用用户如gemini这里仅为示例 WorkingDirectory/path/to/your/gemini ExecStart/root/.deno/bin/deno run --allow-net --allow-read src/deno_index.ts Restarton-failure RestartSec5s [Install] WantedBymulti-user.target启用并启动服务sudo systemctl daemon-reload sudo systemctl enable gemini-proxy.service sudo systemctl start gemini-proxy.service sudo systemctl status gemini-proxy.service # 检查运行状态查看日志sudo journalctl -u gemini-proxy.service -f这样你的代理服务就会在服务器启动时自动运行并且崩溃后会自动重启非常稳定。3.1.3 配置与访问脚本运行后默认情况下服务会监听在0.0.0.0:8000端口具体端口需查看src/deno_index.ts中的配置常见的是8000或8080。获取Gemini API Key你需要前往 Google AI Studio 免费创建一个API密钥。这是访问Gemini模型的凭证。测试代理服务在服务器本地或另一台能访问该服务器的机器上使用curl测试curl -X POST http://你的服务器IP:端口/v1/chat/completions \ -H Content-Type: application/json \ -H Authorization: Bearer 你的_GEMINI_API_KEY \ -d { model: gpt-3.5-turbo, // 模型名可任意代理会处理映射或使用项目指定的模型名 messages: [{role: user, content: Hello, world!}] }如果返回一个包含AI回复的JSON说明代理服务工作正常。配置AI客户端以Cherry Studio为例在设置中找到“自定义模型”或“添加API服务”的选项。API端点/Base URL填写http://你的服务器IP:端口/v1注意是/v1不是根路径。API密钥填写你从Google AI Studio获取的Gemini API Key。模型名称通常可以填写gemini-pro或gpt-3.5-turbo具体取决于代理代码的映射逻辑可以尝试或查看项目文档。3.2 方案二Deno Deploy云部署最快上手对于想快速体验、没有海外服务器或者需要全球边缘加速的用户Deno Deploy是最佳选择。它是一个免费的托管平台有使用限制但对个人代理通常足够。3.2.1 逐步部署流程获取Gemini API Key同上先去Google AI Studio创建一个Key。Fork项目点击项目GitHub页面的Fork按钮将仓库复制到你自己的GitHub账号下。这一步是必须的因为Deno Deploy需要从你的仓库读取代码。登录Deno Deploy访问 https://dash.deno.com/ 使用GitHub账号登录。创建新项目在控制台点击 “New Project”。关联代码仓库选择 “GitHub” 作为来源。授权后选择你刚刚Fork的gemini仓库。在 “Branch” 处通常选择main或master。在“Entrypoint” 这一项至关重要必须填写src/deno_index.ts。这是Deno Deploy启动应用的入口文件。“Project Name” 会生成一个子域名如my-gemini-proxy.deno.dev。部署点击 “Deploy Project”。Deno Deploy会自动拉取代码、安装依赖并启动应用。整个过程大约几十秒。获取代理地址部署成功后页面会显示你的项目在线地址例如https://my-gemini-proxy.deno.dev。这个地址就是你的代理服务地址。3.2.2 客户端配置与使用现在你有了一个云端代理地址。配置AI客户端时API端点/Base URL填写https://my-gemini-proxy.deno.dev/v1。API密钥依然填写你的Gemini API Key。模型名称同样尝试gemini-pro。重要注意事项Deno Deploy是无服务器Serverless环境。这意味着每次请求可能触发的“冷启动”会有少量延迟通常几百毫秒。对于连续对话影响不大但需要知晓。另外免费套餐有每日请求数和运行时长的限制对于个人重度使用可能需要留意。4. 客户端接入实战与高级配置成功部署代理只是第一步让它完美融入你的工作流才是目的。这里以几个主流客户端为例展示具体的配置方法。4.1 接入ChatBox / Cherry Studio这类通用的ChatGPT桌面客户端通常支持自定义OpenAI兼容API。打开客户端设置找到“模型设置”或“API配置”。添加一个新的模型提供商或自定义接口。关键配置项名称可自定义如“我的Gemini代理”。接口地址填写你的代理地址务必加上/v1例如http://your-server:8000/v1或https://xxx.deno.dev/v1。API Key填入你的Gemini API Key。模型列表有时需要手动填写模型名。你可以尝试gemini-pro(对应Gemini Pro) 或gemini-pro-vision(支持多模态)。更准确的做法是调用代理的GET /v1/models端点如果项目实现了的话来获取支持的模型列表。保存后在新建会话时选择你刚配置的模型提供商和对应模型即可开始与Gemini对话。4.2 接入Cursor / Cline等AI编程助手这些IDE插件通常在其设置中也有类似的配置项。Cursor在设置中搜索“API”或“OpenAI”找到配置自定义API Base URL的地方。将你的代理地址含/v1填入。API Key框内填入Gemini API Key。然后Cursor就会通过你的代理来获取AI代码建议。Cline配置方式类似通常在其配置文件或设置界面中指定OPENAI_API_BASE环境变量或设置项。踩坑记录有些客户端对响应格式要求非常严格。如果遇到连接成功但无法正常对话的情况可能是代理返回的格式与客户端预期有细微差别。此时可以打开客户端的调试模式或查看网络请求日志对比与官方OpenAI响应的差异并考虑在代理代码中进行微调。trueai-org/gemini项目在这方面通常做得很好兼容性较高。4.3 使用环境变量管理API Key安全建议在服务器上硬编码或脚本中明文写入API Key是不安全的。更好的做法是使用环境变量。修改启动方式假设你的代理代码从环境变量GEMINI_API_KEY读取密钥通常项目会支持或你需要稍作修改。那么启动命令应改为GEMINI_API_KEYyour_actual_key_here deno run --allow-net --allow-read --allow-env src/deno_index.ts注意添加了--allow-env权限。在Systemd服务文件中使用环境变量修改之前的.service文件在[Service]部分添加EnvironmentGEMINI_API_KEYyour_actual_key_here或者更好的做法是创建一个环境文件如/etc/gemini-proxy.env并在服务文件中用EnvironmentFile指令引入。在Deno Deploy上设置环境变量在Deno Deploy项目的控制台找到“Settings”或“Environment Variables”选项添加名为GEMINI_API_KEY的变量并填入值。这样代码在云端运行时就能读取到。5. 常见问题排查与性能优化即使按照步骤操作也可能会遇到一些问题。这里整理了一些常见情况及解决方法。5.1 部署与连接问题排查表问题现象可能原因排查步骤与解决方案部署脚本执行失败deno not foundDeno未正确安装或未加入PATH1. 运行which deno检查是否可找到。2. 确认已执行source ~/.bashrc或重启终端。3. 重新运行安装脚本并仔细查看终端的输出提示。服务启动后无法访问连接被拒绝1. 服务未成功监听。2. 防火墙/安全组阻止端口。1. 在服务器上运行 netstat -tlnp客户端测试返回401/403错误API Key错误或未传递。1. 确认在请求头Authorization: Bearer key中正确放置了Gemini API Key。2. 确认Key有效且未过期。可尝试直接用Key调用官方Gemini API验证。3. 检查代理代码是否正确从请求头中提取了Key。客户端测试返回404错误请求路径错误。1. 确认请求的URL路径是否正确。OpenAI格式的聊天接口通常是/v1/chat/completions。2. 确认你的代理地址后是否拼接了/v1。完整地址如http://server:8000/v1/chat/completions。请求超时或响应缓慢1. 代理服务器到Google网络差。2. Deno Deploy冷启动。3. 客户端到代理服务器网络差。1. 在代理服务器上直接curl测试Google API检查延迟。2. 对于Deno Deploy冷启动无法避免但持续有请求会保持实例活跃。3. 考虑将代理部署在离你客户端更近的区域或使用网络优化服务。响应内容格式错误客户端无法解析代理返回的JSON格式与客户端预期不符。1. 使用curl或 Postman 直接请求代理查看原始返回的JSON结构。2. 与OpenAI官方API响应格式对比。差异可能在于choices数组结构、finish_reason字段等。3. 可能需要修改代理代码中的响应转换逻辑。这是一个进阶调试点。5.2 性能与稳定性优化建议选择合适的服务器区域如果自建代理优先选择Google Cloud或网络到Google服务延迟低的机房如新加坡、中国台湾、日本、美西等。启用HTTP/2和Keep-Alive在代理服务器与Gemini API之间以及客户端与代理之间保持长连接可以减少TCP握手和TLS握手的开销。Deno的HTTP客户端默认可能支持确保你的代码或使用的库没有禁用这些特性。实现简单的请求缓存对于某些重复性的、非创造性的提示词可以考虑在代理层添加一个内存缓存如使用Redis短时间内相同的请求直接返回缓存结果大幅降低延迟和API调用次数。注意这需要修改代码且要谨慎处理缓存策略避免返回过时或不合适的响应。监控与日志为代理服务添加简单的访问日志和错误日志记录请求时间、状态码和可能的错误信息。这有助于在出现问题时快速定位。可以将Deno的日志输出重定向到文件并使用logrotate进行管理。考虑负载均衡与高可用如果使用量很大单个代理实例可能成为瓶颈。可以考虑部署多个实例并使用Nginx等做负载均衡。对于Deno Deploy它本身具备一定的扩展能力但免费套餐有并发限制。5.3 安全风险提醒API Key泄露你的代理地址和API Key如果暴露在公网任何人都可以使用你的Gemini额度。务必使用强密码保护你的客户端或考虑在代理层添加一层简单的认证如HTTP Basic Auth但这需要修改代码并配置客户端支持。代理服务器被滥用开放的代理可能被他人用来发送大量请求导致你的API Key额度耗尽或服务器资源耗尽。可以考虑通过防火墙限制只允许你自己的IP地址访问代理服务器的端口。依赖库安全定期关注项目GitHub仓库的更新及时拉取安全补丁。Deno的导入机制虽然直接引用URL但也需要注意依赖的第三方模块是否来自可信源。通过以上详细的拆解你应该能够从零开始成功部署并熟练使用这个Gemini代理项目让它成为你AI工作流中一个稳定可靠的桥梁。这个方案的核心优势在于其简洁和直接用最小的代价解决了网络访问的壁垒让开发者能更专注于应用本身。