一文了解大模型：Token、上下文、计费与选型

一、前言想象你走进一家餐厅菜单上写着按食材重量计费。你点了一碗面但结账时发现面条、汤底、葱花全都算重量而且不同食材单价不同。大模型的 Token 计费本质上就是这么回事。大模型Large Language Model, LLM是经过海量文本训练的 AI 系统能理解和生成人类语言。GPT、Claude、Gemini、DeepSeek 都属于此类。Token则是大模型处理文本的最小单位——不是字不是词而是介于两者之间的一种语言积木。模型读取你的输入、生成回复都是以 Token 为单位来计算和计费的。为什么理解这些概念很重要因为它直接影响三件事成本— 不同模型的 Token 单价差距可达 60 倍以上选型— 上下文窗口大小决定了模型能记住多少内容使用体验— 理解对话本质才能更高效地使用 AI 工具本文将从四个维度展开对话的本质是什么、上下文有什么限制、Token 怎么计费、主流编程模型怎么选。无论你是刚接触 AI 的新手还是正在做技术选型的开发者都能找到需要的答案。二、模型的对话指的是什么2.1 对话的本质和大模型聊天看起来像跟真人对话但底层机制完全不同。每一轮对话的本质是一次单向的请求-响应你发送一段文本Prompt → 模型处理 → 模型返回一段文本Response图片就像发邮件一样模型没有持续思考的状态。它每次都是拿到你的完整输入从头开始理解然后一次性生成回复。这意味着每一轮对话都是一次独立的 API 调用模型本身并不会记住之前聊了什么。2.2 Token 是什么Token 是模型处理文本的基本单位。你可以把它理解为语言积木——模型把文本拆成一块块积木来处理而不是一个字一个字地读。不同语言的切分方式不同英文大致 1 个单词 ≈ 1-2 个 Token。Hello world→[Hello, world] 2 Token中文大致 1 个汉字 ≈ 1.5-2.5 个 Token。你好世界→[你, 好, 世, 界]约 4-8 Token图片关键认知中文消耗的 Token 显著多于英文。同样的语义内容中文输入可能比英文多消耗 50%-100% 的 Token这直接影响使用成本。想亲自体验可以用 OpenAI 的 Tokenizer 可视化工具[1] 试试把中英文分别粘贴进去对比。2.3 对话 vs 会话Session日常使用中你在 Claude 或 GPT 里的一个聊天窗口就是一个会话Session。每发送一条消息就是一轮对话。关键问题在于每一轮对话模型都要重新读取整个会话历史。图片举个例子轮次你发送的内容模型实际处理的 Token第 1 轮帮我写个排序函数你的消息约 20 Token第 2 轮改成降序第 1 轮完整对话 你的新消息约 300 Token第 3 轮加上注释前 2 轮完整对话 你的新消息约 600 Token第 10 轮还有问题吗前 9 轮完整对话 你的新消息可能几千 Token这就是为什么聊得越久花费越高——Token 是累积计费的。每一轮对话的成本都包含了之前所有历史消息的 Token。三、模型的对话上下文限制3.1 什么是上下文窗口Context Window上下文窗口是模型的**工作记忆容量**——它能同时处理的 Token 总量上限。这个上限包含输入和输出的所有 Token。图片打个比方上下文窗口就像一张书桌。桌子越大能同时摊开的资料越多。128K 上下文约等于一本 300 页的书1M 上下文则约等于 7-8 本书。3.2 主流模型上下文对比模型标准上下文扩展上下文备注Claude Opus/Sonnet 4.61M-原生支持无需额外配置2026.3.13 GAGPT-5.4272K1.05M需显式开启扩展窗口GPT-5.2400K-Gemini 3 Pro1M-原生支持长上下文最强DeepSeek V3128K-Kimi K2.5256K-长上下文特长GLM-5200K-MiniMax M2.5200K架构支持 1MQwen 3.5256K1MPlus 版本注Claude 4.6 的 1M 上下文于 2026 年 3 月 13 日正式 GAGeneral Availability公告链接[2]。3.3 上下文满了会怎样当对话 Token 累积接近或超过上下文窗口时模型需要某种策略来处理。以下是常见的 6 种方式处理方式说明适用场景自动截断丢弃最早的消息保留最近的简单聊天场景Auto-compact自动压缩/总结历史对话Claude Code 等开发工具滑动窗口保留最近 N 轮对话丢弃更早的API 调用常见策略摘要压缩将历史对话总结为摘要替换原文长对话场景手动分段用户主动开启新会话手动传递上下文复杂任务、精确控制RAG 检索历史存入向量库按需检索相关内容企业级应用不同产品和 API 采用的策略不同。以开发者常用的Claude Code为例它采用了一套多层递进压缩策略参考 learn-claude-code[3] 项目的解析微压缩Micro Compact— 每一轮自动静默执行将超过 3 轮的旧工具调用结果替换为简短占位符如[Previous: used read_file]不需要调用模型纯规则替换自动压缩Auto Compact— 当 Token 数接近上下文窗口上限时触发Claude Code 在约 92% 时触发由模型对整段对话生成结构化摘要替换掉旧的完整历史手动压缩/compact 命令— 用户主动触发不必等到自动阈值适合在关键节点主动释放空间这套先规则替换、再模型摘要的递进设计在不丢失关键信息的前提下尽可能延长了可用的对话长度。对于 API 开发者来说滑动窗口和摘要压缩是最常用的两种方案可以根据业务场景灵活选择。四、Token 的计费4.1 计费模型解析大模型 API 的计费很直接按 Token 数量收费输入和输出分开计价。输入 TokenInput你发给模型的内容包括系统提示词、历史消息、当前问题输出 TokenOutput模型生成的回复内容为什么输出比输入贵因为输入阶段是并行处理模型一次性读取所有 Token而输出阶段是逐个 Token 生成每一步都需要独立的推理计算。通常输出价格是输入的 3-5 倍。计费单位统一为每百万 Token$/MTok 或 ¥/MTok。4.2 主流编程模型价格对比模型输入 ($/MTok)输出 ($/MTok)上下文特点Claude Opus 4.6$5$251M最强能力全窗口统一价Claude Sonnet 4.6$3$151M平衡之选全窗口统一价GPT-5.4$1.75$14272K / 1.05M272K 加价 2x / 1.5xGLM-5参见官方定价[4]-128K近期涨价 30%Kimi K2.5$0.45$2.20256K缓存命中率高达 90%MiniMax M2.5$0.30$1.201M仅 Claude Opus 的 1/63DeepSeek V3$0.28$0.42128K极致性价比数据来源Anthropic 定价[5]、OpenAI 定价[6]、Gemini 定价[7]、GLM 定价[8]、Kimi K2.5 (OpenRouter)[9]、MiniMax 定价[10]差距有多大用 Claude Opus 处理 100 万 Token 输出需要 换成只要0.42——相差近60 倍。当然能力和价格往往成正比选型要看具体场景。4.3 省钱技巧Prompt Caching提示缓存大部分平台支持缓存重复的输入内容如系统提示词。缓存命中时该部分 Token 可享受最高90% 折扣。如果你的应用有固定的系统提示词这是最直接的省钱方式。Batch API批量接口对于不需要实时返回的任务如批量翻译、数据标注使用 Batch API 可享受50% 折扣。代价是响应时间从秒级变为分钟到小时级。选择合适的模型层级不是所有任务都需要最强的模型简单任务格式转换、摘要、分类→ Haiku / Flash / 小模型复杂任务代码生成、推理、创作→ Opus / Pro / 大模型Auto Router智能路由图片Auto Router 根据任务复杂度自动选择模型层级让简单任务走便宜模型、复杂任务走强模型。Claude Code 社区有一个热门项目 claude-code-router[11]26.4k Star可实现最高80% 成本节省。但 Auto Router 也有明显的缺点需要注意路由误判— 复杂任务可能被分配到弱模型导致质量下降响应一致性差— 同一轮对话中可能切换模型风格/质量不统一额外延迟— 路由决策本身需要时间调试困难— 出了问题不确定是模型的问题还是路由的问题适合场景对成本敏感、能接受偶尔质量波动的个人开发者或非关键业务。4.4 长上下文的额外成本使用大上下文窗口时部分厂商会收取溢价厂商阈值超出后定价Anthropic (Claude 4.6)无阈值全窗口统一价格2026.3.13 起OpenAI (GPT-5.4)272K输入 2x输出 1.5xGoogle (Gemini)200K2xClaude 4.6 取消长上下文加价是一个重要变化。此前使用超长上下文往往意味着额外的成本现在 Claude 的 1M 全窗口统一定价意味着你用 10K Token 和用 900K Token 的单价完全一样。对于需要处理大量代码、长文档的开发者来说这是实实在在的成本优势。五、模型的优劣势对比5.1 如何评估模型选模型不能只看厂商宣传。以下是值得参考的权威评测资源什么是 BenchmarkBenchmark 是标准化的测试集用来量化模型在特定任务上的能力。常见的有SWE-Bench— 软件工程能力评测给模型真实的 GitHub Issue看它能不能修好 BugMMLU— 多学科知识考试覆盖数学、科学、人文等 57 个学科GPQA— 研究生难度的科学推理题推荐的评测站点类型站点说明综合评测Artificial Analysis[12]综合评分、价格、速度、延迟一站式对比综合评测LM Council[13]多维度 Benchmark 对比综合评测LLM Stats[14]排行榜汇总代码能力Vellum[15]代码能力专项评测代码能力SWE-Bench[16]软件工程能力评测官方为什么需要第三方评测厂商的自有评测往往在自己擅长的任务上做文章第三方的统一标准更能反映真实水平。5.2 编程能力对比对于开发者最关心的编程能力以下是 SWE-Bench 榜单的关键数据模型SWE-Bench Verified编程特点Claude Opus 4.680.8%代码质量高Agent 能力强擅长复杂重构MiniMax M2.580.2%性价比极高性能接近顶级但价格仅为 1/60GPT-5.477.2%*生态成熟IDE 插件丰富Computer Use 能力强GLM-577.8%逻辑推理强中文编程场景友好Kimi K2.576.8%多模态能力突出可根据截图生成代码DeepSeek V3.273.0%开源标杆可本地部署数据来源SWE-Bench 排行榜[17]、vals.ai 独立评测[18]。*GPT-5.4 分数来自 vals.ai 独立测试OpenAI 已转向 SWE-Bench Pro 指标57.7%。数字只是一部分。在实际使用中Claude 在长上下文代码理解和Agent 工作流方面表现突出GPT-5.4 的核心升级在Computer Use和工具调用方向编码能力较 5.2 有小幅提升DeepSeek 作为开源模型可以本地部署适合对数据隐私有要求的场景。5.3 如何选型不要问哪个模型最好要问哪个模型最适合我的场景。以下是一些常见场景的选型思路供参考编程场景追求质量 → 例如 Claude Opus 4.6SWE-Bench 80.8%、GPT-5.4生态成熟追求性价比 → 例如 MiniMax M2.5、DeepSeek V3.2需要本地部署 → 例如 DeepSeek V3.2、GLM-5长文本处理处理超大代码库 → 例如 Claude 4.61M 窗口无加价/ Gemini 3 Pro1M 窗口预算有限 → 例如 Kimi K2.5、MiniMax M2.5极致性价比API 调用量大 → 例如 DeepSeek V30.42/ MiniMax M2.51.20固定提示词多 → 开启 Prompt Caching 可再省 90%六、结语没有最好的大模型只有最适合的。选型的思路是三步走先明确场景编程、对话、翻译、图像再看 Benchmark用第三方评测站验证能力最后算成本Token 单价 × 预估用量。AI 领域的竞争正在让模型更强、价格更低。保持关注定期重新评估你的选型——今天的最优选择明天可能就不是了。学习资源推荐如果你想更深入地学习大模型以下是一些非常有价值的学习资源这些资源将帮助你从不同角度学习大模型提升你的实践能力。一、全套AGI大模型学习路线AI大模型时代的学习之旅从基础到前沿掌握人工智能的核心技能​因篇幅有限仅展示部分资料需要点击文章最下方名片即可前往获取二、640套AI大模型报告合集这套包含640份报告的合集涵盖了AI大模型的理论研究、技术实现、行业应用等多个方面。无论您是科研人员、工程师还是对AI大模型感兴趣的爱好者这套报告合集都将为您提供宝贵的信息和启示​因篇幅有限仅展示部分资料需要点击文章最下方名片即可前往获取三、AI大模型经典PDF籍随着人工智能技术的飞速发展AI大模型已经成为了当今科技领域的一大热点。这些大型预训练模型如GPT-3、BERT、XLNet等以其强大的语言理解和生成能力正在改变我们对人工智能的认识。 那以下这些PDF籍就是非常不错的学习资源。因篇幅有限仅展示部分资料需要点击文章最下方名片即可前往获取四、AI大模型商业化落地方案作为普通人入局大模型时代需要持续学习和实践不断提高自己的技能和认知水平同时也需要有责任感和伦理意识为人工智能的健康发展贡献力量。