GPT-4 API 接口调用及价格分析

GPT-4 API 接口调用及价格分析

15日凌晨，OpenAI发布了万众期待的GPT-4！新模型支持多模态，具备强大的识图能力，并且推理能力和回答准确性显著提高。在各种专业和学术基准测试上的表现都媲美甚至超过人类。难怪OpenAI CEO Sam Altman称GPT-4“是我们迄今为止功能最强大的模型！”

关于GPT-4的能力，我在发布当天就做了测试，具体结果请阅读《OpenAI 发布GPT-4——全网抢先体验》。

对开发者来说，GPT-4最激动人心的是API接口同步发布。目前需要申请才能访问。我第一时间加入了waitlist，今天获得了访问权限，本文将跟大家分享GPT-4 API接口的使用以及大家关心的价格分析。

GPT-4 API

GPT-4 API的接口和参数跟早前开放的GPT-3.5接口一致，模型名称为:

模型名称	描述	最大token数	训练数据
gpt-4	比 GPT-3.5 模型更强大，能够执行更复杂的任务，并针对聊天场景进行了优化。 会不断迭代更新。	8,192	截至2021年6月
gpt-4-0314	gpt-4的2023年3月14日快照版本。此模型在接下来3个月内不会更新，有效期截止2023年6月14日。	8,192	截至2019年10月
gpt-4-32k	与 gpt-4 功能相同，但上下文长度是gpt-4 的4 倍。会不断迭代更新。	32,768	截至2021年6月
gpt-4-32k-0314	gpt-4-32k的2023年3月14日快照版本。此模型在接下来3个月内不会更新，有效期截止2023年6月14日。	32,768	截至2019年10月

限制

由于还在beta阶段，GPT-4 API的调用有频次限制：

• 40k tokens / 分钟
• 200 请求 / 分钟

这个频次对功能测试和概念验证来说已经足够了。

如果使用ChatGPT Plus体验GPT-4，有4小时100条消息的限制。

价格

GPT-4 API的定价策略与之前模型不同。在GPT-4之前，接口定价按照token数统一收费，不区分是prompt的token还是生成响应的token。而GPT-4将prompt token和生成响应token分开计价，价格如下：

• $0.03美元 / 1K prompt token
• $0.06美元 / 1K 生成响应 token

这个价格相比 gpt-3.5-turbo 的 $0.002 / 1K tokens来说贵了至少15倍起。

由于GPT-4接口价格太贵，且prompt和生成响应分开收费，因此在大规模使用GPT-4 API之前，我们有必要对其价格进行细致的分析。

价格分析

token数评估

GPT+ 系列API最难评估的一点就是token数与单词（字数）的对应关系。因为我们能直观了解到的只有字数或单词数，而token数是tokenized后的标记数，我们无法直接准确的估计。好在接口会返回每次请求promot和生成响应的token数，我们可以通过统计手段大致获得一个token数和字数之间的对应关系。

我从短到长找了8篇文章输入GPT-4 API，为了结果稳定，模型我选择了稳定不更新的gpt-4–0314，然后根据接口返回统计prompt token数，结果如下：

#	字数	token数	百分比
1	1,600	2,133	75.01%
2	2,000	2,667	74.99%
3	47,094	62,792	75.00%
4	90,000	120,000	75.00%
5	445,134	593,512	75.00%
6	783,134	1,044,183	75.00%
7	884,421	1,179,228	75.00%
8	1,084,170	1,445,560	75.00%

通过上面的测试结果，我们可以得到一个重要结论：

大约每750字（单词）消耗1000 token

价格比较

我们首先横向比较一下几个模型的单价

	$0.06	$0.03	$0.002	$0.02	$0.002	$0.0005	$0.0004
	gpt-4(completion)	gpt-4(prompt)	gpt-3.5-turbo	davinci	curie	babbage	ada
gpt-4(completion)	0	1	29	2	29	119	149
gpt-4(prompt)	-0.5	0	14	0.5	14	59	74

从上表可以看到，gpt-4 prompt 比 gpt-3.5-turbo贵了14倍，gpt-4 completion 比 gpt-3.5-turbo贵了29倍！假设prompt和completion的字数为1:4（实际中completion往往比prompt要长），那么gpt-4接口的综合成本是gpt-3.5-turbo的27倍！

下面的表格更加直观地给出了各模型处理相应字数所需的花费：

从上表可见，gpt-3.5-turbo $20美元能处理750万字，而相同金额在gpt-4中只能处理30万字左右。

那么问题来了，是否值得花20多倍的成本去使用gpt-4？换句话说，gpt-4相对gpt-3.5-turbo的能力提升有没有20倍的效用？

GPT-4是否值得？

这个问题的答案很大程度上依赖你的场景。如果是对正确性要求较高的场景（比如法律，教育等），那么GPT-4绝对是比GPT-3.5更好的选择。其他用例和场景我都建议进行深入测试，以确定增加的成本是否会带来比 ChatGPT API 对等的好处。

值得一提的是，gpt-4 模型的最大token数是gpt-3.5-turbo的2倍，对于长文本生成的场景，如果gpt-3.5-turbo最大4,096 token不够用，那么可以选择使用gpt-4。同时GPT-4还提供了32K版本，支持32,768 token，不过价格也更贵。

• $0.06美元 / 1K prompt token
• $0.12美元 / 1K 生成响应 token

总之，ChatGPT API 和 GPT-4 API 之间的选择取决于项目的具体需求和约束。当你站在尖端技术的十字路口时，请认真考虑真正重要的因素：

• 预期的应用
• 期望的准确度
• 道德考量
• 财务影响
• 对未来发展的适应性

最终，你的决定将证明你的远见和拥抱人工智能变革带来的领先优势。