【使用ChatGPT的API之前】OpenAI API提供的可用模型

在使用GPT-4和ChatGPT的API集成到Python应用程序之前，我们先了解ChatGPT的基本概念，与OpenAI API提供的可用模型。

 

一. ChatGPT基本概念

提示词(prompt)不仅适用于OpenAI API，而且是所有LLM的入口点。

简单地说，提示词就是用户发送给模型的输入文本，用于指导模型执行特定任务。对于GPT-4和ChatGPT背后的模型，提示词具有聊天格式，输入消息和输出消息存储在列表中。

 

标记(token)是词或词的一部分。

据粗略估计，100个标记大约相当于75个英语单词。对OpenAI模型的请求是根据所使用的标记数量来定价的，也就是说，调用API的成本取决于输入文本和输出文本的长度。

 

二. OpenAI API提供的可用模型

OpenAI提供了多个专为不同任务设计的模型，每个模型都有自己的功能和定价。

通过OpenAI API，你可以使用OpenAI开发的多个模型。这些模型可通过API作为服务使用，这意味着OpenAI在远程服务器上运行模型，开发人员只需向其发送查询请求即可。

需要注意的是，这些模型是专有的，你不能根据自己的需求直接修改模型的代码。但是正如后文所述，你可以通过OpenAI API在特定数据上微调其中的一些模型。

 

1. InstructGPT

这个模型系列可以处理许多单轮文本补全任务。

• text-ada-001模型只能处理简单的文本补全任务，但它也是GPT-3系列中速度最快、价格最便宜的模型。
• text-babbage-001模型和text-curie-001模型稍微强大一些，但也更昂贵。
• text-davinci-003模型可以出色地执行所有文本补全任务，但它也是GPT-3系列中最昂贵的。

 

2. ChatGPT

ChatGPT背后的模型是gpt-3.5-turbo，其聊天格式旨在进行多轮对话。

当然它也可用于没有对话的单轮任务。

• 在单轮任务中，gpt-3.5-turbo的性能与text-davinci-003相当。由于gpt-3.5-turbo的价格只有text-davinci-003的十分之一，而且两者性能相当，因此建议默认使用它来进行单轮任务。
• gpt-3.5-turbo模型的上下文窗口大小约为4000个标记，这意味着它可以接收约4000个标记作为输入。

OpenAI还提供了另一个模型，名为gpt-3.5-turbo-16k。它具有与标准的gpt-3.5-turbo模型相同的功能，但上下文窗口大小是后者的4倍。

 

3. GPT-4

这是迄今为止OpenAI发布的最大的模型。由于在广泛的文本和图像多模态语料库上进行了训练，因此它精通许多领域。GPT-4能够准确地遵循复杂的自然语言指令并解决难题。它可用于聊天任务和单轮任务，并具有相当高的准确性。

OpenAI提供了两个GPT-4模型：

• gpt-4的上下文窗口大小为8192个标记，
• gpt-4-32k的上下文窗口大小为32768个标记。32768个标记大约相当于24576个英语单词，即大约40页的上下文。

开发人员通常希望LLM版本具有良好的稳定性和可见性，希望针对相同的输入给出相同的回答。为此，OpenAI提供了这些模型的静态快照版本。在我们撰写本书之时，上述模型最新的静态快照版本分别是gpt-3.5-turbo-0613、gpt-3.5-turbo-16k-0613、gpt-4-0613和gpt-4-32k-0613。

OpenAI已宣布在2024年提供GPT-3.5 Turbo和GPT-4的微调功能。

 

三. 在OpenAI Playground中使用GPT模型-ing