文章目录
- 一. ChatGPT基本概念
- 二. OpenAI API提供的可用模型
- 1. InstructGPT
- 2. ChatGPT
- 3. GPT-4
- 三. 在OpenAI Playground中使用GPT模型-ing
在使用GPT-4和ChatGPT的API集成到Python应用程序之前,我们先了解ChatGPT的基本概念,与OpenAI API提供的可用模型。
一. ChatGPT基本概念
提示词(prompt)
不仅适用于OpenAI API,而且是所有LLM的入口点
。
简单地说,提示词就是用户发送给模型的输入文本,用于
指导
模型执行特定任务。对于GPT-4和ChatGPT背后的模型,提示词具有聊天格式,输入消息和输出消息存储在列表中。
标记(token)是词或词的一部分
。
据粗略估计,100个标记大约相当于75个英语单词。对OpenAI模型的请求是根据所使用的
标记数量来定价的
,也就是说,调用API的成本取决于输入文本和输出文本的长度。
二. OpenAI API提供的可用模型
OpenAI提供了多个专为不同任务设计的模型
,每个模型都有自己的功能和定价。
通过OpenAI API,你可以使用OpenAI开发的多个模型。这些模型可通过API作为服务使用,这意味着OpenAI在远程服务器上运行模型,开发人员只需向其发送查询请求即可。
需要注意的是,这些模型是专有的,你不能根据自己的需求直接修改模型的代码。但是正如后文所述,你可以通过OpenAI API在特定数据上微调其中的一些模型。
1. InstructGPT
这个模型系列可以处理许多单轮
文本补全任务。
- text-ada-001模型只能处理简单的文本补全任务,但它也是GPT-3系列中速度最快、价格最便宜的模型。
- text-babbage-001模型和text-curie-001模型稍微强大一些,但也更昂贵。
- text-davinci-003模型可以出色地执行所有文本补全任务,但它也是GPT-3系列中最昂贵的。
2. ChatGPT
ChatGPT背后的模型是gpt-3.5-turbo,其聊天格式旨在进行多轮对话。
当然它也可用于没有对话的单轮任务。
- 在单轮任务中,gpt-3.5-turbo的性能与text-davinci-003相当。由于gpt-3.5-turbo的价格只有text-davinci-003的
十分之一
,而且两者性能相当,因此建议默认使用它来进行单轮任务。- gpt-3.5-turbo模型的上下文窗口大小约为
4000个标记
,这意味着它可以接收约4000个标记作为输入。
OpenAI还提供了另一个模型,名为gpt-3.5-turbo-16k。它具有与标准的gpt-3.5-turbo模型相同的功能,但上下文窗口大小是后者的4倍。
3. GPT-4
这是迄今为止OpenAI发布的最大的模型。由于在广泛的文本和图像多模态语料库上进行了训练,因此它精通许多领域。GPT-4能够准确地遵循复杂的自然语言指令并解决难题。它可用于聊天任务和单轮任务,并具有相当高的准确性。
OpenAI提供了两个GPT-4模型:
- gpt-4的上下文窗口大小为8192个标记,
- gpt-4-32k的上下文窗口大小为32768个标记。32768个标记大约相当于24576个英语单词,即大约40页的上下文。
开发人员通常希望LLM版本具有良好的稳定性和可见性,希望针对相同的输入给出相同的回答。为此,OpenAI提供了这些模型的静态快照版本。在我们撰写本书之时,上述模型最新的静态快照版本分别是gpt-3.5-turbo-0613、gpt-3.5-turbo-16k-0613、gpt-4-0613和gpt-4-32k-0613。
OpenAI已宣布在2024年提供GPT-3.5 Turbo和GPT-4的微调功能。