OpenAI官方在2023.06.13發(fā)布了API層面的重磅升級(jí)，主要變化如下：

• 在Chat Completions這個(gè)API里支持了開發(fā)者自定義的函數(shù)調(diào)用。
• 更新了gpt-4和gpt-3.5-turbo模型。
• gpt-3.5-turbo支持的上下文長(zhǎng)度擴(kuò)容到16K，之前只支持4K個(gè)token。
• embedding model的使用成本降低75%。
• gpt-3.5-turbo模型的input token的成本降低25%，從原來(lái)的0.002美金 / 1K token降低為0.0015美金 / 1K token。
• 2023.09.13會(huì)下線gpt-3.5-turbo-0301、gpt-4-0314和gpt-4-32k-0314 模型，過(guò)了這個(gè)時(shí)間點(diǎn)調(diào)用這些模型會(huì)請(qǐng)求失敗。

上面提到的這些模型都嚴(yán)格遵循2023.03.01發(fā)布的隱私和安全規(guī)定，用戶通過(guò)API發(fā)送的數(shù)據(jù)和API返回的數(shù)據(jù)不會(huì)用于OpenAI大模型的訓(xùn)練。

函數(shù)調(diào)用示例

場(chǎng)景：我們希望ChatGPT告訴現(xiàn)在Boston的天氣狀況。

如果只靠ChatGPT是無(wú)法實(shí)現(xiàn)這個(gè)功能的，因?yàn)镃hatGPT的訓(xùn)練數(shù)據(jù)只截止到2021年9月，無(wú)法知道現(xiàn)在的天氣。這也是GPT目前最大的一個(gè)問(wèn)題，不能很好地支持信息的及時(shí)更新。

那應(yīng)該怎么使用ChatGPT來(lái)實(shí)現(xiàn)這個(gè)功能呢？

我們可以自己定義一個(gè)函數(shù)來(lái)獲取當(dāng)天某個(gè)城市的天氣狀況，ChatGPT只需要根據(jù)用戶的提問(wèn)生成我們自定義的函數(shù)的參數(shù)值(也叫實(shí)參)，那我們就可以調(diào)用自定義函數(shù)拿到我們想要的結(jié)果，然后把自定義函數(shù)生成的結(jié)果和對(duì)話記錄作為Prompt送給ChatGPT，由ChatGPT做一個(gè)匯總，最后把匯總的結(jié)論返回給用戶即可。

用戶提問(wèn) -> ChatGPT生成函數(shù)的實(shí)參 -> 開發(fā)者調(diào)用自定義函數(shù) -> 把函數(shù)執(zhí)行結(jié)果+上下文對(duì)話記錄發(fā)送給ChatGPT做匯總 -> 返回匯總結(jié)論給用戶

下面我們來(lái)看一個(gè)具體的實(shí)現(xiàn)案例：

• 第一步：提問(wèn)What"s the weather like in Boston right now?

curl https://api.openai.com/v1/chat/completions -u :$OPENAI_API_KEY -H "Content-Type: application/json" -d "{   "model": "gpt-3.5-turbo-0613",   "messages": [     {"role": "user", "content": "What is the weather like in Boston?"}   ],   "functions": [     {       "name": "get_current_weather",       "description": "Get the current weather in a given location",       "parameters": {         "type": "object",         "properties": {           "location": {             "type": "string",             "description": "The city and state, e.g. San Francisco, CA"           },           "unit": {             "type": "string",             "enum": ["celsius", "fahrenheit"]           }         },         "required": ["location"]       }     }   ] }" 

拿到ChatGPT返回的結(jié)果，返回結(jié)果里content為null，function_call有值，表示需要調(diào)用自定義函數(shù)get_current_weather，并且返回了自定義函數(shù)的參數(shù)值。

{   "id": "chatcmpl-123",   ...   "choices": [{     "index": 0,     "message": {       "role": "assistant",       "content": null,       "function_call": {         "name": "get_current_weather",         "arguments": "{ \"location\": \"Boston, MA\"}"       }     },     "finish_reason": "function_call"   }] } 

• 第二步：調(diào)用自定義函數(shù)。

curl https://weatherapi.com/... 

拿到自定義函數(shù)返回結(jié)果

{ "temperature": 22, "unit": "celsius", "description": "Sunny" } 

• 第三步：把自定義函數(shù)執(zhí)行結(jié)果和上下文對(duì)話記錄發(fā)送給ChatGPT做匯總。

curl https://api.openai.com/v1/chat/completions -u :$OPENAI_API_KEY -H "Content-Type: application/json" -d "{   "model": "gpt-3.5-turbo-0613",   "messages": [     {"role": "user", "content": "What is the weather like in Boston?"},     {"role": "assistant", "content": null, "function_call": {"name": "get_current_weather", "arguments": "{ \"location\": \"Boston, MA\"}"}},     {"role": "function", "name": "get_current_weather", "content": "{\"temperature\": "22", \"unit\": \"celsius\", \"description\": \"Sunny\"}"}   ],   "functions": [     {       "name": "get_current_weather",       "description": "Get the current weather in a given location",       "parameters": {         "type": "object",         "properties": {           "location": {             "type": "string",             "description": "The city and state, e.g. San Francisco, CA"           },           "unit": {             "type": "string",             "enum": ["celsius", "fahrenheit"]           }         },         "required": ["location"]       }     }   ] }" 

最后ChatGPT返回如下結(jié)果：

{   "id": "chatcmpl-123",   ...   "choices": [{     "index": 0,     "message": {       "role": "assistant",       "content": "The weather in Boston is currently sunny with a temperature of 22 degrees Celsius.",     },     "finish_reason": "stop"   }] } 

我們輸出結(jié)果：

The weather in Boston is currently sunny with a temperature of 22 degrees Celsius. 

以上功能實(shí)現(xiàn)的核心要素是ChatGPT可以智能地根據(jù)用戶的輸入來(lái)判斷什么時(shí)候應(yīng)該要調(diào)用開發(fā)者的自定義函數(shù)，并且把自定義函數(shù)的參數(shù)值給返回。開發(fā)者就可以直接自己去調(diào)用自定義函數(shù)拿到想要的結(jié)果，最后再把對(duì)話記錄和自定義函數(shù)執(zhí)行結(jié)果發(fā)送給大模型去做匯總。

目前這個(gè)功能可以在 gpt-4-0613 和 gpt-3.5-turbo-0613這2個(gè)模型里使用。

等OpenAI在2023.06.27完成模型升級(jí)后，gpt-4、gpt-4-32k和gpt-3.5-turbo模型也可以使用這個(gè)功能。

新API的使用詳情可以參考：developer documentation。

新模型

GPT-4模型

gpt-4-0613 相對(duì)于gpt-4，新增了函數(shù)調(diào)用的支持。

gpt-4-32k-0613 相對(duì)于gpt-4-32k，同樣是新增了函數(shù)調(diào)用的支持。

在接下來(lái)的幾周里，OpenAI會(huì)把GPT-4 API waiting list上的申請(qǐng)都盡量審批通過(guò)，讓開發(fā)者可以享用到GPT-4的強(qiáng)大能力。還沒申請(qǐng)的趕緊去申請(qǐng)吧。

GPT-3.5 Turbo模型

gpt-3.5-turbo-0613 相對(duì)于gpt-3.5-turbo，新增了函數(shù)調(diào)用的支持。

gpt-3.5-turbo-16k 支持的上下文長(zhǎng)度擴(kuò)容到了16K，是gpt-3.5-turbo的4倍，費(fèi)用是gpt-3.5-turbo的2倍。具體費(fèi)用是每1K input token需要0.003美金， 每1K output token需要0.004美金。

舊模型下線時(shí)間

從2023.06.13開始，OpenAI會(huì)開始升級(jí)生產(chǎn)環(huán)境的gpt-4、gpt-4-32k和gpt-3.5-turbo模型到最新版本，預(yù)計(jì)2023.06.27開始就可以使用到升級(jí)后的模型了。

如果開發(fā)者不想升級(jí)，可以繼續(xù)使用舊版本的模型，不過(guò)需要在model參數(shù)里指定用 gpt-3.5-turbo-0301，gpt-4-0314 或 gpt-4-32k-0314 。

這些舊版本的模型在2023.09.13會(huì)下線，后續(xù)繼續(xù)調(diào)用會(huì)請(qǐng)求失敗。

更低價(jià)格

Embedding模型

text-embedding-ada-002目前是OpenAI所有embedding模型里最受歡迎的。

現(xiàn)在使用這個(gè)embedding模型的成本降低為0.0001美金/1K token，成本下降75%。

GPT-3.5 Turbo模型

gpt-3.5-turbo 模型在收費(fèi)的時(shí)候，既對(duì)用戶發(fā)送的問(wèn)題(input token)收費(fèi)，也對(duì)API返回的結(jié)果(output token)收費(fèi)。

現(xiàn)在該模型的input token成本降低25%，每1K input token的費(fèi)用為0.0015美金。

output token的費(fèi)用保持不變，還是0.002美金/1K token。

gpt-3.5-turbo-16k 模型的input token收費(fèi)是0.003美金/1K token，output token收費(fèi)是0.004美金/1K token。

本文鏈接：http://m.51huadong.com/cloundnews/11008712.html