本文主要解析了OpenAI平臺(tái)在使用GPT-3時(shí)可能遇到的問(wèn)題:達(dá)到API的請(qǐng)求速率限制。文章從以下四個(gè)方面進(jìn)行詳細(xì)闡述:出現(xiàn)限制的原因、API的限制、解決限制的方法、平臺(tái)提供的付款方式。最后,本文總結(jié)了本文的主要內(nèi)容,并探討了OpenAI在人工智能領(lǐng)域的未來(lái)方向。
1、出現(xiàn)限制的原因
OpenAI平臺(tái)通過(guò)對(duì)GPT-3 API的請(qǐng)求速率進(jìn)行限制,以保障平臺(tái)上其他用戶的使用體驗(yàn)。如果一個(gè)組織在一分鐘內(nèi)請(qǐng)求API的次數(shù)超過(guò)限制次數(shù),那么該組織的API使用將被暫停。
一般來(lái)說(shuō),API在和OpenAI的服務(wù)器通信時(shí),需要進(jìn)行多個(gè)HTTP請(qǐng)求,如:用access keys進(jìn)行身份校驗(yàn),發(fā)送數(shù)據(jù)到服務(wù)器,從服務(wù)器接收響應(yīng)等??赡苷?qǐng)求的速率過(guò)高,或者請(qǐng)求太多,以至于服務(wù)器無(wú)法處理這些請(qǐng)求,進(jìn)而導(dǎo)致出現(xiàn)請(qǐng)求速率限制。
另一個(gè)可能導(dǎo)致請(qǐng)求速率限制的原因是,用戶可能會(huì)通過(guò)程序測(cè)試API的性能,并且不斷地請(qǐng)求API。如果請(qǐng)求速率太高或請(qǐng)求次數(shù)太多,OpenAI系統(tǒng)可能會(huì)將該用戶的API使用速率限制在一定數(shù)量的API呼叫/秒。
2、API的限制
OpenAI對(duì)API的請(qǐng)求速率進(jìn)行限制是為了保護(hù)其他用戶的使用體驗(yàn)。在一個(gè)事先設(shè)定的時(shí)間范圍內(nèi),每個(gè)API Key都只能夠訪問(wèn)API的有限數(shù)量次數(shù),這個(gè)有限次數(shù)被稱為“限制次數(shù)”。
對(duì)于GPT-3 API,每個(gè)API Key每分鐘最多能夠進(jìn)行3次請(qǐng)求,每次調(diào)用API的響應(yīng)時(shí)間最少為20秒。如果用戶在一分鐘內(nèi)超過(guò)了請(qǐng)求限制,則該組織的API使用將被暫停,直至下一分鐘開始,該組織的API使用速率重新開始。用戶可以通過(guò)添加付款方式來(lái)增加API的請(qǐng)求速率限制。
3、解決限制的方法
在OpenAI平臺(tái)上使用GPT-3的過(guò)程中,如果出現(xiàn)請(qǐng)求速率限制,可以采用以下解決方法:
第一種解決方式是等待。OpenAI系統(tǒng)的限制時(shí)間是一分鐘,在該時(shí)長(zhǎng)內(nèi),用戶只能夠使用3次GPT-3 API。如果出現(xiàn)請(qǐng)求速率限制,用戶需要等待一分鐘后,才能夠使用API。
第二種解決方式是添加付款方式。通過(guò)平臺(tái)提供的付款方式,用戶可以增加API的請(qǐng)求速率限制。具體實(shí)現(xiàn)的步驟如下:
第一步,登錄OpenAI平臺(tái)賬戶,并點(diǎn)擊頂部導(dǎo)航欄中的“Billing”。
第二步,按照提示添加付款方式以充值賬戶。
第三步,注冊(cè)并創(chuàng)建組織。在組織創(chuàng)建后,用戶將能夠?yàn)槠溆脩艚M添加API keys。
第四步,創(chuàng)建API keys。創(chuàng)建完成后,用戶可以使用微調(diào)后的API keys,以滿足自己預(yù)期的API調(diào)用速率。
4、平臺(tái)提供的付款方式
OpenAI平臺(tái)為用戶提供了以下兩種付款方式:
第一種付款方式是通過(guò)信用卡進(jìn)行支付。支持絕大多數(shù)的國(guó)際信用卡。此外,OpenAI平臺(tái)支持Visa、Mastercard和American Express等的信用卡。
第二種付款方式是通過(guò)電匯和ACH支付。電匯適用于美國(guó)境內(nèi)和國(guó)外的用戶。ACH適用于美國(guó)境內(nèi)的用戶。實(shí)際的付款操作取決于用戶所選的付款方式。在添加付款方式后,用戶可以再次調(diào)整API的請(qǐng)求速率限制。
總結(jié):
OpenAI平臺(tái)在使用GPT-3 API時(shí),用戶可能會(huì)遭遇到API請(qǐng)求速率限制的問(wèn)題。出現(xiàn)限制的原因可以是請(qǐng)求速率太高,或請(qǐng)求次數(shù)太多,服務(wù)器無(wú)法處理的情況。對(duì)于GPT-3 API,每個(gè)API Key每分鐘最多能夠進(jìn)行3次請(qǐng)求,每次調(diào)用API的響應(yīng)時(shí)間最少為20秒。如果超過(guò)此限制,則API的使用將被關(guān)閉。用戶可以通過(guò)添加付款方式來(lái)增加API的請(qǐng)求速率限制。OpenAI平臺(tái)提供了信用卡和電匯兩種付款方式。
與此同時(shí),OpenAI平臺(tái)也一直在推進(jìn)著人工智能技術(shù)的發(fā)展。未來(lái)幾年,OpenAI將會(huì)努力提高人工智能技術(shù)的應(yīng)用能力,使之成為未來(lái)商業(yè)和科學(xué)界的主要工具。