參考標準 gpt4
作為目前公開的天花板,gpt4的價格可以作為一個參考
- 1000token應該是英文,輸入token 0.03刀,也就是10K 一萬token=0.3刀=2塊多一點。
- 輸出的token 價格翻倍,也就是一萬token=0.6刀,4.5元,這個成本可以說相當高了。
次級別的gpt3.5, 價格一般要便宜15倍,一個數量級,可以說非常的夸張。1萬token 2毛錢。不算便宜,但是相比gpt4要好很多了。
國內的科大訊飛

image.png
可以看到價格是1萬字0.36元/萬tokens。 應該是對標的是gpt3.5,這個和他們自己公開宣稱的和gpt3.5 性能相對應。
gpt3.5 一萬字0.2元,如果算中文的話,10000字中文token 對于gpt3.5 大概也是0.3到0.4元。
另外qps,我們看到非常低,最高的企業(yè)級版本給到10qps,對于c端應用還是遠遠不夠,另外就是latency,這邊沒有給出來,其實latency對線上應用還是很重要的。
百度千帆

image.png
可以看到萬字的成本,一個是ERNIE-Bot-turbo 為0.08元,不到一毛。
ERNIE-Bot 萬字為0.12元,比訊飛便宜不少。目前效果沒有對比過,反正都是號稱國內最牛逼。
Baichuan
https://platform.baichuan-ai.com/price
百川開放了53B的大模型,從技術報告上看,用了知識增強,介入了大模型和外部數據庫。

image.png
中文模型的貌似token和英文是不是不一樣,中文一個token=1.5個漢字,按照baichuan的報告。是tokenizor不同的區(qū)別嗎。
這個要研究一下。