重點摘要
- 費率:輸入 token 每 1M 為 $0.15,輸出 token 每 1M 為 $0.50。
- 從預付額度按量付費;無訂閱制,且額度永不過期。
- 100,000 次請求,每次輸入 1,500 token、輸出 400 token,費用為 $42.50。
- 失敗或被拒絕的請求不會收費。
帳單的計算方式
如果你正在比較 gpt 模型 API 定價,請從基本單位 token 開始。token 是一段文字,通常是一個短詞或較長詞的一部分。英文的粗略規則是 1,000 個 token 約等於 750 個字,不過程式碼和其他語言每個字對應的 token 數量較多。API 回應會在 usage 欄位告訴你確切的計數,所以你事後不需要猜測。
每次請求會根據兩項計費。輸入 token 包含你發送的所有內容:系統提示詞、對話歷史與新訊息。輸出 token 包含模型寫回的所有內容。輸出 token 的單價高於輸入 token。我們的費率為輸入 token 每 1M 為 $0.15,輸出 token 每 1M 為 $0.50。
計算範例
讓我們計算幾種常見情況。每種情況都遵循相同的公式:token 數除以 1,000,000,再乘以費率。
短問題。 輸入 200 token,輸出 150 token。輸入:200 / 1,000,000 x $0.15 = $0.00003。輸出:150 / 1,000,000 x $0.50 = $0.000075。總計:$0.000105。約 9,500 次此類請求的成本為一美元。
帶有歷史記錄的一次對話輪次。 輸入 3,000 token,輸出 400 token。輸入費用為 $0.00045,輸出費用為 $0.0002,總計 $0.00065。一千次此類請求的成本為 $0.65。
文件處理任務。 輸入 20,000 token(用於摘要的長文本),輸出 1,000 token。輸入費用為 $0.003,輸出費用為 $0.0005,總計 $0.0035。摘要處理 1,000 份此類文件需 $3.50。
完整的上下文視窗。 視窗容量為 100,000 token,包含提示詞與補全內容。一次請求輸入 90,000 token、輸出 10,000 token 的成本為 $0.0135 + $0.005 = $0.0185,低於兩美分。
| 形狀 | 每次請求 | 每 1,000 次請求 |
|---|---|---|
| 輸入 200,輸出 150 | $0.000105 | $0.105 |
| 輸入 3,000,輸出 400 | $0.00065 | $0.65 |
| 輸入 20,000,輸出 1,000 | $0.0035 | $3.50 |
| 輸入 90,000,輸出 10,000 | $0.0185 | $18.50 |
每月費用估算
專案通常以月為單位規劃,因此需要放大計算。假設一個支援工具每月發送 100,000 次請求,平均每次輸入 1,500 token 與輸出 400 token。
- 輸入:100,000 x 1,500 = 150,000,000 token,即 150M x $0.15 = $22.50
- 輸出:100,000 x 400 = 40,000,000 token,即 40M x $0.50 = $20.00
- 總計:每月 $42.50
一個每月 5,000 次請求的較小應用程式,採用相同架構的成本為 $2.13($42.50 的二十分之一為 $2.125)。一個讓使用者產生長段文字的創意寫作工具可能會顛覆比例:20,000 次請求,輸入 1,000 token 且輸出 2,000 token,會產生 20M 輸入 token($3.00)加上 40M 輸出 token($20.00),總計 $23.00。
注意當回覆很長時輸出佔主導,當歷史很長時輸入佔主導。在嘗試優化之前,請先了解你的應用程式屬於哪一種情況。
成本隨流量線性增長,這使得規劃變得簡單。如果流量翻倍,帳單也翻倍:200,000 次相同形狀的請求成本為 $85.00。如果你透過精簡歷史記錄,將平均輸入從 1,500 token 降至 1,000 token,則每 100,000 次請求的輸入費用將從 $22.50 降至 $15.00,每月節省 $7.50,且不會影響回覆品質。
額度、儲值與贈額
你從預付額度中付費,因此支出上限取決於你儲值的金額。額度永不過期,且無訂閱費。
儲值金額為 $20 至 $500 之間的任意整數,支援加密貨幣(TRC20 上的 USDT、Base 上的 USDC)。較大的儲值額享有贈額:$50 起贈 5%、$100 起贈 10%、$200 起贈 15%。這意味著 $50 將變為 $52.50 的額度,$100 變為 $110,$200 變為 $230。使用前述每月 $42.50 的範例,一次 $50 的儲值足以支付略多於一個月的該負載,在計算贈額後還剩餘 $10。
新用戶可在註冊後一鍵領取 $0.50 試用額度。有效期為 7 天,每人限領一次。請參見 定價頁面 查看當前費率表。
關於規模設定的一個實用注意事項:最低儲值額為 $20,對於每次請求成本為 $0.00065(輸入 3,000 token、輸出 400 token 的對話形狀)的情況,這約可支持 30,769 次請求。對於大多數原型來說,這足以進行數週的測試,因此沒有理由從更高的金額開始。
降低帳單的七種方法
費率雖然很低,但在大量使用時浪費仍會累積。以下是能帶來最大節省效果的變更,大致按效果排序。
- 精簡歷史記錄。 保留最後 N 次對話輪次以及早期輪次的簡短摘要。否則,輸入 token 會隨著每次輪次增長。
- 縮短系統提示詞。 系統提示詞會在每次請求時重新發送。一個 1,500 token 的提示詞發送 100,000 次將產生 150M 輸入 token,費用為 $22.50。
- 設定 max_tokens。 此參數在此為可選,但設定上限可防止回覆無止境生成。
- 使用停止序列。 當取得所需內容時,停止序列可終止生成。
- 要求輸出精簡。當程式讀取結果時,具有短鍵的 JSON 模式優於散文式輸出。
- 自行快取答案。 如果許多用戶詢問相同問題,請儲存回覆以避免重複付費。
- 監控餘額。
X-Balance-USD回應標頭會在每次呼叫時顯示剩餘金額。
上線前的預算檢查清單
在應用程式面向用戶之前,請逐項檢查此清單。
- 從至少 50 次真實請求中測量平均輸入與輸出 token 數。
- 計算最壞情況:一個完整的 100,000 token 視窗(輸入 90,000 token、輸出 10,000 token)的成本約為 $0.0185。決定你的應用程式是否允許此成本。
- 限制用戶輸入長度,以免單份貼上的文件導致成本倍增。
- 在不需長回覆的端點上設定
max_tokens。 - 處理 HTTP 429 時,使用等待重試,並在存在時使用
Retry-After的值。一個完整的金鑰允許 8 個並行請求和每分鐘 300 次請求。 - 監控餘額。讀取
X-Balance-USD,當餘額超過閾值時通知自己,以便在使用者察覺前進行儲值。
與其他供應商報價比較
我們不會在此引用其他廠商的價格,因為它們會變動且我們無法為其背書。你仍可使用相同的方法進行公平比較,且只需十分鐘。
首先,從各供應商目前的定價頁面收集每 1M token 的輸入費率和輸出費率。其次,取一個真實的提示詞和一個真實的回應,計算它們的 token 數量。第三,使用你的計數為每個供應商執行公式。第四,乘以你每月的請求數量。
注意費率行中未顯示的差異。部分供應商計算 token 的方式不同,因此相同的文字在各服務中可能對應不同的 token 數量。部分服務會為額外上下文等功能收費,且部分服務在實際用量之外還有最低購買額或訂閱費。我們的服務沒有這些:無訂閱費、最低儲值額為 $20、額度永不過期。
最後,比較模型的實際表現,而不僅是成本。一個拒絕你請求的較便宜請求毫無價值,而一個較貴但能回答的請求,在每個有效結果的成本上可能更低。對於成人小說和角色扮演,在決定之前請在各服務上測試你自己的提示詞。
在程式碼中測量實際成本
估算的準確度取決於你的 token 計數,因此請記錄實際數據。此程式碼片段會根據實際用量計算每個回覆的成本。
from openai import OpenAI
client = OpenAI(base_url="https://api.uncensoredgptapi.com/v1", api_key="YOUR_API_KEY")
RATE_IN = 0.15 # per 1M input tokens
RATE_OUT = 0.50 # per 1M output tokens
resp = client.chat.completions.create(
model="uncensored",
messages=[{"role": "user", "content": "Summarize why logging usage matters."}],
max_tokens=200,
)
u = resp.usage
cost = u.prompt_tokens / 1_000_000 * RATE_IN + u.completion_tokens / 1_000_000 * RATE_OUT
print(u.prompt_tokens, u.completion_tokens, round(cost, 6))將其運行於一天的實際流量上,計算平均值,然後乘以你的預期用量。該數值優於任何圖表,包括上述的圖表。
價格未包含的內容
價格只是決策的一個輸入。這是一個純文字 API:沒有影像、音訊或影片生成,沒有嵌入和微調。它運行來自獨立供應商的單一開放權重模型,而非來自 OpenAI 或其他供應商的模型,也不是跨供應商的路由器。如果你需要這些功能,你需要其他服務。在比較之前請查看他們目前的定價。
以這個價格你得到的是 OpenAI 相容的端點、串流輸出、函式呼叫、JSON 模式、100,000 token 的上下文視窗,以及一個針對合法成人用途調整過、不會拒絕內容的模型。提示詞不會用於訓練。硬性限制:禁止涉及未成年人的性內容。
首先,前往 API 金鑰頁面取得金鑰,並依照 文件指示,將你的 Base URL 替換掉。
