繁中 ▾

GPT 模型 API 定價:按 token 計費與計算範例

GPT 風格聊天 API 的定價取決於輸入與輸出的 token。以下是我們的費率、實際負載的計算方式,以及控制帳單的習慣。

更新

等距機器正在分發發光的 token 立方體,說明按 token 計費的 API 定價

重點摘要

  • 費率:輸入 token 每 1M 為 $0.15,輸出 token 每 1M 為 $0.50。
  • 從預付額度按量付費;無訂閱制,且額度永不過期。
  • 100,000 次請求,每次輸入 1,500 token、輸出 400 token,費用為 $42.50。
  • 失敗或被拒絕的請求不會收費。

帳單的計算方式

如果你正在比較 gpt 模型 API 定價,請從基本單位 token 開始。token 是一段文字,通常是一個短詞或較長詞的一部分。英文的粗略規則是 1,000 個 token 約等於 750 個字,不過程式碼和其他語言每個字對應的 token 數量較多。API 回應會在 usage 欄位告訴你確切的計數,所以你事後不需要猜測。

每次請求會根據兩項計費。輸入 token 包含你發送的所有內容:系統提示詞、對話歷史與新訊息。輸出 token 包含模型寫回的所有內容。輸出 token 的單價高於輸入 token。我們的費率為輸入 token 每 1M 為 $0.15,輸出 token 每 1M 為 $0.50。

計算範例

讓我們計算幾種常見情況。每種情況都遵循相同的公式:token 數除以 1,000,000,再乘以費率。

短問題。 輸入 200 token,輸出 150 token。輸入:200 / 1,000,000 x $0.15 = $0.00003。輸出:150 / 1,000,000 x $0.50 = $0.000075。總計:$0.000105。約 9,500 次此類請求的成本為一美元。

帶有歷史記錄的一次對話輪次。 輸入 3,000 token,輸出 400 token。輸入費用為 $0.00045,輸出費用為 $0.0002,總計 $0.00065。一千次此類請求的成本為 $0.65。

文件處理任務。 輸入 20,000 token(用於摘要的長文本),輸出 1,000 token。輸入費用為 $0.003,輸出費用為 $0.0005,總計 $0.0035。摘要處理 1,000 份此類文件需 $3.50。

完整的上下文視窗。 視窗容量為 100,000 token,包含提示詞與補全內容。一次請求輸入 90,000 token、輸出 10,000 token 的成本為 $0.0135 + $0.005 = $0.0185,低於兩美分。

形狀每次請求每 1,000 次請求
輸入 200,輸出 150$0.000105$0.105
輸入 3,000,輸出 400$0.00065$0.65
輸入 20,000,輸出 1,000$0.0035$3.50
輸入 90,000,輸出 10,000$0.0185$18.50

每月費用估算

專案通常以月為單位規劃,因此需要放大計算。假設一個支援工具每月發送 100,000 次請求,平均每次輸入 1,500 token 與輸出 400 token。

  • 輸入:100,000 x 1,500 = 150,000,000 token,即 150M x $0.15 = $22.50
  • 輸出:100,000 x 400 = 40,000,000 token,即 40M x $0.50 = $20.00
  • 總計:每月 $42.50

一個每月 5,000 次請求的較小應用程式,採用相同架構的成本為 $2.13($42.50 的二十分之一為 $2.125)。一個讓使用者產生長段文字的創意寫作工具可能會顛覆比例:20,000 次請求,輸入 1,000 token 且輸出 2,000 token,會產生 20M 輸入 token($3.00)加上 40M 輸出 token($20.00),總計 $23.00。

注意當回覆很長時輸出佔主導,當歷史很長時輸入佔主導。在嘗試優化之前,請先了解你的應用程式屬於哪一種情況。

成本隨流量線性增長,這使得規劃變得簡單。如果流量翻倍,帳單也翻倍:200,000 次相同形狀的請求成本為 $85.00。如果你透過精簡歷史記錄,將平均輸入從 1,500 token 降至 1,000 token,則每 100,000 次請求的輸入費用將從 $22.50 降至 $15.00,每月節省 $7.50,且不會影響回覆品質。

額度、儲值與贈額

你從預付額度中付費,因此支出上限取決於你儲值的金額。額度永不過期,且無訂閱費。

儲值金額為 $20 至 $500 之間的任意整數,支援加密貨幣(TRC20 上的 USDT、Base 上的 USDC)。較大的儲值額享有贈額:$50 起贈 5%、$100 起贈 10%、$200 起贈 15%。這意味著 $50 將變為 $52.50 的額度,$100 變為 $110,$200 變為 $230。使用前述每月 $42.50 的範例,一次 $50 的儲值足以支付略多於一個月的該負載,在計算贈額後還剩餘 $10。

新用戶可在註冊後一鍵領取 $0.50 試用額度。有效期為 7 天,每人限領一次。請參見 定價頁面 查看當前費率表。

關於規模設定的一個實用注意事項:最低儲值額為 $20,對於每次請求成本為 $0.00065(輸入 3,000 token、輸出 400 token 的對話形狀)的情況,這約可支持 30,769 次請求。對於大多數原型來說,這足以進行數週的測試,因此沒有理由從更高的金額開始。

降低帳單的七種方法

費率雖然很低,但在大量使用時浪費仍會累積。以下是能帶來最大節省效果的變更,大致按效果排序。

  1. 精簡歷史記錄。 保留最後 N 次對話輪次以及早期輪次的簡短摘要。否則,輸入 token 會隨著每次輪次增長。
  2. 縮短系統提示詞。 系統提示詞會在每次請求時重新發送。一個 1,500 token 的提示詞發送 100,000 次將產生 150M 輸入 token,費用為 $22.50。
  3. 設定 max_tokens。 此參數在此為可選,但設定上限可防止回覆無止境生成。
  4. 使用停止序列。 當取得所需內容時,停止序列可終止生成。
  5. 要求輸出精簡。當程式讀取結果時,具有短鍵的 JSON 模式優於散文式輸出。
  6. 自行快取答案。 如果許多用戶詢問相同問題,請儲存回覆以避免重複付費。
  7. 監控餘額。 X-Balance-USD 回應標頭會在每次呼叫時顯示剩餘金額。

上線前的預算檢查清單

在應用程式面向用戶之前,請逐項檢查此清單。

  • 從至少 50 次真實請求中測量平均輸入與輸出 token 數。
  • 計算最壞情況:一個完整的 100,000 token 視窗(輸入 90,000 token、輸出 10,000 token)的成本約為 $0.0185。決定你的應用程式是否允許此成本。
  • 限制用戶輸入長度,以免單份貼上的文件導致成本倍增。
  • 在不需長回覆的端點上設定 max_tokens。
  • 處理 HTTP 429 時,使用等待重試,並在存在時使用 Retry-After 的值。一個完整的金鑰允許 8 個並行請求和每分鐘 300 次請求。
  • 監控餘額。讀取 X-Balance-USD,當餘額超過閾值時通知自己,以便在使用者察覺前進行儲值。

與其他供應商報價比較

我們不會在此引用其他廠商的價格,因為它們會變動且我們無法為其背書。你仍可使用相同的方法進行公平比較,且只需十分鐘。

首先,從各供應商目前的定價頁面收集每 1M token 的輸入費率和輸出費率。其次,取一個真實的提示詞和一個真實的回應,計算它們的 token 數量。第三,使用你的計數為每個供應商執行公式。第四,乘以你每月的請求數量。

注意費率行中未顯示的差異。部分供應商計算 token 的方式不同,因此相同的文字在各服務中可能對應不同的 token 數量。部分服務會為額外上下文等功能收費,且部分服務在實際用量之外還有最低購買額或訂閱費。我們的服務沒有這些:無訂閱費、最低儲值額為 $20、額度永不過期。

最後,比較模型的實際表現,而不僅是成本。一個拒絕你請求的較便宜請求毫無價值,而一個較貴但能回答的請求,在每個有效結果的成本上可能更低。對於成人小說和角色扮演,在決定之前請在各服務上測試你自己的提示詞。

在程式碼中測量實際成本

估算的準確度取決於你的 token 計數,因此請記錄實際數據。此程式碼片段會根據實際用量計算每個回覆的成本。

from openai import OpenAI

client = OpenAI(base_url="https://api.uncensoredgptapi.com/v1", api_key="YOUR_API_KEY")

RATE_IN = 0.15   # per 1M input tokens
RATE_OUT = 0.50  # per 1M output tokens

resp = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Summarize why logging usage matters."}],
    max_tokens=200,
)
u = resp.usage
cost = u.prompt_tokens / 1_000_000 * RATE_IN + u.completion_tokens / 1_000_000 * RATE_OUT
print(u.prompt_tokens, u.completion_tokens, round(cost, 6))

將其運行於一天的實際流量上,計算平均值,然後乘以你的預期用量。該數值優於任何圖表,包括上述的圖表。

價格未包含的內容

價格只是決策的一個輸入。這是一個純文字 API:沒有影像、音訊或影片生成,沒有嵌入和微調。它運行來自獨立供應商的單一開放權重模型,而非來自 OpenAI 或其他供應商的模型,也不是跨供應商的路由器。如果你需要這些功能,你需要其他服務。在比較之前請查看他們目前的定價。

以這個價格你得到的是 OpenAI 相容的端點、串流輸出、函式呼叫、JSON 模式、100,000 token 的上下文視窗,以及一個針對合法成人用途調整過、不會拒絕內容的模型。提示詞不會用於訓練。硬性限制:禁止涉及未成年人的性內容。

首先,前往 API 金鑰頁面取得金鑰,並依照 文件指示,將你的 Base URL 替換掉。

問答

每 100 萬 token 的成本是多少?

每 1M 輸入 token $0.15,每 1M 輸出 token $0.50。你只為你使用的部分付費,從預付額度扣款。

有月費嗎?

沒有。沒有訂閱費。額度永不過期,因此未使用的月份不會產生費用。

錯誤與被拒絕的請求會收費嗎?

不會。失敗或被拒絕的請求不會收費。

最小儲值金額是多少?

$20。你可以儲值 $20 到 $500 之間的任何整數金額,從 $50 起加贈 5%,從 $100 起加贈 10%,從 $200 起加贈 15%。

我可以先測試再付費嗎?

可以。新使用者可以在 API 金鑰頁面點擊一次領取 $0.50 的免費試用額度。有效期為 7 天,每人限領一次。

只差一張表單,即可取得金鑰

建立帳號、複製金鑰、更改基礎 URL。這就是整個設定過程。

取得 API 金鑰