VI ▾

Giá API mô hình GPT: Chi phí trên mỗi token, ví dụ thực tế

Giá cho API chat kiểu GPT được tính dựa trên token đầu vào và token đầu ra. Dưới đây là mức giá của chúng tôi, các phép tính cho khối lượng công việc thực tế và các thói quen giúp hóa đơn nhỏ hơn.

Cập nhật

Máy isometric đang phân phối các khối token phát sáng, minh họa cho giá API tính trên mỗi token

Điểm chính

  • Mức giá: $0,15 cho mỗi 1 triệu token đầu vào và $0,50 cho mỗi 1 triệu token đầu ra.
  • Trả tiền theo nhu cầu từ tín dụng trả trước; không có gói đăng ký và tín dụng không bao giờ hết hạn.
  • 100.000 yêu cầu với 1.500 token đầu vào và 400 token đầu ra tốn $42,50.
  • Các yêu cầu thất bại hoặc bị từ chối không bị tính phí.

Cách hóa đơn được xây dựng

Nếu bạn đang so sánh giá API của mô hình gpt, hãy bắt đầu với đơn vị: token. Token là một đoạn văn bản, thường là một từ ngắn hoặc một phần của từ dài hơn. Một quy tắc ước tính cho tiếng Anh là 1.000 token tương đương khoảng 750 từ, mặc dù mã nguồn và các ngôn ngữ khác sử dụng nhiều token hơn cho mỗi từ. Phản hồi API cho bạn biết số đếm chính xác trong trường usage, vì vậy bạn không bao giờ phải đoán sau đó.

Mỗi yêu cầu được tính phí dựa trên hai số liệu. Token đầu vào là mọi thứ bạn gửi: prompt hệ thống, lịch sử hội thoại và tin nhắn mới. Token đầu ra là mọi thứ mô hình viết lại. Đầu ra tốn nhiều tiền hơn trên mỗi token so với đầu vào. Mức giá của chúng tôi là $0,15 cho mỗi 1 triệu token đầu vào và $0,50 cho mỗi 1 triệu token đầu ra.

Ví dụ tính toán

Hãy cùng tính toán một vài dạng phổ biến. Mỗi dạng đều theo cùng một công thức: số token chia cho 1.000.000, nhân với mức giá.

Một câu hỏi ngắn. 200 token đầu vào, 150 token đầu ra. Đầu vào: 200 / 1.000.000 x $0,15 = $0,00003. Đầu ra: 150 / 1.000.000 x $0,50 = $0,000075. Tổng cộng: $0,000105. Khoảng 9.500 yêu cầu như vậy tốn một đô la.

Một lượt trò chuyện có lịch sử. 3.000 token đầu vào, 400 token đầu ra. Đầu vào tốn $0,00045, đầu ra tốn $0,0002, tổng cộng $0,00065. Một nghìn lượt như vậy tốn $0,65.

Một nhiệm vụ xử lý tài liệu. 20.000 token đầu vào (một văn bản dài để tóm tắt), 1.000 token đầu ra. Đầu vào tốn $0,003, đầu ra tốn $0,0005, tổng cộng $0,0035. Tóm tắt 1.000 tài liệu kích thước đó tốn $3,50.

Một cửa sổ ngữ cảnh đầy đủ. Cửa sổ là 100.000 token, bao gồm prompt và kết quả. Một yêu cầu với 90.000 token đầu vào và 10.000 token đầu ra tốn $0,0135 + $0,005 = $0,0185, dưới hai xu.

DạngTheo yêu cầuTrên 1.000 yêu cầu
200 đầu vào, 150 đầu ra$0,000105$0,105
3.000 đầu vào, 400 đầu ra$0,00065$0,65
20.000 vào, 1.000 ra$0,0035$3,50
90.000 đầu vào, 10.000 đầu ra$0,0185$18,50

Ước tính hàng tháng

Các dự án tính toán theo tháng, vì vậy bạn cần mở rộng quy mô. Giả sử một công cụ hỗ trợ gửi 100.000 yêu cầu mỗi tháng, trung bình 1.500 token đầu vào và 400 token đầu ra.

  • Đầu vào: 100.000 x 1.500 = 150.000.000 token, tương đương 150M x $0,15 = $22,50
  • Đầu ra: 100.000 x 400 = 40.000.000 token, tương đương 40M x $0,50 = $20,00
  • Tổng cộng: $42,50 mỗi tháng

Một ứng dụng nhỏ hơn với 5.000 yêu cầu mỗi tháng ở cùng dạng tốn $2,13 (một phần hai mươi của $42,50 là $2,125). Một công cụ viết sáng tạo nơi người dùng tạo ra các đoạn văn dài có thể đảo ngược tỷ lệ: 20.000 yêu cầu với 1.000 token đầu vào và 2.000 token đầu ra tạo ra 20M token đầu vào với giá $3,00 cộng thêm 40M token đầu ra với giá $20,00, tổng cộng $23,00.

Lưu ý rằng đầu ra chiếm ưu thế khi câu trả lời dài, và đầu vào chiếm ưu thế khi lịch sử dài. Hãy biết ứng dụng của bạn thuộc dạng nào trước khi cố gắng tối ưu hóa.

Sự tăng trưởng là tuyến tính, giúp việc lập kế hoạch dễ dàng. Nếu lưu lượng tăng gấp đôi, hóa đơn cũng tăng gấp đôi: 200.000 yêu cầu cùng dạng tốn $85,00. Nếu bạn giảm token đầu vào trung bình từ 1.500 xuống 1.000 bằng cách cắt bớt lịch sử, chi phí đầu vào giảm từ $22,50 xuống $15,00 cho mỗi 100.000 yêu cầu, tiết kiệm $7,50 mỗi tháng mà không làm ảnh hưởng đến chất lượng câu trả lời.

Tín dụng, nạp tiền và bonus

Bạn trả tiền từ tín dụng trả trước, vì vậy chi tiêu bị giới hạn bởi số tiền bạn đã nạp. Tín dụng không bao giờ hết hạn và không có phí đăng ký.

Các lần nạp tiền là bất kỳ số nguyên nào từ $20 đến $500, bằng tiền điện tử (USDT trên TRC20, USDC trên Base). Các lần nạp lớn hơn đi kèm bonus: +5% từ $50, +10% từ $100, +15% từ $200. Điều đó có nghĩa là $50 trở thành $52,50 tín dụng, $100 trở thành $110 và $200 trở thành $230. Sử dụng ví dụ $42,50 hàng tháng, một lần nạp $50 sẽ chi trả hơn một tháng cho khối lượng công việc đó, với $10 còn lại sau khi tính bonus.

Người dùng mới có thể bắt đầu với tín dụng dùng thử miễn phí $0,50, được kích hoạt chỉ với một cú nhấp chuột sau khi đăng ký. Tín dụng này có hiệu lực trong 7 ngày và giới hạn một cho mỗi người. Xem trang giá cả để biết bảng giá hiện tại.

Một lưu ý thực tế về việc chọn số tiền: mức nạp tối thiểu là $20, tương đương với khoảng 30.769 yêu cầu ở dạng chat 3.000 token đầu vào và 400 token đầu ra ($0,00065 mỗi yêu cầu). Đối với hầu hết các nguyên mẫu, đó là vài tuần thử nghiệm, vì vậy không có nhiều lý do để bắt đầu với số tiền cao hơn.

Bảy cách để giảm hóa đơn

Mức giá thấp, nhưng lãng phí vẫn tích lũy khi ở quy mô lớn. Đây là những thay đổi giúp tiết kiệm nhiều nhất, sắp xếp theo thứ tự hiệu quả.

  1. Cắt bớt lịch sử. Giữ lại N lượt gần nhất và một bản tóm tắt ngắn của các lượt trước đó. Token đầu vào sẽ tăng lên với mỗi lượt nếu không làm vậy.
  2. Rút ngắn prompt hệ thống. Nó được gửi lại trong mọi yêu cầu. Một prompt 1.500 token được gửi 100.000 lần là 150M token đầu vào, tương đương $22,50.
  3. Đặt max_tokens phù hợp. Tùy chọn ở đây, nhưng giới hạn này ngăn chặn các phản hồi dài vô tận.
  4. Sử dụng chuỗi dừng. Chúng kết thúc quá trình tạo khi bạn đã có những gì cần thiết.
  5. Yêu cầu đầu ra ngắn gọn. Chế độ JSON với các khóa ngắn sẽ hiệu quả hơn văn bản khi một chương trình đọc kết quả.
  6. Tự lưu trữ câu trả lời. Nếu nhiều người dùng hỏi cùng một câu hỏi, hãy lưu trữ câu trả lời thay vì trả tiền lại.
  7. Theo dõi số dư. Tiêu đề phản hồi X-Balance-USD cho biết số tiền còn lại sau mỗi lần gọi.

Danh sách kiểm tra ngân sách trước khi ra mắt

Trước khi ứng dụng được đưa ra trước người dùng, hãy chạy qua danh sách này.

  • Đo số token đầu vào và đầu ra trung bình từ ít nhất 50 yêu cầu thực tế.
  • Tính toán trường hợp xấu nhất: một cửa sổ đầy đủ 100.000 token tốn khoảng $0,0185 cho một yêu cầu 90.000 token đầu vào và 10.000 token đầu ra. Quyết định xem ứng dụng của bạn có cho phép điều đó không.
  • Giới hạn độ dài đầu vào của người dùng để một tài liệu dán vào không thể làm tăng chi phí của bạn.
  • Đặt max_tokens trên các endpoint khi không cần phản hồi dài.
  • Xử lý HTTP 429 bằng cách thử lại sau một khoảng thời gian chờ, sử dụng giá trị Retry-After khi có. Khóa đầy đủ cho phép 8 yêu cầu đồng thời và 300 yêu cầu mỗi phút.
  • Cảnh báo về số dư. Đọc X-Balance-USD và tự thông báo khi số dư vượt qua ngưỡng nhất định, để bạn có thể nạp tiền trước khi người dùng nhận ra.

So sánh báo giá từ các nhà cung cấp khác

Chúng tôi sẽ không trích dẫn giá của các nhà cung cấp khác ở đây vì chúng thay đổi và chúng tôi không thể xác minh chúng. Bạn vẫn có thể so sánh công bằng bằng cách sử dụng cùng phương pháp, và việc này chỉ mất mười phút.

Đầu tiên, hãy thu thập mức giá đầu vào và đầu ra trên 1 triệu token từ trang định giá hiện tại của từng nhà cung cấp. Thứ hai, hãy lấy một prompt thực và một phản hồi thực từ ứng dụng của bạn và đếm số token của chúng. Thứ ba, chạy công thức cho từng nhà cung cấp với các số đếm của bạn. Thứ tư, nhân với số lượng yêu cầu hàng tháng của bạn.

Hãy chú ý đến những khác biệt không hiển thị trong dòng mức giá. Một số nhà cung cấp tính token khác nhau, vì vậy cùng một văn bản có thể có số lượng token khác nhau trên mỗi dịch vụ. Một số tính phí cho các tính năng như ngữ cảnh bổ sung, và một số có mức mua tối thiểu hoặc đăng ký ngoài việc sử dụng. Dịch vụ của chúng tôi không có những điều này: không đăng ký, mức nạp tiền tối thiểu $20, tín dụng không bao giờ hết hạn.

Cuối cùng, hãy so sánh những gì mô hình làm, không chỉ là chi phí. Một lệnh gọi rẻ hơn nhưng từ chối yêu cầu của bạn thì chẳng có giá trị gì, và một lệnh gọi đắt hơn nhưng trả lời được có thể rẻ hơn trên mỗi kết quả hữu ích. Đối với truyện người lớn và nhập vai, hãy kiểm tra các prompt của chính bạn trên mỗi dịch vụ trước khi quyết định.

Đo chi phí thực của bạn bằng mã

Các ước tính chỉ tốt như các số đếm token của bạn, vì vậy hãy ghi lại các số đếm thực. Đoạn mã này định giá từng phản hồi dựa trên dữ liệu sử dụng của riêng nó.

from openai import OpenAI

client = OpenAI(base_url="https://api.uncensoredgptapi.com/v1", api_key="YOUR_API_KEY")

RATE_IN = 0.15   # per 1M input tokens
RATE_OUT = 0.50  # per 1M output tokens

resp = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Summarize why logging usage matters."}],
    max_tokens=200,
)
u = resp.usage
cost = u.prompt_tokens / 1_000_000 * RATE_IN + u.completion_tokens / 1_000_000 * RATE_OUT
print(u.prompt_tokens, u.completion_tokens, round(cost, 6))

Chạy nó qua một ngày lưu lượng thực, lấy trung bình các kết quả và nhân với khối lượng dự kiến của bạn. Con số đó tốt hơn bất kỳ biểu đồ nào, bao gồm cả những biểu đồ ở trên.

Giá không bao gồm những gì

Giá là một yếu tố đầu vào cho quyết định. Đây là một API chỉ xử lý văn bản: không tạo hình ảnh, âm thanh hoặc video, không embedding và không tinh chỉnh. Nó chạy một mô hình trọng số mở từ một nhà cung cấp độc lập, không phải là mô hình từ OpenAI hoặc nhà cung cấp khác, và nó không phải là trình định tuyến giữa các nhà cung cấp. Nếu bạn cần những tính năng đó, bạn cần một dịch vụ khác. Hãy kiểm tra giá hiện tại của họ trước khi so sánh.

Những gì bạn nhận được với giá này là một endpoint tương thích OpenAI, truyền phát (streaming), gọi hàm, chế độ JSON, cửa sổ ngữ cảnh 100.000 token, và một mô hình được tinh chỉnh để trả lời mà không từ chối nội dung cho mục đích người trưởng thành hợp pháp. Các prompt không được sử dụng để huấn luyện. Giới hạn cứng là không có nội dung tình dục liên quan đến người chưa thành niên.

Để bắt đầu, hãy lấy một khóa trên trang khóa API và làm theo tài liệu để thay đổi URL cơ sở của bạn.

Hỏi đáp

Chi phí cho mỗi 1M token là bao nhiêu?

$0,15 cho mỗi 1M token đầu vào và $0,50 cho mỗi 1M token đầu ra. Bạn chỉ trả tiền cho những gì bạn sử dụng, từ tín dụng trả trước.

Có phí hàng tháng không?

Không. Không có đăng ký. Tín dụng không bao giờ hết hạn, vì vậy một tháng không sử dụng sẽ không tốn gì.

Lỗi và yêu cầu bị từ chối có được tính phí không?

Không. Các yêu cầu thất bại hoặc bị từ chối không bị tính phí.

Số tiền nạp tối thiểu là bao nhiêu?

$20. Bạn có thể nạp tiền với bất kỳ số nguyên nào từ $20 đến $500, với +5% từ $50, +10% từ $100 và +15% từ $200.

Tôi có thể kiểm tra trước khi trả tiền không?

Có. Người dùng mới có thể nhận tín dụng dùng thử $0,50 chỉ với một cú nhấp chuột trên trang khóa API. Tín dụng này có hiệu lực trong 7 ngày, giới hạn một cho mỗi người.

Khóa của bạn chỉ cách một biểu mẫu

Tạo tài khoản, sao chép khóa, thay đổi URL cơ sở. Đó là toàn bộ thiết lập.

Lấy khóa API