VI ▾

Chi phí ChatGPT API mỗi tháng: Khối lượng công việc ví dụ

Chi phí API chatgpt hàng tháng của bạn phụ thuộc vào ba con số: số lượng yêu cầu, số token mỗi yêu cầu và tỷ lệ trên mỗi token. Trang này trình bày bốn khối lượng công việc và tính giá cho từng trường hợp trên API tương thích OpenAI ở mức $0,15 cho mỗi 1 triệu token đầu vào và $0,50 cho mỗi 1 triệu token đầu ra.

Cập nhật

Các khối kính có chiều cao khác nhau được lấp đầy bằng tiền xu bên cạnh một cái cân, hiển thị chi phí API hàng tháng theo khối lượng công việc
Sân khấu với mặt nạ và bong bóng thoại phát sáng đại diện cho các prompt nhập vai được gửi qua API

Điểm chính

  • Chi phí hàng tháng = số lượng yêu cầu x số token mỗi yêu cầu x tỷ lệ, chia thành đầu vào và đầu ra.
  • Các khối lượng công việc ví dụ ở đây có chi phí từ khoảng $0,21 đến $130 mỗi tháng trên API này.
  • Để biết giá của OpenAI, hãy kiểm tra trang giá hiện tại của họ và áp dụng các con số vào cùng công thức.
  • Token đầu ra tốn nhiều tiền hơn token đầu vào ở đây, vì vậy độ dài phản hồi là yếu tố chính.

Công thức

Bất kể nhà cung cấp nào bạn sử dụng, hóa đơn hàng tháng đều đến từ một phép tính. Đếm số token bạn gửi (đầu vào) và số token bạn nhận được (đầu ra), sau đó nhân mỗi số đó với tỷ lệ trên mỗi triệu.

Chi phí hàng tháng = (số token đầu vào / 1.000.000 x tỷ lệ đầu vào) + (số token đầu ra / 1.000.000 x tỷ lệ đầu ra)

Tỷ lệ khác nhau giữa các nhà cung cấp và thay đổi theo thời gian, vì vậy chúng tôi không trích dẫn OpenAI hay bất kỳ ai khác ở đây. Mở trang định giá của họ, sao chép tỷ lệ đầu vào và đầu ra, và sử dụng chúng thay cho tỷ lệ của chúng tôi bên dưới. Cột token sẽ không thay đổi. Trên dịch vụ này, tỷ lệ là $0,15 cho đầu vào và $0,50 cho đầu ra cho mỗi 1 triệu token, không có đăng ký và không có chi tiêu tối thiểu hàng tháng.

Cách ước lượng token mà không cần đoán

Một token tương đương khoảng ba phần tư của một từ tiếng Anh, vì vậy 1.000 từ là khoảng 1.300 token. Để có con số thực tế, hãy gửi một vài prompt điển hình và đọc trường usage trong mỗi phản hồi. Script này làm điều đó và dự báo một tháng từ mẫu của bạn:

from openai import OpenAI

client = OpenAI(base_url="https://api.uncensoredgptapi.com/v1", api_key="YOUR_KEY")

samples = [
    "Explain what a webhook is in two paragraphs.",
    "Write a polite reply declining a meeting.",
    "Summarize: the quarterly report shows rising costs and flat sales.",
]
tin = tout = 0
for s in samples:
    r = client.chat.completions.create(
        model="uncensored",
        messages=[{"role": "user", "content": s}],
    )
    tin += r.usage.prompt_tokens
    tout += r.usage.completion_tokens

per_request = tin / 1e6 * 0.15 / len(samples) + tout / 1e6 * 0.50 / len(samples)
requests_per_month = 5000
print(f"per request ${per_request:.6f}, month ${per_request * requests_per_month:.2f}")

Hãy nhớ rằng lịch sử trò chuyện được tính là đầu vào trong mỗi lượt. Một cuộc hội thoại gửi lại các tin nhắn trước đó, vì vậy số lượng token đầu vào trung bình mỗi yêu cầu của bạn lớn hơn bất kỳ tin nhắn người dùng đơn lẻ nào.

Bốn ví dụ khối lượng công việc

Khối công việcYêu cầu / thángToken đầu vào / đầu ra mỗi lầnTổng cộng trên API này
Trợ lý cá nhân6001,200 / 350$0,21
Chùm nội dung (bài báo)2,000800 / 1,500$1,74
Bot hỗ trợ9,0002,500 / 300$4,73
Agent hoặc công cụ mã hóa100.0006.000 / 800$130,00

Phép tính từng dòng

  • Trợ lý cá nhân. Đầu vào 600 x 1,200 = 720.000 token = 0,72 x $0,15 = $0,108. Đầu ra 600 x 350 = 210.000 = 0,21 x $0,50 = $0,105. Tổng cộng $0,213.
  • Chùm nội dung. Đầu vào 2.000 x 800 = 1,6 triệu = $0,24. Đầu ra 2.000 x 1.500 = 3 triệu = $1,50. Tổng cộng $1,74.
  • Bot hỗ trợ. Đầu vào 9.000 x 2.500 = 22,5 triệu = $3,375. Đầu ra 9.000 x 300 = 2,7 triệu = $1,35. Tổng cộng $4,725.
  • Công cụ agent. Đầu vào 100.000 x 6.000 = 600 triệu = $90. Đầu ra 100.000 x 800 = 80 triệu = $40. Tổng cộng $130.

Những con số cho bạn biết điều gì

Ba mẫu hình xuất hiện. Thứ nhất, các trường hợp nhẹ rất nhỏ: một trợ lý cá nhân tốn khoảng hai mươi xu. Thứ hai, lô nội dung nặng về đầu ra, vì vậy đầu ra ở mức $0,50 cho mỗi 1 triệu token chiếm 86% hóa đơn của nó. Thứ ba, công cụ agent nặng về đầu vào, vì mỗi bước đọc lại ngữ cảnh, và đó là nơi chi phí tăng nhanh.

Nếu bạn muốn giảm số tiền hàng tháng, thứ tự tác động thường là: cắt giảm ngữ cảnh lặp lại (cắt ngắn lịch sử, tóm tắt các lượt cũ), rút ngắn phản hồi khi những phản hồi dài không mang lại giá trị, sau đó gom nhóm công việc ít quan trọng hơn. Thay đổi mô hình ít quan trọng hơn thay đổi số lượng token, vì cột token quyết định hóa đơn.

Từ người dùng đến hóa đơn hàng tháng

Hầu hết mọi người bắt đầu từ người dùng, không phải yêu cầu. Giả sử một tính năng trò chuyện có 500 người dùng hoạt động hàng ngày, mỗi người gửi 6 tin nhắn một ngày trong 30 ngày. Đó là 500 x 6 x 30 = 90.000 yêu cầu. Giả sử mỗi yêu cầu trung bình 1.800 token đầu vào (bao gồm lịch sử) và 250 token đầu ra.

Đầu vào là 90.000 x 1.800 = 162 triệu token, hoặc 162 x $0,15 = $24,30. Đầu ra là 90.000 x 250 = 22,5 triệu token, hoặc 22,5 x $0,50 = $11,25. Tháng đó là $35,55, tương đương khoảng $0,07 cho mỗi người dùng hoạt động.

Hãy kiểm tra giới hạn tốc độ nữa. 90.000 yêu cầu một tháng là khoảng 3.000 mỗi ngày, hoặc khoảng hai mỗi phút trung bình. Ngay cả khi đỉnh cao gấp mười lần đó là khoảng 21 mỗi phút, thấp hơn nhiều so với 300 mỗi phút mà một khóa đầy đủ cho phép. Ràng buộc chặt chẽ hơn là độ đồng thời: 8 yêu cầu cùng lúc. Các phản hồi truyền phát giữ một khe cho đến khi chúng kết thúc, vì vậy một câu trả lời dài chiếm dung lượng lâu hơn một câu trả lời ngắn.

Các biện pháp bảo vệ để hóa đơn luôn dự đoán được

Sử dụng không giới hạn là rủi ro thực sự, không phải tỷ lệ. Một vòng lặp thử lại không giới hạn, hoặc một người dùng dán một tài liệu 90.000 token mười lần, có thể tốn nhiều tiền hơn kế hoạch của bạn đã dự tính. Một vài biện pháp kiểm soát rẻ tiền sẽ khắc phục hầu hết vấn đề:

  • Đọc X-Balance-USD từ tiêu đề phản hồi và cảnh báo khi giảm dưới mức đặt trước.
  • Giới hạn độ dài đầu vào mỗi tin nhắn và giới hạn độ dài lịch sử mỗi cuộc trò chuyện.
  • Đặt max_tokens cho tính năng có kích thước câu trả lời đã biết.
  • Ghi log usage theo tính năng để xem tính năng nào gây chi phí.
  • Trì hoãn khi nhận phản hồi 429 thay vì thử lại ngay lập tức.

Với tín dụng trả trước, trường hợp xấu nhất bị giới hạn bởi số dư của bạn. Đó là một hồ sơ rủi ro khác với hóa đơn trả sau, nơi một lỗi có thể tạo ra một khoản phí bất ngờ sau sự kiện.

Định giá ứng dụng của bạn trên API này

Tín dụng là trả trước. Bạn nạp tiền bất kỳ số nguyên nào từ $20 đến $500, và tiền thưởng thêm +5% từ $50, +10% từ $100 và +15% từ $200. Nạp $100 thành $110 tín dụng, điều này chi trả cho bot hỗ trợ ở trên trong khoảng 23 tháng. Tín dụng không bao giờ hết hạn, vì vậy một tháng không có lưu lượng không tốn gì, và các yêu cầu thất bại hoặc bị từ chối không bị tính phí.

Thanh toán bằng tiền mã hóa (USDT trên TRC20, USDC trên Base). Trang định giá liệt kê các tùy chọn. Để so sánh cách định giá truy cập kiểu GPT, xem định giá API mô hình GPT.

Kiểm tra các con số trước khi cam kết

Người dùng mới có thể nhận $0,50 tín dụng dùng thử trên trang khóa API sau khi đăng ký. Nó không cần thẻ và có hiệu lực trong 7 ngày. Với mức giá khoảng $0,0005 cho mỗi yêu cầu của bot hỗ trợ, tín dụng dùng thử này chi trả khoảng 1.000 yêu cầu, đủ để bạn xác minh các ước tính token của mình.

Khóa dùng thử cho phép 2 yêu cầu đồng thời và 60 yêu cầu mỗi phút; khóa đầy đủ cho phép 8 yêu cầu đồng thời và 300 yêu cầu mỗi phút. Nếu bạn chỉ cần thay đổi base URL trong mã hiện có, hướng dẫn base URL API GPT của chúng tôi có các bước thực hiện, và tài liệu bao gồm mọi endpoint.

Một ranh giới: đây là một API văn bản phục vụ một mô hình trọng số mở đơn lẻ được tinh chỉnh để trả lời mà không từ chối nội dung cho việc sử dụng người lớn hợp pháp. Nó không phải là API OpenAI và không có endpoint hình ảnh, âm thanh hoặc embedding, vì vậy nếu ước tính hàng tháng của bạn bao gồm những thứ đó, hãy định giá chúng riêng.

Hỏi đáp

Chi phí API ChatGPT cho một ứng dụng nhỏ là bao nhiêu mỗi tháng?

Nó phụ thuộc vào số lượng yêu cầu và token. Một bot hỗ trợ với 9.000 yêu cầu mỗi tháng tốn khoảng $4,73 trên API này; để biết mức giá của OpenAI, hãy sử dụng trang định giá hiện tại của họ với cùng công thức.

Có chi tiêu tối thiểu hàng tháng không?

Không. Bạn nạp tiền từ $20 đến $500, nó không bao giờ hết hạn, và bạn chỉ trả tiền cho token đã sử dụng.

Cái nào tốn nhiều tiền hơn, đầu vào hay đầu ra?

Đầu ra. Ở đây là $0,50 cho mỗi 1 triệu token so với $0,15 cho mỗi 1 triệu token đầu vào.

Làm thế nào để tôi tìm số token thực tế của mình?

Đọc trường usage trong mỗi phản hồi API. Nó báo cáo số lượng token prompt và completion cho yêu cầu đó.

Khóa của bạn chỉ còn một bước nữa là xong

Tạo tài khoản, sao chép khóa, thay đổi URL cơ sở. Đó là toàn bộ thiết lập.

Lấy khóa API