Temel noktalar
- Aylık maliyet = istekler x istek başına token x oran, girdi ve çıktı olarak ayrılır.
- Buradaki örnek yükler bu API'de ayda yaklaşık $0,21 ile $130 arasında değişir.
- OpenAI'nin kendi oranları için mevcut fiyatlandırma sayfasına göz atın ve sayıları aynı formüle yerleştirin.
- Burada çıktı tokenları girdiden daha pahalıdır, bu nedenle yanıt uzunluğu ana faktördür.
Formül
Hangi sağlayıcıyı kullanırsanız kullanın, aylık fatura tek bir hesaplamadan gelir. Gönderdiğiniz tokenları (girdi) ve aldığınız tokenları (çıktı) sayın, ardından her birini milyon başına oranlarıyla çarpın.
Aylık maliyet = (girdi token / 1,000,000 x girdi oranı) + (çıktı token / 1,000,000 x çıktı oranı)
Oranlar sağlayıcılar arasında farklılık gösterir ve zamanla değişir, bu nedenle burada OpenAI veya başkasını referans almıyoruz. Fiyatlandırma sayfalarını açın, girdi ve çıktı oranlarını kopyalayın ve aşağıdakilerin yerine kullanın. Token sütunu değişmeyecektir. Bu hizmette oranlar 1M token başına $0,15 girdi ve $0,50 çıktıdır; abonelik ve minimum aylık harcama yoktur.
Tahmin etmeden tokenları nasıl tahmin edersiniz
Bir token, İngilizce bir kelimenin yaklaşık dörtte üçüdür, bu nedenle 1.000 kelime yaklaşık 1.300 token eder. Gerçek bir sayı için birkaç tipik istem gönderin ve her yanıtta usage alanını okuyun. Bu betik bunu yapar ve kendi örneğinizden bir ayı projekte eder:
from openai import OpenAI
client = OpenAI(base_url="https://api.uncensoredgptapi.com/v1", api_key="YOUR_KEY")
samples = [
"Explain what a webhook is in two paragraphs.",
"Write a polite reply declining a meeting.",
"Summarize: the quarterly report shows rising costs and flat sales.",
]
tin = tout = 0
for s in samples:
r = client.chat.completions.create(
model="uncensored",
messages=[{"role": "user", "content": s}],
)
tin += r.usage.prompt_tokens
tout += r.usage.completion_tokens
per_request = tin / 1e6 * 0.15 / len(samples) + tout / 1e6 * 0.50 / len(samples)
requests_per_month = 5000
print(f"per request ${per_request:.6f}, month ${per_request * requests_per_month:.2f}")
Sohbet geçmişinin her adımda girdi olarak sayıldığını unutmayın. Bir konuşma önceki mesajları yeniden gönderir, bu nedenle istek başına ortalama girdi, tek bir kullanıcı mesajından daha büyüktür.
Dört örnek iş yükü
| İş yükü | İstek / ay | Girdi / çıktı tokenları her biri | Bu API'de toplam |
|---|---|---|---|
| Kişisel asistan | 600 | 1,200 / 350 | $0,21 |
| İçerik toplu işi (makaleler) | 2.000 | 800 / 1,500 | $1,74 |
| Destek botu | 9.000 | 2,500 / 300 | $4,73 |
| Aracı veya kodlama aracı | 100,000 | 6.000 / 800 | $130,00 |
Matematik, satır satır
- Kişisel asistan. Girdi 600 x 1.200 = 720.000 token = 0,72 x $0,15 = $0,108. Çıktı 600 x 350 = 210.000 = 0,21 x $0,50 = $0,105. Toplam $0,213.
- İçerik topluluğu. Giriş 2.000 x 800 = 1,6M = $0,24. Çıkış 2.000 x 1.500 = 3M = $1,50. Toplam $1,74.
- Destek botu. Girdi 9.000 x 2.500 = 22,5M = $3,375. Çıktı 9.000 x 300 = 2,7M = $1,35. Toplam $4,725.
- Aracı aracı. Giriş 100.000 x 6.000 = 600M = $90. Çıkış 100.000 x 800 = 80M = $40. Toplam $130.
Sayıların size neyi anlattığı
Üç kalıp ortaya çıkar. İlk olarak, hafif vakalar küçüktür: bir kişisel asistan yaklaşık yirmi kuruşa mal olur. İkinci olarak, içerik toplu işi çıktı ağırlıklıdır, bu nedenle 1M başına $0,50 çıktı, faturasının %86'sını oluşturur. Üçüncü olarak, ajan aracı girdi ağırlıklıdır, çünkü her adım bağlamı yeniden okur ve maliyet burada hızlıca artar.
Aylık rakamı azaltmak istiyorsanız, etki sırası genellikle şudur: tekrarlanan bağlamı azaltın (geçmişi kısaltın, eski adımları özetleyin), uzun yanıtların değer katmadığı yerlerde yanıtları kısaltın, ardından düşük öncelikli işleri toplu hale getirin. Modeli değiştirmek, token sayısını değiştirmekten daha az önemlidir; çünkü faturayı token sütunu belirler.
Kullanıcılardan aylık faturaya
Çoğu insan isteklerden değil, kullanıcılardan başlar. Diyelim ki bir sohbet özelliğinde 500 günlük aktif kullanıcı var, her biri 30 gün boyunca günde 6 mesaj gönderiyor. Bu 500 x 6 x 30 = 90,000 istektir. Her istek ortalama 1,800 girdi tokenı (geçmiş dahil) ve 250 çıktı tokenı üretir.
Girdi 90.000 x 1.800 = 162M token, yani 162 x $0,15 = $24,30. Çıktı 90.000 x 250 = 22,5M token, yani 22,5 x $0,50 = $11,25. Ay $35,55'e gelir, bu da aktif kullanıcı başına yaklaşık $0,07'dir.
Hız limitini de kontrol edin. Ayda 90.000 istek, günde yaklaşık 3.000 veya ortalama dakikada iki istektir. Bunun on katı zirve bile dakikada yaklaşık 21'dir, tam bir anahtarın izin verdiği dakikada 300'den çok uzaktır. Daha sıkı kısıt eşzamanlılıktır: aynı anda 8 istek. Akış yanıtları bitene kadar bir yuva tutar, bu nedenle uzun bir yanıt, kısa birinden daha uzun süre kapasiteyi meşgul eder.
Faturanın öngörülebilir kalması için güvenlik önlemleri
Sonsuz kullanım gerçek risktir, oran değil. Limit olmadan yeniden deneme yapan bir döngü veya 90.000 tokenlık bir belgeyi on kez yapıştıran bir kullanıcı, planınızın varsaydığından daha fazla harcama yapabilir. Birkaç ucuz kontrol çoğunu düzeltir:
- Yanıt başlıklarından
X-Balance-USDokuyun ve belirlenen bir miktarın altına düştüğünde uyarı verin. - Mesaj başına girdi uzunluğunu ve sohbet başına geçmiş uzunluğunu sınırlayın.
- Bilinen bir yanıt boyutu olan özellikler için
max_tokensayarlayın. - Hangi özelliğin maliyeti artırdığını görebilmek için özellik başına
usagegünlüğe kaydedin. - 429 yanıtlarında hemen yeniden denemek yerine bekleme süresi artırın.
Ön ödemeli kredi ile en kötü durum bakiyenizle sınırlıdır. Bu, bir hata sonrası sürpriz bir ücret üretebilecek, kullanım sonrası faturadan farklı bir risk profilidir.
Kendi uygulamanızı bu API için fiyatlandırma
Kredi ön ödemelidir. 20 $ ile 500 $ arasında herhangi bir tam tutarı yükleyebilirsiniz ve bonuslar 50 $'dan itibaren +%5, 100 $'dan itibaren +%10 ve 200 $'dan itibaren +%15 ekler. 100 $'lık bir yükleme, 110 $ krediye dönüşür; bu yukarıdaki destek botunu yaklaşık 23 ay boyunca karşılar. Kredi asla sona ermez, bu nedenle trafiği olmayan bir ayın maliyeti yoktur ve başarısız veya reddedilen istekler için ücret alınmaz.
Ödeme kripto (TRC20 üzerinde USDT, Base üzerinde USDC) ile yapılır. fiyatlandırma sayfası seçenekleri listeler. GPT tarzı erişimin nasıl fiyatlandırıldığına dair bir karşılaştırmalı bakış için GPT model API fiyatlandırması sayfasına bakın.
Taahhüt etmeden önce sayıları test edin
Yeni kullanıcılar kayıt sonrası API anahtarı sayfası üzerinde $0,50 deneme kredisi talep edebilir. Kart gerekmez ve 7 gün sürer. Destek botunun istek başına yaklaşık $0,0005 oranıyla, deneme yaklaşık 1.000 isteği karşılar, bu da token tahminlerinizi doğrulamak için fazlasıyla yeterlidir.
Deneme anahtarları 2 eşzamanlı istek ve dakikada 60'a izin verir; tam anahtarlar 8 eşzamanlı ve dakikada 300'e izin verir. Mevcut kodda yalnızca bir base URL değiştirmeniz gerekiyorsa, GPT API base URL kılavuzumuz adımları içerir ve dokümantasyon her uç noktayı kapsar.
Bir sınır: bu, yasal yetişkin kullanımı için içerik reddetmeleri olmadan cevaplayan tek bir açık ağırlıklı modeli sunan bir metin API'sidir. OpenAI API'si değildir ve görüntü, ses veya gömme uç noktaları yoktur, bu nedenle aylık tahmininiz bunları içeriyorsa, bunları ayrı fiyatlandırın.

