Temel noktalar
- Oranlar: 1M input token başına $0,15 ve 1M output token başına $0,50.
- Ön ödemeli krediden kullandıkça öde; abonelik yok ve kredi süresi dolmaz.
- 100.000 istek, 1.500 token girdi ve 400 token çıktı $42,50'ye mal olur.
- Başarısız veya reddedilen istekler için ücret alınmaz.
Fatura nasıl oluşturulur
gpt model API fiyatlandırması ile ilgili karşılaştırma yapıyorsanız, başlangıç birimi olarak token'a odaklanın. Token, genellikle kısa bir kelime veya daha uzun bir kelimenin bir parçası olan bir metin parçasıdır. İngilizce için kabaca bir kural olarak 1.000 tokenın yaklaşık 750 kelimeye eşdeğer olduğunu söyleyebiliriz; ancak kod ve diğer diller kelime başına daha fazla token gerektirir. API yanıtı, kesin sayıları usage alanında bildirdiğinden, sonrasında tahmin etmenize gerek kalmaz.
Her istek iki kalem üzerinden faturalandırılır. Input tokenlar, gönderdiğiniz her şeydir: sistem promptu, konuşma geçmişi ve yeni mesaj. Output tokenlar, modelin geri yazdığı her şeydir. Çıktı, girdiye göre token başına daha pahalıdır. Oranlarımız 1M input token başına $0,15 ve 1M output token başına $0,50'dir.
Hesaplama örnekleri
Yaygın senaryolar için birkaç hesaplama yapalım. Her biri aynı formülü izler: token sayısı 1.000.000'a bölünür ve orana çarpılır.
Kısa bir soru. 200 token girdi, 150 token çıktı. Girdi: 200 / 1.000.000 x $0,15 = $0,00003. Çıktı: 150 / 1.000.000 x $0,50 = $0,000075. Toplam: $0,000105. Yaklaşık 9.500 böyle istek bir dolara mal olur.
Geçmişli bir sohbet dönüşü. 3.000 token girdi, 400 token çıktı. Girdi $0,00045, çıktı $0,0002, toplam $0,00065. Bin tanesi $0,65'e mal olur.
Bir belge görevi. 20.000 token girdi (özetlenecek uzun bir metin), 1.000 token çıktı. Girdi $0,003, çıktı $0,0005, toplam $0,0035. Bu boyuttaki 1.000 belgenin özetlenmesi $3,50'a mal olur.
Tam bir bağlam penceresi. Pencere 100.000 token kapasitesindedir; istem ve tamamlama birlikte değerlendirilir. 90.000 token giriş ve 10.000 token çıkış içeren bir istek $0,0135 + $0,005 = $0,0185 tutarındadır; bu tutar iki ABD sentinin altındadır.
| Şekil | İstek başına | 1.000 istek başına |
|---|---|---|
| 200 giriş, 150 çıkış | $0,000105 | $0,105 |
| 3.000 girdi, 400 çıktı | $0,00065 | $0,65 |
| 20.000 girdi, 1.000 çıktı | $0,0035 | $3,50 |
| 90.000 girdi, 10.000 çıktı | $0,0185 | $18,50 |
Aylık tahminler
Projeler aylar üzerinden düşünür, bu yüzden ölçeklendirin. Bir destek aracının ayda 100.000 istek gönderdiğini ve bunların ortalama 1.500 input ve 400 output token içerdiğini varsayalım.
- Girdi: 100.000 x 1.500 = 150.000.000 token, yani 150M x $0,15 = $22,50
- Çıktı: 100.000 x 400 = 40.000.000 token, yani 40M x $0,50 = $20,00
- Toplam: Ayda $42,50
Daha küçük bir uygulama, aynı şekille ayda 5.000 istek için $2,13'e mal olur ($42,50'nin yirmide biri $2,125'tir). Kullanıcıların uzun metinler ürettiği bir yaratıcı yazma aracında oran tersine dönebilir: 1.000 girdi ve 2.000 çıktı ile 20.000 istek, $3,00'a mal olan 20M input token ve $20,00'a mal olan 40M output token verir, yani toplam $23,00.
Yanıtlar uzun olduğunda çıktının, geçmiş uzun olduğunda girdinin baskın olduğunu unutmayın. Optimize etmeye çalışmadan önce uygulamanızın hangi yönde ağırlık taşıdığını bilin.
Büyüme doğrusaldır, bu da planlamayı kolaylaştırır. Trafik iki katına çıkarsa fatura da iki katına çıkar: aynı şekille 200.000 istek $85,00'a mal olur. Geçmişi kısaltarak ortalama girdiyi 1.500 token'dan 1.000 token'a düşürürseniz, girdi kalemi 100.000 istek başına $22,50'den $15,00'a düşer; bu da yanıtların kalitesine dokunmadan ayda $7,50 tasarruf sağlar.
Kredi, yüklemeler ve bonuslar
Ön ödemeli krediden ödersiniz, bu nedenle harcamanız yüklediğiniz tutarla sınırlıdır. Kredi süresi dolmaz ve abonelik ücreti yoktur.
Yüklemeler $20 ile $500 arasında herhangi bir tam tutardır; kripto (TRC20 üzerinde USDT, Base üzerinde USDC) ile yapılır. Daha büyük yüklemeler bonus getirir: $50'den itibaren +%5, $100'den itibaren +%10 ve $200'den itibaren +%15. Bu, $50'nin $52,50 krediye, $100'ün $110'a ve $200'nin $230'a dönüşeceği anlamına gelir. $42,50'lik aylık örneği kullanırsak, bir $50 yüklemesi, bonus eklendiğinde artan $10 ile birlikte, bu iş yükünün bir ayından biraz fazlasını karşılar.
Yeni kullanıcılar kayıt sonrası tek tıkla $0,50 deneme kredisi talep edebilir. Bu kredi 7 gün boyunca geçerlidir ve kişi başı bir kez verilir. Güncel tablo için fiyatlandırma sayfasına bakın.
Boyutlandırma hakkında pratik bir not: minimum yükleme $20'dir. Bu, 3.000 girdi ve 400 çıktı sohbet şekli için ($0,00065/istek) yaklaşık 30.769 istek anlamına gelir. Çoğu prototip için bu haftalarca test süresi demektir, bu yüzden daha yüksek bir tutarla başlamak için pek neden yoktur.
Faturayı düşürmenin yedi yolu
Oranlar düşüktür ancak hacimde israf birikerek büyür. En çok tasarruf sağlayan değişiklikler bunlardır; yaklaşık etki sırasına göre listelenmiştir.
- Geçmişi kısaltın. Son N konuşma turunu ve öncekilerin kısa bir özetini koruyun. Aksi takdirde, her turda giriş tokenları artar.
- Sistem promptunu kısaltın. Her istekte yeniden gönderilir. 1.500 tokenlık bir prompt 100.000 kez gönderilirse 150M input token, yani $22,50 eder.
- max_tokens değerini uygun şekilde ayarlayın. Burada isteğe bağlıdır ancak sınırlama, kontrolsüz yanıtları önler.
- Durdurma dizileri kullanın. İhtiyacınız olan şeyi elde ettiğinizde üretimi sonlandırırlar.
- Kompakt çıktı isteyin. Bir program sonucu okurken kısa anahtarlarla JSON modu, metinden daha iyidir.
- Kendi yanıtlarınızı önbelleğe alın. Çok sayıda kullanıcı aynı şeyi sorarsa, tekrar ödeme yapmak yerine yanıtı saklayın.
- Bakiyeyi izleyin.
X-Balance-USDyanıt başlığı, her çağrıda ne kadar kaldığını gösterir.
Yayınlamadan önce bütçe kontrol listesi
Bir uygulama kullanıcıların karşısına çıkmadan önce bu listeyi gözden geçirin.
- En az 50 gerçek istekten ortalama input ve output tokenlarını ölçün.
- En kötü durumu hesaplayın: Tam 100.000 tokenlık bir pencere, 90.000 girdi ve 10.000 çıktı içeren bir istek için yaklaşık $0,0185'e mal olur. Uygulamanızın buna izin verip vermeyeceğine karar verin.
- Kullanıcı girdi uzunluğunu sınırlandırın, böylece yapıştırılan tek bir belge maliyetlerinizi katlamasın.
- Uzun yanıtların gerekmediği uç noktalarda
max_tokensdeğerini ayarlayın. - HTTP 429 durumunu, varsa
Retry-Afterdeğerini kullanarak bekleme süresi içeren bir yeniden deneme ile yönetin. Tam bir anahtar 8 eşzamanlı istek ve dakikada 300 istek izni verir. - Bakiye için bir uyarı kurun.
X-Balance-USDdeğerini okuyun ve eşik aşıldığında kendinize bildirim gönderin, böylece kullanıcılar fark etmeden bakiye yükleyebilirsiniz.
Diğer sağlayıcılardan teklifleri karşılaştırma
Diğer satıcıların fiyatlarını burada vermiyoruz çünkü bunlar değişiyor ve biz onlar için garanti veremiyoruz. Yine de aynı yöntemi kullanarak adil bir karşılaştırma yapabilirsiniz ve bu on dakika sürer.
İlk olarak, her sağlayıcının mevcut fiyatlandırma sayfasından 1M token başına girdi ve çıktı oranlarını toplayın. İkinci olarak, uygulamanızdan gerçek bir istem ve gerçek bir yanıt alın ve token sayılarını hesaplayın. Üçüncü olarak, her sağlayıcı için formülü kendi sayılarınızla çalıştırın. Dördüncü olarak, aylık istek sayınızla çarpın.
Oran satırında görünmeyen farklılıklara dikkat edin. Bazı sağlayıcılar tokenları farklı sayar, bu nedenle aynı metin her hizmette farklı sayıda token olarak sayılabilir. Bazıları ek bağlam gibi özellikler için ücret alır ve bazıları kullanımın üzerine minimum satın alma veya abonelik gerektirir. Bizimkilerde bunların hiçbiri yok: abonelik yok, $20 minimum bakiye yükleme, kredi asla sona ermez.
Son olarak, modelin ne yaptığını, sadece ne kadar tuttuğunu değil karşılaştırın. İsteğinizi reddeden daha ucuz bir çağrı hiçbir değere sahip değildir ve yanıt veren daha pahalı bir çağrı, her yararlı sonuç başına daha ucuz olabilir. Yetişkin kurgu ve rol yapma için karar vermeden önce kendi istemlerinizi her hizmette test edin.
Gerçek maliyetinizi kodda ölçün
Tahminler yalnızca token sayılarınız kadar doğrudur, bu yüzden gerçek olanları günlüğe kaydedin. Bu kod parçası, her yanıtı kendi kullanım verilerinden fiyatlandırır.
from openai import OpenAI
client = OpenAI(base_url="https://api.uncensoredgptapi.com/v1", api_key="YOUR_API_KEY")
RATE_IN = 0.15 # per 1M input tokens
RATE_OUT = 0.50 # per 1M output tokens
resp = client.chat.completions.create(
model="uncensored",
messages=[{"role": "user", "content": "Summarize why logging usage matters."}],
max_tokens=200,
)
u = resp.usage
cost = u.prompt_tokens / 1_000_000 * RATE_IN + u.completion_tokens / 1_000_000 * RATE_OUT
print(u.prompt_tokens, u.completion_tokens, round(cost, 6))Bunu gerçek trafik üzerinden bir gün boyunca çalıştırın, sonuçların ortalamasını alın ve beklenen hacimle çarpın. Bu sayı, yukarıdaki grafikler dahil olmak üzere herhangi bir grafikten daha iyidir.
Fiyatın içermediği şeyler
Fiyat, bir karar için bir girdidir. Bu metin tabanlı bir API'dir: resim, ses veya video oluşturma yok, gömme (embedding) yok ve ince ayar (fine-tuning) yok. Bağımsız bir sağlayıcıdan tek bir açık ağırlıklı modeli çalıştırır, OpenAI veya başka bir satıcıdan bir model değil ve satıcılar arasında bir yönlendirici (router) değildir. Bu özelliklere ihtiyacınız varsa, başka bir hizmete ihtiyacınız vardır. Karşılaştırma yapmadan önce mevcut fiyatlandırmalarını kontrol edin.
Bu fiyata OpenAI uyumlu bir uç nokta, akış, fonksiyon çağırma, JSON modu, 100.000 tokenlık bir bağlam penceresi ve yasal yetişkin kullanımı için içerik reddi olmadan yanıt verecek şekilde ayarlanmış bir model alırsınız. İstemler eğitim için kullanılmaz. Katı sınır: reşit olmayanları içeren cinsel içeriğe hiçbir koşulda izin verilmez.
Başlamak için API anahtarı sayfasından bir anahtar alın ve base URL'nizi değiştirmek için dokümanları takip edin.
