TR ▾

GPT API base_url: Herhangi bir OpenAI istemcisi için nasıl ayarlanır

Temel URL, OpenAI tarzı istemcinizin hangi sunucuya bağlanacağını belirleyen tek ayardır. Bunu, anahtarı ve model adını değiştirin ve kodunuzun geri kalanı aynı kalır.

Güncellendi

Veri paketlerini bir sunucudan diğerine yönlendiren bir tabela; temel URL değişikliğini gösterir

Temel noktalar

  • Temel URL'miz https://api.uncensoredgptapi.com/v1 ve model kimliği uncensored'dir.
  • Python ve Node SDK'ları base_url veya baseURL parametrelerini kabul eder; her ikisi de ortam değişkenlerini okur.
  • Başarısızlıkların çoğu eksik /v1, iki kez yol eklenmesi veya eski bir model adından kaynaklanır.
  • GET /v1/models, URL'nin ve anahtarın doğru olduğunu onaylamanın en hızlı yoludur.

Temel URL'nin işlevi

gpt api base_url, bir OpenAI SDK'sının her uç nokta yoluna eklediği adrestir. Varsayılan olarak resmi SDK'lar istekleri OpenAI sunucularına gönderir. Farklı bir temel URL ayarlarsanız, aynı istemci kodu aynı istek formatını aynı protokolü konuşan başka bir sunucuya gönderir.

Bu, pratikte OpenAI uyumlu olmanın anlamıdır. API'miz POST /v1/chat/completions ve GET /v1/models isteklerini aynı JSON yapılarıyla, aynı Authorization: Bearer başlığıyla ve aynı akış formatıyla kabul eder. Bu nedenle üç değeri değiştirmeniz gerekir:

  • Temel URL: https://api.uncensoredgptapi.com/v1
  • API anahtarı: kontrol panelinizden aldığınız anahtar
  • Model: uncensored

Hizmetimiz, tek bir açık ağırlıklı modeli çalıştıran bağımsız bir yapıdır. Bu, OpenAI API'si değildir ve diğer sağlayıcılara bir yönlendirici değildir; bu nedenle gpt-4o gibi model adları burada mevcut değildir. Her yerde uncensored kullanın.

OpenAI SDK ile Python

Mevcut Python SDK'sında istemciyi oluştururken base_url parametresini iletin.

from openai import OpenAI

client = OpenAI(
    base_url="https://api.uncensoredgptapi.com/v1",
    api_key="YOUR_API_KEY",
)

resp = client.chat.completions.create(
    model="uncensored",
    messages=[
        {"role": "system", "content": "You are a concise assistant."},
        {"role": "user", "content": "Explain what a base URL is in two sentences."},
    ],
)
print(resp.choices[0].message.content)

Kodunuz daha eskiyse ve openai.api_base kullanıyorsa, bu 1.0 öncesi SDK'ya aittir ve küresel ayarın farklı bir adı vardır. Paketi yükseltmek, kodu adapte etmektense genellikle daha kolaydır. Sürümü pip show openai ile kontrol edin.

SDK'nın bir istek nasıl oluşturduğunu bilmek faydalıdır. Temel URL'nizi alır, /chat/completions gibi bir uç nokta yolunu ekler ve anahtarınızdan Authorization: Bearer başlığını ekler. Tüm mekanizma budur. Bir şeyler başarısız olduğunda, son URL'yi yazdırın veya günlüğe kaydedin ve bir sonraki bölümdeki curl komutuyla karşılaştırın.

Aynı istemci timeout ve max_retries ayarlarını kabul eder. Varsayılanlar bağlantı sorunlarında birkaç kez yeniden dener; bu çoğu betik için uygundur. Hız limitleri için SDK'nın hız limiti özel durumunu yakalayın ve bekleme süresi uygulayın. Akışlı bir istek, sona erene kadar eşzamanlılık slotunu tutar; bu nedenle uzun akışlardaki ani bir artış, dakika başına istek sayınız düşük olsa bile eşzamanlılık sınırını aşabilir.

import time
from openai import OpenAI, RateLimitError

client = OpenAI(base_url="https://api.uncensoredgptapi.com/v1", api_key="YOUR_API_KEY", max_retries=0)

def ask(text, tries=4):
    for attempt in range(tries):
        try:
            r = client.chat.completions.create(
                model="uncensored",
                messages=[{"role": "user", "content": text}],
            )
            return r.choices[0].message.content
        except RateLimitError:
            time.sleep(5 * (attempt + 1))
    raise RuntimeError("still rate limited")

İlk yeniden denemede beş saniyelik bekleme, API'nin geçici aşırı yüklenmede gönderdiği Retry-After: 5 değerine uygundur. Sonraki denemelerde daha uzun beklemek uç noktayı aşırı yüklemekten kaçınır.

Node ve curl

Node SDK'sı, büyük harfle URL ile baseURL kullanır.

import OpenAI from "openai";

const client = new OpenAI({
  baseURL: "https://api.uncensoredgptapi.com/v1",
  apiKey: process.env.API_KEY,
});

const resp = await client.chat.completions.create({
  model: "uncensored",
  messages: [{ role: "user", content: "Name three uses for a base URL." }],
});
console.log(resp.choices[0].message.content);

SDK olmadan curl, SDK'nın ne yaptığını tam olarak gösterir. Tam URL, temel URL artı /chat/completions'dir.

curl https://api.uncensoredgptapi.com/v1/chat/completions \
  -H "Authorization: Bearer $API_KEY" \
  -H "Content-Type: application/json" \
  -d '{"model":"uncensored","messages":[{"role":"user","content":"ping"}]}'

Bu komutu okumak, temel URL'yi kavramanın en net yoludur: /v1 dahil her şey temel URL'dir ve SDK geri kalanını ekler.

Ortam değişkenleri

Kodu düzenleyemiyorsanız veya birden fazla betik için tek bir ayar istiyorsanız, OpenAI SDK'ları açık bir değer verilmediğinde OPENAI_BASE_URL ve OPENAI_API_KEY değişkenlerini ortamdan okur.

export OPENAI_BASE_URL="https://api.uncensoredgptapi.com/v1"
export OPENAI_API_KEY="YOUR_API_KEY"
python my_script.py

Bu, yazmadığınız araçlar için kullanışlıdır. OpenAI SDK'sı üzerine inşa edilen herhangi bir şey değişiklik olmadan değişkenleri alabilir; ancak araç içinde model adını uncensored olarak ayarlamanız gerekir. Araç bir modeli sabit kodluyorsa, kendi ayarına veya bir kod değişikliğine ihtiyacınız vardır.

İki uç noktanın ayrılması

Çoğu proje bir uç nokta için test yapar ve başka bir uç nokta için dağıtır veya ortam arasında geçiş yapar. Üç değeri kodunuzdan çıkarın ve yapılandırmadan okuyun; böylece geçiş bir dosya değişikliği olur, kod düzenlemesi değil.

import os
from openai import OpenAI

client = OpenAI(
    base_url=os.environ.get("LLM_BASE_URL", "https://api.uncensoredgptapi.com/v1"),
    api_key=os.environ["LLM_API_KEY"],
)
MODEL = os.environ.get("LLM_MODEL", "uncensored")

SDK'nın varsayılanları yerine kendi değişken adlarınızı kullanmak sessiz bir tuzaktan kaçınmanızı sağlar: OPENAI_API_KEY değişkenini kabuktan okuyan bir araç, orada ayarlanan her anahtarı yanına ayarlanan temel URL'ye gönderir. Profilinizde eski bir OpenAI anahtarınız ve projenizde yeni bir temel URL varsa, bir servisin anahtarını diğerine göndermiş olabilirsiniz. Ayrı adlar bunu imkansız kılar ve bir betiğin hangi uç noktayı kullanacağını bir bakışta görebilirsiniz.

Model adını da yapılandırma olarak ele alın. Geçiş sırasında en sık geride bırakılan değer budur ve en kafa karıştırıcı hatalara yol açar, çünkü diğer her şey doğru görünür.

Akış ve araçlar aynı temel URL'yi kullanır

Temel URL'yi değiştirmek özellikleri sınırlamaz. Akış, fonksiyon çağırma ve JSON modu aynı /chat/completions yolundan geçer; bu nedenle orijinal API ile çalışan kod çalışmaya devam eder. Akış, kullanım istatistiklerini akışın sonunda bildiren Sunucu Gönderilen Olaylar (SSE) döndürür.

from openai import OpenAI

client = OpenAI(base_url="https://api.uncensoredgptapi.com/v1", api_key="YOUR_API_KEY")

stream = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Count from one to five."}],
    stream=True,
)
for chunk in stream:
    if chunk.choices and chunk.choices[0].delta.content:
        print(chunk.choices[0].delta.content, end="", flush=True)
print()

chunk.choices üzerindeki kontrol önemlidir. Kullanım taşıyan son parça choices içermeyebilir ve boş bir listeye indeksleyen kod son mesajda çökebilir. Fonksiyon çağrıları da aynı şekilde akış yapar; kısmi tool_calls farkları olarak akış yaparlar ve fonksiyonu çalıştırmadan önce birleştirilirler; sonuçlar role: "tool" ile mesajlar olarak geri gönderilir. JSON modu response_format={"type": "json_object"} parametresini alır.

Temel URL alanı olan uygulamalar ve çerçeveler

Birçok uygulama aynı ayarı farklı adlar altında sunar: API base, endpoint, özel OpenAI URL'si veya host. Kural değişmez. Temel URL'yi /v1 dahil olacak şekilde yapıştırın, anahtarı yapıştırın ve model adı olarak uncensored yazın.

SillyTavern örneğin, OpenAI uyumlu bir uç nokta eklemenize olanak tanır. LangChain'in ChatOpenAI sınıfı base_url argümanı kabul eder. Diğer arayüzler bu alana proxy URL'si veya ters proxy adını verir. Alan adları sürüme göre değişir, bu nedenle /v1 ile biten bir URL alanı arayın.

Bazı uygulamalar, GET /v1/models çağrısını yaparak doldurulan bir açılır menüden model ister. Bu uç nokta burada çalışır ve model listesini döndürür; bu nedenle URL ve anahtar doğru olduğunda açılır menüde uncensored görünmelidir. Boş kalıyorsa URL veya anahtar yanlıştır.

Bir uygulama hem temel URL alanı hem de "organizasyon" veya "proje" alanı sunduğunda, ek alanları boş bırakın. Bunlar orijinal hizmet için vardır ve burada hiçbir şey ifade etmez. Bir uygulama belirli bir önekle başlayan bir anahtarda ısrar ederse, orijinal hizmet için önceden ayarlanmış olan yerine genel veya özel OpenAI uyumlu bir seçenek gibi farklı bir bağlantı türü deneyin.

Bazı masaüstü araçlar, orijinal sağlayıcıdan belirli bir model adı isteyerek bağlantıyı test eder ve uç nokta iyi olsa bile bir hata bildirir. Bu durumda test düğmesini atlayın ve gerçek bir mesaj gönderin. Yanıt gelirse URL, anahtar ve model doğrudur; araç yalnızca kontrolünde katı davranmaktadır.

Tarayıcı tabanlı araçlar da kökenler arası kurallarla karşılaşabilir, çünkü istek sayfadan farklı bir ana makineye gider. Bir web aracı tarayıcıda başarısız olursa ancak aynı çağrı curl ile çalışırsa, anahtar istemci tarafı kodunun dışında kalsın diye (ki bu her durumda daha güvenli bir tasarımdır) isteği kendi küçük sunucunuzdan çalıştırın.

Yaygın hatalar ve nasıl düzeltilecekleri

Neredeyse her başarısız kurulum kısa bir listeden kaynaklanır.

  • Eksik /v1. Temel URL https://api.uncensoredgptapi.com/v1'dir; /v1 dahil tüm adres, yalnızca ana makine adı değil. /v1 olmadan SDK var olmayan yollar oluşturur.
  • Yolun çift eklenmesi. Temel URL olarak .../v1/chat/completions yapıştırırsanız, SDK yolu tekrar ekler. Yalnızca temel URL'yi verin.
  • Sondaki eğik çizgi. Çoğu SDK bunu işler, ancak bazı araçlar işlemez. Onsuz deneyin.
  • Eski model adı. Orijinal koddan kalan gpt-4o gibi bir model adı eşleşmez. uncensored ayarlayın.
  • Yanlış anahtar. Bu servisin anahtarını kullanın. Bir OpenAI anahtarı burada çalışmaz ve bizim anahtarımız OpenAI'de çalışmaz.
  • Hız limiti hataları. HTTP 429 ve rate_limited kodu, dakika başına çok fazla istek anlamına gelir; concurrency kodu aynı anda çok fazla istek anlamına gelir. Retry-After: 5 başlığı içeren bir 429 yanıtı geçici aşırı yüklenmeyi işaret eder, bu nedenle beş saniye bekleyin ve tekrar deneyin.

Sorun giderme kılavuzumuz, entegrasyon hatalarını daha ayrıntılı olarak ele alır.

Kurulumu tek bir çağrıyla doğrulayın

Tüm uygulamanızı çalıştırmadan önce modeller uç noktasını çağırın. Bu işlem ucuzdur ve URL ile anahtarın birlikte doğru olduğunu doğrular.

curl https://api.uncensoredgptapi.com/v1/models \
  -H "Authorization: Bearer $API_KEY"

Bu, uncensored içeren bir liste döndürürse gerçek bir sohbet isteği gönderin. Tam bir anahtar için eşzamanlı olarak 8 isteğe ve dakikada 300 isteğe kadar izin verilir; deneme anahtarı dakikada 2 eşzamanlı ve 60 isteğe izin verir. Her yanıt, hata ayıklama sırasında yararlı olan X-Request-Id, X-Balance-USD ve hız limiti başlıklarını içerir.

Anahtar almak için kaydolun ve API anahtarı sayfasını kullanın; burada yeni kullanıcılar tek tıkla $0,50 deneme kredisi talep edebilir. Dokümantasyon bağlantı kurulduktan sonra akış, fonksiyon çağırma ve JSON modunu kapsar.

Sorular ve cevaplar

API'nizin temel URL'si nedir?

https://api.uncensoredgptapi.com/v1'dir. /v1 kısmını ekleyin ve uç nokta yolunu eklemeyin.

Hangi model adını kullanmalıyım?

uncensored kullanın. gpt-4o gibi diğer sağlayıcılardan gelen model adları burada mevcut değildir.

Mevcut OpenAI SDK kodumu kullanabilir miyim?

Evet. Temel URL'yi, API anahtarını ve model adını değiştirin. Sohbet tamamlamaları, akış, fonksiyon çağırma ve JSON modu aynı istek formatını izler.

OPENAI_BASE_URL değişkeni çalışıyor mu?

Resmi OpenAI SDK'ları, kodda temel URL geçirilmediğinde bunu okur, bu nedenle ayarlamak genellikle yeterlidir. Kullandığınız aracı kontrol edin, çünkü bazıları bunu yok sayar.

Neden 429 hatası alıyorum?

rate_limited kodu dakikada çok fazla istek anlamına gelir ve concurrency kodu aynı anda çok fazla istek anlamına gelir. 5 saniyelik Retry-After içeren bir 429 geçici aşırı yüklenme anlamına gelir, bu nedenle beş saniye sonra yeniden deneyin.

Anahtarınız tek bir formun uzağında

Bir hesap oluşturun, anahtarı kopyalayın ve temel URL'yi değiştirin. Kurulum bu kadar basit.

API anahtarı al