Điểm chính
- Base URL của chúng tôi là https://api.uncensoredgptapi.com/v1 và ID mô hình là
uncensored. - SDK Python và Node nhận base_url hoặc baseURL; cả hai đều đọc biến môi trường.
- Hầu hết các lỗi đến từ việc thiếu /v1, đường dẫn bị lặp lại, hoặc tên mô hình cũ.
- GET /v1/models là cách nhanh nhất để xác nhận URL và khóa đúng.
Base URL dùng để làm gì
base URL API GPT là địa chỉ mà SDK OpenAI thêm vào trước mọi đường dẫn endpoint. Theo mặc định, các SDK chính thức gửi yêu cầu đến máy chủ của OpenAI. Nếu bạn đặt một base URL khác, cùng mã client sẽ gửi cùng định dạng yêu cầu đến một máy chủ khác hỗ trợ cùng giao thức.
Đó là tất cả những gì OpenAI-compatible có nghĩa trong thực tế. API của chúng tôi chấp nhận POST /v1/chat/completions và GET /v1/models với cùng cấu trúc JSON, cùng header Authorization: Bearer và cùng định dạng truyền phát. Vì vậy bạn chỉ cần thay đổi ba giá trị:
- Base URL:
https://api.uncensoredgptapi.com/v1 - Khóa API: khóa từ bảng điều khiển của bạn
- Mô hình:
uncensored
Dịch vụ của chúng tôi là một dịch vụ độc lập chạy một mô hình open-weight duy nhất. Nó không phải API của OpenAI và không phải bộ định tuyến sang các nhà cung cấp khác, vì vậy các tên mô hình như gpt-4o không tồn tại ở đây. Hãy dùng uncensored ở mọi nơi.
Python với SDK OpenAI
Trong SDK Python hiện tại, hãy truyền base_url khi tạo client.
from openai import OpenAI
client = OpenAI(
base_url="https://api.uncensoredgptapi.com/v1",
api_key="YOUR_API_KEY",
)
resp = client.chat.completions.create(
model="uncensored",
messages=[
{"role": "system", "content": "You are a concise assistant."},
{"role": "user", "content": "Explain what a base URL is in two sentences."},
],
)
print(resp.choices[0].message.content)Nếu mã của bạn cũ hơn và sử dụng openai.api_base, nó thuộc phiên bản SDK trước 1.0, nơi cài đặt toàn cục có tên khác. Nâng cấp gói thường dễ hơn là sửa code cho phù hợp. Hãy kiểm tra phiên bản với pip show openai.
Bạn nên biết cách SDK xây dựng một yêu cầu. Nó lấy base URL của bạn, thêm đường dẫn endpoint như /chat/completions, và thêm tiêu đề Authorization: Bearer từ khóa của bạn. Đó là toàn bộ cơ chế. Khi có lỗi, hãy in hoặc ghi log URL cuối cùng và so sánh nó với lệnh curl trong phần tiếp theo.
Cùng client đó chấp nhận các cài đặt timeout và max_retries. Các giá trị mặc định thử lại vài lần khi gặp sự cố kết nối, điều này ổn cho hầu hết các script. Với giới hạn tốc độ, hãy bắt ngoại lệ giới hạn tốc độ của SDK và giảm tần suất. Một yêu cầu truyền phát giữ slot độ đồng thời của nó cho đến khi kết thúc, vì vậy một đợt burst các stream dài có thể đạt giới hạn độ đồng thời ngay cả khi số lượng yêu cầu mỗi phút của bạn thấp.
import time
from openai import OpenAI, RateLimitError
client = OpenAI(base_url="https://api.uncensoredgptapi.com/v1", api_key="YOUR_API_KEY", max_retries=0)
def ask(text, tries=4):
for attempt in range(tries):
try:
r = client.chat.completions.create(
model="uncensored",
messages=[{"role": "user", "content": text}],
)
return r.choices[0].message.content
except RateLimitError:
time.sleep(5 * (attempt + 1))
raise RuntimeError("still rate limited")Thời gian chờ năm giây cho lần thử lại đầu tiên khớp với giá trị Retry-After: 5 mà API gửi khi quá tải tạm thời. Chờ lâu hơn ở mỗi lần thử sau tránh gây áp lực lên endpoint.
Node và curl
SDK Node.js sử dụng baseURL với chữ U viết hoa.
import OpenAI from "openai";
const client = new OpenAI({
baseURL: "https://api.uncensoredgptapi.com/v1",
apiKey: process.env.API_KEY,
});
const resp = await client.chat.completions.create({
model: "uncensored",
messages: [{ role: "user", content: "Name three uses for a base URL." }],
});
console.log(resp.choices[0].message.content);Không dùng SDK nào, curl hiển thị chính xác những gì SDK làm. URL đầy đủ là base URL cộng với /chat/completions.
curl https://api.uncensoredgptapi.com/v1/chat/completions \
-H "Authorization: Bearer $API_KEY" \
-H "Content-Type: application/json" \
-d '{"model":"uncensored","messages":[{"role":"user","content":"ping"}]}'Đọc lệnh đó là cách rõ ràng nhất để hiểu base URL: mọi thứ tính đến và bao gồm /v1 là base, và SDK thêm phần còn lại.
Biến môi trường
Nếu bạn không thể chỉnh sửa mã, hoặc muốn một thiết lập cho nhiều script, các SDK OpenAI đọc OPENAI_BASE_URL và OPENAI_API_KEY từ môi trường khi không có giá trị rõ ràng nào được cung cấp.
export OPENAI_BASE_URL="https://api.uncensoredgptapi.com/v1"
export OPENAI_API_KEY="YOUR_API_KEY"
python my_script.pyĐiều này hữu ích cho các công cụ bạn không tự viết. Bất kỳ thứ gì được xây dựng trên SDK OpenAI có thể nhận các biến này mà không cần thay đổi, mặc dù bạn vẫn cần đặt tên mô hình thành uncensored trong công cụ. Nếu công cụ mã hóa cứng một mô hình, bạn cần thiết lập riêng hoặc thay đổi mã.
Giữ hai endpoint riêng biệt
Nhiều dự án kiểm tra với một endpoint và triển khai với một endpoint khác, hoặc chuyển đổi giữa chúng bằng môi trường. Hãy giữ ba giá trị ra khỏi mã và đọc chúng từ cấu hình, để việc chuyển đổi là thay đổi một tệp và không phải chỉnh sửa mã.
import os
from openai import OpenAI
client = OpenAI(
base_url=os.environ.get("LLM_BASE_URL", "https://api.uncensoredgptapi.com/v1"),
api_key=os.environ["LLM_API_KEY"],
)
MODEL = os.environ.get("LLM_MODEL", "uncensored")Sử dụng tên biến của riêng bạn thay vì các giá trị mặc định của SDK tránh một bẫy thầm lặng: một công cụ đọc OPENAI_API_KEY từ shell sẽ gửi bất kỳ khóa nào được đặt ở đó đến bất kỳ base URL nào được đặt bên cạnh nó. Nếu bạn có một khóa OpenAI cũ trong hồ sơ của mình và một base URL mới trong dự án, bạn có thể kết thúc bằng việc gửi khóa của dịch vụ này sang dịch vụ khác. Các tên riêng biệt làm điều đó không thể xảy ra, và bạn có thể thấy ngay lập tức một script sẽ sử dụng endpoint nào.
Hãy coi tên mô hình là cấu hình. Đó là giá trị thường bị bỏ lại khi bạn chuyển đổi, và nó tạo ra các lỗi khó hiểu nhất, vì mọi thứ khác đều trông đúng.
Truyền phát và công cụ dùng cùng một base URL
Việc thay đổi base URL không làm giảm tính năng. Truyền phát, gọi hàm và chế độ JSON đều đi qua cùng một đường dẫn /chat/completions, nên code hoạt động với API gốc vẫn hoạt động. Truyền phát trả về Server-Sent Events, với thông tin sử dụng được báo cáo ở cuối luồng.
from openai import OpenAI
client = OpenAI(base_url="https://api.uncensoredgptapi.com/v1", api_key="YOUR_API_KEY")
stream = client.chat.completions.create(
model="uncensored",
messages=[{"role": "user", "content": "Count from one to five."}],
stream=True,
)
for chunk in stream:
if chunk.choices and chunk.choices[0].delta.content:
print(chunk.choices[0].delta.content, end="", flush=True)
print()Kiểm tra trên chunk.choices là quan trọng. Chunk cuối cùng chứa thông tin sử dụng có thể không có choices, và code truy cập vào danh sách rỗng sẽ gây lỗi ở tin nhắn cuối. Các lệnh gọi công cụ được truyền phát theo cách tương tự, dưới dạng các phần delta tool_calls riêng lẻ mà bạn phải ghép lại trước khi chạy hàm, và kết quả được trả lại dưới dạng các tin nhắn với role: "tool". Chế độ JSON yêu cầu response_format={"type": "json_object"}.
Ứng dụng và framework có trường base URL
Nhiều ứng dụng hiển thị cùng thiết lập dưới các tên khác nhau: API base, endpoint, URL OpenAI tùy chỉnh hoặc host. Quy tắc không thay đổi. Dán base URL bao gồm /v1, dán khóa và nhập uncensored làm tên mô hình.
SillyTavern, ví dụ, cho phép bạn thêm một endpoint tương thích OpenAI. Lớp ChatOpenAI của LangChain chấp nhận đối số base_url. Các giao diện khác gọi trường này là proxy URL hoặc reverse proxy. Tên trường thay đổi theo phiên bản, vì vậy hãy tìm trường chấp nhận URL kết thúc bằng /v1.
Một số ứng dụng yêu cầu chọn mô hình từ danh sách thả xuống được điền bằng cách gọi GET /v1/models. Endpoint đó hoạt động ở đây và trả về danh sách mô hình, vì vậy danh sách thả xuống sẽ hiển thị uncensored khi URL và khóa đúng. Nếu nó vẫn trống, URL hoặc khóa sai.
Khi một ứng dụng cung cấp cả trường base URL và trường "organization" hoặc "project", hãy để các trường bổ sung trống. Những trường này dành cho dịch vụ gốc và không có ý nghĩa ở đây. Nếu một ứng dụng bắt buộc một khóa bắt đầu bằng một tiền tố nhất định, hãy thử một loại kết nối khác, như tùy chọn tương thích OpenAI chung hoặc tùy chỉnh, thay vì tùy chọn mặc định cho dịch vụ gốc.
Một số công cụ trên máy để bàn kiểm tra kết nối bằng cách yêu cầu tên mô hình cụ thể từ nhà cung cấp gốc, và báo cáo lỗi ngay cả khi endpoint hoạt động tốt. Trong trường hợp đó, hãy bỏ qua nút kiểm tra và gửi một tin nhắn thật. Nếu phản hồi đến, URL, khóa và mô hình đều chính xác, và công cụ chỉ đang kiểm tra nghiêm ngặt.
Các công cụ dựa trên trình duyệt cũng có thể gặp phải các quy tắc cross-origin, vì yêu cầu rời khỏi trang để đến một máy chủ khác. Nếu một công cụ web thất bại trong trình duyệt nhưng cùng lệnh gọi hoạt động trong curl, hãy chạy yêu cầu từ một máy chủ nhỏ của riêng bạn để khóa không nằm trong mã phía máy khách, đây là thiết kế an toàn hơn trong mọi trường hợp.
Các lỗi thường gặp và cách sửa chúng
Hầu hết các thiết lập thất bại đều đến từ một danh sách ngắn.
- Thiếu /v1. Base URL là
https://api.uncensoredgptapi.com/v1, toàn bộ địa chỉ lên đến/v1và không chỉ tên máy chủ. Không có/v1, SDK sẽ xây dựng các đường dẫn không tồn tại. - Đường dẫn bị lặp lại. Nếu bạn dán
.../v1/chat/completionslàm base URL, SDK sẽ nối thêm đường dẫn đó một lần nữa. Chỉ cung cấp base URL. - Dấu gạch chéo cuối. Hầu hết các SDK xử lý nó, nhưng một số công cụ thì không. Hãy thử bỏ nó đi.
- Tên mô hình cũ. Một tên mô hình như
gpt-4ocòn sót lại từ mã gốc sẽ không khớp. Hãy đặtuncensored. - Sai khóa. Hãy dùng khóa từ dịch vụ này. Khóa OpenAI không hoạt động ở đây, và khóa của chúng tôi không hoạt động trên OpenAI.
- Lỗi giới hạn tốc độ. HTTP 429 với mã
rate_limitednghĩa là quá nhiều yêu cầu mỗi phút; mãconcurrencynghĩa là quá nhiều cùng lúc. Lỗi 429 kèm tiêu đềRetry-After: 5đánh dấu quá tải tạm thời, vì vậy hãy chờ năm giây và thử lại.
Hướng dẫn khắc phục sự cố của chúng tôi đi chi tiết hơn về các lỗi tích hợp.
Xác minh cài đặt chỉ qua một lần gọi
Trước khi chạy toàn bộ ứng dụng của bạn, hãy gọi endpoint mô hình. Nó rẻ và xác nhận URL và khóa cùng lúc.
curl https://api.uncensoredgptapi.com/v1/models \
-H "Authorization: Bearer $API_KEY"Nếu kết quả trả về một danh sách chứa uncensored, bạn hãy gửi một yêu cầu chat thực. Với khóa đầy đủ, bạn có thể thực hiện tối đa 8 yêu cầu đồng thời và 300 yêu cầu mỗi phút; khóa dùng thử cho phép 2 yêu cầu đồng thời và 60 yêu cầu mỗi phút. Mỗi phản hồi đều bao gồm X-Request-Id, X-Balance-USD và các tiêu đề giới hạn tốc độ, rất hữu ích khi bạn gỡ lỗi.
Để lấy khóa, hãy đăng ký và sử dụng trang khóa API, nơi người dùng mới có thể nhận tín dụng dùng thử $0,50 chỉ với một cú nhấp chuột. Tài liệu bao gồm streaming, gọi hàm và chế độ JSON sau khi kết nối hoạt động.
