中文 ▾

GPT API base_url:如何为任意 OpenAI 客户端设置

base URL 是决定你的 OpenAI 风格客户端与哪个服务器通信的设置。更改它,更改密钥和模型名称,其余代码保持不变。

已更新

将数据包从一个服务器重定向到另一个服务器的指示,说明 base URL 更改

要点

  • 我们的 base URL 是 https://api.uncensoredgptapi.com/v1,模型 ID 为 uncensored。
  • Python 和 Node SDK 接受 base_url 或 baseURL;两者也读取环境变量。
  • 大多数故障源于缺少 /v1、路径重复或旧的模型名称。
  • GET /v1/models 是确认 URL 和密钥正确的最快方法。

base URL 的作用

gpt api base_url 是 OpenAI SDK 拼接到每个接口路径前面的地址。默认情况下,官方 SDK 将请求发送到 OpenAI 的服务器。如果你设置不同的 base URL,相同的客户端代码会将相同的请求格式发送到遵循相同协议的其他服务器。

这就是兼容 OpenAI 的实际含义。我们的 API 接受 POST /v1/chat/completions 和 GET /v1/models,具有相同的 JSON 结构、相同的 Authorization: Bearer 标头和相同的流式格式。因此,你需要更改三个值:

  • Base URL:https://api.uncensoredgptapi.com/v1
  • API 密钥:来自你仪表板的密钥
  • 模型:uncensored

我们的服务是一个独立的运行单一开放权重模型的服务。它不是 OpenAI 的 API,也不是到其他供应商的路由器,因此模型名称如 gpt-4o 在此不存在。在所有地方使用 uncensored。

Python 配合 OpenAI SDK

在当前的 Python SDK 中,创建客户端时传递 base_url。

from openai import OpenAI

client = OpenAI(
    base_url="https://api.uncensoredgptapi.com/v1",
    api_key="YOUR_API_KEY",
)

resp = client.chat.completions.create(
    model="uncensored",
    messages=[
        {"role": "system", "content": "You are a concise assistant."},
        {"role": "user", "content": "Explain what a base URL is in two sentences."},
    ],
)
print(resp.choices[0].message.content)

如果你的代码较旧并使用 openai.api_base,它位于预 1.0 SDK,其中全局设置具有不同的名称。升级包通常比修改代码适配更容易。使用 pip show openai 检查版本。

了解 SDK 如何构建请求很有帮助。它获取你的 base URL,附加接口路径(如 /chat/completions),并添加来自你的密钥的 Authorization: Bearer 标头。这就是整个机制。当出现问题时,打印或记录最终 URL,并与下一部分中的 curl 命令进行比较。

相同的客户端接受 timeout 和 max_retries 设置。默认情况下,连接问题时会重试几次,这对于大多数脚本来说没问题。对于速率限制,捕获 SDK 的速率限制异常并退避。流式请求在其结束之前保持其并发槽位,因此突发的多个长流可能会达到并发限制,即使你每分钟的请求数量很低。

import time
from openai import OpenAI, RateLimitError

client = OpenAI(base_url="https://api.uncensoredgptapi.com/v1", api_key="YOUR_API_KEY", max_retries=0)

def ask(text, tries=4):
    for attempt in range(tries):
        try:
            r = client.chat.completions.create(
                model="uncensored",
                messages=[{"role": "user", "content": text}],
            )
            return r.choices[0].message.content
        except RateLimitError:
            time.sleep(5 * (attempt + 1))
    raise RuntimeError("still rate limited")

第一次重试时等待五秒与 API 在临时过载时发送的 Retry-After: 5 值匹配。在随后的每次尝试中等待更长时间可避免对接口进行大量请求。

Node 和 curl

Node SDK 使用带有大写 URL 的 baseURL。

import OpenAI from "openai";

const client = new OpenAI({
  baseURL: "https://api.uncensoredgptapi.com/v1",
  apiKey: process.env.API_KEY,
});

const resp = await client.chat.completions.create({
  model: "uncensored",
  messages: [{ role: "user", content: "Name three uses for a base URL." }],
});
console.log(resp.choices[0].message.content);

没有 SDK 时,curl 能准确展示 SDK 所做的事情。完整 URL 是 base URL 加上 /chat/completions。

curl https://api.uncensoredgptapi.com/v1/chat/completions \
  -H "Authorization: Bearer $API_KEY" \
  -H "Content-Type: application/json" \
  -d '{"model":"uncensored","messages":[{"role":"user","content":"ping"}]}'

阅读该命令是理解 base URL 的最清晰方式:直到并包括 /v1 的所有内容都是 base,SDK 添加其余部分。

环境变量

如果你无法编辑代码,或者你想为几个脚本设置一个设置,OpenAI SDK 会在未给出显式值时从环境中读取 OPENAI_BASE_URL 和 OPENAI_API_KEY。

export OPENAI_BASE_URL="https://api.uncensoredgptapi.com/v1"
export OPENAI_API_KEY="YOUR_API_KEY"
python my_script.py

这对你未编写的工具很有用。基于 OpenAI SDK 构建的任何内容都可以在不更改的情况下获取变量,尽管你仍然需要在工具中将模型名称设置为 uncensored。如果工具硬编码了模型,你需要自己的设置或代码更改。

保持两个接口分开

许多项目针对一个接口进行测试,然后针对另一个接口发布,或者通过环境在它们之间切换。将这三个值放在代码之外,并从配置中读取它们,以便切换是对文件的更改,而不是代码编辑。

import os
from openai import OpenAI

client = OpenAI(
    base_url=os.environ.get("LLM_BASE_URL", "https://api.uncensoredgptapi.com/v1"),
    api_key=os.environ["LLM_API_KEY"],
)
MODEL = os.environ.get("LLM_MODEL", "uncensored")

使用你自己的变量名而不是 SDK 的默认值可以避免静默陷阱:从 shell 读取 OPENAI_API_KEY 的工具会将那里设置的任何密钥发送到旁边设置的任何 base URL。如果你在个人资料中有旧的 OpenAI 密钥,在项目中有新的 base URL,你可能会将一个服务的密钥发送到另一个服务。不同的名称使这成为不可能,你可以一目了然地看到脚本将使用哪个接口。

也将模型名称视为配置。它是切换时最常留下的值,并产生最令人困惑的故障,因为其他一切看起来都正确。

流式输出和工具使用相同的 base URL

更改 base URL 不会限制功能。流式输出、工具调用和 JSON 模式都通过相同的 /chat/completions 路径,因此针对原始 API 工作的代码将继续工作。流式输出返回 Server-Sent Events,用量信息在流结束时返回。

from openai import OpenAI

client = OpenAI(base_url="https://api.uncensoredgptapi.com/v1", api_key="YOUR_API_KEY")

stream = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Count from one to five."}],
    stream=True,
)
for chunk in stream:
    if chunk.choices and chunk.choices[0].delta.content:
        print(chunk.choices[0].delta.content, end="", flush=True)
print()

对 chunk.choices 的检查很重要。携带用法的最终块可能没有 choices,对空列表进行索引的代码会在最后一条消息时崩溃。工具调用以相同的方式流式传输,作为部分 tool_calls 增量,你在运行函数之前组装它们,结果作为带有 role: "tool" 的消息返回。JSON 模式采用 response_format={"type": "json_object"}。

具有 base URL 字段的 App 和框架

许多 App 在不同的名称下公开相同的设置:API base、接口、自定义 OpenAI URL 或主机。规则不变。粘贴包含 /v1 的 base URL,粘贴密钥,并输入 uncensored 作为模型名称。

例如,SillyTavern 允许你添加兼容 OpenAI 的接口。LangChain 的 ChatOpenAI 类接受 base_url 参数。其他前端将字段称为代理 URL 或反向代理。字段名称因版本而异,因此寻找接受以 /v1 结尾的 URL 的字段。

一些 App 要求从通过调用 GET /v1/models 填充的下拉列表中选择模型。该接口在此处有效并返回模型列表,因此一旦 URL 和密钥正确,下拉列表应显示 uncensored。如果它保持为空,则 URL 或密钥错误。

当 App 同时提供 base URL 字段和“组织”或“项目”字段时,将额外字段留空。这些存在于原始服务中,在此处没有意义。如果 App 坚持使用以特定前缀开头的密钥,尝试不同的连接类型,如通用或自定义 OpenAI 兼容选项,而不是原始服务的预设。

一些桌面工具通过向原始提供商请求特定模型名称来测试连接,即使接口正常也会报告失败。在这种情况下,跳过测试按钮,改为发送一条实际消息。如果收到回复,说明 URL、密钥和模型都正确,只是该工具的检测过于严格。

基于浏览器的工具也可能遇到跨域规则,因为请求离开页面进入不同的主机。如果 Web 工具在浏览器中失败,但相同的调用在 curl 中有效,请从你自己的小型服务器运行请求,以便密钥保持在客户端代码之外,这在任何情况下都是更安全的设计。

常见错误及修复方法

几乎所有配置失败都源于一个简短的列表。

  • 缺少 /v1。 base URL 是 https://api.uncensoredgptapi.com/v1,即从主机名到 /v1 的完整地址,而不仅仅是主机名。如果没有 /v1,SDK 生成的路径将不存在。
  • 路径重复。 如果将 .../v1/chat/completions 粘贴为 base URL,SDK 会再次追加路径。请只输入 base URL。
  • 尾部斜杠。 大多数 SDK 可以处理,但少数工具不行。尝试不带尾部斜杠。
  • 旧的模型名称。 来自原始代码的模型名称如 gpt-4o 将不匹配。设置 uncensored。
  • 错误的密钥。 使用此服务的密钥。OpenAI 密钥在此不起作用,我们的密钥在 OpenAI 上不起作用。
  • 速率限制错误。 HTTP 429 且代码为 rate_limited 表示每分钟请求过多;代码为 concurrency 表示同时请求过多。带有 Retry-After: 5 标头的 429 错误表示临时过载,请等待五秒后重试。

我们的 故障排除指南 更详细地介绍了集成错误。

通过一次调用验证设置

在运行整个应用程序之前,先调用 models 接口。这个请求成本很低,可以确认 URL 和密钥是否匹配。

curl https://api.uncensoredgptapi.com/v1/models \
  -H "Authorization: Bearer $API_KEY"

如果返回的列表包含 uncensored,请发送真实的聊天请求。对于完整密钥,最多支持 8 个并发请求和每分钟 300 个请求;试用密钥允许 2 个并发请求和每分钟 60 个请求。每个响应都包含 X-Request-Id、X-Balance-USD 以及速率限制标头,在调试时很有用。

要获取密钥,请注册并使用 API 密钥页面,新用户可以在这里一键领取 $0.50试用额度。文档 涵盖连接成功后可用的流式输出、函数调用和 JSON 模式等功能。

问答

你们的 API base URL 是什么?

它是 https://api.uncensoredgptapi.com/v1。包含 /v1 部分,并省略接口路径。

我应该使用哪个模型名称?

使用 uncensored。其他提供商的模型名称(如 gpt-4o)在此不可用。

我可以使用现有的 OpenAI SDK 代码吗?

是的。更改base URL、API 密钥和模型名称即可。聊天补全、流式输出、函数调用和 JSON 模式遵循相同的请求格式。

OPENAI_BASE_URL 变量有效吗?

当代码中未传入base URL 时,官方 OpenAI SDK 会读取该变量,因此设置它通常就足够了。请检查你使用的工具,因为有些工具会忽略它。

为什么我会收到 429 错误?

代码 rate_limited 表示每分钟请求过多,代码 concurrency 表示同时请求过多。带有 Retry-After 为 5 的 429 错误表示临时过载,因此请在五秒后重试。

只差一张表单,即可获得密钥

创建账户,复制密钥,更改base URL。这就是全部设置。

获取 API 密钥