AiHummer
中文▾
登录帐户
v1.1.x▾
v1.2.xstablev1.1.xstablev1.0.xstable
{ }Swagger
访问与集成/自带密钥（BYOK）与大语言模型（LLM）提供商

自带密钥（BYOK）与大语言模型（LLM）提供商

v1.1.x · 已更新 2026-07-05

AiHummer 从不要求付费模型。开箱即用，它可以运行在免费的本地模型上，也可以通过 Codex/ChatGPT 订阅进行传输，如果没有任何模型接入，运行时会回退到一个确定性的模拟模型，因此平台仍然可以启动并进行测试。当你确实想要使用特定模型时，你需要自己提供——可以作为全进程的配置，或者按租户配置。 自带密钥 （自带密钥）

支持的 LLM 提供商

AiHummer可以原生与任何提供OpenAI风格聊天API的服务提供商进行通信，通过外部LLM网关连接其他提供商，并支持ChatGPT订阅传输。实际上，这涵盖了：

提供者 它如何连接 笔记
OpenAI 本地 OpenAI 兼容路径（AIHUMMER_OPENAI_*)
任何符合 OpenAI API 标准的端点 相同的原生路径： AIHUMMER_OPENAI_BASE_URL 本地模型、OpenRouter、Gemini 的 OpenAI 兼容 API 等。
人类中心 网页用户界面 人类中心 预设（兼容 OpenAI）或通过 LLM 网关（AIHUMMER_LLM_*) Claude 模型；从品牌提供者选择器连接它，或者让边车网关持有密钥
Codex / ChatGPT 订阅传输 基于订阅的交通（AIHUMMER_CODEX_*) 使用 ChatGPT 订阅而不是计量 API 密钥

[!WARNING] 没有任何付费模型 API 是强制性的。AiHummer 可以在免费/本地模型上运行，并且 Codex/ChatGPT 订阅传输，以及 如果没有配置模型 运行时使用确定性的模拟 ——网关仍然启动并响应。 自带密钥 (BYOK) 和付费密钥完全是可选的。

用设置布线模型

LLM 密钥是 设置目录 旋钮（存储在数据库中）：可以在管理界面（管理 → 设置）中设置，或使用 aihummer settings set，不在 gateway.env. 有 两条独立的布线路径 ——不要混合它们的变量。

(a) 原生兼容 OpenAI 的路径。 网关自身调用兼容 OpenAI 的端点，并自行传递密钥：

aihummer settings set AIHUMMER_OPENAI_API_KEY sk-...
aihummer settings set AIHUMMER_OPENAI_BASE_URL https://api.openai.com/v1
aihummer settings set AIHUMMER_OPENAI_MODEL gpt-4o-mini

相同的路径适用于本地兼容 OpenAI 的服务器、OpenRouter 或 Gemini 的兼容 OpenAI 的端点 —— 只需指向即可 AIHUMMER_OPENAI_BASE_URL 在它上面。

(b) LLM 网关路径。 AIHUMMER_LLM_GATEWAY_URL 是兼容 OpenAI 的端点的基础 URL —— 这是在以下位置显示的相同设置 配置. 将它指向网关边车的一侧 自己持有提供者密钥 （没有 API 密钥通过 AiHummer），或者直接在提供商的 OpenAI 兼容 API 上（在这种情况下，你也提供该提供商的密钥）。它不同于原生 AIHUMMER_OPENAI_BASE_URL 在路径 (a) 中：

aihummer settings set AIHUMMER_LLM_GATEWAY_URL http://127.0.0.1:8090
aihummer settings set AIHUMMER_LLM_PROVIDER anthropic
aihummer settings set AIHUMMER_LLM_MODEL claude-sonnet-4-5

[!WARNING] 路径不合并：配对 AIHUMMER_LLM_GATEWAY_URL 与 AIHUMMER_OPENAI_API_KEY 什么也不做——没有按键被传送到网关 路径；边车使用它自己的密钥。

如果两个路径都未配置，则使用确定性模拟。

BYOK：每租户密钥

环境变量配置单一的全进程模型时， 自带密钥 让每个租户提供自己的 LLM 凭证。BYOK 密钥通过管理员 API 管理：

GET  /v1/admin/byok
POST /v1/admin/byok

BYOK 密钥存储在加密的保险库中，就像其他所有凭证一样——它们从不被写入日志或在模型上下文中显示。这就是多租户部署能够完全分开每个客户的模型计费和密钥材料的原因。

在共享设置和自带密钥之间进行选择

  • 使用 AIHUMMER_OPENAI_* / AIHUMMER_LLM_* 设置 为了一个 整个网关应该使用的单租户或默认模型。
  • 使用 自带密钥 当不同的租户必须使用不同的密钥时，不同的 提供者，或单独收费——每个租户的密钥会覆盖默认设置 为那个租户。

[!TIP] 因为接受任何符合 OpenAI API 标准的端点，你可以指向 AIHUMMER_OPENAI_BASE_URL 在本地模型服务器、OpenRouter 或 Gemini 上 在不改变 AiHummer 其他任何内容的情况下，兼容 OpenAI 的端点。

这与访问模型的其余部分的关系

BYOK 密钥是模型凭证，并存储在与之相同的加密保险库中 连接 以及共享/个人的秘密。区别在于范围：BYOK 回答该租户使用哪个模型和密钥，而 个人与共享 范围答案给定工具调用运行时所使用的凭证。

接下来去哪儿