AiHummer
Беларуская▾
Увайсці
v1.0.x▾
v1.0.xstable
{ }Swagger
Доступ і інтэграцыі/BYOK і LLM-правайдары

BYOK і LLM-правайдары

v1.0.x · абноўлена 2026-06-26

AiHummer ніколі не патрабуе платнай мадэлі. З каробкі ён працуе на бясплатных і лакальных мадэлях і транспарце на падпісцы Codex/ChatGPT, а калі мадэль не падключана зусім, рантайм адкочваецца да дэтэрмінаванага макета, так што платформа ўсё роўна запускаецца і прыдатная для тэставання. Калі ж вам патрэбна канкрэтная мадэль, вы прыносіце яе самі — або як канфігурацыю на ўвесь працэс, або, для кожнага арандатара, праз BYOK (“прынясі ўласны ключ”).

Падтрыманыя LLM-правайдары

AiHummer размаўляе з любым правайдарам, які прадастаўляе chat API ў стылі OpenAI, а таксама з Anthropic і транспартам на падпісцы ChatGPT. На практыцы гэта ахоплівае:

Правайдар Як падключаецца Заўвагі
Anthropic Натыўны Anthropic API Мадэлі Claude
OpenAI OpenAI chat API
Любая канчатковая кропка са стандартам OpenAI-API URL шлюза, сумяшчальнага з OpenAI Лакальныя мадэлі, OpenRouter, OpenAI-сумяшчальны API ад Gemini і г.д.
Транспарт Codex / падпіска ChatGPT Транспарт на аснове падпіскі Выкарыстоўвае падпіску ChatGPT замест платнага па ліку API-ключа

[!WARNING] Платны API мадэлі ніколі не з’яўляецца абавязковым. AiHummer працуе на бясплатных/лакальных мадэлях і транспарце на падпісцы Codex/ChatGPT, а калі мадэль не сканфігуравана, рантайм выкарыстоўвае дэтэрмінаваны макет — шлюз усё роўна запускаецца і адказвае. BYOK і платныя ключы цалкам апцыянальныя.

Падключэнне мадэлі праз зменныя асяроддзя

Мадэль выбіраецца чатырма зменнымі асяроддзя. Задайце правайдара і мадэль, накіруйце на URL шлюза для OpenAI-сумяшчальных канчатковых кропак і прадастаўце ключ толькі калі канчатковая кропка яго патрабуе:

AIHUMMER_LLM_PROVIDER=openai
AIHUMMER_LLM_MODEL=gpt-4o-mini
AIHUMMER_LLM_GATEWAY_URL=https://api.openai.com/v1
AIHUMMER_OPENAI_API_KEY=sk-...

Для лакальнага OpenAI-сумяшчальнага сервера накіруйце на яго URL шлюза, і ключ звычайна не патрэбны:

AIHUMMER_LLM_PROVIDER=openai
AIHUMMER_LLM_MODEL=qwen2.5-instruct
AIHUMMER_LLM_GATEWAY_URL=http://127.0.0.1:8080/v1

Калі AIHUMMER_LLM_PROVIDER / AIHUMMER_LLM_MODEL адсутнічаюць, выкарыстоўваецца дэтэрмінаваны макет.

BYOK: ключы для кожнага арандатара

Там, дзе зменныя асяроддзя канфігуруюць адну мадэль на ўвесь працэс, BYOK дазваляе кожнаму арандатару прадаставіць уласныя ўліковыя даныя LLM. Ключы BYOK кіруюцца праз admin API:

GET  /v1/admin/byok
POST /v1/admin/byok

Ключы BYOK захоўваюцца ў зашыфраваным сховішчы, гэтак жа як і ўсе іншыя ўліковыя даныя — яны ніколі не запісваюцца ў логі і не з’яўляюцца ў кантэксце мадэлі. Гэта тое, што дазваляе шматарандатарнаму разгортванню трымаць білінг мадэлі і ключавы матэрыял кожнага кліента цалкам аддзеленымі.

Выбар паміж env і BYOK

  • Выкарыстоўвайце зменныя асяроддзя AIHUMMER_LLM_* для адзінага арандатара або мадэлі па змаўчанні, якую павінен выкарыстоўваць увесь шлюз.
  • Выкарыстоўвайце BYOK, калі розныя арандатары павінны выкарыстоўваць розныя ключы, розных правайдараў або выстаўляцца ў білінгу асобна — ключ для канкрэтнага арандатара перавызначае мадэль па змаўчанні для гэтага арандатара.

[!TIP] Паколькі прымаецца любая канчатковая кропка са стандартам OpenAI-API, вы можаце паставіць лакальны сервер мадэлі, OpenRouter або Gemini OpenAI-сумяшчальную канчатковую кропку за AIHUMMER_LLM_GATEWAY_URL, нічога іншага не мяняючы ў AiHummer.

Як гэта звязана з астатняй мадэллю доступу

Ключы BYOK — гэта ўліковыя даныя мадэлі, і яны жывуць у тым жа зашыфраваным сховішчы, што і Падключэнні і агульныя/асабістыя сакрэты. Розніца ў ахопе: BYOK адказвае на пытанне якую мадэль і ключ выкарыстоўвае гэты арандатар, тады як ахоп асабістыя супраць агульных адказвае на пытанне з чыімі ўліковымі данымі выконваецца дадзены выклік інструмента.

Куды далей