BYOK we LLM üpjün edijiler
AiHummer hiç haçan tölegli modeli talap etmeýär. Gutudan çykan badyna ol mugt we ýerli modellerde we Codex/ChatGPT-abonement transportynda işleýär, eger-de hiç bir model umuman baglanmasa, işleýiş wagty determinirlenen makete (mock) gaýdyp gelýär, şonuň üçin platforma henizem başlaýar we synag edip bolýar. Belli bir modeli isläniňizde, ony özüňiz getirýärsiňiz — ýa proses-derejeli sazlama hökmünde, ýa-da her kärendar boýunça BYOK (“öz açaryňyzy getiriň”) bilen.
Goldanýan LLM üpjün edijiler
AiHummer OpenAI-stilli çat API hödürleýän islendik üpjün ediji, şeýle hem Anthropic we ChatGPT-abonement transporty bilen gürleşýär. Amalda bu şulary öz içine alýar:
| Üpjün ediji | Nähili birikýär | Bellikler |
|---|---|---|
| Anthropic | Natiw Anthropic API | Claude modelleri |
| OpenAI | OpenAI çat API | |
| Islendik OpenAI-API-standart nokat | OpenAI bilen utgaşýan derweze URL | Ýerli modeller, OpenRouter, Gemini-niň OpenAI bilen utgaşýan API-si we ş.m. |
| Codex / ChatGPT-abonement transporty | Abonemente esaslanýan transport | Ölçenýän API açary däl-de, ChatGPT abonementini ulanýar |
[!WARNING] Hiç bir tölegli model API hiç haçan hökmany däl. AiHummer mugt/ýerli modellerde we Codex/ChatGPT-abonement transportynda işleýär, we eger hiç bir model sazlanmadyk bolsa, işleýiş wagty determinirlenen maket ulanýar — derweze henizem başlaýar we jogap berýär. BYOK we tölegli açarlar düýbünden meýletindir.
Modeli daşky gurşaw üýtgeýjileri bilen baglamak
Model dört daşky gurşaw üýtgeýjisi bilen saýlanýar. Üpjün edijini we modeli belläň, OpenAI bilen utgaşýan nokatlar üçin derweze URL-e ugrukdyryň we diňe nokat zerur bolsa açar beriň:
AIHUMMER_LLM_PROVIDER=openai
AIHUMMER_LLM_MODEL=gpt-4o-mini
AIHUMMER_LLM_GATEWAY_URL=https://api.openai.com/v1
AIHUMMER_OPENAI_API_KEY=sk-...
Ýerli OpenAI bilen utgaşýan serwer üçin derweze URL-i oňa ugrukdyryň, açar adatça zerur däl:
AIHUMMER_LLM_PROVIDER=openai
AIHUMMER_LLM_MODEL=qwen2.5-instruct
AIHUMMER_LLM_GATEWAY_URL=http://127.0.0.1:8080/v1
Eger AIHUMMER_LLM_PROVIDER / AIHUMMER_LLM_MODEL ýok bolsa, determinirlenen
maket ulanylýar.
BYOK: her kärendar açarlary
Daşky gurşaw üýtgeýjileri ýeke-täk proses-derejeli modeli sazlasa, BYOK her kärendara öz LLM belgilerini bermäge mümkinçilik berýär. BYOK açarlary admin API-den dolandyrylýar:
GET /v1/admin/byok
POST /v1/admin/byok
BYOK açarlary, ähli beýleki belgiler ýaly, şifrlenen seýfde saklanýar — olar hiç haçan loglara ýazylmaýar ýa-da model kontekstinde görkezilmeýär. Bu köp kärendarly ýerleşdirmäniň her müşderiniň model hasaplaşygyny we açar materialyny doly aýratyn saklamagyna mümkinçilik berýär.
Env bilen BYOK-yň arasynda saýlamak
- Tutuş derweze ulanmaly ýeke kärendarly ýa-da deslapky model üçin
AIHUMMER_LLM_*daşky gurşaw üýtgeýjilerini ulanyň. - Dürli kärendarlar dürli açarlary, dürli üpjün edijileri ulanmaly ýa-da aýratyn hasaplaşmaly bolanda BYOK-y ulanyň — her kärendar açary şol kärendar üçin deslapkyny basyp geçýär.
[!TIP] Islendik OpenAI-API-standart nokat kabul edilýändigi sebäpli, AiHummer-de başga hiç zady üýtgetmän, ýerli model serweri, OpenRouter ýa-da Gemini OpenAI bilen utgaşýan nokady
AIHUMMER_LLM_GATEWAY_URL-iň aňyrsynda goýup bilersiňiz.
Bu rugsat modeliniň galanyna nähili degişli
BYOK açarlary model belgileridir we Birikmeler hem-de umumy/şahsy syrlar bilen bir şifrlenen seýfde ýaşaýar. Tapawudy gerimde: BYOK bu kärendaryň haýsy modeli we açary ulanýandygyna jogap berýär, şahsy garşy umumy gerimi bolsa berlen gural çagyryşynyň kimiň belgileri bilen işleýändigine jogap berýär.
Indiki nirä
- Şahsy garşy umumy belgiler
- Birikmeler (her ulanyjy OAuth2)
- Giriş — tölegli model ýok prinsipi kontekstde.