BYOK we LLM üpjün edijiler
AiHummer hiç haçan tölegli modeli talap etmeýär. Gapydan çykanda ol mugt we ýerli modellerde we Codex/ChatGPT-ýaňlaýyş transportunda işleýär, we eger hiç bir model birikdirilmedik bolsa, işlemäni gaýtadan ýola goýmak üçin deterministik imitasiýa ulanylýar, şonuň üçin platforma entek-de başlap, synag edilip bilner. Eger siz belli bir modeli isleseňiz, ony özüňiz getirýärsiňiz — ýa onda programma boýunça umumy sazlamada ýa-da, her bir kirdeýän üçin, BYOK (öz açaryňy getir)
Goldaw berilýän LLM üpjün edijiler
AiHummer islendik OpenAI stilindäki söhbet API-ini hödürleýän üpjün ediji bilen kök görnüşde gepleşýär, beýleki üpjün edijilere daşarky LLM geçelgesi arkaly ýetýär we ChatGPT-ýa obuna transportyny goldaýar. Amaly taýdan bu şunulary öz içine alýar:
| üpjün ediji | Ol nädip baglanyşýar | Bellikler |
|---|---|---|
| OpenAI | Aşakdaky OpenAI bilen gabat gelýän ýol (AIHUMMER_OPENAI_*) |
|
| Herhangi bir OpenAI-API-standart ugry | Şol bir öz ýerli ýol: AIHUMMER_OPENAI_BASE_URL |
Ýerli modeller, OpenRouter, Gemini-niň OpenAI bilen gabat gelýän API-si we ş.m. |
| Antropik | Web interfeýsi Antropik preset (OpenAI bilen gabat gelýän) ýa-da LLM geçelgisi arkaly (AIHUMMER_LLM_*) |
Claude modelleri; ony markaly üpjün ediji saýlaýjydan birikdir, ýa-da gapyçy serwer açary saklamaga rugsat ber |
| Kodex / ChatGPT-abuna transporty | Abuna esasly transport (AIHUMMER_CODEX_*) |
Ölçümlenýän API açary ýerine ChatGPT abunasyny ulanýar |
[!WARNING] Tölegli model API hiç haçan hökmany däldir. AiHummer mugt/ýerli modellerde işleýär we Codex/ChatGPT-abunaçylyk transporty we eger hiç hili model sazlanmadyk bolsa iş wagty deterministik mok ulanylýar — gapyça heniz hem işläp başlaýar we jogap berýär. BYOK we tölenýän açarlar doly islege baglydyr.
Bir modeli sazlamalar bilen simlemek
LLM açarlary saýlawlar-katalog düwmeçikler (maglumatlar bazasynda saklanan): olary administrasiýa interfeýsinde (Dolandyryş → Saýlamalar) ýa-da bilen sazlaň aihummer settings set, däl-de gateway.env. Bar iki garaşsyz sim çekiş ýoly — olaryň üýtgeýjilerini garyşdyrma.
(a) Asyl OpenAI bilen gabat gelýän ýol. Şlüz OpenAI bilen gabat gelýän bir düwmäni özüni çagyrýar we açary hem özüni berýär:
aihummer settings set AIHUMMER_OPENAI_API_KEY sk-...
aihummer settings set AIHUMMER_OPENAI_BASE_URL https://api.openai.com/v1
aihummer settings set AIHUMMER_OPENAI_MODEL gpt-4o-mini
Şeýle-de bir ýoly ýerli OpenAI bilen gabat gelýän serwer, OpenRouter ýa-da Gemini-niň OpenAI bilen gabat gelýän ugry üçin hem işleýär — diňe görkezmegiňiz ýeterlik AIHUMMER_OPENAI_BASE_URL oňa.
(b) LLM-gapysy ýoly. AIHUMMER_LLM_GATEWAY_URL OpenAI bilen gabat gelýän bir düwmeli nokadyň esasy URL salgysy — bu, görkezilen şol bir sazlama Konfigurasiýa. Ony gapydaş tarapdaky sidecara gönükdiriň özünde üpjün ediji açarlaryny saklaýar (AiHummer arkaly hiç hili API açary geçmeýär), ýa-da göniden-göni üpjün edijiniň OpenAI bilen gabat gelýän API-sinde (bu ýagdaýda şol üpjün edijiniň açaryny hem berýärsiňiz). Ol tebigydan tapawutlydyr AIHUMMER_OPENAI_BASE_URL ýolda (a):
aihummer settings set AIHUMMER_LLM_GATEWAY_URL http://127.0.0.1:8090
aihummer settings set AIHUMMER_LLM_PROVIDER anthropic
aihummer settings set AIHUMMER_LLM_MODEL claude-sonnet-4-5
[!WARNING] Yollar birleşmeýär: jübütleşdirme
AIHUMMER_LLM_GATEWAY_URLbilenAIHUMMER_OPENAI_API_KEYhiç zat etmeýär — gatewayde hiç bir açar iberilmeýär ýol; sidekar öz beýiklerini ulanar.
Eger hiç bir ýol sazlanmadyk bolsa, deterministik mugt ulanylýar.
BYOK: her-tanaly açarlary
Çäheriniň üýtgeýän öňündäki töwekgelçiliklerde birinji prosesiň-wide modelini sazlaýan ýerlerde, BYOK Her töwekgelçilikçi öz LLM şahsy maglumatlaryny üpjün etsin. BYOK açarlary administratoriň API-sinden dolandyrylýar:
GET /v1/admin/byok
POST /v1/admin/byok
BYOK açarlary şifrlenen gapda saklanylýar, beýleki kirdeji maglumatlar ýaly — olar hiç haçan loglara ýazylmaýar ýa-da modeliň kontekstinde görkezilmeýär. Bu köp müşderili ýerleşdirişiň her bir müşderiniň model hasaplamasyny we açar materialyny doly bir-birinden aýry saklamagyna mümkinçilik berýär.
Ulgamly sazlamalar bilen BYOK arasynda saýlamak
- Ulanyň
AIHUMMER_OPENAI_*/AIHUMMER_LLM_*saýlamalar üçin bütin geçelge tarapyndan ulanylmalydygy sebäpli bir ýeke-täçli ýa-da standart model. - Ulanylýar BYOK tährli kärendeçiler dürli açarlary ulanmaly bolanda, başga üpjün edijiler ýa-da ýörite ýagdaýda tölenip bilner — her ýaşaýjynyň açary adaty sazlamany özleşdirýär şol ýerleşýän üçin.
[!TIP] Çünki islendik OpenAI-API-standartly nokady kabul edilýär, siz ünsi gönükdirip bilersiňiz
AIHUMMER_OPENAI_BASE_URLýerli model serverinde, OpenRouter-de ýa-da Gemini-de AiHummer-de başga hiç zady üýtgetmän OpenAI bilen gabat gelýän nokad.
Bunun elýeterlilik modeliniň galany bilen nädip baglanyşýandygy
BYOK açarlary model şahadatnamalarydyr we şul bir şifrlenen gapynyň içinde ýerleşýär Baglanyşyklary we paýlaşylan/şahsy gizlinlikler. Tapawut möçberde: BYOK bu tenant haýsy modeli we açary ulanýandygyny jogap berýär, ýöne şahsy we umumy çägeli jogaplar berilen gural jaňyny haýsy şahsyýet şahadatnamalary bilen ýerine ýetirýändigini.
Indi nire?
- Şahsy we paýlaşylan şahsyýet maglumatlary
- Baglanyşyklar (ulanyjy başyna OAuth2)
- giriş — tölenmedik modeller meseleleriň çägindäki prinsip