Провайдерҳои BYOK ва LLM

aihummer settings set AIHUMMER_OPENAI_API_KEY sk-...
aihummer settings set AIHUMMER_OPENAI_BASE_URL https://api.openai.com/v1
aihummer settings set AIHUMMER_OPENAI_MODEL gpt-4o-mini

aihummer settings set AIHUMMER_LLM_GATEWAY_URL http://127.0.0.1:8090
aihummer settings set AIHUMMER_LLM_PROVIDER anthropic
aihummer settings set AIHUMMER_LLM_MODEL claude-sonnet-4-5

GET  /v1/admin/byok
POST /v1/admin/byok

AiHummer ҳеҷ гоҳ моделҳои пулакӣ талаб намекунад. Он фавран бо моделҳои озод ва маҳаллӣ ва интиқоли обунаи Codex/ChatGPT кор мекунад, ва агар ҳеҷ модел умуман пайваст нашуда бошад, муҳлати иҷро ба як намунаи детерминистӣ бармегардад, то платформа ҳанӯз оғоз ва санҷишшаванда бошад. Вақте ки шумо мехоҳед як модели муайян, шумо онро худатон меоред — ё ҳамчун конфигуратсияи тамоми раванд, ё барои ҳар иҷоранишин. **BYOK** (калиди худро биёред) ## Провайдерҳои LLM дастгирӣшуда AiHummer ба таври модарзодӣ ба ҳар провайдер, ки API-и сӯҳбати навъи OpenAI-ро пешниҳод мекунад, сӯҳбат мекунад, ба дигар провайдерҳо тариқи даргоҳи берунаи LLM мерасад ва интиқоли обунаи ChatGPT-ро дастгирӣ мекунад. Дар амалӣ, ин дар бар мегирад: | Таҳвилкунанда | Чӣ тавр ин пайваст мешавад | Ёддоштҳо | |---|---|---| | **ОпенАИ** | Роҳи мувофиқ бо OpenAI ватанӣ (`AIHUMMER_OPENAI_*`) | | | **Ҳар як нуқтаи охирини стандартии OpenAI-API** | Ҳамон роҳи маҳаллӣ: `AIHUMMER_OPENAI_BASE_URL` | Моделҳои маҳаллӣ, OpenRouter, API мувофиқ бо OpenAI-и Gemini ва ғайра. | | **Антропик** | Мунтазими веб **Антропик** параметри пешфарз (мутобиқ ба OpenAI) ё тавассути дарвозаҳои LLM (`AIHUMMER_LLM_*`) | Моделҳои Claude; онро аз интихоби провайдери бренддор пайваст кунед, ё бигузоред, ки дарвозаи Sidecar калидро нигоҳ дорад | | **Кодекс / нақлиёти обунаи ChatGPT** | Нақлиёти асосёфта бар обуна(`AIHUMMER_CODEX_*`) | Аз обунаи ChatGPT ба ҷои калиди API-и ҳисобшуда истифода мебарад | > [!WARNING] > Ҳеҷ гоҳ истифодаи API-и пардохтшуда ҳатмӣ нест. AiHummer бо моделҳои ройгон/ маҳаллӣ кор мекунад ва > боркашонии обунаи Codex/ChatGPT, ва **агар ҳеҷ модел танзим нашуда бошад > вақти иҷро як модели муайянро истифода мекунад** — дарвоза ҳамоно оғоз мешавад ва посух медиҳад. > Калидҳои BYOK ва пардохтшуда комилан ихтиёрӣ мебошанд. ## Пайваст кардани модел бо танзимот Калидҳои LLM инҳоянд **Танзимоти каталог** тугмаҳо (дар базаи маълумот нигоҳ дошта шудаанд): онҳоро дар интерфейси маъмурӣ (Идоракунӣ → Танзимот) ё бо `aihummer settings set`, на дар `gateway.env`Онҳо ҳастанд **ду роҳҳои мустақили симкашӣ** — тағйирёбандаҳои онҳоро омехта накунед. **(а) Роҳи аслии мувофиқи OpenAI.** Дарвоза мустақиман ба нуқтаи охирини мувофиқи OpenAI муроҷиат мекунад ва калидро худатон мегузаронад: ```bash aihummer settings set AIHUMMER_OPENAI_API_KEY sk-... aihummer settings set AIHUMMER_OPENAI_BASE_URL https://api.openai.com/v1 aihummer settings set AIHUMMER_OPENAI_MODEL gpt-4o-mini ``` Ҳамин роҳ барои сервери маҳаллӣ, ки бо OpenAI мувофиқ аст, OpenRouter ё нуқтаи OpenAI мувофиқонаи Gemini кор мекунад — фақат нишон диҳед `AIHUMMER_OPENAI_BASE_URL` ба он. **(b) Роҳи LLM-gateway.** `AIHUMMER_LLM_GATEWAY_URL` пайвасти асосии URL-и як нуқтаи охирини мувофиқ бо OpenAI — ин ҳамон танзимоти нишон додашуда дар [Танзимот](/tg/v1.0/getting-started/configuration). Онро ба самти канори роҳрави дарвоза нигарон кунед **калидҳои провайдерро худ нигоҳ медорад** (ҳеҷ калиди API тавассути AiHummer гузашта наметавонад), ё мустақиман дар API-и мувофиқи OpenAI-и провайдер (дар ин ҳолат шумо инчунин калиди он провайдерро медиҳед). Он аз натив ҷудо аст `AIHUMMER_OPENAI_BASE_URL` дар роҳ (а): ```bash aihummer settings set AIHUMMER_LLM_GATEWAY_URL http://127.0.0.1:8090 aihummer settings set AIHUMMER_LLM_PROVIDER anthropic aihummer settings set AIHUMMER_LLM_MODEL claude-sonnet-4-5 ``` > [!WARNING] > Роҳҳо муттаҳид намешаванд: ҷуфтсозӣ `AIHUMMER_LLM_GATEWAY_URL` бо > `AIHUMMER_OPENAI_API_KEY` ҳеҷ коре намекунад — ҳеҷ клавиша ба дарвоза фиристода намешавад > роҳ; саёҳати паҳлӯи он калидҳои худро истифода мекунад. Агар ҳеҷ кадом роҳ танзим нашуда бошад, моки детерминистӣ истифода мешавад. ## BYOK: калидҳои ҳар иҷоранишин Ҷое ки тағйирёбандаҳои муҳити атроф як модели ягонаи фаропроцессориро танзим мекунанд, **BYOK** Бигзор ҳар як иҷоранишин маълумотномаи LLM-и худро пешниҳод кунад. Калидҳои BYOK аз API-и маъмур идора мешаванд: ```http GET /v1/admin/byok POST /v1/admin/byok ``` Калидҳои BYOK дар анбори рамзгузоришуда нигоҳ дошта мешаванд, монанди дигар ҳамаи маълумоти эътимодӣ — онҳо ҳеҷ гоҳ ба логҳо навишта намешаванд ва дар сохтори модели контекст намоён намешаванд. Ин аст, ки ба як насби бисёр-мизоҷон имкон медиҳад, ки ҳисоботи модели ҳар як муштарӣ ва маводи калидии онҳоро пурра ҷудо нигоҳ дорад. ## Интихоби байни танзимотҳои муштарак ва BYOK - Истифода баред **`AIHUMMER_OPENAI_*` / `AIHUMMER_LLM_*` танзимот** барои модели як иҷорагир ё пешфарз, ки тамоми дарвозаро бояд истифода барад. - Истифода **BYOK** вақте ки иҷоранишинҳои гуногун бояд калидҳои гуногунро истифода баранд, гуногун таъминкунандагон, ё ҷудогона ҳисоб карда мешаванд — калиди ҳар як иҷоранишин аз муқаррароти пешфарз боло меистад барои он иҷоранишин. > [!TIP] > Зеро ки ҳар як нуқтаи охирини стандартии OpenAI-API қабул мешавад, шумо метавонед нишон диҳед > `AIHUMMER_OPENAI_BASE_URL` дар сервери маҳаллии модел, OpenRouter, ё Gemini > Нуктаи ниҳоии мувофиқ бо OpenAI бидуни тағйир додани чизҳои дигар дар AiHummer. ## Чӣ гуна ин ба боқии модели дастрасӣ рабт дорад Калидҳои BYOK шаҳодатномаи намуна мебошанд ва дар ҳамон анбори рамзгузорӣшуда нигоҳ дошта мешаванд [Пайвастҳо](/tg/v1.0/access/connections-oauth2) ва сирру шахсӣҳои муштарак. Тафовут дар ҳудуд аст: BYOK ҷавоб медиҳад *ки кадом модел ва калидро ин иҷорагир истифода мебарад*, дар ҳоле ки [шиҳсӣ нисбат ба умумӣ](/tg/v1.0/access/personal-vs-shared) ҷавобҳои ҳудуд *ки чӣ шаҳодатномаҳо бо асбоби додашуда иҷро мешаванд*. ## Баъд ба куҷо - [Шаҳсӣ бар муқобили шарикии иҷозатномаҳо](/tg/v1.0/access/personal-vs-shared) - [Пайвастҳо (OAuth2 барои ҳар як корбар)](/tg/v1.0/access/connections-oauth2) - [Муқаддима](/tg/v1.0/getting-started/introduction) — моделҳои беҳуқуқ барои музд принсип дар замина.