BYOK və LLM təminatçıları — AiHummer Sənədlər

AiHummer heç vaxt ödənişli modeli tələb etmir. Qutudan çıxan kimi o, pulsuz və lokal modellərdə və Codex/ChatGPT-abunəlik nəqliyyatında işləyir, və heç bir model qoşulmayıbsa, işləmə vaxtı deterministik mock-a qayıdır, beləliklə platforma hələ də başlayır və sınaqdan keçirilə bilir. Xüsusi bir model istədiyiniz zaman isə onu özünüz gətirirsiniz — ya bütün proses üçün konfiqurasiya kimi, ya da hər kirayəçi üçün ayrı-ayrılıqda, BYOK (öz açarını gətir)

Dəstəklənən LLM provayderləri

AiHummer hər hansı bir OpenAI tipli chat API-si təqdim edən provayderlə yerli səviyyədə danışır, digər provayderlərlə xarici LLM qapısı vasitəsilə əlaqə saxlayır və ChatGPT-abunə daşıma formasını dəstəkləyir. Praktikada bu, aşağıdakıları əhatə edir:

Təchizatçı	Necə qoşulur	Qeydlər
OpenAI	Yerli OpenAI-ə uyğun yol (`AIHUMMER_OPENAI_*`)
Hər hansı OpenAI-API-standart son nöqtəsi	Eyni yerli yol: `AIHUMMER_OPENAI_BASE_URL`	Yerel modellər, OpenRouter, Gemini-nin OpenAI ilə uyumlu API-si və s.
Antropik	Veb-İstifadəçi İnterfeysi Antropik öncədən təyin edilmiş (OpenAI-ə uyğun) və ya LLM keçiddən (`AIHUMMER_LLM_*`)	Claude modelləri; onu brendli təminatçı seçicisindən qoşun və ya yan avtomat qapısının açarı saxlamasına icazə verin
Kodex / ChatGPT-abunə nəqliyyatı	Abunə əsaslı nəqliyyat (`AIHUMMER_CODEX_*`)	Ölçülən API açarı əvəzinə ChatGPT abunəliyindən istifadə edir

[!WARNING] Heç bir ödənişli model API-si heç vaxt məcburi deyil. AiHummer pulsuz/lokal modellərdə işləyir və Codex/ChatGPT-ə abunə daşınması, və əgər heç bir model konfiqurasiya edilməmişsə işləmə vaxtı deterministik saxta istifadə edir — qapı hələ də işə düşür və cavab verir. BYOK və ödənişli açarlar tamamilə könüllüdür.

Bir modeli ayarlarla naqilləmək

LLM açarları bunlardır parametrlər-kataloq düymələr (verilənlər bazasında saxlanılır): onları admin UI-də (İdarəetmə → Parametrlər) və ya ilə təyin edin aihummer settings set, deyil gateway.env. Orada var iki müstəqil naqil yolu — onların dəyişənlərini qarışdırmayın.

(a) Yerli OpenAI-ə uyğun yol. Şlüz özü OpenAI-ə uyğun bir son nöqtəni çağırır və açarı özü verir:

aihummer settings set AIHUMMER_OPENAI_API_KEY sk-...
aihummer settings set AIHUMMER_OPENAI_BASE_URL https://api.openai.com/v1
aihummer settings set AIHUMMER_OPENAI_MODEL gpt-4o-mini

Eyni yol yerli OpenAI-ə uyğun server, OpenRouter və ya Gemini-nin OpenAI-ə uyğun nöqtəsi üçün də işləyir — sadəcə işarə edin AIHUMMER_OPENAI_BASE_URL ona.

(b) LLM-qapısı yolu. AIHUMMER_LLM_GATEWAY_URL OpenAI-ə uyğun bir son nöqtənin əsas URL ünvanıdır — bu, göstərilən eyni parametrlərdir Konfiqurasiya. Onu bir qapı yan avtomobilə işarə edin ki təchizatçı açarlarını özü saxlayır (heç bir API açarı AiHummer vasitəsilə keçmir), ya da bir provayderin OpenAI-uyğun API-sində birbaşa (bu halda siz həmçinin həmin provayderin açarını təmin edirsiniz). Bu, yerli versiyadan fərqlidir AIHUMMER_OPENAI_BASE_URL yolda (a):

aihummer settings set AIHUMMER_LLM_GATEWAY_URL http://127.0.0.1:8090
aihummer settings set AIHUMMER_LLM_PROVIDER anthropic
aihummer settings set AIHUMMER_LLM_MODEL claude-sonnet-4-5

[!WARNING] Yollar birləşmir: cütləşmə AIHUMMER_LLM_GATEWAY_URL ilə AIHUMMER_OPENAI_API_KEY heç bir şey etmir — qapı vasitəsilə heç bir düymə göndərilmir yol; yan arabası öz açarlarından istifadə edir.

Əgər heç bir yol konfiqurasiya edilməyibsə, deterministik saxta istifadə olunur.

BYOK: hər icarədara aid açarlar

Ətraf mühit dəyişənləri tək bir proses üzrə modeli konfiqurasiya edərkən, BYOK hər kirayəçi öz LLM məlumatlarını təmin etsin. BYOK açarları admin API vasitəsilə idarə olunur:

GET  /v1/admin/byok
POST /v1/admin/byok

BYOK açarları digər bütün sertifikatlar kimi şifrələnmiş anbarlarda saxlanılır — onlar heç vaxt loglara yazılmır və ya model kontekstində göstərilmir. Bu, çoxtenantlı yerləşdirmənin hər bir müştərinin model ödəmə və açar materialını tam ayrı saxlamağa imkan verir.

Ortaq parametrlər ilə BYOK arasında seçim etmək

İstifadə et AIHUMMER_OPENAI_* / AIHUMMER_LLM_* ayarlar üçün bütün keçidin istifadə etməli olduğu tək icarəçi və ya standart model.
İstifadə et BYOK fərqli kirayəçilər fərqli açarlardan istifadə etməli olduqda, fərqli təchizatçılar, yoxsa ayrıca faktura olunur — hər kirayəçi üçün açar standartı əvəz edir o kirayəçi üçün.

[!TIP] Çünki hər hansı OpenAI-API-standart son nöqtəsi qəbul edilir, buna görə göstərə bilərsiniz AIHUMMER_OPENAI_BASE_URL yerli model serverində, OpenRouter-də və ya Gemini-də AiHummer-də başqa heç nəyi dəyişmədən OpenAI uyğun nöqtə sonu.

Bu, giriş modelinin qalan hissəsi ilə necə əlaqəlidir

BYOK açarları model etimadnamələridir və eyni şifrələnmiş kumbarda yerləşir Əlaqələr və paylaşılmış/şəxsi sirləri. Fərq miqdardadır: BYOK cavab verir bu kirayədçi hansı modeli və açarı istifadə edir, həm də şəxsi vs paylaşılan cavabların sahəsi verilmiş alət çağırışının hansı səlahiyyətlərlə işlədiyi.

Növbəti haradır

Şəxsi vs paylaşılmış giriş məlumatları
Əlaqələr (istifadəçi başına OAuth2)
Giriş — ödənişsiz modellər mətn daxilində prinsip