AiHummer
Türkçe
Oturum açHesap
v1.0.x
{ }Swagger

BYOK ve LLM sağlayıcıları

v1.0.x · güncellendi 2026-07-05

AiHummer asla ücretli bir modeli gerektirmez. Kutudan çıktığı gibi ücretsiz ve yerel modellerle ve bir Codex/ChatGPT abonelik taşıyıcısıyla çalışır ve eğer hiç model bağlanmamışsa, çalışma zamanı deterministik bir taklit ile geri düşer, böylece platform yine de başlatılır ve test edilebilir. Belirli bir model istediğinizde ise, onu kendiniz getirirsiniz — ya süreç genelinde bir yapılandırma olarak ya da kiracı başına, BYOK (kendi anahtarınızı getirin)

Desteklenen LLM sağlayıcıları

AiHummer, OpenAI tarzı bir sohbet API’si sunan herhangi bir sağlayıcıyla yerel olarak konuşur, diğer sağlayıcılara harici bir LLM geçidi aracılığıyla ulaşır ve ChatGPT-abonelik taşımacılığını destekler. Pratikte bu şunları kapsar:

Sağlayıcı Nasıl bağlanır Notlar
OpenAI Yerel OpenAI uyumlu yol (AIHUMMER_OPENAI_*)
Herhangi bir OpenAI-API standardı uç noktası Aynı yerel yol: AIHUMMER_OPENAI_BASE_URL Yerel modeller, OpenRouter, Gemini’nin OpenAI uyumlu API’si vb.
Antropik Web-Arayüz Antropik ön ayar (OpenAI uyumlu) veya LLM geçidi aracılığıyla (AIHUMMER_LLM_*) Claude modelleri; bunu markalı sağlayıcı seçicisinden bağlayın veya yan araba ağ geçidinin anahtarı tutmasına izin verin
Codex / ChatGPT-abonelik taşımacılığı Abonelik tabanlı ulaşım (AIHUMMER_CODEX_*) Ölçümlü bir API anahtarı yerine bir ChatGPT aboneliği kullanır

[!WARNING] Hiçbir ücretli model API’si zorunlu değildir. AiHummer ücretsiz/yerel modeller üzerinde çalışır ve Codex/ChatGPT-abonelik taşımacılığı ve eğer herhangi bir model yapılandırılmamışsa çalışma zamanı deterministik bir sahte kullanır — geçit hâlâ başlıyor ve yanıt veriyor. BYOK ve ücretli anahtarlar tamamen isteğe bağlıdır.

Ayarlarla bir modeli kablolamak

LLM anahtarları şunlardır ayarlar-katalog düğmeler (veritabanında saklanır): bunları yönetici kullanıcı arayüzünde (Yönetim → Ayarlar) veya ile ayarlayın aihummer settings set, -de değil gateway.env. Var iki bağımsız kablolama yolu — değişkenlerini karıştırmayın.

(a) Yerel OpenAI uyumlu yol. Ağ geçidi, OpenAI uyumlu bir uç noktayı kendisi çağırır ve anahtarı kendisi iletir:

aihummer settings set AIHUMMER_OPENAI_API_KEY sk-...
aihummer settings set AIHUMMER_OPENAI_BASE_URL https://api.openai.com/v1
aihummer settings set AIHUMMER_OPENAI_MODEL gpt-4o-mini

Aynı yol, yerel bir OpenAI uyumlu sunucu, OpenRouter veya Gemini’nin OpenAI uyumlu uç noktası için de çalışır — sadece yönlendir. AIHUMMER_OPENAI_BASE_URL onu.

(b) LLM-gateway yolu. AIHUMMER_LLM_GATEWAY_URL OpenAI uyumlu bir uç noktanın temel URL’sidir — bu, gösterilen aynı ayardır Yapılandırma. Bunu bir ağ geçidi yan arabasına doğrultun sağlayıcı anahtarlarını kendisi tutar (hiçbir API anahtarı AiHummer üzerinden geçmez), veya doğrudan bir sağlayıcının OpenAI ile uyumlu API’sinde (bu durumda o sağlayıcının anahtarını da sağlarsınız). Bu, yerelden farklıdır AIHUMMER_OPENAI_BASE_URL yolda (a):

aihummer settings set AIHUMMER_LLM_GATEWAY_URL http://127.0.0.1:8090
aihummer settings set AIHUMMER_LLM_PROVIDER anthropic
aihummer settings set AIHUMMER_LLM_MODEL claude-sonnet-4-5

[!WARNING] Yollar birleşmez: eşleştirme AIHUMMER_LLM_GATEWAY_URL ile AIHUMMER_OPENAI_API_KEY hiçbir şey yapmaz — ağ geçidinde hiçbir tuş iletilmez yol; yan araba kendi anahtarlarını kullanır.

Her iki yol da yapılandırılmamışsa, deterministik taklit kullanılır.

BYOK: kiracı başına anahtarlar

Ortam değişkenleri tek bir süreç genelinde modeli yapılandırdığı yerde, BYOK her kiracının kendi LLM kimlik bilgilerini sağlamasına izin verelim. BYOK anahtarları yönetici API’sinden yönetilir:

GET  /v1/admin/byok
POST /v1/admin/byok

BYOK anahtarları, diğer tüm kimlik bilgileri gibi şifreli kasada saklanır — asla günlük kaydına yazılmaz veya model bağlamında görünmezler. Bu, çoklu kiracılı bir dağıtımın her müşterinin model faturalandırmasını ve anahtar materyalini tamamen ayrı tutmasını sağlar.

Paylaşılan ayarlar ile BYOK arasında seçim yapmak

  • Kullan AIHUMMER_OPENAI_* / AIHUMMER_LLM_* ayarlar için bir Tüm ağ geçidinin kullanması gereken tek kiracılı veya varsayılan model.
  • Kullan BYOK farklı kiracılar farklı anahtarlar kullanmak zorunda olduğunda, farklı sağlayıcılar veya ayrı faturalandırılabilir — kiracı başına anahtar varsayılanı geçersiz kılar o kiracı için.

[!TIP] Çünkü herhangi bir OpenAI-API-standart uç noktası kabul edilir, bu yüzden işaret edebilirsiniz AIHUMMER_OPENAI_BASE_URL yerel bir model sunucusunda, OpenRouter’da veya bir Gemini’de AiHummer’da başka hiçbir şeyi değiştirmeden OpenAI uyumlu uç nokta.

Bunun erişim modelinin geri kalanıyla nasıl ilişkili olduğu

BYOK anahtarları model kimlik bilgileri olup aynı şifreli kasada bulunur Bağlantılar ve paylaşılan/kişisel sırlar. Fark kapsamdır: BYOK bu kiracının hangi modeli ve anahtarı kullandığını yanıtlar, oysa kişisel vs paylaşılan bir aracın çağrısının hangi kimlik bilgileriyle çalıştığını belirten yanıtların kapsamı.

Sonraki durak neresi