BYOK жана LLM менен камсыздоочулар

AiHummer эч качан акы төлөнгөн моделди талабайт. Кутудан чыгып эле ал бекер жана локалдык моделдерде иштейт жана Codex/ChatGPT жазылуу транспорту менен колдоого алынат, ал эми эгерде эч кандай модель туташтырылбаса, аткаруу убактысы аныктамалуу макетке кайтып, платформа дагы эле баштап жана тестирлене алат. Эгерде сиз конкреттүү модельди кааласаңыз, аны өзүңүз алып келесиз — же бүт процесс боюнча конфигурация катары, же ар бир ижарачы үчүн, BYOK (өз ачкычыңызды алып келиңиз)

Колдоочу LLM провайдерлери

AiHummer кандай гана провайдер OpenAI стилиндеги чат API түзсө, ошол өнүм менен табигый түрдө сүйлөшөт, башка провайдерлерге сырткы LLM шлюзу аркылуу жетет жана ChatGPT-жазылуу транспортун колдойт. Практикада бул төмөнкүлөрдү камтыйт:

Берүүчү	Бул кантип туташат	Эскертмелер
OpenAI	Native OpenAIга шайкеш жол (`AIHUMMER_OPENAI_*`)
Ар кандай OpenAI-API-стандартындагы анын аяк пункту	Ошол эле туруктуу жол: `AIHUMMER_OPENAI_BASE_URL`	Жергиликтүү моделдер, OpenRouter, Gemini’нин OpenAIга шайкеш APIсы ж.б.
Антропикалык	Веб-КОЛ Антропикалык алдын ала орнотулган (OpenAIга шайкеш) же LLM шлюзу аркылуу (`AIHUMMER_LLM_*`)	Клод моделдери; аны брендинг менен камсыздоочу тандоочудан туташтырыңыз же кош тетик шлюзу ачкычты кармай берсин
Codex / ChatGPT-жазылууга транспорт	Жазылуу негизиндеги транспорт (`AIHUMMER_CODEX_*`)	Өлчөлөнгөн API ачкычынан көрө ChatGPT жазылууну колдонот

[!WARNING] Төлөм талап кылынган модель API эч качан милдеттүү эмес. AiHummer акысыз/жергиликтүү моделдерде иштейт жана Кодекс/ChatGPT жазылуу транспорту, жана эгерде эч кандай модель конфигурацияланбаса жүзүү убактысы детерминисттик макту колдонот — шлюз дагы деле иштей баштайт жана жооп берет. BYOK жана төлөнүүчү ачкычтар толугу менен ыктыярдуу.

Модельди настройкалар менен туташтыруу

LLM ачкычтары создоолор-каталог түймөлөр (маалымат базасында сакталган): аларды админ UIде (Башкаруу → Орнотуулар) же менен коюңуз aihummer settings set, эмес gateway.env. Бар эки көз карандысыз электр зым жолдору — алардын өзгөрмөлөрүн аралаштырба.

(a) Туура OpenAIга шайкеш жергиликтүү жол. Шлюз өзү OpenAI менен шайкеш келген чекитке чалат жана ачкычты өзү өткөрүп берет:

aihummer settings set AIHUMMER_OPENAI_API_KEY sk-...
aihummer settings set AIHUMMER_OPENAI_BASE_URL https://api.openai.com/v1
aihummer settings set AIHUMMER_OPENAI_MODEL gpt-4o-mini

Туюмдалган жол жергиликтүү OpenAIга шайкеш сервер, OpenRouter же Geminiнин OpenAIга шайкеш чекитине да жарайт — жөн гана көрсөтүңүз AIHUMMER_OPENAI_BASE_URL анын үстүндө.

(b) LLM-шлагбаум жолу. AIHUMMER_LLM_GATEWAY_URL OpenAI менен шайкеш келген учуп кирүүчү чекиттин негизги URL дареги — бул ошол эле жөндөө, ал жерде көрсөтүлгөн Конфигурация. Аны шлюз кошумчасынын бетине багыттаңыз жеткирүүчү ачкычтарды өзүндө кармайт (Hech кандай API ачкычы AiHummer аркылуу өтпөйт), же түздөн-түз провайдердин OpenAI-га шайкеш API аркылуу (ушул учурда сиз ошондой эле ошол провайдердин ачкычын камсыздайсыз). Бул тубаса программадан айырмаланат AIHUMMER_OPENAI_BASE_URL жолдо (a):

aihummer settings set AIHUMMER_LLM_GATEWAY_URL http://127.0.0.1:8090
aihummer settings set AIHUMMER_LLM_PROVIDER anthropic
aihummer settings set AIHUMMER_LLM_MODEL claude-sonnet-4-5

[!WARNING] Жолдор айкалышпайт: жупташтырууу AIHUMMER_LLM_GATEWAY_URL менен AIHUMMER_OPENAI_API_KEY эч нерсе жасабайт — эшиктөлкө аркылуу эч кандай баскыч өткөрүлбөйт жолу; сайдкар өзүнүн ачкычтарын колдонет.

Эгер эки жол тең конфигурацияланбаса, детерминирленген макет колдонулат.

BYOK: ар бир ижарачы үчүн ачкычтар

Айлана-чөйрөнүн өзгөрмөлөрү бир процесс боюнча бүткүл модельди конфигурациялаган жерде, BYOK ар бир ижарачы өзүнүн LLM ыкчам маалыматтарын камсыз кылсын. BYOK ачкычтары администратор API аркылуу башкарылат:

GET  /v1/admin/byok
POST /v1/admin/byok

BYOK ачкычтары шифрленген сейфтин ичинде сакталат, башка бардык каттоо маалыматы сыяктуу — алар эч качан журналдарга жазылбайт же моделдин контекстинде көрүнбөйт. Бул көп колдонуучу конфигурацияда ар бир кардардын модель үчүн төлөм жана ачкыч материалын толугу менен бөлүп сактоого мүмкүндүк берет.

Жалпы жөндөөлөр жана BYOK ортосунда тандоо

Колдон AIHUMMER_OPENAI_* / AIHUMMER_LLM_* жөндөөлөр үчүн бүтүн шлюз колдонушу керек болгон бир тараптуу же демейки модель.
Колдонуу BYOK ар кандай арендаттар ар кандай ачкычтарды колдонушу керек болгондо, ар кандай провайдерлер, же өзүнчө төлөнүшү мүмкүн — ар бир ижарачы үчүн ачкыч демейки параметрди алмаштырат бул ижарачы үчүн.

[!TIP] Анткени каалаган OpenAI-API-стандарттык аяктоочу чек кабыл алынат, сиз көрсөткүңүз келсе болот AIHUMMER_OPENAI_BASE_URL жергиликтүү модель серверинде, OpenRouterдо же Geminiде AiHummerдеги башка эч нерсени өзгөртпөстөн OpenAIга шайкеш терминал.

Бул калган кирүү модели менен кандай байланышта экенин

BYOK ачкычтары модель күбөлүктөрү болуп саналат жана ошол эле шифрленген саккучта жайгашкан Байланыштар жана бөлүшүлгөн/жеке сырлары. Айырмачылык көлөмдө: BYOK кайсы модель жана ачкычты бул ижарачы колдонорун жооп берет, ал эми жеке vs бөлүштүрүлгөн жооптордун чөйрөсү берилген курал чакырган колдонуучунун күбөлүктөрү менен иштейт.

Келерки кайда

Жеке жана жалпы ырастоолор
Туташтыруулар (пайдаланууга жараша OAuth2)
Киришүү — акысыз-моделдер принцип контексте.