BYOK և LLM մատակարարներ — AiHummer Փաստաթղթեր

AiHummer-ը երբեք չի պահանջում վճարովի մոդել։ Տուփից դուրս այն աշխատում է անվճար և տեղային մոդելների ու Codex/ChatGPT-բաժանորդագրության փոխադրման վրա, իսկ եթե ընդհանրապես ոչ մի մոդել միացված չէ, գործարկման միջավայրը հետ է գլորվում դեպի դետերմինիստական mock, որպեսզի հարթակը դեռ գործարկվի և թեստավորելի լինի։ Երբ դուք իսկապես ուզում եք կոնկրետ մոդել, դուք այն բերում եք ինքներդ՝ կա՛մ որպես ողջ պրոցեսին տարածվող կարգաբերում, կա՛մ ըստ վարձակալի՝ BYOK-ի միջոցով («bring your own key», բերեք ձեր սեփական բանալին)։

Աջակցվող LLM մատակարարներ

AiHummer-ը խոսում է ցանկացած մատակարարի հետ, որը բացահայտում է OpenAI-ոճի chat API, ինչպես նաև Anthropic-ի և ChatGPT-բաժանորդագրության փոխադրման հետ։ Գործնականում սա ընդգրկում է՝

Մատակարար	Ինչպես է միանում	Նշումներ
Anthropic	Native Anthropic API	Claude մոդելներ
OpenAI	OpenAI chat API
Ցանկացած OpenAI-API-ստանդարտ վերջնակետ	OpenAI-համատեղելի gateway URL	Տեղային մոդելներ, OpenRouter, Gemini-ի OpenAI-համատեղելի API և այլն
Codex / ChatGPT-բաժանորդագրության փոխադրում	Բաժանորդագրության վրա հիմնված փոխադրում	Օգտագործում է ChatGPT բաժանորդագրությունը՝ չափաչափված API բանալու փոխարեն

[!WARNING] Ոչ մի վճարովի մոդելի API երբեք պարտադիր չէ։ AiHummer-ը աշխատում է անվճար/տեղային մոդելների և Codex/ChatGPT-բաժանորդագրության փոխադրման վրա, և եթե ոչ մի մոդել կարգաբերված չէ, գործարկման միջավայրը օգտագործում է դետերմինիստական mock — gateway-ը դեռ գործարկվում և պատասխանում է։ BYOK-ը և վճարովի բանալիները լիովին ընտրովի են։

Մոդելի միացում միջավայրի փոփոխականներով

Մոդելն ընտրվում է չորս միջավայրի փոփոխականներով։ Կարգավորեք մատակարարը և մոդելը, մատնանշեք gateway URL-ին OpenAI-համատեղելի վերջնակետերի համար և բանալի տրամադրեք միայն այն դեպքում, եթե վերջնակետին այն անհրաժեշտ է՝

AIHUMMER_LLM_PROVIDER=openai
AIHUMMER_LLM_MODEL=gpt-4o-mini
AIHUMMER_LLM_GATEWAY_URL=https://api.openai.com/v1
AIHUMMER_OPENAI_API_KEY=sk-...

Տեղային OpenAI-համատեղելի սերվերի համար մատնանշեք gateway URL-ին դեպի այն, և բանալին սովորաբար անհրաժեշտ չէ՝

AIHUMMER_LLM_PROVIDER=openai
AIHUMMER_LLM_MODEL=qwen2.5-instruct
AIHUMMER_LLM_GATEWAY_URL=http://127.0.0.1:8080/v1

Եթե AIHUMMER_LLM_PROVIDER / AIHUMMER_LLM_MODEL բացակայում են, օգտագործվում է դետերմինիստական mock-ը։

BYOK՝ բանալիներ ըստ վարձակալի

Այնտեղ, որտեղ միջավայրի փոփոխականները կարգաբերում են ողջ պրոցեսին տարածվող մեկ մոդել, BYOK-ը թույլ է տալիս յուրաքանչյուր վարձակալի տրամադրել իր սեփական LLM հավատարմագրերը։ BYOK բանալիները կառավարվում են admin API-ից՝

GET  /v1/admin/byok
POST /v1/admin/byok

BYOK բանալիները պահվում են գաղտնագրված պահոցում, ճիշտ ինչպես ցանկացած այլ հավատարմագիր — դրանք երբեք չեն գրվում մատյաններում և չեն հայտնվում մոդելի կոնտեքստում։ Հենց սա է, ինչ թույլ է տալիս բազմավարձակալ տեղակայման մեջ պահել յուրաքանչյուր հաճախորդի մոդելի վճարումներն ու բանալիների նյութը լիովին առանձին։

Ընտրություն env-ի և BYOK-ի միջև

Օգտագործեք AIHUMMER_LLM_* միջավայրի փոփոխականները մեկ վարձակալի կամ լռելյայն մոդելի համար, որը պետք է օգտագործի ողջ gateway-ը։
Օգտագործեք BYOK-ը, երբ տարբեր վարձակալներ պետք է օգտագործեն տարբեր բանալիներ, տարբեր մատակարարներ կամ վճարվեն առանձին — ըստ վարձակալի բանալին վերակառավարում է լռելյայնը այդ վարձակալի համար։

[!TIP] Քանի որ ընդունվում է ցանկացած OpenAI-API-ստանդարտ վերջնակետ, դուք կարող եք դնել տեղային մոդելի սերվեր, OpenRouter կամ Gemini OpenAI-համատեղելի վերջնակետ AIHUMMER_LLM_GATEWAY_URL-ի հետևում՝ առանց AiHummer-ում որևէ այլ բան փոխելու։

Ինչպես է սա առնչվում մուտքի մոդելի մնացած մասի հետ

BYOK բանալիները մոդելի հավատարմագրեր են և ապրում են նույն գաղտնագրված պահոցում, ինչ Միացումները և համօգտագործվող/անձնական գաղտնիքները։ Տարբերությունը շրջանակն է. BYOK-ը պատասխանում է որ մոդելը և բանալին է օգտագործում այս վարձակալը, մինչդեռ անձնական ընդդեմ համօգտագործվող շրջանակը պատասխանում է ում հավատարմագրերով է աշխատում տվյալ գործիքի կանչը։

Ուր գնալ հաջորդիվ

Անձնական ընդդեմ համօգտագործվող հավատարմագրեր
Միացումներ (ըստ օգտատիրոջ OAuth2)
Ներածություն — ոչ-վճարովի-մոդելների սկզբունքը կոնտեքստում։