BYOK და LLM პროვაიდერები

AIHUMMER_LLM_PROVIDER=openai
AIHUMMER_LLM_MODEL=gpt-4o-mini
AIHUMMER_LLM_GATEWAY_URL=https://api.openai.com/v1
AIHUMMER_OPENAI_API_KEY=sk-...

AIHUMMER_LLM_PROVIDER=openai
AIHUMMER_LLM_MODEL=qwen2.5-instruct
AIHUMMER_LLM_GATEWAY_URL=http://127.0.0.1:8080/v1

GET  /v1/admin/byok
POST /v1/admin/byok

AiHummer არასოდეს *მოითხოვს* ფასიან მოდელს. ყუთიდან გამოსვლისთანავე ის მუშაობს უფასო და ლოკალურ მოდელებზე და Codex/ChatGPT-გამოწერის ტრანსპორტზე, ხოლო თუ საერთოდ არცერთი მოდელია მიბმული, რანტაიმი უბრუნდება დეტერმინისტულ mock-ს, ისე რომ პლატფორმა მაინც ეშვება და დატესტვადია. როცა გსურთ კონკრეტული მოდელი, თქვენ თავად მოგაქვთ ის — ან პროცესის მასშტაბის კონფიგურაციად, ან, ყოველი მოიჯარისთვის, **BYOK**-ით ("bring your own key", "მოიტანე საკუთარი გასაღები"). ## მხარდაჭერილი LLM პროვაიდერები AiHummer ესაუბრება ნებისმიერ პროვაიდერს, რომელიც გამოაქვს OpenAI-ს სტილის chat API, პლუს Anthropic და ChatGPT-გამოწერის ტრანსპორტი. პრაქტიკაში ეს მოიცავს: | პროვაიდერი | როგორ უკავშირდება | შენიშვნები | |---|---|---| | **Anthropic** | მშობლიური Anthropic API | Claude მოდელები | | **OpenAI** | OpenAI chat API | | | **ნებისმიერი OpenAI-API-სტანდარტის endpoint** | OpenAI-თავსებადი gateway URL | ლოკალური მოდელები, OpenRouter, Gemini-ს OpenAI-თავსებადი API და ა.შ. | | **Codex / ChatGPT-გამოწერის ტრანსპორტი** | გამოწერაზე დაფუძნებული ტრანსპორტი | იყენებს ChatGPT-ის გამოწერას მრიცხველზე დაფუძნებული API გასაღების ნაცვლად | > [!WARNING] > არცერთი ფასიანი მოდელის API არასოდეს არ არის სავალდებულო. AiHummer მუშაობს უფასო/ლოკალურ > მოდელებზე და Codex/ChatGPT-გამოწერის ტრანსპორტზე, ხოლო **თუ მოდელი არ არის კონფიგურირებული, > რანტაიმი იყენებს დეტერმინისტულ mock-ს** — gateway მაინც ეშვება და პასუხობს. > BYOK და ფასიანი გასაღებები მთლიანად არჩევითია. ## მოდელის მიბმა გარემოს ცვლადებით მოდელი არჩევია ოთხი გარემოს ცვლადით. დააყენეთ პროვაიდერი და მოდელი, მიუთითეთ gateway URL OpenAI-თავსებადი endpoint-ებისთვის და მიაწოდეთ გასაღები მხოლოდ მაშინ, თუ endpoint-ს ის სჭირდება: ```ini AIHUMMER_LLM_PROVIDER=openai AIHUMMER_LLM_MODEL=gpt-4o-mini AIHUMMER_LLM_GATEWAY_URL=https://api.openai.com/v1 AIHUMMER_OPENAI_API_KEY=sk-... ``` ლოკალური OpenAI-თავსებადი სერვერისთვის მიუთითეთ gateway URL მასზე და გასაღები ჩვეულებრივ საჭირო არ არის: ```ini AIHUMMER_LLM_PROVIDER=openai AIHUMMER_LLM_MODEL=qwen2.5-instruct AIHUMMER_LLM_GATEWAY_URL=http://127.0.0.1:8080/v1 ``` თუ `AIHUMMER_LLM_PROVIDER` / `AIHUMMER_LLM_MODEL` არ არსებობს, გამოიყენება დეტერმინისტული mock. ## BYOK: გასაღებები ყოველი მოიჯარისთვის იქ, სადაც გარემოს ცვლადები აკონფიგურირებენ ერთ პროცესის მასშტაბის მოდელს, **BYOK** საშუალებას აძლევს ყოველ მოიჯარეს მიაწოდოს საკუთარი LLM სერთიფიკატები. BYOK გასაღებები იმართება admin API-დან: ```http GET /v1/admin/byok POST /v1/admin/byok ``` BYOK გასაღებები ინახება დაშიფრულ vault-ში, ისევე როგორც ყველა სხვა სერთიფიკატი — ისინი არასოდეს იწერება ლოგებში ან არ ჩნდება მოდელის კონტექსტში. სწორედ ეს საშუალებას აძლევს მრავალმოიჯარიან განთავსებას, შეინარჩუნოს ყოველი მომხმარებლის მოდელის ბილინგი და გასაღების მასალა სრულად განცალკევებული. ## env-სა და BYOK-ს შორის არჩევა - გამოიყენეთ **`AIHUMMER_LLM_*` გარემოს ცვლადები** ერთმოიჯარიანი ან ნაგულისხმევი მოდელისთვის, რომელიც მთელმა gateway-მ უნდა გამოიყენოს. - გამოიყენეთ **BYOK**, როცა სხვადასხვა მოიჯარემ უნდა გამოიყენოს სხვადასხვა გასაღები, სხვადასხვა პროვაიდერი ან ცალკე ჰქონდეთ ბილინგი — მოიჯარეზე მიბმული გასაღები გადააჭარბებს ნაგულისხმევს ამ მოიჯარისთვის. > [!TIP] > რადგან მიიღება ნებისმიერი OpenAI-API-სტანდარტის endpoint, შეგიძლიათ ლოკალური მოდელის > სერვერი, OpenRouter ან Gemini-ს OpenAI-თავსებადი endpoint მოათავსოთ > `AIHUMMER_LLM_GATEWAY_URL`-ის უკან AiHummer-ში სხვა არაფრის შეცვლის გარეშე. ## როგორ უკავშირდება ეს დანარჩენ წვდომის მოდელს BYOK გასაღებები მოდელის სერთიფიკატებია და ცხოვრობს იმავე დაშიფრულ vault-ში, როგორც [კავშირები](/ka/v1.0/access/connections-oauth2) და გაზიარებული/პირადი საიდუმლოები. განსხვავება არის სფეროში: BYOK პასუხობს კითხვას *რომელ მოდელსა და გასაღებს იყენებს ეს მოიჯარე*, ხოლო [პირადი vs გაზიარებული](/ka/v1.0/access/personal-vs-shared) სფერო პასუხობს კითხვას *ვისი სერთიფიკატებით სრულდება მოცემული tool-ის გამოძახება*. ## სად შემდეგ - [პირადი vs გაზიარებული სერთიფიკატები](/ka/v1.0/access/personal-vs-shared) - [კავშირები (per-user OAuth2)](/ka/v1.0/access/connections-oauth2) - [შესავალი](/ka/v1.0/getting-started/introduction) — ფასიანი-მოდელების-არყოლის პრინციპი კონტექსტში.