AiHummer
Қазақша▾
КіруЖеке кабинет
v1.2.x▾
v1.2.xstablev1.1.xstablev1.0.xstable
{ }Swagger
Веб-интерфейс (Web UI)/Модельдер

Модельдер

v1.2.x · жаңартылды 2026-07-20

Бұл “Модельдер” экран сіздің агенттеріңіздің қай тіл модельдерін қолданатынын шешеді. Ядросы – преференцияланған жеткізушілер тізбегіAiHummer тізімді жоғарыдан төмен қарай қарап, жұмыс істейтін жауап табады, сондықтан сіз негізгі провайдерді бірінші қоя аласыз, ал резервтерін оның астына орналастыра аласыз.

[!NOTE] Шынайы жеткізуші — қажет емес: біреуін қоспайынша, жауаптар келіп отырады детерминистік моку — арналарды, маршруттауды және агенттерді ешқандай шығынсыз тексеруге жеткілікті. “Шынайы” жауаптар керек болғанда модельді қосыңыз.

Алғашқы провайдеріңізбен 4 қадамда қосылыңыз

  1. Ашу “Модельдер” экранда қосу-провайдер түймесін басыңыз — модаль ашылады (орнату шеберінде қолданылған сол)}

  2. Таңдаңыз қамтамасыз етуші брендтік тізімнен (одан кейін өзгертуге болмайды жасауда). Ресейлік жеткізушілер келеді бірінші, содан кейін Кодекс, одан кейін халықаралықтар:

    • Орысша: ЯндексGPT (Яндекс бұлт), ГигаЧат (Сбер), Cloud.ru (Эволюция), MTS ЖИ (Cotype). Алдын ала орнату дұрыс толтырады сіз үшін соңғы нүкте — тек кілтіңізді қосыңыз да, модельді таңдаңыз.
    • codex — модельдер арқылы ChatGPT жазылымы жеке API кілті жоқ (төменде қараңыз).
    • Халықаралық: OpenAI, Anthropic (Claude), Google Gemini, DeepSeek, xAI (Grok), Mistral, Groq және тағы басқалар — сонымен қатар openai-compatible кез келген OpenAI-мен үйлесетін API және жергілікті серверлермен сервис (Ollama, LM Studio, vLLM).

    Көптеген алдын ала орнатулар OpenAI үйлесімді соңғы нүктені пайдаланады (мекенжайы толтырылады) сен); ЯндексGPT және ГигаЧат өздерінің кіріктірілген аутентификациясы бар, сондықтан Жеке base_url қажет емес.

  3. Өрістерді толтырыңыз: Атауы (өзіңізге ыңғайлы кез келген белгі), Негізгі URL (параметрлер бойынша автоматты түрде толтырылады) және API кілті. Шерт Сынақ — AiHummer байланысын тексереді.

  4. Таңдаңыз модель: сіз алдымен атын қолмен тере аласыз (көрсеткіштермен), содан кейін сәтті тест модель тізімі алды жабдықтаушыдан /models. «Қосылған» деген жерді белгілеңіз де, сақтаңыз.

Сіз көретін нәрсе: жаңа провайдер приоритет нөмірі, түрі, моделі, «кілттер жиынтығы» белгісі және «қосылған» күйімен карточка ретінде көрінеді. Агенттер енді онымен жауап береді, жалған үлгі арқылы емес.

Қайда не орналасатыны: провайдер үлгілері

Тізімнен провайдерді таңдаңыз — алдын ала орнатылған баған мекенжайды толтырады; сіз тек өзіңізді қосасыз кілт (оны провайдердің өз құжаттарынан табыңыз) және таңдаңыз модель. Төмендегі кесте нұсқаулық болып табылады (жоғарыда орыс провайдерлері көрсетілген).

Көрсетуші Не орнату
YandexGPT (Yandex бұлт) Yandex Cloud пернесі + YandexGPT моделі (құрастырылған аутентификация)
GigaChat (Сбер) GigaChat пернесі + GigaChat моделі (құрастырылған аутентификациямен)
Cloud.ru (Эволюция) Cloud.ru кілті + модель
MTS AI (Cotype) MTS AI кілті + Cotype моделі
Кодекс (ChatGPT жазылымы) ключ жоқ — құрылғыны рұқсаттау (төменді қараңыз)
OpenAI OpenAI кілті + модель (мысалы, GPT-отбасына жататын модель)
Антропик Anthropic кілті + Claude моделі
Гугл Гемини Google кілті + Gemini моделі
Терең Іздеу DeepSeek кілті + DeepSeek моделі
xAI (Grok), Mistral, Groq және т.б. қызмет көрсетушінің кілті + оның моделі
OpenAI-ге сәйкес / жергілікті сервер қызметіңіздің base_url (Ollama/LM Studio/vLLM), қажет болса кілт

Қанша провайдер бар және резервтік нұсқа қалай жұмыс істейді

Жеткізушілер тізбегі ретімен сынады: егер ең басты провайдер қолжетімсіз болса немесе қате берсе, AiHummer келесісіне өтеді. Сонымен:

  • негізгі провайдеріңізді орналастырыңыз бірінші (↑/↓ көрсеткілері қайта реттейді);
  • қосу қалпына келтіру төменде — негізгіде сәтсіздіктер немесе шектеулер болған жағдайда;
  • Сіз бұлттық провайдерді жергілікті провайдермен резервтік көшіру ретінде біріктіре аласыз.

Кодекс (ChatGPT жазылымы)

Бұл codex type базалық URL мен кілтті жасырады және құрылғы-авторизациясын қосу панелін көрсетеді: Қосу / Өшіру / Жаңарту. Бұл сізге бөлек API кілтінсіз ChatGPT жазылымы арқылы модельдерді пайдалануға мүмкіндік береді:

  1. Провайдерді қосуды codex түрі.
  2. Басу Қосу және экрандағы нұсқаулық бойынша құрылғыны толық авторизациялаңыз.
  3. Дайын — провайдер сіздің жазылымыңызды тексереді; Жаңарту қатынасты жаңартады, Өшіру өшіреді.

BYOK және LLM параметрлері

  • BYOK (өз кілтіңізді әкеліңіз) — жұмыс кеңістігіне арналған басымдық: провайдер, модель, api_key, base_url; “Сақтау” және “Тазалау” батырмалары. Толығырақ: BYOK провайдерлері.
  • LLM параметрлері — осы экранға тіркелген параметрлер каталогының бөлігі (температура, тайм-ауттар және т.б.).

Агенттер қолдана алатын нәрселерді шектеу

Әдепкі бойынша агент тізбектің әдепкі моделін пайдалана алады. Агенттерге қолжетімді модельдерді шектеу үшін тізімді орнатыңыз Нұсқаулар → рұқсат етілген модельдер.

Егер бұл жұмыс істемесе

  • Тест сәтсіз аяқталды — тексеріңіз, бұл Негізгі URL қызмет көрсетушінің нүктелерінде OpenAI-қа сәйкес порт (кіру беті емес) және бұл API кілті болып табылады толық және белсенді түрде көшірілді. Әр түрлі провайдерлер әр түрлі мекенжайларды қолданады — тексеріңіз олардың құжаттары.
  • Модельдер тізімі бос — модельдер осында жүктеледі /models тек … кейін сәтті сынақ; бұған дейін модельдің атын қолмен теріңіз.
  • Агент әлі де мазақ сияқты жауап береді — провайдердің сенімді екеніне көз жеткізіңіз қосу (белгіленді) және отырады жоғары шынжырдағы мүгедектер.
  • Жылдамдық шектеуі/квота қателері — сонда төмен басымдықта резервтік провайдерді қосыңыз сұраныстар негізгісі таусылғанда оған ауысады.
  • Қате тип таңдалды — тип жасау után өзгерте алмайсыз; өшіру қамтамасыз етушіні және оны дұрыс типпен қайта жасаңыз.

Келесі