Fournisseurs BYOK et LLM — AiHummer Docs

AiHummer ne requiert jamais un modèle payant. Dès l’installation, il fonctionne avec des modèles gratuits et locaux ainsi qu’un transport Codex/ChatGPT par abonnement, et si aucun modèle n’est connecté, le runtime revient à un mock déterministe afin que la plateforme puisse toujours démarrer et être testable. Lorsque vous voulez un modèle spécifique, vous l’apportez vous-même — soit comme configuration globale du processus, soit, par utilisateur ou locataire, avec Apportez votre propre clé (apportez votre propre clé).

Fournisseurs de LLM pris en charge

AiHummer s’adresse nativement à tout fournisseur qui expose une API de chat de style OpenAI, atteint d’autres fournisseurs via une passerelle LLM externe, et prend en charge le transport par abonnement ChatGPT. En pratique, cela couvre :

Fournisseur	Comment cela se connecte	Notes
OpenAI	Chemin compatible OpenAI natif (`AIHUMMER_OPENAI_*`)
Tout point de terminaison conforme à la norme OpenAI-API	Le même chemin natif : `AIHUMMER_OPENAI_BASE_URL`	Modèles locaux, OpenRouter, API compatible OpenAI de Gemini, etc.
Anthropique	Interface Web Anthropique préréglage (compatible OpenAI) ou via la passerelle LLM (`AIHUMMER_LLM_*`)	Claude modélise ; connectez-le depuis le sélecteur de fournisseur de marque, ou laissez la passerelle sidecar garder la clé
Transport Codex / abonnement ChatGPT	Transport par abonnement (`AIHUMMER_CODEX_*`)	Utilise un abonnement ChatGPT plutôt qu’une clé API mesurée

[!WARNING] Aucune API de modèle payant n’est jamais obligatoire. AiHummer fonctionne sur des modèles gratuits/locaux et le transport du Codex/abonnement ChatGPT, et si aucun modèle n’est configuré le le runtime utilise un mock déterministe — la passerelle démarre toujours et répond. BYOK et les clés payantes sont entièrement optionnels.

Câbler un modèle avec des paramètres

Les clés LLM sont paramètres-catalogue boutons (stockés dans la base de données) : configurez-les dans l’interface d’administration (Gestion → Paramètres) ou avec aihummer settings set, pas dans gateway.env. Il y a deux chemins de câblage indépendants — ne mélangez pas leurs variables.

(a) Le chemin natif compatible OpenAI. La passerelle appelle elle-même un point de terminaison compatible OpenAI et transmet elle-même la clé :

aihummer settings set AIHUMMER_OPENAI_API_KEY sk-...
aihummer settings set AIHUMMER_OPENAI_BASE_URL https://api.openai.com/v1
aihummer settings set AIHUMMER_OPENAI_MODEL gpt-4o-mini

Le même chemin fonctionne pour un serveur local compatible OpenAI, OpenRouter ou le point de terminaison compatible OpenAI de Gemini — il suffit d’indiquer AIHUMMER_OPENAI_BASE_URL à ça.

(b) Le chemin de la passerelle LLM. AIHUMMER_LLM_GATEWAY_URL est l’URL de base d’un point de terminaison compatible OpenAI — c’est le même paramètre affiché dans Configuration. Pointez-le vers un sidecar de passerelle qui détient lui-même les clés du fournisseur (aucune clé API ne passe par AiHummer), ou directement auprès de l’API compatible OpenAI d’un fournisseur (dans ce cas, vous fournissez également la clé de ce fournisseur). Il est distinct du natif AIHUMMER_OPENAI_BASE_URL dans le chemin (a) :

aihummer settings set AIHUMMER_LLM_GATEWAY_URL http://127.0.0.1:8090
aihummer settings set AIHUMMER_LLM_PROVIDER anthropic
aihummer settings set AIHUMMER_LLM_MODEL claude-sonnet-4-5

[!WARNING] Les chemins ne se combinent pas : appariement AIHUMMER_LLM_GATEWAY_URL avec AIHUMMER_OPENAI_API_KEY ne fait rien — aucune touche n’est transmise via la passerelle chemin ; le sidecar utilise ses propres clés.

Si aucun des chemins n’est configuré, la simulation déterministe est utilisée.

BYOK : clés par locataire

Lorsque les variables d’environnement configurent un modèle unique à l’échelle du processus, Apportez votre propre clé laissons chaque locataire fournir ses propres identifiants LLM. Les clés BYOK sont gérées depuis l’API d’administration :

GET  /v1/admin/byok
POST /v1/admin/byok

Les clés BYOK sont stockées dans le coffre-fort chiffré, tout comme toutes les autres informations d’identification — elles ne sont jamais écrites dans les journaux ni affichées dans le contexte du modèle. C’est ce qui permet à une installation multitenant de garder la facturation du modèle et le matériel clé de chaque client entièrement séparés.

Choisir entre les paramètres partagés et BYOK

Utilisez le AIHUMMER_OPENAI_* / AIHUMMER_LLM_* paramètres pour un modèle mono-locataire ou par défaut que l’ensemble de la passerelle devrait utiliser.
Utiliser Apportez votre propre clé lorsque différents locataires doivent utiliser des clés différentes, différentes fournisseurs, ou être facturés séparément — la clé par locataire remplace la valeur par défaut pour ce locataire.

[!TIP] Parce que tout point de terminaison conforme à la norme OpenAI-API est accepté, vous pouvez pointer AIHUMMER_OPENAI_BASE_URL sur un serveur de modèles local, OpenRouter ou un Gemini Point de terminaison compatible OpenAI sans rien changer d’autre dans AiHummer.

Comment cela se rapporte au reste du modèle d’accès

Les clés BYOK sont des informations d’identification du modèle et se trouvent dans le même coffre-fort chiffré que Connexions et des secrets partagés/personnels. La différence est l’étendue : BYOK répond quel modèle et quelle clé ce locataire utilise, tandis que le personnel vs partagé répond aux questions avec les informations d’identification avec lesquelles un appel d’outil donné s’exécute.

Où aller ensuite

Identifiants personnels vs partagés
Connexions (OAuth2 par utilisateur)
Introduction — les modèles non payés principe dans le contexte.