BYOK- und LLM-Anbieter — AiHummer Dokumente

AiHummer erfordert niemals ein kostenpflichtiges Modell. Standardmäßig läuft es auf kostenlosen und lokalen Modellen und einem Codex/ChatGPT-Abonnement-Transport, und wenn überhaupt kein Modell eingebunden ist, fällt die Laufzeit auf ein deterministisches Mock zurück, sodass die Plattform trotzdem startet und getestet werden kann. Wenn Sie ein bestimmtes Modell wünschen, bringen Sie es selbst mit — entweder als konfigurationsweite Einstellung oder pro Mandant, mit Bring Your Own Key (bringen Sie Ihren eigenen Schlüssel)

Unterstützte LLM-Anbieter

AiHummer spricht nativ mit jedem Anbieter, der eine OpenAI-ähnliche Chat-API bereitstellt, erreicht andere Anbieter über ein externes LLM-Gateway und unterstützt den ChatGPT-Abonnement-Transport. In der Praxis umfasst das:

Anbieter	Wie es verbindet	Notizen
OpenAI	Native OpenAI-kompatibler Pfad (`AIHUMMER_OPENAI_*`)
Jeder OpenAI-API-Standard-Endpunkt	Der gleiche native Pfad: `AIHUMMER_OPENAI_BASE_URL`	Lokale Modelle, OpenRouter, Geminis OpenAI-kompatible API, usw.
Anthropisch	Web-Benutzeroberfläche Anthropisch Voreinstellung (OpenAI-kompatibel) oder über das LLM-Gateway (`AIHUMMER_LLM_*`)	Claude-Modelle; verbinden Sie es über den Markenanbieter-Auswähler oder lassen Sie das Sidecar-Gateway den Schlüssel halten
Codex / ChatGPT-Abonnement-Transport	Abonnementbasierter Transport (`AIHUMMER_CODEX_*`)	Verwendet ein ChatGPT-Abonnement anstelle eines gemessenen API-Schlüssels

[!WARNING] Keine kostenpflichtige Modell-API ist jemals verpflichtend. AiHummer funktioniert mit kostenlosen/lokalen Modellen und der Codex/ChatGPT-Abonnementtransport, und wenn kein Modell konfiguriert ist, das Laufzeit verwendet ein deterministisches Mock — das Gateway startet immer noch und reagiert. BYOK und kostenpflichtige Schlüssel sind völlig optional.

Ein Modell mit Einstellungen verdrahten

Die LLM-Schlüssel sind einstellungen-katalog Regler (in der Datenbank gespeichert): Stellen Sie sie in der Admin-Benutzeroberfläche ein (Verwaltung → Einstellungen) oder mit aihummer settings set, nicht in gateway.env. Es gibt zwei unabhängige Verkabelungswege — mischen Sie ihre Variablen nicht.

(a) Der native OpenAI-kompatible Pfad. Das Gateway ruft selbst einen OpenAI-kompatiblen Endpunkt auf und übergibt den Schlüssel selbst:

aihummer settings set AIHUMMER_OPENAI_API_KEY sk-...
aihummer settings set AIHUMMER_OPENAI_BASE_URL https://api.openai.com/v1
aihummer settings set AIHUMMER_OPENAI_MODEL gpt-4o-mini

Der gleiche Pfad funktioniert für einen lokalen OpenAI-kompatiblen Server, OpenRouter oder Geminis OpenAI-kompatiblen Endpunkt — einfach zeigen AIHUMMER_OPENAI_BASE_URL daran.

(b) Der LLM-Gateway-Pfad. AIHUMMER_LLM_GATEWAY_URL ist die Basis-URL eines OpenAI-kompatiblen Endpunkts – dies ist dieselbe Einstellung, die in Konfiguration. Richten Sie es auf ein Gateway-Sidecar, das hält die Anbieter-Schlüssel selbst (kein API-Schlüssel wird über AiHummer weitergegeben) oder direkt bei der OpenAI-kompatiblen API eines Anbieters (in diesem Fall geben Sie auch den Schlüssel dieses Anbieters an). Es unterscheidet sich von der nativen AIHUMMER_OPENAI_BASE_URL im Pfad (a):

aihummer settings set AIHUMMER_LLM_GATEWAY_URL http://127.0.0.1:8090
aihummer settings set AIHUMMER_LLM_PROVIDER anthropic
aihummer settings set AIHUMMER_LLM_MODEL claude-sonnet-4-5

[!WARNING] Die Wege verbinden sich nicht: Paarung AIHUMMER_LLM_GATEWAY_URL mit AIHUMMER_OPENAI_API_KEY tut nichts — keine Taste wird an das Gateway weitergeleitet Pfad; das Seitenwagen verwendet seine eigenen Schlüssel.

Wenn kein Pfad konfiguriert ist, wird der deterministische Mock verwendet.

BYOK: pro-Mandanten-Schlüssel

Wo die Umgebungsvariablen ein einzelnes prozessweites Modell konfigurieren, Bring Your Own Key Jeder Mieter soll seine eigenen LLM-Zugangsdaten bereitstellen. BYOK-Schlüssel werden über die Admin-API verwaltet:

GET  /v1/admin/byok
POST /v1/admin/byok

BYOK-Schlüssel werden im verschlüsselten Tresor gespeichert, genau wie jede andere Anmeldeinformation – sie werden niemals in Protokolle geschrieben oder im Modellkontext angezeigt. Dies ist es, was es einer mandantenfähigen Bereitstellung ermöglicht, die Abrechnung und Schlüsselinformationen jedes Kunden vollständig getrennt zu halten.

Die Wahl zwischen gemeinsam genutzten Einstellungen und BYOK

Verwenden Sie die AIHUMMER_OPENAI_* / AIHUMMER_LLM_* Einstellungen für ein Einzelmandanten- oder Standardmodell, das das gesamte Gateway verwenden sollte.
Verwenden Bring Your Own Key wenn verschiedene Mieter unterschiedliche Schlüssel verwenden müssen, unterschiedliche Anbieter oder separat abgerechnet werden – der pro-Mieter-Schlüssel überschreibt den Standard für diesen Mieter.

[!TIP] Da jeder OpenAI-API-Standard-Endpunkt akzeptiert wird, können Sie zeigen AIHUMMER_OPENAI_BASE_URL bei einem lokalen Modellserver, OpenRouter oder einem Gemini OpenAI-kompatibler Endpunkt, ohne sonst etwas in AiHummer zu ändern.

Wie dies sich auf den Rest des Zugriffsmodells bezieht

BYOK-Schlüssel sind Modellanmeldeinformationen und befinden sich im selben verschlüsselten Tresor wie Verbindungen und geteilte/persönliche Geheimnisse. Der Unterschied liegt im Umfang: BYOK beantwortet welches Modell und welchen Schlüssel dieser Mandant verwendet, während der persönlich vs. gemeinsam Antworten des Umfangs deren Anmeldeinformationen ein bestimmter Toolaufruf verwendet.

Wohin als Nächstes

Persönliche vs. geteilte Anmeldeinformationen
Verbindungen (pro Benutzer OAuth2)
Einführung — die nicht bezahlten Modelle Prinzip im Kontext.