BYOK- und LLM-Anbieter

aihummer settings set AIHUMMER_OPENAI_API_KEY sk-...
aihummer settings set AIHUMMER_OPENAI_BASE_URL https://api.openai.com/v1
aihummer settings set AIHUMMER_OPENAI_MODEL gpt-4o-mini

aihummer settings set AIHUMMER_LLM_GATEWAY_URL http://127.0.0.1:8090
aihummer settings set AIHUMMER_LLM_PROVIDER anthropic
aihummer settings set AIHUMMER_LLM_MODEL claude-sonnet-4-5

GET  /v1/admin/byok
POST /v1/admin/byok

AiHummer erfordert niemals ein kostenpflichtiges Modell. Standardmäßig läuft es auf kostenlosen und lokalen Modellen und einem Codex/ChatGPT-Abonnement-Transport, und wenn überhaupt kein Modell eingebunden ist, fällt die Laufzeit auf ein deterministisches Mock zurück, sodass die Plattform trotzdem startet und getestet werden kann. Wenn Sie ein bestimmtes Modell wünschen, bringen Sie es selbst mit — entweder als konfigurationsweite Einstellung oder pro Mandant, mit **Bring Your Own Key** (bringen Sie Ihren eigenen Schlüssel) ## Unterstützte LLM-Anbieter AiHummer spricht nativ mit jedem Anbieter, der eine OpenAI-ähnliche Chat-API bereitstellt, erreicht andere Anbieter über ein externes LLM-Gateway und unterstützt den ChatGPT-Abonnement-Transport. In der Praxis umfasst das: | Anbieter | Wie es verbindet | Notizen | |---|---|---| | **OpenAI** | Native OpenAI-kompatibler Pfad (`AIHUMMER_OPENAI_*`) | | | **Jeder OpenAI-API-Standard-Endpunkt** | Der gleiche native Pfad: `AIHUMMER_OPENAI_BASE_URL` | Lokale Modelle, OpenRouter, Geminis OpenAI-kompatible API, usw. | | **Anthropisch** | Web-Benutzeroberfläche **Anthropisch** Voreinstellung (OpenAI-kompatibel) oder über das LLM-Gateway (`AIHUMMER_LLM_*`) | Claude-Modelle; verbinden Sie es über den Markenanbieter-Auswähler oder lassen Sie das Sidecar-Gateway den Schlüssel halten | | **Codex / ChatGPT-Abonnement-Transport** | Abonnementbasierter Transport (`AIHUMMER_CODEX_*`) | Verwendet ein ChatGPT-Abonnement anstelle eines gemessenen API-Schlüssels | > [!WARNING] > Keine kostenpflichtige Modell-API ist jemals verpflichtend. AiHummer funktioniert mit kostenlosen/lokalen Modellen und > der Codex/ChatGPT-Abonnementtransport, und **wenn kein Modell konfiguriert ist, das > Laufzeit verwendet ein deterministisches Mock** — das Gateway startet immer noch und reagiert. > BYOK und kostenpflichtige Schlüssel sind völlig optional. ## Ein Modell mit Einstellungen verdrahten Die LLM-Schlüssel sind **einstellungen-katalog** Regler (in der Datenbank gespeichert): Stellen Sie sie in der Admin-Benutzeroberfläche ein (Verwaltung → Einstellungen) oder mit `aihummer settings set`, nicht in `gateway.env`. Es gibt **zwei unabhängige Verkabelungswege** — mischen Sie ihre Variablen nicht. **(a) Der native OpenAI-kompatible Pfad.** Das Gateway ruft selbst einen OpenAI-kompatiblen Endpunkt auf und übergibt den Schlüssel selbst: ```bash aihummer settings set AIHUMMER_OPENAI_API_KEY sk-... aihummer settings set AIHUMMER_OPENAI_BASE_URL https://api.openai.com/v1 aihummer settings set AIHUMMER_OPENAI_MODEL gpt-4o-mini ``` Der gleiche Pfad funktioniert für einen lokalen OpenAI-kompatiblen Server, OpenRouter oder Geminis OpenAI-kompatiblen Endpunkt — einfach zeigen `AIHUMMER_OPENAI_BASE_URL` daran. **(b) Der LLM-Gateway-Pfad.** `AIHUMMER_LLM_GATEWAY_URL` ist die Basis-URL eines OpenAI-kompatiblen Endpunkts – dies ist dieselbe Einstellung, die in [Konfiguration](/de/v1.0/getting-started/configuration). Richten Sie es auf ein Gateway-Sidecar, das **hält die Anbieter-Schlüssel selbst** (kein API-Schlüssel wird über AiHummer weitergegeben) oder direkt bei der OpenAI-kompatiblen API eines Anbieters (in diesem Fall geben Sie auch den Schlüssel dieses Anbieters an). Es unterscheidet sich von der nativen `AIHUMMER_OPENAI_BASE_URL` im Pfad (a): ```bash aihummer settings set AIHUMMER_LLM_GATEWAY_URL http://127.0.0.1:8090 aihummer settings set AIHUMMER_LLM_PROVIDER anthropic aihummer settings set AIHUMMER_LLM_MODEL claude-sonnet-4-5 ``` > [!WARNING] > Die Wege verbinden sich nicht: Paarung `AIHUMMER_LLM_GATEWAY_URL` mit > `AIHUMMER_OPENAI_API_KEY` tut nichts — keine Taste wird an das Gateway weitergeleitet > Pfad; das Seitenwagen verwendet seine eigenen Schlüssel. Wenn kein Pfad konfiguriert ist, wird der deterministische Mock verwendet. ## BYOK: pro-Mandanten-Schlüssel Wo die Umgebungsvariablen ein einzelnes prozessweites Modell konfigurieren, **Bring Your Own Key** Jeder Mieter soll seine eigenen LLM-Zugangsdaten bereitstellen. BYOK-Schlüssel werden über die Admin-API verwaltet: ```http GET /v1/admin/byok POST /v1/admin/byok ``` BYOK-Schlüssel werden im verschlüsselten Tresor gespeichert, genau wie jede andere Anmeldeinformation – sie werden niemals in Protokolle geschrieben oder im Modellkontext angezeigt. Dies ist es, was es einer mandantenfähigen Bereitstellung ermöglicht, die Abrechnung und Schlüsselinformationen jedes Kunden vollständig getrennt zu halten. ## Die Wahl zwischen gemeinsam genutzten Einstellungen und BYOK - Verwenden Sie die **`AIHUMMER_OPENAI_*` / `AIHUMMER_LLM_*` Einstellungen** für ein Einzelmandanten- oder Standardmodell, das das gesamte Gateway verwenden sollte. - Verwenden **Bring Your Own Key** wenn verschiedene Mieter unterschiedliche Schlüssel verwenden müssen, unterschiedliche Anbieter oder separat abgerechnet werden – der pro-Mieter-Schlüssel überschreibt den Standard für diesen Mieter. > [!TIP] > Da jeder OpenAI-API-Standard-Endpunkt akzeptiert wird, können Sie zeigen > `AIHUMMER_OPENAI_BASE_URL` bei einem lokalen Modellserver, OpenRouter oder einem Gemini > OpenAI-kompatibler Endpunkt, ohne sonst etwas in AiHummer zu ändern. ## Wie dies sich auf den Rest des Zugriffsmodells bezieht BYOK-Schlüssel sind Modellanmeldeinformationen und befinden sich im selben verschlüsselten Tresor wie [Verbindungen](/de/v1.0/access/connections-oauth2) und geteilte/persönliche Geheimnisse. Der Unterschied liegt im Umfang: BYOK beantwortet *welches Modell und welchen Schlüssel dieser Mandant verwendet*, während der [persönlich vs. gemeinsam](/de/v1.0/access/personal-vs-shared) Antworten des Umfangs *deren Anmeldeinformationen ein bestimmter Toolaufruf verwendet*. ## Wohin als Nächstes - [Persönliche vs. geteilte Anmeldeinformationen](/de/v1.0/access/personal-vs-shared) - [Verbindungen (pro Benutzer OAuth2)](/de/v1.0/access/connections-oauth2) - [Einführung](/de/v1.0/getting-started/introduction) — die nicht bezahlten Modelle Prinzip im Kontext.