Von OpenAI zu SovrGPT wechseln
OpenAI-Anwendung auf SovrGPT umstellen: Basis-URL und API-Schlüssel tauschen, Modell-ID wählen. Mit Modelltabelle, Kontextgrenzen und Python-Beispiel.
Die SovrGPT-API spricht das OpenAI-Schema. Für den Wechsel reichen zwei Änderungen im Client: Basis-URL und API-Schlüssel. Danach wählen Sie eine passende Modell-ID. Streaming, Function-Calling, JSON-Modus und Bildeingabe funktionieren wie bei OpenAI.
1. Basis-URL setzen
| Vorher (OpenAI) | Nachher (SovrGPT) |
|---|---|
https://api.openai.com/v1 | https://sovrgpt.com/api/v1 |
In den meisten SDKs: client.base_url = "https://sovrgpt.com/api/v1" oder
new OpenAI({ baseURL: "https://sovrgpt.com/api/v1" }).
2. API-Schlüssel tauschen
Ersetzen Sie den OpenAI-Schlüssel (sk-…) durch einen SovrGPT-Schlüssel (sov_…). Sie
erzeugen ihn unter Einstellungen → API-Keys; Details
unter Authentifizierung.
Sie können auch OPENAI_API_KEY mit dem SovrGPT-Schlüssel belegen und den Code unverändert
lassen. Achten Sie dann darauf, dass keine anderen OpenAI-Aufrufe dieselbe Variable nutzen.
Modell-ID wählen
Eine OpenAI-ID wie gpt-4o kennt SovrGPT nicht und antwortet mit 404 model_not_found
(Details). Wählen Sie eine ID aus
dieser Tabelle:
| OpenAI | SovrGPT | Kontext | Hinweis |
|---|---|---|---|
gpt-4o | stackit-qwen3.8-27b | 262 144 | Unser Standard-Qwen: Betrieb bei STACKIT in Deutschland, ohne Kaltstart, versteht Bilder. Im Selbstbetrieb: qwen3.8-27b (balanced, 131 072, mit Kaltstart). |
gpt-4o-mini | gemma-4-12b (default) | 262 144 | Klein und schnell, mit doppelt so viel Kontext wie gpt-4o-mini. |
gpt-4-turbo | stackit-qwen3.8-27b | 262 144 | Gründlicher als gemma-4-12b. |
o1 / o1-mini | qwen3.5-9b-deepseek-v4 (reasoning) | 16 384 | Gedankengang in reasoning_content. Er zählt gegen max_tokens; bei knappem Budget bleibt die Antwort leer. |
gpt-4-vision-preview | gemma-4-26b-a4b (vision) | 262 144 | Bildeingabe. |
text-embedding-3-small, text-embedding-3-large, text-embedding-ada-002 | bge-m3 | – | Die OpenAI-IDs werden auf bge-m3 abgebildet (1024 Dimensionen), und dabei bleibt es. Vorhandene Vektoren müssen neu erzeugt werden. Wer wie bei text-embedding-3-* lange Vektoren mit wählbarer Länge (dimensions) braucht, nimmt stackit-qwen3-vl-embedding-8b (4096, kürzbar auf 256, 384, 768, 1024 oder 1536, Details). |
Achtung Kontextfenster: /v1/chat/completions lehnt eine zu lange Anfrage nicht ab. Sie
wird gekürzt, und Sie bekommen HTTP 200 mit einer Antwort, die den abgeschnittenen Teil Ihres
Prompts nie gesehen hat. Prüfen Sie vor der Umstellung context_window in
GET /v1/models und halten Sie Eingabe + max_tokens
darunter.
Den vollständigen Katalog finden Sie unter Modelle.
Beispiel: Python
from openai import OpenAI
client = OpenAI(
- api_key=os.environ["OPENAI_API_KEY"],
+ api_key=os.environ["SOVR_API_KEY"],
+ base_url="https://sovrgpt.com/api/v1",
)
resp = client.chat.completions.create(
- model="gpt-4o-mini",
+ model="gemma-4-12b",
messages=[{"role": "user", "content": "Hallo!"}],
)Weitere Sprachen und Bibliotheken: SDK-Beispiele.
Was sich unterscheidet
- Bilder:
/v1/images/generationsgibt es noch nicht (geplant). Bilder mit Z-Image, Qwen-Image und FLUX.2 erzeugen Sie heute im Chat oder über den MCP-Server. - Sprache:
/v1/audio/speechund/v1/audio/transcriptionssind vorhanden. Modell-IDs und Stimmen unterscheiden sich von OpenAI, siehe Audio. - Assistants-API: wird voraussichtlich nicht umgesetzt. Ähnliches bieten im Produkt der Marketplace und geplante Aufgaben, beide nur in der Oberfläche.
- Realtime-API (WebRTC): für 2026 nicht geplant.
Für diese Lücken können Sie OpenAI parallel weiter nutzen; dann gehen nur diese Anfragen an OpenAI.
Leistung
- Kaltstart einplanen: Selbst betriebene Modelle brauchen nach einer Pause mehrere Minuten
(
cold_start_hintinGET /v1/models). Schicken Sie vor nächtlichen Jobs einige Minuten vorher eine kleine Anfrage, oder nutzen Sie ein Partner-Modell (tensorx-…,stackit-…) ohne Kaltstart. - Streaming nutzen: Bei längeren Antworten erscheint der Text sofort.
- Passendes Modell wählen:
gemma-4-12bstattqwen3.8-27bspart Geld und Wartezeit, wenn keine Tiefe nötig ist. max_tokenssetzen: verhindert ausufernde Antworten und überraschende Rechnungen.
Daten übernehmen
- OpenAI-Threads und Assistants lassen sich nicht direkt importieren.
- Embeddings müssen neu erzeugt werden (anderer Vektorraum).
- System-Prompts funktionieren unverändert.
Bei größeren Migrationen (ab etwa zehn Anwendungen) sprechen Sie uns an; die Kontaktdaten stehen im Impressum.