SovrGPT Dokumentation
API

Von OpenAI zu SovrGPT wechseln

OpenAI-Anwendung auf SovrGPT umstellen: Basis-URL und API-Schlüssel tauschen, Modell-ID wählen. Mit Modelltabelle, Kontextgrenzen und Python-Beispiel.

Die SovrGPT-API spricht das OpenAI-Schema. Für den Wechsel reichen zwei Änderungen im Client: Basis-URL und API-Schlüssel. Danach wählen Sie eine passende Modell-ID. Streaming, Function-Calling, JSON-Modus und Bildeingabe funktionieren wie bei OpenAI.

1. Basis-URL setzen

Vorher (OpenAI)Nachher (SovrGPT)
https://api.openai.com/v1https://sovrgpt.com/api/v1

In den meisten SDKs: client.base_url = "https://sovrgpt.com/api/v1" oder new OpenAI({ baseURL: "https://sovrgpt.com/api/v1" }).

2. API-Schlüssel tauschen

Ersetzen Sie den OpenAI-Schlüssel (sk-…) durch einen SovrGPT-Schlüssel (sov_…). Sie erzeugen ihn unter Einstellungen → API-Keys; Details unter Authentifizierung.

Sie können auch OPENAI_API_KEY mit dem SovrGPT-Schlüssel belegen und den Code unverändert lassen. Achten Sie dann darauf, dass keine anderen OpenAI-Aufrufe dieselbe Variable nutzen.

Modell-ID wählen

Eine OpenAI-ID wie gpt-4o kennt SovrGPT nicht und antwortet mit 404 model_not_found (Details). Wählen Sie eine ID aus dieser Tabelle:

OpenAISovrGPTKontextHinweis
gpt-4ostackit-qwen3.8-27b262 144Unser Standard-Qwen: Betrieb bei STACKIT in Deutschland, ohne Kaltstart, versteht Bilder. Im Selbstbetrieb: qwen3.8-27b (balanced, 131 072, mit Kaltstart).
gpt-4o-minigemma-4-12b (default)262 144Klein und schnell, mit doppelt so viel Kontext wie gpt-4o-mini.
gpt-4-turbostackit-qwen3.8-27b262 144Gründlicher als gemma-4-12b.
o1 / o1-miniqwen3.5-9b-deepseek-v4 (reasoning)16 384Gedankengang in reasoning_content. Er zählt gegen max_tokens; bei knappem Budget bleibt die Antwort leer.
gpt-4-vision-previewgemma-4-26b-a4b (vision)262 144Bildeingabe.
text-embedding-3-small, text-embedding-3-large, text-embedding-ada-002bge-m3–Die OpenAI-IDs werden auf bge-m3 abgebildet (1024 Dimensionen), und dabei bleibt es. Vorhandene Vektoren müssen neu erzeugt werden. Wer wie bei text-embedding-3-* lange Vektoren mit wählbarer Länge (dimensions) braucht, nimmt stackit-qwen3-vl-embedding-8b (4096, kürzbar auf 256, 384, 768, 1024 oder 1536, Details).

Achtung Kontextfenster: /v1/chat/completions lehnt eine zu lange Anfrage nicht ab. Sie wird gekürzt, und Sie bekommen HTTP 200 mit einer Antwort, die den abgeschnittenen Teil Ihres Prompts nie gesehen hat. Prüfen Sie vor der Umstellung context_window in GET /v1/models und halten Sie Eingabe + max_tokens darunter.

Den vollständigen Katalog finden Sie unter Modelle.

Beispiel: Python

 from openai import OpenAI

 client = OpenAI(
-    api_key=os.environ["OPENAI_API_KEY"],
+    api_key=os.environ["SOVR_API_KEY"],
+    base_url="https://sovrgpt.com/api/v1",
 )

 resp = client.chat.completions.create(
-    model="gpt-4o-mini",
+    model="gemma-4-12b",
     messages=[{"role": "user", "content": "Hallo!"}],
 )

Weitere Sprachen und Bibliotheken: SDK-Beispiele.

Was sich unterscheidet

  • Bilder: /v1/images/generations gibt es noch nicht (geplant). Bilder mit Z-Image, Qwen-Image und FLUX.2 erzeugen Sie heute im Chat oder über den MCP-Server.
  • Sprache: /v1/audio/speech und /v1/audio/transcriptions sind vorhanden. Modell-IDs und Stimmen unterscheiden sich von OpenAI, siehe Audio.
  • Assistants-API: wird voraussichtlich nicht umgesetzt. Ähnliches bieten im Produkt der Marketplace und geplante Aufgaben, beide nur in der Oberfläche.
  • Realtime-API (WebRTC): für 2026 nicht geplant.

Für diese Lücken können Sie OpenAI parallel weiter nutzen; dann gehen nur diese Anfragen an OpenAI.

Leistung

  • Kaltstart einplanen: Selbst betriebene Modelle brauchen nach einer Pause mehrere Minuten (cold_start_hint in GET /v1/models). Schicken Sie vor nächtlichen Jobs einige Minuten vorher eine kleine Anfrage, oder nutzen Sie ein Partner-Modell (tensorx-…, stackit-…) ohne Kaltstart.
  • Streaming nutzen: Bei längeren Antworten erscheint der Text sofort.
  • Passendes Modell wählen: gemma-4-12b statt qwen3.8-27b spart Geld und Wartezeit, wenn keine Tiefe nötig ist.
  • max_tokens setzen: verhindert ausufernde Antworten und überraschende Rechnungen.

Daten übernehmen

  • OpenAI-Threads und Assistants lassen sich nicht direkt importieren.
  • Embeddings müssen neu erzeugt werden (anderer Vektorraum).
  • System-Prompts funktionieren unverändert.

Bei größeren Migrationen (ab etwa zehn Anwendungen) sprechen Sie uns an; die Kontaktdaten stehen im Impressum.

Von OpenAI zu SovrGPT wechseln