KI-Modelle

Diese Seite listet alle KI-Modelle von SovrGPT: Sprachmodelle, Embeddings und Re-Ranker, Spracherkennung und Sprachausgabe sowie die Decision Engine. Sie nutzen sie im Chat oder über die OpenAI-kompatible API. Speicherung und KI-Verarbeitung laufen in EU-Rechenzentren. Ausnahmen sind die abschaltbare Websuche (Anbieter in den USA) und Modelle, die Ihre Organisation selbst einbindet.

Die Sprachmodelle laufen in zwei Betriebsarten. Für Sie unterscheiden sie sich vor allem in der Wartezeit:

• Selbstbetrieb: von uns betriebene Modelle auf gemieteten GPUs in EU-Rechenzentren (zusätzlich auch in Island oder Norwegen, EWR). Die Server fahren in Pausen herunter. Das hält den Preis niedrig, kostet aber nach einer Pause einige Minuten Kaltstart.
• Partner-Betrieb: Modelle, die im Selbstbetrieb nicht oder nicht wirtschaftlich laufen, betreiben STACKIT in Deutschland und ein europäisches Partner-Rechenzentrum in Irland/Finnland. Dort ist die Nullspeicherung der Ein- und Ausgaben vertraglich zugesichert. Einen Kaltstart gibt es hier nicht.

Die Decision Engine hat einen eigenen Endpunkt (POST /v1/decisions). Alle anderen Modelle erreichen Sie über dieselbe API; die Betriebsart steht in jeder Tabelle.

Die wichtigsten Modelle

Diese Modelle stehen in der Modellübersicht („Modelle“ in der Seitenleiste) in der ersten Reihe und decken den Alltag ab. Wer nicht wählen möchte, nimmt Auto: SovrGPT ordnet die erste Frage ein (Alltag, Denkaufgabe, Programmieren, interaktive App) und wählt dafür ein passendes Modell.

Qwen 3.8 27B ist unser Standard-Qwen und läuft bei STACKIT in Deutschland, ohne Kaltstart. Dasselbe Modell gibt es zusätzlich im Partner-Rechenzentrum in Irland/Finnland (tensorx-qwen3.8-27b) und im Selbstbetrieb (qwen3.8-27b); beide stehen unter Alle Sprachmodelle. Im Selbstbetrieb warten Sie nach einer Pause rund fünf Minuten auf die erste Antwort, bei knapper Kartenlage länger. Neue Chats starten mit Auto. Auto wählt Modelle ohne Kaltstart, für den Alltag zuerst Qwen 3.8 27B bei STACKIT, dann dasselbe Modell im Partner-Rechenzentrum, und nimmt ein selbst betriebenes nur, wenn keines davon erreichbar ist.

Die hochgestellten Zeichen erklärt der Abschnitt Anmerkungen zu den Tabellen.

Alle Sprachmodelle

In der Modellübersicht steht alles jenseits der ersten Reihe unter „Weitere Modelle“. Über die API sind alle Modelle gleich adressierbar. Den aktuellen Stand liefert GET /api/v1/models, unter anderem mit den Feldern quality_index, origin_vendor, origin_country und lifecycle (API-Referenz).

Im Partner-Betrieb (ohne Kaltstart)

Kontext 131k Token ³, sofern nicht anders angegeben.

Hinweise zu einzelnen Modellen:

• Qwen 3.8 27B (stackit-qwen3.8-27b) ist stark bei Code und Werkzeugaufrufen und versteht Bilder. Das erste Token kam im Messlauf nach rund 120 ms ᵐ; einen Prompt mit 257 000 Token hat es angenommen ᵐ. Den Denk-Aufwand regeln Sie mit reasoning_effort (low, medium, high).
• GPT-OSS 120B denkt immer mit. Bei gründlich braucht die Antwort ein großzügiges Token-Budget, sonst geht sie ganz in den Gedankengang. Das erste Token kommt nach rund 130 ms ᵐ.
• Qwen 3.8 Max belegt allein mit seinen Gewichten rund 2,4 TB und ist deshalb im Selbstbetrieb nicht wirtschaftlich. enable_thinking: false wird abgelehnt.
• GLM 5.3 und GLM 5.3 Flash denken immer mit, deshalb zeigt der Modellwähler dort keinen Denk-Schalter. Beide bestehen unseren Werkzeugtest auf allen drei Wegen (frei gewählt, erzwungen, streamend) und antworten in unter einer Sekunde.
• Qwen 3.8 Flash hat 125 Mrd. Parameter, von denen je Token nur 6 Mrd. rechnen; daher der Preis. Das Denken lässt sich abschalten, der Denkteil ist dann wirklich leer. Es ist ein anderes Modell als Qwen 3.8 27B. Wer dessen geprüfte Werkzeug- und Codequalität braucht, bleibt beim 27B.
• DeepSeek V4 Flash ist die Fassung vom 31. Juli 2026 (DeepSeek-V4-Flash-0731). Der zurückgezogene Tier coder-max lief die ältere Fassung DeepSeek-V4-Flash.
• DeepSeek V4.1 Flash hat keinen Denkteil. Ein Denk-Schalter hätte nichts zu schalten und fehlt deshalb.
• Gemma 4 31B versteht Bilder und läuft in Deutschland. Im Selbstbetrieb kann Bilder nur vision, mit Kaltstart. Über 140 Sprachen, Denk-Schalter, erstes Token nach rund 210 ms ᵐ.
• Kimi K2.7 Code ist die Alternative zu coder-mini, wenn der Kaltstart stört.

Im Selbstbetrieb (gemietete GPUs, mit Kaltstart)

Hinweise zu einzelnen Modellen:

• gemma-4-12b ist die erste Wahl für interaktive Chats und deutsche Texte. Mit 262k Kontext nimmt es lange Dokumente am Stück auf und versteht Bilder.
• qwen3.8-27b („Qwen 3.8 27B · eigener Betrieb“) ist ein dichtes 27B-Modell für Code-Aufgaben über ganze Repositories und Werkzeugaufrufe, mit fließendem Deutsch. Es ist dasselbe Modell wie unser Standard-Qwen stackit-qwen3.8-27b, hier auf eigener Hardware und mit Kaltstart. Der Kontext bestimmt auch, wie viel eines hochgeladenen PDFs ins Gespräch passt. Die ältere ID qwen3.6-27b sowie qwen-balanced, qwen-premium und Qwen/Qwen3.8-27B-FP8 zeigen weiter auf dieses Modell.
• qwen, qwen-default, Qwen/Qwen3.8-27B und die älteren Qwen-Namen (etwa Qwen/Qwen3.6-27B, qwen2.5-7b, qwen-3-30b) zeigen auf das Standard-Qwen stackit-qwen3.8-27b. Ist STACKIT auf einem Server nicht eingerichtet, landen sie bei qwen3.8-27b. Wer gezielt den Selbstbetrieb will, nennt qwen3.8-27b.
• qwen3.5-9b-deepseek-v4 denkt immer und eignet sich für Mathematik, Logik und schrittweise Auswertungen. Den Gedankengang liefert die API im Feld reasoning_content, nicht als <think>…</think> im content. Im Chat erscheint er als aufklappbarer „Gedankengang“.
• gemma-4-26b-a4b liest PNG und JPG, nutzt Werkzeuge auch zusammen mit einem Bild und hat einen Denk-Schalter.
• qwen3.6-35b-a3b ist das schnelle, günstige Coding-Modell (MoE, 35 Mrd. Parameter, davon 3 Mrd. aktiv, FP8) mit Werkzeugaufrufen und regelbarem Denk-Aufwand. Siehe Coding in der IDE.
• llama-3.1-8b dient Llama-spezifischen Workloads, Vergleichen oder Vorgaben wie „Built with Llama“. Werkzeuge gibt es hier nicht (Begründung).

Embeddings und Re-Ranker (RAG)

Für Retrieval-Augmented Generation (RAG) gibt es Embedding- und Rerank-Modelle. Die meisten laufen im Selbstbetrieb auf gemieteten GPU-Servern in EU-Rechenzentren (zusätzlich auch in Island oder Norwegen, EWR), zwei Embedder bei STACKIT in Deutschland. Sie erreichen sie über POST /api/v1/embeddings (OpenAI-kompatibel) und POST /api/v1/rerank (Cohere-kompatibel).

• bge-m3 ist der Standard-Embedder: mehrsprachig, mit guter Retrieval-Qualität auf Deutsch. Ohne model und für OpenAI-Namen wie text-embedding-3-small rechnet immer dieses Modell; vorhandene Vektoren behalten damit ihren Raum.
• nomic-embed-code ist auf Code spezialisiert, etwa für die Suche in Repositories.
• stackit-qwen3-vl-embedding-8b nimmt bis 32 000 Token je Text an und liefert 4096 Dimensionen. Über den Parameter dimensions bekommen Sie kürzere Vektoren (256, 384, 768, 1024 oder 1536), gekürzt und neu normiert. Es ist derselbe Embedder, mit dem die Wissensbasis arbeitet.
• stackit-e5-mistral-7b liefert immer 4096 Dimensionen; dimensions nimmt nur 4096 an. Laut Modellkarte ist es für Texte bis 4 096 Token trainiert. Suchanfragen bekommen eine vorangestellte Aufgabenzeile (Instruct: … Query: …), Dokumente nicht.
• bge-reranker-base sortiert eine Kandidatenliste nach Relevanz zur Anfrage neu. Er eignet sich als zweite Stufe nach einer Embedding-Suche.

Vektoren verschiedener Embedder passen nicht zueinander. Wer das Modell wechselt, erzeugt alle Vektoren neu. Einzelheiten zum Parameter dimensions: GET /v1/models.

Die selbst betriebenen Modelle fahren in Pausen herunter. Gemessen braucht bge-m3 danach rund eine Minute, der Reranker rund eine halbe ᵐ; nomic-embed-code ist nicht gemessen. Die beiden Embedder bei STACKIT haben keinen Kaltstart. In GET /api/v1/models erscheinen sie mit kind: "embedding" bzw. kind: "rerank".

Eine unbekannte Modell-ID, auch eine der falschen Art (ein Re-Ranker an /v1/embeddings, ein Chat-Modell an /v1/rerank), scheitert mit 404 model_not_found, bevor ein GPU-Auftrag startet. x-sovrgpt-model-served nennt immer das Modell, das gerechnet hat. Die oben genannten OpenAI-Namen und HF-Pfade gelten weiter.

Sprache: Spracherkennung und Sprachausgabe

Im Chat diktieren Sie über das Mikrofon-Symbol, und der Lautsprecher-Knopf unter jeder Antwort liest vor. Programmatisch nutzen Sie die OpenAI-kompatible Audio-API.

• Mistral (Voxtral Mini TTS) ist seit 26.09.2026 die Standardstimme. Dieselbe Engine spricht die entworfenen deutschen Stimmen und die Systemstimmen; wählen Sie eine Katalogstimme, nutzt SovrGPT diese Engine automatisch. Ausgabe mp3, wav, opus oder flac. Katalogstimmen sind wählbar ab Tarif Starter oder mit der Org-Berechtigung „Stimmen“. Katalog und Hörproben: Stimmen.

• Supertonic 3 war bis 26.09.2026 die Standardstimme. Heute spricht es Sprachen, die weder Mistral noch Qwen sprechen, und auf ausdrückliche Wahl: ein ONNX-Modell mit rund 99 Mio. Parametern, zehn Stimmen (M1–M5 männlich, F1–F5 weiblich) und Expression-Tags wie <breath> und <sigh> im Text. Ausgabe wav, flac oder ogg, ohne Kaltstart. Der Dienst läuft auf einem gemieteten Server in den Niederlanden; der Hosting-Anbieter hat seinen Sitz in den USA.

• CosyVoice 3 (Apache 2.0) spricht nativ Deutsch und kann, was Supertonic nicht kann:

  • Inline-Tags mitten im Text: [laughter], [breath], <laughter>…</laughter>, <strong>…</strong> (Betonung).
  • Sprechstil per Anweisung, zum Beispiel emotion: "Sprich sehr traurig und langsam.".
  • Zero-Shot-Voice-Cloning: eine eigene Stimme aus einem Referenzclip (≤ 30 s), ohne Training. Eingebaute Stimme: de-thorsten.

  Sie wählen es mit provider: "cosyvoice". Warm antwortet es nach rund 6 s, nach einer Pause kommt ein Kaltstart von rund 3 Minuten ᵐ dazu. Die Ausgaben tragen eine KI-Kennzeichnung in den Metadaten und ein unhörbares Wasserzeichen im Audiosignal (KI-Kennzeichnung).

• Qwen3-TTS (Apache 2.0, vorläufig) spricht vier eigene, entworfene Stimmen, ohne dass der Text zu Mistral geht. Nach einer Pause kommt ein Kaltstart von knapp einer Minute dazu.

• Voxtral erkennt Sprache mehrsprachig und auf Deutsch zuverlässig. context_bias zieht die Erkennung auf Eigennamen und Fachbegriffe. format_text=1 liefert ein formatiertes Transkript mit Absätzen, nummerierten Listen und abgesetzter Anrede und Grußformel; das Rohtranskript kommt dabei immer als text_raw mit.

• Whisper large-v3 transkribiert 99 Sprachen, ohne dass das Audio einen fremden Sprachdienst erreicht. Nach einer Pause kalt rund 20 s, warm wenige Sekunden.

Den Anbieter wählen Sie je Anfrage im Feld provider: mistral (Standard), supertonic, cosyvoice oder qwen. Ohne Angabe gilt Mistral; spricht Mistral die Sprache nicht, übernimmt Qwen, sonst Supertonic. In GET /api/v1/models erscheinen alle mit kind: "tts" bzw. kind: "stt". Beispiele mit curl und SDK: Audio-API.

Entscheidungen: Decision Engine

Die Decision Engine erzeugt keinen Text. Sie bekommt einen Zustand (Text, JSON, Gesprächsverlauf, auf Wunsch Bilder) und Fragen mit festen Antworten (Auswahl, Ja/Nein oder Bewertung) und liefert Wahrscheinlichkeiten über genau diese Antworten. Das Modell rechnet je Frage einen Durchlauf, bei der Doppelprüfung von Auswahlfragen zwei gleichzeitig. Warm kommt eine Entscheidung deshalb in Millisekunden zurück.

Die Zeiten sind Messwerte ohne Doppelprüfung (warm, vier Antwortmöglichkeiten), keine Zusage; für Anfragen mit Bildern nennen wir keine. Modellversionen, Grenzen und Preise können sich noch ändern.

Beide Versionen laufen auf offenen Grundmodellen; welche Laufzeit rechnet, legen wir fest. Die Vorgabe für Ihre Organisation wählen Owner oder Admins unter „Decision Engine“. Über die API nutzen Sie POST /v1/decisions mit dem Scope decisions; GET /v1/models führt beide mit kind: "decision". Im Chat heißt das Werkzeug „Entscheiden“, per MCP sovrgpt_decide. Zehn Vorlagen mit Beispielen stehen unter Anwendungsfälle.

Die Antworten sind noch nicht kalibriert. Jede trägt eine Empfehlung (recommendation: act oder review) mit Warnsignalen (reasons); was daraus folgt, entscheidet Ihr Workflow. Vorgabe ist policy.mode: "threshold" mit Doppelprüfung der Auswahlfragen, die dort die Eingabetoken verdoppelt. Die anderen Modi und ihre Kosten beschreibt die API-Referenz. Genauigkeiten nennen wir erst nach einer Kalibrierung mit eigenem Prüfdatensatz.

Zurückgezogene Modelle

Über die API beantwortet SovrGPT eine exakte alte ID mit 404 model_withdrawn. Die Fehlermeldung nennt den Nachfolger, die Kopfzeile x-sovrgpt-model-withdrawn die zurückgezogene ID. Chats, die auf ein zurückgezogenes Modell festgelegt waren, laufen mit dem Standard-Modell weiter.

Rollennamen zeigen auf die Nachfolger: coder, coding, qwen-coder und qwen3-coder auf qwen3.6-35b-a3b, qwen-premium auf qwen3.8-27b und die alten 30B-Namen auf stackit-qwen3.8-27b.

Eine unbekannte ID, etwa mit Tippfehler, scheitert mit 404 model_not_found (Chat Completions).

Anmerkungen zu den Tabellen

ᵐ Gemessen am Live-Endpunkt. Angegeben ist die Zeit, die Sie warten, also einschließlich des Wartens auf eine freie GPU in der EU. Warm beginnt die Antwort bei allen selbst betriebenen Modellen in der Regel nach unter 10 Sekunden.

¹ Denk-Aufwand regelbar: Sie wählen je Chat sparsam, normal oder gründlich. Bei GPT-OSS 120B wird der Gedankengang von sparsam bis gründlich etwa 20-mal so lang. Über die API ist das das Feld reasoning_effort; welche Modelle es auswerten, steht in GET /api/v1/models im Feld effort_levels (Chat Completions).

² GLM 5.3: Die Einordnung beim Programmieren stützt sich auf Vergleichszahlen des Herstellers (Z.ai). Wir haben die Funktion geprüft, nicht die Platzierung. Die Lizenz ist eine eigene, MIT-artige: volle Rechte zum Nutzen, Ändern und Weitergeben. Ihre einzige Auflage greift erst ab 10 Mrd. USD Jahresumsatz und gilt nicht für das bloße Weiterleiten an fremd gehostete Modelle.

³ Kontext im Partner-Betrieb: Mit 131k Token plant SovrGPT, auch im Feld context_window von GET /v1/models. Einige dieser Modelle können laut Anbieter mehr; mit längeren Eingaben haben wir das noch nicht geprüft.

⁴ Qwen Community License 1.0: Qwen 3.8 Flash ist der einzige Eintrag der Qwen-3.8-Reihe ohne Apache 2.0. Die Lizenz verlangt eine eigene Lizenz von Alibaba, wenn man selbst ein Modell-als-Dienst-Geschäft betreibt. Das bloße Weiterleiten an fremd gehostete Modelle nimmt sie ausdrücklich aus, und genau das geschieht bei diesem Eintrag.

⁵ Lizenz ungeprüft: Die Lizenzdatei dieser Gewichte haben wir nicht selbst gelesen. Sprechen Sie uns vor einem kommerziellen Einsatz mit Weitergabe bitte an.

⁶ Index = Artificial Analysis Intelligence Index, Stand 2026-08-08. Er misst diese Modelle in einem gemeinsamen Testaufbau, deshalb sind die Werte untereinander vergleichbar. „n. gelistet“ heißt: Die Quelle führt das Modell nicht, und wir schätzen keinen Wert. Der Index beruht auf englischsprachigen Tests und sagt nichts über die Qualität auf Deutsch.

⁷ Legacy: Das Modell bleibt voll nutzbar und über die API adressierbar, ist aber nicht mehr die empfohlene Wahl und läuft mittelfristig aus. Einen festen Abschalttermin gibt es nicht; bestehende Chats und Integrationen laufen unverändert weiter.

Wenn ein Modell fehlt: die Org-Auswahl

Owner und Admins einer Organisation legen unter Einstellungen → Modelle fest, welche Modelle ihr Team sieht. So bleibt der Modellwähler übersichtlich. Steht ein Modell hier, fehlt aber bei Ihnen, ist das der wahrscheinlichste Grund.

Die Auswahl gilt serverseitig, also auch für die API und MCP-Clients. Laufende Chats bleiben unberührt: Ein Chat, der schon auf ein Modell festgelegt ist, läuft darauf weiter. Details: Orgs & Teams.

Eigene Modelle einbinden (BYO)

Reicht der Katalog nicht, trägt eine Organisation unter Einstellungen → Provider eigene OpenAI-kompatible Endpunkte ein: mit eigener Adresse, eigenem Modellnamen und eigenem Anzeigenamen. Typische Fälle sind ein selbst betriebenes vLLM im eigenen Rechenzentrum, ein Fachmodell eines Dienstleisters oder ein Azure-OpenAI-Deployment. Der Eintrag erscheint nur im Modellwähler dieser Organisation, markiert mit „⚠ extern“.

Was dabei gilt:

• Datenweg: Anfragen gehen direkt an die eingetragene Adresse. Dort gelten die Bedingungen dieses Endpunkts; unsere Zusagen zum Datenweg gelten dafür nicht. Genau das zeigt die Kennzeichnung „extern“.
• Werkzeuge und Denk-Regler bleiben aus. Einen fremden Endpunkt haben wir nicht geprüft, und ein Werkzeugaufruf an ein Modell ohne passenden Parser scheitert hart.
• Verfügbarkeit und Wartezeit bestimmt allein Ihr Endpunkt.
• Adressen: nur https. Adressen im lokalen oder privaten Netz und rohe IP-Adressen lehnt SovrGPT ab; ein Endpunkt braucht einen DNS-Namen mit gültigem Zertifikat. Weiterleitungen verfolgt SovrGPT nicht: Leitet Ihr Endpunkt um, kommt HTTP 502 mit dem Typ upstream_redirect_refused. Tragen Sie dann die endgültige Adresse ein.
• Schlüssel: Ein API-Schlüssel wird verschlüsselt gespeichert (AES-256-GCM) und verlässt den Server nie. Endpunkte hinter einer IP-Freigabe kommen ganz ohne Schlüssel aus.

Pausieren und Löschen geht jederzeit, auch nach einem Tarifwechsel, der das Anlegen neuer Einträge nicht mehr enthält. Gebundene Chats antworten danach wieder mit dem Standard-Modell. Über die API listet GET /v1/models diese Einträge mit owned_by: "org" und der ID org-model:….

Coding in der IDE

Das Coding-Modell ist vor allem für agentisches Programmieren über IDE-Plugins gedacht (Kilo Code, Cline, OpenCode und andere). Alle sprechen die OpenAI-kompatible API:

• Base-URL: https://sovrgpt.com/api/v1
• API-Key: unter /settings/api-keys erzeugen (Scope chat) und als Bearer-Token nutzen.
• Modell-ID: qwen3.6-35b-a3b, selbst betrieben, 131k Kontext. Ohne Kaltstart: stackit-qwen3.8-27b oder tensorx-kimi-k2.7-code.

Die vollständige Anleitung für alle Werkzeuge steht unter Coding in der IDE.

Selbst betriebene Modelle brauchen nach einer Pause einige Minuten Kaltstart. Stellen Sie den Timeout Ihres Plugins auf mindestens 900 Sekunden oder nehmen Sie ein Modell ohne Kaltstart, siehe Kaltstart und Timeout.

Kilo Code (VS Code, JetBrains, Kommandozeile): Settings → Providers → Custom provider · Provider API OpenAI Compatible · Base URL https://sovrgpt.com/api/v1 · API key sov_… · Modell aus der Liste wählen, z. B. qwen3.6-35b-a3b. Alle Felder stehen unter Kilo Code.

Cline (VS Code): API Provider → OpenAI Compatible · Base URL https://sovrgpt.com/api/v1 · API Key sov_… · Model ID qwen3.6-35b-a3b · Context Window 131072 (muss von Hand gesetzt werden).

OpenCode (opencode.json):

{
  "provider": {
    "sovrgpt": {
      "npm": "@ai-sdk/openai-compatible",
      "options": { "baseURL": "https://sovrgpt.com/api/v1", "apiKey": "sov_..." },
      "models": {
        "qwen3.6-35b-a3b": {
          "name": "SovrGPT Coder mini",
          "limit": { "context": 131072, "output": 8192 }
        }
      }
    }
  }
}

limit nennt OpenCode das Kontextfenster; bei einem selbst eingetragenen Anbieter kennt es das sonst nicht.

Denk-Aufwand pro Anfrage (reasoning_effort)

Welche Modelle den Regler auswerten, steht im Feld effort_levels von GET /v1/models. Ein leeres Array heißt: kein wirksamer Regler. Fragen Sie das je Modell ab. Die Stufen sind einzeln gemessen, und verwandte Modelle verhalten sich unterschiedlich.

Gesteuert wird über das Top-Level-Feld reasoning_effort (im Python-SDK über extra_body) mit den Stufen low, medium und high. Was daraus beim jeweiligen Anbieter wird, etwa eine Token-Zahl oder eine andere Skala, übersetzt SovrGPT.

curl https://sovrgpt.com/api/v1/chat/completions \
  -H "Authorization: Bearer $SOVR_KEY" -H "Content-Type: application/json" \
  -d '{
    "model": "qwen3.6-35b-a3b",
    "messages": [{ "role": "user", "content": "Refactore dieses Modul und erkläre die Schritte." }],
    "reasoning_effort": "high",
    "max_tokens": 8192
  }'

Erhöhen Sie bei high auch max_tokens, denn der Gedankengang zählt gegen das Antwortbudget. Bei qwen3.6-35b-a3b blieb mit unbegrenztem Denkbudget und 2 000 max_tokens der Antworttext leer.

Für volle Kontrolle geben Sie chat_template_kwargs direkt mit, zum Beispiel {"thinking": true, "reasoning_effort": "max"}. Das wird unverändert durchgereicht und hat Vorrang vor reasoning_effort. Details: POST /v1/chat/completions.

Cold-Start verstehen

• Warm: Das Modell ist auf einer GPU geladen, die Antwort beginnt meist nach unter 10 Sekunden.
• Kalt: Ein Server muss hochfahren, das Image laden und die Modellgewichte holen. Gemessen dauert das je nach Modell 2 bis 10 Minuten (Werte in den Tabellen oben).
• Partner-Betrieb: kein Kaltstart.

Die selbst betriebenen Server fahren in Pausen herunter; im Leerlauf fallen dort keine Rechenkosten an. Dafür ist die erste Anfrage nach einer längeren Pause langsam. Für geplante Produktionsjobs empfehlen wir eine kurze Aufwärm-Anfrage vorab. Wer gar nicht warten will, nimmt ein Modell im Partner-Betrieb.

Werkzeuge im Chat

• Websuche über die Brave Search API (Brave Software, Inc., USA). Brave speichert Suchprotokolle nach eigenen Angaben bis zu 90 Tage; ohne Protokolle bietet Brave die Suche nur im Enterprise-Tarif an. Im Chat je Unterhaltung einschaltbar, ab Werk aus; zum Excel-Add-in siehe dort. Einzelheiten unter Datenschutz.

  Derselbe Schalter erlaubt dem Modell, eine Seite zu öffnen und zu lesen (fetch_url). Dieser Abruf geht von unseren Servern direkt an die Seite, ohne Brave. Wie sich SovrGPT dabei meldet, legen Owner und Admins fest (Organisation → Seitenabruf): unauffällig als gewöhnlicher Browser (Voreinstellung; Seiten mit pauschalen Bot-Sperren liefern dann eher aus) oder mit Namen (SovrGPT nennt sich und die rooom AG). „Unauffällig“ ändert nur die Kopfzeilen, nicht unsere IP-Adresse oder technische Merkmale der Verbindung. Jede Änderung steht im Prüfprotokoll.

• Bilderzeugung: Z-Image-Turbo (schnell) oder im Pro-Modus Qwen-Image 2512 (höchste Qualität, stark bei Text im Bild), selbst betrieben auf gemieteten GPUs in EU-Rechenzentren. Alle Bild- und Videomodelle stehen in der Tabelle unten.

• Bild bearbeiten: Ist im Chat die Bilderzeugung eingeschaltet, bearbeitet der Assistent auf Anweisung ein bis drei eigene Bilder, also angehängte Bilder oder frühere Ergebnisse aus demselben Chat. Er kann zum Beispiel Farben, Hintergrund oder Gegenstände ändern oder mehrere Vorlagen zu einer Szene zusammenfügen. Das Ergebnis hat etwa 1 Megapixel, das Seitenverhältnis kommt aus der letzten Vorlage. Schrift im Bild gibt das Modell oft fehlerhaft wieder. Über den MCP-Server heißt das Werkzeug sovrgpt_edit_image.

• Videoerzeugung: LTX-Video 0.9.8 13B distilled, Clips von 3–8 s in 768×512 bei 24 fps, ohne Ton. Ein Clip entsteht aus einer Beschreibung, aus einem Startbild (angehängtes PNG- oder JPEG-Bild bis 20 MB oder früheres Bildergebnis aus demselben Chat; am besten im Querformat 3:2, andere Formate werden verzerrt) oder als Fortsetzung eines eigenen Videos aus demselben Chat: Der neue Clip beginnt mit dessen letzten Bildern und führt es weiter; er ist ein eigener Clip, kein zusammengefügtes Video. Je Auftrag gilt höchstens eine Vorlage. Es gelten die Nutzungsbedingungen Videoerzeugung.

• Marketplace-Connectoren: über 20 vorkonfigurierte MCP-Server (Marketplace).

Werkzeuge funktionieren nur mit Modellen, deren Endpunkt sie unterstützt. Bei anderen sperrt SovrGPT die Schalter im Eingabefeld, damit keine Antwort daran scheitert. Alle Modelle im Katalog können Werkzeuge nutzen, außer llama-3.1-8b. Dort ruft das Modell im automatischen Modus keine Werkzeuge auf und antwortet in Prosa. In einem Test behauptete es sogar eine Websuche und erfand ein Ergebnis. Deshalb bleibt der Schalter dort gesperrt.

Bild- und Videomodelle

Alle laufen im Selbstbetrieb auf gemieteten GPUs in EU-Rechenzentren (zusätzlich auch in Island oder Norwegen, EWR). Nach einer Pause muss zuerst ein Server hochfahren; wie lange das dauert, steht in der letzten Spalte. Im Chat schalten Sie die Erzeugung über das Eingabefeld ein, über die API und den MCP-Server wählen Sie das Modell mit der Modell-ID.

image-pro und Qwen-Image: Der Pro-Modus im Chat erzeugt Bilder jetzt mit Qwen-Image 2512, wo es verfügbar ist, sonst mit FLUX.2 [klein] 4B. Über API und MCP wählen Sie Qwen-Image ausdrücklich mit image-qwen. Die ID image-pro steht für FLUX.2 [klein] 4B; ist FLUX nicht bereit, rechnet Qwen-Image den Auftrag.

video-pro erzeugt Clips von 3–10 s mit KI-erzeugter Tonspur, wahlweise in 960×544 oder 1920×1088. Das Modell ist noch nicht freigeschaltet. Seine Lizenz enthält Nutzungsbeschränkungen, unter anderem keine militärischen Anwendungen; die Einzelheiten nennen wir mit dem Start.

Bilder im Chat

Hängen Sie ein Bild an die Nachricht an, über die Büroklammer oder per Ablegen im Fenster.

Kann das gewählte Modell keine Bilder ansehen, sagt SovrGPT das vor dem Absenden über dem Eingabefeld. Auch der Assistent weist in seiner Antwort darauf hin und rät nicht, was auf dem Bild zu sehen ist. Das Bild bleibt im Verlauf; ein Modellwechsel genügt.

Ein Bild auf eine Folie zu legen geht mit jedem Modell. Das Modell gibt nur den Dateinamen an export_pptx weiter, eingesetzt wird die Datei auf dem Server. Zu große Bilder lehnt SovrGPT ab; eine automatische Verkleinerung gibt es nicht. Laden Sie dann eine kleinere Fassung hoch.

Über die OpenAI-kompatible API (/v1/chat/completions) gelten diese Prüfungen nicht. Die Route reicht den Anfragerumpf unverändert weiter: Ein image_url-Teil kommt ohne Fähigkeitsprüfung, ohne Größengrenze und ohne Hinweis beim Modell an. Liest das Modell keine Bilder, scheitert die Anfrage am Endpunkt. Diesen Weg haben wir nicht eigens getestet. Nehmen Sie für Bilder über die API ein bildfähiges Modell (accepts_vision: true).

Tokens, Kontingente und Limits

• Standard-Plan: faire Nutzung, kein hartes Token-Limit.
• Enterprise-Plan: Bedingungen nach Vereinbarung in einer eigenen Vertragsanlage.
• Abgerechnet wird je Organisation, nicht je Nutzer.

Die Preisstufen sehen Sie angemeldet unter /settings/usage; verbindlich ist Ihr Vertrag mit der rooom AG.