Wissensbasis (RAG)
Wissensbasis mit RAG in SovrGPT: eigene Dokumente hochladen und Antworten mit Quellenangabe erhalten, strikt je Organisation getrennt.
Die Wissensbasis ist die durchsuchbare Dokumentensammlung Ihrer Organisation. Technisch ist das RAG (Retrieval-Augmented Generation): Vor der Antwort sucht SovrGPT in Ihren Dokumenten, gibt passende Stellen an das Modell und nennt sie als Quellen. So bleibt nachprüfbar, woher eine Aussage stammt, etwa in Verwaltung, Recht und Compliance. Keine Organisation sieht das Wissen einer anderen.
Wissensquellen pro Chat wählen
Die Quelle wählen Sie im Eingabebereich über den Knopf, der den aktuellen Modus zeigt, zum Beispiel „Wissensbasis“:
| Modus | Verhalten |
|---|---|
| Aus | Keine Wissensbasis, normaler Chat. |
| Wissensbasis | Antworten mit Ihrer Wissensbasis anreichern. |
| Nur Wissensbasis | Ausschließlich aus der Wissensbasis antworten, ohne Weltwissen. |
| Web | Nur Websuche, ohne Wissensbasis. |
| Wissensbasis + Web | Wissensbasis und Websuche kombinieren. |
Die Organisation legt einen Standardmodus fest, jeder Chat kann ihn ändern. Die Modi mit Web nutzen Brave Search, einen Anbieter in den USA. Ist ein solcher Modus Standard, ist die Websuche in allen Chats ohne eigene Einstellung an.
Dokumente verwalten
Unter Einstellungen → Wissen (RAG) laden Sie Dateien hoch (PDF, Word, Excel, Text, Markdown), sehen die Dokumentenliste, löschen einzelne Dokumente und behalten das Kontingent im Blick. SovrGPT zieht beim Hochladen den Text heraus, zerlegt ihn in Abschnitte und speichert sie als Vektoren in unserer Datenbank in Frankfurt.
Hochladen dürfen alle Mitglieder der Organisation. Mitglieder löschen die Dokumente, die sie selbst hochgeladen haben; Inhaber und Admins dürfen jedes Dokument löschen.
Wie die Suche funktioniert
- Hybride Suche: Stichwortsuche (Postgres-Volltext) und semantische Suche (pgvector) werden zusammengeführt.
- Neu ordnen: Ein Sprachmodell liest die Frage und bis zu 20 der besten Treffer und bestimmt, welcher Abschnitt die Frage am besten beantwortet; danach richtet sich die Reihenfolge. In einer Messung auf unserer eigenen Dokumentation stand die richtige Stelle so deutlich öfter auf Platz 1 als mit der semantischen Suche allein.
- Zitieren: Die besten Stellen gehen an das Modell. Die Antwort markiert sie mit
[#1],[#2]…, und unter der Antwort steht zu jeder zitierten Marke das Dokument und der Abschnitt.
Kann die Suche technisch nicht laufen, sagt SovrGPT das offen und behauptet nicht, Ihre Dokumente enthielten nichts Passendes. Im Modus Nur Wissensbasis kommt dann keine Antwort aus dem Weltwissen, sondern die Bitte, es erneut zu versuchen. In den anderen Modi steht in der Antwort, dass sie ohne Ihre Quellen entstanden ist. Fällt nur das Neuordnen aus oder dauert es länger als drei Sekunden, kommen die Treffer in der Reihenfolge der hybriden Suche.
Die Einbettung (Dokumente beim Hochladen, Fragen bei der Suche) läuft bei STACKIT in Deutschland, ohne Wartezeit für einen Serverstart.
Wer die Treffer neu ordnet
| Reihenfolge | Modell | Rechenzentrum |
|---|---|---|
| 1. | Gemma 4 31B · STACKIT (stackit-gemma-4-31b) | Deutschland |
| 2., nur wenn Gemma 4 31B · STACKIT ausgelastet, gestört oder nicht erreichbar ist oder in Ihrer Organisation ausgeblendet ist | Qwen 3.8 27B · Irland/Finnland (tensorx-qwen3.8-27b) im europäischen Partner-Rechenzentrum | Irland, Finnland |
| Rückfall | Reihenfolge der hybriden Suche | – |
- Nur freigegebene Modelle: Ihre Abschnitte gehen nur an Modelle, die in Ihrer Organisation sichtbar sind. Ein ausgeblendetes Modell wird übersprungen; sind beide ausgeblendet, gilt die Reihenfolge der hybriden Suche. Sollen keine Abschnitte ins Partner-Rechenzentrum gehen, blenden Sie „Qwen 3.8 27B · Irland/Finnland“ aus – nicht „Qwen 3.8 27B“, das bei STACKIT läuft.
- Drei Sekunden für alles: Hat bis dahin keines der Modelle geantwortet, gilt die Reihenfolge der hybriden Suche. Die Antwort wartet nicht länger.
- Nur die eigenen Abschnitte: Geordnet werden ausschließlich Treffer Ihrer Organisation. Das Neuordnen ändert nur die Reihenfolge, es fügt keine Abschnitte hinzu.
- Nichts im Protokoll: SovrGPT protokolliert beim Neuordnen nur Zahlen und Kennungen, weder Ihre Frage noch Abschnitte. Das europäische Partner-Rechenzentrum speichert Eingaben laut Vertrag nicht.
- Kosten: Das Neuordnen wird zum Preis des Modells berechnet, das geantwortet hat –
je Suche rund 10 000 bis 11 000 Eingabetoken und ein Ausgabetoken. Antwortet keines,
wird nichts berechnet. Ebenso berechnet wird das Einbetten: Ihrer Frage bei jeder Suche
und der Abschnitte beim Hochladen, zum Preis des Einbetters (Preise:
GET /v1/pricing). Ihre Ausgabengrenze gilt für beides.
Über die API ordnet POST /v1/rerank weiterhin mit bge-reranker-base
im Selbstbetrieb neu (siehe Modelle); die Wissensbasis im Chat nutzt
dieses Modell nicht mehr.
Trennung zwischen Organisationen
Jede Zeile trägt die org_id ihrer Organisation. Row-Level-Security lässt nur
Mitglieder lesen; geschrieben wird ausschließlich auf dem Server, nie direkt aus dem
Browser.
Verfügbarkeit (Tarife)
| Funktion | Tarif |
|---|---|
| Wissensbasis | ab Pro (bis 200 Dokumente, 500 MB); Enterprise nach Vereinbarung |
| Websuche als Quelle | alle Tarife |
Abgrenzung: Wissensbasis vs. Datei-Anhang
Die Wissensbasis ist dauerhaft und in allen Chats der Organisation durchsuchbar. Ein Datei-Anhang gilt nur für die eine Unterhaltung.
Verwandte Themen: Marketplace · Eigene Systeme anbinden · DSGVO & Compliance.