Vektordatenbank für RAG auswählen: Anforderungen statt Rangliste

Der Speicher hält numerische Repräsentationen und häufig zusätzliche Metadaten. Er erzeugt nicht automatisch vollständige Quellen, gültige Berechtigungen oder richtige Antworten. Extraktion, Chunking, fachliche Freigabe und Antwortbildung bleiben eigene Aufgaben.

Ein schlecht vorbereiteter Abschnitt bleibt auch im schnellsten Speicher schlecht vorbereitet. Wenn Produktnummer und Ausnahme fehlen, kann die Datenbank diese nicht verlässlich ergänzen. Beginnen Sie deshalb mit einem sauberen Referenzbestand und bekannten erforderlichen Fundstellen.

Die RAG-Architektur zeigt den gesamten Datenfluss. Die Datenbankauswahl sollte daraus abgeleitet werden, statt die übrige Anwendung nachträglich um ein bereits ausgewähltes Produkt herumzubauen.

Erfassen Sie Anzahl und Größe der Suchobjekte, Dimension der Repräsentationen, Änderungsrate und erwartete gleichzeitige Anfragen. Die Zahl der Originaldateien reicht nicht: Ein langes Handbuch kann viele Chunks erzeugen, ein kurzes Formular nur wenige.

Notieren Sie die benötigten Filter. Dazu können Mandant, Nutzergruppe, Produkt, Sprache, Standort und Gültigkeitszeitraum gehören. Entscheidend ist auch, wie stark diese Filter den Bestand einschränken. Eine Anfrage auf fast alle Dokumente ist anders als eine Anfrage auf einen sehr kleinen erlaubten Ausschnitt.

Beschreiben Sie außerdem Ausfalltoleranz und Betriebsfenster. Ein intern gelegentlich genutzter Assistent benötigt möglicherweise andere Verfügbarkeit als eine zentrale Serviceanwendung. Diese Anforderungen beeinflussen Architektur und Kosten stärker als eine isolierte Demo mit einer Suchanfrage.

Die folgende Tabelle vergleicht drei Architekturwege für die Vektorspeicherung in RAG danach, wann jeder zu prüfen ist und welche Verantwortung er zusätzlich bringt.

Die Kategorien überschneiden sich in ihren Fähigkeiten. Entscheiden Sie daher anhand der tatsächlich genutzten Funktionen. Eine lange Funktionsliste ist kein Vorteil, wenn die Anwendung nur wenige davon benötigt und der Betrieb dadurch schwerer wird.

Prüfen Sie bei vorhandener Infrastruktur auch zusätzliche Belastung. Ein gemeinsam genutztes System kann Verwaltung vereinfachen, darf aber wichtige Transaktionsabläufe nicht durch große Indexaufbauten beeinträchtigen. Ein getrennter Dienst kann diese Last trennen, erzeugt dafür Synchronisationsarbeit.

pgvector ergänzt PostgreSQL um Vektorähnlichkeitssuche und dokumentiert exakte sowie angenäherte Suchverfahren. Für Teams mit vorhandener PostgreSQL-Kompetenz kann dieser Weg daher eine prüfenswerte Baseline sein. Das ist keine Behauptung, dass er für jede Größe oder Last überlegen ist. pgvector: offizielle Dokumentation.

Ein Vorteil im Entwurf kann darin liegen, Metadaten und Vektoren nahe beieinander zu verwalten. Prüfen Sie dennoch die konkreten Abfragen, Indexkonfiguration und Konkurrenz mit anderen Datenbankaufgaben. Eine bekannte Datenbank macht eine neue Suchlast nicht automatisch kostenlos.

PostgreSQL bietet zudem Richtlinien für Zeilenzugriff. Ob sie in Ihrer Anwendung wirksam sind, hängt von Rollen und Ausführungskontext ab. Die Funktion allein beweist keine korrekte Übernahme externer Dokumentrechte. PostgreSQL: Row Security Policies.

Ein spezialisierter Vektorspeicher kann für bestimmte Such- und Skalierungsanforderungen sinnvoll sein. Qdrant dokumentiert beispielsweise Filter über gespeicherte Eigenschaften und weist auf die Bedeutung geeigneter Indizes für Filterfelder hin. Qdrant: Filtering.

Eine Filterfunktion ist jedoch keine vollständige Benutzerverwaltung. Die Anwendung muss den richtigen Filter aus einer authentifizierten Identität ableiten und verhindern, dass Nutzer ihn erweitern. Auch Löschungen und Änderungen der Quellrechte müssen in die gespeicherten Eigenschaften gelangen.

Prüfen Sie neben der Abfrage die alltäglichen Betriebswege: Datenaufnahme, Sicherung, Wiederherstellung, Fehlerdiagnose und Versionswechsel. Ein guter Suchbenchmark ersetzt diese Aufgaben nicht. Der passende Dienst ist derjenige, dessen gesamte Verantwortung das Team tragen oder verlässlich einkaufen kann.

Verwaltete Suchdienste können Text- und Vektorsuche, Filter und zusätzliche Rangordnung in einem Produkt kombinieren. Das kann Integrationsaufwand verringern, wenn diese Funktionen tatsächlich benötigt werden. Es kann zugleich die Anwendung an bestimmte Abfrage- und Indexmodelle binden.

Azure dokumentiert hybride Suche als Kombination von Volltext- und Vektorsignalen. Prüfen Sie für einen Vergleich dieselben Fragen und Filter wie bei anderen Optionen. Azure AI Search: Hybrid Search.

Vergleichen Sie das konkrete Betriebsmodell und dessen aktuelle Abrechnung. Verwaltete Angebote können unterschiedliche dedizierte oder nutzungsabhängige Varianten besitzen. Vermeiden Sie eine pauschale Annahme, jeder Dienst verursache immer denselben festen Kapazitätspreis oder könne bei Nichtnutzung vollständig kostenfrei ruhen.

Eine exakte Suche bestimmt die nächsten Treffer nach der gewählten Distanz im betrachteten Bestand. Annäherungsverfahren können Suchaufwand reduzieren, akzeptieren dafür aber mögliche Abweichungen bei gefundenen Nachbarn. Ob das praktisch relevant ist, hängt von Daten und Aufgabe ab.

Verwenden Sie für einen begrenzten Prüfbestand eine nachvollziehbare Referenz, um ausgelassene relevante Treffer zu erkennen. Die höchste Geschwindigkeit ist wenig wert, wenn gerade die seltene gültige Anleitung regelmäßig fehlt.

Distanz ist dabei nicht fachliche Richtigkeit. Auch ein exakt berechneter nächster Vektor kann eine unpassende Quelle darstellen. Die Bewertung muss deshalb technische Treffergenauigkeit und tatsächliche Antwortrelevanz getrennt betrachten.

Die Reihenfolge von Filterung und angenäherter Suche beeinflusst Ergebnisse. pgvector beschreibt beispielsweise, dass Filter bei angenäherten Indizes nach dem Indexscan wirken können und dadurch weniger passende Treffer übrig bleiben; die Dokumentation erläutert dafür verschiedene Gegenmaßnahmen. pgvector: Filter und iterative Suche.

Übertragen Sie dieses konkrete Verhalten nicht ungeprüft auf andere Produkte. Testen Sie jede Variante mit stark und schwach einschränkenden Filtern. Eine unbeschränkte Suche über alle Dokumente ist kein realistischer Stellvertreter für einen Assistenten mit vielen Nutzergruppen.

Wenn die Anwendung weniger Treffer erhält, darf sie nicht einfach die Sicherheitsfilter entfernen. Prüfen Sie Suchparameter, Indexaufteilung oder den gewählten Suchweg. Eine korrekte leere Antwort ist besser als eine gefüllte Liste aus fremden Bereichen.

Ein synthetisches Beispiel: 100.000 Vektoren mit jeweils 1.536 Werten und vier Bytes je Wert benötigen für diese Rohwerte 614.400.000 Bytes, also rund 614 MB in dezimaler Darstellung. Diese Annahmen beschreiben keine Empfehlung für ein bestimmtes Embedding-Modell.

Die tatsächliche Datenbank benötigt zusätzlich Indexstrukturen, Metadaten, Text, Verwaltungsdaten und gegebenenfalls Replikate. Sicherungen und ein paralleler Neuaufbau kommen ebenfalls hinzu. Eine reine Vektorrechnung ist daher eine Unterkomponente der Planung, keine vollständige Kapazitätsbestellung.

Prüfen Sie außerdem, ob die gewählte Darstellung komprimiert wird und welche Qualitätsfolgen das hat. Einsparungen an Speicher müssen gegen Suchverhalten und Betriebsaufwand geprüft werden. Übernehmen Sie einen Herstellerwert nicht als Ergebnis für den eigenen Bestand.

Gleiche Bedingungen. Nutzen Sie denselben Quellenstand, dieselben Embeddings und dieselben Filter. Wenn gleichzeitig das Modell oder die Chunking-Methode wechselt, lässt sich ein Unterschied nicht allein dem Speicher zurechnen. Beginnen Sie mit wenigen ernsthaft geeigneten Kandidaten.

Realistische Fälle. Prüfen Sie Fragen mit exakten Kennungen, semantischen Formulierungen und kleinen erlaubten Teilbeständen. Messen Sie Trefferqualität und Laufzeit bei realistischer Gleichzeitigkeit. Ergänzen Sie Datenaufnahme während laufender Anfragen, damit nicht nur ein unveränderter Idealzustand bewertet wird.

Festgehaltene Konfiguration. Dokumentieren Sie Instanzgröße, Konfiguration und verwendete Version. Ein Vergleich ohne diese Angaben ist schwer reproduzierbar. Ziel ist keine allgemeine Rangliste, sondern eine belastbare Entscheidung für Ihren Auftrag und Ihre Betriebsbedingungen.

Fehlgeschlagene und langsame Anfragen. Nehmen Sie fehlgeschlagene und langsame Anfragen in das Ergebnis auf, nicht nur die Durchschnittswerte erfolgreicher Abfragen. Ein Dienst kann einen attraktiven Median haben und trotzdem gelegentlich die für die Anwendung brauchbare Antwortzeit überschreiten. Legen Sie fest, welche Fehlerquote und welches Antwortfenster der Betrieb verkraftet, bevor Sie Varianten vergleichen.

Eine zurückgezogene Quelle muss mitsamt zugehörigen Chunks entfernbar sein. Prüfen Sie, ob stabile Dokumentkennungen die gezielte Bereinigung ermöglichen und ob alte Antworten oder Ableitungen ebenfalls behandelt werden müssen.

Ein Wechsel des Embedding-Modells kann neue Dimensionen oder einen anderen Vektorraum bedeuten. Planen Sie, wie der neue Bestand aufgebaut, geprüft und aktiviert wird. Ein vorübergehend paralleler Index benötigt zusätzliche Kapazität, kann aber einen kontrollierten Übergang ermöglichen.

Bewahren Sie Originaltexte und Metadaten ausreichend nachvollziehbar auf, damit eine neue Repräsentation erstellt werden kann. Vektoren allein sind kein bequemes Austauschformat für sämtliches Unternehmenswissen. Der Ausstieg aus einem Produkt sollte praktisch getestet werden.

Kostenposten. Berücksichtigen Sie Hosting oder Dienstnutzung, Speicherung, Sicherungen, Datenübertragung, Überwachung und menschlichen Betrieb. Bei selbst betriebenen Komponenten gehören Updates und Wiederherstellung dazu; bei verwalteten Diensten bleiben Konfiguration, Quellenpflege und Kostenkontrolle relevant.

Zuständigkeit. Klären Sie, wer auf einen langsamen Indexaufbau, fehlgeschlagene Löschung oder unerwartet hohe Nutzung reagiert. Ein günstiger Tarif ohne verfügbaren Betreiber kann teurer werden als eine passend betreute Lösung. Umgekehrt rechtfertigt ein großer Funktionsumfang keinen laufenden Aufwand, der für die Aufgabe unnötig ist.

Die Auswahl kommt zuletzt. Der Kostenleitfaden ergänzt die Kalkulation. Treffen Sie die Auswahl erst, wenn Suchqualität, Rechte, Änderungsabläufe und Wiederherstellung überprüft sind. Dann ist die Vektordatenbank eine begründete Komponente Ihres Wissensassistenten und kein Selbstzweck.

Auslöser für eine neue Entscheidung. Halten Sie fest, was die Entscheidung ändern würde: deutlich größeres Volumen, ein neues Berechtigungsmodell, zusätzliche Sprachen oder ein engeres Antwortzeitziel. Das verhindert sowohl eine verfrühte Migration als auch das unbegrenzte Festhalten an einer Wahl, deren ursprüngliche Annahmen nicht mehr gelten.

Übergabe prüfen. Prüfen Sie das Übergabepaket mit einer anderen Person als der, die die Lösung ursprünglich umgesetzt hat. Sie sollte die aktiven Bestände benennen, die letzte Sicherung überprüfen und erklären können, wie ein zurückgezogenes Dokument gesperrt wird. Fehlende Zugänge oder undokumentierte Abhängigkeiten sind konkrete Betriebskosten. Beheben Sie diese, bevor Sie einen erfolgreichen Prototyp als wartbare Entscheidung für den Produktivbetrieb behandeln.

Stellen Sie eine kleine repräsentative Sicherung in einer kontrollierten Umgebung wieder her. Prüfen Sie Quellenkennungen, Metadaten und Suchverhalten. Gleichen Sie anschließend Änderungen ab, die seit der Sicherung entstanden sind. Besonders entzogene Rechte und zurückgezogene Dokumente dürfen nicht durch die Wiederherstellung erneut aktiv werden.

Für mehrere Organisationen oder Abteilungen prüfen Sie getrennte Suchbereiche und deren technische Durchsetzung. Auch Leistungstrennung kann relevant sein: Ein großer Import für einen Bereich sollte die notwendige Suche eines anderen Teams nicht unbemerkt unbrauchbar machen. Die passende Grenze hängt vom vereinbarten Betriebsauftrag ab.

Diese Prüfungen zeigen Eigenschaften, die ein reiner Geschwindigkeitsvergleich übersieht. Sie belegen außerdem, ob Dokumentation und Zugänge ausreichen, damit eine Vertretung den Dienst wiederherstellen kann. Halten Sie den gemessenen Wiederherstellungsaufwand fest und vergleichen Sie ihn mit dem zulässigen Ausfallfenster. Eine Sicherung ohne getesteten Rückweg ist noch kein belastbarer Wiederanlaufplan.

Diese Leitfäden von modernagents behandeln angrenzende Entscheidungen rund um KI-Wissensassistenten:

• KI-Wissensassistent: internes Wissen auffindbar machen
• RAG-Architektur: vom Dokument zur belegbaren Antwort
• Hybride Suche und Reranking: bessere Quellen für RAG finden
• RAG-Kosten: Aufbau, Suche, Modelle und laufende Pflege

Für eine konkrete Ablaufprüfung reichen zunächst eine Prozessbeschreibung, die beteiligten Systeme und typische Ausnahmen. Mit modernagents besprechen.