RAG-Architektur: vom Dokument zur belegbaren Antwort

Definieren Sie zunächst, was als gelöst gilt. Soll der Assistent eine Passage finden, mehrere Dokumente zusammenfassen oder einen aktuellen Systemstatus erklären? Diese Aufgaben brauchen unterschiedliche Informationswege. Ein Dokumentindex ist beispielsweise kein Ersatz für eine aktuelle Bestandsabfrage.

Notieren Sie außerdem Nutzergruppen, erlaubte Quellen, benötigte Aktualität und Folgen einer falschen Antwort. Ein interner Handbuchassistent kann mit anderen Antwortgrenzen arbeiten als eine Anwendung, deren Ergebnis eine Freigabe auslöst. Diese Unterschiede beeinflussen Identität, Prüfung und Übergabe.

Eine Referenzarchitektur hilft beim Erkennen von Komponenten, ersetzt aber keine eigene Auswahl. Google zeigt beispielsweise einen verwalteten RAG-Aufbau mit Such- und Modellservices. Daraus folgt nicht, dass jedes kleine Unternehmen dieselbe Infrastruktur benötigt. Google: RAG-Referenzarchitektur.

Der Aufnahmepfad einer RAG-Architektur durchläuft diese Schritte:

1. Die Aufnahme beginnt bei einer eindeutig benannten Quelle.
2. Der Konnektor erfasst Inhalt und Metadaten unter einer definierten technischen Identität.
3. Extraktion wandelt das Ausgangsformat in verwendbaren Text oder strukturierte Daten um.
4. Danach werden geeignete Abschnitte gebildet und gegebenenfalls numerische Repräsentationen für die Suche erzeugt.

Vor der Aktivierung müssen mindestens Quellenkennung, Version, Gültigkeit und Zugriffsbezug feststehen. Unvollständig gelesene Dokumente sollten einen erkennbaren Zustand erhalten. Ein leeres Extraktionsergebnis ist kein erfolgreich verarbeiteter Fachinhalt.

Dieser Pfad läuft unabhängig von einer Nutzerfrage. Seine Fehler können daher lange unbemerkt bleiben, wenn nur die Chatoberfläche überwacht wird. Messen Sie für jede Quelle den letzten erfolgreichen vollständigen Stand und den Rückstand gegenüber erforderlichen Änderungen.

Der Antwortpfad einer RAG-Architektur durchläuft diese Schritte:

1. Die Anwendung authentifiziert die fragende Person und bestimmt den zulässigen Suchbereich.
2. Sie kann die Frage für die Suche aufbereiten, etwa eine Produktnummer erkennen oder eine unklare Zeitangabe klären. Diese Aufbereitung darf den ursprünglichen Auftrag nicht unbemerkt verändern.
3. Anschließend werden Kandidaten gesucht, gegebenenfalls neu geordnet und zu einem begrenzten Kontext zusammengestellt.
4. Das Modell erhält die ausgewählten Informationen zusammen mit dem Antwortauftrag.
5. Die Ausgabe sollte relevante Aussagen, Quellenbezug und erkennbare Grenzen enthalten.

Nachgelagerte Prüfungen können Format, Quellenzuordnung oder unzulässige Aktionen kontrollieren. Sie ersetzen nicht die vorherige Zugriffskontrolle. Gesperrte Dokumente sollten das Modell gar nicht erreichen, statt erst aus einer bereits erzeugten Antwort herausgefiltert zu werden.

Die folgenden Felder bilden einen vorgeschlagenen Mindestvertrag für jedes Suchobjekt in einem RAG-Index:

Das ist ein vorgeschlagener Mindestvertrag, kein universelles Datenbankschema. Weitere Felder ergeben sich aus dem Auftrag. Eine komplexe Taxonomie ohne tatsächliche Filter- oder Prüfaufgabe erhöht Pflegeaufwand, ohne die Antworten notwendigerweise zu verbessern.

Wichtig sind stabile Beziehungen. Wenn ein Dokument ersetzt wird, muss die Anwendung alle zugehörigen Chunks und Ableitungen kennen. Ein Dateiname allein ist dafür häufig unzureichend, weil er geändert oder mehrfach verwendet werden kann.

Die Suche soll geeignete Kandidaten finden. Der Kontextaufbau entscheidet, welche davon tatsächlich an das Modell gehen und wie sie angeordnet werden. Eine große Treffermenge ist daher nicht automatisch eine gute Antwortgrundlage.

Klassische Textsuche kann genaue Bezeichnungen unterstützen, während semantische Suche unterschiedliche Formulierungen zusammenführen kann. Azure dokumentiert die Kombination beider Ansätze als hybride Suche. Ob diese Kombination in Ihrer Sammlung besser ist, muss ein eigener Fragenbestand zeigen. Azure AI Search: Hybrid Search.

Begrenzen Sie Wiederholungen und erhalten Sie wesentliche Nachbarschaft. Zehn ähnliche Abschnitte aus derselben alten Anleitung sollten nicht eine aktuelle Ausnahme verdrängen. Der Kontext benötigt Vielfalt der relevanten Belege, nicht bloß möglichst viele Tokens.

Ein erfundenes Handbuch beschreibt den Filterwechsel für Gerät A. Die Quelle besitzt eine freigegebene Version, einen Abschnitt mit Arbeitsschritten und einen benachbarten Hinweis auf erforderliche Abschaltung. Eine ältere Fassung bleibt für historische Fragen verfügbar.

Eine berechtigte Person fragt nach dem heutigen Ablauf. Die Anwendung filtert nach Gerät, gültiger Fassung und Nutzerrechten. Sie liefert Arbeitsschritte und Abschalthinweis gemeinsam an das Modell. Die Antwort nennt die relevanten Voraussetzungen und verweist auf den konkreten Abschnitt.

Wenn der Abschalthinweis bei der Extraktion fehlt, sollte der Test scheitern, selbst wenn die übrigen Schritte korrekt erscheinen. Wenn die Quelle nicht erreichbar ist, darf das System nicht aus allgemeinem Modellwissen eine verbindliche Wartungsanweisung improvisieren. Dieses Beispiel zeigt die gewünschte Architekturwirkung, keine tatsächlich durchgeführte Maschinenprüfung.

Unterscheiden Sie in einem RAG-Bestand mindestens die folgenden Quellenstände:

• neu
• in Verarbeitung
• geprüft
• aktiv
• gesperrt
• gelöscht

Nicht jeder Betrieb benötigt dieselben Statusnamen; entscheidend ist die klare Aktivierungsregel. Ein fehlgeschlagener Import darf nicht versehentlich die letzte gültige Version überschreiben.

Für RAG-Antworten sind ebenfalls unterschiedliche Ergebnisse nötig:

• beantwortet
• Rückfrage erforderlich
• keine ausreichende Quelle
• fachlicher Konflikt

Ein generischer Fehlertext für alle Fälle erschwert sowohl Nutzung als auch Betrieb.

Ältere Fassungen. Definieren Sie, wann eine ältere Fassung verwendet werden darf. Bei allgemeinen Hintergrundinformationen kann ein gekennzeichneter Stand vertretbar sein. Bei entzogenen Zugriffsrechten oder zurückgezogenen Sicherheitsanweisungen kann eine Sperre notwendig sein. Die Architektur muss diese Entscheidung ausführen können.

Der Importzugang und die Nutzeridentität erfüllen unterschiedliche Aufgaben. Ein Dienstkonto kann viele Dokumente erfassen, ohne dass alle Nutzer diese Dokumente sehen dürfen. Prüfen Sie daher, ob die gewählte Verbindung delegierte Rechte verwendet oder eigene Metadaten benötigt.

Azure beschreibt verschiedene Mechanismen für Dokumentzugriff mit unterschiedlichen Voraussetzungen. Native Funktionen, Vorschaufunktionen und selbst verwaltete Filter sind keine austauschbaren Zusagen. Azure AI Search: Dokumentberechtigungen.

Berücksichtigen Sie auch Caches, Protokolle und Gesprächsverläufe. Eine korrekt gefilterte neue Suche hilft nicht, wenn eine alte erlaubte Antwort an eine inzwischen unberechtigte Person wiederverwendet wird. Der SharePoint-Leitfaden zeigt diese Grenze an einem konkreten Quellsystem.

Ein Wissensassistent muss nicht automatisch ein handelnder Agent sein. Wenn der Auftrag nur Fragen beantwortet, kann ein lesender Aufbau ausreichen. Damit bleiben viele mögliche Nebenwirkungen außerhalb des Systems.

Werden später Werkzeuge ergänzt, braucht jede Aktion eine eigene Prüfung von Identität, Ziel und Parametern. Ein gefundenes Dokument darf einen Prozess erklären, aber nicht zusätzliche Berechtigungen erteilen. Besonders externe Links und importierte Anweisungen müssen als Quelleninhalt behandelt werden.

Zeichnen Sie den Aktionspfad separat: vorgeschlagene Handlung, Prüfung, gegebenenfalls menschliche Freigabe, Ausführung und bestätigtes Ergebnis. Eine vom Modell formulierte Erfolgsmeldung beweist keine erfolgreiche Änderung im führenden System.

Erfassen Sie Anfragekennung, verwendete Quellenfassungen, Suchergebnis, Antwortstatus und relevante Laufzeiten. Speichern Sie sensible Inhalte nur soweit für den vereinbarten Zweck notwendig und unter passenden Zugriffsrechten. Vollständige Daueraufzeichnung ist keine Voraussetzung für brauchbare Fehlersuche.

Unterscheiden Sie Suchfehler von Generierungsfehlern. Wenn die richtige Passage fehlt, prüfen Sie Quelle, Extraktion und Retrieval. Wenn sie vorhanden ist, prüfen Sie Antwortbildung und Bewertung. Diese Trennung verkürzt die Fehlersuche und verhindert unnötige Modellwechsel.

Beobachten Sie neben Durchschnittswerten auch langsame oder fehlgeschlagene Anfragen. Ein System kann im Mittel schnell sein und gerade bei mehrteiligen wichtigen Fragen unbrauchbar werden. Die Auswertung sollte nach den relevanten Aufgabentypen getrennt sein.

Versionieren Sie Prompt, Extraktionsverfahren, Embedding-Modell und Suchkonfiguration soweit sie das Ergebnis beeinflussen. Ein Wechsel der numerischen Repräsentation kann einen neuen Index erforderlich machen. Alte und neue Vektoren dürfen nicht ohne geprüfte Kompatibilität vermischt werden.

Prüfen Sie eine neue Konfiguration gegen denselben festgehaltenen Fragenbestand. Bei grundlegenden Indexänderungen kann ein paralleler Aufbau mit kontrolliertem Wechsel sinnvoll sein. Planen Sie den Rückweg, einschließlich der Frage, welche Daten seit dem alten Stand geändert wurden.

Ein Rollback darf keine inzwischen entzogenen Rechte wieder aktivieren. Trennen Sie deshalb Rückkehr zu einer alten technischen Konfiguration von Rückkehr zu veralteten Freigaben. Die aktuelle Sicherheitsgrenze bleibt maßgeblich.

Benennen Sie für jede Komponente, wer Ausfälle und Änderungen bearbeitet. Ein verwalteter Suchdienst nimmt Ihnen einen Teil der Infrastrukturarbeit ab, bestimmt aber keine fachlich verantwortliche Person für die Quelleninhalte. Ein eigener Modell-Endpunkt übernimmt keine Verantwortung für eine fehlerhafte Dokumentenextraktion.

Beziehen Sie Sicherung, Wiederherstellung und den Zugriff auf Betriebsnachweise ein. Ein Team sollte den Dienst wiederherstellen können, ohne von einem undokumentierten Konto oder dem Gedächtnis einer einzelnen Person abzuhängen. Gestalten Sie den Aufbau der Aufgabe angemessen, aber machen Sie die wesentlichen Zuständigkeiten ausdrücklich.

Lassen Sie eine fachliche Person eine Antwort bis zur Originalquelle verfolgen und eine technische Person denselben Weg durch Import, Index und Anfrage nachvollziehen. Beide sollten erklären können, warum gerade diese Quelle verwendet und eine andere ausgeschlossen wurde.

Prüfen Sie zusätzlich Löschung, Rechteentzug, ausgefallene Quelle, widersprüchliche Versionen und eine manipulierte Dokumentanweisung. Halten Sie fest, welche Komponenten verwaltet bezogen werden und welche Ihr Team selbst betreibt. Für jede Störung braucht es einen erreichbaren Verantwortlichen.

Die Architektur ist ausreichend, wenn sie den vereinbarten Auftrag zuverlässig und überprüfbar erfüllt. Sie muss nicht jede denkbare spätere Fähigkeit vorwegnehmen. Der RAG-Abnahmeplan verbindet diese technische Prüfung mit fachlichen Ergebnissen; die Kostenanleitung ergänzt den Aufwand des laufenden Betriebs.

Notieren Sie für jede zusätzliche Komponente die Anforderung, die sie erfüllt, und die einfachere Alternative. Ein Reranker kann beispielsweise helfen, relevante Kandidaten besser zu ordnen; wenn das eigentliche Problem fehlende Quellen sind, ist diese Investition nicht zielgerichtet. Ein separater Vektorspeicher kann sinnvoll sein, muss aber gegenüber vorhandener Such- oder Datenbanktechnik begründet werden.

Halten Sie außerdem fest, welche Abhängigkeit bei einem Ausfall entsteht. Kann die Anwendung noch Quellenlinks zeigen, wenn die Antwortgenerierung nicht verfügbar ist? Kann sie eine betroffene Sammlung sperren, ohne alle anderen Bereiche abzuschalten? Solche begrenzten Ersatzwege sind häufig praktischer als eine aufwendige Verdopplung sämtlicher Komponenten. Ihre Eignung hängt vom tatsächlichen Arbeitsauftrag und vom Risiko ab, unvollständige Informationen anzuzeigen.

Diese Leitfäden von modernagents behandeln angrenzende Entscheidungen rund um KI-Wissensassistenten:

• KI-Wissensassistent: internes Wissen auffindbar machen
• PDFs, Scans und Tabellen für RAG vorbereiten
• RAG-Chunking: Inhalte teilen, ohne den Zusammenhang zu verlieren
• Hybride Suche und Reranking: bessere Quellen für RAG finden

Für eine konkrete Ablaufprüfung reichen zunächst eine Prozessbeschreibung, die beteiligten Systeme und typische Ausnahmen. Mit modernagents besprechen.