RAG für Produktdokumentation: So wird Ihr Wissen durchsuchbar

Kurz gesagt: Ein RAG-System beantwortet Fragen auf Basis Ihrer Dokumente und nennt die Quelle. Die Qualität hängt weniger vom Modell ab als davon, wie gut Ihre Dokumentation gepflegt, zerlegt und mit Metadaten versehen ist. Wer mit einem klar abgegrenzten Bestand startet und Antworten systematisch prüft, kommt am schnellsten zu einem belastbaren Ergebnis.

1. Was RAG leistet und wie ein System aufgebaut ist

Produktdokumentation wächst: Handbücher, API-Referenzen, Release Notes, Konfigurationsanleitungen, interne Wikis. Die klassische Suche findet Wörter, aber keine Antworten. Wer nach „Warum schlägt der Import fehl?“ sucht, bekommt zehn Seiten, die das Wort Import enthalten.

Retrieval-Augmented Generation (RAG) verbindet eine Suche mit einem Sprachmodell. Zuerst werden die passenden Textstellen aus Ihrem Bestand herausgesucht (Retrieval), dann formuliert das Modell daraus eine Antwort und verweist auf die Fundstellen. So lässt sich nachvollziehen, woher eine Aussage stammt. Das Modell ist dabei nicht die Wissensquelle, sondern der Formulierer.

Typische Einsatzorte sind der Support, der Vertrieb (technische Rückfragen) und die Entwicklung selbst, etwa beim Einarbeiten neuer Kolleginnen und Kollegen.

Ein RAG-System besteht im Kern aus fünf Schritten:

1. Einlesen: Dokumente aus Quellen wie Wiki, Repository, Hilfecenter oder SharePoint werden geholt.
2. Zerlegen: Die Texte werden in sinnvolle Abschnitte geteilt, damit nur die relevanten Stellen gefunden werden.
3. Indexieren: Jeder Abschnitt wird als Embedding in einer Vektordatenbank abgelegt, sodass inhaltlich ähnliche Texte gefunden werden, auch wenn andere Wörter benutzt wurden.
4. Suchen: Zu einer Frage werden die passendsten Abschnitte abgerufen, bei Bedarf kombiniert mit klassischer Stichwortsuche.
5. Antworten: Das Sprachmodell formuliert die Antwort aus diesen Abschnitten und nennt die Quellen.

2. Qualität beginnt bei der Dokumentation

Die häufigste Ursache schwacher Antworten ist nicht die Technik, sondern der Bestand. Prüfen Sie vor dem Start:

• Aktualität: Gibt es mehrere Versionen derselben Anleitung? Welche gilt?
• Widersprüche: Wenn zwei Seiten Unterschiedliches behaupten, kann auch das beste System nur raten.
• Struktur: Klare Überschriften, kurze Abschnitte und eindeutige Begriffe erleichtern das Zerlegen.
• Lücken: Fragen, auf die niemand eine dokumentierte Antwort hat, sollten Sie kennen, bevor ein Assistent sie beantworten soll.
• Zuständigkeit: Wer pflegt welche Inhalte, und wie gelangen Änderungen in den Index?

Metadaten helfen enorm. Wenn jeder Abschnitt Produkt, Version, Sprache und Dokumenttyp kennt, kann die Suche gezielt filtern, etwa auf die Version, die der fragende Kunde nutzt.

Praxis-Tipp: Beginnen Sie mit einem klar abgegrenzten Bestand, zum Beispiel der Dokumentation eines Produkts. Ein kleiner, gepflegter Bestand liefert schneller verlässliche Antworten als der Versuch, alles auf einmal einzulesen.

3. Typische Stolpersteine

Tabellen, Code und Bilder. Konfigurationstabellen, Codebeispiele und Screenshots lassen sich nicht wie Fließtext behandeln. Sie brauchen eigene Verarbeitung, etwa OCR bei Bildern, oder müssen bewusst ausgeklammert werden.

Zu große oder zu kleine Abschnitte. Sind Abschnitte zu groß, wird die Antwort ungenau; sind sie zu klein, fehlt der Zusammenhang. Die passende Größe ermitteln Sie am besten an echten Fragen.

Veralteter Index. Ohne automatische Aktualisierung antwortet das System irgendwann auf Basis alter Stände. Planen Sie die Synchronisation von Beginn an ein.

Berechtigungen. Nicht jeder darf alles sehen. Interne Dokumente dürfen nicht in Antworten für Kunden auftauchen. Zugriffsrechte müssen deshalb schon bei der Suche berücksichtigt werden, nicht erst bei der Anzeige.

Fehlende Messung. Ohne Testfragen mit bekannten Antworten wissen Sie nicht, ob eine Änderung etwas verbessert. Stellen Sie früh einen Satz realer Fragen zusammen und prüfen Sie ihn nach jeder Anpassung.

4. Beispiel: Eine Frage im Support

Ein Kunde fragt: „Wie binde ich Single Sign-on in der neuen Version an?“ Eine klassische Suche liefert Seiten zu Anmeldung, Benutzerverwaltung und Release Notes. Ein RAG-System dagegen filtert zunächst auf die Dokumentation der passenden Version, ruft die zwei oder drei relevanten Abschnitte ab und formuliert eine kurze Anleitung. Darunter stehen die Fundstellen, sodass die Support-Mitarbeiterin die Antwort mit einem Klick prüfen kann.

Das Beispiel zeigt zwei Dinge. Erstens: Der Nutzen entsteht durch die Kombination aus Suche und Formulierung, nicht durch das Modell allein. Zweitens: Die Quellenangabe ist kein Schmuck, sondern die Grundlage für Vertrauen. Wer eine Antwort nicht nachprüfen kann, wird sie im Zweifel nicht nutzen. Sinnvoll ist deshalb auch eine Rückmeldefunktion („Hat geholfen / Hat nicht geholfen“), über die Lücken im Bestand sichtbar werden.

5. Datenschutz und Betrieb

Auch Produktdokumentation kann personenbezogene Daten enthalten, etwa Namen in Tickets oder Kundenbeispielen. Klären Sie, wo Index und Modell laufen, ob ein Auftragsverarbeitungsvertrag nötig ist und ob Eingaben für Training genutzt werden. Hosting in Deutschland oder der EU ist bei Vertion grundsätzlich möglich. Einen Überblick bietet unser Ratgeber DSGVO-konforme KI. Rechtliche Einzelfragen klären Sie bitte mit Ihrer oder Ihrem Datenschutzbeauftragten.

6. Prüfliste für den Start

1. Welche Fragen sollen beantwortet werden, und von wem?
2. Welche Quellen sind maßgeblich, und wer pflegt sie?
3. Wie werden Versionen und Sprachen unterschieden?
4. Welche Fragen soll das System ausdrücklich nicht beantworten?
5. Wie wird Qualität gemessen, und wer prüft Stichproben?
6. Wo liegen Daten und Modell, und welche Verträge sind nötig?

Häufige Fragen kurz beantwortet

Brauchen wir ein eigenes Modell oder Fine-Tuning?

In der Regel nicht. Für Dokumentationsfragen genügt meist ein Standardmodell, das über RAG mit Ihren Inhalten versorgt wird. Fine-Tuning verändert das Modell selbst und ist für aktuelle, sich ändernde Fakten weniger geeignet.

Wie verhindern wir erfundene Antworten?

Ganz ausschließen lässt es sich nicht. Das System sollte nur aus abgerufenen Quellen antworten, die Fundstellen anzeigen und bei fehlender Grundlage ausdrücklich darauf hinweisen.

Wie lange dauert ein Pilot?

Das hängt von Umfang, Quellen und Qualität der Dokumentation ab. Im Erstgespräch schätzen wir gemeinsam mit Ihnen den Aufwand für einen ersten, abgegrenzten Piloten ein.

Möchten Sie Ihre Dokumentation durchsuchbar machen? Im kostenlosen Erstgespräch (30 Minuten) klären wir Bestand, Quellen und sinnvolle Startpunkte. Nutzen Sie dafür die Kontaktseite.

Weiterführend: Leistung RAG-Systeme · Branche IT, Software & SaaS · Glossar: RAG, Embedding, Vektordatenbank, Halluzination

Mehr zum Thema: RAG für Wissensbestände: So wird internes Wissen auffindbar