RAG (Retrieval-Augmented Generation) ergänzt ein Sprachmodell um eine Suche in eigenen Dokumenten, damit Antworten auf Firmenwissen beruhen und Quellen nennen.
Was bedeutet der Begriff?
RAG steht für „Retrieval-Augmented Generation“, auf Deutsch etwa „durch Suche angereicherte Textgenerierung“. Das Prinzip: Bevor das Sprachmodell antwortet, sucht das System in Ihren eigenen Dokumenten die passenden Abschnitte heraus und gibt sie dem Modell als Grundlage mit. Das Modell formuliert dann eine Antwort, die sich auf diese Quellen stützt, und kann sie angeben.
Die Vorteile: Das Wissen bleibt aktuell, weil man Dokumente austauscht, statt ein Modell neu zu trainieren; Antworten sind überprüfbar; und Zugriffsrechte lassen sich berücksichtigen. Die Qualität hängt von den Dokumenten und der Suche ab: Veraltete oder widersprüchliche Quellen führen zu schlechten Antworten. RAG senkt das Risiko von Halluzinationen, schließt es aber nicht aus.
Beispiel aus einem KMU
Ein Beispiel aus einem KMU: Ein Industrieunternehmen hat technische Datenblätter, Handbücher und Normen in verschiedenen Ablagen. Mitarbeitende fragen im Chat „Welche Betriebstemperatur gilt für Produkt Y?“. Das System findet die Stelle im Datenblatt, antwortet und verweist auf das Dokument. Ohne RAG würde ein allgemeines Modell raten.