Retrieval-Augmented Generation (RAG)
Retrieval-Augmented Generation (RAG) verbindet ein Sprachmodell mit deinen eigenen Quellen: Zu jeder Frage werden passende Textstellen gesucht und dem Modell als Grundlage für die Antwort mitgegeben.
Auch bekannt als: RAG · Abrufgestützte Generierung
So funktioniert das
RAG kombiniert Suche und Textgenerierung. Deine Dokumente (Handbücher, Wissensdatenbank, Produktinfos) werden vorab in kleine Abschnitte zerlegt und als Embeddings in einer Vektordatenbank abgelegt. Stellt jemand eine Frage, sucht das System die passendsten Abschnitte und gibt sie dem Sprachmodell als Grundlage mit. Das Modell formuliert die Antwort aus diesen Quellen.
Beispiel aus der Praxis
Ein Chatbot beantwortet Fragen zu Lieferzeiten und Rückgabe — und zwar anhand der aktuellen Hilfeseiten des Unternehmens, nicht aus allgemeinem Modellwissen.
Das solltest du wissen
- RAG bringt aktuelles und internes Wissen ins Modell, ohne es neu zu trainieren.
- Es senkt das Risiko von Halluzinationen, schließt es aber nicht aus. Die Qualität hängt stark davon ab, wie gut deine Quellen gepflegt und aufbereitet sind.
- Quellenangaben in der Antwort machen sie nachprüfbar.
- Du bestimmst, welche Dokumente das System sehen darf — wichtig für Datenschutz und Zugriffsrechte.
Passende Werkzeuge