Definition

Retrieval-Augmented Generation (RAG) ist eine KI-Architektur, die ein großes Sprachmodell mit einer externen Wissensquelle kombiniert. Anstatt sich nur auf das zu verlassen, was das Modell während des Trainings gelernt hat, ruft ein RAG-System relevante Dokumente, Datenbankeinträge oder Wissensdatenbankinhalte zur Laufzeit ab und verwendet diesen Kontext, um eine genauere Antwort zu generieren.

Wie RAG funktioniert

Ein typischer RAG-Workflow besteht aus drei Schritten:

1. Ein Benutzer stellt eine Frage.
2. Das System durchsucht eine Wissensquelle nach relevanten Informationen.
3. Das Sprachmodell verwendet den abgerufenen Kontext, um die endgültige Antwort zu erstellen.

Dies macht RAG nützlich, wenn Antworten aktuelle Geschäftsdaten, interne Dokumentationen, Produktkataloge, Richtlinien oder Support-Inhalte widerspiegeln müssen.

Warum RAG wichtig ist

RAG hilft, Halluzinationen zu reduzieren, die sachliche Grundlage zu verbessern und es Teams zu ermöglichen, Antworten zu aktualisieren, ohne das Basismodell neu trainieren zu müssen. Es wird häufig in der KI-Suche, in Unternehmens-Chatbots, internen Assistenten, Kundensupport-Tools und Wissensmanagementsystemen eingesetzt.