Wissensabrufsystem
Ein Knowledge Retriever (Wissensabrufer) ist eine Komponente innerhalb eines KI-Systems, die typischerweise zusammen mit großen Sprachmodellen (LLMs) eingesetzt wird, um relevante, faktenbasierte Informationen aus einer vordefinierten, externen Wissensdatenbank zu finden und abzurufen. Anstatt sich ausschließlich auf die während des anfänglichen Trainings erlernten Parameter zu verlassen, holt er spezifische Dokumente, Passagen oder Datenpunkte ab, die für die Benutzeranfrage relevant sind.
Die Hauptbedeutung eines Knowledge Retrievers liegt in der Milderung der inhärenten Einschränkungen von LLMs. LLMs neigen zu „Halluzinationen“ – der Generierung faktisch inkorrekter, aber plausibel klingender Informationen. Durch die Verankerung der Antwort des LLM in überprüfbaren, aktuellen externen Daten stellt der Retriever Genauigkeit, Relevanz und Nachvollziehbarkeit sicher.
Der Prozess folgt im Allgemeinen einem Retrieval-Augmented Generation (RAG)-Muster. Zuerst wird die Benutzeranfrage in eine Vektordarstellung eingebettet. Dieser Vektor wird dann verwendet, um eine Vektordatenbank zu durchsuchen, die Einbettungen der Wissensdatenbankdokumente enthält. Das System ruft die obersten 'k' semantisch ähnlichsten Textabschnitte ab. Schließlich werden diese abgerufenen Abschnitte dem LLM als Kontext übergeben und es angewiesen, eine Antwort ausschließlich auf der bereitgestellten Evidenz zu generieren.
Knowledge Retriever sind in Unternehmensanwendungen, die eine hohe Treue erfordern, von entscheidender Bedeutung:
Vektordatenbanken, Embedding-Modelle, Retrieval-Augmented Generation (RAG), Semantische Suche, Informationsextraktion.
