Cơ sở kiến thức của Đại lý
Cơ sở Tri thức Tác nhân (AKB) là một kho lưu trữ thông tin tập trung, có cấu trúc và thường được vector hóa mà một tác nhân AI tự trị sử dụng để định hướng quyết định, trả lời truy vấn của người dùng và thực hiện các tác vụ. Không giống như kiến thức chung được nhúng trong Mô hình Ngôn ngữ Lớn (LLM), AKB cung cấp kiến thức chuyên ngành cụ thể, độc quyền hoặc cập nhật.
Nếu không có AKB, tác nhân AI sẽ bị giới hạn trong dữ liệu mà nó được huấn luyện, dẫn đến hiện tượng bịa đặt thông tin (hallucinations), câu trả lời lỗi thời và không thể xử lý logic nghiệp vụ chuyên biệt. AKB neo giữ tác nhân vào các sự kiện có thể kiểm chứng, làm cho các đầu ra của nó đáng tin cậy, đáng tin cậy và phù hợp với bối cảnh hoạt động cụ thể của doanh nghiệp.
Quy trình làm việc điển hình liên quan đến Tạo sinh Tăng cường Truy xuất (RAG). Khi người dùng đưa ra lời nhắc cho tác nhân, hệ thống trước tiên truy vấn AKB. Quá trình truy xuất này sẽ tìm ra các tài liệu hoặc đoạn dữ liệu có liên quan về mặt ngữ nghĩa nhất. Các đoạn trích được truy xuất này sau đó được đưa vào lời nhắc của LLM dưới dạng ngữ cảnh, cho phép LLM tạo ra câu trả lời dựa trên tài liệu nguồn đã được cung cấp và xác minh.
Việc triển khai một AKB hiệu quả đòi hỏi các quy trình nhập dữ liệu mạnh mẽ, các chiến lược phân đoạn (chunking) hiệu quả và chỉ mục vector chất lượng cao. Dữ liệu được cấu trúc kém sẽ dẫn đến việc truy xuất kém, điều này làm mất đi lợi ích của LLM.
Khái niệm này có liên quan chặt chẽ đến Cơ sở Dữ liệu Vector (Vector Databases), Tạo sinh Tăng cường Truy xuất (RAG) và Tìm kiếm Ngữ nghĩa (Semantic Search).