Bộ nhớ sâu
Bộ nhớ sâu (Deep Memory) đề cập đến các cơ chế tinh vi bên trong các hệ thống Trí tuệ Nhân tạo tiên tiến, đặc biệt là các Mô hình Ngôn ngữ Lớn (LLMs) và các tác nhân tự trị, cho phép chúng lưu trữ, truy xuất và sử dụng một lượng lớn thông tin ngữ cảnh trong thời gian dài. Không giống như các cửa sổ ngữ cảnh ngắn hạn, bộ nhớ sâu cho phép học tập bền vững và duy trì trạng thái qua nhiều lần tương tác.
Để các hệ thống AI vượt ra ngoài các cuộc trò chuyện một lượt và trở thành những trợ lý hoặc tác nhân tự trị thực sự hữu ích, chúng phải có bộ nhớ. Bộ nhớ sâu giải quyết hạn chế cố hữu của các mô hình phi trạng thái, cho phép AI tham chiếu các quyết định trước đây, sở thích của người dùng và dữ liệu lịch sử phức tạp để đưa ra các phản hồi mạch lạc, được cá nhân hóa và chính xác về mặt ngữ cảnh.
Việc triển khai Bộ nhớ sâu thường liên quan đến việc ngoại vi hóa trạng thái của mô hình khỏi ngữ cảnh tính toán tức thời của nó. Điều này thường sử dụng cơ sở dữ liệu vector hoặc đồ thị kiến thức chuyên biệt. Khi một tương tác xảy ra, dữ liệu quá khứ liên quan sẽ được mã hóa thành các embedding và lưu trữ. Các kỹ thuật Tạo sinh Tăng cường Truy xuất (RAG) là một phương pháp chính, trong đó hệ thống truy vấn kho lưu trữ bộ nhớ bên ngoài này để lấy các đoạn thông tin liên quan trước khi tạo ra phản hồi.
Khái niệm này có liên quan chặt chẽ đến Quản lý Cửa sổ Ngữ cảnh, Cơ sở dữ liệu Vector và Tạo sinh Tăng cường Truy xuất (RAG).
