Bộ nhớ phiên AI
Bộ nhớ Phiên (AI Session Memory) đề cập đến cơ chế mà một hệ thống Trí tuệ Nhân tạo, đặc biệt là một tác nhân hội thoại hoặc chatbot, lưu giữ và sử dụng thông tin từ các lượt tương tác trước trong một phiên người dùng đang diễn ra. Thay vì coi mỗi đầu vào của người dùng là một truy vấn hoàn toàn biệt lập, bộ nhớ cho phép AI xây dựng sự hiểu biết theo ngữ cảnh về luồng hội thoại, sở thích của người dùng và các mục tiêu đã nêu.
Nếu không có bộ nhớ phiên, các tương tác của AI về bản chất là phi trạng thái (stateless). Điều này có nghĩa là AI sẽ quên mọi thứ bạn đã nói hai câu trước, dẫn đến các cuộc trò chuyện lặp đi lặp lại, khó chịu và không tự nhiên. Bộ nhớ phiên rất quan trọng vì nó cho phép AI đưa ra các phản hồi phù hợp, mạch lạc và được cá nhân hóa, đưa tương tác từ hỏi đáp đơn giản sang đối thoại thực sự.
Về mặt kỹ thuật, bộ nhớ phiên thường được triển khai bằng cách truyền lại lịch sử hội thoại (lịch sử nhắc lệnh - prompt history) vào Mô hình Ngôn ngữ Lớn (LLM) với mỗi đầu vào mới của người dùng. Lịch sử này đóng vai trò là 'cửa sổ ngữ cảnh' (context window). Các hệ thống tiên tiến có thể sử dụng cơ sở dữ liệu vector hoặc các mô-đun bộ nhớ chuyên dụng để tóm tắt hoặc truy xuất chỉ những thông tin quá khứ liên quan nhất, ngăn không cho cửa sổ ngữ cảnh trở nên quá lớn và tốn kém để xử lý.
Các khái niệm liên quan bao gồm Cửa sổ Ngữ cảnh (Context Window), Kỹ thuật Nhắc lệnh (Prompt Engineering), Quản lý Trạng thái (State Management) và Tạo sinh Tăng cường Truy xuất (Retrieval-Augmented Generation - RAG).
