Bộ nhớ dựa trên mô hình
Bộ nhớ dựa trên mô hình (Model-Based Memory) đề cập đến một thành phần kiến trúc tiên tiến trong các hệ thống Trí tuệ Nhân tạo, đặc biệt là trong các tác nhân tự hành. Không giống như các bộ đệm ngắn hạn đơn giản, bộ nhớ này chủ động xây dựng và duy trì một mô hình dự đoán nội bộ về môi trường và các tương tác trong quá khứ. Mô hình này cho phép AI mô phỏng các kết quả trong tương lai và truy xuất các kinh nghiệm quá khứ liên quan theo ngữ cảnh.
Để các tác nhân AI vượt ra khỏi các phản ứng thụ động, chúng phải sở hữu một dạng bộ nhớ có cấu trúc và bền vững. Bộ nhớ dựa trên mô hình cung cấp khung sườn cần thiết cho việc suy luận phức tạp. Nó cho phép hệ thống học các mối quan hệ nhân quả, dự đoán hậu quả và đưa ra quyết định dựa trên sự hiểu biết toàn diện về lịch sử hoạt động của nó, dẫn đến hành vi thông minh và mạnh mẽ hơn.
Về cốt lõi, quá trình này bao gồm nhiều giai đoạn. Đầu tiên, tác nhân tương tác với môi trường, tạo ra các quan sát. Thứ hai, các quan sát này được sử dụng để cập nhật mô hình thế giới nội bộ—một tập hợp các tham số đã học mô tả cách môi trường hoạt động. Thứ ba, khi cần đưa ra quyết định, tác nhân truy vấn mô hình này, mô phỏng các hành động tiềm năng và đánh giá các phần thưởng hoặc trạng thái dự đoán trước khi chọn con đường tối ưu. Bước mô phỏng này là nơi 'bộ nhớ' được sử dụng một cách chủ động.
Bộ nhớ dựa trên mô hình rất quan trọng trong các môi trường phức tạp, năng động. Các ứng dụng phổ biến bao gồm robot tự hành, AI trò chơi tinh vi đòi hỏi lập kế hoạch chiến lược và các tác nhân hội thoại nâng cao cần duy trì ngữ cảnh qua các cuộc đối thoại dài, nhiều lượt. Nó cũng được sử dụng trong các thuật toán lập kế hoạch phức tạp để phân bổ tài nguyên.
Các lợi ích chính bao gồm khả năng lập kế hoạch được nâng cao, hiệu suất lấy mẫu được cải thiện (yêu cầu ít tương tác thực tế hơn để học) và khả năng khái quát hóa kiến thức từ các kinh nghiệm rời rạc trong quá khứ. Nó giúp AI chuyển từ ghi nhớ máy móc sang sự hiểu biết thực sự.
Việc triển khai Bộ nhớ dựa trên mô hình hiệu quả đòi hỏi tính toán chuyên sâu. Việc xây dựng một mô hình thế giới chính xác nắm bắt tất cả các sắc thái của môi trường là điều khó khăn, và sự phức tạp của mô hình có thể dẫn đến quên thảm khốc nếu không được quản lý bằng các cơ chế cập nhật tinh vi.
Khái niệm này có liên quan chặt chẽ đến Học tăng cường (RL), đặc biệt là RL dựa trên mô hình, và trái ngược với các mạng nơ-ron truyền thẳng thuần túy vốn thiếu sự duy trì trạng thái vốn có.