Trí nhớ thần kinh
Bộ nhớ thần kinh (Neural Memory) đề cập đến các cơ chế bên trong mạng nơ-ron nhân tạo cho phép chúng lưu trữ, truy xuất và sử dụng thông tin trong thời gian dài. Không giống như các cửa sổ ngữ cảnh tạm thời của các Mô hình Ngôn ngữ Lớn (LLM) tiêu chuẩn, bộ nhớ thần kinh nhằm mục đích cung cấp các cơ sở tri thức bền vững, luôn phát triển, có ảnh hưởng đến các đầu ra và quyết định trong tương lai.
Để các hệ thống AI vượt ra ngoài các tương tác hỏi-đáp đơn giản, chúng cần có bộ nhớ. Bộ nhớ thần kinh cho phép duy trì ngữ cảnh giữa các phiên, giúp tác nhân AI 'ghi nhớ' sở thích của người dùng, các tương tác trước đây và kiến thức chuyên môn phức tạp. Sự chuyển đổi này biến AI từ một công cụ phi trạng thái thành một đối tác có tri thức và có trạng thái.
Các cơ chế khác nhau, nhưng chúng thường liên quan đến việc tăng cường kiến trúc transformer cốt lõi. Điều này có thể bao gồm các mô-đun bộ nhớ ngoài (như cơ sở dữ liệu vector hoặc đồ thị tri thức) được mạng nơ-ron truy cập và cập nhật một cách linh hoạt. Tạo sinh được Tăng cường Truy xuất (Retrieval-Augmented Generation - RAG) là một triển khai nổi bật, trong đó các đoạn dữ liệu liên quan được lấy từ kho bộ nhớ trước khi LLM tạo ra phản hồi.
Các lợi ích chính bao gồm sự mạch lạc được cải thiện đáng kể trong các cuộc hội thoại dài, giảm nhu cầu nạp lại ngữ cảnh lặp đi lặp lại, và khả năng AI thể hiện việc học tích lũy—trở nên thông minh hơn sau mỗi lần tương tác.
Việc triển khai bộ nhớ thần kinh hiệu quả đặt ra những thách thức về độ trễ (tốc độ truy xuất), khả năng mở rộng (quản lý các kho bộ nhớ khổng lồ) và đảm bảo tính toàn vẹn của dữ liệu (ngăn bộ nhớ bị hỏng hoặc thiên vị). Các thuật toán lập chỉ mục và truy xuất hiệu quả là rất quan trọng.
Khái niệm này chồng lấn với Cơ sở dữ liệu Vector, Tạo sinh được Tăng cường Truy xuất (RAG) và Quản lý Trạng thái trong các quy trình làm việc của tác nhân (Agentic workflows).