정의

지속 메모리(Continuous Memory)란 시스템이 장기간에 걸쳐 정보를 유지하고, 접근하며, 업데이트할 수 있는 능력을 의미하며, 이를 통해 이전 상호작용이나 데이터 스트림으로부터 점진적으로 학습하며 맥락을 유지할 수 있게 합니다. 상태 비저장(stateless) 작업과 달리, 지속 메모리를 가진 시스템은 자신의 환경이나 사용자 기록에 대한 지속적인 이해를 구축합니다.

중요성

최신 AI 애플리케이션에서 메모리는 단순한 스크립트와 지능형 에이전트를 구별 짓는 요소입니다. 지속 메모리가 없으면 AI 모델은 본질적으로 상태 비저장 상태이므로, 모든 새로운 입력이 마치 처음인 것처럼 취급됩니다. 이는 복잡한 문제 해결, 개인화, 지속적인 대화 일관성을 심각하게 제한합니다.

작동 방식

구현 방식은 아키텍처에 따라 매우 다양합니다. 기술에는 종종 과거 상호작용의 임베딩을 저장하기 위한 벡터 데이터베이스, 관계를 구조화하기 위한 지식 그래프, 또는 장기적인 맥락을 요약하고 압축하는 전용 메모리 모듈 등이 포함됩니다. 검색 증강 생성(RAG)은 외부의 지속적인 메모리 저장소를 활용하는 일반적인 패턴입니다.

일반적인 사용 사례

• 개인화 비서: 여러 세션에 걸쳐 사용자 선호도, 과거 질의, 특정 맥락을 기억합니다.
• 자율 에이전트: 에이전트가 장기 실행 작업을 추적하고, 목표를 유지하며, 이전의 실패나 성공을 기반으로 전략을 조정할 수 있도록 합니다.
• 고급 챗봇: 몇 시간 또는 며칠에 걸친 깊고 다중 턴의 대화 맥락을 제공합니다.

주요 이점

• 일관성: 대화와 프로세스가 시간이 지남에 따라 논리적으로 흐르도록 보장합니다.
• 개인화: 축적된 사용자 데이터를 기반으로 고도로 맞춤화된 경험을 가능하게 합니다.
• 효율성: 모든 단일 질의에 대해 방대한 양의 과거 데이터를 다시 처리할 필요성을 줄입니다.

과제

• 확장성: 방대한 양의 과거 데이터를 효율적으로 관리하고 쿼리하는 것은 계산 비용이 많이 듭니다.
• 컨텍스트 창 제한: 외부 메모리가 있더라도 모델의 즉각적인 컨텍스트 창을 압도하지 않으면서 가장 관련성 높은 정보를 검색하는 것은 여전히 어렵습니다.
• 데이터 무결성: 저장된 메모리가 정확하고, 손상되지 않았으며, 저장 과정에서 도입된 편향이 없는지 보장해야 합니다.

관련 개념

이 개념은 상태 관리(State Management), LLM의 장기 메모리(Long-Term Memory in LLMs), 컨텍스트 창 관리(Context Window Management)와 같은 개념들과 상당히 중첩됩니다.