정의

인공지능 및 복잡한 소프트웨어의 맥락에서 장기 기억(LTM)이란 단일 세션의 즉각적인 운영 맥락을 넘어 정보, 경험 및 학습된 패턴을 영구적으로 저장하고 검색하는 것을 의미합니다. 단기 기억이나 작업 기억과 달리, LTM은 AI 에이전트나 시스템이 장기간에 걸쳐 환경, 사용자 상호 작용 및 과거 결정을 누적적으로 이해할 수 있도록 합니다.

중요성

AI 시스템이 반응적인 도구에서 능동적이고 지능적인 파트너로 발전하기 위해서는 LTM이 필수적입니다. 이는 개인화, 여러 상호 작용에 걸친 맥락 유지, 그리고 과거 데이터로부터 학습하는 능력을 가능하게 합니다. LTM이 없다면 AI는 현재 질의 후 모든 것을 본질적으로 '잊어버리게' 되어 실제적이고 지속적인 애플리케이션에서의 유용성이 크게 제한됩니다.

작동 방식

LTM은 일반적으로 외부의 구조화되거나 비구조화된 데이터베이스를 사용하여 구현됩니다. 일반적인 아키텍처 패턴은 다음과 같습니다.

• 벡터 데이터베이스: 과거 경험의 임베딩을 저장하여 관련 기억에 대한 의미론적 검색을 가능하게 합니다.
• 지식 그래프: 개체 간의 관계를 표현하여 축적된 지식의 구조화된 지도를 제공합니다.
• 관계형/NoSQL 데이터베이스: 트랜잭션 기록, 사용자 프로필 및 장기 상태 변수를 저장합니다.

검색 메커니즘은 정교한 인덱싱 및 검색 증강 생성(RAG) 기술을 포함하여 가장 적절한 '기억'을 활성 작업 기억으로 끌어와 처리합니다.

일반적인 사용 사례

• 개인화된 고객 서비스: 다양한 지원 세션에 걸쳐 고객의 이전 문제, 선호도 및 구매 내역을 기억합니다.
• 자율 에이전트: 에이전트가 더 나은 미래 계획 결정을 내리기 위해 과거 환경 상태나 목표를 회상할 수 있도록 합니다.
• 적응형 추천 엔진: 지난 몇 번의 클릭뿐만 아니라 수개월에 걸친 사용자 행동에 대한 심층적인 프로필을 구축합니다.

주요 이점

주요 이점에는 향상된 일관성, 우수한 개인화 및 보다 강력하고 맥락을 인식하는 AI 모델의 개발이 포함됩니다. LTM은 상태 비저장(stateless) 계산을 상태 저장(stateful)이며 진화하는 지능으로 변모시킵니다.

과제

효과적인 LTM을 구현하는 것은 여러 가지 과제를 안고 있습니다. 여기에는 메모리 확장성 관리(데이터의 방대한 양), 데이터 무결성 및 일관성 보장, 그리고 수백만 개의 기억 중에서 올바른 기억을 찾는 '검색 병목 현상' 해결이 포함됩니다.

관련 개념

관련 개념에는 작업 기억(단기 처리), 일화 기억(특정 과거 사건), 의미 기억(일반 지식), 그리고 LTM과 상호 작용하는 주요 방법인 검색 증강 생성(RAG)이 있습니다.