정의

머신 지식 기반(MKB)은 인공지능 모델과 자동화 시스템이 소비하고, 쿼리하고, 활용하도록 특별히 설계된 구조화되고 큐레이션된 정보 저장소입니다. 거래 기록을 저장하는 기존 데이터베이스와 달리, MKB는 AI가 추론하고, 복잡한 질문에 답하며, 정보에 입각한 결정을 내릴 수 있도록 하는 사실, 관계, 규칙 및 맥락적 이해와 같은 의미론적 지식을 저장합니다.

중요성

최신 AI 모델, 특히 대규모 언어 모델(LLM)은 강력하지만 특정적이고 최신이거나 독점적인 도메인 지식이 부족한 경우가 많습니다. MKB는 이 격차를 해소합니다. 이는 AI를 검증 가능한 내부 회사 데이터에 기반을 두게 하여 환각(hallucination)을 대폭 줄이고 출력물이 특정 비즈니스 맥락과 관련이 있도록 보장합니다. 기업 도입에 있어 MKB는 진실의 원천입니다.

작동 방식

이 과정은 일반적으로 여러 단계를 거칩니다.

• 수집 및 청킹(Ingestion and Chunking): 원시 데이터(문서, PDF, 데이터베이스)를 관리 가능한, 의미론적으로 일관된 조각(청크)으로 나눕니다.
• 임베딩(Embedding): 각 청크는 임베딩 모델을 통과하여 텍스트를 고차원 수치 벡터로 변환합니다. 이 벡터는 청크의 의미를 수학적으로 표현합니다.
• 저장(Storage): 이 벡터와 메타데이터는 종종 벡터 데이터베이스와 같은 특수 데이터베이스에 저장됩니다.
• 검색(Retrieval, RAG): 사용자가 질문을 하면, 해당 쿼리도 벡터로 변환됩니다. 그런 다음 시스템은 MKB를 대상으로 유사성 검색을 수행하여 가장 의미론적으로 관련성 높은 청크를 검색합니다.
• 생성(Generation): 검색된 청크들은 컨텍스트로 LLM에 전달되어 정확하고 정보에 입각한 응답을 생성할 수 있도록 합니다.

일반적인 사용 사례

• 고급 고객 지원: 상담원이나 챗봇에게 복잡한 제품 매뉴얼 및 과거 티켓 데이터에 대한 즉각적인 접근 권한을 제공합니다.
• 내부 지식 관리: 직원들이 자연어를 사용하여 방대한 내부 문서(인사 정책, 엔지니어링 사양)를 쿼리할 수 있도록 합니다.
• 규제 준수: AI 시스템을 특정 법률 텍스트에 기반하여 현재 규정을 준수하도록 보장합니다.
• 지능형 검색: 키워드 일치를 넘어 사용자의 검색 쿼리 뒤에 숨겨진 의도를 이해하도록 합니다.

주요 이점

• 정확성 및 신뢰성: 검증된 출처 자료에 의존하도록 강제함으로써 모델의 환각을 줄입니다.
• 도메인 특수성: 범용 AI가 특정 산업이나 회사에 매우 특화되도록 할 수 있습니다.
• 감사 가능성(Auditability): MKB가 출처 청크를 제공하므로, 모든 AI 출력은 원래 문서로 추적될 수 있습니다.
• 확장성: 핵심 기반 모델을 비용이 많이 들게 재훈련할 필요 없이 지식을 추가, 업데이트 및 개선할 수 있습니다.

과제

• 데이터 품질: MKB는 수집된 데이터만큼만 좋습니다. 구조가 잘못되었거나 모순되는 원본 데이터는 검색 품질 저하로 이어집니다.
• 청킹 전략: 데이터 청크의 최적 크기와 중첩을 결정하는 것은 중요하고 비자명한 엔지니어링 작업입니다.
• 지연 시간(Latency): 검색 및 임베딩 프로세스는 전체 쿼리 응답 시간에 지연 시간을 추가하므로, 실시간 애플리케이션을 위해 이를 관리해야 합니다.

관련 개념

• 검색 증강 생성(RAG): MKB를 활용하는 주요 아키텍처 패턴입니다.
• 벡터 데이터베이스: 지식 벡터를 저장하고 검색하는 데 사용되는 특수 인프라입니다.
• 의미론적 검색(Semantic Search): MKB가 키워드뿐만 아니라 의미를 이해할 수 있도록 하는 기능입니다.