정의

프롬프트 체이닝(Prompt Chaining)은 하나의 언어 모델(LLM) 프롬프트에서 생성된 출력이 후속적인 관련 프롬프트의 입력 또는 컨텍스트로 사용되는 기법입니다. 복잡한 문제를 해결하기 위해 단일하고 거대한 프롬프트에 의존하는 대신, 체이닝은 작업을 작고 관리 가능하며 상호 연결된 일련의 단계로 분해합니다.

중요성

실제 세계의 복잡한 문제에는 간단한 일회성 답변이 거의 없습니다. 프롬프트 체이닝은 개발자와 분석가가 추출, 요약, 추론, 형식 지정과 같은 특정 하위 작업에 대해 LLM의 강점을 통제되고 반복적인 방식으로 활용할 수 있도록 해줍니다. 이는 단일 프롬프트 방식에 비해 최종 출력의 신뢰성과 깊이를 상당히 높여줍니다.

작동 방식

이 과정은 본질적으로 순차적입니다. 1단계가 프롬프트를 실행하여 출력 A를 산출합니다. 이 출력 A는 프로그램적으로 2단계 프롬프트의 입력 필드에 공급되어, 2단계 프롬프트는 출력 A를 처리하고 출력 B를 생성하도록 설계됩니다. 이 흐름은 최종적으로 원하는 결과가 달성될 때까지 계속됩니다. LangChain과 같은 프레임워크는 이러한 상태 기반의 다단계 실행을 관리하도록 특별히 설계되었습니다.

일반적인 사용 사례

• 데이터 추출 및 구조화: 먼저 LLM에게 비정형 텍스트에서 핵심 개체를 추출하도록 프롬프트를 요청합니다. 두 번째 프롬프트는 해당 개체들을 받아 엄격한 JSON 스키마로 형식을 지정합니다.
• 복잡한 추론: 체인은 먼저 긴 문서를 요약할 수 있으며, 다음 프롬프트는 그 요약을 사용하여 매우 구체적이고 추론적인 질문에 답변할 수 있습니다.
• 코드 생성 및 개선: 초기 프롬프트가 기본 코드를 생성하면, 후속 프롬프트는 해당 코드를 일련의 모범 사례와 비교하여 필요한 수정을 제안합니다.

주요 이점

• 정확도 향상: 작업을 분리함으로써 각 프롬프트는 좁은 기능에 고도로 최적화될 수 있어 모델의 인지 부하를 줄이고 환각(hallucination) 위험을 최소화합니다.
• 투명성 및 디버깅: 단계별 특성 덕분에 엔지니어는 중간 출력을 검사할 수 있어 오류나 편차가 정확히 어디서 발생했는지 파악하기가 더 쉬워집니다.
• 복잡성 처리: 단일 프롬프트 컨텍스트 창이나 명령어 세트로 압도될 수 있는 다단계 문제 해결을 가능하게 합니다.

과제

• 지연 시간 및 비용: 각 단계는 별도의 API 호출을 필요로 하므로 전체 실행 시간과 관련 토큰 비용이 증가합니다.
• 오케스트레이션 오버헤드: 프롬프트 간의 상태 전송을 구현하고 관리하려면 강력한 소프트웨어 엔지니어링 인프라가 필요합니다.
• 오류 전파: 초기 단계에서 오류나 품질이 낮은 출력이 발생하면 후속 모든 단계의 품질이 필연적으로 저하됩니다.

관련 개념

에이전트(Agents), 검색 증강 생성(RAG), 퓨샷 학습(Few-Shot Learning)