정의

함수 호출(Function Calling)은 대규모 언어 모델(LLM) 내의 기능 중 하나로, 사용자의 자연어 요청을 기반으로 모델이 언제, 어떻게 외부 함수나 API를 호출할지 결정할 수 있게 해주는 기능입니다. LLM은 직접적인 답변을 생성하는 대신, 함수 이름과 필요한 인수를 명시하는 구조화된 JSON 객체를 출력합니다.

중요성

LLM은 기본적으로 지식 엔진이지 실행 엔진이 아닙니다. 함수 호출은 이 간극을 메워줍니다. 이는 LLM의 추상적인 추론 능력을 데이터베이스, 날씨 서비스, 예약 플랫폼과 같은 외부 시스템의 구체적인 실제 세계 기능과 연결할 수 있게 합니다. 이로써 대화형 AI가 실행 가능한 에이전트로 변모합니다.

작동 방식

1. 도구 정의: 개발자는 LLM에게 스키마(사용 가능한 함수, 해당 매개변수, 기능에 대한 설명)를 제공합니다. 이것이 '도구 정의'입니다.
2. 사용자 프롬프트: 사용자가 요청을 제공합니다(예: "런던 날씨가 어때?").
3. 모델 추론: LLM은 제공된 도구 정의와 요청을 분석하여 get_weather 함수가 적절하다고 판단합니다.
4. 함수 호출 출력: LLM은 코드를 실행하지 않고, 구조화된 호출 요청(예: {"name": "get_weather", "arguments": {"location": "London"}})을 반환합니다.
5. 실행 및 응답: LLM을 호스팅하는 애플리케이션은 이 구조화된 호출을 수신하고 실제 외부 API 호출(예: OpenWeatherMap으로)을 실행한 다음, 그 결과를 LLM에 다시 전달합니다.
6. 최종 응답: LLM은 반환된 데이터를 사용하여 사용자에게 자연어 답변을 구성합니다.

일반적인 사용 사례

• 데이터 검색: 대화형 입력을 기반으로 내부 회사 데이터베이스나 CRM 조회.
• 작업 자동화: 외부 서비스를 통해 약속 예약, 이메일 전송 또는 기록 업데이트.
• 실시간 정보: 실시간 주가, 항공편 상태 또는 현재 날씨 조건 가져오기.
• 복잡한 워크플로우: 순차적인 API 호출이 필요한 다단계 프로세스 오케스트레이션.

주요 이점

• 확장성: LLM의 기능적 범위를 훈련 데이터 범위를 훨씬 뛰어넘어 극적으로 확장합니다.
• 정확성 및 근거 확보: 답변이 잠재적으로 오래된 내부 지식이 아닌, 현재 검증 가능한 외부 데이터에 기반하도록 보장합니다.
• 실행 가능성: AI를 순수하게 정보 제공적인 역할에서 운영적인 역할로 이동시킵니다.

과제

• 스키마 관리: 정확하고 포괄적인 도구 정의를 유지하는 것이 안정적인 성능에 매우 중요합니다.
• 지연 시간(Latency): 다단계 프로세스(프롬프트 -> 호출 -> 실행 -> 응답)는 단일 모델 추론에 비해 추가적인 지연 시간을 발생시킵니다.
• 오류 처리: 외부 API의 실패를 우아하게 처리하기 위한 강력한 로직 구현이 필요합니다.

관련 개념

• 에이전트(Agents): 함수 호출은 자율적인 AI 에이전트를 구축하기 위한 핵심 지원 기술입니다.
• 도구 사용(Tool Use): AI가 외부 리소스를 활용하는 능력을 포괄하는 더 넓은 용어입니다.
• 프롬프트 엔지니어링(Prompt Engineering): 제공된 도구를 언제, 어떻게 사용할지 모델에게 올바르게 지시하기 위해 초기 시스템 프롬프트를 설계하는 것입니다.