Định nghĩa

Gọi hàm (Function Calling) là một khả năng trong các Mô hình Ngôn ngữ Lớn (LLMs) cho phép mô hình xác định khi nào và cách thức gọi các hàm hoặc API bên ngoài dựa trên yêu cầu bằng ngôn ngữ tự nhiên của người dùng. Thay vì tạo ra câu trả lời trực tiếp, LLM sẽ xuất ra một đối tượng JSON có cấu trúc, chỉ định tên hàm và các đối số cần thiết.

Tại sao nó quan trọng

LLMs, ở dạng cơ bản, là các công cụ kiến thức, chứ không phải là các công cụ hành động. Gọi hàm thu hẹp khoảng cách này. Nó cho phép sức mạnh suy luận trừu tượng của LLM được kết nối với các khả năng thực tế, cụ thể của các hệ thống bên ngoài, chẳng hạn như cơ sở dữ liệu, dịch vụ thời tiết hoặc các nền tảng đặt chỗ. Điều này biến một AI đàm thoại thành một tác nhân có khả năng hành động.

Cách thức hoạt động

1. Định nghĩa công cụ: Các nhà phát triển cung cấp cho LLM một lược đồ (mô tả về các hàm có sẵn, các tham số của chúng và chức năng của chúng). Đây là 'định nghĩa công cụ'.
2. Lời nhắc của người dùng: Người dùng cung cấp một yêu cầu (ví dụ: "Thời tiết ở London thế nào?").
3. Suy luận của mô hình: LLM phân tích lời nhắc dựa trên các định nghĩa công cụ được cung cấp và xác định rằng hàm get_weather là phù hợp.
4. Đầu ra gọi hàm: LLM không thực thi mã; nó trả về một yêu cầu gọi có cấu trúc (ví dụ: {"name": "get_weather", "arguments": {"location": "London"}}).
5. Thực thi & Phản hồi: Ứng dụng lưu trữ LLM nhận yêu cầu gọi có cấu trúc này, thực hiện cuộc gọi API bên ngoài thực tế (ví dụ: đến OpenWeatherMap) và chuyển kết quả trở lại cho LLM.
6. Phản hồi cuối cùng: LLM sử dụng dữ liệu trả về để xây dựng một câu trả lời bằng ngôn ngữ tự nhiên cho người dùng.

Các trường hợp sử dụng phổ biến

• Truy xuất dữ liệu: Truy vấn các cơ sở dữ liệu nội bộ của công ty hoặc CRM dựa trên đầu vào đàm thoại.
• Tự động hóa tác vụ: Đặt lịch hẹn, gửi email hoặc cập nhật hồ sơ thông qua các dịch vụ bên ngoài.
• Thông tin thời gian thực: Truy xuất giá cổ phiếu trực tiếp, trạng thái chuyến bay hoặc điều kiện thời tiết hiện tại.
• Quy trình làm việc phức tạp: Điều phối các quy trình nhiều bước đòi hỏi các cuộc gọi API tuần tự.

Lợi ích chính

• Khả năng mở rộng: Mở rộng đáng kể phạm vi chức năng của LLM vượt ra ngoài dữ liệu huấn luyện của nó.
• Độ chính xác & Tính xác thực: Đảm bảo các câu trả lời dựa trên dữ liệu bên ngoài hiện tại, có thể kiểm chứng thay vì kiến thức nội bộ có thể lỗi thời.
• Khả năng hành động: Chuyển AI từ việc chỉ cung cấp thông tin sang việc vận hành.

Thách thức

• Quản lý lược đồ: Việc duy trì các định nghĩa công cụ chính xác và toàn diện là rất quan trọng để hoạt động đáng tin cậy.
• Độ trễ: Quy trình nhiều bước (Lời nhắc -> Gọi -> Thực thi -> Phản hồi) làm tăng độ trễ so với một lần suy luận mô hình duy nhất.
• Xử lý lỗi: Cần triển khai logic mạnh mẽ để xử lý các lỗi từ các API bên ngoài một cách mượt mà.

Các khái niệm liên quan

• Tác nhân (Agents): Gọi hàm là công nghệ hỗ trợ cốt lõi để xây dựng các tác nhân AI tự trị.
• Sử dụng công cụ (Tool Use): Một thuật ngữ rộng hơn bao gồm khả năng của AI trong việc sử dụng các tài nguyên bên ngoài.
• Kỹ thuật nhắc lệnh (Prompt Engineering): Thiết kế lời nhắc hệ thống ban đầu để hướng dẫn mô hình một cách chính xác về thời điểm và cách thức sử dụng các công cụ được cung cấp.