Định nghĩa

Đầu ra có cấu trúc (Structured Output) đề cập đến việc hướng dẫn một mô hình Trí tuệ Nhân tạo, chẳng hạn như Mô hình Ngôn ngữ Lớn (LLM), trả về phản hồi được tạo ra theo một định dạng có thể dự đoán được và máy có thể đọc được, thay vì ngôn ngữ tự nhiên dạng văn xuôi. Thay vì một đoạn văn, đầu ra được cung cấp dưới dạng JSON, XML, YAML hoặc một lược đồ (schema) cụ thể.

Tại sao nó quan trọng

Trong các ứng dụng doanh nghiệp, văn bản phi cấu trúc rất khó để phần mềm xử lý một cách đáng tin cậy. Khi một LLM cung cấp đầu ra có cấu trúc, nó biến một tác vụ tạo văn bản sáng tạo thành một tác vụ trích xuất và chuyển đổi dữ liệu đáng tin cậy. Sự dự đoán này rất quan trọng đối với tự động hóa hạ nguồn, nhập cơ sở dữ liệu và tiêu thụ API.

Cách thức hoạt động

Việc triển khai đầu ra có cấu trúc thường bao gồm việc cung cấp cho LLM một định nghĩa lược đồ nghiêm ngặt (ví dụ: lược đồ JSON) như một phần của lời nhắc (prompt). Sau đó, mô hình bị giới hạn phải điền vào các trường trong lược đồ đó. Các API nâng cao thường cung cấp các chế độ gốc (như chế độ JSON) để thực thi cấu trúc này, giảm đáng kể nhu cầu phân tích cú pháp hậu xử lý.

Các trường hợp sử dụng phổ biến

• Trích xuất dữ liệu: Lấy các thực thể cụ thể (tên, ngày tháng, giá cả) từ các bài đánh giá của khách hàng hoặc tài liệu pháp lý.
• Tích hợp API: Đảm bảo rằng dữ liệu được truyền giữa các microservice hoặc hệ thống bên ngoài tuân thủ hoàn hảo các hợp đồng đầu vào/đầu ra dự kiến.
• Tự động hóa quy trình làm việc: Đưa kết quả của LLM trực tiếp vào các hệ thống CRM hoặc ERP mà không cần các bước phân tích cú pháp trung gian.
• Phân loại: Buộc mô hình phân loại đầu vào vào các nhóm được xác định trước (ví dụ: 'Khẩn cấp', 'Thanh toán', 'Kỹ thuật').

Lợi ích chính

• Độ tin cậy: Giảm thiểu lỗi phân tích cú pháp, dẫn đến các ứng dụng mạnh mẽ hơn.
• Hiệu quả tự động hóa: Cho phép truyền trực tiếp kết quả AI vào các quy trình làm việc tự động.
• Khả năng mở rộng: Cho phép các hệ thống xử lý khối lượng lớn dữ liệu do AI tạo ra một cách nhất quán.
• Khả năng tương tác: Đảm bảo đầu ra của AI có thể được bất kỳ ngăn xếp phần mềm tiêu chuẩn nào tiêu thụ dễ dàng.

Thách thức

• Độ phức tạp của lược đồ: Thiết kế các lược đồ quá phức tạp hoặc lồng nhau có thể làm bối rối mô hình hoặc làm tăng mức sử dụng token.
• Sự tuân thủ của mô hình: Mặc dù các mô hình hiện đại rất giỏi trong việc làm theo hướng dẫn, các ràng buộc phức tạp đôi khi có thể dẫn đến những sai lệch định dạng nhỏ.
• Chi phí kỹ thuật lời nhắc (Prompt Engineering): Đòi hỏi thiết kế lời nhắc cẩn thận để duy trì cấu trúc trên các đầu vào đa dạng.

Các khái niệm liên quan

• Kỹ thuật lời nhắc (Prompt Engineering): Nghệ thuật tạo ra các đầu vào để hướng dẫn hành vi của mô hình.
• Xác thực lược đồ (Schema Validation): Quá trình kiểm tra xem đầu ra được tạo ra có tuân thủ nghiêm ngặt cấu trúc đã xác định hay không.
• Gọi hàm (Function Calling): Một cơ chế cụ thể trong đó mô hình xuất ra một lời gọi có cấu trúc đến một hàm bên ngoài.