Định nghĩa

Chuỗi nhắc lệnh (Prompt Chaining) là một kỹ thuật trong đó đầu ra được tạo ra bởi một lời nhắc (prompt) của mô hình ngôn ngữ lớn (LLM) đóng vai trò là đầu vào hoặc ngữ cảnh cho một lời nhắc liên quan tiếp theo. Thay vì dựa vào một lời nhắc đơn lẻ, toàn diện để giải quyết một vấn đề phức tạp, việc tạo chuỗi sẽ chia nhỏ nhiệm vụ thành một loạt các bước nhỏ hơn, dễ quản lý và liên kết với nhau.

Tại sao nó quan trọng

Các vấn đề thực tế phức tạp hiếm khi có câu trả lời đơn giản, một lần. Chuỗi nhắc lệnh cho phép các nhà phát triển và nhà phân tích tận dụng thế mạnh của LLM cho các nhiệm vụ phụ cụ thể—chẳng hạn như trích xuất, tóm tắt, suy luận và định dạng—một cách có kiểm soát và lặp đi lặp lại. Điều này làm tăng đáng kể độ tin cậy và chiều sâu của kết quả cuối cùng so với các phương pháp chỉ dùng một lời nhắc.

Cách thức hoạt động

Quá trình này vốn mang tính tuần tự. Bước 1 thực thi một lời nhắc, tạo ra Đầu ra A. Đầu ra A này sau đó được đưa vào trường đầu vào của lời nhắc ở Bước 2 bằng lập trình, lời nhắc này được thiết kế để xử lý Đầu ra A và tạo ra Đầu ra B. Dòng chảy này tiếp tục cho đến khi đạt được kết quả cuối cùng mong muốn. Các framework như LangChain được thiết kế đặc biệt để quản lý việc thực thi đa bước, có trạng thái này.

Các trường hợp sử dụng phổ biến

• Trích xuất và cấu trúc dữ liệu: Đầu tiên, yêu cầu LLM trích xuất các thực thể chính từ văn bản phi cấu trúc. Lời nhắc thứ hai sau đó lấy các thực thể đó và định dạng chúng thành một lược đồ JSON nghiêm ngặt.
• Suy luận phức tạp: Một chuỗi có thể trước tiên tóm tắt một tài liệu dài, và lời nhắc tiếp theo có thể sử dụng bản tóm tắt đó để trả lời một câu hỏi suy luận rất cụ thể.
• Tạo và tinh chỉnh mã: Một lời nhắc ban đầu tạo ra mã mẫu; một lời nhắc tiếp theo xem xét mã đó dựa trên một bộ các phương pháp hay nhất và đề xuất các sửa đổi cần thiết.

Lợi ích chính

• Tăng độ chính xác: Bằng cách cô lập các nhiệm vụ, mỗi lời nhắc có thể được tối ưu hóa cao cho một chức năng hẹp, giảm tải nhận thức cho mô hình và giảm thiểu rủi ro ảo giác (hallucination).
• Tính minh bạch và gỡ lỗi: Bản chất từng bước cho phép các kỹ sư kiểm tra các đầu ra trung gian, giúp dễ dàng xác định chính xác nơi xảy ra lỗi hoặc sai lệch.
• Xử lý sự phức tạp: Nó cho phép giải quyết các vấn đề đa giai đoạn mà một cửa sổ ngữ cảnh hoặc tập lệnh hướng dẫn đơn lẻ sẽ bị quá tải.

Thách thức

• Độ trễ và Chi phí: Mỗi bước yêu cầu một cuộc gọi API riêng biệt, làm tăng tổng thời gian thực thi và chi phí token liên quan.
• Chi phí điều phối: Việc triển khai và quản lý việc truyền trạng thái giữa các lời nhắc đòi hỏi cơ sở hạ tầng kỹ thuật phần mềm mạnh mẽ.
• Lan truyền lỗi: Một lỗi hoặc đầu ra kém ở bước đầu tiên chắc chắn sẽ làm giảm chất lượng của tất cả các bước tiếp theo.

Các khái niệm liên quan

Tác nhân (Agents), Tạo sinh tăng cường truy xuất (RAG), Học ít mẫu (Few-Shot Learning)