Định nghĩa

Trí tuệ nhân tạo có sự tham gia của con người (Human-in-the-Loop - HITL) đề cập đến một thiết kế hệ thống trong đó trí tuệ con người được tích hợp vào quy trình làm việc tự động của AI. Thay vì chỉ dựa vào các thuật toán, HITL yêu cầu các chuyên gia con người xem xét, xác thực, sửa chữa hoặc bổ sung cho các quyết định, dự đoán hoặc kết quả của AI tại các điểm cụ thể trong quy trình.

Sự tích hợp này rất quan trọng để huấn luyện, xác thực và tinh chỉnh các mô hình, đặc biệt khi xử lý dữ liệu mơ hồ, mới lạ hoặc có mức độ rủi ro cao mà độ chính xác hiện tại của AI chưa đủ.

Tại sao nó lại quan trọng

Tầm quan trọng chính của HITL nằm ở việc giảm thiểu những điểm yếu cố hữu của các mô hình học máy. Các mô hình AI chỉ tốt bằng dữ liệu mà chúng được huấn luyện. Nếu dữ liệu huấn luyện bị sai lệch, không đầy đủ hoặc chứa các trường hợp ngoại lệ mà mô hình chưa từng thấy, AI sẽ thất bại hoặc duy trì các lỗi sai. Sự can thiệp của con người đóng vai trò là một lớp kiểm soát chất lượng quan trọng.

Đối với các doanh nghiệp, HITL đảm bảo rằng việc triển khai AI là đáng tin cậy, tuân thủ và chính xác theo ngữ cảnh, giảm thiểu rủi ro liên quan đến các hệ thống hoàn toàn tự chủ trong các hoạt động quan trọng.

Cách thức hoạt động

Quy trình HITL mang tính chu kỳ. Nó thường bắt đầu bằng việc AI đưa ra một dự đoán hoặc phân loại ban đầu. Nếu điểm tin cậy của hệ thống thấp hơn ngưỡng xác định trước, hoặc nếu nhiệm vụ vốn dĩ phức tạp, quy trình làm việc sẽ bị tạm dừng và chuyển đến người vận hành con người. Con người sẽ xem xét dữ liệu đầu vào và kết quả đề xuất của AI, đưa ra sự sửa chữa hoặc xác nhận. Dữ liệu đã được sửa chữa này sau đó được đưa trở lại mô hình để huấn luyện lại và tinh chỉnh, cải thiện hiệu suất trong tương lai.

Các trường hợp sử dụng phổ biến

• Kiểm duyệt nội dung: AI gắn cờ các nội dung có khả năng gây hại, nhưng người kiểm duyệt con người sẽ xem xét các trường hợp ranh giới để đảm bảo tuân thủ chính sách.
• Chẩn đoán y tế: AI hỗ trợ các bác sĩ X quang bằng cách gắn cờ các bất thường, với bác sĩ cung cấp chẩn đoán và xác nhận cuối cùng.
• Phát hiện gian lận tài chính: AI xác định các giao dịch đáng ngờ, và các nhà phân tích con người điều tra các mô hình gian lận phức tạp hoặc mới lạ.
• Hiểu ngôn ngữ tự nhiên (NLU): Con người chú thích và sửa các cách diễn giải của AI đối với các truy vấn dịch vụ khách hàng phức tạp.

Lợi ích chính

• Tăng độ chính xác: Chuyên môn của con người sửa chữa những điểm mù của thuật toán, dẫn đến độ chính xác tổng thể của mô hình cao hơn.
• Lặp lại nhanh hơn: Vòng lặp phản hồi cho phép các nhà phát triển nhanh chóng cải thiện hiệu suất mô hình dựa trên các thất bại trong thế giới thực.
• Xử lý các trường hợp ngoại lệ: HITL là cách hiệu quả nhất để quản lý các điểm dữ liệu nằm ngoài phân phối huấn luyện đã thiết lập của mô hình.
• Niềm tin và Tuân thủ: Nó cung cấp một dấu vết kiểm toán về sự giám sát của con người, điều này rất quan trọng đối với các ngành được quản lý.

Thách thức

• Độ trễ và Thông lượng: Việc đưa sự xem xét của con người vào làm tăng thời gian của quy trình, điều này có thể là một nút thắt cổ chai trong các ứng dụng thời gian thực, khối lượng lớn.
• Chi phí: Lao động của con người tốn kém, đòi hỏi phải tối ưu hóa cẩn thận thời điểm và tần suất con người tham gia.
• Thiết kế quy trình làm việc: Việc thiết kế điểm can thiệp tối ưu—quá sớm sẽ làm chậm mọi thứ; quá muộn sẽ bỏ lỡ các lỗi quan trọng—là một thách thức kỹ thuật phức tạp.

Các khái niệm liên quan

Các khái niệm liên quan bao gồm Học chủ động (Active Learning - nơi hệ thống thông minh chọn các điểm dữ liệu cung cấp nhiều thông tin nhất để con người gán nhãn) và Học tăng cường từ phản hồi của con người (Reinforcement Learning from Human Feedback - RLHF), vốn sử dụng sở thích của con người để hướng dẫn hành vi của AI.