Định nghĩa

Bộ phân loại có thể giải thích (Explainable Classifier) là một loại mô hình học máy không chỉ được thiết kế để đưa ra dự đoán (phân loại) mà còn để cung cấp những lý do dễ hiểu đối với các dự đoán đó. Không giống như các mô hình 'hộp đen' (black-box) vốn đưa ra kết quả mà không có sự giải thích rõ ràng, các bộ phân loại có thể giải thích cung cấp những hiểu biết sâu sắc về các đặc trưng đầu vào nào đã thúc đẩy quyết định cuối cùng.

Tại sao nó quan trọng

Trong các lĩnh vực có tính rủi ro cao như tài chính, chăm sóc sức khỏe và hệ thống tự hành, việc biết tại sao AI đưa ra một quyết định quan trọng không kém gì bản thân quyết định đó. Khả năng giải thích giúp xây dựng lòng tin của người dùng, đáp ứng các yêu cầu pháp lý (như 'quyền được giải thích' của GDPR) và cho phép các chuyên gia trong lĩnh vực xác định lỗi hoặc xác thực logic của mô hình.

Cách thức hoạt động

Khả năng giải thích có thể đạt được thông qua các mô hình vốn đã minh bạch (như hồi quy tuyến tính hoặc cây quyết định) hoặc bằng cách áp dụng các kỹ thuật hậu nghiệm (post-hoc) cho các mô hình phức tạp (như mạng nơ-ron sâu). Các phương pháp hậu nghiệm, chẳng hạn như SHAP (SHapley Additive exPlanations) hoặc LIME (Local Interpretable Model-agnostic Explanations), sẽ xấp xỉ hành vi của mô hình phức tạp ở cấp độ cục bộ để tạo ra điểm quan trọng của đặc trưng cho một dự đoán cụ thể.

Các trường hợp sử dụng phổ biến

• Chẩn đoán y tế: Giải thích lý do tại sao bộ phân loại gắn cờ một bản quét là có khả năng ung thư bằng cách làm nổi bật các vùng pixel cụ thể.
• Chấm điểm tín dụng: Cho người nộp đơn vay biết chính xác những biến số nào (ví dụ: tỷ lệ nợ trên thu nhập) đã đóng góp nhiều nhất vào việc bị từ chối.
• Phát hiện gian lận: Xác định chuỗi giao dịch hoặc các đặc trưng cụ thể đã kích hoạt cảnh báo rủi ro cao.

Lợi ích chính

• Lòng tin và Áp dụng: Tăng cường sự tự tin của người dùng cuối và các bên liên quan.
• Tuân thủ: Đáp ứng các tiêu chuẩn kiểm toán nghiêm ngặt của ngành và chính phủ.
• Gỡ lỗi: Xác định điểm trôi dữ liệu (data drift) hoặc sai lệch của mô hình bằng cách quan sát sự ảnh hưởng của các đặc trưng.

Thách thức

Việc đạt được khả năng diễn giải hoàn hảo trong khi vẫn duy trì độ chính xác dự đoán cao là một sự đánh đổi liên tục. Hơn nữa, việc tạo ra các giải thích cho các mô hình cực kỳ lớn và phức tạp có thể tốn kém về mặt tính toán.

Các khái niệm liên quan

Các khái niệm liên quan bao gồm Phương pháp không phụ thuộc vào mô hình (Model Agnostic Methods), Tầm quan trọng của Đặc trưng (Feature Importance) và Tính mạnh mẽ đối nghịch (Adversarial Robustness).