Định nghĩa

Chấm điểm có thể giải thích (Explainable Scoring) đề cập đến quá trình cung cấp các lý do rõ ràng, dễ hiểu đối với con người về kết quả hoặc 'điểm số' được tạo ra bởi một mô hình dự đoán. Thay vì chỉ trả về một xác suất (ví dụ: 85% khả năng vỡ nợ), một hệ thống có thể giải thích sẽ nêu chi tiết tại sao điểm số đó được gán, làm nổi bật các đặc trưng đầu vào có ảnh hưởng nhất.

Tại sao điều này lại quan trọng

Trong các ngành được quản lý như tài chính, chăm sóc sức khỏe và bảo hiểm, các mô hình 'hộp đen' là không thể chấp nhận được. Chấm điểm có thể giải thích đảm bảo trách nhiệm giải trình và xây dựng lòng tin của người dùng. Các doanh nghiệp cần biết không chỉ cái gì mô hình dự đoán, mà còn tại sao nó lại dự đoán như vậy, điều này rất quan trọng cho việc kiểm toán, gỡ lỗi và nhận được sự đồng thuận của các bên liên quan.

Cách thức hoạt động

Các lời giải thích thường được tạo ra bằng cách sử dụng các kỹ thuật hậu kiểm (post-hoc) áp dụng cho một mô hình đã được huấn luyện. Các kỹ thuật này thăm dò hành vi của mô hình ở cấp độ cục bộ (cho một dự đoán duy nhất) hoặc ở cấp độ toàn cục (cho toàn bộ mô hình). Các phương pháp phổ biến bao gồm SHAP (SHapley Additive exPlanations) và LIME (Local Interpretable Model-agnostic Explanations), những phương pháp này định lượng mức độ đóng góp của từng biến đầu vào vào điểm số cuối cùng.

Các trường hợp sử dụng phổ biến

• Đánh giá rủi ro tín dụng: Giải thích lý do tại sao một đơn xin vay nhận được điểm chấp thuận thấp bằng cách chỉ ra tỷ lệ nợ trên thu nhập cao hoặc lịch sử tín dụng ngắn.
• Phát hiện gian lận: Chi tiết hóa những thuộc tính giao dịch nào (ví dụ: vị trí bất thường, tốc độ giao dịch cao) đã đóng góp nhiều nhất vào điểm gian lận cao.
• Dự đoán khách hàng rời bỏ (Churn): Xác định các yếu tố cụ thể (ví dụ: các yêu cầu hỗ trợ gần đây, tần suất đăng nhập giảm) đang thúc đẩy điểm rủi ro rời bỏ cao.

Lợi ích chính

• Tuân thủ quy định: Đáp ứng các yêu cầu như 'quyền được giải thích' của GDPR và các quy định tài chính.
• Phát hiện thiên vị: Cho phép các nhà phân tích phát hiện xem mô hình có đang đánh giá không công bằng các thuộc tính được bảo vệ hay không, dẫn đến các kết quả công bằng hơn.
• Gỡ lỗi mô hình: Giúp các nhà khoa học dữ liệu nhanh chóng xác định sự trôi dạt dữ liệu (data drift) hoặc hành vi sai của mô hình.

Thách thức

Việc tạo ra các lời giải thích trung thực là một quá trình phức tạp. Thường có sự đánh đổi giữa độ trung thực của lời giải thích (mức độ nó phản ánh chính xác hộp đen) và tính đơn giản của nó (mức độ người dùng kinh doanh có thể hiểu được nó). Hơn nữa, một số mô hình cực kỳ phức tạp vốn dĩ khó giải thích một cách hoàn hảo.

Các khái niệm liên quan

Khả năng diễn giải mô hình (Model Interpretability), Tầm quan trọng của đặc trưng (Feature Importance), Giải thích phản thực tế (Counterfactual Explanations), Công bằng thuật toán (Algorithmic Fairness)