Định nghĩa

Bộ phân loại Liên kết (Federated Classifier) là một mô hình học máy được thiết kế để thực hiện các tác vụ phân loại, trong đó dữ liệu huấn luyện vẫn được phân tán trên nhiều thiết bị hoặc máy chủ khách hàng độc lập. Thay vì tập hợp tất cả dữ liệu thô vào một vị trí trung tâm, mô hình được gửi đến các nguồn dữ liệu, được huấn luyện cục bộ, và chỉ các bản cập nhật mô hình kết quả (gradient hoặc trọng số) mới được gửi trở lại bộ tổng hợp trung tâm để tổng hợp.

Tại sao nó lại quan trọng

Quyền riêng tư dữ liệu và tuân thủ quy định (như GDPR hoặc HIPAA) là những rào cản lớn trong việc triển khai AI hiện đại. Việc tập trung hóa dữ liệu nhạy cảm thường là bất khả thi về mặt pháp lý hoặc thực tế. Học tập Liên kết (Federated Learning), được hỗ trợ bởi khái niệm Bộ phân loại Liên kết, giải quyết vấn đề này bằng cách cho phép các tổ chức tận dụng lượng lớn dữ liệu phân tán để cải thiện mô hình mà vẫn đảm bảo dữ liệu thô không bao giờ rời khỏi môi trường nguồn của nó.

Cách thức hoạt động

Quy trình thường tuân theo các bước sau:

1. Khởi tạo: Một mô hình toàn cục (bộ phân loại) được khởi tạo bởi một máy chủ trung tâm.
2. Phân phối: Máy chủ gửi phiên bản mô hình hiện tại đến một số lượng khách hàng tham gia.
3. Huấn luyện cục bộ: Mỗi khách hàng huấn luyện mô hình cục bộ bằng bộ dữ liệu riêng của mình. Điều này tạo ra các bản cập nhật mô hình cục bộ.
4. Tổng hợp: Các khách hàng chỉ gửi các bản cập nhật này (chứ không phải dữ liệu) trở lại máy chủ trung tâm. Sau đó, máy chủ sử dụng một thuật toán tổng hợp, chẳng hạn như Trung bình Liên kết (FedAvg), để kết hợp các bản cập nhật này thành một mô hình toàn cục được cải tiến.
5. Lặp lại: Mô hình toàn cục được cải tiến được gửi trở lại, và chu kỳ lặp lại cho đến khi mô hình đạt được mức hiệu suất mong muốn.

Các trường hợp sử dụng phổ biến

Các Bộ phân loại Liên kết đặc biệt phù hợp trong các kịch bản mà các silo dữ liệu là điều hiển nhiên:

• Dự đoán bàn phím di động: Huấn luyện các mô hình dự đoán từ tiếp theo trên điện thoại người dùng mà không cần tải lên lịch sử gõ riêng tư.
• Chẩn đoán y tế: Phát triển các mô hình chẩn đoán trên nhiều bệnh viện, mỗi bệnh viện lưu giữ hồ sơ bệnh nhân theo các giao thức bảo mật nghiêm ngặt.
• Mạng cảm biến IoT: Huấn luyện các bộ phân loại phát hiện bất thường trên các cảm biến công nghiệp phân tán về mặt địa lý.

Lợi ích chính

• Tăng cường quyền riêng tư dữ liệu: Dữ liệu thô vẫn nằm trên các thiết bị cục bộ, giảm đáng kể rủi ro về quyền riêng tư.
• Giảm độ trễ và băng thông: Việc huấn luyện diễn ra gần nguồn dữ liệu, giảm thiểu nhu cầu truyền các tập dữ liệu khổng lồ qua mạng.
• Tiếp cận dữ liệu đa dạng: Cho phép sử dụng các tập dữ liệu phân tán, không đồng nhất mà nếu không sẽ không thể tiếp cận được.

Thách thức

• Dữ liệu Non-IID: Dữ liệu trên các khách hàng thường không Độc lập và Phân phối Đồng nhất (Non-Independent and Identically Distributed - Non-IID), nghĩa là sự phân bố dữ liệu cục bộ khác nhau rất nhiều, điều này có thể gây khó khăn cho quá trình hội tụ.
• Chi phí truyền thông: Mặc dù việc truyền dữ liệu thô được tránh, việc trao đổi lặp đi lặp lại các bản cập nhật mô hình vẫn đòi hỏi lượng giao tiếp đáng kể.
• Tính không đồng nhất của hệ thống: Sự khác biệt về sức mạnh tính toán và kết nối mạng giữa các khách hàng có thể làm phức tạp quá trình huấn luyện.

Các khái niệm liên quan

Học tập Liên kết là mô hình tổng thể. Các khái niệm liên quan bao gồm Quyền riêng tư Vi phân (Differential Privacy - thêm nhiễu vào các bản cập nhật để đảm bảo quyền riêng tư mạnh mẽ hơn) và Tổng hợp An toàn (Secure Aggregation - đảm bảo máy chủ không thể kiểm tra các bản cập nhật của từng khách hàng riêng lẻ).