Định nghĩa

Công cụ Học liên kết (Federated Engine) là một khuôn khổ tính toán được thiết kế để huấn luyện hoặc thực thi các mô hình trên mạng lưới các nguồn dữ liệu phân tán mà không yêu cầu tập trung hóa dữ liệu thô. Thay vì di chuyển dữ liệu đến máy chủ trung tâm, công cụ này đưa phép tính đến gần dữ liệu, cho phép các mô hình học từ các tập dữ liệu cục bộ trong khi chỉ chia sẻ các cập nhật hoặc tham số mô hình đã được tổng hợp.

Tại sao nó quan trọng

Các quy định về chủ quyền dữ liệu và quyền riêng tư (như GDPR và CCPA) ngày càng hạn chế việc di chuyển dữ liệu nhạy cảm. Công cụ Học liên kết giải quyết trực tiếp thách thức này bằng cách cho phép huấn luyện mô hình hợp tác qua các ranh giới tổ chức hoặc trên các thiết bị người dùng. Điều này cho phép các tổ chức tận dụng các tập dữ liệu khổng lồ, bị phân mảnh để phát triển AI mà không làm ảnh hưởng đến việc tuân thủ hoặc làm lộ thông tin độc quyền.

Cách thức hoạt động

Quy trình này thường bao gồm một số bước chính:

1. Khởi tạo: Một mô hình toàn cục được gửi từ bộ điều phối trung tâm đến các nút cục bộ tham gia (ví dụ: các máy chủ riêng lẻ hoặc thiết bị người dùng).
2. Huấn luyện cục bộ: Mỗi nút cục bộ huấn luyện mô hình bằng dữ liệu riêng, cục bộ của nó. Chỉ các cập nhật trọng số hoặc gradient mới được tính toán.
3. Tổng hợp: Các cập nhật cục bộ này được gửi trở lại máy chủ trung tâm. Sau đó, công cụ sử dụng một thuật toán tổng hợp cụ thể (như Federated Averaging, FedAvg) để kết hợp các cập nhật này thành một mô hình toàn cục duy nhất, được cải tiến.
4. Lặp lại: Mô hình toàn cục mới được phân phối lại và chu trình lặp lại cho đến khi mô hình đạt đến mức hội tụ mong muốn.

Các trường hợp sử dụng phổ biến

Các Công cụ Học liên kết rất quan trọng trong nhiều môi trường có tính rủi ro cao:

• Chăm sóc sức khỏe: Huấn luyện các mô hình AI chẩn đoán trên nhiều hệ thống bệnh viện mà không cần chia sẻ hồ sơ bệnh nhân.
• Bàn phím di động: Cải thiện các mô hình văn bản dự đoán bằng cách sử dụng dữ liệu nhập liệu của người dùng được lưu trữ cục bộ trên từng điện thoại thông minh.
• Tài chính: Phát triển các mô hình phát hiện gian lận trên các chi nhánh ngân hàng khác nhau trong khi vẫn giữ an toàn cho dữ liệu giao dịch.

Lợi ích chính

• Tăng cường quyền riêng tư: Dữ liệu thô không bao giờ rời khỏi môi trường cục bộ an toàn của nó.
• Giảm độ trễ: Tính toán diễn ra gần nguồn dữ liệu hơn (điện toán biên).
• Khả năng mở rộng: Hệ thống có thể mở rộng theo chiều ngang bằng cách thêm nhiều nút phân tán hơn mà không làm quá tải một máy chủ trung tâm duy nhất.

Thách thức

Việc triển khai các hệ thống liên kết đặt ra những rào cản, bao gồm quản lý chi phí truyền thông giữa các nút, đảm bảo sự hội tụ của mô hình trên các tập dữ liệu không đồng nhất (dữ liệu phi-IID), và phòng thủ chống lại các cuộc tấn công đầu độc, nơi các nút độc hại gửi các cập nhật bị hỏng.

Các khái niệm liên quan

Công nghệ này có liên quan chặt chẽ đến Điện toán biên (Edge Computing), Điện toán phân tán (Distributed Computing) và Quyền riêng tư vi phân (Differential Privacy), vốn thường hoạt động cùng với học liên kết để cung cấp các đảm bảo quyền riêng tư mạnh mẽ hơn.