Hàm này thực hiện các giao thức ẩn danh hóa dữ liệu tự động trong các hệ thống lưu trữ, thay thế hoặc băm có hệ thống các định danh nhạy cảm trước khi chúng đi vào quy trình huấn luyện. Nó đảm bảo rằng không có thông tin nhận dạng cá nhân (PII) nào tồn tại trong tập dữ liệu, tuân thủ các khuôn khổ pháp lý nghiêm ngặt như GDPR và CCPA. Quá trình này bao gồm việc quét các đầu vào thô, áp dụng các thuật toán biến đổi có thể đảo ngược hoặc không thể đảo ngược dựa trên chính sách lưu giữ, và xác minh việc loại bỏ các thuộc tính có thể nhận dạng để ngăn chặn các cuộc tấn công tái nhận dạng.
Hệ thống tiếp nhận các tập dữ liệu huấn luyện thô từ các thùng lưu trữ bảo mật và khởi tạo quét sâu để tìm Thông tin nhận dạng cá nhân (PII) bằng cách sử dụng các công cụ nhận dạng mẫu.
Khi PII được phát hiện, công cụ sẽ áp dụng các thuật toán ẩn danh hóa đã được cấu hình—chẳng hạn như k-anonymity hoặc quyền riêng tư vi phân—để biến đổi dữ liệu trong khi vẫn bảo toàn tính hữu dụng thống kê cho việc huấn luyện mô hình.
Xử lý hậu kỳ bao gồm một bước xác minh kiểm tra tập dữ liệu đã được biến đổi để xác nhận không còn bất kỳ mẫu nhận dạng nào trước khi lưu trữ hoặc phát hành cho cụm huấn luyện.
Quét các tập dữ liệu đến để xác định các mẫu khớp với cấu trúc PII đã biết hoặc các trường siêu dữ liệu nhạy cảm.
Áp dụng các thuật toán ẩn danh hóa được chọn để thay thế hoặc che giấu các điểm dữ liệu đã xác định trong khi vẫn duy trì tính hữu dụng của dữ liệu.
Thực hiện các quy trình xác minh để đảm bảo không còn thông tin nhận dạng nào trong tập dữ liệu đã xử lý.
Lưu trữ dữ liệu đã chuyển đổi với nhật ký bất biến xác nhận tuân thủ và phân phối đến môi trường huấn luyện an toàn.
Các trình kích hoạt tự động sẽ khởi động quét khi có tải lên bộ dữ liệu mới, gắn cờ các tệp chứa thông tin nhận dạng cá nhân (PII) tiềm ẩn để xử lý ẩn danh ngay lập tức.
Giao diện cấu hình cho phép các kỹ sư chọn các chiến lược ẩn danh hóa (ví dụ: mã hóa bằng token, băm) dựa trên mức độ nhạy cảm của dữ liệu và các yêu cầu pháp lý.
Các bảng điều khiển thời gian thực hiển thị tỷ lệ thành công của việc ẩn danh, số lượng thông tin nhận dạng cá nhân (PII) bị gắn cờ và nhật ký xác minh để theo dõi kiểm toán và báo cáo tuân thủ.