Tầng sâu
Một Lớp Sâu (Deep Layer), trong ngữ cảnh của mạng nơ-ron hoặc mô hình học sâu, đề cập đến một trong các lớp nơ-ron nhân tạo liên tiếp nằm giữa lớp đầu vào và lớp đầu ra. Thuật ngữ 'sâu' (deep) biểu thị rằng mạng có nhiều lớp ẩn, cho phép nó học các mẫu phức tạp và các biểu diễn phân cấp từ dữ liệu thô.
Độ sâu của mạng có mối tương quan trực tiếp với khả năng mô hình hóa các mối quan hệ phi tuyến tính phức tạp trong dữ liệu. Các lớp sâu hơn cho phép hệ thống vượt ra ngoài việc phát hiện các đặc trưng đơn giản để đạt được sự hiểu biết trừu tượng, cấp cao—chẳng hạn như nhận dạng đối tượng trong ảnh hoặc hiểu được sắc thái trong ngôn ngữ của con người. Việc trích xuất đặc trưng phân cấp này là sức mạnh cốt lõi của học sâu.
Mỗi lớp trong mạng sâu thực hiện một phép biến đổi cụ thể đối với dữ liệu mà nó nhận được từ lớp trước đó. Các lớp ban đầu thường học các đặc trưng đơn giản, cấp thấp (ví dụ: các cạnh hoặc các nhúng từ cơ bản). Khi dữ liệu đi qua các lớp sâu hơn tiếp theo, mạng kết hợp các đặc trưng đơn giản này thành các biểu diễn ngày càng phức tạp và trừu tượng. Các hàm kích hoạt trong mỗi lớp đưa vào tính phi tuyến, cho phép mạng ánh xạ các không gian đầu vào phức tạp sang các không gian đầu ra mong muốn.
Các lớp sâu là nền tảng cho nhiều ứng dụng tiên tiến:
Các lợi ích chính của việc sử dụng các lớp sâu bao gồm độ chính xác dự đoán vượt trội trong các tác vụ phức tạp, khả năng xử lý hiệu quả dữ liệu phi cấu trúc (như hình ảnh hoặc văn bản), và khả năng tự động hóa kỹ thuật đặc trưng, giảm nhu cầu tiền xử lý dữ liệu thủ công.
Việc triển khai các lớp sâu đặt ra những thách thức, đáng chú ý nhất là cường độ tính toán cần thiết cho việc huấn luyện, đòi hỏi tài nguyên GPU đáng kể. Hơn nữa, các mô hình này có thể gặp phải vấn đề 'hộp đen', khiến việc giải thích chính xác lý do tại sao một quyết định cụ thể được đưa ra trở nên khó khăn (thiếu khả năng giải thích).
Các khái niệm chính liên quan chặt chẽ đến các lớp sâu bao gồm Mạng nơ-ron tích chập (CNNs), Mạng nơ-ron hồi quy (RNNs), học chuyển giao (transfer learning) và trích xuất đặc trưng.