Học đa tạp và giảm chiều tuyến tính đều xử lý dữ liệu đa chiều, nhưng chúng khác nhau về cơ bản ở cách bảo toàn cấu trúc. Các phương pháp tuyến tính giả định dữ liệu nằm trên một siêu mặt phẳng, trong khi học đa tạp khám phá các mối quan hệ cong, phi tuyến tính. Việc lựa chọn giữa hai phương pháp phụ thuộc vào việc hình học nội tại của dữ liệu là phẳng hay cong.
Một nhóm các kỹ thuật phi tuyến tính giúp phát hiện các cấu trúc cong chiều thấp ẩn giấu trong dữ liệu chiều cao.
Các kỹ thuật chiếu dữ liệu đa chiều xuống các không gian con có chiều thấp hơn bằng cách sử dụng các phép biến đổi tuyến tính.
| Tính năng | Học tập đa dạng | Giảm chiều tuyến tính |
|---|---|---|
| Giả định cốt lõi | Dữ liệu nằm trên một đa tạp cong có chiều thấp | Dữ liệu nằm trên một không gian con tuyến tính phẳng. |
| Cấu trúc được bảo tồn | Chủ yếu là các khu dân cư địa phương | Chủ yếu là sự biến thiên toàn cầu |
| Chi phí tính toán | Nói chung là cao hơn, thường là O(n²) hoặc tệ hơn. | Thấp, thường là O(n·d²) hoặc nhanh hơn |
| Khả năng giải thích | Trục thấp hơn hiếm khi có ý nghĩa trực tiếp. | Các thành phần ở cấp cao hơn thường liên quan đến các đặc điểm ban đầu. |
| Khả năng mở rộng | Giới hạn, những khó khăn vượt quá hàng chục nghìn điểm. | Tuyệt vời, xử lý được hàng triệu mẫu. |
| Phép chiếu ngoài mẫu | Khó khăn, đòi hỏi các phương pháp xấp xỉ. | Phương pháp đơn giản thông qua phép nhân ma trận. |
| Các trường hợp sử dụng tốt nhất | Trực quan hóa, các mẫu phi tuyến tính, dữ liệu hình ảnh và sinh học | Nén đặc trưng, tiền xử lý, giảm nhiễu |
| Ví dụ về thuật toán | t-SNE, UMAP, Isomap, LLE | PCA, LDA, Phân tích nhân tố, SVD rút gọn |
Sự khác biệt triết học lớn nhất giữa các phương pháp này nằm ở quan điểm của chúng về hình dạng dữ liệu. Giảm chiều tuyến tính coi dữ liệu đa chiều như thể nó nằm trên một siêu phẳng, nơi các đường thẳng và phép chiếu trực giao nắm bắt được những biến thể quan trọng nhất. Học đa tạp lại có quan điểm ngược lại, cho rằng dữ liệu thực tế thường gấp khúc và uốn lượn trong không gian đa chiều giống như một tờ giấy nhàu nát. Nếu bạn trải phẳng tờ giấy đó ra, bạn sẽ có một bề mặt 2D, và các thuật toán đa tạp cố gắng thực hiện chính xác điều đó về mặt toán học.
Các phương pháp tuyến tính như PCA rất giỏi trong việc nắm bắt cấu trúc tổng thể. Chúng đảm bảo rằng các điểm cách xa nhau trong không gian ban đầu vẫn cách xa nhau sau khi chiếu, điều này rất tốt để hiểu sự biến thiên tổng thể nhưng có thể làm mờ các cụm chi tiết. Học đa tạp đảo ngược ưu tiên này, tập trung mạnh vào việc giữ các điểm gần nhau. Đó là lý do tại sao t-SNE và UMAP tạo ra những hình ảnh trực quan ấn tượng, trong đó các cụm nổi bật rõ ràng, ngay cả khi sự sắp xếp tổng thể của các cụm đó có phần tùy ý.
Khi tập dữ liệu trở nên lớn, các phương pháp tuyến tính vượt trội hơn hẳn. PCA có thể được tính toán hiệu quả bằng cách sử dụng phân tích giá trị riêng hoặc phân tích giá trị đơn, và các thư viện như scikit-learn xử lý hàng triệu hàng dữ liệu một cách dễ dàng. Ngược lại, các thuật toán đa tạp thường yêu cầu xây dựng đồ thị lân cận, có khả năng mở rộng kém, và t-SNE nói riêng có độ phức tạp bậc hai theo số lượng mẫu. UMAP đã cải thiện phần nào điều này, nhưng cả hai vẫn còn tụt hậu xa so với các phương pháp tuyến tính đối với các quy trình sản xuất quy mô lớn.
Các phương pháp tuyến tính mang lại lợi thế rõ ràng khi bạn cần giải thích ý nghĩa của các chiều giảm. Các thành phần PCA là sự kết hợp có trọng số của các đặc trưng gốc, vì vậy bạn có thể kiểm tra hệ số tải và hiểu biến nào điều khiển từng trục. Các phép nhúng đa tạp nổi tiếng là khó hiểu, với các trục hiếm khi tương ứng với bất cứ điều gì mà con người có thể hiểu được. Ngoài ra, các phương pháp tuyến tính cho phép bạn chiếu các điểm dữ liệu mới ngay lập tức bằng cách sử dụng ma trận biến đổi đã học, trong khi các phương pháp đa tạp thường yêu cầu huấn luyện lại hoặc các phép xấp xỉ phức tạp để xử lý các mẫu mới.
Giảm chiều tuyến tính vẫn là lựa chọn mặc định cho các quy trình tiền xử lý, nén đặc trưng và các trường hợp cần tốc độ và khả năng giải thích. Học đa tạp phát huy tác dụng khi dữ liệu có cấu trúc phi tuyến tính rõ ràng, ví dụ như hình ảnh, phổ âm thanh hoặc hồ sơ biểu hiện gen, và khi mục tiêu là khám phá hơn là triển khai. Trên thực tế, nhiều nhà khoa học dữ liệu thường chạy PCA trước tiên như một phương pháp cơ sở, sau đó chỉ chuyển sang các phương pháp đa tạp khi phép chiếu tuyến tính không thể tiết lộ các mẫu có ý nghĩa.
Học đa tạp luôn cho kết quả tốt hơn PCA vì nó tinh vi hơn.
Sự tinh vi không đồng nghĩa với hiệu suất tốt hơn. PCA thường đạt được hiệu suất tương đương hoặc vượt trội hơn các phương pháp học đa tạp trong các tác vụ như tiền xử lý phân loại hoặc giảm nhiễu. Học đa tạp tỏa sáng trong các trường hợp cụ thể như trực quan hóa, nhưng đối với nhiều tác vụ học máy thực tế, PCA là lựa chọn mạnh mẽ hơn.
t-SNE và UMAP bảo toàn cấu trúc tổng thể của dữ liệu.
Cả hai phương pháp đều làm sai lệch khoảng cách toàn cục để nhấn mạnh các vùng lân cận cục bộ. Khoảng cách giữa các cụm trong biểu đồ t-SNE hầu như không mang thông tin có ý nghĩa nào, và chỉ vị trí tương đối của các điểm lân cận mới nên được xem xét.
PCA giả định dữ liệu tuân theo phân bố chuẩn.
PCA không yêu cầu phân phối chuẩn. Nó chỉ giả định rằng phương sai là một đại lượng có ý nghĩa cần được bảo toàn và rằng các tổ hợp tuyến tính của các đặc trưng nắm bắt được cấu trúc quan trọng. Nó hoạt động trên nhiều loại phân phối khác nhau, mặc dù dữ liệu có đuôi nặng có thể làm sai lệch kết quả.
Sau khi chạy t-SNE, bạn có thể sử dụng kết quả nhúng làm đầu vào cho mô hình tiếp theo.
Việc sử dụng các embedding t-SNE hoặc UMAP làm đặc trưng cho học có giám sát thường không được khuyến khích vì chúng làm sai lệch khoảng cách và làm mất thông tin toàn cục. PCA hoặc các phương pháp tuyến tính khác thường là lựa chọn an toàn hơn cho các quy trình kỹ thuật đặc trưng.
Học đa tạp có thể giảm bất kỳ tập dữ liệu nào xuống còn 2D mà không làm mất thông tin.
Mọi phương pháp giảm chiều đều dẫn đến mất mát thông tin. Các phương pháp đa tạp bảo toàn các mối quan hệ cục bộ nhưng hy sinh tính toàn cục, và việc giảm chiều quá mạnh xuống 2D có thể che giấu những biến thể quan trọng ảnh hưởng đến các tác vụ tiếp theo.
Hãy sử dụng phương pháp giảm chiều tuyến tính khi bạn cần tốc độ, khả năng giải thích và dự đoán đáng tin cậy ngoài mẫu, đặc biệt là trong các quy trình học máy sản xuất. Chọn học đa tạp khi mục tiêu của bạn là trực quan hóa mang tính khám phá hoặc khi bạn nghi ngờ có các mối quan hệ phi tuyến tính mạnh mẽ mà PCA đơn giản không thể nắm bắt được. Quy trình làm việc thông minh nhất thường bao gồm việc thử PCA trước và chỉ chuyển sang các phương pháp đa tạp khi phương pháp tuyến tính không đáp ứng được yêu cầu.
Trí tuệ nhân tạo được tăng cường bằng tìm kiếm sẽ lấy thông tin trực tiếp từ các nguồn bên ngoài tại thời điểm truy vấn, trong khi huấn luyện chỉ dựa trên tập dữ liệu lại hoàn toàn dựa vào kiến thức được tích hợp vào trọng số của mô hình trong quá trình huấn luyện. Mỗi phương pháp đều có những đánh đổi riêng về độ chính xác, chi phí, tính cập nhật và khả năng xử lý các câu hỏi nằm ngoài phạm vi huấn luyện ban đầu.
Bài so sánh này khám phá những điểm khác biệt chính giữa AI mã nguồn mở và AI độc quyền, bao gồm khả năng tiếp cận, tùy chỉnh, chi phí, hỗ trợ, bảo mật, hiệu suất và các trường hợp sử dụng thực tế, giúp các tổ chức và nhà phát triển quyết định phương pháp nào phù hợp với mục tiêu và năng lực kỹ thuật của họ.
Sự so sánh này giải thích những điểm khác biệt chính giữa trí tuệ nhân tạo và tự động hóa, tập trung vào cách chúng hoạt động, những vấn đề chúng giải quyết, tính thích ứng, độ phức tạp, chi phí và các trường hợp ứng dụng thực tế trong kinh doanh.
Sự so sánh này khám phá sự khác biệt giữa AI trên thiết bị và AI đám mây, tập trung vào cách chúng xử lý dữ liệu, tác động đến quyền riêng tư, hiệu suất, khả năng mở rộng, và các trường hợp sử dụng điển hình cho tương tác thời gian thực, mô hình quy mô lớn, cũng như yêu cầu kết nối trong các ứng dụng hiện đại.
Những người bạn đồng hành AI là các hệ thống kỹ thuật số được thiết kế để mô phỏng cuộc trò chuyện, hỗ trợ cảm xúc và sự hiện diện, trong khi tình bạn giữa người với người được xây dựng trên kinh nghiệm sống chung, sự tin tưởng và sự tương hỗ về mặt cảm xúc. Bài so sánh này khám phá cách cả hai hình thức kết nối này định hình giao tiếp, hỗ trợ cảm xúc, sự cô đơn và hành vi xã hội trong một thế giới ngày càng số hóa.
