trí tuệ nhân tạothị giác máy tínhtìm kiếm hình ảnhđa phương thức-aihệ thống truy xuất
So sánh tìm kiếm hình ảnh tổng hợp và tìm kiếm hình ảnh truyền thống
Tìm kiếm hình ảnh kết hợp (Composed Image Retrieval - CIR) cho phép người dùng tìm kiếm bằng cách sử dụng hình ảnh tham chiếu kèm theo các chỉnh sửa văn bản, trong khi tìm kiếm hình ảnh truyền thống chỉ dựa vào một hình ảnh hoặc một truy vấn văn bản duy nhất. CIR mang lại kết quả chính xác hơn nhiều, hướng đến mục đích người dùng, trong khi các phương pháp truyền thống vẫn nhanh hơn và được sử dụng rộng rãi hơn trên các nền tảng hàng ngày.
Điểm nổi bật
CIR kết hợp đầu vào hình ảnh và văn bản, trong khi tìm kiếm truyền thống chỉ sử dụng một phương thức tại một thời điểm.
Việc truy xuất kết hợp nắm bắt được ý định chỉnh sửa của người dùng, chứ không chỉ đơn thuần là sự tương đồng về hình ảnh.
Tìm kiếm hình ảnh truyền thống nhanh hơn, hoàn thiện hơn và được triển khai trên quy mô internet.
CIR đang nổi lên như một công cụ mạnh mẽ cho thương mại điện tử và quy trình thiết kế sáng tạo.
Tìm kiếm hình ảnh tổng hợp là gì?
Một kỹ thuật trí tuệ nhân tạo kết hợp hình ảnh tham chiếu với truy vấn văn bản để tìm các hình ảnh tương tự về mặt hình ảnh nhưng đã được chỉnh sửa, phù hợp với ý định của người dùng.
CIR được chính thức giới thiệu như một nhiệm vụ nghiên cứu vào khoảng năm 2021 bởi các nhà nghiên cứu tại Google và các tổ chức học thuật.
Nó thường sử dụng bộ mã hóa kép cho hình ảnh và văn bản, được kết hợp thông qua các mô hình dựa trên transformer như CLIP hoặc BLIP.
Các bộ dữ liệu chuẩn phổ biến bao gồm FashionIQ, CIRR và CIRCO, mỗi bộ chứa hàng nghìn bộ ba dữ liệu được chú thích.
Điểm đột phá cốt lõi là cho phép người dùng chỉ định những gì cần thay đổi trong ảnh tham chiếu, chứ không chỉ là hình ảnh trông như thế nào.
Các hệ thống CIR thường hoạt động hiệu quả hơn các phương pháp tìm kiếm truyền thống trong các tác vụ chi tiết như tìm kiếm thời trang và thiết kế nội thất.
Tìm kiếm hình ảnh truyền thống là gì?
Các phương pháp truy xuất hình ảnh truyền thống so khớp một hình ảnh hoặc truy vấn văn bản duy nhất với cơ sở dữ liệu bằng cách sử dụng sự tương đồng về hình ảnh hoặc từ khóa.
Tìm kiếm hình ảnh truyền thống đã tồn tại từ những năm 1990, ban đầu dựa vào siêu dữ liệu, tên tệp và thẻ thủ công.
Các hệ thống hiện đại sử dụng kỹ thuật truy xuất hình ảnh dựa trên nội dung (CBIR) để phân tích các đặc điểm ở cấp độ pixel như màu sắc và kết cấu.
Google Images ra mắt năm 2001 và hiện xử lý hàng tỷ lượt truy vấn mỗi ngày bằng cách sử dụng các mô hình học sâu.
Tìm kiếm hình ảnh dựa trên văn bản phụ thuộc vào văn bản xung quanh trang web, thuộc tính alt và chú thích chứ không phải chính hình ảnh đó.
Các công cụ tìm kiếm hình ảnh ngược như TinEye và Google Lens dựa trên thuật toán băm nhận thức và so khớp đặc điểm.
Bảng So Sánh
Tính năng
Tìm kiếm hình ảnh tổng hợp
Tìm kiếm hình ảnh truyền thống
Loại truy vấn
Chỉnh sửa hình ảnh + văn bản
Chỉ hình ảnh hoặc văn bản
Công nghệ nền tảng
Bộ chuyển đổi đa phương thức (CLIP, BLIP)
Trích xuất đặc trưng CNN hoặc khớp từ khóa
Sự chính xác trong ý định
Cao — ghi lại các thay đổi của người dùng
Thấp đến trung bình — chỉ phù hợp với vẻ bề ngoài
Mức độ trưởng thành triển khai
Mới nổi, chủ yếu ở giai đoạn nghiên cứu.
Được triển khai rộng rãi trên các nền tảng chính.
Các trường hợp sử dụng tốt nhất
Thời trang, các biến thể sản phẩm, chỉnh sửa thiết kế
Tìm kiếm web tổng quát, so khớp khuôn mặt, tìm kiếm trùng lặp
Tốc độ
Chậm hơn do mã hóa kép
Nhanh chóng, được tối ưu hóa cho hàng tỷ hình ảnh.
Kỹ năng người dùng cần thiết
Độ khó trung bình — cần hình ảnh tham khảo
Thấp — chỉ cần nhắn tin hoặc tải lên là đủ.
Xử lý sự mơ hồ
Giải quyết thông qua việc phân tích ngữ nghĩa văn bản.
Trả về kết quả tổng quát, người dùng có thể lọc thủ công.
So sánh chi tiết
Cách thức xử lý truy vấn
Hệ thống tìm kiếm hình ảnh kết hợp (Composed Image Retrieval) nhận đồng thời hai đầu vào: một hình ảnh tham chiếu và một mô tả bằng ngôn ngữ tự nhiên về cách hình ảnh đó cần được chỉnh sửa. Sau đó, hệ thống sẽ tìm kiếm các hình ảnh có hình thức trực quan tương tự hình ảnh tham chiếu nhưng đã tích hợp các thay đổi về văn bản. Ngược lại, tìm kiếm hình ảnh truyền thống chỉ chấp nhận một đầu vào tại một thời điểm, hoặc một hình ảnh duy nhất để so khớp độ tương đồng trực quan hoặc một chuỗi văn bản để tìm kiếm dựa trên từ khóa. Sự khác biệt cơ bản này định hình mọi thứ, từ độ chính xác đến trải nghiệm người dùng.
Độ chính xác và tính phù hợp
Khi người dùng có ý định chỉnh sửa cụ thể, CIR vượt trội hơn hẳn so với tìm kiếm truyền thống vì nó hiểu được ý định chứ không chỉ đơn thuần là hình thức bên ngoài. Ví dụ, tìm kiếm "chiếc váy này nhưng màu xanh" sẽ trả về các biến thể phù hợp, trong khi tìm kiếm hình ảnh truyền thống chỉ tìm thấy những chiếc váy tương tự về mặt hình ảnh bất kể màu sắc. Các phương pháp truyền thống rất tốt trong việc tìm kiếm sự tương đồng rộng rãi nhưng lại gặp khó khăn khi người dùng muốn tìm kiếm thứ gì đó gần giống nhưng khác biệt rõ rệt so với hình ảnh tham khảo.
Ngăn xếp công nghệ
Các hệ thống CIR dựa trên các mô hình đa phương thức hiểu đồng thời hình ảnh và văn bản, thường được xây dựng trên các mô hình nền tảng như CLIP, BLIP hoặc các kiến trúc ngôn ngữ-hình ảnh mới hơn. Các mô hình này mã hóa cả hai đầu vào vào một không gian nhúng chung, nơi có thể tính toán sự tương đồng một cách có ý nghĩa. Tìm kiếm hình ảnh truyền thống sử dụng các quy trình cũ hơn nhưng được tối ưu hóa tốt: trích xuất đặc trưng dựa trên CNN cho tìm kiếm hình ảnh, hoặc chỉ mục đảo ngược với trọng số TF-IDF cho các truy vấn dựa trên văn bản. Cách tiếp cận mới hơn đòi hỏi nhiều tài nguyên tính toán hơn nhưng cung cấp khả năng hiểu ngữ nghĩa phong phú hơn.
Ứng dụng thực tế
Tìm kiếm hình ảnh truyền thống chiếm ưu thế trong các ứng dụng dành cho người tiêu dùng vì nó có khả năng mở rộng hiệu quả và dễ dàng tích hợp với cơ sở hạ tầng tìm kiếm hiện có. Google Images, tìm kiếm hình ảnh trên Pinterest và các nền tảng ảnh lưu trữ đều sử dụng các biến thể của phương pháp này. Tìm kiếm hình ảnh tham khảo (CIR) đang ngày càng phổ biến trong các lĩnh vực chuyên biệt như thương mại điện tử, nơi người mua sắm muốn tìm kiếm các biến thể sản phẩm, và trong các công cụ sáng tạo, nơi các nhà thiết kế cần khám phá các chỉnh sửa đối với hình ảnh tham khảo. Dự kiến các tính năng CIR sẽ xuất hiện trong các ứng dụng mua sắm và phần mềm thiết kế trong vài năm tới.
Những hạn chế và thách thức
CIR vẫn phải đối mặt với những trở ngại về sự khan hiếm dữ liệu, vì việc tạo ra các bộ ba được chú thích (hình ảnh tham chiếu, văn bản chỉnh sửa, hình ảnh đích) trên quy mô lớn rất tốn kém. Các mô hình cũng có thể gặp khó khăn với các hướng dẫn văn bản phức tạp hoặc mơ hồ. Tìm kiếm hình ảnh truyền thống có những điểm yếu riêng, đặc biệt là về khả năng hiểu ngữ nghĩa — tìm kiếm "chó hạnh phúc" có thể bỏ sót một bức ảnh về một chú chó con vui vẻ vì các đặc điểm hình ảnh không khớp với kỳ vọng của từ khóa. Cả hai phương pháp đều tiếp tục phát triển, với các hệ thống lai có thể đại diện cho tương lai.
Ưu & Nhược điểm
Tìm kiếm hình ảnh tổng hợp
Ưu điểm
+Kết quả nhận biết ý định
+Kiểm soát chi tiết
+Hiểu biết đa phương thức
+Tuyệt vời cho các biến thể
Đã lưu
−Suy luận chậm hơn
−Triển khai hạn chế
−Cần hình ảnh tham khảo
−Tập dữ liệu huấn luyện nhỏ hơn
Tìm kiếm hình ảnh truyền thống
Ưu điểm
+Khả năng mở rộng quy mô lớn
+Thời gian phản hồi nhanh
+Dễ sử dụng
+Khả năng tương thích rộng
Đã lưu
−Bỏ qua ý định của người dùng
−Khó khăn trong việc nắm bắt sắc thái tinh tế.
−Phụ thuộc vào từ khóa
−Hỗ trợ chỉnh sửa hạn chế
Những hiểu lầm phổ biến
Huyền thoại
Tìm kiếm hình ảnh truyền thống thực sự hiểu được nội dung trong hình ảnh.
Thực tế
Hầu hết các công cụ tìm kiếm hình ảnh dựa trên văn bản truyền thống đều dựa vào tên tệp, văn bản thay thế (alt text) và nội dung trang web xung quanh thay vì phân tích chính hình ảnh. Chỉ có các công cụ tìm kiếm hình ảnh hiện đại sử dụng học sâu mới thực sự diễn giải được nội dung hình ảnh, và ngay cả những công cụ đó cũng thiếu khả năng suy luận bố cục mà CIR cung cấp.
Huyền thoại
CIR chỉ là tìm kiếm hình ảnh với thêm một vài bước xử lý.
Thực tế
Tìm kiếm hình ảnh kết hợp (Composed Image Retrieval) thể hiện một mô hình hoàn toàn khác biệt. Thay vì tìm kiếm các hình ảnh tương tự, nó tìm kiếm các hình ảnh phù hợp với một phép biến đổi do người dùng mô tả. Điều này đòi hỏi sự suy luận chung giữa các phương thức, chứ không chỉ là xử lý tuần tự hai truy vấn riêng biệt.
Huyền thoại
Tìm kiếm hình ảnh ngược và CIR là cùng một thứ.
Thực tế
Tìm kiếm hình ảnh ngược tìm các hình ảnh trùng lặp hoặc tương tự về mặt hình ảnh dựa trên các đặc điểm cấp thấp. Tìm kiếm hình ảnh có chú thích (CIR) tiến xa hơn bằng cách hiểu các sửa đổi văn bản và trả về các hình ảnh tương tự nhưng cố ý khác với hình ảnh tham chiếu, điều mà tìm kiếm ngược không thể làm được.
Huyền thoại
CIR hoạt động hoàn hảo ngay từ khi cài đặt.
Thực tế
Các mô hình CIR hiện tại vẫn gặp khó khăn với các hướng dẫn phức tạp, tham chiếu mơ hồ và các truy vấn nằm ngoài phạm vi phân phối. Hiệu suất thay đổi đáng kể giữa các lĩnh vực và các mô hình thường cần được tinh chỉnh cho các trường hợp sử dụng cụ thể như tìm kiếm thời trang hoặc đồ nội thất.
Huyền thoại
Phương pháp tìm kiếm hình ảnh truyền thống đã lỗi thời nhờ trí tuệ nhân tạo.
Thực tế
Các phương pháp truyền thống vẫn là xương sống của hoạt động tìm kiếm hình ảnh trong sản xuất tại các công ty như Google và Pinterest. Những cải tiến nhờ trí tuệ nhân tạo đã giúp chúng tốt hơn, nhưng kiến trúc cốt lõi của việc trích xuất đặc điểm và so khớp độ tương đồng vẫn thúc đẩy hàng tỷ truy vấn mỗi ngày.
Các câu hỏi thường gặp
Giải thích một cách đơn giản, truy xuất hình ảnh tổng hợp là gì?
Tìm kiếm hình ảnh kết hợp là một phương pháp tìm kiếm trong đó bạn cung cấp một hình ảnh tham khảo cùng với hướng dẫn bằng văn bản mô tả cách chỉnh sửa hình ảnh đó. Hệ thống sau đó sẽ tìm các hình ảnh trông giống với hình ảnh tham khảo của bạn nhưng đã được thay đổi theo hướng dẫn của bạn. Ví dụ, bạn có thể tải lên ảnh một chiếc ghế sofa màu đỏ và nhập "bằng da" để tìm các phiên bản ghế sofa tương tự được làm bằng da.
Tìm kiếm hình ảnh truyền thống hoạt động như thế nào?
Tìm kiếm hình ảnh truyền thống thường hoạt động theo hai cách: tìm kiếm dựa trên văn bản, đối sánh từ khóa với siêu dữ liệu hình ảnh và văn bản xung quanh, hoặc tìm kiếm dựa trên nội dung, phân tích các đặc điểm trực quan như hình dạng, màu sắc và kết cấu. Các phiên bản hiện đại sử dụng học sâu để trích xuất các đặc điểm ngữ nghĩa, nhưng ý tưởng cốt lõi vẫn là đối sánh một truy vấn duy nhất với cơ sở dữ liệu được lập chỉ mục.
Phương pháp nào tốt hơn cho thương mại điện tử?
Tìm kiếm hình ảnh kết hợp (Composed Image Retrieval - CIR) thường hoạt động tốt hơn trong thương mại điện tử vì người mua sắm thường muốn tìm các biến thể của một sản phẩm họ đã thích. Tìm kiếm "chiếc áo khoác này nhưng màu xanh lá cây" hoặc "tương tự nhưng rẻ hơn" chính xác là những gì CIR xử lý tốt. Tìm kiếm truyền thống hoạt động tốt cho việc duyệt web rộng rãi nhưng lại không hiệu quả khi người dùng muốn tìm kiếm các biến thể cụ thể.
Liệu CIR có thể thay thế hoàn toàn phương pháp tìm kiếm hình ảnh truyền thống?
Chưa. CIR đòi hỏi nhiều tài nguyên tính toán hơn, có dữ liệu huấn luyện hạn chế hơn so với các hệ thống truyền thống và chưa được triển khai ở quy mô như Google Images. Hiện tại, hai phương pháp này phục vụ các nhu cầu khác nhau, và nhiều chuyên gia dự đoán các hệ thống lai kết hợp cả hai sẽ trở thành tiêu chuẩn.
Những tập dữ liệu nào được sử dụng để huấn luyện các mô hình CIR?
Các bộ dữ liệu chuẩn CIR phổ biến nhất bao gồm FashionIQ cho việc tìm kiếm quần áo, CIRR cho hình ảnh tự nhiên nói chung và CIRCO cho việc ghép ảnh trong phạm vi mở. Các bộ dữ liệu này chứa các bộ ba hình ảnh tham chiếu, văn bản chỉnh sửa và hình ảnh mục tiêu, giúp các mô hình học cách diễn giải các truy vấn ghép ảnh.
Google Lens có phải là một dạng CIR (Computer-Induced Information) không?
Google Lens sử dụng một số kỹ thuật AI đa phương thức nhưng không hoàn toàn là một hệ thống CIR (Computer-Informed Image). Nó vượt trội trong nhận dạng đối tượng, trích xuất văn bản và so sánh hình ảnh, nhưng không hỗ trợ quy trình "hình ảnh tham chiếu cộng với văn bản chỉnh sửa" vốn là đặc trưng của CIR. Tuy nhiên, các nhóm nghiên cứu của Google đã công bố những bài báo có tầm ảnh hưởng lớn về CIR, vì vậy công nghệ này cuối cùng có thể sẽ hợp nhất.
Những mô hình nào hỗ trợ cho việc truy xuất hình ảnh tổng hợp?
Hầu hết các hệ thống CIR được xây dựng dựa trên các mô hình ngôn ngữ-hình ảnh như CLIP, BLIP, hoặc các kiến trúc mới hơn như MagicLens và CoVR. Các mô hình này cung cấp khả năng nền tảng để căn chỉnh hình ảnh và văn bản trong một không gian nhúng chung, mà CIR sau đó tận dụng cho suy luận kết hợp.
Độ chính xác của CIR so với tìm kiếm truyền thống như thế nào?
Trên các bộ dữ liệu chuẩn như FashionIQ và CIRR, các mô hình CIR tiên tiến nhất đạt điểm Recall@10 trong khoảng 40-60%, vượt trội đáng kể so với các phương pháp so sánh hình ảnh truyền thống. Tuy nhiên, độ chính xác trong thực tế phụ thuộc rất nhiều vào độ phức tạp của truy vấn và lĩnh vực ứng dụng, với các truy vấn đơn giản cho thấy sự khác biệt nhỏ hơn giữa hai phương pháp.
Tôi có cần chuyên môn về trí tuệ nhân tạo để sử dụng CIR không?
Với tư cách là người dùng cuối, câu trả lời là không. Hệ thống CIR được thiết kế để chấp nhận các hướng dẫn bằng ngôn ngữ tự nhiên cùng với hình ảnh, vì vậy bất kỳ ai quen thuộc với thanh tìm kiếm đều có thể sử dụng chúng. Việc xây dựng hoặc tinh chỉnh các mô hình CIR đòi hỏi chuyên môn về máy học, nhưng các ứng dụng hướng đến người tiêu dùng che giấu sự phức tạp đó đằng sau giao diện đơn giản.
Những thách thức chính nào đang cản trở việc áp dụng CIR?
Những trở ngại lớn nhất bao gồm chi phí tạo dữ liệu huấn luyện có chú thích, chi phí tính toán phát sinh từ việc chạy các mô hình đa phương thức, và khó khăn trong việc xử lý các hướng dẫn mơ hồ hoặc mang tính đặc thù văn hóa. Những lo ngại về quyền riêng tư liên quan đến việc tải lên hình ảnh tham chiếu cũng làm chậm quá trình áp dụng ở một số thị trường.
Phán quyết
Hãy chọn Tìm kiếm hình ảnh kết hợp khi bạn cần kết quả chính xác, hướng đến mục đích và đã có hình ảnh tham khảo cùng với hình ảnh cần chỉnh sửa rõ ràng, đặc biệt trong lĩnh vực thương mại điện tử hoặc thiết kế. Sử dụng Tìm kiếm hình ảnh truyền thống cho các truy vấn hàng ngày, tìm kiếm tổng quan hoặc khi tốc độ và quy mô quan trọng hơn khả năng kiểm soát chi tiết. Khi trí tuệ nhân tạo đa phương thức phát triển, hãy kỳ vọng hai phương pháp này sẽ hội tụ thành trải nghiệm tìm kiếm thống nhất.