Comparthing Logo
trí tuệ nhân tạothị giác máy tínhtìm kiếm hình ảnhđa phương thức-aihệ thống truy xuất

So sánh tìm kiếm hình ảnh tổng hợp và tìm kiếm hình ảnh truyền thống

Tìm kiếm hình ảnh kết hợp (Composed Image Retrieval - CIR) cho phép người dùng tìm kiếm bằng cách sử dụng hình ảnh tham chiếu kèm theo các chỉnh sửa văn bản, trong khi tìm kiếm hình ảnh truyền thống chỉ dựa vào một hình ảnh hoặc một truy vấn văn bản duy nhất. CIR mang lại kết quả chính xác hơn nhiều, hướng đến mục đích người dùng, trong khi các phương pháp truyền thống vẫn nhanh hơn và được sử dụng rộng rãi hơn trên các nền tảng hàng ngày.

Điểm nổi bật

  • CIR kết hợp đầu vào hình ảnh và văn bản, trong khi tìm kiếm truyền thống chỉ sử dụng một phương thức tại một thời điểm.
  • Việc truy xuất kết hợp nắm bắt được ý định chỉnh sửa của người dùng, chứ không chỉ đơn thuần là sự tương đồng về hình ảnh.
  • Tìm kiếm hình ảnh truyền thống nhanh hơn, hoàn thiện hơn và được triển khai trên quy mô internet.
  • CIR đang nổi lên như một công cụ mạnh mẽ cho thương mại điện tử và quy trình thiết kế sáng tạo.

Tìm kiếm hình ảnh tổng hợp là gì?

Một kỹ thuật trí tuệ nhân tạo kết hợp hình ảnh tham chiếu với truy vấn văn bản để tìm các hình ảnh tương tự về mặt hình ảnh nhưng đã được chỉnh sửa, phù hợp với ý định của người dùng.

  • CIR được chính thức giới thiệu như một nhiệm vụ nghiên cứu vào khoảng năm 2021 bởi các nhà nghiên cứu tại Google và các tổ chức học thuật.
  • Nó thường sử dụng bộ mã hóa kép cho hình ảnh và văn bản, được kết hợp thông qua các mô hình dựa trên transformer như CLIP hoặc BLIP.
  • Các bộ dữ liệu chuẩn phổ biến bao gồm FashionIQ, CIRR và CIRCO, mỗi bộ chứa hàng nghìn bộ ba dữ liệu được chú thích.
  • Điểm đột phá cốt lõi là cho phép người dùng chỉ định những gì cần thay đổi trong ảnh tham chiếu, chứ không chỉ là hình ảnh trông như thế nào.
  • Các hệ thống CIR thường hoạt động hiệu quả hơn các phương pháp tìm kiếm truyền thống trong các tác vụ chi tiết như tìm kiếm thời trang và thiết kế nội thất.

Tìm kiếm hình ảnh truyền thống là gì?

Các phương pháp truy xuất hình ảnh truyền thống so khớp một hình ảnh hoặc truy vấn văn bản duy nhất với cơ sở dữ liệu bằng cách sử dụng sự tương đồng về hình ảnh hoặc từ khóa.

  • Tìm kiếm hình ảnh truyền thống đã tồn tại từ những năm 1990, ban đầu dựa vào siêu dữ liệu, tên tệp và thẻ thủ công.
  • Các hệ thống hiện đại sử dụng kỹ thuật truy xuất hình ảnh dựa trên nội dung (CBIR) để phân tích các đặc điểm ở cấp độ pixel như màu sắc và kết cấu.
  • Google Images ra mắt năm 2001 và hiện xử lý hàng tỷ lượt truy vấn mỗi ngày bằng cách sử dụng các mô hình học sâu.
  • Tìm kiếm hình ảnh dựa trên văn bản phụ thuộc vào văn bản xung quanh trang web, thuộc tính alt và chú thích chứ không phải chính hình ảnh đó.
  • Các công cụ tìm kiếm hình ảnh ngược như TinEye và Google Lens dựa trên thuật toán băm nhận thức và so khớp đặc điểm.

Bảng So Sánh

Tính năng Tìm kiếm hình ảnh tổng hợp Tìm kiếm hình ảnh truyền thống
Loại truy vấn Chỉnh sửa hình ảnh + văn bản Chỉ hình ảnh hoặc văn bản
Công nghệ nền tảng Bộ chuyển đổi đa phương thức (CLIP, BLIP) Trích xuất đặc trưng CNN hoặc khớp từ khóa
Sự chính xác trong ý định Cao — ghi lại các thay đổi của người dùng Thấp đến trung bình — chỉ phù hợp với vẻ bề ngoài
Mức độ trưởng thành triển khai Mới nổi, chủ yếu ở giai đoạn nghiên cứu. Được triển khai rộng rãi trên các nền tảng chính.
Các trường hợp sử dụng tốt nhất Thời trang, các biến thể sản phẩm, chỉnh sửa thiết kế Tìm kiếm web tổng quát, so khớp khuôn mặt, tìm kiếm trùng lặp
Tốc độ Chậm hơn do mã hóa kép Nhanh chóng, được tối ưu hóa cho hàng tỷ hình ảnh.
Kỹ năng người dùng cần thiết Độ khó trung bình — cần hình ảnh tham khảo Thấp — chỉ cần nhắn tin hoặc tải lên là đủ.
Xử lý sự mơ hồ Giải quyết thông qua việc phân tích ngữ nghĩa văn bản. Trả về kết quả tổng quát, người dùng có thể lọc thủ công.

So sánh chi tiết

Cách thức xử lý truy vấn

Hệ thống tìm kiếm hình ảnh kết hợp (Composed Image Retrieval) nhận đồng thời hai đầu vào: một hình ảnh tham chiếu và một mô tả bằng ngôn ngữ tự nhiên về cách hình ảnh đó cần được chỉnh sửa. Sau đó, hệ thống sẽ tìm kiếm các hình ảnh có hình thức trực quan tương tự hình ảnh tham chiếu nhưng đã tích hợp các thay đổi về văn bản. Ngược lại, tìm kiếm hình ảnh truyền thống chỉ chấp nhận một đầu vào tại một thời điểm, hoặc một hình ảnh duy nhất để so khớp độ tương đồng trực quan hoặc một chuỗi văn bản để tìm kiếm dựa trên từ khóa. Sự khác biệt cơ bản này định hình mọi thứ, từ độ chính xác đến trải nghiệm người dùng.

Độ chính xác và tính phù hợp

Khi người dùng có ý định chỉnh sửa cụ thể, CIR vượt trội hơn hẳn so với tìm kiếm truyền thống vì nó hiểu được ý định chứ không chỉ đơn thuần là hình thức bên ngoài. Ví dụ, tìm kiếm "chiếc váy này nhưng màu xanh" sẽ trả về các biến thể phù hợp, trong khi tìm kiếm hình ảnh truyền thống chỉ tìm thấy những chiếc váy tương tự về mặt hình ảnh bất kể màu sắc. Các phương pháp truyền thống rất tốt trong việc tìm kiếm sự tương đồng rộng rãi nhưng lại gặp khó khăn khi người dùng muốn tìm kiếm thứ gì đó gần giống nhưng khác biệt rõ rệt so với hình ảnh tham khảo.

Ngăn xếp công nghệ

Các hệ thống CIR dựa trên các mô hình đa phương thức hiểu đồng thời hình ảnh và văn bản, thường được xây dựng trên các mô hình nền tảng như CLIP, BLIP hoặc các kiến trúc ngôn ngữ-hình ảnh mới hơn. Các mô hình này mã hóa cả hai đầu vào vào một không gian nhúng chung, nơi có thể tính toán sự tương đồng một cách có ý nghĩa. Tìm kiếm hình ảnh truyền thống sử dụng các quy trình cũ hơn nhưng được tối ưu hóa tốt: trích xuất đặc trưng dựa trên CNN cho tìm kiếm hình ảnh, hoặc chỉ mục đảo ngược với trọng số TF-IDF cho các truy vấn dựa trên văn bản. Cách tiếp cận mới hơn đòi hỏi nhiều tài nguyên tính toán hơn nhưng cung cấp khả năng hiểu ngữ nghĩa phong phú hơn.

Ứng dụng thực tế

Tìm kiếm hình ảnh truyền thống chiếm ưu thế trong các ứng dụng dành cho người tiêu dùng vì nó có khả năng mở rộng hiệu quả và dễ dàng tích hợp với cơ sở hạ tầng tìm kiếm hiện có. Google Images, tìm kiếm hình ảnh trên Pinterest và các nền tảng ảnh lưu trữ đều sử dụng các biến thể của phương pháp này. Tìm kiếm hình ảnh tham khảo (CIR) đang ngày càng phổ biến trong các lĩnh vực chuyên biệt như thương mại điện tử, nơi người mua sắm muốn tìm kiếm các biến thể sản phẩm, và trong các công cụ sáng tạo, nơi các nhà thiết kế cần khám phá các chỉnh sửa đối với hình ảnh tham khảo. Dự kiến các tính năng CIR sẽ xuất hiện trong các ứng dụng mua sắm và phần mềm thiết kế trong vài năm tới.

Những hạn chế và thách thức

CIR vẫn phải đối mặt với những trở ngại về sự khan hiếm dữ liệu, vì việc tạo ra các bộ ba được chú thích (hình ảnh tham chiếu, văn bản chỉnh sửa, hình ảnh đích) trên quy mô lớn rất tốn kém. Các mô hình cũng có thể gặp khó khăn với các hướng dẫn văn bản phức tạp hoặc mơ hồ. Tìm kiếm hình ảnh truyền thống có những điểm yếu riêng, đặc biệt là về khả năng hiểu ngữ nghĩa — tìm kiếm "chó hạnh phúc" có thể bỏ sót một bức ảnh về một chú chó con vui vẻ vì các đặc điểm hình ảnh không khớp với kỳ vọng của từ khóa. Cả hai phương pháp đều tiếp tục phát triển, với các hệ thống lai có thể đại diện cho tương lai.

Ưu & Nhược điểm

Tìm kiếm hình ảnh tổng hợp

Ưu điểm

  • + Kết quả nhận biết ý định
  • + Kiểm soát chi tiết
  • + Hiểu biết đa phương thức
  • + Tuyệt vời cho các biến thể

Đã lưu

  • Suy luận chậm hơn
  • Triển khai hạn chế
  • Cần hình ảnh tham khảo
  • Tập dữ liệu huấn luyện nhỏ hơn

Tìm kiếm hình ảnh truyền thống

Ưu điểm

  • + Khả năng mở rộng quy mô lớn
  • + Thời gian phản hồi nhanh
  • + Dễ sử dụng
  • + Khả năng tương thích rộng

Đã lưu

  • Bỏ qua ý định của người dùng
  • Khó khăn trong việc nắm bắt sắc thái tinh tế.
  • Phụ thuộc vào từ khóa
  • Hỗ trợ chỉnh sửa hạn chế

Những hiểu lầm phổ biến

Huyền thoại

Tìm kiếm hình ảnh truyền thống thực sự hiểu được nội dung trong hình ảnh.

Thực tế

Hầu hết các công cụ tìm kiếm hình ảnh dựa trên văn bản truyền thống đều dựa vào tên tệp, văn bản thay thế (alt text) và nội dung trang web xung quanh thay vì phân tích chính hình ảnh. Chỉ có các công cụ tìm kiếm hình ảnh hiện đại sử dụng học sâu mới thực sự diễn giải được nội dung hình ảnh, và ngay cả những công cụ đó cũng thiếu khả năng suy luận bố cục mà CIR cung cấp.

Huyền thoại

CIR chỉ là tìm kiếm hình ảnh với thêm một vài bước xử lý.

Thực tế

Tìm kiếm hình ảnh kết hợp (Composed Image Retrieval) thể hiện một mô hình hoàn toàn khác biệt. Thay vì tìm kiếm các hình ảnh tương tự, nó tìm kiếm các hình ảnh phù hợp với một phép biến đổi do người dùng mô tả. Điều này đòi hỏi sự suy luận chung giữa các phương thức, chứ không chỉ là xử lý tuần tự hai truy vấn riêng biệt.

Huyền thoại

Tìm kiếm hình ảnh ngược và CIR là cùng một thứ.

Thực tế

Tìm kiếm hình ảnh ngược tìm các hình ảnh trùng lặp hoặc tương tự về mặt hình ảnh dựa trên các đặc điểm cấp thấp. Tìm kiếm hình ảnh có chú thích (CIR) tiến xa hơn bằng cách hiểu các sửa đổi văn bản và trả về các hình ảnh tương tự nhưng cố ý khác với hình ảnh tham chiếu, điều mà tìm kiếm ngược không thể làm được.

Huyền thoại

CIR hoạt động hoàn hảo ngay từ khi cài đặt.

Thực tế

Các mô hình CIR hiện tại vẫn gặp khó khăn với các hướng dẫn phức tạp, tham chiếu mơ hồ và các truy vấn nằm ngoài phạm vi phân phối. Hiệu suất thay đổi đáng kể giữa các lĩnh vực và các mô hình thường cần được tinh chỉnh cho các trường hợp sử dụng cụ thể như tìm kiếm thời trang hoặc đồ nội thất.

Huyền thoại

Phương pháp tìm kiếm hình ảnh truyền thống đã lỗi thời nhờ trí tuệ nhân tạo.

Thực tế

Các phương pháp truyền thống vẫn là xương sống của hoạt động tìm kiếm hình ảnh trong sản xuất tại các công ty như Google và Pinterest. Những cải tiến nhờ trí tuệ nhân tạo đã giúp chúng tốt hơn, nhưng kiến trúc cốt lõi của việc trích xuất đặc điểm và so khớp độ tương đồng vẫn thúc đẩy hàng tỷ truy vấn mỗi ngày.

Các câu hỏi thường gặp

Giải thích một cách đơn giản, truy xuất hình ảnh tổng hợp là gì?
Tìm kiếm hình ảnh kết hợp là một phương pháp tìm kiếm trong đó bạn cung cấp một hình ảnh tham khảo cùng với hướng dẫn bằng văn bản mô tả cách chỉnh sửa hình ảnh đó. Hệ thống sau đó sẽ tìm các hình ảnh trông giống với hình ảnh tham khảo của bạn nhưng đã được thay đổi theo hướng dẫn của bạn. Ví dụ, bạn có thể tải lên ảnh một chiếc ghế sofa màu đỏ và nhập "bằng da" để tìm các phiên bản ghế sofa tương tự được làm bằng da.
Tìm kiếm hình ảnh truyền thống hoạt động như thế nào?
Tìm kiếm hình ảnh truyền thống thường hoạt động theo hai cách: tìm kiếm dựa trên văn bản, đối sánh từ khóa với siêu dữ liệu hình ảnh và văn bản xung quanh, hoặc tìm kiếm dựa trên nội dung, phân tích các đặc điểm trực quan như hình dạng, màu sắc và kết cấu. Các phiên bản hiện đại sử dụng học sâu để trích xuất các đặc điểm ngữ nghĩa, nhưng ý tưởng cốt lõi vẫn là đối sánh một truy vấn duy nhất với cơ sở dữ liệu được lập chỉ mục.
Phương pháp nào tốt hơn cho thương mại điện tử?
Tìm kiếm hình ảnh kết hợp (Composed Image Retrieval - CIR) thường hoạt động tốt hơn trong thương mại điện tử vì người mua sắm thường muốn tìm các biến thể của một sản phẩm họ đã thích. Tìm kiếm "chiếc áo khoác này nhưng màu xanh lá cây" hoặc "tương tự nhưng rẻ hơn" chính xác là những gì CIR xử lý tốt. Tìm kiếm truyền thống hoạt động tốt cho việc duyệt web rộng rãi nhưng lại không hiệu quả khi người dùng muốn tìm kiếm các biến thể cụ thể.
Liệu CIR có thể thay thế hoàn toàn phương pháp tìm kiếm hình ảnh truyền thống?
Chưa. CIR đòi hỏi nhiều tài nguyên tính toán hơn, có dữ liệu huấn luyện hạn chế hơn so với các hệ thống truyền thống và chưa được triển khai ở quy mô như Google Images. Hiện tại, hai phương pháp này phục vụ các nhu cầu khác nhau, và nhiều chuyên gia dự đoán các hệ thống lai kết hợp cả hai sẽ trở thành tiêu chuẩn.
Những tập dữ liệu nào được sử dụng để huấn luyện các mô hình CIR?
Các bộ dữ liệu chuẩn CIR phổ biến nhất bao gồm FashionIQ cho việc tìm kiếm quần áo, CIRR cho hình ảnh tự nhiên nói chung và CIRCO cho việc ghép ảnh trong phạm vi mở. Các bộ dữ liệu này chứa các bộ ba hình ảnh tham chiếu, văn bản chỉnh sửa và hình ảnh mục tiêu, giúp các mô hình học cách diễn giải các truy vấn ghép ảnh.
Google Lens có phải là một dạng CIR (Computer-Induced Information) không?
Google Lens sử dụng một số kỹ thuật AI đa phương thức nhưng không hoàn toàn là một hệ thống CIR (Computer-Informed Image). Nó vượt trội trong nhận dạng đối tượng, trích xuất văn bản và so sánh hình ảnh, nhưng không hỗ trợ quy trình "hình ảnh tham chiếu cộng với văn bản chỉnh sửa" vốn là đặc trưng của CIR. Tuy nhiên, các nhóm nghiên cứu của Google đã công bố những bài báo có tầm ảnh hưởng lớn về CIR, vì vậy công nghệ này cuối cùng có thể sẽ hợp nhất.
Những mô hình nào hỗ trợ cho việc truy xuất hình ảnh tổng hợp?
Hầu hết các hệ thống CIR được xây dựng dựa trên các mô hình ngôn ngữ-hình ảnh như CLIP, BLIP, hoặc các kiến trúc mới hơn như MagicLens và CoVR. Các mô hình này cung cấp khả năng nền tảng để căn chỉnh hình ảnh và văn bản trong một không gian nhúng chung, mà CIR sau đó tận dụng cho suy luận kết hợp.
Độ chính xác của CIR so với tìm kiếm truyền thống như thế nào?
Trên các bộ dữ liệu chuẩn như FashionIQ và CIRR, các mô hình CIR tiên tiến nhất đạt điểm Recall@10 trong khoảng 40-60%, vượt trội đáng kể so với các phương pháp so sánh hình ảnh truyền thống. Tuy nhiên, độ chính xác trong thực tế phụ thuộc rất nhiều vào độ phức tạp của truy vấn và lĩnh vực ứng dụng, với các truy vấn đơn giản cho thấy sự khác biệt nhỏ hơn giữa hai phương pháp.
Tôi có cần chuyên môn về trí tuệ nhân tạo để sử dụng CIR không?
Với tư cách là người dùng cuối, câu trả lời là không. Hệ thống CIR được thiết kế để chấp nhận các hướng dẫn bằng ngôn ngữ tự nhiên cùng với hình ảnh, vì vậy bất kỳ ai quen thuộc với thanh tìm kiếm đều có thể sử dụng chúng. Việc xây dựng hoặc tinh chỉnh các mô hình CIR đòi hỏi chuyên môn về máy học, nhưng các ứng dụng hướng đến người tiêu dùng che giấu sự phức tạp đó đằng sau giao diện đơn giản.
Những thách thức chính nào đang cản trở việc áp dụng CIR?
Những trở ngại lớn nhất bao gồm chi phí tạo dữ liệu huấn luyện có chú thích, chi phí tính toán phát sinh từ việc chạy các mô hình đa phương thức, và khó khăn trong việc xử lý các hướng dẫn mơ hồ hoặc mang tính đặc thù văn hóa. Những lo ngại về quyền riêng tư liên quan đến việc tải lên hình ảnh tham chiếu cũng làm chậm quá trình áp dụng ở một số thị trường.

Phán quyết

Hãy chọn Tìm kiếm hình ảnh kết hợp khi bạn cần kết quả chính xác, hướng đến mục đích và đã có hình ảnh tham khảo cùng với hình ảnh cần chỉnh sửa rõ ràng, đặc biệt trong lĩnh vực thương mại điện tử hoặc thiết kế. Sử dụng Tìm kiếm hình ảnh truyền thống cho các truy vấn hàng ngày, tìm kiếm tổng quan hoặc khi tốc độ và quy mô quan trọng hơn khả năng kiểm soát chi tiết. Khi trí tuệ nhân tạo đa phương thức phát triển, hãy kỳ vọng hai phương pháp này sẽ hội tụ thành trải nghiệm tìm kiếm thống nhất.

So sánh liên quan

AI hỗ trợ tìm kiếm so với huấn luyện chỉ dựa trên tập dữ liệu

Trí tuệ nhân tạo được tăng cường bằng tìm kiếm sẽ lấy thông tin trực tiếp từ các nguồn bên ngoài tại thời điểm truy vấn, trong khi huấn luyện chỉ dựa trên tập dữ liệu lại hoàn toàn dựa vào kiến thức được tích hợp vào trọng số của mô hình trong quá trình huấn luyện. Mỗi phương pháp đều có những đánh đổi riêng về độ chính xác, chi phí, tính cập nhật và khả năng xử lý các câu hỏi nằm ngoài phạm vi huấn luyện ban đầu.

AI mã nguồn mở so với AI độc quyền

Bài so sánh này khám phá những điểm khác biệt chính giữa AI mã nguồn mở và AI độc quyền, bao gồm khả năng tiếp cận, tùy chỉnh, chi phí, hỗ trợ, bảo mật, hiệu suất và các trường hợp sử dụng thực tế, giúp các tổ chức và nhà phát triển quyết định phương pháp nào phù hợp với mục tiêu và năng lực kỹ thuật của họ.

AI so với Tự động hóa

Sự so sánh này giải thích những điểm khác biệt chính giữa trí tuệ nhân tạo và tự động hóa, tập trung vào cách chúng hoạt động, những vấn đề chúng giải quyết, tính thích ứng, độ phức tạp, chi phí và các trường hợp ứng dụng thực tế trong kinh doanh.

AI trên thiết bị so với AI trên đám mây

Sự so sánh này khám phá sự khác biệt giữa AI trên thiết bị và AI đám mây, tập trung vào cách chúng xử lý dữ liệu, tác động đến quyền riêng tư, hiệu suất, khả năng mở rộng, và các trường hợp sử dụng điển hình cho tương tác thời gian thực, mô hình quy mô lớn, cũng như yêu cầu kết nối trong các ứng dụng hiện đại.

Bạn đồng hành AI so với tình bạn giữa con người

Những người bạn đồng hành AI là các hệ thống kỹ thuật số được thiết kế để mô phỏng cuộc trò chuyện, hỗ trợ cảm xúc và sự hiện diện, trong khi tình bạn giữa người với người được xây dựng trên kinh nghiệm sống chung, sự tin tưởng và sự tương hỗ về mặt cảm xúc. Bài so sánh này khám phá cách cả hai hình thức kết nối này định hình giao tiếp, hỗ trợ cảm xúc, sự cô đơn và hành vi xã hội trong một thế giới ngày càng số hóa.