Mở rộng truy vấn (Query Expansion) làm phong phú thêm các truy vấn tìm kiếm một cách linh hoạt bằng các thuật ngữ bổ sung trong quá trình thực thi, trong khi nhúng truy vấn cố định (Fixed Query Embeddings) dựa trên các biểu diễn vectơ được tính toán trước và không thay đổi. Cả hai phương pháp đều giải quyết vấn đề không khớp từ vựng trong truy xuất thông tin, nhưng chúng khác biệt rõ rệt về tính linh hoạt, chi phí tính toán và khả năng thích ứng với nội dung mới.
Một kỹ thuật truy xuất bổ sung cho truy vấn gốc các thuật ngữ liên quan, từ đồng nghĩa hoặc ngữ cảnh để cải thiện khả năng thu hồi kết quả tìm kiếm.
Các biểu diễn vector dày đặc được tính toán trước của các truy vấn vẫn giữ nguyên trạng thái và được tái sử dụng trong các tìm kiếm mà không cần sửa đổi trong quá trình thực thi.
| Tính năng | Mở rộng truy vấn | Nhúng truy vấn cố định |
|---|---|---|
| Cơ chế cốt lõi | Thêm các điều khoản vào truy vấn trong quá trình thực thi | Mã hóa truy vấn thành vectơ tĩnh |
| Khả năng thích ứng với nội dung mới | Cao — có thể tích hợp các tín hiệu mới | Thấp — bị đóng băng trong thời gian huấn luyện |
| Chi phí tính toán cho mỗi truy vấn | Mức độ từ trung bình đến cao (có thể có cuộc gọi LLM) | Thấp — một lần mã hóa |
| Xử lý các thuật ngữ hiếm gặp | Mạnh mẽ — khớp thuật ngữ rõ ràng | Yếu — phụ thuộc vào phạm vi bao phủ của bộ mã hóa từ vựng |
| Sự đánh đổi giữa độ chính xác và độ thu hồi | Tăng khả năng ghi nhớ, nhưng có thể làm giảm độ chính xác. | Cân bằng nhưng phụ thuộc vào ngữ liệu |
| Yêu cầu lập chỉ mục | Chỉ số đảo ngược tiêu chuẩn hoạt động | Yêu cầu chỉ số vectơ (FAISS, ScanN) |
| Các trường hợp sử dụng điển hình | Tìm kiếm từ vựng, truy xuất kết hợp | Tìm kiếm ngữ nghĩa, quy trình RAG |
| Khả năng giải thích | Cao — các điều khoản hiển thị | Thấp — không gian vectơ mờ đục |
Mở rộng truy vấn hoạt động trên biểu diễn văn bản của truy vấn, bổ sung các từ đồng nghĩa, các khái niệm liên quan hoặc các thuật ngữ được khai thác từ các tài liệu được xếp hạng cao nhất. Nhúng truy vấn cố định đi theo một con đường hoàn toàn khác: một bộ mã hóa thần kinh ánh xạ truy vấn thành một vectơ liên tục, và độ tương đồng được đo trong không gian nhúng đó. Phương pháp đầu tiên vẫn nằm trong thế giới của các mã thông báo rời rạc, trong khi phương pháp thứ hai thu gọn ý nghĩa thành hình học.
Vì Query Expansion tạo ra các thuật ngữ mới tại thời điểm tìm kiếm, nó có thể phản ứng với bộ sưu tập tài liệu thực tế, hành vi người dùng hoặc các xu hướng gần đây. Ngược lại, Fixed Query Embeddings được cố định trong quá trình huấn luyện và không thể điều chỉnh theo sự thay đổi từ vựng hoặc nội dung mới được lập chỉ mục mà không cần huấn luyện lại. Điều này làm cho việc mở rộng trở nên linh hoạt hơn nhưng cũng biến đổi nhiều hơn giữa các lần chạy.
Các embedding cố định tỏ ra ưu việt trong các ứng dụng nhạy cảm với độ trễ vì một lần truyền qua bộ mã hóa rất rẻ và vector kết quả có thể được lưu vào bộ nhớ cache. Mở rộng truy vấn, đặc biệt khi được hỗ trợ bởi các mô hình ngôn ngữ lớn, sẽ làm tăng chi phí cho mỗi truy vấn. Tuy nhiên, việc mở rộng tránh được chi phí cơ sở hạ tầng nặng nề của việc duy trì chỉ mục vector, điều này có thể là gánh nặng thực sự ở quy mô hàng tỷ tài liệu.
Các truy vấn ngắn, mơ hồ thường được hưởng lợi từ việc mở rộng vì ngữ cảnh bổ sung giúp làm rõ ý định. Các truy vấn dài, được cấu trúc tốt đôi khi lại gặp khó khăn khi mở rộng vì các thuật ngữ được thêm vào làm loãng tín hiệu ban đầu. Các embedding cố định xử lý các câu hỏi bằng ngôn ngữ tự nhiên một cách trơn tru nhưng lại gặp khó khăn với các danh từ riêng hiếm gặp, thuật ngữ chuyên ngành hoặc các thuật ngữ mới được tạo ra mà bộ mã hóa chưa từng học.
Hầu hết các hệ thống truy xuất thông tin sản xuất hiện nay đều kết hợp cả hai ý tưởng này. Một mô hình phổ biến sử dụng Fixed Query Embeddings để nhớ ngữ nghĩa và Query Expansion để tăng độ chính xác từ vựng, sau đó kết hợp hai danh sách kết quả. Nghiên cứu gần đây về các kỹ thuật như HyDE (Hypothetical Document Embeddings) đã làm mờ ranh giới hơn nữa bằng cách sử dụng LLM để tạo ra một tài liệu giả được nhúng vào, về cơ bản là hợp nhất việc mở rộng và nhúng thành một bước duy nhất.
Mở rộng truy vấn luôn cải thiện kết quả tìm kiếm.
Việc mở rộng giúp tăng khả năng nhớ lại kết quả nhưng thường làm giảm độ chính xác khi các thuật ngữ được thêm vào không liên quan đến chủ đề. Việc mở rộng một cách mù quáng có thể làm lu mờ các kết quả liên quan bằng nhiễu, đó là lý do tại sao các hệ thống hiện đại sử dụng các chiến lược mở rộng có chọn lọc hoặc được học.
Fixed Query Embeddings hiểu bất kỳ từ nào bạn đưa vào.
Các bộ mã hóa bị hạn chế bởi bộ phân tách từ và dữ liệu huấn luyện. Lỗi chính tả, tên sản phẩm mới hoặc thuật ngữ chuyên ngành thường bị tách thành các từ nhỏ mà mô hình chưa từng thấy, dẫn đến khả năng biểu diễn kém.
Tìm kiếm vector khiến các phương pháp tìm kiếm thông tin truyền thống trở nên lỗi thời.
Các phương pháp từ vựng như BM25 vẫn vượt trội hơn các phương pháp truy xuất dày đặc trên nhiều bộ dữ liệu chuẩn, đặc biệt là đối với các truy vấn chứa nhiều từ khóa. Các hệ thống mạnh nhất là hệ thống lai, chứ không phải hệ thống thuần túy dựa trên vector.
Mở rộng truy vấn là một kỹ thuật cũ không còn quan trọng nữa.
Các phương pháp mở rộng dựa trên LLM như query2doc và HyDE đã hồi sinh lĩnh vực này, cho thấy rằng các phương pháp mở rộng hiện đại vượt trội hơn hẳn so với các phương pháp "túi từ" đơn giản.
Mô hình nhúng lớn hơn luôn đồng nghĩa với khả năng truy xuất tốt hơn.
Hiệu quả giảm dần xuất hiện nhanh chóng, và một bộ mã hóa nhỏ được tinh chỉnh tốt với kỹ thuật khai thác dữ liệu âm mạnh thường có thể sánh ngang với một mô hình lớn với chi phí thấp hơn nhiều.
Hãy chọn Mở rộng truy vấn khi kho ngữ liệu của bạn lớn, các truy vấn chứa các thuật ngữ hiếm hoặc chuyên ngành, và bạn cần khả năng truy xuất dễ hiểu và thích ứng. Chọn Nhúng truy vấn cố định khi độ trễ là vấn đề quan trọng, các truy vấn là câu hỏi bằng ngôn ngữ tự nhiên, và bạn có đủ khả năng chi trả cho cơ sở hạ tầng lập chỉ mục vector. Trên thực tế, các hệ thống mạnh nhất sử dụng cả hai cùng nhau thay vì chọn một bên.
Trí tuệ nhân tạo được tăng cường bằng tìm kiếm sẽ lấy thông tin trực tiếp từ các nguồn bên ngoài tại thời điểm truy vấn, trong khi huấn luyện chỉ dựa trên tập dữ liệu lại hoàn toàn dựa vào kiến thức được tích hợp vào trọng số của mô hình trong quá trình huấn luyện. Mỗi phương pháp đều có những đánh đổi riêng về độ chính xác, chi phí, tính cập nhật và khả năng xử lý các câu hỏi nằm ngoài phạm vi huấn luyện ban đầu.
Bài so sánh này khám phá những điểm khác biệt chính giữa AI mã nguồn mở và AI độc quyền, bao gồm khả năng tiếp cận, tùy chỉnh, chi phí, hỗ trợ, bảo mật, hiệu suất và các trường hợp sử dụng thực tế, giúp các tổ chức và nhà phát triển quyết định phương pháp nào phù hợp với mục tiêu và năng lực kỹ thuật của họ.
Sự so sánh này giải thích những điểm khác biệt chính giữa trí tuệ nhân tạo và tự động hóa, tập trung vào cách chúng hoạt động, những vấn đề chúng giải quyết, tính thích ứng, độ phức tạp, chi phí và các trường hợp ứng dụng thực tế trong kinh doanh.
Sự so sánh này khám phá sự khác biệt giữa AI trên thiết bị và AI đám mây, tập trung vào cách chúng xử lý dữ liệu, tác động đến quyền riêng tư, hiệu suất, khả năng mở rộng, và các trường hợp sử dụng điển hình cho tương tác thời gian thực, mô hình quy mô lớn, cũng như yêu cầu kết nối trong các ứng dụng hiện đại.
Những người bạn đồng hành AI là các hệ thống kỹ thuật số được thiết kế để mô phỏng cuộc trò chuyện, hỗ trợ cảm xúc và sự hiện diện, trong khi tình bạn giữa người với người được xây dựng trên kinh nghiệm sống chung, sự tin tưởng và sự tương hỗ về mặt cảm xúc. Bài so sánh này khám phá cách cả hai hình thức kết nối này định hình giao tiếp, hỗ trợ cảm xúc, sự cô đơn và hành vi xã hội trong một thế giới ngày càng số hóa.
