ความแตกต่างหลักระหว่าง RAG แบบภาพและ RAG แบบข้อความอย่างเดียวคืออะไร?
Visual RAG ดึงภาพ หน้าเอกสาร และเนื้อหาภาพเพื่อใช้เป็นพื้นฐานในการตอบสนองของแบบจำลองภาษา ในขณะที่ RAG แบบข้อความอย่างเดียวจะดึงเฉพาะข้อความที่เป็นลายลักษณ์อักษรเท่านั้น Visual RAG ใช้การฝังข้อมูลแบบหลายโมดอลเพื่อทำความเข้าใจเค้าโครง แผนภูมิ และรูปภาพ ในขณะที่ RAG แบบข้อความอย่างเดียวอาศัยการฝังข้อมูลข้อความและมักต้องใช้ OCR สำหรับเอกสารที่สแกนแล้ว
RAG แบบภาพมีความแม่นยำกว่า RAG แบบข้อความอย่างเดียวหรือไม่?
Visual RAG มักมีความแม่นยำมากกว่าในงานที่เกี่ยวข้องกับแผนภูมิ แผนภาพ เอกสารที่สแกน และการตอบคำถามด้วยภาพ เกณฑ์มาตรฐานอย่าง DocVQA และ ChartQA แสดงให้เห็นถึงการปรับปรุงที่สำคัญเมื่อเพิ่มการค้นหาด้วยภาพ อย่างไรก็ตาม สำหรับการค้นหาด้วยข้อความล้วนๆ ทั้งสองวิธีมีประสิทธิภาพใกล้เคียงกัน
ฉันสามารถใช้ Visual RAG กับโมเดลโอเพนซอร์สได้หรือไม่?
ใช่แล้ว โมเดลโอเพนซอร์สอย่าง LLaVA, Qwen-VL, InternVL และ MiniCPM-V รองรับเวิร์กโฟลว์ RAG แบบภาพ เมื่อรวมกับตัวดึงข้อมูลอย่าง ColPali หรือ ColQwen คุณสามารถสร้างไปป์ไลน์ RAG แบบภาพโอเพนซอร์สเต็มรูปแบบที่ทำงานบน GPU ในเครื่องได้โดยไม่ต้องพึ่งพา API ที่เป็นกรรมสิทธิ์
ระบบ RAG แบบภาพช่วยลดความจำเป็นในการใช้ OCR หรือไม่?
ระบบ Visual RAG มักจะกำจัดข้อผิดพลาดจาก OCR โดยการดึงหน้าเอกสารมาเป็นภาพโดยตรง และปล่อยให้โมเดลภาษาภาพทำการตีความ ซึ่งจะช่วยหลีกเลี่ยงข้อผิดพลาดของ OCR ในเอกสารที่มีเค้าโครงซับซ้อน ลายมือ หรือการสแกนคุณภาพต่ำ ระบบไฮบริดบางระบบยังคงใช้ OCR สำหรับการจัดทำดัชนีเมตาเดต้า ในขณะที่อาศัยการดึงข้อมูลด้วยภาพสำหรับเนื้อหาจริง
RAG แบบภาพมีราคาต่างจาก RAG แบบข้อความอย่างเดียวมากแค่ไหน?
โดยทั่วไปแล้ว Visual RAG จะมีค่าใช้จ่ายสูงกว่า RAG ที่ใช้เฉพาะข้อความถึง 3-10 เท่า เนื่องจากต้องใช้พื้นที่จัดเก็บรูปภาพ การประมวลผลของตัวเข้ารหัสภาพ และการใช้โทเค็นที่มากขึ้นเมื่อป้อนรูปภาพให้กับโมเดลภาษา ค่าใช้จ่ายจะแตกต่างกันไปตามขนาดของเอกสาร ความถี่ในการเรียกใช้ และไม่ว่าคุณจะใช้ API ที่ให้บริการโดยผู้ให้บริการหรือโมเดลที่โฮสต์เอง
ColPali คืออะไร และมีความเกี่ยวข้องกับ RAG ในรูปแบบภาพอย่างไร?
ColPali เป็นโมเดลการค้นหาเอกสารที่เปิดตัวในปี 2024 ซึ่งมองหน้าเอกสารเป็นรูปภาพ และใช้ตัวเข้ารหัสภาพ เช่น PaliGemma เพื่อสร้างข้อมูลฝังตัว (embeddings) ColPali เป็นผู้บุกเบิกวิธีการค้นหาเอกสารด้วยภาพ ซึ่งเป็นหัวใจสำคัญของระบบ RAG (Research Access Group) สมัยใหม่หลายระบบ โดยเฉพาะอย่างยิ่งสำหรับฐานข้อมูลที่มีไฟล์ PDF จำนวนมาก
ฉันควรเลือกใช้ RAG แบบข้อความอย่างเดียวแทน RAG แบบภาพเมื่อใด?
เลือกใช้ RAG แบบข้อความอย่างเดียวเมื่อฐานความรู้ของคุณประกอบด้วยข้อความที่สะอาดตา เช่น บทความ โค้ด คำถามที่พบบ่อย หรือบันทึกการสนทนา นอกจากนี้ยังเป็นตัวเลือกที่ดีกว่าเมื่อมีงบประมาณจำกัด ความหน่วงมีความสำคัญ หรือคุณกำลังใช้งานบนโมเดลขนาดเล็กที่ไม่มีความสามารถด้านการมองเห็น RAG แบบข้อความอย่างเดียวเป็นค่าเริ่มต้นที่ปลอดภัยกว่าสำหรับแอปพลิเคชันแชทบอทและแอปพลิเคชันค้นหาแบบดั้งเดิมส่วนใหญ่
สามารถนำ RAG ที่เป็นภาพและ RAG ที่เป็นข้อความอย่างเดียวมาผสมผสานกันได้หรือไม่?
ใช่ ระบบ RAG แบบไฮบริดจะรวมทั้งสองแนวทางเข้าด้วยกัน โดยการเรียกใช้ตัวค้นหาแบบขนานและรวมผลลัพธ์ หรือโดยการส่งคำค้นหาไปยังตัวค้นหาที่เหมาะสมตามประเภทของคำถาม ซึ่งจะช่วยให้คุณได้รับประโยชน์ด้านต้นทุนจากการค้นหาด้วยข้อความอย่างเดียวสำหรับคำค้นหาแบบง่าย และได้รับประโยชน์ด้านความแม่นยำจากการค้นหาด้วยภาพสำหรับคำถามที่มีเอกสารจำนวนมาก
เกณฑ์ใดดีที่สุดสำหรับการประเมิน RAG แบบภาพ?
เกณฑ์มาตรฐานที่ใช้กันทั่วไป ได้แก่ DocVQA สำหรับความเข้าใจเอกสาร ChartQA สำหรับคำถามเกี่ยวกับแผนภูมิ MMMU สำหรับการให้เหตุผลแบบหลายรูปแบบ และ InfoVQA สำหรับความเข้าใจอินโฟกราฟิก สำหรับ RAG ที่เป็นข้อความอย่างเดียว เกณฑ์มาตรฐานที่นิยม ได้แก่ Natural Questions, TriviaQA และ HotpotQA
ฉันจำเป็นต้องใช้ LLM แบบมัลติโมดอลเพื่อใช้ RAG แบบภาพหรือไม่?
ใช่แล้ว Visual RAG ต้องการโมเดลภาษาที่สามารถประมวลผลภาพได้ เช่น GPT-4V, Claude 3.5 Sonnet, Gemini 1.5 Pro หรือทางเลือกโอเพนซอร์สอย่าง LLaVA และ Qwen-VL โมเดลข้อความล้วนๆ เช่น GPT-4 หรือ Llama 3 ไม่สามารถตีความภาพที่ดึงมาได้ ดังนั้นจึงใช้งานได้เฉพาะกับ RAG ที่เป็นข้อความเท่านั้น