เหตุใด Netflix จึงเปลี่ยนจากการให้คะแนนดาวเป็นการกดไลค์/ไม่ไลค์?
Netflix ค้นพบว่าการให้คะแนนดาวแบบชัดเจนนั้นทำนายพฤติกรรมการรับชมจริงได้ไม่ดีนัก ผู้ใช้อาจให้คะแนนภาพยนตร์ศิลปะ 5 ดาว แต่กลับดูซีรีส์ตลกแบบต่อเนื่อง การให้คะแนนแบบนิ้วโป้งถึงแม้จะมีความแม่นยำน้อยกว่า แต่ก็สร้างสัญญาณความชอบที่น่าเชื่อถือกว่าสำหรับอัลกอริทึมการแนะนำของพวกเขา นี่เป็นตัวอย่างของรูปแบบที่กว้างขึ้น: ความชอบแบบจับคู่หรือแบบไบนารีมักมีความสัมพันธ์ที่ดีกว่ากับความชอบที่แสดงออกมามากกว่าการให้คะแนนแบบสัมบูรณ์
การเรียนรู้ความชอบแบบจับคู่ทำงานอย่างไรในการฝึกอบรมของ ChatGPT?
ในระหว่างกระบวนการ RLHF ผู้ประเมินที่เป็นมนุษย์จะเปรียบเทียบผลลัพธ์จากโมเดลหลายๆ แบบสำหรับคำถามเดียวกัน และระบุว่าแบบใดดีกว่า การเปรียบเทียบเหล่านี้จะฝึกโมเดลการให้รางวัลที่สามารถทำนายความชอบของมนุษย์ได้ จากนั้นโมเดลการให้รางวัลจะใช้เป็นแนวทางในการปรับแต่งเพิ่มเติมผ่านการเรียนรู้แบบเสริมแรง วิธีการแบบจับคู่เช่นนี้มีความสำคัญอย่างยิ่ง เพราะการให้คะแนนคุณภาพการสนทนาโดยตรงแบบสัมบูรณ์นั้นพิสูจน์แล้วว่าไม่น่าเชื่อถือสำหรับผู้ประเมินหลายคน
การให้คะแนนแบบสัมบูรณ์จะสามารถเอาชนะวิธีการให้คะแนนแบบจับคู่ได้หรือไม่?
แน่นอน เมื่อประเมินคุณลักษณะที่เป็นรูปธรรมและวัดได้ เช่น ความละเอียดของภาพ ความเร็วในการโหลด ความถูกต้องของข้อมูล มาตราส่วนสัมบูรณ์ที่มีเกณฑ์ชัดเจนมักจะเพียงพอและต้องการข้อมูลน้อยกว่า การให้คะแนนการวินิจฉัยทางการแพทย์ การควบคุมคุณภาพการผลิต และการใช้งานทางวิศวกรรมหลายอย่างได้รับประโยชน์จากกรอบการทำงานแบบสัมบูรณ์ สิ่งสำคัญคือการเลือกวิธีการให้เหมาะสมกับประเภทของการตัดสิน
แบบจำลองแบรดลีย์-เทอร์รีคืออะไร และทำไมจึงมีความสำคัญ?
แบบจำลอง Bradley-Terry กำหนดค่าพารามิเตอร์ "ความแข็งแกร่ง" แฝงให้กับแต่ละรายการ จากนั้นสร้างแบบจำลองความน่าจะเป็นที่รายการหนึ่งจะเหนือกว่าอีกรายการหนึ่งโดยใช้ฟังก์ชันโลจิสติกของความแตกต่างของความแข็งแกร่ง นี่คือโครงสร้างทางคณิตศาสตร์หลักที่เชื่อมโยงผลลัพธ์แบบคู่เข้ากับการจัดอันดับแบบต่อเนื่อง รูปแบบการเรียนรู้เชิงลึกสมัยใหม่จะฝังรายการต่างๆ ลงในพื้นที่เวกเตอร์ โดยที่ระยะทางจะเข้ารหัสความน่าจะเป็นของความชอบ
คุณจัดการกับความชอบที่ไม่สามารถถ่ายทอดได้ในระบบแบบจับคู่ได้อย่างไร?
มีกลยุทธ์หลายอย่าง เช่น การตรวจจับและคัดออกผู้ให้ข้อมูลที่ไม่สอดคล้องกัน การจำลองสัญญาณรบกวนอย่างชัดเจนในแบบจำลองความชอบ หรือการยอมรับลำดับบางส่วนแทนที่จะบังคับให้มีการจัดอันดับที่สมบูรณ์ วิธีการขั้นสูงบางวิธีถือว่าความไม่สอดคล้องกันเป็นสัญญาณ ซึ่งบ่งชี้ถึงการตัดสินใจแบบหลายเกณฑ์มากกว่าข้อผิดพลาด และจำลองด้วยแบบจำลองแบบผสมหรือความชอบที่ขึ้นอยู่กับบริบท
เหตุใด Elo จึงถูกพิจารณาว่าเป็นระบบการจัดลำดับความชอบแบบคู่?
นักหมากรุกจะไม่ได้รับ "คะแนนทักษะหมากรุก" โดยตรง แต่ผลการแข่งขัน (การเปรียบเทียบแบบคู่) จะอัปเดตคะแนน Elo ของพวกเขา ความแตกต่างของคะแนนระหว่างผู้เล่นสองคนจะทำนายโอกาสในการชนะ ระบบที่ยอดเยี่ยมนี้ ซึ่งพัฒนาโดย Arpad Elo ในปี 1960 แสดงให้เห็นว่าการสังเกตแบบคู่ซ้ำๆ สามารถสร้างมาตราส่วนสัมบูรณ์ที่มีความหมายได้โดยปริยาย
การให้คะแนนแบบสัมบูรณ์หายไปอย่างสิ้นเชิงในระบบ AI สมัยใหม่หรือไม่?
ไม่เลย การให้คะแนนแบบสัมบูรณ์ยังคงพบเห็นได้ทั่วไปในการรีวิวสินค้า ร้านค้าแอป และงานวิจัยสำรวจ ระบบไฮบริดหลายระบบใช้การให้คะแนนแบบสัมบูรณ์สำหรับการกรองเบื้องต้น และใช้วิธีการให้คะแนนแบบจับคู่สำหรับการจัดอันดับที่ละเอียดกว่า การเลือกใช้ขึ้นอยู่กับการตัดสินใจเฉพาะเรื่องและต้นทุนของข้อผิดพลาดในการให้คะแนน
การเรียนรู้เชิงรุกช่วยลดต้นทุนการเปรียบเทียบแบบคู่ได้อย่างไร?
แทนที่จะเปรียบเทียบทุกคู่ที่เป็นไปได้ อัลกอริทึมการเรียนรู้เชิงรุกจะเลือกการเปรียบเทียบที่มีข้อมูลมากที่สุดโดยพิจารณาจากความไม่แน่นอนของแบบจำลองในปัจจุบัน หากแบบจำลองมีความชอบ A มากกว่า B อยู่แล้ว การเปรียบเทียบอีกครั้งจะเสียเวลาเปล่า การเลือกเชิงกลยุทธ์สามารถลดจำนวนการเปรียบเทียบที่จำเป็นจาก O(n²) เป็น O(n log n) หรือดีกว่านั้น ในขณะที่ยังคงรักษาความแม่นยำในการจัดอันดับไว้ได้
อะไรทำให้การระบุคู่ข้อมูล 'ง่ายขึ้น' สำหรับมนุษย์?
งานวิจัยด้านวิทยาศาสตร์การรู้คิดแสดงให้เห็นว่า การตัดสินโดยการเปรียบเทียบนั้นใช้หน่วยความจำในการทำงานน้อยกว่าการประเมินแบบสัมบูรณ์ เมื่อให้คะแนนภาพยนตร์แบบสัมบูรณ์ คุณต้องจดจำมาตราส่วนคุณภาพทั้งหมดไว้ในใจและจับคู่ภาพยนตร์เรื่องนั้นกับมาตราส่วนนั้น แต่เมื่อเปรียบเทียบภาพยนตร์สองเรื่อง คุณเพียงแค่ต้องพิจารณาว่าเรื่องใดตรงตามเกณฑ์ของคุณได้ดีกว่า ภาระทางปัญญาที่ลดลงนี้มักให้ผลลัพธ์ที่สม่ำเสมอกว่า
วิธีการเหล่านี้สามารถผสานรวมเข้าด้วยกันในระบบเดียวได้หรือไม่?
ใช่แล้ว นับวันยิ่งมีมากขึ้นเรื่อยๆ บางแพลตฟอร์มเก็บรวบรวมคะแนนสัมบูรณ์ แต่ใช้คะแนนเหล่านั้นเป็นข้อมูลฝึกฝนแบบจับคู่ บางแพลตฟอร์มใช้คะแนนสัมบูรณ์สำหรับการจัดกลุ่มแบบหยาบๆ จากนั้นจึงเปรียบเทียบแบบจับคู่ภายในกลุ่ม งานวิจัยเกี่ยวกับ 'การเรียนรู้ที่จะจัดอันดับ' มักจะผสมผสานวิธีการแบบคะแนน (สัมบูรณ์) แบบจับคู่ และแบบรายการ โดยการผสมผสานที่เหมาะสมที่สุดจะขึ้นอยู่กับความพร้อมของข้อมูลและข้อกำหนดของงาน
ตัวชี้วัดหลักในการประเมินสำหรับแต่ละแนวทางมีอะไรบ้าง?
วิธีการเปรียบเทียบแบบคู่มักใช้ค่า Kendall's tau, ค่ากำไรสะสมที่ลดลงแบบปรับมาตรฐาน (NDCG) หรือความแม่นยำในการทำนายความชอบที่ไม่ได้นำมาทดสอบ ส่วนการให้คะแนนแบบสัมบูรณ์จะใช้ค่าความคลาดเคลื่อนกำลังสองเฉลี่ย ค่าสัมประสิทธิ์สหสัมพันธ์ของ Pearson หรือตัวชี้วัดการสอบเทียบ ที่สำคัญคือ แบบจำลองแบบคู่สามารถประเมินได้จากคุณภาพสัมบูรณ์ของการจัดอันดับที่ได้ และในทางกลับกัน—แต่ต้องเลือกตัวชี้วัดอย่างระมัดระวัง
ความแตกต่างทางวัฒนธรรมส่งผลต่อแนวทางเหล่านี้อย่างไร?
รูปแบบการตอบสนองทางวัฒนธรรมส่งผลกระทบอย่างมากต่อคะแนนโดยรวม บางวัฒนธรรมหลีกเลี่ยงคะแนนสุดขั้ว โดยจะบีบอัดคะแนนเข้าหาค่ากลาง ในขณะที่บางวัฒนธรรมใช้มาตราส่วนที่แตกต่างกันไปตามบรรทัดฐานด้านความสุภาพ วิธีการเปรียบเทียบแบบคู่มีความทนทานต่อผลกระทบเหล่านี้มากกว่า เนื่องจากต้องการเพียงการตัดสินเชิงสัมพัทธ์เท่านั้น แม้ว่าความชอบทางวัฒนธรรมเองจะยังคงแตกต่างกันอยู่ก็ตาม แพลตฟอร์มระดับโลกต้องคำนึงถึงทั้งสองปรากฏการณ์นี้ในการเก็บรวบรวมข้อมูลและการออกแบบแบบจำลอง