ตัวอย่างที่เป็นรูปธรรมของระบบที่ไม่คำนึงถึงบริบทในซอฟต์แวร์ที่ใช้ในชีวิตประจำวันคืออะไร?
โปรแกรมเครื่องคิดเลขแบบบรรทัดคำสั่งมาตรฐานเป็นตัวอย่างที่สมบูรณ์แบบของโปรแกรมที่ไม่คำนึงถึงบริบท หากคุณพิมพ์ '5 + 5' มันจะคืนค่า '10' ทุกครั้ง โดยไม่สนใจว่าใครกำลังใช้งานอยู่ การคำนวณใดที่ทำไปเมื่อสองนาทีที่แล้ว หรือไม่ว่ามันกำลังทำงานอยู่บนโทรศัพท์ในตอนเช้าหรือบนคอมพิวเตอร์ตั้งโต๊ะในตอนเที่ยงคืน มันจะวิเคราะห์ตัวดำเนินการทางคณิตศาสตร์ที่ระบุไว้อย่างชัดเจนในคำขอแบบแยกต่างหากนั้น ทำธุรกรรมให้เสร็จสมบูรณ์ และลืมไปในทันทีว่าเคยมีการโต้ตอบเกิดขึ้น
โมเดลภาษาขนาดใหญ่จัดการกับการติดตามบริบทระหว่างการสนทนาที่ยาวนานได้อย่างไร?
แบบจำลองภาษาขนาดใหญ่ไม่มีหน่วยความจำทางชีวภาพที่ทำงานอย่างต่อเนื่อง แต่แทนที่จะเป็นเช่นนั้น วิศวกรจำลองบริบทโดยการเพิ่มประวัติการสนทนาในอดีตเข้าไปในข้อความแจ้งเตือนล่าสุดโดยตรงก่อนที่จะส่งไปยังแบบจำลอง ทุกครั้งที่ผู้ใช้ส่งข้อความใหม่ แอปพลิเคชันพื้นฐานจะรวบรวมบรรทัดก่อนหน้าจากฐานข้อมูลเซสชัน บรรจุเข้าด้วยกัน และส่งประวัติทั้งหมดกลับผ่านกลไกความสนใจของแบบจำลองเพื่อสร้างคำตอบที่สอดคล้องกัน
เหตุใดการเพิ่มบริบทให้กับแอปพลิเคชัน AI จึงทำให้เวลาในการดำเนินการเพิ่มขึ้น?
การเพิ่มบริบทเข้าไปจะเพิ่มงานคำนวณที่ใช้เวลานานหลายงานให้กับลูปการทำงานหลัก ก่อนที่ AI จะเริ่มประมวลผลคำตอบได้ มันต้องแปลงข้อมูลที่ผู้ใช้ป้อนเข้ามาให้เป็นเวกเตอร์ฝังตัว (vector embedding) ค้นหาความคล้ายคลึงกับฐานข้อมูลเพื่อดึงไฟล์ในอดีต กรองโทเค็นบริบทที่เกี่ยวข้อง และสร้างข้อความแจ้งเตือนขนาดใหญ่ การป้อนข้อความขนาดใหญ่เช่นนี้ผ่านเครือข่ายทรานส์ฟอร์เมอร์ (transformer network) ต้องใช้การประมวลผลทางคณิตศาสตร์มากขึ้นอย่างเห็นได้ชัด ซึ่งทำให้ความเร็วในการสร้างโทเค็นช้าลงอย่างมาก
ระบบที่ไม่คำนึงถึงบริบทสามารถปรับเปลี่ยนให้ดูเหมือนว่าเข้าใจบริบทการสนทนาได้หรือไม่?
นักพัฒนาซอฟต์แวร์มักเลียนแบบบริบทโดยการสร้างตรรกะเงื่อนไขที่ซับซ้อนและเขียนโค้ดแบบตายตัว รวมถึงคุกกี้เซสชัน ตัวอย่างเช่น ระบบโทรศัพท์อัตโนมัติอาจจัดเก็บการเลือกเมนูของผู้ใช้ไว้ในตัวแปรชั่วคราวเพื่อนำทางพวกเขาผ่านลำดับขั้นการให้ความช่วยเหลือ อย่างไรก็ตาม โครงสร้างนี้ยังคงไม่คำนึงถึงบริบทโดยพื้นฐาน เนื่องจากโค้ดสามารถทำตามได้เฉพาะแผนผังการตัดสินใจที่กำหนดไว้ล่วงหน้าเท่านั้น และขาดความสามารถเชิงความหมายในการทำความเข้าใจการเปลี่ยนแปลงที่ไม่ได้กำหนดไว้ล่วงหน้าหรือความแตกต่างเล็กน้อยของมนุษย์อย่างสิ้นเชิง
ฐานข้อมูลเวกเตอร์มีบทบาทอย่างไรใน AI ที่คำนึงถึงบริบทในยุคปัจจุบัน?
ฐานข้อมูลเวกเตอร์ทำหน้าที่เป็นหน่วยความจำระยะยาวที่ปรับขนาดได้สำหรับระบบ AI ที่คำนึงถึงบริบท โดยจะแปลงเอกสารที่ไม่เป็นระเบียบ บทสนทนาก่อนหน้า และโปรไฟล์ผู้ใช้ ให้เป็นพิกัดตัวเลขหลายมิติที่เรียกว่า embeddings เมื่อผู้ใช้ถามคำถาม ฐานข้อมูลจะคำนวณระยะทางทางเรขาคณิตระหว่างคำถามนั้นกับ embeddings ที่มีอยู่ได้อย่างรวดเร็ว และดึงข้อมูลที่เกี่ยวข้องกับบริบทขึ้นมาเพื่อใช้เป็นพื้นฐานในการตอบสนองของ AI
การรับรู้บริบทช่วยปรับปรุงแพลตฟอร์มบริการลูกค้าอัตโนมัติได้อย่างไร?
ในระบบสนับสนุนลูกค้าอัตโนมัติ การรับรู้บริบทช่วยป้องกันวงจรที่น่าหงุดหงิดของการที่ผู้ใช้ต้องอธิบายปัญหาซ้ำแล้วซ้ำเล่า ด้วยการดึงข้อมูลแบบเรียลไทม์จากแดชบอร์ดบัญชี สถานะคำสั่งซื้อล่าสุด และบันทึกการสนทนาก่อนหน้า ตัวแทนเสมือนที่รับรู้บริบทจะเข้าใจได้ทันทีว่าทำไมลูกค้าจึงติดต่อเข้ามา มันสามารถข้ามไปยังการแก้ไขปัญหาการจัดส่งล่าช้าเฉพาะเจาะจงได้โดยตรง แทนที่จะบังคับให้ลูกค้าผ่านเมนูการจัดเรียงทั่วไปที่เสียเวลา
ตัวชี้วัดข้อมูลหลักที่ใช้ในการสร้างบริบทในแอปพลิเคชันบนมือถือมีอะไรบ้าง?
ซอฟต์แวร์บนมือถือสร้างบริบทสถานการณ์โดยการดึงข้อมูลจากระดับฮาร์ดแวร์และสภาพแวดล้อมต่างๆ มาใช้ ซึ่งรวมถึงพิกัด GPS ทางภูมิศาสตร์ เวลาตามนาฬิกาท้องถิ่น ข้อมูลการเคลื่อนไหวจากมาตรวัดความเร่ง ประเภทการเชื่อมต่อเครือข่าย ค่าแสงโดยรอบ อุปกรณ์ต่อพ่วงบลูทูธที่เชื่อมต่อ และข้อมูลระดับแอปพลิเคชัน เช่น รูปแบบการเปิดใช้งานในอดีตและการติดตามการคลิกผ่าน
ระบบที่คำนึงถึงบริบทสามารถสร้างข้อผิดพลาดที่คาดเดาไม่ได้เนื่องจากการเปลี่ยนแปลงของข้อมูลในอดีตได้หรือไม่?
ใช่แล้ว เฟรมเวิร์กที่คำนึงถึงบริบทนั้นมีความเสี่ยงสูงต่อข้อผิดพลาดแบบค่อยเป็นค่อยไปที่เกิดจากการสะสมข้อมูลในอดีต หากบริบทเก่า เสียหาย หรือไม่เกี่ยวข้องถูกโหลดเข้าไปในหน่วยความจำการให้เหตุผลของ AI อย่างต่อเนื่อง มันอาจทำให้การทำงานของโมเดลผิดเพี้ยนไป ส่งผลให้เกิดการเข้าใจผิดหรือตีความข้อมูลที่ถูกต้องผิดพลาดได้ ดังนั้นวิศวกรจึงจำเป็นต้องสร้างระบบตัดแต่งอัตโนมัติที่กรองข้อมูลที่ไม่จำเป็นออกไปและให้ความสำคัญกับเมตาเดต้าบริบทที่มีคุณค่าสูง