แม้ว่าทั้งสองแนวคิดจะนำไปสู่ผลลัพธ์ของปัญญาประดิษฐ์ที่ไม่เป็นธรรมหรือบิดเบือน แต่ความลำเอียงของแบบจำลองเกิดจากการเลือกออกแบบอัลกอริทึมและสมมติฐานทางคณิตศาสตร์ที่นักพัฒนาได้กำหนดไว้ ในขณะที่ความลำเอียงของข้อมูลเกิดจากข้อมูลที่ผิดพลาด ไม่สมบูรณ์ หรือมีอคติในอดีตที่ใช้ในการฝึกฝนระบบ
ความผิดเพี้ยนที่เกิดจากโครงสร้างทางคณิตศาสตร์ ฟังก์ชันการปรับให้เหมาะสม หรือการตัดสินใจด้านการออกแบบสถาปัตยกรรมของอัลกอริธึมการเรียนรู้ของเครื่องเอง
ข้อมูลการฝึกอบรมที่บิดเบือนหรือไม่เป็นตัวแทนที่แท้จริง ซึ่งสะท้อนถึงอคติของมนุษย์ ความไม่เท่าเทียมกันเชิงระบบ หรือวิธีการสุ่มตัวอย่างในโลกแห่งความเป็นจริงที่บกพร่อง
| ฟีเจอร์ | อคติของแบบจำลอง | อคติของข้อมูล |
|---|---|---|
| แหล่งข้อมูลหลัก | สถาปัตยกรรมเชิงอัลกอริทึมและทางเลือกในการออกแบบ | การรวบรวมข้อมูลที่ไม่ถูกต้องหรือความไม่เท่าเทียมกันทางประวัติศาสตร์ |
| เงื่อนไขการเกิดขึ้น | สามารถเกิดขึ้นได้แม้กระทั่งกับข้อมูลการฝึกอบรมที่สมบูรณ์แบบ | เกิดขึ้นเนื่องจากข้อมูลที่เข้ามานั้นถูกบุกรุก |
| ตัวอย่างทั่วไป | การให้น้ำหนักพารามิเตอร์บางอย่างมากเกินไปในระหว่างการเขียนโค้ด | การฝึกอบรมเกี่ยวกับข้อมูลการจ้างงานในอดีตที่เอื้อประโยชน์ต่อผู้ชาย |
| จุดตรวจจับ | การพัฒนารูปแบบและการทดสอบก่อนการใช้งานจริง | ขั้นตอนการสำรวจและตรวจสอบข้อมูลเบื้องต้น |
| การแก้ไขเบื้องต้น | การปรับพารามิเตอร์ ข้อจำกัด หรือสถาปัตยกรรม | การสุ่มตัวอย่างใหม่ การทำความสะอาด หรือการเพิ่มจำนวนชุดข้อมูล |
| ผู้รับผิดชอบ | วิศวกรและนักพัฒนาด้านการเรียนรู้ของเครื่อง | ผู้รวบรวมข้อมูล ผู้ให้คำอธิบายประกอบ และผู้เชี่ยวชาญเฉพาะด้าน |
| การมุ่งเน้นตัวชี้วัด | การกระจายคะแนนการอนุมานในกลุ่มต่างๆ | ความไม่สมดุลของคลาสและป้ายกำกับในความจริงพื้นฐาน |
ความแตกต่างพื้นฐานอยู่ที่จุดเริ่มต้นของความคลาดเคลื่อนภายในวงจรการพัฒนา ความคลาดเคลื่อนของแบบจำลองเป็นปัญหาภายในที่เกิดจากการตัดสินใจทางวิศวกรรม เช่น การเลือกอัลกอริธึมทางคณิตศาสตร์เฉพาะ หรือการปรับน้ำหนักของคุณลักษณะ ในทางกลับกัน ความคลาดเคลื่อนของข้อมูลเป็นปัญหาภายนอกที่เข้ามาในระบบโดยการป้อนข้อมูลจากโลกแห่งความเป็นจริงที่ไม่สมบูรณ์ สุ่มตัวอย่างไม่ถูกต้อง หรือสะท้อนถึงความไม่เท่าเทียมกันทางสังคมในอดีต
ความท้าทายสองประการนี้แสดงออกมาแตกต่างกันเมื่อระบบ AI ถูกนำไปใช้งาน เมื่ออัลกอริทึมมีข้อบกพร่องเชิงโครงสร้าง มันจะเลือกเส้นทางการตัดสินใจบางอย่างอย่างสม่ำเสมอ โดยอาจละเลยรายละเอียดที่ซับซ้อนโดยไม่คำนึงถึงสิ่งที่ข้อมูลแสดง เมื่อปัญหาด้านข้อมูลเป็นสาเหตุ ระบบอาจคำนวณทางคณิตศาสตร์ได้อย่างไร้ที่ติ แต่ให้ผลลัพธ์ที่เลือกปฏิบัติเพราะมันถูกฝึกฝนโดยใช้ความเป็นจริงที่บิดเบือน
การเปิดเผยปัญหาเหล่านี้จำเป็นต้องใช้เทคนิคการตรวจสอบที่แตกต่างกันในแต่ละขั้นตอนของการพัฒนา ผู้ปฏิบัติงานจะตรวจพบปัญหาข้อมูลตั้งแต่เนิ่นๆ โดยการตรวจสอบทางสถิติเพื่อหาความไม่สมดุลของคลาส หรือตรวจสอบการแสดงสัดส่วนประชากรภายในชุดข้อมูลฝึกฝน ข้อบกพร่องเชิงโครงสร้างในอัลกอริทึมมักจะถูกระบุในภายหลังโดยการเปรียบเทียบคะแนนการอนุมานระหว่างกลุ่มต่างๆ เพื่อให้แน่ใจว่าการคำนวณนั้นปฏิบัติต่อประชากรอย่างเท่าเทียมกัน
การแก้ไขปัญหาเหล่านี้จำเป็นต้องใช้เครื่องมือที่แตกต่างไปจากเดิมอย่างสิ้นเชิงจากทีมพัฒนา การแก้ไขความไม่สมดุลในระดับข้อมูลจำเป็นต้องรวบรวมตัวอย่างที่หลากหลายมากขึ้น เขียนหลักเกณฑ์การติดป้ายกำกับใหม่ หรือใช้การสร้างข้อมูลสังเคราะห์เพื่อสร้างความสมดุลให้กับพื้นฐานการฝึกอบรม การเอาชนะความไม่สมดุลในระดับอัลกอริทึมจำเป็นต้องปรับเปลี่ยนฟังก์ชันการสูญเสีย เปลี่ยนสถาปัตยกรรมของโมเดล หรือใช้ข้อจำกัดทางคณิตศาสตร์ระหว่างการฝึกอบรม
ระบบ AI นั้นเป็นกลางอย่างสมบูรณ์ เพราะคอมพิวเตอร์ไม่มีความรู้สึกแบบมนุษย์
โดยธรรมชาติแล้ว อัลกอริทึมสะท้อนให้เห็นถึงการตัดสินใจทั้งโดยรู้ตัวและไม่รู้ตัวของผู้พัฒนา แม้จะปราศจากอารมณ์ สูตรทางคณิตศาสตร์ก็สามารถตั้งโปรแกรมให้จัดลำดับความสำคัญของตัวแปรเฉพาะบางอย่าง ซึ่งโดยเนื้อแท้แล้วจะทำให้กลุ่มคนบางกลุ่มเสียเปรียบ
การใช้ชุดข้อมูลที่มีความสมดุลอย่างสมบูรณ์แบบจะช่วยรับประกันได้ว่าแบบจำลองปัญญาประดิษฐ์นั้นปราศจากอคติ
ข้อมูลที่สะอาดนั้นเป็นเพียงครึ่งหนึ่งของความสำเร็จเท่านั้น วิศวกรยังคงสามารถสร้างความคลาดเคลื่อนอย่างเป็นระบบได้ผ่านการเลือกคุณลักษณะ เป้าหมายการปรับให้เหมาะสมทางคณิตศาสตร์ หรือการเลือกสถาปัตยกรรมที่เน้นทางลัดที่เรียบง่ายมากกว่าความเป็นจริงที่ซับซ้อน
การลบข้อมูลที่มีความละเอียดอ่อน เช่น เชื้อชาติหรือเพศ ออกจากข้อมูล จะช่วยขจัดปัญหาการเลือกปฏิบัติได้
ระบบสามารถระบุตัวแปรแทนที่มีความสัมพันธ์อย่างมากกับคุณลักษณะที่ได้รับการคุ้มครอง เช่น รหัสไปรษณีย์หรือประวัติการศึกษาได้อย่างง่ายดาย อัลกอริทึมสามารถสร้างรูปแบบทางประชากรที่ถูกละเว้นขึ้นมาใหม่และดำเนินการทำนายที่บิดเบือนต่อไปได้
คุณสามารถกำจัดอคติทุกรูปแบบออกจากระบบการเรียนรู้ของเครื่องได้อย่างสมบูรณ์
การกำจัดให้หมดสิ้นโดยสิ้นเชิงเป็นไปไม่ได้ทางคณิตศาสตร์ เพราะนิยามของความยุติธรรมที่แตกต่างกันมักขัดแย้งกัน การปรับปรุงระบบให้มีความเท่าเทียมกันอย่างสมบูรณ์ในตัวชี้วัดหนึ่ง มักจะทำให้ความยุติธรรมหรือความถูกต้องในตัวชี้วัดอื่นลดลง
เลือกที่จะมุ่งเน้นไปที่อคติของข้อมูลเมื่อเป้าหมายหลักของคุณคือการทำให้แน่ใจว่าข้อมูลที่สะอาด ครอบคลุม และสมดุลทางประวัติศาสตร์เข้าสู่กระบวนการเรียนรู้ของเครื่องนั้นถูกต้อง หันมาให้ความสนใจกับอคติของแบบจำลองเมื่อคุณต้องการตรวจสอบวิธีการที่ซอฟต์แวร์ของคุณประมวลผลข้อมูลนั้น เพื่อให้แน่ใจว่าสถาปัตยกรรมทางคณิตศาสตร์เองไม่ได้สร้างหรือขยายรูปแบบที่ไม่เป็นธรรม
AI slop หมายถึงเนื้อหา AI ที่ผลิตออกมาจำนวนมากโดยใช้ความพยายามน้อยและขาดการกำกับดูแล ในขณะที่งาน AI ที่มีมนุษย์ควบคุมนั้นเป็นการผสมผสานปัญญาประดิษฐ์เข้ากับการตัดต่อ การกำกับ และการตัดสินใจเชิงสร้างสรรค์อย่างรอบคอบ ความแตกต่างมักอยู่ที่คุณภาพ ความคิดริเริ่ม ประโยชน์ใช้สอย และว่ามีบุคคลจริงเข้ามามีส่วนร่วมในการกำหนดผลลัพธ์สุดท้ายหรือไม่
AI ที่มีมนุษย์เข้ามาเกี่ยวข้อง (Human-in-the-Loop AI) ผสานประสิทธิภาพของเครื่องจักรเข้ากับการตัดสินใจของมนุษย์ในจุดสำคัญ ในขณะที่ระบบ AI อัตโนมัติเต็มรูปแบบ (Fully Automated AI Systems) ทำงานอย่างอิสระตั้งแต่ต้นจนจบ แต่ละแนวทางมีข้อดีข้อเสียที่แตกต่างกันในด้านความแม่นยำ ความสามารถในการขยายขนาด ต้นทุน และความรับผิดชอบ ซึ่งเป็นตัวกำหนดว่าแนวทางใดเหมาะสมกับกรณีการใช้งานนั้นๆ
การเปรียบเทียบทางสถาปัตยกรรมนี้เน้นให้เห็นถึงความแตกต่างหลักระหว่างระบบ AI ที่รับรู้บริบท ซึ่งวิเคราะห์ข้อมูลสถานการณ์แบบไดนามิก เช่น ความตั้งใจของผู้ใช้ ประวัติ และสภาพแวดล้อม กับระบบที่ไม่รับรู้บริบท ซึ่งประมวลผลข้อมูลนำเข้าเป็นเหตุการณ์แยกต่างหากโดยอาศัยกฎที่กำหนดไว้ล่วงหน้าเท่านั้น
AI ที่เสริมด้วยการค้นหาจะดึงข้อมูลแบบเรียลไทม์จากแหล่งข้อมูลภายนอกในขณะที่ทำการค้นหา ในขณะที่การฝึกฝนโดยใช้ชุดข้อมูลเพียงอย่างเดียวจะอาศัยความรู้ที่ฝังอยู่ในน้ำหนักของโมเดลระหว่างการฝึกฝนเท่านั้น แต่ละแนวทางมีข้อดีข้อเสียที่แตกต่างกันในด้านความแม่นยำ ต้นทุน ความทันสมัย และความสามารถในการจัดการกับคำถามที่อยู่นอกขอบเขตการฝึกฝนดั้งเดิม
ระบบ AI แบบกระจายศูนย์จะกระจายสติปัญญา ข้อมูล และการคำนวณไปยังโหนดอิสระต่างๆ โดยมักให้ความสำคัญกับความเปิดกว้างและการควบคุมของผู้ใช้ ในขณะที่ระบบ AI ขององค์กรนั้นได้รับการจัดการจากส่วนกลางโดยบริษัทต่างๆ โดยมุ่งเน้นที่ประสิทธิภาพ ผลกำไร และการบูรณาการผลิตภัณฑ์ ทั้งสองแนวทางนี้มีส่วนกำหนดวิธีการสร้าง การกำกับดูแล และการเข้าถึง AI แต่มีความแตกต่างกันอย่างมากในด้านความโปร่งใส การเป็นเจ้าของ และการควบคุม
