อัลกอริทึมสามารถมีประสิทธิภาพแต่ส่งผลเสียต่อสังคมได้หรือไม่?
แน่นอน และนี่คือความท้าทายสำคัญใน AI ยุคใหม่ อัลกอริทึมที่ออกแบบมาเพื่อเพิ่มการมีส่วนร่วมอาจมีประสิทธิภาพอย่างเหลือเชื่อในการแสดงเนื้อหาที่ทำให้คุณเลื่อนดูต่อ แต่ถ้าเนื้อหานั้นเป็นการปลุกระดมหรือทำให้หดหู่ มันก็จะเป็นอันตรายต่อสังคม โค้ดทำงานได้ตามที่ตั้งใจไว้ แต่ความตั้งใจนั้นไม่ได้คำนึงถึงจิตวิทยาของมนุษย์
เหตุใดการวัดประสิทธิผลทางสังคมจึงเป็นเรื่องยาก?
ต่างจากเวลาตอบสนองของเซิร์ฟเวอร์ซึ่งเป็นตัวเลขที่แน่นอน ความเป็นอยู่ที่ดีของมนุษย์นั้นเป็นเรื่องส่วนตัว คุณไม่สามารถแค่เอาเซ็นเซอร์ไปติดในชุมชนแล้วดูว่าพวกเขารู้สึก "มีพลัง" จากแอปใหม่หรือไม่ มันต้องอาศัยการศึกษาในระยะยาว การสัมภาษณ์ และการวิเคราะห์แนวโน้มทางสังคมที่ซับซ้อน ซึ่งไม่สามารถทำได้ภายในรอบการพัฒนาซอฟต์แวร์รายสัปดาห์
ประสิทธิภาพทางเทคโนโลยีที่ดียิ่งขึ้นนั้นเป็นมิตรต่อสิ่งแวดล้อมหรือไม่?
โดยทั่วไปแล้ว ใช่ครับ โค้ดที่มีประสิทธิภาพต้องการพลังการประมวลผลน้อยลง ซึ่งหมายความว่าเซิร์ฟเวอร์จะใช้ไฟฟ้าลดลง อย่างไรก็ตาม หากประสิทธิภาพนั้นนำไปสู่การใช้งานที่เพิ่มขึ้นอย่างมหาศาล (ที่รู้จักกันในชื่อปรากฏการณ์เจวอนส์) ผลกระทบต่อสิ่งแวดล้อมโดยรวมอาจเพิ่มขึ้นได้ ประสิทธิผลจะพิจารณาจากปริมาณการปล่อยก๊าซคาร์บอนไดออกไซด์ทั้งหมดของการให้บริการนั้นๆ
การเข้าถึงได้ง่ายมีความเกี่ยวข้องอย่างไรกับการเปรียบเทียบนี้?
การเข้าถึงได้ง่ายเป็นตัวอย่างสำคัญของประสิทธิผลทางสังคม เว็บไซต์ที่มีประสิทธิภาพทางเทคนิคอาจโหลดเสร็จใน 0.5 วินาที แต่หากผู้ใช้โปรแกรมอ่านหน้าจอไม่สามารถใช้งานได้ เว็บไซต์นั้นก็ล้มเหลวในภารกิจทางสังคม การทำให้เว็บไซต์เข้าถึงได้ง่ายอาจทำให้ขนาดไฟล์หน้าเว็บเพิ่มขึ้นเล็กน้อย แต่จะทำให้ผลิตภัณฑ์มีประสิทธิภาพสำหรับประชากร 100% แทนที่จะเป็นเพียง 80%
การให้ความสำคัญกับเป้าหมายทางสังคมจะส่งผลเสียต่อการเติบโตของสตาร์ทอัพหรือไม่?
การสร้างสมดุลที่เหมาะสมนั้นเป็นเรื่องยาก การใช้เวลาสร้างแพลตฟอร์มที่ปลอดภัยและครอบคลุมอาจหมายความว่าคุณจะเติบโตช้ากว่าคู่แข่งที่มองข้ามประเด็นเหล่านั้น อย่างไรก็ตาม สตาร์ทอัพที่ละเลยประสิทธิภาพทางสังคมมักจะเจอกับ "อุปสรรคด้านชื่อเสียง" ที่ปัญหาทางกฎหมายหรือกระแสต่อต้านจากสาธารณชนจะหยุดการเติบโตของพวกเขาโดยสิ้นเชิง การค่อยเป็นค่อยไปอย่างมั่นคงมักจะนำมาซึ่งชัยชนะในระยะยาว
ในบริบทนี้ 'ลัทธิกำหนดโดยเทคโนโลยี' หมายถึงอะไร?
แนวคิดนี้คือ เทคโนโลยีจะเข้ามาเปลี่ยนแปลงสังคมอย่างหลีกเลี่ยงไม่ได้ ไม่ว่าเป้าหมายทางสังคมของเราจะเป็นอย่างไรก็ตาม คนที่มุ่งเน้นเฉพาะประสิทธิภาพของเทคโนโลยีมักตกอยู่ในกับดักนี้ โดยเชื่อว่าถ้าเราสร้างได้ เราก็ควรสร้างมัน แต่แนวคิดเรื่องประสิทธิผลทางสังคมแย้งว่า เรามีทางเลือก และควรชี้นำเทคโนโลยีให้สอดคล้องกับค่านิยมของเรา
ใครเป็นผู้รับผิดชอบด้านประสิทธิผลทางสังคมในบริษัทเทคโนโลยี?
ในอดีต หน้าที่นี้เป็นของ 'คณะกรรมการด้านจริยธรรม' แต่ปัจจุบันกลายเป็นความรับผิดชอบร่วมกัน นักออกแบบทำงานเกี่ยวกับ UI ที่ครอบคลุมทุกกลุ่ม นักพัฒนาทำงานเกี่ยวกับอัลกอริทึมที่ปราศจากอคติ และผู้จัดการผลิตภัณฑ์กำหนดตัวชี้วัดความสำเร็จที่รวมถึงสุขภาพทางสังคม เรื่องนี้ต้องถูกผนวกเข้ากับวัฒนธรรมองค์กรตั้งแต่เริ่มต้น
ประสิทธิภาพสูงสามารถนำไปสู่การกีดกันทางสังคมได้หรือไม่?
ใช่ ผ่านกระบวนการที่เรียกว่า 'การแบ่งเขตดิจิทัล' หากอัลกอริทึมได้รับการปรับให้เหมาะสมเพื่อค้นหาลูกค้าที่ 'ทำกำไรได้มากที่สุด' ด้วยประสิทธิภาพสูงสุด มันอาจจะกีดกันย่านที่อยู่อาศัยที่มีรายได้น้อยหรือกลุ่มประชากรบางกลุ่มโดยอัตโนมัติ ระบบนี้มีประสิทธิภาพทางเทคนิคในการค้นหากำไร แต่ในทางสังคมแล้วมันสร้างอุปสรรคในการเข้าถึงสำหรับผู้คนชายขอบ