44 KiB
บทส่งท้าย: การดีบักแบบจำลองในการเรียนรู้ของเครื่องโดยใช้ส่วนประกอบแดชบอร์ด Responsible AI
แบบทดสอบก่อนบรรยาย
บทนำ
การเรียนรู้ของเครื่องมีผลกระทบต่อชีวิตประจำวันของเรา AI กำลังเข้าสู่ระบบสำคัญที่ส่งผลกระทบต่อเราในฐานะบุคคลและสังคมของเรา เช่น ด้านการดูแลสุขภาพ การเงิน การศึกษา และการจ้างงาน ตัวอย่างเช่น ระบบและแบบจำลองมีส่วนร่วมในงานการตัดสินใจประจำวัน เช่น การวินิจฉัยสุขภาพหรือการตรวจจับการทุจริต ดังนั้น ความก้าวหน้าใน AI พร้อมกับการนำไปใช้ที่เร่งขึ้นกำลังเผชิญกับความคาดหวังของสังคมที่พัฒนาไปและกฎระเบียบที่เพิ่มมากขึ้น เรามักเห็นพื้นที่ที่ระบบ AI ยังคงไม่ตรงตามความคาดหวัง เผยให้เห็นความท้าทายใหม่ และรัฐบาลเริ่มที่จะควบคุมโซลูชัน AI ดังนั้นจึงเป็นสิ่งสำคัญที่แบบจำลองเหล่านี้จะต้องได้รับการวิเคราะห์เพื่อให้ผลลัพธ์ที่ยุติธรรม เชื่อถือได้ มีความรวมเป็นหนึ่งเดียว โปร่งใส และสามารถรับผิดชอบได้สำหรับทุกคน
ในหลักสูตรนี้ เราจะดูเครื่องมือที่ใช้ได้จริงที่สามารถใช้ประเมินว่าแบบจำลองมีปัญหาเกี่ยวกับ Responsible AI หรือไม่ เทคนิคการดีบักแบบจำลองการเรียนรู้ของเครื่องแบบดั้งเดิมมักจะอาศัยการคำนวณเชิงปริมาณ เช่น ความถูกต้องรวม หรือค่าเฉลี่ยของการสูญเสียข้อผิดพลาด ลองนึกภาพว่าจะเกิดอะไรขึ้นเมื่อข้อมูลที่คุณใช้สร้างแบบจำลองเหล่านี้ขาดกลุ่มประชากรบางประเภท เช่น เชื้อชาติ เพศ มุมมองทางการเมือง ศาสนา หรือมีการเป็นตัวแทนอย่างไม่สมดุลของกลุ่มประชากรดังกล่าว แล้วถ้าผลลัพธ์ของแบบจำลองถูกตีความในทางที่สนับสนุนกลุ่มประชากรบางกลุ่มล่ะ? สิ่งนี้อาจก่อให้เกิดการเป็นตัวแทนเกินหรือขาดในกลุ่มลักษณะอ่อนไหวเหล่านี้ ส่งผลให้เกิดปัญหาเรื่องความยุติธรรม ความรวมเป็นหนึ่งเดียว หรือความน่าเชื่อถือจากแบบจำลอง อีกปัจจัยหนึ่งคือ แบบจำลองการเรียนรู้ของเครื่องถือเป็นกล่องดำ ซึ่งทำให้ยากที่จะเข้าใจและอธิบายว่าอะไรเป็นแรงขับเคลื่อนการพยากรณ์ของแบบจำลอง ทั้งหมดนี้เป็นความท้าทายที่นักวิทยาศาสตร์ข้อมูลและนักพัฒนา AI เผชิญเมื่อไม่มีเครื่องมือที่เหมาะสมในการดีบักและประเมินความยุติธรรมหรือความน่าเชื่อถือของแบบจำลอง
ในบทเรียนนี้ คุณจะได้เรียนรู้เกี่ยวกับการดีบักแบบจำลองของคุณโดยใช้:
- การวิเคราะห์ข้อผิดพลาด: ระบุว่าภายในการแจกแจงข้อมูลของคุณ ส่วนใดที่แบบจำลองมีอัตราข้อผิดพลาดสูง
- ภาพรวมแบบจำลอง: ทำการวิเคราะห์เปรียบเทียบในกลุ่มข้อมูลต่างๆ เพื่อค้นหาความแตกต่างในเมตริกประสิทธิภาพของแบบจำลองของคุณ
- การวิเคราะห์ข้อมูล: ตรวจสอบบริเวณที่มีการเป็นตัวแทนเกินหรือขาดในข้อมูลของคุณที่อาจทำให้แบบจำลองมีความโน้มเอียงไปสนับสนุนกลุ่มประชากรรายใดรายหนึ่ง
- ความสำคัญของฟีเจอร์: เข้าใจว่าฟีเจอร์ใดผลักดันการทำนายของแบบจำลองในระดับทั่วโลกหรือละเอียดท้องถิ่น
ความรู้พื้นฐานที่ต้องมี
เป็นความรู้พื้นฐาน กรุณารีวิว เครื่องมือ Responsible AI สำหรับนักพัฒนา
การวิเคราะห์ข้อผิดพลาด
เมตริกประสิทธิภาพแบบจำลองแบบดั้งเดิมที่ใช้ในการวัดความถูกต้องมักเป็นการคำนวณตามการทำนายถูกหรือผิดเป็นหลัก ยกตัวอย่างเช่น การกำหนดว่าแบบจำลองมีความแม่นยำ 89% พร้อมกับการสูญเสียข้อผิดพลาด 0.001 ถือว่าเป็นผลการทำงานที่ดี ข้อผิดพลาดมักไม่กระจายอย่างเท่าเทียมกันในชุดข้อมูลพื้นฐานของคุณ คุณอาจได้คะแนนความแม่นยำของแบบจำลอง 89% แต่พบว่ามีบางพื้นที่ข้อมูลที่แบบจำลองทำงานผิดพลาด 42% ของเวลา ผลลัพธ์จากรูปแบบความล้มเหลวในกลุ่มข้อมูลบางกลุ่มอาจนำไปสู่ปัญหาความยุติธรรมหรือความน่าเชื่อถือ จึงเป็นสิ่งสำคัญที่จะเข้าใจพื้นที่ที่แบบจำลองทำงานได้ดีหรือล้มเหลว พื้นที่ข้อมูลที่มีจำนวนข้อผิดพลาดสูงในแบบจำลองของคุณอาจกลายเป็นกลุ่มประชากรข้อมูลที่สำคัญ
ส่วนประกอบการวิเคราะห์ข้อผิดพลาดบนแดชบอร์ด RAI แสดงให้เห็นว่าความล้มเหลวของแบบจำลองกระจายอยู่ในกลุ่มย่อยอย่างไรผ่านการแสดงผลแบบต้นไม้ (tree visualization) ซึ่งมีประโยชน์ในการระบุฟีเจอร์หรือพื้นที่ที่มีอัตราข้อผิดพลาดสูงในชุดข้อมูลของคุณ ด้วยการเห็นว่าเกิดข้อผิดพลาดส่วนใหญ่ของแบบจำลองมาจากที่ใด คุณสามารถเริ่มต้นตรวจสอบหาสาเหตุรากฐานได้ นอกจากนี้ยังสามารถสร้างกลุ่มย่อยข้อมูลเพื่อทำการวิเคราะห์ด้วย กลุ่มย่อยข้อมูลเหล่านี้ช่วยในกระบวนการดีบัก เพื่อค้นหาว่าทำไมแบบจำลองถึงทำงานได้ดีในกลุ่มหนึ่ง แต่ล้มเหลวในอีกกลุ่มหนึ่ง
ตัวชี้วัดเชิงภาพบนแผนที่ต้นไม้ช่วยให้หาแหล่งปัญหาได้รวดเร็วขึ้น ตัวอย่างเช่น โหนดบนต้นไม้ที่มีเฉดสีแดงเข้มกว่าจะมีอัตราข้อผิดพลาดสูงขึ้น
แผนที่ความร้อนเป็นฟังก์ชันการแสดงผลอีกอย่างหนึ่งที่ผู้ใช้สามารถใช้ตรวจสอบอัตราข้อผิดพลาดโดยใช้หนึ่งหรือสองฟีเจอร์เพื่อค้นหาสาเหตุที่ทำให้เกิดข้อผิดพลาดของแบบจำลองทั่วชุดข้อมูลหรือกลุ่มย่อย
ใช้การวิเคราะห์ข้อผิดพลาดเมื่อคุณต้องการ:
- เข้าใจอย่างลึกซึ้งว่าความล้มเหลวของแบบจำลองกระจายตัวในชุดข้อมูลและมิติต่างๆ ของฟีเจอร์อย่างไร
- แยกเมตริกการทำงานรวมเพื่อค้นหากลุ่มข้อมูลที่ผิดพลาดโดยอัตโนมัติเพื่อวางแผนมาตรการแก้ไขเป้าหมาย
ภาพรวมแบบจำลอง
การประเมินประสิทธิภาพของแบบจำลองการเรียนรู้ของเครื่องต้องการความเข้าใจแบบองค์รวมเกี่ยวกับพฤติกรรมของมัน ซึ่งทำได้โดยการทบทวนมากกว่าหนึ่งเมตริก เช่น อัตราข้อผิดพลาด ความถูกต้อง Recall Precision หรือ MAE (ค่าเฉลี่ยของความผิดพลาดสัมบูรณ์) เพื่อค้นหาความแตกต่างในเมตริกประสิทธิภาพ เมตริกบางตัวอาจดูดี แต่ความผิดพลาดอาจถูกเปิดเผยในเมตริกอื่น นอกจากนี้ การเปรียบเทียบเมตริกที่แตกต่างกันในชุดข้อมูลทั้งหมดหรือกลุ่มย่อยช่วยส่องให้เห็นว่ารูปแบบทำงานได้ดีหรือล้มเหลวตรงจุดใด สิ่งนี้สำคัญอย่างยิ่งในการดูประสิทธิภาพของแบบจำลองในฟีเจอร์ที่ละเอียดอ่อน (เช่น เชื้อชาติ เพศ หรืออายุของผู้ป่วย) เพื่อเปิดเผยความไม่ยุติธรรมที่อาจเกิดขึ้น ตัวอย่างเช่น การพบว่าแบบจำลองผิดพลาดมากในกลุ่มข้อมูลที่มีฟีเจอร์ละเอียดอ่อนสามารถเปิดเผยความไม่ยุติธรรมที่แบบจำลองอาจมีได้
ส่วนประกอบภาพรวมแบบจำลองบนแดชบอร์ด RAI ช่วยไม่เพียงแต่ในการวิเคราะห์เมตริกประสิทธิภาพของข้อมูลในกลุ่มย่อยเท่านั้น แต่ยังให้ผู้ใช้เปรียบเทียบพฤติกรรมของแบบจำลองในกลุ่มย่อยที่แตกต่างกันได้ด้วย
ฟังก์ชันวิเคราะห์แบบฟีเจอร์ของส่วนประกอบนี้ช่วยให้ผู้ใช้สามารถเจาะลึกกลุ่มข้อมูลย่อยในฟีเจอร์เฉพาะเพื่อระบุความผิดปกติในระดับรายละเอียด ตัวอย่างเช่น แดชบอร์ดมีระบบอัจฉริยะในตัวที่สร้างกลุ่มย่อยโดยอัตโนมัติสำหรับฟีเจอร์ที่ผู้ใช้เลือก (เช่น "time_in_hospital < 3" หรือ "time_in_hospital >= 7") นี้ช่วยให้ผู้ใช้แยกฟีเจอร์เฉพาะออกจากกลุ่มข้อมูลใหญ่เพื่อดูว่าฟีเจอร์นี้มีอิทธิพลสำคัญต่อผลลัพธ์ผิดพลาดของแบบจำลองหรือไม่
ส่วนประกอบภาพรวมแบบจำลองรองรับเมตริกความแตกต่างสองประเภท:
ความแตกต่างในประสิทธิภาพของแบบจำลอง: ชุดเมตริกเหล่านี้คำนวณความแตกต่าง (difference) ในค่าของเมตริกประสิทธิภาพที่เลือกในกลุ่มย่อยของข้อมูล ตัวอย่างบางส่วนมีดังนี้:
- ความแตกต่างในอัตราความถูกต้อง
- ความแตกต่างในอัตราข้อผิดพลาด
- ความแตกต่างใน Precision
- ความแตกต่างใน Recall
- ความแตกต่างในค่าเฉลี่ยความผิดพลาดสัมบูรณ์ (MAE)
ความแตกต่างในอัตราการเลือก: เมตริกนี้คือความแตกต่างในอัตราการเลือก (การทำนายที่เป็นผลลัพธ์ในเชิงบวก) ในกลุ่มย่อย ตัวอย่างเช่น ความแตกต่างในอัตราการอนุมัติสินเชื่อ อัตราการเลือกคือสัดส่วนของจุดข้อมูลในแต่ละคลาสที่จัดประเภทเป็น 1 (ในกรณีการจำแนกแบบไบนารี) หรือการแจกแจงของค่าการทำนายในกรณีการถดถอย
การวิเคราะห์ข้อมูล
"ถ้าคุณทรมานข้อมูลนานพอ ข้อมูลยอมรับสารภาพได้ทุกอย่าง" - Ronald Coase
ประโยคนี้ฟังดูรุนแรง แต่ก็เป็นเรื่องจริงที่ข้อมูลสามารถถูกจัดการเพื่อสนับสนุนข้อสรุปใดก็ได้ การจัดการเช่นนี้บางครั้งเกิดขึ้นโดยไม่ตั้งใจ ในฐานะมนุษย์ เราทุกคนมีอคติ และมักเป็นเรื่องยากที่จะรู้ตัวว่าเมื่อใดที่คุณกำลังนำอคติเข้าสู่ข้อมูล การรับประกันความยุติธรรมใน AI และการเรียนรู้ของเครื่องยังคงเป็นความท้าทายที่ซับซ้อน
ข้อมูลเป็นจุดบอดที่ใหญ่มากสำหรับเมตริกประสิทธิภาพแบบจำลองแบบดั้งเดิม คุณอาจได้คะแนนความแม่นยำสูง แต่ไม่แน่ว่าจะสะท้อนอคติที่มีอยู่ในชุดข้อมูลของคุณหรือไม่ ตัวอย่างเช่น ถ้าชุดข้อมูลของพนักงานประกอบด้วยผู้หญิง 27% ในตำแหน่งบริหารของบริษัท และผู้ชาย 73% ในตำแหน่งเดียวกัน แบบจำลอง AI ที่ฝึกจากข้อมูลนี้อาจมุ่งเป้าไปที่กลุ่มชายเป็นส่วนใหญ่สำหรับตำแหน่งงานระดับสูง การมีความไม่สมดุลนี้ในข้อมูลทำให้แบบจำลองมีแนวโน้มทำนายที่สนับสนุนเพศหนึ่งมากกว่าอีกเพศหนึ่ง เปิดเผยปัญหาความยุติธรรมที่มีอคติเกี่ยวกับเพศในแบบจำลอง AI
ส่วนประกอบการวิเคราะห์ข้อมูลบนแดชบอร์ด RAI ช่วยระบุพื้นที่ที่มีการเป็นตัวแทนเกินหรือต่ำกว่าที่ควรในชุดข้อมูล ช่วยให้ผู้ใช้วินิจฉัยสาเหตุหลักของข้อผิดพลาดและปัญหาความยุติธรรมที่เกิดจากความไม่สมดุลของข้อมูลหรือการขาดตัวแทนในกลุ่มข้อมูลหนึ่งๆ ซึ่งช่วยให้ผู้ใช้สามารถแสดงภาพชุดข้อมูลตามผลลัพธ์ที่คาดการณ์และจริง กลุ่มข้อผิดพลาด และฟีเจอร์เฉพาะบางอย่าง บางครั้งการค้นพบกลุ่มข้อมูลที่เป็นตัวแทนน้อยเกินไปยังช่วยเปิดเผยว่าแบบจำลองไม่ได้เรียนรู้ดีนัก จึงมีข้อผิดพลาดสูง การที่แบบจำลองมีอคติข้อมูลไม่ใช่แค่ปัญหาความยุติธรรมเท่านั้น แต่แสดงว่าแบบจำลองไม่ครอบคลุมและไม่น่าเชื่อถือ
ใช้การวิเคราะห์ข้อมูลเมื่อคุณต้องการ:
- สำรวจสถิติชุดข้อมูลของคุณโดยการเลือกตัวกรองต่างๆ เพื่อแยกข้อมูลออกเป็นมิติต่างๆ (ซึ่งเรียกว่ากลุ่มย่อย)
- เข้าใจการแจกแจงของชุดข้อมูลในกลุ่มย่อยและกลุ่มฟีเจอร์ต่างๆ
- ตัดสินใจว่าข้อค้นพบเกี่ยวกับความยุติธรรม การวิเคราะห์ข้อผิดพลาด และความสัมพันธ์เชิงสาเหตุ (ที่ได้จากส่วนประกอบแดชบอร์ดอื่น ๆ) เกิดจากการแจกแจงของชุดข้อมูลหรือไม่
- ตัดสินใจว่าจะเก็บข้อมูลเพิ่มเติมในส่วนใดเพื่อแก้ไขข้อผิดพลาดที่เกิดจากปัญหาการเป็นตัวแทน เสียงรบกวนฉลาก ข้อมูลฟีเจอร์ เสียงรบกวนฉลากอคติ และปัจจัยคล้ายกัน
ความสามารถในการตีความแบบจำลอง
แบบจำลองการเรียนรู้ของเครื่องมักเป็นกล่องดำ การเข้าใจว่าฟีเจอร์ข้อมูลสำคัญใดเป็นตัวขับเคลื่อนการทำนายของแบบจำลองนั้นเป็นเรื่องท้าทาย จึงสำคัญที่ต้องมีความโปร่งใสว่าทำไมแบบจำลองจึงทำการทำนายเช่นนั้น ตัวอย่างเช่น หากระบบ AI ทำนายว่าผู้ป่วยเบาหวานมีความเสี่ยงที่จะถูกนำกลับเข้าโรงพยาบาลภายในเวลาไม่ถึง 30 วัน ควรสามารถให้ข้อมูลสนับสนุนที่นำไปสู่การทำนายนี้ได้ การมีตัวบ่งชี้ข้อมูลสนับสนุนช่วยสร้างความโปร่งใส เพื่อช่วยให้แพทย์หรือโรงพยาบาลสามารถตัดสินใจได้อย่างมีข้อมูล นอกจากนี้ การสามารถอธิบายว่าทำไมแบบจำลองจึงทำการทำนายสำหรับผู้ป่วยแต่ละรายช่วยให้สามารถรับผิดชอบตามข้อกำหนดด้านสุขภาพ เมื่อใช้แบบจำลองการเรียนรู้ของเครื่องในวิธีที่ส่งผลกระทบต่อชีวิตคน จึงเป็นเรื่องสำคัญที่จะต้องเข้าใจและอธิบายว่าสิ่งใดมีอิทธิพลต่อพฤติกรรมของแบบจำลอง ความสามารถในการอธิบายและตีความแบบจำลองช่วยตอบคำถามในสถานการณ์ต่างๆ เช่น:
- การดีบักแบบจำลอง: ทำไมแบบจำลองของฉันถึงทำผิดพลาดนี้? ฉันจะแก้ไขแบบจำลองอย่างไร?
- การทำงานร่วมกันระหว่างมนุษย์และ AI: ฉันจะเข้าใจและเชื่อใจการตัดสินใจของแบบจำลองได้อย่างไร?
- การปฏิบัติตามข้อกำหนด: แบบจำลองของฉันเป็นไปตามข้อกฎหมายหรือไม่?
ส่วนประกอบความสำคัญของฟีเจอร์บนแดชบอร์ด RAI ช่วยให้คุณดีบักและเข้าใจอย่างครอบคลุมว่าแบบจำลองทำการทำนายอย่างไร นอกจากนี้ยังเป็นเครื่องมือที่มีประโยชน์สำหรับผู้เชี่ยวชาญด้านการเรียนรู้ของเครื่องและผู้ตัดสินใจเพื่ออธิบายและแสดงหลักฐานของฟีเจอร์ที่มีอิทธิพลต่อพฤติกรรมของแบบจำลองเพื่อการปฏิบัติตามข้อกำหนด ผู้ใช้สามารถสำรวจคำอธิบายแบบทั่วโลกและแบบท้องถิ่นเพื่อยืนยันว่าฟีเจอร์ใดผลักดันการทำนายของแบบจำลอง คำอธิบายแบบทั่วโลกจะแสดงฟีเจอร์สำคัญอันดับต้นๆ ที่มีผลต่อการทำนายโดยรวมของแบบจำลอง ในขณะที่คำอธิบายแบบท้องถิ่นจะแสดงฟีเจอร์ที่นำไปสู่การทำนายของแบบจำลองสำหรับกรณีเฉพาะ ความสามารถนี้ช่วยในการดีบักหรือตรวจสอบกรณีเฉพาะเพื่อเข้าใจและตีความว่าทำไมแบบจำลองถึงทำการทำนายถูกหรือผิดแม่นยำ
- คำอธิบายแบบทั่วโลก: ตัวอย่างเช่น ฟีเจอร์ใดมีผลต่อพฤติกรรมโดยรวมของแบบจำลองการนำผู้ป่วยเบาหวานกลับเข้าโรงพยาบาล?
- คำอธิบายแบบท้องถิ่น: ตัวอย่างเช่น ทำไมผู้ป่วยเบาหวานที่มีอายุมากกว่า 60 ปีที่เคยเข้ารักษาตัวมาก่อน จึงถูกทำนายว่าจะถูกนำกลับเข้าโรงพยาบาลหรืแไม่ภายใน 30 วัน?
ในกระบวนการดีบักการพิจารณาผลการทำงานของแบบจำลองในกลุ่มย่อยต่างๆ Feature Importance แสดงระดับผลกระทบของฟีเจอร์ในกลุ่มย่อยนั้น ช่วยเปิดเผยความผิดปกติเมื่อเปรียบเทียบระดับอิทธิพลของฟีเจอร์ที่ผลักดันข้อผิดพลาดของแบบจำลอง ส่วนประกอบนี้แสดงให้เห็นว่า ค่าฟีเจอร์ใดบ้างที่มีอิทธิพลทั้งในแง่บวกและลบต่อผลลัพธ์ของแบบจำลอง ตัวอย่างเช่น หากแบบจำลองทำการทำนายผิดพลาด ส่วนประกอบนี้ให้คุณเจาะลึกและระบุว่าฟีเจอร์ใดหรือค่าฟีเจอร์ใดเป็นสาเหตุของการทำนายนั้น รายละเอียดในระดับนี้ไม่เพียงแต่ช่วยในการดีบัก แต่ยังสร้างความโปร่งใสและความรับผิดชอบในสถานการณ์การตรวจสอบด้วย สุดท้าย ส่วนประกอบนี้ยังช่วยให้คุณระบุปัญหาความยุติธรรม เช่น หากฟีเจอร์ละเอียดอ่อนอย่างเชื้อชาติหรือเพศมีอิทธิพลสูงในการผลักดันการทำนายของแบบจำลอง อาจเป็นสัญญาณว่ามีอคติเรื่องเชื้อชาติหรือเพศในแบบจำลอง
ใช้ความสามารถในการตีความเมื่อคุณต้องการ:
- กำหนดความน่าเชื่อถือของการทำนายของระบบ AI ของคุณโดยเข้าใจว่าฟีเจอร์ใดสำคัญที่สุดสำหรับการทำนาย
- เข้าหาการดีบักแบบจำลองของคุณโดยเข้าใจก่อนและระบุว่าแบบจำลองใช้งานฟีเจอร์ที่มีคุณภาพดีหรือเพียงแค่ความสัมพันธ์เท็จ
- ค้นหาแหล่งที่มาอาจเป็นอคติด้วยการทำความเข้าใจว่าแบบจำลองอิงฟีเจอร์ละเอียดอ่อนหรือฟีเจอร์ที่สัมพันธ์สูงกับฟีเจอร์เหล่านั้นหรือไม่
- สร้างความเชื่อมั่นให้กับผู้ใช้ในตัดสินใจของแบบจำลองโดยการสร้างคำอธิบายท้องถิ่นเพื่อแสดงผลลัพธ์
- ทำการตรวจสอบตามระเบียบของระบบ AI เพื่อตรวจสอบแบบจำลองและติดตามผลกระทบของการตัดสินใจของแบบจำลองต่อผู้คน
สรุป
ส่วนประกอบแดชบอร์ด RAI ทั้งหมดเป็นเครื่องมือใช้งานจริงที่ช่วยให้คุณสร้างแบบจำลองการเรียนรู้ของเครื่องที่ส่งผลร้ายน้อยลงและน่าเชื่อถือมากขึ้นต่อสังคม มันช่วยป้องกันภัยคุกคามต่อสิทธิมนุษยชน การเลือกปฏิบัติหรือการกีดกันกลุ่มใดกลุ่มหนึ่งจากโอกาสในชีวิต และความเสี่ยงจากการบาดเจ็บทางกายหรือจิตใจ นอกจากนี้ยังช่วยสร้างความไว้วางใจในตัดสินใจของแบบจำลองโดยการสร้างคำอธิบายท้องถิ่นเพื่อแสดงผลลัพธ์ ความเสียหายบางส่วนสามารถแบ่งประเภทดังนี้:
-
การจัดสรรทรัพยากร เช่น หากเพศหรือเชื้อชาติหนึ่งถูกเลือกให้ได้เปรียบมากกว่ากลุ่มอื่น
-
คุณภาพของบริการ หากฝึกฝนข้อมูลสำหรับสถานการณ์เฉพาะ แต่ความเป็นจริงซับซ้อนกว่านั้น นำไปสู่การให้บริการที่มีประสิทธิภาพต่ำ
-
การเหมารวมกลุ่ม การเชื่อมโยงกลุ่มใดกลุ่มหนึ่งกับลักษณะที่ถูกกำหนดไว้ล่วงหน้า
-
การดูถูก เพื่อวิจารณ์และติดป้ายอย่างไม่เป็นธรรมแก่บางสิ่งหรือบางคน
-
การแสดงผลเกินหรือขาดการแสดงผล ความคิดคือว่ากลุ่มคนบางกลุ่มไม่ถูกเห็นในอาชีพใดอาชีพหนึ่ง และบริการหรือฟังก์ชันใด ๆ ที่ยังคงสนับสนุนสิ่งนั้นย่อมเป็นการสร้างความเสียหาย
แดชบอร์ด Azure RAI
แดชบอร์ด Azure RAI สร้างขึ้นบนเครื่องมือโอเพ่นซอร์สที่พัฒนาโดยสถาบันวิชาการชั้นนำและองค์กรต่าง ๆ ร่วมกับ Microsoft ซึ่งเป็นประโยชน์ต่อผู้เชี่ยวชาญด้านข้อมูลและนักพัฒนาปัญญาประดิษฐ์ในการทำความเข้าใจพฤติกรรมของโมเดล ค้นหาและลดปัญหาที่ไม่พึงประสงค์จากโมเดล AI
-
เรียนรู้วิธีใช้ส่วนประกอบต่าง ๆ ได้โดยการตรวจสอบเอกสารแดชบอร์ด RAI docs.
-
ตรวจสอบสมุดบันทึกตัวอย่างของแดชบอร์ด RAI sample notebooks สำหรับการดีบักสถานการณ์ AI ที่รับผิดชอบมากขึ้นใน Azure Machine Learning
🚀 ความท้าทาย
เพื่อป้องกันไม่ให้มีอคติทางสถิติหรือข้อมูลเกิดขึ้นตั้งแต่แรก เราควร:
- มีความหลากหลายในพื้นฐานและมุมมองของคนที่ทำงานกับระบบ
- ลงทุนในชุดข้อมูลที่สะท้อนความหลากหลายของสังคมของเรา
- พัฒนาวิธีการที่ดีกว่าในการตรวจจับและแก้ไขอคติเมื่อเกิดขึ้น
คิดถึงสถานการณ์ในชีวิตจริงที่ความไม่เป็นธรรมชัดเจนในการสร้างและใช้งานโมเดล เราควรพิจารณาอะไรเพิ่มเติมอีก?
แบบทดสอบหลังบรรยาย
ทบทวน & ศึกษาด้วยตนเอง
ในบทเรียนนี้ คุณได้เรียนรู้เครื่องมือที่ใช้ได้จริงบางส่วนในการบูรณาการ AI ที่รับผิดชอบในงานเรียนรู้ของเครื่อง
ชมเวิร์กช็อปนี้เพื่อเจาะลึกหัวข้อเพิ่มเติม:
- แดชบอร์ด Responsible AI: ศูนย์รวมสำหรับการปฏิบัติใช้งาน RAI โดย Besmira Nushi และ Mehrnoosh Sameki
🎥 คลิกภาพด้านบนเพื่อดูวิดีโอ: แดชบอร์ด Responsible AI: ศูนย์รวมสำหรับการปฏิบัติใช้งาน RAI โดย Besmira Nushi และ Mehrnoosh Sameki
อ้างอิงเอกสารต่อไปนี้เพื่อเรียนรู้เพิ่มเติมเกี่ยวกับ AI ที่รับผิดชอบและวิธีการสร้างโมเดลที่น่าเชื่อถือมากขึ้น:
-
เครื่องมือแดชบอร์ด RAI ของ Microsoft สำหรับดีบักโมเดล ML: แหล่งข้อมูลเครื่องมือ Responsible AI
-
สำรวจชุดเครื่องมือ Responsible AI: Github
-
ศูนย์ทรัพยากร RAI ของ Microsoft: ทรัพยากร Responsible AI – Microsoft AI
-
กลุ่มวิจัย FATE ของ Microsoft: FATE: ความเป็นธรรม ความรับผิดชอบ ความโปร่งใส และจริยธรรมใน AI - Microsoft Research
งานที่ได้รับมอบหมาย
ปฏิเสธความรับผิดชอบ: เอกสารนี้ได้รับการแปลโดยใช้บริการแปลภาษา AI Co-op Translator ขณะที่เราพยายามให้ความถูกต้อง โปรดทราบว่าการแปลโดยอัตโนมัติอาจมีข้อผิดพลาดหรือความไม่ถูกต้อง เอกสารต้นฉบับในภาษาต้นทางควรถูกพิจารณาเป็นแหล่งข้อมูลที่เชื่อถือได้ สำหรับข้อมูลที่สำคัญ แนะนำให้ใช้การแปลโดยมนุษย์มืออาชีพ เราไม่รับผิดชอบต่อความเข้าใจผิดหรือการตีความที่ผิดพลาดที่เกิดขึ้นจากการใช้การแปลนี้