ความเป็นธรรม อคติ และผลกระทบในโลกจริง

ปัญญาประดิษฐ์เรียนรู้จากข้อความและภาพของมนุษย์จำนวนมหาศาล และบันทึกของมนุษยชาติก็มีทั้งความไม่เป็นธรรม ภาพจำเหมารวม และจุดบอด ดังนั้นปัญญาประดิษฐ์จึงอาจซึมซับและทำซ้ำรูปแบบเหล่านั้น ไม่ใช่เพราะมีเจตนาร้าย แต่เพราะมันสะท้อนสิ่งที่ป้อนให้มัน การเข้าใจเรื่องนี้ช่วยให้คุณใช้ปัญญาประดิษฐ์อย่างเป็นธรรมยิ่งขึ้น และจับสังเกตได้เมื่อมันทำงานผิดพลาด

อคติปรากฏให้เห็นได้ในรูปธรรมหลายประการ เครื่องมือสร้างภาพที่ได้รับคำสั่งให้สร้าง "CEO สักคน" อาจแสดงคนเพศหรือเชื้อชาติใดเชื้อชาติหนึ่งเป็นส่วนใหญ่ เครื่องมือคัดกรองประวัติย่ออาจชื่นชอบชื่อบางกลุ่ม การแปลอาจสันนิษฐานว่าแพทย์เป็นผู้ชายและพยาบาลเป็นผู้หญิง สิ่งเหล่านี้ไม่ใช่เรื่องสมมติ ทุกกรณีเคยเกิดขึ้นในระบบจริง และส่งผลกระทบต่อผู้คนจริง

เมื่อปัญญาประดิษฐ์ที่มีอคติอยู่เบื้องหลังการตัดสินใจเรื่องการจ้างงาน การปล่อยกู้ การบังคับใช้กฎหมาย หรือการดูแลสุขภาพ ความเสียหายย่อมไม่ใช่เรื่องนามธรรม ผู้คนอาจถูกปฏิเสธงาน เงินกู้ หรือการปฏิบัติอย่างเป็นธรรมโดยระบบที่ดูเป็นกลางแต่แอบให้ความสำคัญกับบางกลุ่มมากกว่า ภาพลักษณ์ว่า "คอมพิวเตอร์บอกมาอย่างนั้น" ทำให้การตัดสินใจที่ไม่เป็นธรรมดูเหมือนเป็นกลางและมีหลักการ จนผู้คนโต้แย้งได้ยากขึ้น

ส่วนใหญ่เข้ามาผ่าน ข้อมูลฝึกสอน หากข้อมูลในอดีตสะท้อนการเลือกปฏิบัติในอดีต ปัญญาประดิษฐ์ก็จะเรียนรู้ที่จะทำซ้ำสิ่งนั้น อคติยังอาจเข้ามาจากผู้สร้างระบบและสิ่งที่พวกเขาทดสอบด้วย เครื่องจักรไม่ได้ตัดสินใจว่าจะไม่เป็นธรรม แต่กำลังคัดลอกรูปแบบในข้อมูลที่มีข้อบกพร่องอย่างซื่อสัตย์ ใส่ข้อมูลขยะ ก็ได้อคติขยะออกมา

คุณอาจไม่ได้สร้างระบบปัญญาประดิษฐ์ แต่คุณใช้ผลลัพธ์จากระบบเหล่านั้น หากคุณขอให้ปัญญาประดิษฐ์คัดกรองผู้สมัครงาน เขียนการประเมินผลการทำงาน หรือตัดสินผู้คน อคติของมันก็จะกลายเป็นการตัดสินใจของ คุณ ระมัดระวังอยู่เสมอว่า ผลลัพธ์นี้จะทำให้ใครเสียเปรียบอย่างไม่เป็นธรรมหรือไม่ เพิ่มการตรวจสอบโดยมนุษย์สำหรับทุกสิ่งที่ส่งผลต่อโอกาสหรือศักดิ์ศรีของผู้คน

คุณสามารถชี้นำปัญญาประดิษฐ์ให้สร้างผลลัพธ์ที่เป็นธรรมยิ่งขึ้นได้ ขอให้แสดงตัวอย่างที่หลากหลาย เช่น "แสดงผู้คนที่หลากหลาย" "รวมมุมมองจากวัฒนธรรมที่แตกต่างกัน" หรือ "หลีกเลี่ยงการเหมารวม" เมื่อสร้างผู้คนหรือบทบาทต่างๆ ขอความหลากหลายอย่างชัดเจน แทนที่จะยอมรับค่าเริ่มต้น ซึ่งมักเอนเอียงไปหารูปแบบของคนส่วนใหญ่ในข้อมูล

อ่านผลลัพธ์จากปัญญาประดิษฐ์โดยมองผ่านแว่นแห่งความเป็นธรรม มันสันนิษฐานว่าอาชีพหนึ่งมีเพศใดเพศหนึ่งหรือไม่ มันบรรยายกลุ่มคนด้วยถ้อยคำจำกัดและซ้ำซากหรือไม่ มันละเว้นมุมมองบางอย่างไปทั้งหมดหรือไม่ การระบุการเหมารวมออกมาช่วยให้คุณแก้ไขได้ เช่น "กรอบการนำเสนอนี้อาศัยการเหมารวม โปรดจัดทำใหม่ให้เป็นธรรม" คุณคือบรรณาธิการที่ปฏิเสธจะเผยแพร่อคตินั้น

ลองนึกภาพว่าคุณใช้ปัญญาประดิษฐ์จัดอันดับผู้สมัครงาน หากผู้ที่เคยได้รับการจ้างงานมีลักษณะเอนเอียงไปทางใดทางหนึ่ง ปัญญาประดิษฐ์อาจจัดอันดับประวัติที่คล้ายกันไว้สูงกว่าอย่างเงียบๆ และลดอันดับผู้อื่นลง แม้จะเป็นผู้สมัครที่มีคุณสมบัติดีก็ตาม การพึ่งพาปัญญาประดิษฐ์โดยไม่ตรวจสอบอาจไม่เป็นธรรม และในหลายพื้นที่อาจผิดกฎหมาย ปัญญาประดิษฐ์ช่วยคัดกรองได้ แต่มนุษย์ต้องเป็นผู้รับผิดชอบการตัดสินใจที่ส่งผลต่อความเป็นอยู่ของผู้คน

นักพัฒนากำลังทำงานอย่างจริงจังเพื่อลดอคติ และเครื่องมือต่างๆ ก็พัฒนาขึ้นเรื่อยๆ บทบาทของคุณคือการเฝ้าระวังอย่างมีเหตุผล ไม่ใช่การสิ้นหวัง ใช้ปัญญาประดิษฐ์เพื่อประโยชน์มหาศาลของมัน พร้อมจับตาดูผลลัพธ์ที่เกี่ยวข้องกับความเป็นธรรมอย่างมีวิจารณญาณ ผู้ใช้ที่ตระหนักรู้ช่วยให้ปัญญาประดิษฐ์ปลอดภัยขึ้น เพียงแค่ปฏิเสธที่จะยอมรับผลลัพธ์ที่มีอคติ

หากคุณสังเกตเห็นว่าเครื่องมือปัญญาประดิษฐ์สร้างผลลัพธ์ที่มีอคติหรือเป็นอันตรายอย่างชัดเจน ให้รายงานเรื่องนั้น เพราะแพลตฟอร์มส่วนใหญ่มีปุ่มส่งความคิดเห็น การแจ้งของคุณช่วยให้นักพัฒนาแก้ไขรูปแบบปัญหาที่ส่งผลกระทบต่อผู้คนจำนวนมาก การถือว่าความเป็นธรรมเป็นหน้าที่ของทุกคน ไม่ใช่แค่ของวิศวกร คือวิธีทำให้ระบบเหล่านี้ดีขึ้น

ปัญญาประดิษฐ์สะท้อนอคติของมนุษย์จากข้อมูลฝึกสอน และอคตินั้นก่อให้เกิดความเสียหายจริงเมื่ออยู่เบื้องหลังการตัดสินใจเกี่ยวกับผู้คน ระมัดระวังการใช้งานของคุณเอง ขอความหลากหลายในคำสั่ง จับสังเกตการเหมารวม ให้มนุษย์ควบคุมการตัดสินใจที่มีผลกระทบสูง และรายงานปัญหา คุณช่วยสร้างปัญญาประดิษฐ์ที่เป็นธรรมยิ่งขึ้นได้ เพียงแค่ปฏิเสธที่จะส่งต่ออคติของมัน

คุณวางแผนจะใช้เครื่องมือปัญญาประดิษฐ์เพื่อช่วยจัดอันดับผู้สมัครงานสำหรับตำแหน่งหนึ่ง

ปัญญาประดิษฐ์สะท้อนอคติของมนุษย์จากข้อมูลฝึกสอนที่มีข้อบกพร่อง และอคตินั้นก่อให้เกิดความเสียหายจริงเมื่อขับเคลื่อนการตัดสินใจเกี่ยวกับผู้คน ระมัดระวังการใช้งานของคุณ ขอความหลากหลาย จับสังเกตการเหมารวม ให้มนุษย์ควบคุมการตัดสินใจที่มีผลกระทบสูง และรายงานปัญหา การปฏิเสธที่จะส่งต่ออคติทำให้คุณมีส่วนช่วยสร้างปัญญาประดิษฐ์ที่เป็นธรรมยิ่งขึ้น