ความยุติธรรมควรจะเป็น “คนตาบอด ” แต่การตาบอดทางเชื้อชาติเป็นวิธีที่ดีที่สุดในการบรรลุความเท่าเทียมกันทางเชื้อชาติหรือไม่? อัลกอริทึมในการทำนายการกระทำผิดซ้ำในหมู่ประชากรในเรือนจำกำลังเน้นย้ำการอภิปรายนั้น
เครื่องมือประเมินความเสี่ยงเป็นส่วนสำคัญของพระราชบัญญัติขั้นแรกซึ่งรัฐสภาผ่านในปี 2018 ด้วยการสนับสนุนของทั้งสองฝ่ายที่มีนัยสำคัญ และมีวัตถุประสงค์เพื่อลดระยะเวลาโทษอาญาและปรับปรุงเงื่อนไขในเรือนจำ ท่ามกลางการเปลี่ยนแปลงอื่นๆ จะตอบแทนผู้ต้องขังของรัฐบาลกลางด้วยการปล่อยตัวก่อนกำหนด หากพวกเขาเข้าร่วมในโปรแกรมที่ออกแบบมาเพื่อลดความเสี่ยงที่จะถูกกระทำความผิดซ้ำ ผู้สมัครที่มีสิทธิ์ได้รับการปล่อยตัวก่อนกำหนดจะถูกระบุโดยใช้เครื่องมือประเมินผู้ต้องขังที่กำหนดเป้าหมายความเสี่ยงและความต้องการโดยประมาณ ซึ่งเรียกว่า PATTERN ซึ่งประเมินความเสี่ยงของนักโทษที่จะก่ออาชญากรรมเมื่อได้รับการปล่อยตัว
ผู้เสนอได้เฉลิมฉลองพระราชบัญญัติขั้นตอนแรกในฐานะขั้นตอนสู่การปฏิรูปกระบวนการยุติธรรมทางอาญาซึ่งเป็นแนวทางที่ชัดเจนในการลดจำนวนนักโทษในเรือนจำของผู้กระทำความผิดที่ไม่รุนแรงที่มีความเสี่ยงต่ำในขณะที่รักษาความปลอดภัยสาธารณะ
แต่การทบทวนระบบ PATTERN ที่เผยแพร่โดยกระทรวงยุติธรรมในเดือนธันวาคม พ.ศ. 2564 พบว่า PATTERN ทำนายการกระทำผิดซ้ำในหมู่ผู้ต้องขังส่วนน้อยระหว่าง 2% ถึง 8% เมื่อเทียบกับผู้ต้องขังผิวขาว นักวิจารณ์กลัวว่า PATTERN กำลังเสริมอคติทางเชื้อชาติที่รบกวนระบบเรือนจำของสหรัฐฯ มาเป็นเวลานาน
ในฐานะนักจริยธรรม ที่ศึกษาการใช้อัลกอริธึมในระบบยุติธรรมทางอาญาเราใช้เวลามากมายในการคิดถึงวิธีหลีกเลี่ยงการเลียนแบบอคติทางเชื้อชาติด้วยเทคโนโลยีใหม่ เราพยายามที่จะทำความเข้าใจว่าระบบเช่น PATTERN สามารถทำให้มีความเท่าเทียมทางเชื้อชาติได้หรือไม่ ในขณะที่ยังคงให้บริการฟังก์ชันตามที่ได้รับการออกแบบเพื่อลดจำนวนประชากรในเรือนจำในขณะเดียวกันก็รักษาความปลอดภัยสาธารณะ
การทำให้ PATTERN มีความแม่นยำเท่ากันสำหรับผู้ต้องขังทุกคนอาจต้องใช้อัลกอริธึมเพื่อพิจารณาการแข่งขันของเพื่อนร่วมห้องขัง ซึ่งอาจดูเหมือนขัดกับสัญชาตญาณ กล่าวอีกนัยหนึ่ง การบรรลุผลลัพธ์ที่เป็นธรรมในกลุ่มเชื้อชาติอาจต้องเน้นเรื่องเชื้อชาติมากขึ้น ไม่น้อย: ความขัดแย้งที่ดูเหมือนเกิดขึ้นในการอภิปรายหลายครั้งเกี่ยวกับความเป็นธรรมและความยุติธรรมทางเชื้อชาติ
PATTERN ทำงานอย่างไร
อัลก อริธึม PATTERNจะให้คะแนนบุคคลตามช่วงของตัวแปรที่แสดงเพื่อทำนายการกระทำผิดซ้ำ ปัจจัยเหล่านี้รวมถึงประวัติอาชญากรรมระดับการศึกษา เหตุการณ์ทางวินัยขณะถูกคุมขัง และว่าพวกเขาได้เสร็จสิ้นโครงการใด ๆที่มุ่งลดการกระทำผิดซ้ำหรือไม่ เป็นต้น อัลกอริธึมทำนายการกระทำผิดทั้งแบบทั่วไปและแบบรุนแรง และไม่ได้คำนึงถึงเชื้อชาติของนักโทษด้วยเมื่อสร้างคะแนนความเสี่ยง
จากคะแนนนี้ บุคคลจะถือว่ามีความเสี่ยงสูง ปานกลาง หรือต่ำ เฉพาะผู้ที่อยู่ในหมวดหมู่สุดท้ายเท่านั้นที่มีสิทธิ์ได้รับการเผยแพร่ก่อนกำหนด
ผู้หญิงในชุดสูทสีขาวมองขึ้นไปที่ชายในชุดสูทโดยหันหลังให้กล้อง
ประธานาธิบดีโดนัลด์ ทรัมป์ ในขณะนั้นฟังอลิซ มารี จอห์นสัน ซึ่งถูกจองจำมาเป็นเวลา 21 ปี พูดในการประชุมสุดยอดการปฏิรูปเรือนจำปี 2019 และการเฉลิมฉลองในพระราชบัญญัติขั้นตอนแรกที่ทำเนียบขาว AP Photo / Susan Walsh
การ ตรวจสอบล่าสุดของ DOJ ซึ่งเปรียบเทียบการคาดการณ์ PATTERN กับผลลัพธ์ที่แท้จริงของอดีตผู้ต้องขัง แสดงให้เห็นว่าข้อผิดพลาดของอัลกอริทึมมีแนวโน้มที่จะเสียเปรียบผู้ต้องขังที่ไม่ใช่คนขาว
เมื่อเปรียบเทียบกับผู้ต้องขังผิวขาว PATTERN ได้ทำนายการกระทำผิดซ้ำทั่วไปในหมู่ผู้ต้องขังชายผิวดำมากกว่าระหว่าง 2% ถึง 3% ตามรายงานของ DOJ จำนวนนี้เพิ่มขึ้นเป็น 6% เป็น 7% สำหรับผู้หญิงผิวดำ เทียบกับผู้หญิงผิวขาว PATTERN ทำนายการกระทำผิดซ้ำในบุคคลฮิสแปนิก 2% ถึง 6% เมื่อเปรียบเทียบกับผู้ต้องขังผิวขาว และการกระทำผิดซ้ำเกินคาดในหมู่ผู้ชายเอเชีย 7% ถึง 8% เมื่อเทียบกับผู้ต้องขังผิวขาว
ผลลัพธ์ที่แตกต่างกันเหล่านี้มีแนวโน้มที่จะตีคนจำนวนมากว่าไม่ยุติธรรม โดยมีศักยภาพที่จะเสริมสร้างความเหลื่อมล้ำทางเชื้อชาติที่มีอยู่ในระบบยุติธรรมทางอาญา ตัวอย่างเช่น คนอเมริกันผิวสีถูกจองจำ แล้ว ในอัตราเกือบห้าเท่าของชาวอเมริกันผิวขาว
ในเวลาเดียวกันที่อัลกอรึทึมทำนายการกระทำผิดซ้ำสำหรับกลุ่มเชื้อชาติบางกลุ่ม
การกระทำผิดซ้ำทั่วไปของชายชนพื้นเมืองอเมริกันถูกคาดการณ์ไว้ต่ำกว่า 12% ถึง 15% ในส่วนที่เกี่ยวข้องกับนักโทษผิวขาว โดย 2% คาดการณ์ต่ำกว่าสำหรับการกระทำผิดซ้ำที่รุนแรง การกระทำผิดซ้ำที่รุนแรงถูกคาดการณ์โดย 4% ถึง 5% สำหรับผู้ชายผิวดำและ 1% ถึง 2% สำหรับผู้หญิงผิวดำ
ลดความลำเอียงโดยการรวมเชื้อชาติ
เป็นเรื่องน่าเย้ายวนที่จะสรุปว่ากระทรวงยุติธรรมควรละทิ้งระบบโดยสิ้นเชิง อย่างไรก็ตาม นักวิทยาศาสตร์ด้านคอมพิวเตอร์และข้อมูลได้พัฒนาชุดเครื่องมือต่างๆในช่วงทศวรรษที่ผ่านมา ซึ่งออกแบบมาเพื่อจัดการกับข้อกังวลเกี่ยวกับความไม่เป็นธรรมของอัลกอริทึม ดังนั้นจึงควรถามว่าจะแก้ไขความไม่เท่าเทียมกันของ PATTERN ได้หรือไม่
ทางเลือกหนึ่งคือการใช้ “เทคนิคการลดความลำเอียง” ที่อธิบายในงานล่าสุดโดย Jennifer Skeem และ Christopher Lowenkamp ผู้เชี่ยวชาญด้านความยุติธรรมทางอาญา ตามที่นักวิทยาศาสตร์คอมพิวเตอร์และนักวิชาการด้านกฎหมายได้ตั้งข้อสังเกต ค่าพยากรณ์ของข้อมูลที่เกี่ยวกับบุคคลอาจแตกต่างกันไปตามลักษณะอื่นๆ ตัวอย่างเช่น สมมติว่าการมีที่อยู่อาศัยที่มั่นคงมีแนวโน้มที่จะลดความเสี่ยงที่อดีตผู้ต้องขังจะก่ออาชญากรรมอื่น แต่ความสัมพันธ์ระหว่างที่อยู่อาศัยกับการไม่กระทำความผิดซ้ำนั้นแข็งแกร่งกว่าสำหรับผู้ต้องขังผิวขาวมากกว่าผู้ต้องขังผิวดำ อัลกอริทึมสามารถนำมาพิจารณาเพื่อความแม่นยำที่สูงขึ้น
แต่เมื่อพิจารณาถึงความแตกต่างนี้แล้ว ผู้ออกแบบจะต้องรวมเชื้อชาติของนักโทษแต่ละคนไว้ในอัลกอริธึม ซึ่งทำให้เกิดข้อกังวลทางกฎหมาย การปฏิบัติต่อบุคคลที่แตกต่างกันบนพื้นฐานของเชื้อชาติในความเสี่ยงในการตัดสินใจทางกฎหมายที่ละเมิดการแก้ไขรัฐธรรมนูญครั้งที่ 14ซึ่งรับประกันการคุ้มครองที่เท่าเทียมกันภายใต้กฎหมาย
นักวิชาการด้านกฎหมายหลายคน รวมทั้งDeborah Hellmanได้โต้แย้งเมื่อไม่นานนี้ว่าข้อกังวลทางกฎหมายนี้มีการพูดเกินจริง ตัวอย่างเช่น กฎหมายอนุญาตให้ใช้การจำแนกทางเชื้อชาติเพื่ออธิบายผู้ต้องสงสัยในคดีอาญาและรวบรวมข้อมูลด้านประชากรศาสตร์ในการสำรวจสำมะโนประชากร
การใช้การจำแนกเชื้อชาติอื่นๆ เป็นปัญหามากกว่า ตัวอย่างเช่น โปรแกรมโปรไฟล์ทางเชื้อชาติและการดำเนินการยืนยันยังคงมี การโต้แย้ง ในศาล แต่Hellman ให้เหตุผลว่าการออกแบบอัลกอริธึมที่มีความอ่อนไหวต่อวิธีการที่ค่าการทำนายของข้อมูลแตกต่างกันไปตามเชื้อชาตินั้นคล้ายกับการใช้เชื้อชาติในคำอธิบายที่น่าสงสัยและสำมะโน
ส่วนหนึ่งเป็นเพราะอัลกอริธึมที่ไวต่อการแข่งขัน ซึ่งแตกต่างจากการทำโปรไฟล์ทางเชื้อชาติ ไม่ได้อาศัยการวางนัยทั่วไปทางสถิติเกี่ยวกับความชุกของจุดสนใจ เช่น อัตราการทำผิดซ้ำ ภายในกลุ่มทางเชื้อชาติ แต่เธอเสนอให้สร้างภาพรวมทางสถิติเกี่ยวกับความน่าเชื่อถือของข้อมูลอัลกอริธึมสำหรับสมาชิกของกลุ่มเชื้อชาติและปรับให้เหมาะสม
แต่ยังมีข้อกังวลด้านจริยธรรม หลายประการ ที่ต้องพิจารณา การรวมเชื้อชาติอาจเป็นการปฏิบัติที่ไม่เป็นธรรม การปฏิบัติต่อผู้ต้องขังในฐานะปัจเจกอาจล้มเหลว เนื่องจากต้องอาศัยข้อเท็จจริงทางสถิติเกี่ยวกับกลุ่มเชื้อชาติที่พวกเขาได้รับมอบหมาย และอาจทำให้ผู้ต้องขังบางคนอยู่ในสถานะที่แย่กว่าคนอื่นๆ ที่จะได้รับเครดิตการปล่อยตัวก่อนกำหนด เพียงเพราะเชื้อชาติของพวกเขา
ความแตกต่างที่สำคัญ
แม้จะมีข้อกังวลเหล่านี้ แต่เราโต้แย้งว่ามีเหตุผลทางจริยธรรมที่ดีที่จะรวมการแข่งขันเข้ากับอัลกอริทึม
ประการแรก การรวมเชื้อชาติ อัลกอริธึมอาจมีความแม่นยำมากขึ้นในทุกกลุ่มเชื้อชาติ การทำเช่นนี้อาจทำให้ระบบเรือนจำของรัฐบาลกลางสามารถให้การปล่อยตัวก่อนกำหนดแก่ผู้ต้องขังที่มีความเสี่ยงต่ำต่อการกระทำผิดซ้ำในขณะที่รักษาผู้ต้องขังที่มีความเสี่ยงสูงไว้เบื้องหลัง สิ่งนี้จะส่งเสริมความยุติธรรมโดยไม่เสียสละความปลอดภัยสาธารณะ – สิ่งที่ ผู้สนับสนุนการปฏิรูปกระบวนการยุติธรรม ทางอาญาต้องการ
นอกจากนี้ การเปลี่ยนอัลกอริทึมเพื่อรวมเชื้อชาติสามารถปรับปรุงผลลัพธ์สำหรับผู้ต้องขังผิวดำโดยไม่ทำให้สิ่งเลวร้ายลงสำหรับผู้ต้องขังผิวขาว นี่เป็นเพราะการได้รับเครดิตจากการปล่อยตัวก่อนกำหนดไม่ใช่เกมที่ไม่มีผลรวม สิทธิ์ของบุคคลหนึ่งคนสำหรับโปรแกรมเผยแพร่ก่อนกำหนดไม่มีผลกับของผู้อื่น สิ่งนี้แตกต่างอย่างมากจากโปรแกรมต่างๆ เช่นการยืนยัน ในการจ้างงานหรือการศึกษา ในกรณีเหล่านี้ ตำแหน่งมีจำกัด ดังนั้นการทำสิ่งต่างๆ ให้ดีขึ้นสำหรับกลุ่มหนึ่ง ย่อมทำให้สิ่งที่แย่ลงไปอีกสำหรับอีกกลุ่มหนึ่ง
ดังที่ PATTERN แสดงให้เห็น ความเสมอภาคทางเชื้อชาติไม่จำเป็นต้องส่งเสริมโดยการเอาการแข่งขันออกจากสมการ – อย่างน้อยก็ไม่ใช่เมื่อผู้เข้าร่วมทั้งหมดยืนหยัดเพื่อผลประโยชน์
