อัลกอริธึมการจดจำใบหน้ามักจะถูกทดสอบโดยใช้ใบหน้าสีขาว ซึ่งส่งผลให้เทคโนโลยีไม่สามารถแยกความแตกต่างระหว่างบุคคลที่มีเชื้อชาติได้ (Shutterstock)
ตำรวจดีทรอยต์จับกุม Robert Julian-Borchak Williams อย่างไม่ถูกต้องในเดือนมกราคม 2020 สำหรับเหตุการณ์ขโมยของในร้านค้าที่เกิดขึ้นเมื่อสองปีก่อน. แม้ว่าวิลเลียมส์จะไม่มีส่วนเกี่ยวข้องกับเหตุการณ์ดังกล่าว แต่เทคโนโลยีการจดจำใบหน้าที่ตำรวจรัฐมิชิแกนใช้ "จับคู่" ใบหน้าของเขากับภาพที่เป็นเม็ดเล็กๆ ที่ได้จากวิดีโอการเฝ้าระวังในร้านค้า ซึ่งแสดงให้เห็นชายแอฟริกันอเมริกันอีกคนหนึ่งกำลังรับนาฬิกามูลค่า 3,800 เหรียญสหรัฐ
สองสัปดาห์ต่อมา คดีถูกยกฟ้องตามคำร้องขอของอัยการ อย่างไรก็ตาม จากผลการแข่งขันที่ผิดพลาด ตำรวจได้ใส่กุญแจมือแล้วและจับกุมวิลเลียมส์ต่อหน้าครอบครัวของเขา บังคับให้เขายิงแก้ว ลายนิ้วมือ และตัวอย่าง DNA ของเขา สอบปากคำและคุมขังเขาในชั่วข้ามคืน
ผู้เชี่ยวชาญแนะนำว่าวิลเลียมส์ไม่ได้อยู่คนเดียว และคนอื่นๆ ก็ต้องเผชิญกับความอยุติธรรมที่คล้ายคลึงกัน การโต้เถียงอย่างต่อเนื่องเกี่ยวกับการใช้ Clearview AI ของตำรวจเน้นย้ำถึงความเสี่ยงด้านความเป็นส่วนตัวที่เกิดจากเทคโนโลยีการจดจำใบหน้า แต่สิ่งสำคัญคือต้องตระหนักว่า เราทุกคนไม่แบกรับความเสี่ยงเหล่านั้นอย่างเท่าเทียมกัน.
อัลกอริธึมการเหยียดเชื้อชาติ
เทคโนโลยีจดจำใบหน้าที่เป็น ฝึกฝนและปรับให้เข้ากับใบหน้าของคนผิวขาว ระบุผิดอย่างเป็นระบบและติดฉลากบุคคลที่ถูกแบ่งแยกเชื้อชาติ: การศึกษาจำนวนมากรายงานว่าเทคโนโลยีการจดจำใบหน้าคือ “มีข้อบกพร่องและมีอคติ โดยมีอัตราความผิดพลาดสูงกว่าอย่างเห็นได้ชัดเมื่อใช้กับคนผิวสี".
บ่อนทำลายความเป็นปัจเจกและความเป็นมนุษย์ของบุคคลที่แบ่งแยกเชื้อชาติ ซึ่งมีแนวโน้มที่จะถูกระบุผิดว่าเป็นอาชญากร เทคโนโลยีและข้อผิดพลาดในการระบุตัวตนที่เกิดขึ้นนั้นสะท้อนให้เห็นและยึดติดอยู่กับการแบ่งแยกทางสังคมที่มีมายาวนานซึ่งพัวพันอย่างลึกซึ้งกับการเหยียดเชื้อชาติ การกีดกันทางเพศ ความเกลียดชัง กลุ่มผู้ตั้งถิ่นฐาน-ลัทธิล่าอาณานิคม และการกดขี่ที่ตัดกันอื่นๆ
{ชื่อ Y=vSuDE6wvQlU}
การสอบสวนของ France24 เกี่ยวกับอคติทางเชื้อชาติในเทคโนโลยีการจดจำใบหน้า
เทคโนโลยีจัดหมวดหมู่ผู้ใช้อย่างไร
ในหนังสือที่เปลี่ยนเกมของเขาในปี 1993 การจัดเรียงแบบ Panopticนักวิชาการ Oscar Gandy เตือนว่า “เทคโนโลยีที่ซับซ้อน [ที่] เกี่ยวข้องกับการรวบรวม การประมวลผล และการแบ่งปันข้อมูลเกี่ยวกับบุคคลและกลุ่มที่สร้างขึ้นผ่านชีวิตประจำวันของพวกเขา … ใช้เพื่อประสานงานและควบคุมการเข้าถึงสินค้าและบริการที่กำหนดชีวิตใน เศรษฐกิจทุนนิยมสมัยใหม่” การบังคับใช้กฎหมายใช้เพื่อดึงผู้ต้องสงสัยออกจากประชาชนทั่วไป และองค์กรเอกชนใช้เพื่อพิจารณาว่าเราสามารถเข้าถึงสิ่งต่างๆ เช่น การธนาคาร และ การจ้าง.
Gandy เตือนอย่างพยากรณ์ว่า หากปล่อยไว้โดยไม่ได้รับการตรวจสอบ รูปแบบของ "การไตร่ตรองทางไซเบอร์" นี้จะทำให้สมาชิกในชุมชนที่แสวงหาความเท่าเทียมเสียเปรียบอย่างทวีคูณ เช่น กลุ่มที่มีการแบ่งแยกเชื้อชาติหรือเสียเปรียบทางเศรษฐกิจและสังคม ทั้งในแง่ของสิ่งที่จะจัดสรรให้กับพวกเขาและ พวกเขาจะมาเข้าใจตนเองได้อย่างไร
อีก 25 ปีต่อมา ตอนนี้เรากำลังใช้ชีวิตอยู่กับอาการตื่นตระหนกกับสเตียรอยด์ และตัวอย่างผลกระทบด้านลบต่อชุมชนที่แสวงหาความเท่าเทียมมีอยู่มากมาย เช่น การระบุตัวตนของวิลเลียมส์ที่ผิดพลาด
อคติที่มีอยู่แล้ว
การจัดเรียงโดยใช้อัลกอริธึมนี้แทรกซึมเข้าไปในแง่มุมพื้นฐานที่สุดในชีวิตประจำวัน ทำให้เกิดความรุนแรงทั้งทางตรงและทางโครงสร้าง
ความรุนแรงโดยตรงที่วิลเลียมส์ประสบนั้นชัดเจนในทันทีในเหตุการณ์รอบ ๆ การจับกุมและการควบคุมตัวของเขา และอันตรายส่วนบุคคลที่เขาได้รับนั้นชัดเจนและสามารถสืบย้อนไปถึงการกระทำของตำรวจที่เลือกที่จะพึ่งพา "การจับคู่" ของเทคโนโลยีเพื่อทำการจับกุม ร้ายกาจกว่าคือ ความรุนแรงเชิงโครงสร้าง กระทำผ่านเทคโนโลยีจดจำใบหน้าและ เทคโนโลยีดิจิทัลอื่น ๆ อัตรา จับคู่ จัดหมวดหมู่ และจัดเรียงบุคคลในลักษณะที่ขยายรูปแบบการเลือกปฏิบัติที่มีอยู่ก่อน
อันตรายจากความรุนแรงเชิงโครงสร้างไม่ชัดเจนและตรงไปตรงมาน้อยกว่า และก่อให้เกิดความเสียหายต่อกลุ่มแสวงหาความเท่าเทียมผ่านการปฏิเสธอำนาจ ทรัพยากร และโอกาสอย่างเป็นระบบ ในขณะเดียวกันก็เพิ่มความเสี่ยงโดยตรงและเป็นอันตรายต่อสมาชิกแต่ละคนในกลุ่มเหล่านั้น
การใช้การรักษาแบบคาดการณ์ล่วงหน้า การประมวลผลอัลกอริธึมของข้อมูลในอดีตเพื่อคาดการณ์ว่าอาชญากรรมใหม่จะเกิดขึ้นเมื่อใดและที่ใดจัดสรรทรัพยากรของตำรวจตามความเหมาะสมและฝังการเฝ้าระวังของตำรวจที่ปรับปรุงให้ดีขึ้นในชุมชน โดยปกติแล้วจะอยู่ในย่านที่มีรายได้น้อยและมีเชื้อชาติ การทำเช่นนี้จะเพิ่มโอกาสที่กิจกรรมทางอาญาใดๆ ซึ่งรวมถึงกิจกรรมทางอาญาที่ร้ายแรงน้อยกว่าที่อาจไม่มีการตอบสนองจากตำรวจ จะถูกตรวจพบและลงโทษ ซึ่งท้ายที่สุดจะจำกัดโอกาสชีวิตของผู้คนที่อาศัยอยู่ในสภาพแวดล้อมนั้น
และหลักฐานความไม่เท่าเทียมกันในภาคอื่น ๆ ยังคงเพิ่มขึ้น นักเรียนหลายร้อยคนในสหราชอาณาจักร ประท้วงเมื่อวันที่ 16 ส.ค. ต่อผลหายนะของ เท่ากันซึ่งเป็นอัลกอริธึมที่มีข้อบกพร่องซึ่งรัฐบาลสหราชอาณาจักรใช้ในการพิจารณาว่านักศึกษาคนใดจะมีคุณสมบัติเหมาะสมสำหรับมหาวิทยาลัย ในปี 2019 บริการโฆษณาแบบ microtargeting ของ Facebook ช่วยนายจ้างภาครัฐและเอกชนหลายสิบคน กีดกันผู้คนจากการได้รับโฆษณางานตามอายุและเพศ การวิจัยที่ดำเนินการโดย ProPublica ได้จัดทำเอกสาร การเลือกปฏิบัติราคาตามเชื้อชาติสำหรับสินค้าออนไลน์. และเสิร์ชเอ็นจิ้นก็สร้างผลลัพธ์การเหยียดผิวและเหยียดเพศอย่างสม่ำเสมอ
การกดขี่ข่มเหงอย่างต่อเนื่อง
ผลลัพธ์เหล่านี้มีความสำคัญเนื่องจากทำให้เกิดความไม่เท่าเทียมกันที่มีอยู่ก่อนแล้วและลึกซึ้งยิ่งขึ้น โดยพิจารณาจากลักษณะเช่น เชื้อชาติ เพศ และอายุ สิ่งเหล่านี้ก็มีความสำคัญเช่นกัน เพราะส่งผลอย่างมากต่อการที่เรารู้จักตนเองและโลกรอบตัวเรา บางครั้งโดย ก่อนเลือกข้อมูล เราได้รับในรูปแบบที่ส่งเสริมการรับรู้แบบเหมารวม แม้แต่บริษัทเทคโนโลยีเองก็ยอมรับ ความเร่งด่วนในการหยุดอัลกอริธึมจากการเลือกปฏิบัติอย่างต่อเนื่อง.
จนถึงปัจจุบันความสำเร็จของการสืบสวนเฉพาะกิจที่ดำเนินการโดยบริษัทเทคโนโลยีเองนั้นไม่สอดคล้องกัน ในบางครั้ง บริษัทที่เกี่ยวข้องกับการผลิตระบบการเลือกปฏิบัติก็ถอนตัวออกจากตลาด เช่น เมื่อ Clearview AI ประกาศว่าจะไม่ให้บริการเทคโนโลยีจดจำใบหน้าในแคนาดาอีกต่อไป. แต่บ่อยครั้งการตัดสินใจดังกล่าวเป็นผลจากการพิจารณาด้านกฎระเบียบหรือการเรียกร้องของสาธารณชนเท่านั้น หลังจาก สมาชิกของชุมชนที่แสวงหาความเท่าเทียมกันได้รับอันตรายแล้ว
ถึงเวลาที่จะมอบเครื่องมือที่จำเป็นสำหรับหน่วยงานกำกับดูแลของเราในการแก้ไขปัญหา การปกป้องความเป็นส่วนตัวอย่างง่ายซึ่งขึ้นอยู่กับการได้รับความยินยอมเป็นรายบุคคลเพื่อให้สามารถจับและนำข้อมูลกลับมาใช้ใหม่โดยบริษัทต่างๆ ไม่สามารถแยกออกจากผลการเลือกปฏิบัติของการใช้งานนั้นได้ โดยเฉพาะอย่างยิ่งในยุคที่พวกเราส่วนใหญ่ (รวมถึงบริษัทเทคโนโลยีเองด้วย) ไม่สามารถเข้าใจได้อย่างถ่องแท้ว่าอัลกอริธึมทำอะไรหรือเหตุใดจึงให้ผลลัพธ์ที่เฉพาะเจาะจง
ความเป็นส่วนตัวคือสิทธิมนุษยชน
ส่วนหนึ่งของการแก้ปัญหาเกี่ยวข้องกับการทำลายระเบียบข้อบังคับในปัจจุบันที่ถือว่าความเป็นส่วนตัวและสิทธิมนุษยชนเป็นประเด็นที่แยกจากกัน การใช้รูปแบบการปกป้องข้อมูลตามความยินยอมนั้นต้องเผชิญกับหลักการพื้นฐานที่ว่าความเป็นส่วนตัวและความเท่าเทียมกันเป็นทั้งสิทธิมนุษยชนที่ไม่สามารถทำสัญญาได้
แม้ กฎบัตรดิจิทัลของแคนาดา — ความพยายามครั้งล่าสุดของรัฐบาลกลางในการตอบสนองต่อข้อบกพร่องของสถานะปัจจุบันของสภาพแวดล้อมดิจิทัล — ยังคงรักษาความแตกต่างทางแนวคิดเหล่านี้ไว้ มันปฏิบัติต่อความเกลียดชังและความคลั่งไคล้ การควบคุมและความยินยอม และประชาธิปไตยที่เข้มแข็งเป็นหมวดหมู่ที่แยกจากกัน
ในการจัดการกับการเลือกปฏิบัติด้วยอัลกอริธึม เราต้องยอมรับและกำหนดกรอบความเป็นส่วนตัวและความเท่าเทียมกันว่าเป็นสิทธิมนุษยชน และเราต้องสร้างโครงสร้างพื้นฐานที่เอาใจใส่และเชี่ยวชาญในทั้งสองอย่างเท่าเทียมกัน หากไม่มีความพยายามดังกล่าว ความแวววาวของคณิตศาสตร์และวิทยาศาสตร์จะยังคงอำพรางอคติการเลือกปฏิบัติของ AI ต่อไป และคาดว่าการลอกเลียนแบบที่กระทำต่อวิลเลียมส์จะทวีคูณขึ้น
เกี่ยวกับผู้เขียน
Jane Bailey ศาสตราจารย์ด้านกฎหมายและหัวหน้าร่วมโครงการ eQuality L'Université d'Ottawa / มหาวิทยาลัยออตตาวา; Jacquelyn Burkell รองรองประธานฝ่ายวิจัย มหาวิทยาลัยเวสเทิร์นและวาเลอรี สตีฟส์ ศาสตราจารย์เต็ม L'Université d'Ottawa / มหาวิทยาลัยออตตาวา
บทความนี้ตีพิมพ์ซ้ำจาก สนทนา ภายใต้ใบอนุญาตครีเอทีฟคอมมอนส์ อ่าน บทความต้นฉบับ.
หนังสือเกี่ยวกับความไม่เท่าเทียมกันจากรายการขายดีที่สุดของ Amazon
"วรรณะ: ต้นกำเนิดของความไม่พอใจของเรา"
โดย Isabel Wilkerson
ในหนังสือเล่มนี้ Isabel Wilkerson สำรวจประวัติศาสตร์ของระบบวรรณะในสังคมทั่วโลก รวมทั้งในสหรัฐอเมริกา หนังสือเล่มนี้สำรวจผลกระทบของวรรณะต่อบุคคลและสังคม และนำเสนอกรอบการทำงานเพื่อทำความเข้าใจและจัดการกับความไม่เท่าเทียมกัน
คลิกเพื่อดูข้อมูลเพิ่มเติมหรือสั่งซื้อ
"สีของกฎหมาย: ประวัติศาสตร์ที่ถูกลืมว่ารัฐบาลของเราแยกอเมริกาอย่างไร"
โดย Richard Rothstein
ในหนังสือเล่มนี้ Richard Rothstein สำรวจประวัติของนโยบายของรัฐบาลที่สร้างและเสริมสร้างการแบ่งแยกทางเชื้อชาติในสหรัฐอเมริกา หนังสือตรวจสอบผลกระทบของนโยบายเหล่านี้ต่อบุคคลและชุมชน และเสนอคำกระตุ้นการตัดสินใจเพื่อจัดการกับความไม่เท่าเทียมที่เกิดขึ้นอย่างต่อเนื่อง
คลิกเพื่อดูข้อมูลเพิ่มเติมหรือสั่งซื้อ
"ผลรวมของเรา: การเหยียดเชื้อชาติทำให้ทุกคนเสียค่าใช้จ่ายและเราจะประสบความสำเร็จร่วมกันได้อย่างไร"
โดย Heather McGhee
ในหนังสือเล่มนี้ Heather McGhee สำรวจต้นทุนทางเศรษฐกิจและสังคมของการเหยียดเชื้อชาติ และนำเสนอวิสัยทัศน์สำหรับสังคมที่เท่าเทียมและมั่งคั่งมากขึ้น หนังสือเล่มนี้รวมเรื่องราวของบุคคลและชุมชนที่ท้าทายความไม่เท่าเทียม ตลอดจนแนวทางปฏิบัติในการสร้างสังคมที่มีส่วนร่วมมากขึ้น
คลิกเพื่อดูข้อมูลเพิ่มเติมหรือสั่งซื้อ
"มายาคติขาดดุล: ทฤษฎีการเงินสมัยใหม่กับกำเนิดเศรษฐกิจประชาชน"
โดย สเตฟานี เคลตัน
ในหนังสือเล่มนี้ สเตฟานี เคลตันท้าทายแนวคิดดั้งเดิมเกี่ยวกับการใช้จ่ายของรัฐบาลและการขาดดุลของประเทศ และนำเสนอกรอบการทำงานใหม่สำหรับการทำความเข้าใจนโยบายเศรษฐกิจ หนังสือเล่มนี้ประกอบด้วยแนวทางปฏิบัติในการจัดการกับความไม่เท่าเทียมและการสร้างเศรษฐกิจที่เท่าเทียมกันมากขึ้น
คลิกเพื่อดูข้อมูลเพิ่มเติมหรือสั่งซื้อ
"The New Jim Crow: การกักขังจำนวนมากในยุคตาบอดสี"
โดย มิเชลล์ อเล็กซานเดอร์
ในหนังสือเล่มนี้ มิเชลล์ อเล็กซานเดอร์สำรวจวิธีการที่ระบบยุติธรรมทางอาญาทำให้ความไม่เท่าเทียมกันทางเชื้อชาติและการเลือกปฏิบัติเกิดขึ้น โดยเฉพาะอย่างยิ่งต่อคนอเมริกันผิวดำ หนังสือเล่มนี้ประกอบด้วยการวิเคราะห์ทางประวัติศาสตร์ของระบบและผลกระทบ ตลอดจนคำกระตุ้นการตัดสินใจเพื่อการปฏิรูป
