Shutterstock

ไม่ว่าคุณจะตระหนักรู้หรือยินยอมก็ตาม ข้อมูลขนาดใหญ่อาจส่งผลต่อคุณและวิธีดำเนินชีวิตของคุณ ข้อมูลที่เราสร้างขึ้นเมื่อใช้โซเชียลมีเดีย ท่องอินเทอร์เน็ต และใส่เครื่องติดตามการออกกำลังกายทั้งหมดจะถูกรวบรวม จำแนก และใช้ โดยธุรกิจ และ รัฐ เพื่อสร้างโปรไฟล์ของเรา จากนั้นโปรไฟล์เหล่านี้จะใช้เพื่อกำหนดเป้าหมายโฆษณาสำหรับผลิตภัณฑ์และบริการไปยังผู้ที่มีแนวโน้มจะซื้อมากที่สุด หรือเพื่อแจ้งการตัดสินใจของรัฐบาล

ข้อมูลขนาดใหญ่ช่วยให้รัฐและบริษัทต่างๆ เข้าถึง รวมและวิเคราะห์ข้อมูลของเราและสร้างการเปิดเผย – แต่ ไม่สมบูรณ์ และอาจ ไม่เที่ยง - โปรไฟล์ของชีวิตของเรา พวกเขาทำเช่นนั้นโดยระบุความสัมพันธ์และรูปแบบในข้อมูลเกี่ยวกับเรา และบุคคลที่มีโปรไฟล์คล้ายกับเรา เพื่อทำการคาดคะเนเกี่ยวกับสิ่งที่เราอาจทำ

แต่เพียงเพราะการวิเคราะห์บิ๊กดาต้าอิงตามอัลกอริธึมและสถิติ ไม่ได้หมายความว่าจะเป็น ถูกต้องเป็นกลางหรือมีวัตถุประสงค์โดยเนื้อแท้. และแม้ว่าข้อมูลขนาดใหญ่อาจให้ข้อมูลเชิงลึกเกี่ยวกับพฤติกรรมของกลุ่ม แต่ก็ไม่จำเป็นต้องเป็นวิธีที่น่าเชื่อถือในการระบุพฤติกรรมของแต่ละบุคคล อันที่จริง วิธีการเหล่านี้สามารถ เปิดประตูสู่การเลือกปฏิบัติ และ คุกคามสิทธิมนุษยชนของประชาชน – พวกเขาอาจจะต่อต้านคุณด้วยซ้ำ ต่อไปนี้คือตัวอย่างสี่ตัวอย่างที่การวิเคราะห์ข้อมูลขนาดใหญ่สามารถนำไปสู่ความอยุติธรรม

1. การคำนวณคะแนนเครดิต

ข้อมูลขนาดใหญ่สามารถใช้ในการตัดสินใจเกี่ยวกับ สิทธิ์เครดิตส่งผลต่อการที่คุณได้รับเงินกู้ หรือค่า . ของคุณ ประกันภัยรถยนต์ เบี้ยประกันภัยควรจะเป็น การตัดสินใจเหล่านี้อาจได้รับแจ้งจากคุณ โพสต์สื่อสังคมออนไลน์ และข้อมูลจากแอปอื่นๆ ซึ่งใช้เพื่อระบุระดับความเสี่ยงหรือความน่าเชื่อถือของคุณ

แต่ข้อมูลอย่างเช่น ภูมิหลังทางการศึกษาของคุณหรือที่ที่คุณอาศัยอยู่ อาจไม่เกี่ยวข้องหรือเชื่อถือได้สำหรับการประเมินดังกล่าว ข้อมูลประเภทนี้สามารถทำหน้าที่เป็นตัวแทนสำหรับเชื้อชาติหรือสถานะทางเศรษฐกิจและสังคม และการใช้ข้อมูลดังกล่าวในการตัดสินใจเกี่ยวกับความเสี่ยงด้านเครดิตอาจส่งผลให้เกิดการเลือกปฏิบัติ

2. หางาน

สามารถใช้ข้อมูลขนาดใหญ่เพื่อกำหนดได้ ใครเห็นประกาศรับสมัครงานหรือถูกคัดเลือกให้สัมภาษณ์. โฆษณางานสามารถกำหนดเป้าหมายได้เฉพาะกลุ่มอายุ เช่น อายุ 25-36 ปีซึ่งยกเว้นพนักงานที่อายุน้อยกว่าและสูงอายุจากการดูประกาศรับสมัครงานบางตำแหน่งและมีความเสี่ยงที่จะถูกเลือกปฏิบัติด้านอายุ

ระบบอัตโนมัติยังใช้เพื่อทำให้การกรอง การเรียงลำดับ และการจัดอันดับผู้สมัครมีประสิทธิภาพมากขึ้น แต่กระบวนการคัดกรองนี้อาจไม่รวมบุคคลตามตัวชี้วัด เช่น ระยะทางในการเดินทาง. นายจ้างอาจสันนิษฐานว่าผู้ที่เดินทางไกลมีโอกาสน้อยที่จะอยู่ในงานในระยะยาว แต่สิ่งนี้สามารถแยกแยะผู้คนที่อาศัยอยู่ไกลจากใจกลางเมืองได้เนื่องจากที่ตั้งของที่อยู่อาศัยราคาไม่แพง

3. การพิจารณาทัณฑ์บนและการประกันตัว

ในสหรัฐอเมริกาและสหราชอาณาจักร มีการใช้แบบจำลองการประเมินความเสี่ยงของข้อมูลขนาดใหญ่เพื่อช่วยให้เจ้าหน้าที่ตัดสินใจว่าจะได้รับอนุญาตหรือไม่ ทัณฑ์บนหรือประกันตัวหรืออ้างถึง โปรแกรมการฟื้นฟูสมรรถภาพ. นอกจากนี้ยังสามารถใช้เพื่อประเมินความเสี่ยงที่ผู้กระทำความผิดนำเสนอต่อสังคมซึ่งเป็นปัจจัยหนึ่งที่ผู้พิพากษาอาจพิจารณาเมื่อตัดสินใจความยาวของประโยค

ยังไม่ชัดเจนว่าข้อมูลใดที่ใช้เพื่อช่วยในการประเมินเหล่านี้ แต่เป็นการก้าวไปสู่ ตำรวจดิจิทัล รวบรวมจังหวะ มีแนวโน้มมากขึ้นที่โปรแกรมเหล่านี้จะรวมข้อมูลโอเพ่นซอร์สเช่น กิจกรรมโซเชียลมีเดีย - ถ้ายังไม่มี

การประเมินเหล่านี้อาจไม่เพียงแต่ดูที่โปรไฟล์ของบุคคล แต่ยังรวมถึงการเปรียบเทียบของพวกเขากับของผู้อื่นด้วย กองกำลังตำรวจบางแห่งมี ในอดีต ชุมชนชนกลุ่มน้อยบางแห่ง ซึ่งนำไปสู่จำนวนรายงานเหตุการณ์อาชญากรรมที่ไม่สมส่วน หากข้อมูลนี้ป้อนเข้าสู่อัลกอริธึม มันจะบิดเบือนแบบจำลองการประเมินความเสี่ยงและส่งผลให้เกิดการเลือกปฏิบัติซึ่งส่งผลกระทบโดยตรง สิทธิเสรีภาพของบุคคล.

4. การยื่นคำร้องขอวีซ่า

ปีที่แล้ว สำนักงานตรวจคนเข้าเมืองและศุลกากรสหรัฐ (ICE) ประกาศว่าต้องการแนะนำระบบอัตโนมัติ “ตรวจวีซ่าขั้นรุนแรง" โปรแกรม. มันจะสแกนบัญชีโซเชียลมีเดียโดยอัตโนมัติและต่อเนื่อง เพื่อประเมินว่าผู้สมัครจะ “มีส่วนสนับสนุนในเชิงบวก” ต่อสหรัฐอเมริกาหรือไม่ และปัญหาด้านความมั่นคงของชาติอาจเกิดขึ้นหรือไม่

นอกจากการนำเสนอความเสี่ยงต่อเสรีภาพในการคิด ความเห็น การแสดงออก และการสมาคมแล้ว ยังมีความเสี่ยงที่สำคัญที่โครงการนี้จะเลือกปฏิบัติต่อบุคคลที่มีสัญชาติหรือศาสนาบางประเภท การแสดงความเห็น ระบุว่าเป็น "การแบนของชาวมุสลิมโดยใช้อัลกอริทึม"

โปรแกรม เพิ่งถูกถอนออกตามรายงานบนพื้นฐานที่ว่า “ไม่มีซอฟต์แวร์ 'สำเร็จรูป' ที่สามารถส่งมอบคุณภาพของการตรวจสอบที่หน่วยงานต้องการได้” แต่การรวมเป้าหมายดังกล่าวไว้ในเอกสารการจัดซื้อจัดจ้างสามารถสร้างแรงจูงใจที่ไม่ดีให้กับอุตสาหกรรมเทคโนโลยีในการพัฒนาโปรแกรมที่เลือกปฏิบัติโดยการออกแบบ

ไม่ต้องสงสัยเลยว่าการวิเคราะห์ข้อมูลขนาดใหญ่จะทำงานในลักษณะที่อาจส่งผลต่อโอกาสในชีวิตของแต่ละบุคคล แต่ ขาดความโปร่งใส เกี่ยวกับวิธีการรวบรวม ใช้ และแบ่งปันข้อมูลขนาดใหญ่ทำให้ผู้คนทราบว่าข้อมูลใดถูกใช้อย่างไร อย่างไร และเมื่อใดได้ยาก การวิเคราะห์ข้อมูลขนาดใหญ่นั้นซับซ้อนเกินกว่าที่บุคคลทั่วไปจะสามารถปกป้องข้อมูลของตนจากการใช้งานที่ไม่เหมาะสมได้ รัฐและบริษัทต่างๆ จะต้องสร้างและปฏิบัติตามกฎระเบียบเพื่อให้แน่ใจว่าการใช้ข้อมูลขนาดใหญ่จะไม่นำไปสู่การเลือกปฏิบัติ

เกี่ยวกับผู้แต่ง

Lorna McGregor ผู้อำนวยการศูนย์สิทธิมนุษยชน PI และผู้อำนวยการร่วม ESRC Human Rights Big Data and Technology Large Grant มหาวิทยาลัย Essex; Daragh Murray อาจารย์ด้านกฎหมายสิทธิมนุษยชนระหว่างประเทศที่โรงเรียนกฎหมายเอสเซ็กซ์ มหาวิทยาลัย Essexและวิเวียน อึ้ง นักวิจัยอาวุโสด้านสิทธิมนุษยชน มหาวิทยาลัย Essex

บทความนี้ถูกเผยแพร่เมื่อวันที่ สนทนา. อ่าน บทความต้นฉบับ.

หนังสือโดยสิ่งเหล่านี้

เกี่ยวกับผู้เขียน

at

ขอบคุณสำหรับการเยี่ยมชม InnerSelf.comที่ไหนมี 20,000 + บทความเปลี่ยนชีวิตส่งเสริม "ทัศนคติใหม่และความเป็นไปได้ใหม่" บทความทั้งหมดได้รับการแปลเป็น 30+ ภาษา. สมัครรับจดหมายข่าว ถึงนิตยสาร InnerSelf ซึ่งตีพิมพ์ทุกสัปดาห์ และ Daily Inspiration ของ Marie T Russell นิตยสาร InnerSelf ได้รับการตีพิมพ์ตั้งแต่ปี 1985