การเรียงลำดับตามอัลกอริทึมทำให้เราอยู่ในกล่อง เราจะรู้ได้อย่างไรว่าพวกเขาเป็นคนที่ถูกต้อง? สร้างขึ้น CC BY

สังคมดูเหมือนอยู่บนเส้นทางสู่จุดที่ชีวิตของเราอยู่ภายใต้การพิจารณาของอัลกอริธึมของคอมพิวเตอร์ ข้อมูลที่เราสร้างขึ้นจะถูกวิเคราะห์และวิเคราะห์ ไม่ว่าโดยรัฐบาลเพื่อความมั่นคงของชาติหรือบริษัทเพื่อผลกำไร และสิ่งนี้ไม่น่าจะเปลี่ยนแปลงได้ – พลังและความดึงดูดใจของการวิเคราะห์ข้อมูลเมื่อพบแล้วจะไม่ละทิ้งไปโดยง่าย

แต่อันที่จริง ฉันสงสัยว่าฉันกังวลมากกว่านั้นหรือไม่ว่าข้อมูลของเราจะถูกเก็บรวบรวม หรือโดยข้อเท็จจริงที่ว่าเราไม่รู้อะไรเลยเกี่ยวกับอัลกอริทึมที่ตัดสินเรา

ระดับของรายละเอียดเกี่ยวกับชีวิตและนิสัยของเราที่สามารถเลือกได้จากข้อมูลที่เราทิ้งไว้นั้นได้รับการกล่าวถึงก่อนหน้านี้ และกำลังได้รับการออกอากาศสดซึ่งเป็นส่วนหนึ่งของการอภิปรายทั่วร่างสหราชอาณาจักร อำนาจการสอบสวนบิล. อย่างน้อยเรารู้บางอย่างเกี่ยวกับข้อมูลที่เก็บรวบรวมและระยะเวลาที่ข้อมูลถูกเก็บไว้ ซึ่งบางส่วนอยู่ภายใต้กฎหมายของสหราชอาณาจักรและยุโรป

ตัว Vortex Indicator ได้ถูกนำเสนอลงในนิตยสาร ร่างร่างพระราชบัญญัติฯตัวอย่างเช่น เรารู้ว่ารัฐบาลสหราชอาณาจักรจะ "เพียง" ที่ต้องการ (โดยไม่ได้รับอนุญาต) การเข้าถึงข้อมูลเมตาของการสื่อสาร ส่วนหัวและหัวเรื่องของอีเมล และบันทึกการโทร แต่เราก็ทราบด้วยว่าการเปิดเผยข้อมูลเมตาเพียงอย่างเดียวสามารถเป็นอย่างไร: ดูที่ โครงการ Immersion ของ MIT Media Lab สำหรับตัวอย่างที่มีประสิทธิภาพว่าสามารถทราบรายละเอียดได้มากน้อยเพียงใด มันแน่ เทียบไม่ได้กับบิลค่าโทรศัพท์แบบแยกรายการเลยตามที่อ้าง

ดังนั้นไม่ว่าจะดีขึ้นหรือแย่ลง เราซึ่งเป็นประชาชนทั่วไป ก็มีเบาะแสบางอย่างว่ากำลังบันทึกอะไรอยู่ แต่เราไม่รู้เลยจริงๆ ว่าเครื่องมือและเทคนิคการวิเคราะห์ใดถูกนำไปใช้กับข้อมูลนี้ และไม่ควรมองข้ามความสำคัญของสิ่งนี้

อะไรกระทืบตัวเลข?

เราสามารถเดาอย่างมีการศึกษาได้ หน่วยงานความมั่นคงแห่งชาติอาจใช้ข้อมูลเมตาของเราเพื่อสร้างเครือข่ายสังคมระหว่างผู้คนและสถานที่ เหนือสิ่งอื่นใด เชื่อมโยงเราเข้าด้วยกัน จากนั้นเครือข่ายความสัมพันธ์เหล่านี้จะได้รับการวิเคราะห์เพื่อพิจารณาว่าเราเป็นคนที่น่าสนใจหรือไม่ โดยพิจารณาจากวิธีที่คุณเปรียบเทียบกับบุคคลอื่นที่น่าสนใจ และวิธีที่คุณเชื่อมต่อกับบุคคลที่น่าสนใจที่มีอยู่หรือผู้ที่เกี่ยวข้องกับพวกเขา

นักวิจัยที่ใช้เทคนิคเหล่านี้เข้าใจข้อจำกัดของตน และอัลกอริธึมที่ขับเคลื่อนเทคนิคเหล่านี้อาจมีข้อผิดพลาดหรือสมมติฐานพื้นฐานที่มีผลกระทบอย่างลึกซึ้งต่อผลลัพธ์ ในกรณีนี้ นั่นอาจหมายความว่าคุณจะติดป้ายว่าเป็นผู้ก่อการร้ายหรือไม่ หรือว่าคุณมีสิทธิ์ได้รับเงินกู้หรือจำนอง

ยังไม่ชัดเจนว่าความสัมพันธ์มีอยู่ของความสัมพันธ์ถูกกำหนดไว้ที่ใดในพื้นที่ชายแดนที่คลุมเครือ การเยี่ยมชมเว็บไซต์เดียวกันกับผู้ก่อการร้ายเป็นการบอกเป็นนัยถึงค่านิยมร่วมกัน หรือการนั่งรถประจำทางสายเดียวกันทุกวัน แนะนำให้คุณพูดคุยกับผู้ก่อการร้ายเป็นประจำหรือไม่ เป็นไปได้ที่จะเยี่ยมชมเว็บไซต์ที่ผู้ก่อการร้ายรู้จักบ่อยครั้งด้วยเหตุผลทางกฎหมายหลายประการ หากคุณได้รับข่าวจากเว็บไซต์เดียวกับผู้ก่อการร้าย คุณมีแนวโน้มที่จะเป็นผู้ก่อการร้ายหรือไม่? การเลือกปฏิบัติและอคติ สามารถนำมาใช้ได้ ณ จุดที่เก็บรวบรวมข้อมูล และจากนั้นอีกครั้งเมื่อมีการตัดสินใจเกี่ยวกับวิธีการวิเคราะห์ข้อมูลนั้น อัลกอริธึมสามารถแยกแยะได้เช่นกัน

ขอบเขตเบลอ

ความเป็นไปได้ที่อัลกอริธึมจะทำให้เกิดอคติที่ไม่ต้องการนั้นเป็นเรื่องจริง ตัวอย่างเช่น บริการด้านความปลอดภัยที่ใช้บริการจะได้รับการฝึกอบรมเกี่ยวกับชุดข้อมูลของผู้ก่อการร้ายที่รู้จักและผู้ที่ไม่ใช่ผู้ก่อการร้ายที่รู้จัก นี่หมายความว่า เนื่องจากผู้ก่อการร้ายที่รู้จักกันมากที่สุดคือผู้ชายอายุ 20-30คุณมีแนวโน้มที่จะถูกจัดประเภทเป็นผู้ก่อการร้ายมากกว่าเพราะเป็นเพียงผู้ชายและอายุประมาณ 20-30 ปี โดยไม่คำนึงถึงคุณลักษณะอื่นๆ ของคุณ?. ถ้าเป็นเช่นนั้น จะมีผลอย่างมากต่อวิธีการใช้ข้อมูลหรือไม่

ปัญหาเกิดจากข้อเท็จจริงที่ว่าฉันและนักวิจัยเชิงวิชาการคนอื่นๆ ใช้การวิเคราะห์เครือข่ายที่ซับซ้อน การเรียนรู้ของเครื่อง การจับคู่รูปแบบ หรือเทคนิคปัญญาประดิษฐ์ ได้ใช้เทคนิคเหล่านั้นเพื่อทบทวนโดยสาธารณะเพื่อกำหนดความแข็งแกร่งของเทคนิคและความถูกต้องของข้อสรุป บริการรักษาความปลอดภัยของรัฐบาลและองค์กรภาคเอกชนไม่ได้ เราไม่รู้ถึงคุณภาพของวิธีการและวิธีการใช้งาน มีวิธีแก้ไขปัญหานี้หรือไม่?

ผู้ที่มาจากอีกด้านของการรักษาความปลอดภัย การเข้ารหัส เรียนรู้มานานแล้วว่าวิธีที่ดีที่สุดในการปรับปรุงคุณภาพ และด้วยเหตุนี้ ความปลอดภัยของอัลกอริทึมคือการทำให้เป็นสาธารณะ มีการเผยแพร่การใช้งานการเข้ารหัสลับและการเข้ารหัส และนักวิจัยสนับสนุนให้พยายามค้นหาข้อผิดพลาดหรือข้อบกพร่อง เพื่อปรับปรุงความปลอดภัยสำหรับทุกคนที่ใช้งาน นอกจากนี้ การใช้งานอัลกอริธึมการเข้ารหัสแบบปิดแหล่งที่มา (ไม่เปิดเผยต่อสาธารณะ) โดยทั่วไปจะเป็น is มองด้วยความสงสัย. หากพวกเขาต้องการตัดสินเราที่เปลี่ยนแปลงชีวิต ไม่ว่าเราจะถูกระบุว่าเป็นผู้ก่อการร้ายหรือไม่คู่ควรทางการเงินก็ตาม ควรใช้รูปแบบเดียวกันนี้กับอัลกอริธึมการรักษาความปลอดภัย

ข้อโต้แย้งต่อการเคลื่อนไหวดังกล่าวคืออัลกอริธึมที่เปิดกว้างและโปร่งใสอาจทำให้ผู้ก่อการร้ายปรับเปลี่ยนพฤติกรรมในโลกแห่งความเป็นจริงเพื่อหลีกเลี่ยงการถูกตรวจจับได้ นี่จะหมายถึงการเปลี่ยนแปลงสิ่งต่างๆ เช่น การโต้ตอบ ความสัมพันธ์ พฤติกรรมการท่องเว็บ และการเคลื่อนไหวที่อาจเกิดขึ้น แต่ถ้าอัลกอริธึมทำงานอย่างถูกต้องก็หมายความว่าจะหยุดทำตัวเหมือนผู้ก่อการร้าย หากการรักษาความปลอดภัย เสรีภาพ และความปลอดภัยในอนาคตของเราจะขึ้นอยู่กับอัลกอริธึมเหล่านี้ เราต้องมั่นใจได้ว่าจะทำงานอย่างไรและอย่างไร

เกี่ยวกับผู้เขียน

Philip Garnett อาจารย์ University of York

บทความนี้ถูกเผยแพร่เมื่อวันที่ สนทนา. อ่าน บทความต้นฉบับ.

หนังสือที่เกี่ยวข้อง:

at

ขอบคุณสำหรับการเยี่ยมชม InnerSelf.comที่ไหนมี 20,000 + บทความเปลี่ยนชีวิตส่งเสริม "ทัศนคติใหม่และความเป็นไปได้ใหม่" บทความทั้งหมดได้รับการแปลเป็น 30+ ภาษา. สมัครรับจดหมายข่าว ถึงนิตยสาร InnerSelf ซึ่งตีพิมพ์ทุกสัปดาห์ และ Daily Inspiration ของ Marie T Russell นิตยสาร InnerSelf ได้รับการตีพิมพ์ตั้งแต่ปี 1985