คุณรู้ไหมว่าจะเกิดอะไรขึ้นเมื่อคุณแบ่งปันข้อมูลของคุณ? mtkang/shutterstock.com

ทุกแง่มุมของชีวิตสามารถถูกชี้นำโดยอัลกอริธึมปัญญาประดิษฐ์ ตั้งแต่การเลือกเส้นทางที่จะใช้สำหรับการเดินทางตอนเช้า ไปจนถึงการตัดสินใจว่าจะไปออกเดทกับใคร ไปจนถึงเรื่องทางกฎหมายและการพิจารณาคดีที่ซับซ้อน เช่น การรักษาแบบคาดการณ์ล่วงหน้า

บริษัทเทคโนโลยีขนาดใหญ่ เช่น Google และ Facebook ใช้ AI เพื่อรับข้อมูลเชิงลึกเกี่ยวกับข้อมูลลูกค้าโดยละเอียดจำนวนมหาศาล ซึ่งช่วยให้พวกเขาสามารถสร้างรายได้จากความชอบโดยรวมของผู้ใช้ผ่านแนวทางปฏิบัติ เช่น การกำหนดเป้าหมายแบบย่อย ซึ่งเป็นกลยุทธ์ที่ผู้โฆษณาใช้เพื่อกำหนดเป้าหมายกลุ่มผู้ใช้เฉพาะเจาะจงให้แคบลง

ในขณะเดียวกัน หลายคนเชื่อมั่นในแพลตฟอร์มและอัลกอริธึมมากกว่ารัฐบาลและภาคประชาสังคม การศึกษาเดือนตุลาคม 2018 ชี้ให้เห็นว่าผู้คนสาธิต “อัลกอริธึมชื่นชม” เท่าที่พวกเขาจะพึ่งพาคำแนะนำมากขึ้นเมื่อพวกเขาคิดว่ามันมาจากอัลกอริธึมมากกว่าจากมนุษย์

ในอดีต ผู้เชี่ยวชาญด้านเทคโนโลยีมีความกังวลเกี่ยวกับ a “การแบ่งแยกทางดิจิทัล” ระหว่างผู้ที่สามารถเข้าถึงคอมพิวเตอร์และอินเทอร์เน็ตและผู้ที่ไม่สามารถเข้าถึงได้ ครัวเรือนที่เข้าถึงเทคโนโลยีดิจิทัลได้น้อยจะเสียเปรียบในเรื่องความสามารถในการ รับเงินและสะสมทักษะ.

แต่เนื่องจากอุปกรณ์ดิจิทัลมีเพิ่มมากขึ้น ความแตกแยกจึงไม่ใช่แค่การเข้าถึงอีกต่อไป ผู้คนจัดการกับข้อมูลล้นเกินและการตัดสินใจเชิงอัลกอริทึมมากมายที่แทรกซึมทุกแง่มุมของชีวิตอย่างไร

ผู้ใช้ที่เก่งกาจกำลังออกจากอุปกรณ์ต่างๆ และเรียนรู้ว่าอัลกอริธึมส่งผลต่อชีวิตของพวกเขาอย่างไร ในขณะเดียวกัน ผู้บริโภคที่มีข้อมูลน้อยก็อาศัยอัลกอริทึมมากขึ้นเพื่อเป็นแนวทางในการตัดสินใจ

คุณควรเชื่อมต่อ – หรือถอดปลั๊ก? pryzmat/shutterstock.com

ความลับเบื้องหลังปัญญาประดิษฐ์

เหตุผลหลักที่ทำให้เกิดความเหลื่อมล้ำทางดิจิทัลในความคิดของผมในฐานะคนที่ศึกษาระบบสารสนเทศก็คือ น้อยคนนักที่จะเข้าใจว่าอัลกอริธึมทำงานอย่างไร. สำหรับผู้ใช้ส่วนใหญ่ อัลกอริทึมถูกมองว่าเป็นกล่องดำ

อัลกอริธึม AI นำข้อมูลมาปรับใช้กับแบบจำลองทางคณิตศาสตร์และคาดการณ์ได้ตั้งแต่ เพลงอะไรที่คุณน่าจะชอบ ไปยัง มีคนควรติดคุกกี่ปี. โมเดลเหล่านี้ได้รับการพัฒนาและปรับแต่งตามข้อมูลในอดีตและความสำเร็จของรุ่นก่อนหน้า คนส่วนใหญ่ – แม้บางครั้งเป็นนักออกแบบอัลกอริทึม – ไม่รู้จริงๆ ว่ามีอะไรอยู่ในโมเดล

นักวิจัย กังวลมานานแล้ว เกี่ยวกับความเป็นธรรมของอัลกอริทึม ตัวอย่างเช่น เครื่องมือสรรหาบุคลากรที่ใช้ AI ของ Amazon กลายเป็น ไล่ผู้สมัครหญิง. ระบบของ Amazon ถูกคัดแยกออก คำที่มีเพศโดยปริยาย – คำที่ผู้ชายมักใช้ในคำพูดในชีวิตประจำวัน เช่น "ทำ" และ "จับ"

การศึกษาอื่น ๆ ได้แสดงให้เห็นว่าอัลกอริธึมการพิจารณาคดีมีความลำเอียงทางเชื้อชาติ โดยพิพากษาให้จำเลยผิวดำที่น่าสงสารนานกว่าคนอื่นๆ

ในฐานะที่เป็นส่วนหนึ่งของกฎระเบียบให้ความคุ้มครองข้อมูลส่วนบุคคลของผู้บริโภคที่ได้รับอนุมัติเมื่อเร็วๆ นี้ในสหภาพยุโรป ผู้คนมี “สิทธิในการอธิบาย” ของเกณฑ์ที่อัลกอริทึมใช้ในการตัดสินใจ กฎหมายฉบับนี้ปฏิบัติต่อกระบวนการตัดสินใจด้วยอัลกอริธึมเหมือนหนังสือสูตรอาหาร ความคิดที่ว่าถ้าคุณเข้าใจสูตร คุณจะเข้าใจว่าอัลกอริทึมส่งผลต่อชีวิตของคุณอย่างไร

ในขณะเดียวกัน นักวิจัย AI บางคนได้ผลักดันให้มีอัลกอริทึมที่ ยุติธรรม รับผิดชอบ และโปร่งใสเช่นเดียวกับ ตีความได้หมายความว่าพวกเขาควรจะตัดสินใจผ่านกระบวนการที่มนุษย์สามารถเข้าใจและไว้วางใจได้

ความโปร่งใสจะส่งผลอย่างไร? ใน การศึกษาหนึ่งนักเรียนได้รับการให้คะแนนโดยอัลกอริทึมและเสนอคำอธิบายในระดับต่างๆ เกี่ยวกับวิธีการปรับคะแนนของเพื่อนๆ เพื่อให้ได้เกรดสุดท้าย นักเรียนที่มีคำอธิบายที่โปร่งใสกว่านั้นจริง ๆ แล้วเชื่อถืออัลกอริทึมน้อยลง นี่เป็นอีกครั้งที่ชี้ให้เห็นถึงการแบ่งแยกทางดิจิทัล: การตระหนักรู้เกี่ยวกับอัลกอริทึมไม่ได้นำไปสู่ความมั่นใจในระบบมากขึ้น

แต่ความโปร่งใสไม่ใช่ยาครอบจักรวาล แม้ว่ากระบวนการโดยรวมของอัลกอริธึมจะถูกร่างออกมา รายละเอียดอาจจะยังซับซ้อนเกินไป เพื่อให้ผู้ใช้เข้าใจ ความโปร่งใสจะช่วยเหลือเฉพาะผู้ใช้ที่ฉลาดพอที่จะเข้าใจความซับซ้อนของอัลกอริทึม

ตัวอย่างเช่น ในปี 2014 เบน เบอร์นันกี อดีตประธานธนาคารกลางสหรัฐ (เฟด) เป็นคนแรก ปฏิเสธการรีไฟแนนซ์จำนองด้วยระบบอัตโนมัติ. บุคคลส่วนใหญ่ที่สมัครรีไฟแนนซ์สินเชื่อที่อยู่อาศัยจะไม่เข้าใจว่าอัลกอริธึมสามารถกำหนดความน่าเชื่อถือทางเครดิตได้อย่างไร

อัลกอริทึมบอกว่าจะทำอะไรในวันนี้? มาเรีย ซาเวนโก/shutterstock.com

การเลือกไม่ใช้ระบบนิเวศข้อมูลใหม่

แม้ว่าอัลกอริธึมจะมีอิทธิพลต่อชีวิตของผู้คนมากมาย แต่มีผู้เข้าร่วมเพียงส่วนน้อยเท่านั้นที่มีความซับซ้อนพอที่จะมีส่วนร่วมอย่างเต็มที่ อัลกอริทึมส่งผลต่อชีวิตอย่างไร.

มีสถิติไม่มากนักเกี่ยวกับจำนวนผู้ที่ทราบอัลกอริธึม การศึกษาพบหลักฐานของ อัลกอริธึมวิตกกังวลทำให้เกิดความไม่สมดุลอย่างลึกซึ้งของพลังระหว่างแพลตฟอร์มที่ปรับใช้อัลกอริธึมและ ผู้ใช้ที่พึ่งพาพวกเขา.

ศึกษาการใช้งานเฟสบุ๊ค พบว่าเมื่อผู้เข้าร่วมทราบถึงอัลกอริทึมของ Facebook สำหรับการดูแลจัดการฟีดข่าว ผู้เข้าร่วมประมาณ 83% ได้ปรับเปลี่ยนพฤติกรรมเพื่อพยายามใช้ประโยชน์จากอัลกอริทึม ขณะที่ประมาณ 10% ลดการใช้ Facebook

รายงานประจำเดือนพฤศจิกายน 2018 จากศูนย์วิจัยพิว พบว่าประชาชนส่วนใหญ่มีความกังวลอย่างมากเกี่ยวกับการใช้อัลกอริธึมสำหรับการใช้งานเฉพาะ พบว่า 66% คิดว่าไม่ยุติธรรมสำหรับอัลกอริทึมในการคำนวณคะแนนการเงินส่วนบุคคล ในขณะที่ 57% พูดแบบเดียวกันเกี่ยวกับการคัดกรองประวัติย่อแบบอัตโนมัติ

บุคคลส่วนน้อยใช้การควบคุมวิธีที่อัลกอริทึมใช้ข้อมูลส่วนบุคคลของตน ตัวอย่างเช่น แพลตฟอร์ม Hu-Manity อนุญาตให้ผู้ใช้ ตัวเลือกในการควบคุมจำนวนข้อมูลที่ถูกเก็บรวบรวม. สารานุกรมออนไลน์ Everipedia ให้ผู้ใช้สามารถเป็นผู้มีส่วนได้ส่วนเสียในกระบวนการจัดการ ซึ่งหมายความว่าผู้ใช้ยังสามารถควบคุมวิธีการรวบรวมและนำเสนอข้อมูลต่อพวกเขาได้

อย่างไรก็ตาม แพลตฟอร์มส่วนใหญ่ไม่ได้ให้ความยืดหยุ่นแก่ผู้ใช้ปลายทางหรือสิทธิ์ในการเลือกวิธีที่อัลกอริทึมใช้การตั้งค่าในการดูแลจัดการฟีดข่าวหรือแนะนำเนื้อหา หากมีตัวเลือกผู้ใช้อาจไม่ทราบ ผู้ใช้ Facebook ประมาณ 74% กล่าวในแบบสำรวจว่าพวกเขา ไม่รู้ว่าแพลตฟอร์มนี้แสดงลักษณะความสนใจส่วนตัวของพวกเขาอย่างไร.

ในมุมมองของฉัน ความรู้ทางดิจิทัลแบบใหม่ไม่ได้ใช้คอมพิวเตอร์หรืออินเทอร์เน็ต แต่เป็นความเข้าใจและประเมินผลที่ตามมาของการใช้ชีวิตแบบเสียบปลั๊กอยู่เสมอ

ไลฟ์สไตล์นี้ส่งผลอย่างมีความหมายต่อ วิธีที่ผู้คนโต้ตอบกับผู้อื่น; เกี่ยวกับความสามารถของพวกเขาที่จะ ใส่ใจกับข้อมูลใหม่; และต่อไป ความซับซ้อนของกระบวนการตัดสินใจ.

ความวิตกกังวลเกี่ยวกับอัลกอริธึมที่เพิ่มขึ้นอาจสะท้อนถึงการเปลี่ยนแปลงทางเศรษฐกิจแบบขนาน บุคคลกลุ่มเล็กๆ คือ เก็บเกี่ยวผลประโยชน์จากระบบอัตโนมัติในขณะที่คนงานจำนวนมากอยู่ในa ตำแหน่งที่ไม่มั่นคง.

การเลือกไม่ใช้การจัดการอัลกอริธึมถือเป็นเรื่องหรูหรา และวันหนึ่งอาจเป็นสัญลักษณ์ของความมั่งคั่งที่มีให้เพียงไม่กี่คนเท่านั้น คำถามคือสิ่งที่อันตรายที่วัดได้สำหรับผู้ที่อยู่ผิดด้านของการแบ่งดิจิทัล

เกี่ยวกับผู้เขียน

อัญชนา สุสารลา รองศาสตราจารย์ด้านระบบสารสนเทศ มหาวิทยาลัยรัฐมิชิแกน

บทความนี้ตีพิมพ์ซ้ำจาก สนทนา ภายใต้ใบอนุญาตครีเอทีฟคอมมอนส์ อ่าน บทความต้นฉบับ.

หนังสือที่เกี่ยวข้อง

at ตลาดภายในและอเมซอน