Ahmet Misirligul / Shutterstock

ภาพยนตร์สั้นเรื่อง Slaughterbots แสดงให้เห็นถึงอนาคตอันใกล้ซึ่งฝูงหม่องขนาดเล็กสังหารผู้คนหลายพันคนสำหรับความเชื่อทางการเมืองของพวกเขา เปิดตัวในเดือนพฤศจิกายน 2017 โดยนักวิชาการและนักกิจกรรมเตือนถึงอันตรายของปัญญาประดิษฐ์ขั้นสูง (AI) มันแพร่ระบาดอย่างรวดเร็วและดึงดูดความสนใจจากมุมมอง 3m จนถึงปัจจุบัน มันช่วยจุดประกาย การอภิปรายสาธารณะ เกี่ยวกับอนาคตของอาวุธอิสระและสร้างแรงกดดันต่อการประชุมนักการทูตที่สหประชาชาติ อนุสัญญาว่าด้วยอาวุธธรรมดา.

แต่การอ่านนิยายวิทยาศาสตร์แบบเก็งกำไรแบบนี้ไม่ได้มีประโยชน์สำหรับการดึงดูดความสนใจเท่านั้น คนที่ออกแบบและสร้างเทคโนโลยีขั้นสูงสามารถใช้เรื่องราวเพื่อพิจารณาผลที่ตามมาจากการทำงานของพวกเขาและทำให้แน่ใจว่ามันจะถูกนำมาใช้เพื่อประโยชน์ และเราคิดว่า“ การสร้างต้นแบบทางวิทยาศาสตร์” หรือ“ การออกแบบนิยาย” ประเภทนี้สามารถช่วยป้องกันอคติของมนุษย์ไม่ให้ทำงานในเทคโนโลยีใหม่ ๆ

{ชื่อ Y=9CO6M2HsoIA}

อคติสามารถนำไปสู่การตั้งค่าตามอำเภอใจบางหมวดหมู่ (ของผลลัพธ์ผู้คนหรือแนวคิด) เหนือกลุ่มอื่น ตัวอย่างเช่นบางคนอาจมีอคติต่อการว่าจ้างผู้หญิงเพื่อทำงานระดับผู้บริหารไม่ว่าพวกเขาจะรู้สึกตัวหรือไม่ก็ตาม หรือไม่.

เทคโนโลยีที่สร้างขึ้นรอบ ๆ ข้อมูลที่บันทึกอคติดังกล่าวสามารถจบลงได้ จำลองปัญหา. ตัวอย่างเช่นซอฟต์แวร์จัดหางานที่ออกแบบมาเพื่อเลือก CV ที่ดีที่สุดสำหรับงานเฉพาะอาจได้รับการตั้งโปรแกรมให้มองหาลักษณะที่สะท้อนอคติที่ไม่รู้สึกตัวเข้าหาผู้ชาย ในกรณีนี้อัลกอริธึมจะทำให้ CV ของผู้ชายชื่นชอบ และนี่ไม่ใช่ทฤษฎี - มัน เกิดขึ้นจริงกับ Amazon.

การออกแบบอัลกอริทึมโดยไม่คำนึงถึงผลกระทบด้านลบที่อาจเกิดขึ้น ได้รับการเปรียบเทียบ ถึงแพทย์“ เขียนเกี่ยวกับประโยชน์ของการรักษาที่กำหนดและไม่สนใจผลข้างเคียงอย่างสมบูรณ์ไม่ว่าจะรุนแรงแค่ไหนก็ตาม”

บริษัท ด้านเทคโนโลยีและนักวิจัยบางรายพยายามแก้ไขปัญหานี้ ตัวอย่างเช่น Google ดึงขึ้น ชุดของหลักการทางจริยธรรม เพื่อเป็นแนวทางในการพัฒนา AI และนักวิชาการในสหราชอาณาจักรได้เปิดตัวโครงการที่เรียกว่า ไม่เท่ากับ ที่มีวัตถุประสงค์เพื่อส่งเสริมความเป็นธรรมและความยุติธรรมในการออกแบบและการใช้เทคโนโลยี

ปัญหาคือที่สาธารณะ บริษัท มักจะส่งวิสัยทัศน์เชิงบวกของผลลัพธ์ที่อาจเกิดขึ้นของเทคโนโลยีใกล้อนาคต ตัวอย่างเช่นรถยนต์ที่ไม่มีคนขับมักจะแสดงให้เห็นว่าเป็นการแก้ไขปัญหาการขนส่งทั้งหมดของเราตั้งแต่ราคาไปจนถึงความปลอดภัยโดยไม่สนใจสิ่งที่เพิ่มขึ้น อันตรายจากการโจมตีไซเบอร์ หรือความจริงที่พวกเขาสามารถกระตุ้นให้ผู้คน เดินหรือปั่นจักรยานน้อยลง.

ความยากลำบากในการทำความเข้าใจว่าเทคโนโลยีดิจิทัลทำงานอย่างไรโดยเฉพาะอย่างยิ่งสิ่งที่ขับเคลื่อนด้วยอัลกอริธึมที่คลุมเครือทำให้ผู้คนยากที่จะเข้าใจมุมมองที่ซับซ้อนและครอบคลุมประเด็นต่างๆ สถานการณ์นี้ก่อให้เกิดความตึงเครียดระหว่างการเล่าเรื่องในเชิงบวกที่มั่นใจและความสงสัยที่คลุมเครือที่อคติถูกฝังอยู่ในระดับหนึ่งในเทคโนโลยีรอบตัวเรา นี่คือที่เราคิดว่าการเล่าเรื่องผ่านนิยายการออกแบบสามารถเข้ามา

เรื่องต่าง ๆ เป็นวิธีการคิดที่เป็นธรรมชาติเกี่ยวกับความเป็นไปได้และสถานการณ์ที่ซับซ้อนและเราได้ยินมาตลอดชีวิตของเรา นิยายวิทยาศาสตร์สามารถช่วยเราคาดการณ์ผลกระทบของเทคโนโลยีในอนาคตอันใกล้ที่มีต่อสังคมเช่นเดียวกับโรงฆ่าสัตว์ ซึ่งอาจรวมถึงประเด็นเรื่องความยุติธรรมทางสังคมเช่นเดียวกับที่กลุ่มบางกลุ่มเช่นผู้ลี้ภัยและแรงงานข้ามชาติสามารถเป็นได้ ยกเว้นจาก นวัตกรรมดิจิตอล

เปิดเผยอนาคต (เป็นไปได้)

ออกแบบเรื่องนิยาย จัดหาวิธีการใหม่สำหรับนักออกแบบวิศวกรและผู้ที่มีอนาคต (ในหมู่คนอื่น ๆ ) เพื่อคิดเกี่ยวกับผลกระทบของเทคโนโลยีจากมุมมองของมนุษย์และเชื่อมโยงสิ่งนี้กับความต้องการในอนาคตที่เป็นไปได้ ด้วยการผสมผสานระหว่างตรรกะและจินตนาการทำให้นวนิยายเรื่องการออกแบบสามารถเปิดเผยแง่มุมของวิธีการใช้และใช้เทคโนโลยีโดยเริ่มจากการสนทนาเกี่ยวกับมัน การขยายสาขาในอนาคต.

ตัวอย่างเช่นเรื่องสั้น“อาชญากรรมจัดหา” สำรวจสิ่งที่อาจเกิดขึ้นหาก AI ใช้ข้อมูลที่มีผู้คนหนาแน่นและฐานข้อมูลอาชญากรรมเพื่อคาดการณ์ว่าใครจะเป็นคนฆ่าคน นักวิจัยพบว่าเนื่องจากฐานข้อมูลเต็มไปด้วยผู้คนในกลุ่มชาติพันธุ์ชนกลุ่มน้อยที่ด้วยเหตุผลทางสังคมมีแนวโน้มที่จะเปิดเผยอีกครั้งรูปแบบ "การจัดหาอาชญากรรม" มีแนวโน้มที่จะ ผิดชนกลุ่มน้อยที่ต้องสงสัย กว่าคนผิวขาว

คุณไม่จำเป็นต้องเป็นนักเขียนที่มีความสามารถหรือสร้างภาพยนตร์ที่ลื่นไหลเพื่อสร้างนิยายการออกแบบ กิจกรรมระดมสมองที่เกี่ยวข้องกับการ์ดและกระดานเรื่องราว ได้ถูกนำมาใช้ เพื่อพัฒนานวนิยายออกแบบและช่วยพัฒนากระบวนการเล่าเรื่อง การสร้างเวิร์กช็อปที่ใช้เครื่องมือประเภทนี้ร่วมกันจะทำให้วิศวกรผู้ประกอบการและผู้กำหนดนโยบายสามารถใช้วิธีการประเมินนี้มากขึ้น และการทำให้ผลงานที่เปิดเผยสู่สาธารณะจะช่วยเปิดเผยอคติที่อาจเกิดขึ้นในเทคโนโลยีก่อนที่จะส่งผลกระทบต่อสังคม

การสนับสนุนให้นักออกแบบสร้างและแบ่งปันเรื่องราวมากขึ้นด้วยวิธีนี้จะช่วยให้มั่นใจได้ว่าการบรรยายว่าการหนุนเทคโนโลยีใหม่ไม่เพียง แต่นำเสนอภาพที่เป็นบวกหรือไม่เป็นเชิงลบหรือดีสโทเปีย แต่ผู้คนจะสามารถชื่นชมทั้งสองด้านของสิ่งที่เกิดขึ้นรอบตัวเรา

เกี่ยวกับผู้เขียน

Alessio Maliziaศาสตราจารย์ด้านการออกแบบประสบการณ์ผู้ใช้ มหาวิทยาลัย Hertfordshire และ ซิลวิโอ คาร์ต้าหัวหน้าฝ่ายศิลปะและการออกแบบและประธานกลุ่มวิจัยการออกแบบ มหาวิทยาลัย Hertfordshire

บทความนี้ตีพิมพ์ซ้ำจาก สนทนา ภายใต้ใบอนุญาตครีเอทีฟคอมมอนส์ อ่าน บทความต้นฉบับ.