ภาพโดย: Norbert Aepli สวิตเซอร์แลนด์ (ผู้ใช้:Noebu)

ในปี 2016 รถยนต์ไร้คนขับกลายเป็นกระแสหลัก รถยนต์ไร้คนขับของอูเบอร์ กลายเป็นที่แพร่หลาย ในละแวกใกล้เคียงที่ฉันอาศัยอยู่ในพิตต์สเบิร์ก และ สั้น ๆ ในซานฟรานซิสโก. กระทรวงคมนาคมของสหรัฐฯ ออกให้ คำแนะนำด้านกฎระเบียบใหม่ สำหรับพวกเขา. นับไม่ถ้วน เอกสาร และ คอลัมน์ พูดคุยถึงวิธีการขับรถยนต์ด้วยตนเอง น่า แก้ ข้อสงสัยทางจริยธรรม เมื่อมีสิ่งผิดปกติ และน่าเสียดายที่ปี 2016 ได้เห็น การเสียชีวิตครั้งแรกที่เกี่ยวข้องกับยานพาหนะที่เป็นอิสระ.

เทคโนโลยีอิสระกำลังแพร่กระจายอย่างรวดเร็วนอกเหนือจากภาคการขนส่งเข้าสู่ การดูแลสุขภาพ, การป้องกันทางไซเบอร์ขั้นสูง และแม้กระทั่ง อาวุธอิสระ. ในปี 2017 เราจะต้องตัดสินใจว่าเราจะเชื่อถือเทคโนโลยีเหล่านี้ได้หรือไม่ นั่นจะยากกว่าที่เราคาดไว้มาก

ความไว้วางใจนั้นซับซ้อนและหลากหลาย แต่ยังเป็นส่วนสำคัญในชีวิตของเราด้วย เรามักจะไว้วางใจเทคโนโลยี ขึ้นอยู่กับการคาดการณ์: ฉันเชื่อในบางสิ่งถ้าฉันรู้ว่ามันจะทำอะไรในสถานการณ์เฉพาะ แม้ว่าฉันจะไม่รู้ว่าทำไม ตัวอย่างเช่น ฉันเชื่อในคอมพิวเตอร์ของฉันเพราะฉันรู้ว่าคอมพิวเตอร์ทำงานอย่างไร รวมทั้งเวลาที่คอมพิวเตอร์จะพัง ฉันเลิกวางใจถ้ามันเริ่มมีพฤติกรรมแตกต่างหรือน่าประหลาดใจ

ในทางตรงกันข้าม ความไว้ใจของฉันที่มีต่อภรรยานั้นขึ้นอยู่กับ เข้าใจความเชื่อ ค่านิยม และบุคลิกภาพของเธอ. โดยทั่วไปแล้ว ความไว้วางใจระหว่างบุคคลไม่ได้เกี่ยวข้องกับการรู้ว่าอีกฝ่ายจะทำอะไร – ภรรยาของฉันทำให้ฉันประหลาดใจในบางครั้ง! – แต่ทำไมพวกเขาถึงทำเหมือนที่พวกเขาทำ และแน่นอน เราสามารถไว้วางใจใครบางคน (หรือบางสิ่งบางอย่าง) ได้ทั้งสองทาง หากเรารู้ทั้งสิ่งที่พวกเขาจะทำและทำไม

ฉันได้สำรวจฐานที่เป็นไปได้สำหรับความไว้วางใจของเราในรถยนต์ที่ขับเคลื่อนด้วยตนเองและเทคโนโลยีอิสระอื่นๆ จากทั้งมุมมองด้านจริยธรรมและจิตวิทยา อุปกรณ์เหล่านี้เป็นอุปกรณ์ ดังนั้นความสามารถในการคาดการณ์จึงอาจดูเหมือนเป็นกุญแจสำคัญ อย่างไรก็ตาม เนื่องจากความเป็นอิสระของพวกเขา เราจำเป็นต้องพิจารณาถึงความสำคัญและคุณค่า – และความท้าทาย – ของการเรียนรู้ที่จะไว้วางใจพวกเขาในแบบที่เราไว้วางใจในมนุษย์คนอื่นๆ

เอกราชและการคาดการณ์

เราต้องการให้เทคโนโลยีของเรา รวมทั้งรถยนต์ที่ขับเคลื่อนด้วยตนเอง ทำงานในแบบที่เราสามารถคาดการณ์และคาดหวังได้ แน่นอนว่าระบบเหล่านี้ค่อนข้างอ่อนไหวต่อบริบท รวมถึงยานพาหนะอื่นๆ คนเดินถนน สภาพอากาศ และอื่นๆ อย่างไรก็ตาม โดยทั่วไปแล้ว เราอาจคาดหวังว่ารถที่ขับด้วยตัวเองซึ่งถูกวางไว้ในสภาพแวดล้อมเดียวกันซ้ำแล้วซ้ำเล่าควรจะมีพฤติกรรมคล้ายกันในแต่ละครั้ง แต่ในแง่ใด รถยนต์ที่สามารถคาดการณ์ได้สูงเหล่านี้จะเป็นรถยนต์อัตโนมัติ แทนที่จะเป็นแบบอัตโนมัติ

มี รับ หลาย ต่าง ความพยายามในการ ไปยัง กำหนด เอกราชแต่พวกเขาทั้งหมดมีสิ่งนี้เหมือนกัน: ระบบอิสระสามารถตัดสินใจและวางแผน (สำคัญ) ของตนเองได้ ดังนั้นจึงสามารถดำเนินการต่างจากที่คาดไว้

อันที่จริง เหตุผลหนึ่งที่ต้องใช้เอกราช (แตกต่างจากระบบอัตโนมัติ) ก็คือว่าระบบเหล่านั้นสามารถดำเนินตามแนวทางการปฏิบัติที่ไม่คาดคิดและน่าประหลาดใจ แม้ว่าจะสมเหตุสมผลก็ตาม ตัวอย่างเช่น, AlphaGo ของ DeepMind ชนะเกมที่สองของซีรีส์ Go ล่าสุดกับ Lee Sedol ส่วนหนึ่งเป็นเพราะ การเคลื่อนไหวที่ไม่มีมนุษย์คนใดจะทำได้ แต่ก็เป็นการเคลื่อนไหวที่ถูกต้อง. แต่ความประหลาดใจแบบเดียวกันนี้ทำให้ยากต่อการสร้างความไว้วางใจตามการคาดการณ์ ความน่าเชื่อถือที่แข็งแกร่งโดยอาศัยการคาดการณ์เพียงอย่างเดียวนั้นเป็นไปได้สำหรับระบบอัตโนมัติหรืออัตโนมัติเท่านั้น เนื่องจากสามารถคาดการณ์ได้อย่างแม่นยำ (สมมติว่าระบบทำงานตามปกติ)

พบกับเซอร์ไพรส์

แน่นอน คนอื่นๆ มักจะทำให้เราประหลาดใจ แต่เราก็วางใจพวกเขาได้ในระดับที่น่าทึ่ง แม้กระทั่งมอบพลังชีวิตและความตายเหนือตัวเราเองให้พวกเขา ทหารไว้วางใจสหายของพวกเขาในสภาพแวดล้อมที่ซับซ้อนและไม่เป็นมิตร ผู้ป่วยไว้วางใจศัลยแพทย์ของเธอในการตัดเนื้องอก และในทางโลกีย์ ภรรยาของฉันไว้ใจให้ฉันขับรถอย่างปลอดภัย ความไว้วางใจระหว่างบุคคลนี้ช่วยให้เราสามารถยอมรับความประหลาดใจ ดังนั้นบางทีเราอาจพัฒนาบางอย่าง เช่น ความไว้วางใจระหว่างบุคคลในรถยนต์ที่ขับเคลื่อนด้วยตนเอง

โดยทั่วไป ความไว้วางใจระหว่างบุคคลจำเป็นต้องมีความเข้าใจว่าทำไมบางคนถึงกระทำการในลักษณะเฉพาะ แม้ว่าคุณจะคาดเดาการตัดสินใจที่แน่นอนไม่ได้ก็ตาม ภรรยาของฉันอาจไม่รู้แน่ชัดว่าฉันจะขับรถอย่างไร แต่เธอรู้ว่าฉันใช้เหตุผลแบบใดในการขับรถ และมันค่อนข้างง่ายที่จะเข้าใจว่าทำไมคนอื่นถึงทำบางสิ่ง อย่างแม่นยำเพราะเราทุกคนคิดและให้เหตุผลใกล้เคียงกัน แม้ว่าจะมี “วัตถุดิบ” ที่แตกต่างกัน – ความเชื่อ ความปรารถนา และประสบการณ์ของเรา

อันที่จริง เราทำการอนุมานอย่างต่อเนื่องและโดยไม่รู้ตัวเกี่ยวกับความเชื่อและความปรารถนาของผู้อื่นตามการกระทำของพวกเขา ส่วนใหญ่โดยสมมติว่าพวกเขาคิด ให้เหตุผล และตัดสินใจอย่างคร่าวๆ เช่นเดียวกับที่เราทำ การอนุมานและการใช้เหตุผลทั้งหมดเหล่านี้ขึ้นอยู่กับความรู้ความเข้าใจ (ของมนุษย์) ที่เรามีร่วมกันช่วยให้เราเข้าใจเหตุผลของผู้อื่น และด้วยเหตุนี้จึงสร้างความไว้วางใจระหว่างบุคคลเมื่อเวลาผ่านไป

คิดเหมือนคน?

เทคโนโลยีอิสระ โดยเฉพาะรถยนต์ไร้คนขับ อย่าคิดและตัดสินใจเหมือนคน มีความพยายามทั้ง อดีต และ เมื่อเร็ว ๆ นี้เพื่อพัฒนาระบบคอมพิวเตอร์ที่คิดและให้เหตุผลเหมือนมนุษย์ อย่างไรก็ตาม ชุดรูปแบบที่สอดคล้องกันของแมชชีนเลิร์นนิงหนึ่งช่วงสองทศวรรษที่ผ่านมาได้รับผลประโยชน์มหาศาลอย่างแม่นยำโดยไม่ต้องให้ระบบปัญญาประดิษฐ์ของเราทำงานในลักษณะที่เหมือนมนุษย์ ในทางกลับกัน อัลกอริธึมและระบบการเรียนรู้ของเครื่อง เช่น AlphaGo มักจะสามารถ มีประสิทธิภาพเหนือกว่าผู้เชี่ยวชาญที่เป็นมนุษย์ โดยเน้นเฉพาะปัญหาเฉพาะที่แล้วแก้ปัญหาให้แตกต่างไปจากที่มนุษย์ทำ

ผลที่ได้คือ ความพยายามที่จะตีความเทคโนโลยีที่เป็นอิสระในแง่ของความเชื่อและความปรารถนาเหมือนมนุษย์สามารถผิดพลาดได้อย่างน่าทึ่ง เมื่อคนขับเห็นลูกบอลบนถนน พวกเราส่วนใหญ่จะชะลอความเร็วโดยอัตโนมัติอย่างมาก เพื่อหลีกเลี่ยงไม่ให้โดนเด็กที่อาจไล่ตาม หากเรานั่งในรถยนต์ไร้คนขับและเห็นลูกบอลกลิ้งไปตามถนน เราคาดหวังว่ารถจะรับรู้ได้ และพร้อมที่จะหยุดเพื่อให้เด็กวิ่ง อย่างไรก็ตาม รถอาจมองเห็นแต่สิ่งกีดขวางที่ต้องหลีกเลี่ยง ถ้ามันหักเลี้ยวโดยไม่ทำให้ช้าลง มนุษย์บนเรืออาจตื่นตระหนก – และเด็กอาจตกอยู่ในอันตราย

การอนุมานของเราเกี่ยวกับ "ความเชื่อ" และ "ความปรารถนา" ของรถยนต์ที่ขับด้วยตนเองนั้นเกือบจะผิดพลาดอย่างแน่นอนในวิธีที่สำคัญ เนื่องจากรถไม่มีความเชื่อหรือความปรารถนาเหมือนมนุษย์ เราไม่สามารถพัฒนาความไว้วางใจระหว่างบุคคลในรถยนต์ที่ขับด้วยตนเองได้ง่ายๆ โดยดูจากการขับขี่ เนื่องจากเราจะไม่สรุปเหตุผลที่อยู่เบื้องหลังการกระทำของรถดังกล่าวได้อย่างถูกต้อง

แน่นอน ลูกค้าในสังคมหรือตลาดสามารถยืนกรานว่ารถยนต์ที่ขับด้วยตนเองนั้นมีลักษณะเหมือนมนุษย์ (จิตวิทยา) ได้อย่างแม่นยำ เพื่อให้เราเข้าใจและพัฒนาความไว้วางใจระหว่างบุคคลในรถยนต์เหล่านั้น กลยุทธ์นี้จะให้ความหมายใหม่แก่ “การออกแบบที่เน้นมนุษย์เป็นศูนย์กลาง” เนื่องจากระบบจะได้รับการออกแบบมาโดยเฉพาะเพื่อให้มนุษย์สามารถตีความการกระทำได้ แต่ยังต้องมีนวนิยายด้วย อัลกอริทึม และ เทคนิค ในรถยนต์ไร้คนขับ ซึ่งทั้งหมดนี้จะแสดงถึงการเปลี่ยนแปลงครั้งใหญ่จากกลยุทธ์การวิจัยและพัฒนาในปัจจุบันสำหรับรถยนต์ไร้คนขับและเทคโนโลยีอัตโนมัติอื่นๆ

รถยนต์ที่ขับด้วยตนเองมีศักยภาพในการปรับเปลี่ยนโครงสร้างพื้นฐานด้านการขนส่งของเราในแนวทางที่เป็นประโยชน์มากมาย แต่ถ้าเราสามารถไว้วางใจพวกเขามากพอที่จะใช้งานได้จริง และที่น่าแปลกก็คือ คุณลักษณะที่ทำให้รถยนต์ที่ขับด้วยตนเองมีค่า นั่นคือ การตัดสินใจที่ยืดหยุ่นและเป็นอิสระในสถานการณ์ที่หลากหลาย คือสิ่งที่ทำให้ยากต่อการเชื่อถืออย่างแท้จริง

ผู้เขียน

David Danks ศาสตราจารย์ด้านปรัชญาและจิตวิทยา มหาวิทยาลัยคาร์เนกีเมลลอน

บทความนี้ถูกเผยแพร่เมื่อวันที่ สนทนา. อ่าน บทความต้นฉบับ.

หนังสือที่เกี่ยวข้อง:

at ตลาดภายในและอเมซอน