เมื่อสิ่งต่าง ๆ ผิดพลาดในโลกอัตโนมัติ เราจะยังรู้หรือไม่ว่าต้องทำอย่างไร?

เราอยู่ในโลกที่ทั้งซับซ้อนและซับซ้อนขึ้นเรื่อยๆ อัตโนมัติ. เช่นเดียวกับที่เราต้องจัดการกับปัญหาที่ซับซ้อนมากขึ้น ระบบอัตโนมัติก็นำไปสู่การเสื่อมของทักษะของมนุษย์ ซึ่งอาจทำให้เราเปราะบางมากขึ้นเมื่อตอบสนองต่อสถานการณ์ที่ไม่คาดคิดหรือเมื่อมีสิ่งผิดปกติ

พิจารณา นาทีสุดท้ายของ Air France Flight 447ซึ่งตกลงสู่มหาสมุทรแอตแลนติกเมื่อเดือนพฤษภาคม 2009 หลังจากออกจากรีโอเดจาเนโร บราซิล ไปปารีส ประเทศฝรั่งเศส

บันทึกการบินของมันเปิดเผย ความสับสนในห้องนักบิน. เครื่องบินเอียงขึ้นที่ 15º ด้วยเสียงอัตโนมัติที่เรียกซ้ำๆ ว่า "แผงลอย แผงลอย" กระนั้น นักบินก็สั่นสะท้าน คนหนึ่งอุทานว่า “ […] เราไม่เข้าใจอะไรเลย”

นี่ไม่ใช่สถานที่ที่จะเข้าไปข้างในและลึกลึกของเที่ยวบินที่โชคร้ายนั้น นอกจากจะทราบว่าระบบใดๆ ที่ออกแบบมาเพื่อจัดการกับเหตุการณ์ฉุกเฉินโดยอัตโนมัติ ส่วนใหญ่แล้วจะทิ้งฐานทักษะที่เสื่อมโทรมสำหรับสถานการณ์ส่วนน้อยที่นักออกแบบสามารถทำได้ ไม่คาดการณ์

พูดถึง แฟร์ Vanityนาดีน ซาร์เตอร์ วิศวกรอุตสาหการแห่งมหาวิทยาลัยมิชิแกน เล่าถึงการสนทนากับวิศวกรห้าคนที่เกี่ยวข้องกับการสร้างเครื่องบินลำหนึ่ง

ฉันเริ่มถามว่า 'นี่หรือวิธีนี้ทำงานอย่างไร' และพวกเขาไม่สามารถเห็นด้วยกับคำตอบ ฉันก็เลยคิดว่า ถ้าวิศวกรทั้ง XNUMX คนนี้ตกลงกันไม่ได้ นักบินผู้น่าสงสาร ถ้าเขาเคยเจอสถานการณ์นั้น … โชคดีนะ

ผลที่ตามมาคือ ความซับซ้อนของการบินด้วยเครื่องบินไฮเทคที่สลับซับซ้อนอย่างพิถีพิถันได้ถูกว่าจ้างให้หุ่นยนต์ทำงานด้วย วิศวกรการบินไปทุกเจตนาและวัตถุประสงค์ที่หายไป จากห้องนักบิน มีเพียงนักบินรุ่นเก่าและอดีตนักบินกองทัพอากาศเท่านั้นที่ยังคงทักษะโดยละเอียดเหล่านั้น

ย้อนกลับไปบนพื้นดิน ในโลกของการขับขี่แบบอิสระ อาจมีคนรุ่นต่อๆ มาทั้งรุ่นที่ไม่มีประสบการณ์ในทางปฏิบัติใดๆ การขับขี่และการนำทาง ยานพาหนะ.

เราเห็นสัญญาณของ .แล้ว อะไรจะผิดพลาดได้ เมื่อมนุษย์ปล่อยการควบคุมให้ ระบบอิสระ.

การสอบสวนใน อุบัติเหตุร้ายแรงของ Tesla Model S พร้อมระบบขับเคลื่อนอัตโนมัติ ตั้งข้อสังเกตว่าบริษัทได้ให้ข้อมูลเกี่ยวกับ “ข้อจำกัดของระบบ” แก่ไดรเวอร์ ในกรณีนั้น ก็ยังขึ้นอยู่กับคนขับที่ต้องใส่ใจ

รับล่าสุดทางอีเมล

แต่คนๆ หนึ่งจะมีโอกาสใดที่จะเข้ายึดอำนาจควบคุมได้ หากสิ่งต่างๆ เริ่มผิดพลาดในอนาคต รถยนต์ขับเคลื่อนอัตโนมัติเต็มรูปแบบ. พวกเขาจะรู้วิธีสังเกตสัญญาณเริ่มต้นของภัยพิบัติที่กำลังจะเกิดขึ้นหรือไม่?

แพ้ทางเรา?

แรงผลักดันนี้เป็นการกำหนดทางเทคโนโลยีที่เชื่อว่านวัตกรรมใดๆ ก็ตามเป็นสิ่งที่ดีอย่างแท้จริง ในขณะที่เทคโนโลยีที่เกิดขึ้นใหม่อาจยังกำหนดสิ่งที่เป็นมนุษย์ ความท้าทายคือการ ตระหนักถึงความเสี่ยง และต้องทำอย่างไรเพื่อไม่ให้เกิดข้อผิดพลาด

ยากขึ้นเรื่อยๆ เนื่องจากเราได้เพิ่มความซับซ้อน โดยเฉพาะอย่างยิ่งกับการขับรถอัตโนมัติของ รถไฟชานเมือง, แท็กซี่อากาศ และ โดรนส่งของ.

นักออกแบบระบบได้สร้างระบบที่ใหญ่ขึ้นและเชื่อมโยงกันมากขึ้นเพื่อแบ่งปันภาระการประมวลผลของคอมพิวเตอร์ แม้ว่าสิ่งนี้จะทำให้การสร้างสรรค์ของพวกเขาเป็นตัวเลือกหลักสำหรับการแยกย่อย พวกเขามองข้ามความจริงที่ว่าเมื่อทุกอย่างเชื่อมต่อกัน ปัญหาต่างๆ สามารถแพร่กระจายไปพร้อม ๆ กับทางแก้ไข บางครั้งอาจมากกว่านั้น

ความซับซ้อนที่เพิ่มขึ้นและมหาศาลของโลกอัตโนมัติก่อให้เกิดความเสี่ยงที่คล้ายคลึงกัน

จุดอันตราย

เมื่อมองย้อนกลับไป สิ่งที่จำเป็นคือความสามารถในการตัดเครือข่ายให้เป็นอิสระเมื่อมีจุดบกพร่อง หรืออย่างน้อยก็เพื่อปิดส่วนต่าง ๆ ของเครือข่ายเดียวเมื่อมีจุดบกพร่องในส่วนอื่นภายในเครือข่าย

"เกาะ" นี้เป็นคุณลักษณะของโครงข่ายไฟฟ้าอัจฉริยะที่ให้ขอบเขตในการแบ่งเครือข่ายเป็นส่วนย่อยที่สามารถตอบสนองความต้องการพลังงานภายในได้ด้วยตนเอง การสร้างแบบจำลองได้แสดงให้เห็นว่า การเชื่อมต่อน้อยลงสามารถนำไปสู่ความปลอดภัยที่มากขึ้น.

วิทยาศาสตร์ที่ซับซ้อนที่โผล่ออกมาสามารถช่วยระบุจุดอันตรายที่อาจอยู่ในเครือข่ายที่เชื่อมต่อถึงกันสูงได้หรือไม่? Marten Scheffer และเพื่อนร่วมงาน คิดอย่างนั้น เขาได้เห็นความคล้ายคลึงกันระหว่างพฤติกรรมของระบบธรรมชาติ (ของเขา) กับระบบเศรษฐกิจและการเงิน

ของเขา งานก่อนหน้านี้ ในทะเลสาบ แนวปะการัง ทะเล ป่าไม้ และทุ่งหญ้า พบว่าสภาพแวดล้อมที่เปลี่ยนแปลงไปทีละน้อย เช่น สภาพภูมิอากาศ ปริมาณสารอาหาร และการสูญเสียแหล่งที่อยู่อาศัย สามารถไปถึงจุดเปลี่ยนที่เปลี่ยนสภาพให้กลายเป็นสภาพที่ต่ำกว่าซึ่งบางครั้งไม่สามารถย้อนกลับได้

นายธนาคารและนักเศรษฐศาสตร์สามารถต่อสู้กับความมั่นคงของตลาดการเงินเรียนรู้จากนักวิจัยด้านนิเวศวิทยา ระบาดวิทยา และภูมิอากาศวิทยาเพื่อพัฒนาเครื่องหมายของความใกล้ชิดกับเกณฑ์วิกฤตและความล้มเหลวของระบบได้หรือไม่

ในเดือนกุมภาพันธ์ 2016 ทั้งหมดนี้มารวมกันในรูปแบบของ บทความเกี่ยวกับทฤษฎีความซับซ้อนและกฎระเบียบทางการเงิน ร่วมเขียนโดยผู้เชี่ยวชาญที่หลากหลาย รวมถึงนักเศรษฐศาสตร์ นายธนาคาร นักฟิสิกส์ นักภูมิอากาศวิทยา นักนิเวศวิทยา นักสัตววิทยา สัตวแพทย์ และนักระบาดวิทยา

พวกเขาแนะนำการบูรณาการข้อมูล วิธีการ และตัวชี้วัดแบบออนไลน์ โดยป้อนเข้าสู่การทดสอบความเครียดสำหรับระบบเศรษฐกิจและการเงินทั่วโลกในเวลาที่ใกล้เคียงกับเรียลไทม์ แบบแรกคล้ายกับสิ่งที่ได้รับในการจัดการกับระบบที่ซับซ้อนอื่น ๆ เช่นสภาพอากาศ

เราสามารถเริ่มเห็นว่าตัวอย่างโลกแห่งการขับขี่อัตโนมัติของเราครอบคลุมถึงปัญหาความเสถียรของเครือข่ายได้อย่างไร ลองนึกภาพเครือข่ายยานยนต์อัตโนมัติที่เชื่อมต่อถึงกันอย่างสูง

จำเป็นต้องรู้วิธีตรวจจับและแยกจุดบกพร่องที่อาจเกิดขึ้นในเครือข่ายนั้นอย่างชัดเจน ก่อนที่สิ่งผิดปกติจะตามมาด้วยผลลัพธ์ที่น่าสลดใจ นี่เป็นมากกว่าการปกป้องผู้ขับขี่และผู้โดยสารจากความล้มเหลวของระบบในรถยนต์ขับเคลื่อนอัตโนมัติเพียงคันเดียว

ถึงเวลาที่จะคิดว่าเราจะใช้ความก้าวหน้าของสหสาขาวิชาชีพเหล่านั้นในการทำความเข้าใจเสถียรภาพของเครือข่ายขนาดใหญ่ดังกล่าวได้อย่างไร เพื่อหลีกเลี่ยงผลกระทบที่รุนแรง