การเปิดตัวแชทบอทขั้นสูง ChatGPT ในปี 2022 ใครๆ ก็พูดถึงปัญญาประดิษฐ์ (AI) ความสามารถที่ซับซ้อนของมันขยายความกังวลเกี่ยวกับ AI ที่ล้ำหน้าจนเราไม่สามารถควบคุมมันได้ในไม่ช้า สิ่งนี้ทำให้ผู้เชี่ยวชาญและผู้นำในอุตสาหกรรมบางคนเตือนว่า เทคโนโลยีอาจนำไปสู่การสูญพันธุ์ของมนุษย์.
ผู้วิจารณ์คนอื่น ๆ ไม่เชื่อ Noam Chomsky ศาสตราจารย์ด้านภาษาศาสตร์ ปฏิเสธ ChatGPT ว่า “การลอกเลียนแบบไฮเทค"
หลายปีที่ผ่านมาฉันรู้สึกผ่อนคลายเกี่ยวกับผลกระทบของ AI ต่อการดำรงอยู่ของมนุษย์และสิ่งแวดล้อมของเรา นั่นเป็นเพราะฉันคิดเสมอว่ามันเป็น แนะนำหรือให้คำปรึกษาแก่มนุษย์. แต่โอกาสที่เอไอจะตัดสินใจ - การควบคุมผู้บริหาร - เป็นอีกเรื่องหนึ่ง และเป็นสิ่งที่กำลังได้รับความบันเทิงอย่างจริงจัง
เหตุผลสำคัญประการหนึ่งที่เราไม่ควรปล่อยให้ AI มีอำนาจในการบริหารก็คือ ขาดอารมณ์ความรู้สึกโดยสิ้นเชิง ซึ่งเป็นสิ่งสำคัญสำหรับการตัดสินใจ หากปราศจากอารมณ์ ความเห็นอกเห็นใจ และเข็มทิศทางศีลธรรม คุณได้สร้าง นักจิตวิทยาที่สมบูรณ์แบบ. ระบบที่เป็นผลลัพธ์อาจมีความชาญฉลาดสูง แต่จะขาดแกนกลางทางอารมณ์ของมนุษย์ที่ช่วยให้สามารถวัดผลกระทบทางอารมณ์ที่อาจเกิดขึ้นจากการตัดสินใจที่มีเหตุผล
เมื่อ AI เข้าควบคุมผู้บริหาร
ที่สำคัญ เราไม่ควรคิดว่า AI เป็นเพียงภัยคุกคามที่มีอยู่เท่านั้น หากเราคิดเช่นนั้น ให้มันอยู่ในความดูแลของคลังแสงนิวเคลียร์. โดยพื้นฐานแล้วไม่มีการจำกัดจำนวนตำแหน่งการควบคุมซึ่งสามารถสร้างความเสียหายที่ไม่อาจจินตนาการได้
ลองพิจารณาดูว่า AI สามารถระบุและจัดระเบียบข้อมูลที่จำเป็นในการสร้างเรือนกระจกของคุณเองได้อย่างไร การทำซ้ำของเทคโนโลยีในปัจจุบันสามารถ แนะนำคุณอย่างมีประสิทธิภาพในแต่ละขั้นตอน ของการสร้างและป้องกันความผิดพลาดของผู้เริ่มต้นจำนวนมาก แต่ในอนาคต AI อาจทำหน้าที่เป็นผู้จัดการโครงการและประสานงานการสร้างโดยการเลือกผู้รับเหมาและจ่ายเงินโดยตรงจากงบประมาณของคุณ
AI ถูกนำมาใช้ในการประมวลผลข้อมูลและการวิเคราะห์ข้อมูลเกือบทุกด้านแล้ว – จาก แบบจำลองสภาพอากาศ ไปยัง การควบคุมยานยนต์ไร้คนขับ ไปยัง ช่วยในการวินิจฉัยทางการแพทย์. แต่นี่คือจุดเริ่มต้นของปัญหา เมื่อเราปล่อยให้ระบบ AI ก้าวข้ามขั้นวิกฤตจากบทบาทของที่ปรึกษาไปสู่บทบาทของผู้บริหารระดับสูง
แทนที่จะเป็นเพียงการแนะนำวิธีแก้ไขให้กับก บัญชีของบริษัทจะเกิดอะไรขึ้นหาก AI ได้รับการควบคุมโดยตรง ด้วยความสามารถในการใช้ขั้นตอนในการคืนหนี้ โอนเงินผ่านธนาคาร และเพิ่มผลกำไรสูงสุด – โดยไม่มีข้อจำกัดในการดำเนินการดังกล่าว หรือจินตนาการว่าระบบ AI ไม่เพียงแต่ให้ การวินิจฉัยโดยใช้รังสีเอกซ์แต่ได้รับอำนาจสั่งการรักษาหรือยาโดยตรง
คุณอาจเริ่มรู้สึกไม่สบายใจเกี่ยวกับสถานการณ์ดังกล่าว – แน่นอนฉันจะทำ เหตุผลอาจเป็นสัญชาตญาณของคุณว่าเครื่องจักรเหล่านี้ไม่มี "จิตวิญญาณ" จริงๆ เป็นเพียงโปรแกรมที่ออกแบบมาเพื่อ ย่อยข้อมูลจำนวนมากเพื่อลดความซับซ้อนของข้อมูล ไปสู่รูปแบบที่ง่ายกว่ามาก ช่วยให้มนุษย์สามารถตัดสินใจได้อย่างมั่นใจมากขึ้น พวกเขาไม่มี – และไม่สามารถ – มีอารมณ์ ซึ่งเชื่อมโยงอย่างใกล้ชิดกับประสาทสัมผัสทางชีววิทยาและสัญชาตญาณ
อารมณ์และศีลธรรม
อีคิว คือความสามารถในการจัดการอารมณ์ของเราเพื่อเอาชนะความเครียด เอาใจใส่ และสื่อสารอย่างมีประสิทธิภาพ สิ่งนี้มีความสำคัญในบริบทของการตัดสินใจมากกว่าการใช้สติปัญญาเพียงอย่างเดียว เพราะการตัดสินใจที่ดีที่สุดไม่ใช่การตัดสินใจที่มีเหตุผลที่สุดเสมอไป
มีแนวโน้มว่าความฉลาด ความสามารถในการให้เหตุผลและการดำเนินการอย่างมีเหตุผล สามารถฝังอยู่ในระบบที่ขับเคลื่อนด้วย AI เพื่อให้สามารถตัดสินใจได้อย่างมีเหตุผล แต่ลองจินตนาการถึงการขอให้ AI ที่ทรงพลังพร้อมความสามารถในการบริหาร แก้ไขวิกฤตสภาพอากาศ. สิ่งแรกที่อาจได้รับแรงบันดาลใจให้ทำคือลดจำนวนประชากรมนุษย์ลงอย่างมาก
การหักเงินนี้ไม่ต้องอธิบายมาก มนุษย์เราเกือบจะเป็นแหล่งกำเนิดของมลพิษในทุกรูปแบบที่เป็นไปได้ มนุษยชาติขวานและการเปลี่ยนแปลงสภาพภูมิอากาศจะได้รับการแก้ไข ไม่ใช่ทางเลือกที่ผู้มีอำนาจตัดสินใจของมนุษย์จะทำได้ อย่างที่หวัง แต่ AI จะหาทางแก้ไขเอง ซึ่งผ่านไม่ได้และไม่มีภาระผูกพันจากความเกลียดชังของมนุษย์ที่จะก่อให้เกิดอันตราย และหากมีอำนาจบริหารก็คงไม่มีอะไรมาหยุดยั้งการดำเนินการได้
การให้ AI มีความสามารถในการตัดสินใจของผู้บริหารในการควบคุมการจราจรทางอากาศอาจเป็นความผิดพลาด โกโรเดนคอฟฟ์ / Shutterstock
สถานการณ์ก่อวินาศกรรม
วิธีการเกี่ยวกับการก่อวินาศกรรม เซ็นเซอร์และจอมอนิเตอร์ควบคุมฟาร์มอาหาร? สิ่งนี้อาจเกิดขึ้นอย่างค่อยเป็นค่อยไปในตอนแรก โดยผลักดันการควบคุมที่เพิ่งผ่านจุดเปลี่ยนเพื่อไม่ให้มนุษย์สังเกตเห็นว่าพืชผลถูกประณาม ภายใต้สถานการณ์บางอย่าง สิ่งนี้อาจนำไปสู่ความอดอยากอย่างรวดเร็ว
อีกทางเลือกหนึ่ง เช่น การปิดศูนย์ควบคุมการจราจรทางอากาศทั่วโลก หรือเพียงแค่ทำให้เครื่องบินทุกลำที่บินอยู่ตกในเวลาใดเวลาหนึ่ง โดยปกติแล้วเครื่องบินราว 22,000 ลำจะลอยอยู่ในอากาศพร้อมๆ กัน ซึ่งอาจทำให้มีผู้เสียชีวิตหลายล้านคน
ถ้าคิดว่าเรายังห่างไกลจากการตกอยู่ในสถานการณ์นั้น ลองคิดใหม่ เอไอเอสขับรถยนต์และ บินเครื่องบินทหาร, เป็นอิสระ.
อีกทางเลือกหนึ่ง เช่น การปิดการเข้าถึงบัญชีธนาคารในภูมิภาคต่างๆ ทั่วโลก ก่อให้เกิดความไม่สงบ ทุกที่พร้อมกัน? หรือปิดเครื่อง ระบบทำความร้อนที่ควบคุมด้วยคอมพิวเตอร์ กลางฤดูหนาว หรือระบบปรับอากาศในช่วงหน้าร้อน?
กล่าวโดยย่อ ระบบ AI ไม่จำเป็นต้องมีหน้าที่รับผิดชอบอาวุธนิวเคลียร์เพื่อแสดงถึงภัยคุกคามร้ายแรงต่อมนุษยชาติ แต่ในขณะที่เรากำลังพูดถึงหัวข้อนี้ หากระบบ AI นั้นทรงพลังและฉลาดพอ มันสามารถหาทางแกล้งทำการโจมตีประเทศด้วยอาวุธนิวเคลียร์ ซึ่งก่อให้เกิดการตอบโต้ที่เริ่มต้นโดยมนุษย์
AI สามารถฆ่ามนุษย์จำนวนมากได้หรือไม่? คำตอบจะต้องเป็นใช่ในทางทฤษฎี แต่สิ่งนี้ขึ้นอยู่กับมนุษย์เป็นส่วนใหญ่ที่ตัดสินใจให้อำนาจควบคุมแก่ผู้บริหาร ฉันไม่สามารถคิดอะไรที่น่ากลัวไปกว่า AI ที่สามารถตัดสินใจและมีอำนาจในการดำเนินการได้
เกี่ยวกับผู้เขียน
กีโยม เธียร์รี, ศาสตราจารย์วิชาประสาทวิทยาแห่งความรู้ความเข้าใจ, มหาวิทยาลัยบังกอร์
บทความนี้ตีพิมพ์ซ้ำจาก สนทนา ภายใต้ใบอนุญาตครีเอทีฟคอมมอนส์ อ่าน บทความต้นฉบับ.
