ข้อมูลเป็นสินค้าที่มีคุณค่า และต้องขอบคุณเทคโนโลยีที่มีอยู่ ล้านเทราไบต์ ของมันออนไลน์

เครื่องมือปัญญาประดิษฐ์ (AI) เช่น ChatGPT กำลังจัดการข้อมูลนี้ในนามของเรา โดยทำการจัดเรียง สรุป และนำเสนอกลับมาให้เรา

แต่การ “เอาท์ซอร์ส” ของการจัดการข้อมูลไปยัง AI – สะดวกเหมือนเดิม – มาพร้อมกับผลที่ตามมา มันสามารถมีอิทธิพลไม่เพียงเท่านั้น อะไร เราคิด แต่ก็อาจเป็นไปได้เช่นกัน อย่างไร พวกเราคิดว่า.

จะเกิดอะไรขึ้นในโลกที่อัลกอริธึม AI ตัดสินใจว่าข้อมูลใดที่จะคงอยู่ และสิ่งที่เหลืออยู่ข้างทาง

การเพิ่มขึ้นของ AI ส่วนบุคคล

เครื่องมือ AI เจนเนอเรชั่นสร้างขึ้นจากโมเดลที่ได้รับการฝึกฝนบนพื้นที่หลายร้อยกิกะไบต์ ข้อมูลที่มีอยู่แล้ว. จากข้อมูลเหล่านี้ พวกเขาได้เรียนรู้วิธีสร้างข้อความ รูปภาพ เนื้อหาเสียงและวิดีโอโดยอัตโนมัติ และสามารถตอบคำถามของผู้ใช้โดยการรวบรวมคำตอบที่ "น่าจะเป็นไปได้มากที่สุด" เข้าด้วยกัน

ChatGPT ถูกใช้โดย ผู้คนหลายล้านคนแม้จะเผยแพร่สู่สาธารณะไม่ถึงหนึ่งปีที่ผ่านมาก็ตาม ในเดือนมิถุนายน ได้มีการเพิ่ม การตอบสนองที่กำหนดเอง ทำให้แชทบอทที่น่าประทับใจอยู่แล้วมีประโยชน์มากยิ่งขึ้น คุณลักษณะนี้ช่วยให้ผู้ใช้บันทึกคำแนะนำที่กำหนดเองโดยอธิบายว่าพวกเขากำลังใช้บอททำอะไรและต้องการให้ตอบสนองอย่างไร

นี่เป็นหนึ่งในหลายตัวอย่างของ “AI ส่วนบุคคล”: หมวดหมู่ของเครื่องมือ AI ที่สร้างเนื้อหาให้เหมาะกับความต้องการและความชอบเฉพาะของผู้ใช้

อีกตัวอย่างหนึ่งคือ Meta เพิ่งเปิดตัว ผู้ช่วยเสมือน,เมตาเอไอ แชทบอทตัวนี้ สามารถสนทนา สร้างภาพ และทำงานบนแพลตฟอร์มของ Meta รวมถึง WhatsApp, Messenger และ Instagram

มุสตาฟา ซูไลมาน นักวิจัยด้านปัญญาประดิษฐ์และผู้ร่วมก่อตั้ง DeepMind อธิบาย AI ส่วนบุคคลนั้นมีความสัมพันธ์มากกว่าเทคโนโลยี:

มันเป็นเพื่อน […] มันจะอยู่เคียงข้างคุณตลอดไป อาศัยอยู่กับคุณ – โดยพื้นฐานแล้วอยู่ในทีมของคุณ ฉันชอบคิดว่ามันเหมือนกับมีโค้ชที่ยอดเยี่ยมอยู่ในมุมของคุณ

แต่เทคโนโลยีเหล่านี้ก็เป็นที่ถกเถียงกันเช่นกัน โดยมีข้อกังวลเกิดขึ้น การเป็นเจ้าของข้อมูล, อคติ และ ข้อมูลที่ผิด.

บริษัทด้านเทคโนโลยีกำลังพยายามค้นหาวิธีต่อสู้กับปัญหาเหล่านี้ ตัวอย่างเช่น Google ได้เพิ่มลิงก์แหล่งที่มาไปยังสรุปการค้นหาที่สร้างโดย AI ที่ผลิตโดย Google ประสบการณ์สร้างการค้นหา (SGE) ซึ่งถูกวิพากษ์วิจารณ์เมื่อต้นปีนี้สำหรับ เสนอขึ้น คำตอบที่ไม่ถูกต้องและเป็นปัญหา

เทคโนโลยีได้เปลี่ยนความคิดของเราไปแล้ว

เครื่องมือ AI เชิงสร้างสรรค์ และโดยเฉพาะอย่างยิ่งเครื่องมือที่ปรับให้เหมาะกับเราโดยเฉพาะ จะเปลี่ยนวิธีคิดของเราอย่างไร

เพื่อทำความเข้าใจเรื่องนี้ เราจะมาทบทวนช่วงต้นทศวรรษ 1990 ซึ่งเป็นช่วงที่อินเทอร์เน็ตเข้ามาในชีวิตเราเป็นครั้งแรก ผู้คนสามารถเข้าถึงข้อมูลเกี่ยวกับเกือบทุกอย่างได้ทันที ไม่ว่าจะเป็นการธนาคาร การทำขนม การสอน หรือการเดินทาง

เกือบ 30 ปีที่ผ่านมา การศึกษาได้แสดงให้เห็นว่าการเชื่อมโยงกับ "จิตใจที่วุ่นวาย" ระดับโลกนี้ได้เปลี่ยนแปลงการรับรู้ ความทรงจำ และความคิดสร้างสรรค์ของเราอย่างไร

ตัวอย่างเช่น การเข้าถึงทันทีที่เทียบเท่ากับ 305.5 พันล้านหน้า ของข้อมูลได้เพิ่มมากขึ้น เมตาความรู้ – นั่นคือความรู้เกี่ยวกับความรู้ของพวกเขา ผลกระทบประการหนึ่งคือ “เอฟเฟ็กต์กูเกิล”: ปรากฏการณ์ที่การค้นหาออนไลน์เพิ่มความสามารถของเราในการค้นหาข้อมูล แต่ความจำของเราลดลงว่าข้อมูลนั้นคืออะไร

ในแง่หนึ่ง การระบายความคิดของเราไปยังเครื่องมือค้นหานั้นแสดงให้เห็นว่าช่วยให้เรามีอิสระในการสำรองทางจิตได้ การแก้ปัญหาและความคิดสร้างสรรค์. ในทางกลับกันการดึงข้อมูลออนไลน์มีความเกี่ยวข้องเพิ่มขึ้น ความว้าวุ่นใจและการพึ่งพาอาศัยกัน.

การวิจัยยังแสดงการค้นหาออนไลน์ โดยไม่คำนึงถึงปริมาณหรือคุณภาพของข้อมูลที่ดึงมา ทำให้เราเพิ่มมากขึ้น ความนับถือตนเองทางปัญญา. กล่าวอีกนัยหนึ่ง มันเพิ่มความเชื่อของเราใน "ความฉลาด" ของเราเอง

จับคู่สิ่งนี้กับความจริงที่ว่า ข้อมูลการซักถามมีความพยายาม – และยิ่งเราเชื่อถือเครื่องมือค้นหาของเรามากเท่าใด เราก็ยิ่งวิพากษ์วิจารณ์น้อยลงเท่านั้น มีส่วนร่วมกับผลลัพธ์ของมัน – และคุณจะเห็นได้ว่าเหตุใดการเข้าถึงข้อมูลจำนวนมหาศาลจึงไม่ได้ทำให้เราฉลาดขึ้นเสมอไป

เราควร 'จ้าง' ความคิดของเราหรือไม่?

เครื่องมือ AI เจนเนอเรชั่นในปัจจุบันไปไกลกว่าการนำเสนอผลการค้นหาให้เรามาก พวกเขาค้นหาข้อมูลให้เรา ประเมิน สังเคราะห์ และนำเสนอกลับมาให้เรา

สิ่งนี้อาจมีผลกระทบอะไรบ้าง? หากไม่มีการผลักดันให้มีการควบคุมคุณภาพโดยมนุษย์ แนวโน้มจะไม่มีแนวโน้มที่ดี

ความสามารถของ Generative AI ในการสร้างการตอบสนองที่ให้ความรู้สึกคุ้นเคย เป็นกลาง และมีส่วนร่วม ทำให้เรามีความเสี่ยงมากขึ้น อคติทางปัญญา.

พื้นที่ อคติอัตโนมัติตัวอย่างเช่น คือแนวโน้มของมนุษย์ที่จะประเมินค่าความสมบูรณ์ของข้อมูลที่มาจากเครื่องจักรสูงเกินไป และ เพียงการเปิดเผย ผลที่ได้คือเมื่อเรามีแนวโน้มที่จะเชื่อถือข้อมูลที่นำเสนอว่าคุ้นเคยหรือเป็นส่วนตัวมากขึ้น

การวิจัยเกี่ยวกับโซเชียลมีเดียสามารถช่วยให้เราเข้าใจผลกระทบของอคติดังกล่าวได้ ในการศึกษาหนึ่งในปี 2016 ผู้ใช้ Facebook รายงาน รู้สึก “รู้” มากขึ้น ขึ้นอยู่กับปริมาณเนื้อหาข่าวที่โพสต์ทางออนไลน์ ไม่ใช่จำนวนเนื้อหาข่าวที่พวกเขาอ่านจริง

เราก็รู้เช่นกันว่า”กรองฟอง” สร้างขึ้นโดยอัลกอริธึมโซเชียลมีเดีย โดยที่ฟีดของเราจะถูกกรองตามความสนใจของเรา — จำกัดความหลากหลายของเนื้อหาที่เราเปิดเผย

กระบวนการจำกัดข้อมูลนี้แสดงให้เห็นว่าเพิ่มขึ้น การแบ่งขั้วทางอุดมการณ์ โดยการลดแนวโน้มของผู้คนในการพิจารณามุมมองทางเลือก นอกจากนี้ยังแสดงให้เห็นว่าเราเพิ่มโอกาสที่จะถูกสัมผัสด้วย ข่าวปลอม.

ใช้ AI ฉลาดขึ้นและไม่โง่ลง

ไม่ต้องสงสัยเลยว่า Generative AI จะเป็นพลังปฏิวัติที่มีศักยภาพในการทำสิ่งที่ยิ่งใหญ่ให้กับสังคม มันสามารถปรับเปลี่ยนระบบการศึกษาของเราโดยการจัดให้มี เนื้อหาส่วนบุคคล,เปลี่ยนแนวปฏิบัติในการทำงานของเราโดยเร่งรัด การเขียนและการวิเคราะห์ข้อมูลและผลักดันขอบเขตของ การค้นพบทางวิทยาศาสตร์.

มันยังมีศักยภาพที่จะเปลี่ยนแปลงความสัมพันธ์ของเราในทางบวกด้วยการช่วยให้เราสื่อสารและเชื่อมต่อกับผู้อื่น และในบางครั้งสามารถทำหน้าที่เป็น รูปแบบของมิตรภาพสังเคราะห์.

แต่หากวิธีเดียวของเราในการตัดสินอนาคตคือการมองไปยังอดีต บางทีตอนนี้อาจถึงเวลาที่จะไตร่ตรองว่าทั้งอินเทอร์เน็ตและโซเชียลมีเดียได้เปลี่ยนแปลงการรับรู้ของเราอย่างไร และประยุกต์ใช้บางส่วน มาตรการ. กำลังพัฒนา ความรู้ด้าน AI เป็นจุดเริ่มต้นที่ดี เช่นเดียวกับการออกแบบเครื่องมือ AI ที่ส่งเสริมความเป็นอิสระของมนุษย์และการคิดเชิงวิพากษ์

ในที่สุดเราจะต้องเข้าใจทั้งของเราเอง และจุดแข็งและจุดอ่อนของ AI เพื่อให้แน่ใจว่าเพื่อนร่วมทางที่มี "ความคิด" เหล่านี้ช่วยให้เราสร้างอนาคตที่เราต้องการได้ และไม่ใช่อนาคตที่อยู่ด้านบนสุดของรายการ

ซาราห์ วิเวียน เบนท์ลีย์, นักวิทยาศาสตร์วิจัย, นวัตกรรมที่มีความรับผิดชอบ, ข้อมูล61, CSIRO; แคลร์ เมสัน, หัวหน้านักวิทยาศาสตร์วิจัย, CSIROและ ไอนัท กริมเบิร์ก, นักวิจัยหลังปริญญาเอก สาขาเทคโนโลยีและสังคมศาสตร์, CSIRO

บทความนี้ตีพิมพ์ซ้ำจาก สนทนา ภายใต้ใบอนุญาตครีเอทีฟคอมมอนส์ อ่าน บทความต้นฉบับ.