หากคุณได้รับข่าวสารจากโซเชียลมีเดียเช่น คนอเมริกันส่วนใหญ่ทำคุณกำลังเผชิญกับการหลอกลวง ข่าวลือ ทฤษฎีสมคบคิด และข่าวที่ทำให้เข้าใจผิดทุกวัน เมื่อรวมกับข้อมูลที่เชื่อถือได้จากแหล่งที่ซื่อสัตย์ ความจริงก็ยากที่จะแยกแยะได้

อันที่จริง ทีมวิจัยของฉันวิเคราะห์ข้อมูลจาก .ของมหาวิทยาลัยโคลัมเบีย ฉุกเฉิน ตัวติดตามข่าวลือแนะนำว่าสิ่งนี้ ข้อมูลที่ผิดก็มีแนวโน้มที่จะแพร่ระบาดได้เช่นเดียวกัน เป็นข้อมูลที่เชื่อถือได้

หลายคนถามว่าการโจมตีของข้อมูลที่ผิดทางดิจิทัลครั้งนี้หรือไม่ ส่งผลต่อผลลัพธ์ ของการเลือกตั้งสหรัฐปี 2016 ความจริงก็คือเราไม่รู้ แม้ว่าจะมีเหตุผลที่เชื่อได้ว่าเป็นไปได้ทั้งหมดโดยอิงจาก บทวิเคราะห์ที่ผ่านมา และ บัญชีจากประเทศอื่นๆ. ข้อมูลเท็จแต่ละชิ้นมีส่วนทำให้เกิดความคิดเห็นของเรา โดยรวมแล้วอันตรายอาจเป็นจริงได้มาก

ในฐานะที่เป็นนักวิจัยเกี่ยวกับการเผยแพร่ข้อมูลเท็จผ่านโซเชียลมีเดีย ฉันรู้ว่าการจำกัดความสามารถของนักต้มตุ๋นข่าวในการขายโฆษณา ตามที่ประกาศเมื่อเร็วๆ นี้โดย Google และ Facebookเป็นการก้าวไปในทิศทางที่ถูกต้อง แต่จะไม่ระงับการละเมิดที่เกิดจากแรงจูงใจทางการเมือง

ท่องโซเชียล

ประมาณ 10 ปีที่แล้ว ฉันและเพื่อนร่วมงานทำงาน การทดลอง ซึ่งเราได้เรียนรู้ 72 เปอร์เซ็นต์ของนักศึกษาวิทยาลัยเชื่อลิงก์ที่ดูเหมือนว่าจะมาจากเพื่อน แม้กระทั่งการป้อนข้อมูลการเข้าสู่ระบบส่วนบุคคลบนไซต์ฟิชชิ่ง ช่องโหว่ที่แพร่หลายนี้ชี้ให้เห็นถึงรูปแบบอื่นของการจัดการที่เป็นอันตราย: ผู้คนอาจเชื่อข้อมูลที่ผิดที่พวกเขาได้รับเมื่อคลิกลิงก์จากผู้ติดต่อทางสังคม

เพื่อสำรวจความคิดนั้น ฉันได้สร้าง a หน้าเว็บปลอม ด้วยการสุ่มข่าวซุบซิบที่สร้างโดยคอมพิวเตอร์ - สิ่งต่างๆเช่น "คนดัง X ติดเตียงกับคนดัง Y!" ผู้เยี่ยมชมไซต์ที่ค้นหาชื่อจะทำให้สคริปต์สร้างเรื่องราวเกี่ยวกับบุคคลนั้นโดยอัตโนมัติ ฉันใส่ข้อจำกัดความรับผิดชอบในเว็บไซต์ โดยบอกว่าไซต์มีข้อความที่ไม่มีความหมายและ "ข้อเท็จจริง" ที่ประกอบขึ้นเป็น ฉันยังวางโฆษณาบนหน้า สิ้นเดือน ฉันได้รับเช็คทางไปรษณีย์พร้อมรายได้จากโฆษณา นั่นคือข้อพิสูจน์ของฉัน: ข่าวปลอมสามารถสร้างรายได้ด้วยการทำให้อินเทอร์เน็ตสกปรกด้วยความเท็จ

น่าเศร้าที่ฉันไม่ใช่คนเดียวที่มีความคิดนี้ สิบปีต่อมาเรามี we วงการข่าวลวง และ ข้อมูลที่ผิดทางดิจิทัล. ไซต์ Clickbait สร้างการหลอกลวงเพื่อสร้างรายได้จากโฆษณา ในขณะที่ไซต์ที่เรียกว่า Hyperpartisan เผยแพร่และเผยแพร่ข่าวลือและทฤษฎีสมคบคิดเพื่อโน้มน้าวความคิดเห็นของประชาชน

อุตสาหกรรมนี้ได้รับการสนับสนุนจากความง่ายในการสร้าง บอททางสังคมบัญชีปลอมที่ควบคุมโดยซอฟต์แวร์ที่ดูเหมือนคนจริงจึงสามารถมีอิทธิพลอย่างแท้จริง การวิจัยในของฉัน ห้องปฏิบัติการ เปิดโปงตัวอย่างแคมเปญระดับรากหญ้าปลอมมากมาย เรียกอีกอย่างว่า โหราศาสตร์การเมือง.

ในการตอบสนองเราได้พัฒนา developed บอตออร์นอต เครื่องมือตรวจจับบอทโซเชียล มันไม่สมบูรณ์แบบ แต่ แม่นพอ เพื่อเปิดเผยแคมเปญชักชวนในการเคลื่อนไหว Brexit และ antivax เมื่อใช้ BotOrNot เพื่อนร่วมงานของเราพบว่า a ส่วนใหญ่ ของการพูดคุยออนไลน์เกี่ยวกับการเลือกตั้งปี 2016 นั้นสร้างโดยบอท

การสร้างฟองอากาศข้อมูล

มนุษย์เรามีความเสี่ยงที่จะถูกบิดเบือนโดยข้อมูลที่ผิดทางดิจิทัล ต้องขอบคุณอคติทางสังคม การรับรู้ เศรษฐกิจ และอัลกอริธึมที่ซับซ้อน สิ่งเหล่านี้บางส่วนมีวิวัฒนาการด้วยเหตุผลที่ดี: การเชื่อสัญญาณจากวงสังคมของเราและการปฏิเสธข้อมูลที่ขัดแย้งกับประสบการณ์ของเราทำให้เราดีเมื่อสายพันธุ์ของเราปรับตัวเพื่อหลบเลี่ยงผู้ล่า แต่ในเครือข่ายออนไลน์ที่หดตัวลงในปัจจุบัน การเชื่อมต่อเครือข่ายสังคมกับนักทฤษฎีสมคบคิดที่อีกฟากหนึ่งของโลกไม่ได้ช่วยแจ้งความคิดเห็นของฉัน

การคัดลอกเพื่อนของเราและเลิกติดตามผู้ที่มีความคิดเห็นต่างกันทำให้เรามีเสียงสะท้อนดังนั้น โพลาไรซ์ ที่นักวิจัยสามารถบอกได้อย่างแม่นยำว่าคุณเป็น เสรีนิยมหรืออนุรักษ์นิยม เพียงแค่มองไปที่เพื่อนของคุณ โครงสร้างเครือข่ายเป็นเช่นนั้น หนาแน่น ข้อมูลเท็จใด ๆ แพร่กระจายไปเกือบจะในทันทีภายในกลุ่มหนึ่งและแยกจากกันจนไม่สามารถไปถึงอีกกลุ่มหนึ่งได้

ภายในฟองสบู่ของเรา เราได้เลือกเปิดเผยข้อมูลที่สอดคล้องกับความเชื่อของเรา นั่นเป็นสถานการณ์สมมติในอุดมคติเพื่อเพิ่มการมีส่วนร่วมให้สูงสุด แต่กลับส่งผลเสียต่อการพัฒนาความกังขาอย่างมีสุขภาพ อคติยืนยัน พาเราไปแชร์พาดหัวข่าว โดยไม่ต้องอ่าน บทความ.

ห้องปฏิบัติการของเราได้รับบทเรียนส่วนตัวในเรื่องนี้เมื่อโครงการวิจัยของเรากลายเป็นหัวข้อของ แคมเปญข้อมูลเท็จที่ชั่วร้าย ก่อนการเลือกตั้งกลางเทอมปี 2014 ของสหรัฐอเมริกา เมื่อเราตรวจสอบสิ่งที่เกิดขึ้น เราพบว่าข่าวปลอมเกี่ยวกับงานวิจัยของเราถูกแบ่งปันโดยผู้ใช้ Twitter อย่างเด่นชัดภายในห้องเสียงสะท้อนของพรรคพวก ซึ่งเป็นชุมชนขนาดใหญ่และเป็นเนื้อเดียวกันของผู้ใช้ที่เคลื่อนไหวทางการเมือง คนเหล่านี้รีทวีตอย่างรวดเร็วและไม่สามารถลบล้างข้อมูลได้

หลีกเลี่ยงไม่ได้ของไวรัส

การวิจัยของเราแสดงให้เห็นว่าเมื่อพิจารณาจากโครงสร้างของเครือข่ายสังคมและความสนใจที่จำกัดของเรา มันคือ it หลีกเลี่ยงไม่ได้ ว่าบ้าง memes จะแพร่ระบาดโดยไม่คำนึงถึงคุณภาพ แม้ว่าปัจเจกบุคคลมักจะแบ่งปันข้อมูลที่มีคุณภาพสูงกว่า แต่เครือข่ายโดยรวมก็ไม่มีประสิทธิภาพในการเลือกปฏิบัติระหว่างข้อมูลที่น่าเชื่อถือและข้อมูลที่ประดิษฐ์ขึ้น สิ่งนี้ช่วยอธิบายการหลอกลวงของไวรัสทั้งหมดที่เราพบในป่า

พื้นที่ สนใจเศรษฐกิจ ดูแลส่วนที่เหลือ: หากเราให้ความสนใจกับหัวข้อใดหัวข้อหนึ่ง จะมีการจัดทำข้อมูลเพิ่มเติมเกี่ยวกับหัวข้อนั้น การสร้างข้อมูลและส่งต่อตามความเป็นจริงนั้นถูกกว่าการรายงานความจริง และการประดิษฐ์สามารถปรับให้เข้ากับแต่ละกลุ่มได้: พรรคอนุรักษ์นิยมอ่านว่าสมเด็จพระสันตะปาปารับรองทรัมป์ พวกเสรีนิยมอ่านว่าเขารับรองคลินตัน เขาไม่ได้ทำ.

ยึดถืออัลกอริธึม

เนื่องจากเราไม่สามารถให้ความสนใจกับโพสต์ทั้งหมดในฟีดของเรา อัลกอริทึมจึงกำหนดสิ่งที่เราเห็นและสิ่งที่เราไม่ทำ อัลกอริทึมที่ใช้โดยแพลตฟอร์มโซเชียลมีเดียในปัจจุบันได้รับการออกแบบมาเพื่อจัดลำดับความสำคัญของโพสต์ที่มีส่วนร่วม ซึ่งเป็นสิ่งที่เราน่าจะคลิก โต้ตอบ และแชร์ แต่การวิเคราะห์เมื่อเร็วๆ นี้พบว่ามีหน้าเว็บที่ตั้งใจทำให้เข้าใจผิดอย่างน้อย มากเท่าการแบ่งปันออนไลน์ และปฏิกิริยาเหมือนข่าวจริง

อคติเชิงอัลกอรึทึมที่มีต่อการมีส่วนร่วมเหนือความจริงนี้ตอกย้ำอคติทางสังคมและความรู้ความเข้าใจของเรา ด้วยเหตุนี้ เมื่อเราติดตามลิงก์ที่แชร์บนโซเชียลมีเดีย เรามักจะเข้าไปที่ส่วนเล็กๆ เป็นเนื้อเดียวกันมากขึ้น ชุดของแหล่งที่มามากกว่าเมื่อเราทำการค้นหาและเข้าชมผลลัพธ์อันดับต้นๆ

การวิจัยที่มีอยู่แสดงให้เห็นว่าการอยู่ในห้องสะท้อนเสียงสามารถทำให้คนได้ ใจง่ายมากขึ้น เกี่ยวกับการยอมรับข่าวลือที่ไม่ได้รับการยืนยัน แต่เราจำเป็นต้องรู้ให้มากขึ้นว่าแต่ละคนตอบสนองต่อการหลอกลวงเพียงครั้งเดียวอย่างไร: บางคนแบ่งปันทันที บางคนตรวจสอบข้อเท็จจริงก่อน

เราคือ จำลองโซเชียลเน็ตเวิร์ก เพื่อศึกษาการแข่งขันระหว่างการแบ่งปันและการตรวจสอบข้อเท็จจริง เราหวังว่าจะช่วยแก้ป้ญหาหลักฐานที่ขัดแย้งกันเกี่ยวกับ เมื่อการตรวจสอบข้อเท็จจริงช่วยหยุดการหลอกลวง จากการแพร่กระจายและเมื่อมันไม่ได้ ผลลัพธ์เบื้องต้นของเราชี้ให้เห็นว่ายิ่งชุมชนผู้เชื่อเรื่องหลอกลวงยิ่งแยกจากกันมากเท่าไร การหลอกลวงก็จะยิ่งดำรงอยู่ได้นานขึ้นเท่านั้น อีกครั้ง ไม่ใช่แค่เกี่ยวกับการหลอกลวงเท่านั้น แต่ยังเกี่ยวกับเครือข่ายด้วย

หลายคนพยายามคิดออก จะทำยังไงกับเรื่องนี้ดี. ตามรายงานล่าสุดของ Mark Zuckerberg การประกาศทีมงาน Facebook กำลังทดสอบตัวเลือกที่เป็นไปได้ และกลุ่มนักศึกษาวิทยาลัยได้เสนอวิธีง่ายๆ ติดป้ายกำกับลิงก์ที่แชร์ ว่า “ตรวจสอบแล้ว” หรือไม่

วิธีแก้ปัญหาบางอย่างไม่สามารถเข้าถึงได้ อย่างน้อยก็ชั่วขณะหนึ่ง ตัวอย่างเช่น เรายังไม่สามารถสอนระบบปัญญาประดิษฐ์ถึงวิธีการ แยกแยะระหว่างความจริงและความเท็จ. แต่เราสามารถบอกอัลกอริธึมการจัดอันดับให้ให้ความสำคัญกับแหล่งที่มาที่น่าเชื่อถือมากขึ้น

ศึกษาการแพร่กระจายข่าวลวง

เราสามารถทำให้การต่อสู้กับข่าวปลอมมีประสิทธิภาพมากขึ้น หากเราเข้าใจมากขึ้นว่าข้อมูลไม่ดีแพร่กระจายอย่างไร ตัวอย่างเช่น หากบอทรับผิดชอบต่อความเท็จหลายอย่าง เราสามารถมุ่งความสนใจไปที่การตรวจจับได้ หรือหากปัญหาอยู่ที่ห้องเสียงสะท้อน บางทีเราอาจออกแบบระบบคำแนะนำที่ไม่แยกมุมมองที่แตกต่างกันออกไป

ด้วยเหตุนี้ แล็บของเรากำลังสร้างแพลตฟอร์มที่เรียกว่า หลอกลวง เพื่อติดตามและเห็นภาพการแพร่กระจายของการอ้างสิทธิ์ที่ไม่ได้รับการยืนยันและการตรวจสอบข้อเท็จจริงที่เกี่ยวข้องบนโซเชียลมีเดีย ซึ่งจะให้ข้อมูลในโลกแห่งความเป็นจริงแก่เรา ซึ่งเราสามารถแจ้งเครือข่ายสังคมจำลองของเราได้ จากนั้นเราสามารถทดสอบแนวทางที่เป็นไปได้ในการต่อสู้กับข่าวปลอม

การหลอกลวงอาจแสดงให้คนอื่นเห็นว่าความคิดเห็นของพวกเขาถูกจัดการโดยข้อมูลออนไลน์ได้ง่ายเพียงใด และถึงแม้พวกเราบางคนจะแบ่งปันความเท็จทางออนไลน์ Hoaxy จะเข้าร่วมชุดเครื่องมือใน .ของเรา หอดูดาวบนโซเชียลมีเดียซึ่งช่วยให้ทุกคนเห็นว่ามีมแพร่กระจายบน Twitter อย่างไร การเชื่อมโยงเครื่องมือเช่นนี้กับผู้ตรวจสอบข้อเท็จจริงของมนุษย์และแพลตฟอร์มโซเชียลมีเดียสามารถช่วยลดความซ้ำซ้อนของความพยายามได้ง่ายขึ้นและ สนับสนุน ซึ่งกันและกัน

จำเป็นที่เราจะต้องลงทุนทรัพยากรในการศึกษาปรากฏการณ์นี้ เราต้องการมือทั้งหมดบนดาดฟ้า: นักวิทยาศาสตร์คอมพิวเตอร์ นักสังคมศาสตร์ นักเศรษฐศาสตร์ นักข่าว และพันธมิตรในอุตสาหกรรมต้อง ทำงานด้วยกัน เพื่อยืนหยัดต่อต้านการเผยแพร่ข้อมูลเท็จ

เกี่ยวกับผู้เขียน

Filippo Menczer ศาสตราจารย์ด้านวิทยาการคอมพิวเตอร์และสารสนเทศ; ผู้อำนวยการศูนย์วิจัยเครือข่ายและระบบที่ซับซ้อน มหาวิทยาลัยอินดีแอนา, บลูมมิงตัน

บทความนี้ถูกเผยแพร่เมื่อวันที่ สนทนา. อ่าน บทความต้นฉบับ.

หนังสือที่เกี่ยวข้อง:

at ตลาดภายในและอเมซอน