เสิร์ชเอ็นจิ้นมักจะนำเสนอข้อมูลที่บิดเบือนและข้อมูลเท็จ Crispin la valiente / Moment via Getty Images, CC BY-ND

เสิร์ชเอ็นจิ้นเป็นหนึ่งในเกตเวย์หลักของสังคมสำหรับข้อมูลและผู้คน แต่ก็เป็นสื่อกลางในการให้ข้อมูลที่ไม่ถูกต้อง คล้ายกับ อัลกอริธึมโซเชียลมีเดียที่มีปัญหาเครื่องมือค้นหาเรียนรู้ที่จะให้บริการคุณในสิ่งที่คุณและผู้อื่นเคยคลิกมาก่อน เนื่องจากผู้คนมักหลงใหลในความตื่นเต้น การเต้นระหว่างอัลกอริทึมและธรรมชาติของมนุษย์จึงสามารถส่งเสริมการเผยแพร่ข้อมูลที่ผิดได้

บริษัทเสิร์ชเอ็นจิ้น เช่นเดียวกับบริการออนไลน์ส่วนใหญ่ สร้างรายได้ไม่เพียงแค่การขายโฆษณา แต่ยังติดตามผู้ใช้และขายข้อมูลด้วย ผ่านการเสนอราคาแบบเรียลไทม์ เกี่ยวกับมัน ผู้คนมักให้ข้อมูลเท็จโดยต้องการข่าวที่น่าตื่นเต้นและสนุกสนาน รวมทั้งข้อมูลที่อาจเป็นข้อโต้แย้งหรือยืนยันความคิดเห็นของพวกเขา งานวิจัยชิ้นหนึ่งพบว่าวิดีโอ YouTube ยอดนิยมเกี่ยวกับโรคเบาหวานคือ มีโอกาสน้อยที่จะมีข้อมูลที่ถูกต้องทางการแพทย์ กว่าวิดีโอที่ได้รับความนิยมน้อยกว่าในเรื่องนั้นเป็นต้น

เสิร์ชเอ็นจิ้นที่ขับเคลื่อนด้วยโฆษณา เช่น แพลตฟอร์มโซเชียลมีเดีย ได้รับการออกแบบมาเพื่อให้รางวัลแก่การคลิกลิงก์ที่ดึงดูดใจ เพราะช่วยให้บริษัทค้นหาเพิ่มตัวชี้วัดทางธุรกิจของตน ในฐานะนักวิจัยที่ ศึกษาระบบค้นหาและแนะนำ, ฉันและเพื่อนร่วมงานแสดงให้เห็นว่าการผสมผสานที่เป็นอันตรายของแรงจูงใจในการทำกำไรขององค์กรและความอ่อนไหวของแต่ละบุคคล individual ทำให้ปัญหาแก้ไขได้ยาก.

ผลการค้นหาผิดพลาดอย่างไร

เมื่อคุณคลิกที่ผลการค้นหา อัลกอริธึมการค้นหาจะเรียนรู้ว่าลิงก์ที่คุณคลิกนั้นเกี่ยวข้องกับคำค้นหาของคุณ นี้เรียกว่า ความคิดเห็นที่เกี่ยวข้อง. ข้อเสนอแนะนี้ช่วยให้เสิร์ชเอ็นจิ้นเพิ่มน้ำหนักให้กับลิงก์นั้นสำหรับข้อความค้นหานั้นในอนาคต หากมีคนคลิกลิงก์นั้นมากพอและมีเวลามากพอ ซึ่งส่งผลให้มีการตอบรับที่เกี่ยวข้องอย่างมาก เว็บไซต์นั้นจะเริ่มปรากฏในผลการค้นหาสำหรับลิงก์นั้นและคำค้นหาที่เกี่ยวข้องมากขึ้น

ผู้คนนั้น มีแนวโน้มที่จะคลิกลิงก์ที่แสดงสูงขึ้น ในรายการผลการค้นหา สิ่งนี้จะสร้างกระแสตอบรับเชิงบวก - ยิ่งเว็บไซต์ปรากฏขึ้นมากเท่าไหร่ก็ยิ่งมีจำนวนคลิกมากขึ้นเท่านั้น และทำให้เว็บไซต์นั้นขยับสูงขึ้นหรือสูงขึ้นเรื่อยๆ เทคนิคการเพิ่มประสิทธิภาพกลไกค้นหาใช้ความรู้นี้เพื่อเพิ่มการแสดงผลของเว็บไซต์

ปัญหาการให้ข้อมูลเท็จนี้มีอยู่ XNUMX ด้าน: วิธีประเมินอัลกอริธึมการค้นหาและวิธีที่มนุษย์ตอบสนองต่อหัวข้อข่าว ชื่อ และตัวอย่างข้อมูล เสิร์ชเอ็นจิ้น เช่นเดียวกับบริการออนไลน์ส่วนใหญ่ ถูกตัดสินโดยใช้อาร์เรย์ของเมตริก ซึ่งหนึ่งในนั้นคือการมีส่วนร่วมของผู้ใช้ เพื่อประโยชน์สูงสุดของบริษัทเครื่องมือค้นหาที่จะมอบสิ่งที่คุณต้องการอ่าน ดู หรือเพียงแค่คลิก ดังนั้น เนื่องจากเสิร์ชเอ็นจิ้นหรือระบบการแนะนำใดๆ จะสร้างรายการที่จะนำเสนอ โปรแกรมจะคำนวณโอกาสที่คุณจะคลิกที่รายการนั้น

ตามเนื้อผ้า สิ่งนี้มีขึ้นเพื่อดึงข้อมูลที่เกี่ยวข้องมากที่สุดออกมา อย่างไรก็ตาม แนวคิดเรื่องความเกี่ยวข้องเริ่มคลุมเครือเพราะผู้คนใช้การค้นหาเพื่อค้นหา ผลการค้นหาความบันเทิงตลอดจนข้อมูลที่เกี่ยวข้องอย่างแท้จริง.

ลองนึกภาพคุณกำลังมองหาเครื่องตั้งเสียงเปียโน ถ้ามีคนแสดงวิดีโอของแมวที่เล่นเปียโนให้คุณดู คุณจะคลิกมันไหม หลายคนคงจะไม่เกี่ยวอะไรกับการปรับจูนเปียโนเลย บริการค้นหารู้สึกว่าได้รับการตรวจสอบโดยมีการตอบรับเชิงบวก และได้เรียนรู้ว่าการแสดงให้แมวเล่นเปียโนเมื่อมีคนค้นหาเครื่องตั้งเสียงเปียโนนั้นเป็นเรื่องปกติ

ในความเป็นจริง ดีกว่าการแสดงผลลัพธ์ที่เกี่ยวข้องในหลาย ๆ กรณี คนชอบดูวิดีโอแมวตลกๆ และระบบค้นหาได้รับการคลิกและการมีส่วนร่วมของผู้ใช้มากขึ้น

นี้อาจดูเหมือนไม่เป็นอันตราย แล้วถ้าผู้คนฟุ้งซ่านเป็นครั้งคราวและคลิกผลลัพธ์ที่ไม่เกี่ยวข้องกับคำค้นหาล่ะ ปัญหาคือผู้คนสนใจภาพที่น่าตื่นเต้นและพาดหัวข่าวที่น่าตื่นเต้น พวกเขา มีแนวโน้มที่จะคลิกทฤษฎีสมคบคิดและข่าวที่น่าตื่นเต้นไม่ใช่แค่แมวเล่นเปียโนแล้วทำอย่างนั้น มากกว่าการคลิกข่าวจริง หรือข้อมูลที่เกี่ยวข้อง

แมงมุมชื่อดังแต่ปลอม

ในปี 2018 การค้นหา "แมงมุมมฤตยูตัวใหม่" ถูกแทงบน Google หลังจากโพสต์บน Facebook ที่อ้างว่าแมงมุมมฤตยูตัวใหม่ได้ฆ่าคนไปหลายคนในหลายรัฐ เพื่อนร่วมงานของฉันและฉันวิเคราะห์ผลลัพธ์ 100 อันดับแรกจากการค้นหาของ Google สำหรับ "แมงมุมมฤตยูตัวใหม่" ในช่วงสัปดาห์แรกของข้อความค้นหาที่กำลังเป็นที่นิยมนี้

สองหน้าแรกของผลการค้นหาของ Google สำหรับ 'แมงมุมมฤตยูตัวใหม่' ในเดือนสิงหาคม 2018 (พื้นที่สีเทา) เกี่ยวข้องกับโพสต์ข่าวปลอมต้นฉบับเกี่ยวกับหัวข้อนั้น ไม่ใช่การหักล้างหรือข้อมูลที่เป็นข้อเท็จจริง ชีรัก ชาห์, CC BY-ND

ปรากฎว่าเรื่องนี้ เป็นของปลอมแต่ผู้ที่ค้นหาข้อมูลดังกล่าวมักได้รับข้อมูลที่ไม่ถูกต้องเกี่ยวกับโพสต์ปลอมต้นฉบับ ในขณะที่ผู้คนยังคงคลิกและแบ่งปันข้อมูลที่ไม่ถูกต้องนั้น Google ยังคงให้บริการหน้าเหล่านั้นที่ด้านบนสุดของผลการค้นหาต่อไป

รูปแบบของเรื่องราวที่น่าตื่นเต้นและไม่ได้รับการยืนยันซึ่งเกิดขึ้นและผู้คนคลิกยังคงดำเนินต่อไป โดยที่ผู้คนไม่ใส่ใจกับความจริงหรือเชื่อว่าหากบริการที่เชื่อถือได้ เช่น Google Search แสดงเรื่องราวเหล่านี้แก่พวกเขา เรื่องราวเหล่านั้นจะต้องเป็นความจริง เมื่อเร็วๆ นี้ a รายงานหักล้าง อ้างว่าจีนปล่อยให้ coronavirus รั่วไหลออกจากห้องทดลองได้รับแรงฉุดจากเครื่องมือค้นหาเนื่องจากวงจรอุบาทว์นี้

พบข้อมูลที่ผิด mis

เพื่อทดสอบว่าผู้คนเลือกปฏิบัติระหว่างข้อมูลที่ถูกต้องและข้อมูลที่ไม่ถูกต้องดีเพียงใด เราได้ออกแบบเกมง่ายๆ ที่เรียกว่า “Google หรือเปล่า” เกมออนไลน์นี้แสดงผลลัพธ์สองชุดสำหรับข้อความค้นหาเดียวกัน วัตถุประสงค์ง่าย ๆ - เลือกชุดที่น่าเชื่อถือ เชื่อถือได้ หรือเกี่ยวข้องมากที่สุด

ในการทดสอบ ผู้คนไม่สามารถแยกแยะความแตกต่างระหว่างผลการค้นหาของ Google ที่มีข้อมูลเท็จกับผลการค้นหาที่น่าเชื่อถือเพียงอย่างเดียวได้ประมาณครึ่งหนึ่ง ชีรัก ชาห์, CC BY-ND

หนึ่งในสองชุดนี้มีหนึ่งหรือสองผลลัพธ์ที่ได้รับการยืนยันและระบุว่าเป็นข้อมูลที่ผิดหรือเป็นเรื่องที่หักล้าง เราเผยแพร่เกมสู่สาธารณะและโฆษณาผ่านช่องทางโซเชียลมีเดียต่างๆ โดยรวมแล้ว เรารวบรวมคำตอบ 2,100 คำตอบจากกว่า 30 ประเทศ

เมื่อวิเคราะห์ผลลัพธ์แล้วพบว่า ประมาณครึ่งหนึ่งที่คนเข้าใจผิดคิดว่าเป็นชุดที่น่าเชื่อถือโดยมีผลการบิดเบือนข้อมูลหนึ่งหรือสองรายการ. การทดลองของเรากับผู้ใช้รายอื่นหลายร้อยรายในการทำซ้ำหลายครั้งได้ผลลัพธ์ที่คล้ายคลึงกัน กล่าวอีกนัยหนึ่งคือประมาณครึ่งหนึ่งที่ผู้คนเลือกผลลัพธ์ที่มีทฤษฎีสมคบคิดและข่าวปลอม เมื่อผู้คนเลือกผลลัพธ์ที่ไม่ถูกต้องและทำให้เข้าใจผิดเหล่านี้มากขึ้น เครื่องมือค้นหาก็เรียนรู้ว่านั่นคือสิ่งที่ผู้คนต้องการ

คำถามเกี่ยวกับกฎระเบียบของ Big Tech และการควบคุมตนเอง เป็นสิ่งสำคัญที่ผู้คนจะต้องเข้าใจว่าระบบเหล่านี้ทำงานอย่างไรและสร้างรายได้อย่างไร มิฉะนั้นเศรษฐกิจการตลาดและความโน้มเอียงตามธรรมชาติของผู้คนที่จะดึงดูดการเชื่อมโยงที่สะดุดตาจะทำให้วงจรอุบาทว์ดำเนินต่อไป

เกี่ยวกับผู้เขียน

Chirag Shah รองศาสตราจารย์ด้านสารสนเทศศาสตร์ มหาวิทยาลัยวอชิงตัน

บทความนี้ตีพิมพ์ซ้ำจาก สนทนา ภายใต้ใบอนุญาตครีเอทีฟคอมมอนส์ อ่าน บทความต้นฉบับ.