YouTube สร้างพวกหัวรุนแรงหรือไม่? NS ผลการศึกษาล่าสุด ทำให้เกิดการโต้เถียงในหมู่นักวิทยาศาสตร์ด้วยการโต้แย้งว่าอัลกอริธึมที่ขับเคลื่อนไซต์ไม่ได้ช่วยให้ผู้คนหัวรุนแรงโดยการแนะนำวิดีโอที่รุนแรงมากขึ้นเรื่อย ๆ เช่น ได้รับการแนะนำ ในปีที่ผ่านมา.
บทความดังกล่าวส่งไปยังวารสาร First Monday แต่ยังไม่ได้รับการตรวจสอบอย่างเป็นทางการ โดยวิเคราะห์วิดีโอแนะนำที่ได้รับจากช่องประเภทต่างๆ โดยอ้างว่าอัลกอริธึมของ YouTube สนับสนุนช่องสื่อกระแสหลักมากกว่าเนื้อหาอิสระ โดยสรุปว่าการทำให้รุนแรงขึ้นนั้นเกี่ยวข้องกับผู้ที่สร้างเนื้อหาที่เป็นอันตรายมากกว่าอัลกอริทึมของไซต์
ผู้เชี่ยวชาญในสาขานั้นรวดเร็วใน ตอบสนองต่อการศึกษา,ด้วยการวิจารณ์บ้าง วิธีการของกระดาษ และคนอื่น ๆ ที่โต้เถียงว่าอัลกอริธึมเป็นหนึ่งใน ปัจจัยสำคัญหลายประการ และวิทยาศาสตร์ข้อมูลนั้นเท่านั้น จะไม่ให้คำตอบกับเรา.
ปัญหาของการสนทนานี้คือ เราไม่สามารถตอบคำถามจริงๆ ว่าอัลกอริทึมของ YouTube มีบทบาทอย่างไรกับคนหัวรุนแรง เพราะเราไม่เข้าใจว่ามันทำงานอย่างไร และนี่เป็นเพียงอาการของปัญหาที่กว้างกว่ามาก อัลกอริธึมเหล่านี้มีบทบาทมากขึ้นในชีวิตประจำวันของเราแต่ขาดความโปร่งใส
เป็นการยากที่จะโต้แย้งว่า YouTube ไม่ได้มีบทบาทในการทำให้รุนแรงขึ้น สิ่งนี้ถูกชี้ให้เห็นครั้งแรกโดยนักสังคมวิทยาด้านเทคโนโลยี Zeynep Tufekci ซึ่งแสดงให้เห็นว่าวิดีโอแนะนำค่อยๆ ขับเคลื่อนผู้ใช้ได้อย่างไร ไปสู่เนื้อหาที่รุนแรงมากขึ้น. ในคำพูดของ Tufekci วิดีโอเกี่ยวกับการวิ่งจ็อกกิ้งนำไปสู่วิดีโอเกี่ยวกับการวิ่งอัลตร้ามาราธอน วิดีโอเกี่ยวกับวัคซีนนำไปสู่ทฤษฎีสมคบคิด และวิดีโอเกี่ยวกับการเมืองนำไปสู่ "การปฏิเสธความหายนะและเนื้อหาที่สร้างความรำคาญ"
นี้ได้รับการเขียนเกี่ยวกับ โดยละเอียด โดย Guillaume Chaslot อดีตพนักงานของ YouTube ที่ทำงานเกี่ยวกับอัลกอริทึมการแนะนำของไซต์ ตั้งแต่ออกจากบริษัท Chaslot ก็พยายามให้คำแนะนำเหล่านั้นต่อไป โปร่งใสมากขึ้น. เขากล่าวว่าคำแนะนำของ YouTube มีอคติต่อ ทฤษฎีสมคบคิดและวิดีโอที่ไม่ถูกต้องตามข้อเท็จจริงซึ่งทำให้ผู้คนใช้เวลากับไซต์มากขึ้น
ในความเป็นจริง เพิ่มเวลาในการรับชมสูงสุด เป็นจุดรวมของอัลกอริทึมของ YouTube และสิ่งนี้สนับสนุนให้ผู้สร้างวิดีโอต่อสู้เพื่อเรียกร้องความสนใจในทุกวิถีทางที่เป็นไปได้ ความเป็นเลิศของบริษัท ขาดความโปร่งใส เกี่ยวกับวิธีการทำงานนี้ทำให้แทบเป็นไปไม่ได้เลยที่จะต่อสู้กับการทำให้รุนแรงขึ้นบนไซต์ หากไม่มีความโปร่งใส ก็ยากที่จะรู้ว่าสิ่งใดสามารถเปลี่ยนแปลงได้เพื่อปรับปรุงสถานการณ์
วิธีการทำงานของอัลกอริทึมของ YouTube ยังคงเป็นปริศนา ใครคือแดนนี่/Shutterstock is
แต่ YouTube ไม่ใช่เรื่องแปลกในแง่นี้ การขาดความโปร่งใสเกี่ยวกับวิธีการทำงานของอัลกอริธึมมักเกิดขึ้นเมื่อมีการใช้ในระบบขนาดใหญ่ ไม่ว่าจะโดยบริษัทเอกชนหรือหน่วยงานสาธารณะ เช่นเดียวกับการตัดสินใจเลือกวิดีโอที่จะแสดงให้คุณเห็นต่อไป ตอนนี้อัลกอริทึมของแมชชีนเลิร์นนิงก็ถูกนำมาใช้เพื่อ ส่งเด็กเข้าโรงเรียน, ตัดสินใจ โทษจำคุก, กำหนด คะแนนเครดิต และ อัตราค่าประกันเช่นเดียวกับชะตากรรมของ อพยพ, ผู้สมัครงาน และ ผู้สมัครเข้ามหาวิทยาลัย. และโดยปกติเราไม่เข้าใจว่าระบบเหล่านี้ตัดสินใจอย่างไร
นักวิจัยได้ค้นพบวิธีที่สร้างสรรค์ในการแสดงผลกระทบของอัลกอริธึมเหล่านี้ต่อสังคมไม่ว่าจะโดยการตรวจสอบ การเพิ่มขึ้นของสิทธิปฏิกิริยา หรือ การแพร่กระจายของทฤษฎีสมคบคิด บน YouTube หรือแสดงวิธี เสิร์ชเอ็นจิ้นสะท้อนอคติทางเชื้อชาติ ของคนที่สร้างพวกเขา
ระบบแมชชีนเลิร์นนิงมักจะใหญ่ ซับซ้อน และทึบแสง เหมาะสมแล้ว พวกเขามักถูกเรียกว่า กล่องดำที่ข้อมูลเข้าไป และข้อมูลหรือการกระทำออกมา แต่ไม่มีใครเห็นว่าเกิดอะไรขึ้นระหว่างนั้น ซึ่งหมายความว่า เนื่องจากเราไม่ทราบแน่ชัดว่าอัลกอริธึมเช่นระบบแนะนำของ YouTube ทำงานอย่างไร การพยายามค้นหาวิธีการทำงานของเว็บไซต์ก็เหมือนกับการพยายามทำความเข้าใจรถโดยไม่ต้องเปิดฝากระโปรง
ในทางกลับกัน นี่หมายความว่าการพยายามเขียนกฎหมายเพื่อควบคุมว่าอัลกอริธึมใดควรหรือไม่ควรทำ กลายเป็นกระบวนการที่ตาบอดหรือการลองผิดลองถูก นี่คือสิ่งที่เกิดขึ้นกับ YouTube และอัลกอริธึมแมชชีนเลิร์นนิงอื่นๆ มากมาย เรากำลังพยายามพูดในผลลัพธ์ของพวกเขา โดยไม่เข้าใจจริงๆ ว่าพวกเขาทำงานอย่างไร เราจำเป็นต้องเปิดเทคโนโลยีที่จดสิทธิบัตรเหล่านี้ หรืออย่างน้อยก็ทำให้โปร่งใสเพียงพอที่เราจะควบคุมได้
คำอธิบายและการทดสอบ
วิธีหนึ่งในการทำเช่นนี้คือให้อัลกอริทึมจัดเตรียม คำอธิบายที่เป็นเท็จ พร้อมกับการตัดสินใจของพวกเขา นี่หมายถึงการหาเงื่อนไขขั้นต่ำที่จำเป็นสำหรับอัลกอริธึมในการตัดสินใจที่แตกต่างออกไป โดยไม่ต้องอธิบายตรรกะทั้งหมด ตัวอย่างเช่น อัลกอริธึมในการตัดสินใจเกี่ยวกับสินเชื่อธนาคารอาจให้ผลลัพธ์ที่ระบุว่า “หากคุณอายุเกิน 18 ปีและไม่มีหนี้ก้อนก่อนหน้า คุณจะยอมรับเงินกู้จากธนาคารของคุณ” แต่อาจเป็นเรื่องยากที่จะทำกับ YouTube และไซต์อื่นๆ ที่ใช้อัลกอริธึมการแนะนำ ตามทฤษฎีแล้ววิดีโอใดๆ บนแพลตฟอร์มสามารถแนะนำได้ทุกเมื่อ
เครื่องมือที่ทรงพลังอีกอย่างหนึ่งคือการทดสอบและตรวจสอบอัลกอริธึม ซึ่งมีประโยชน์อย่างยิ่งในการวินิจฉัยอัลกอริธึมที่มีอคติ ในกรณีล่าสุด บริษัทตรวจสอบประวัติย่อมืออาชีพพบว่าอัลกอริทึมของมันคือ จัดลำดับความสำคัญสองปัจจัย เป็นตัวทำนายผลการปฏิบัติงานที่ดีที่สุด ไม่ว่าจะเป็นชื่อผู้สมัครว่าจาเร็ดหรือไม่ และหากพวกเขาเล่นลาครอสในโรงเรียนมัธยมศึกษาตอนปลาย นี่คือสิ่งที่เกิดขึ้นเมื่อเครื่องไม่มีการควบคุมดูแล
ในกรณีนี้ อัลกอริธึมการคัดกรองเรซูเม่พบว่าชายผิวขาวมีโอกาสได้รับการว่าจ้างสูงกว่า และพบลักษณะตัวแทนที่สัมพันธ์กัน (เช่น การตั้งชื่อว่าจาเร็ดหรือการเล่นลาครอส) ปรากฏอยู่ในผู้สมัครที่ได้รับการว่าจ้าง เมื่อใช้ YouTube การตรวจสอบอัลกอริทึมจะช่วยให้เข้าใจว่าวิดีโอประเภทใดได้รับการจัดลำดับความสำคัญสำหรับการแนะนำ และอาจช่วยยุติการอภิปรายว่าคำแนะนำของ YouTube มีส่วนทำให้เกิดความรุนแรงหรือไม่
การแนะนำคำอธิบายที่เป็นเท็จหรือการใช้การตรวจสอบอัลกอริธึมเป็นกระบวนการที่ยากและมีค่าใช้จ่ายสูง แต่มันสำคัญเพราะทางเลือกที่แย่กว่านั้น หากอัลกอริทึมไม่ได้รับการตรวจสอบและไม่ได้รับการควบคุม เราอาจเห็นนักทฤษฎีสมคบคิดและพวกหัวรุนแรงค่อยๆ เล็ดลอดเข้ามาในสื่อของเรา และความสนใจของเราควบคุมโดยใครก็ตามที่สามารถสร้างเนื้อหาที่ทำกำไรได้มากที่สุด
เกี่ยวกับผู้เขียน
Chico Q. Camargo นักวิจัยหลังปริญญาเอกสาขาวิทยาศาสตร์ข้อมูล University of Oxford
บทความนี้ตีพิมพ์ซ้ำจาก สนทนา ภายใต้ใบอนุญาตครีเอทีฟคอมมอนส์ อ่าน บทความต้นฉบับ.
