ไม่ว่าใครก็ตาม แม้แต่คุณ อาจกลายเป็นอินเทอร์เน็ตโทรลล์

ตามคำจำกัดความแล้ว โทรลล์ทางอินเทอร์เน็ตนั้นก่อกวน ต่อสู้ และมักไม่เป็นที่พอใจกับโพสต์ออนไลน์ที่สร้างความไม่พอใจหรือยั่วยุซึ่งออกแบบมาเพื่อรบกวนและอารมณ์เสีย

สมมติฐานทั่วไปคือคนที่หมุนรอบแตกต่างจากพวกเราที่เหลือ ทำให้เรามีอิสระที่จะไม่สนใจพวกเขาและพฤติกรรมของพวกเขา แต่ผลการศึกษาใหม่ชี้ให้เห็นเป็นอย่างอื่น—ภายใต้สถานการณ์ที่เหมาะสม ทุกคนสามารถกลายเป็นโทรลล์ได้

Justin Cheng นักวิจัยด้านวิทยาการคอมพิวเตอร์ที่มหาวิทยาลัยสแตนฟอร์ดและผู้เขียนนำรายงานฉบับใหม่กล่าวว่า "เราต้องการที่จะเข้าใจว่าทำไมการหลอกลวงจึงเป็นที่แพร่หลายมากในปัจจุบัน “ในขณะที่ความรู้ทั่วไปคือโทรลล์เป็นบุคคลที่มีจิตวิปริตโดยเฉพาะอย่างยิ่งที่ปรากฏในการสนทนาเป็นครั้งคราว จริง ๆ แล้วเป็นเพียงคนเหล่านี้ที่หลอกหลอนผู้อื่นหรือไม่”

อารมณ์ไม่ดี

พฤติกรรมการล้อเลียนเป็นลักษณะโดยกำเนิดหรือปัจจัยสถานการณ์สามารถมีอิทธิพลต่อผู้คนให้ทำตัวเหมือนโทรลล์ได้หรือไม่? เพื่อหาคำตอบ นักวิจัยได้ใช้การทดลอง การวิเคราะห์ข้อมูล และการเรียนรู้ของเครื่องผสมกัน และรวบรวมปัจจัยง่ายๆ บางอย่างที่ทำให้คนทั่วไปมีแนวโน้มที่จะโทรลล์มากขึ้น

หลังจากการวิจัยก่อนหน้านี้เกี่ยวกับพฤติกรรมต่อต้านสังคม นักวิจัยได้ตัดสินใจที่จะเน้นว่าอารมณ์และบริบทส่งผลต่อสิ่งที่ผู้คนเขียนในฟอรัมสนทนาอย่างไร พวกเขาตั้งค่าการทดลองสองส่วนโดยมีอาสาสมัคร 667 คนคัดเลือกผ่านแพลตฟอร์มการระดมมวลชน

ในส่วนแรกของการทดสอบ ผู้เข้าร่วมจะได้รับการทดสอบ ซึ่งง่ายหรือยากมาก หลังจากทำการทดสอบ ทุกวิชากรอกแบบสอบถามที่ประเมินอารมณ์ในด้านต่างๆ ของพวกเขา รวมถึงความโกรธ ความเหนื่อยล้า ความซึมเศร้า และความตึงเครียด ตามที่คาดไว้ คนที่ทำแบบทดสอบยากเสร็จแล้วมีอารมณ์แย่กว่าผู้ที่ทำแบบทดสอบง่าย ๆ


กราฟิกสมัครสมาชิกภายในตัวเอง


จากนั้นผู้เข้าร่วมทุกคนจะได้รับคำสั่งให้อ่านบทความและมีส่วนร่วมในส่วนความคิดเห็น พวกเขาต้องแสดงความคิดเห็นอย่างน้อยหนึ่งรายการ แต่สามารถแสดงความคิดเห็นหลายรายการ โหวตขึ้นและลง และสามารถตอบกลับความคิดเห็นอื่นๆ ได้ ผู้เข้าร่วมทั้งหมดเห็นบทความเดียวกันบนแพลตฟอร์มเดียวกัน ซึ่งสร้างขึ้นเพื่อการทดลองเท่านั้น แต่ผู้เข้าร่วมบางคนได้รับฟอรัมที่มีโพสต์โทรลล์สามโพสต์ที่ด้านบนของส่วนความคิดเห็น คนอื่นเห็นโพสต์ที่เป็นกลางสามโพสต์

ผู้เชี่ยวชาญอิสระสองคนประเมินว่าโพสต์ที่อาสาสมัครทิ้งไว้นั้นเข้าข่ายการหลอกหลอนหรือไม่ ซึ่งกำหนดโดยทั่วไปในงานวิจัยนี้โดยใช้แนวทางการโพสต์ที่นำมาจากกระดานสนทนาหลายกระดานรวมกัน ตัวอย่างเช่น การโจมตีส่วนบุคคลและการสาปแช่งบ่งบอกถึงโพสต์โทรลล์

ประมาณ 35 เปอร์เซ็นต์ของผู้ที่ทำแบบทดสอบง่ายๆ เสร็จแล้วและเห็นโพสต์ที่เป็นกลางจึงโพสต์ความคิดเห็นเกี่ยวกับการหมุนรอบของตนเอง เปอร์เซ็นต์นั้นเพิ่มขึ้นเป็น 50 เปอร์เซ็นต์หากผู้ทดลองทำการทดสอบอย่างหนักหรือเห็นความคิดเห็นที่หลอกลวง ผู้คนที่เผชิญกับการทดสอบที่ยากลำบากและเสาโทรลล์ถูกหมุนรอบประมาณ 68 เปอร์เซ็นต์ของเวลาทั้งหมด

เพื่อเชื่อมโยงข้อมูลเชิงลึกจากการทดลองเหล่านี้กับโลกแห่งความเป็นจริง นักวิจัยยังได้วิเคราะห์ข้อมูลที่ไม่เปิดเผยชื่อจากส่วนความคิดเห็นของ CNN จากตลอดปี 2012 ข้อมูลประกอบด้วยผู้ใช้ 1,158,947 ราย การสนทนา 200,576 รายการ และโพสต์ 26,552,104 โพสต์ รวมถึงผู้ใช้ที่ถูกแบนและโพสต์ที่ถูกลบโดยผู้ดูแล ในส่วนนี้ของการวิจัย ทีมงานได้กำหนดให้โพสต์โทรลล์เป็นโพสต์ที่สมาชิกในชุมชนแจ้งว่าไม่เหมาะสม

'เกลียวแห่งการปฏิเสธ'

เป็นไปไม่ได้ที่จะประเมินอารมณ์ของผู้แสดงความคิดเห็นโดยตรง แต่นักวิจัยดูที่การประทับเวลาของโพสต์ เนื่องจากการวิจัยก่อนหน้านี้แสดงให้เห็นว่าเวลาของวันและวันในสัปดาห์สอดคล้องกับอารมณ์ เหตุการณ์ของการโหวตไม่ลงและโพสต์ที่ถูกตั้งค่าสถานะเรียงรายอย่างใกล้ชิดกับรูปแบบของอารมณ์เชิงลบที่กำหนดไว้ เหตุการณ์ดังกล่าวมักจะเพิ่มขึ้นในช่วงดึกและต้นสัปดาห์ ซึ่งเป็นช่วงที่ผู้คนมักจะอารมณ์ไม่ดีเช่นกัน

นักวิจัยได้ตรวจสอบผลกระทบของอารมณ์เพิ่มเติมและพบว่าผู้คนมีแนวโน้มที่จะสร้างโพสต์ที่ถูกตั้งค่าสถานะหากพวกเขาเพิ่งถูกตั้งค่าสถานะหรือหากพวกเขามีส่วนร่วมในการอภิปรายแยกต่างหากที่รวมเฉพาะโพสต์ที่ถูกตั้งค่าสถานะซึ่งเขียนโดยผู้อื่น การค้นพบนี้เป็นจริงไม่ว่าบทความใดจะเกี่ยวข้องกับการสนทนา

Jure Leskovec รองศาสตราจารย์ด้านวิทยาการคอมพิวเตอร์และผู้เขียนอาวุโสของบทความกล่าวว่า "มันเป็นเกลียวของการปฏิเสธ “เพียงคนเดียวที่ตื่นขึ้นมาบ้าๆบอ ๆ ก็สามารถสร้างประกายไฟได้ และเนื่องจากบริบทของการอภิปรายและการลงคะแนน ประกายไฟเหล่านี้สามารถแพร่กระจายไปสู่พฤติกรรมที่ไม่ดี การสนทนาที่ไม่ดีนำไปสู่การสนทนาที่ไม่ดี ผู้ที่ได้รับการโหวตต่ำจะกลับมาแสดงความคิดเห็นมากขึ้นและแสดงความคิดเห็นที่แย่ลงไปอีก”

การคาดคะเนโพสต์ที่ถูกตั้งค่าสถานะ

ในขั้นตอนสุดท้ายในการวิจัย ทีมงานได้สร้างอัลกอริธึมการเรียนรู้ด้วยเครื่องซึ่งมีหน้าที่คาดการณ์ว่าโพสต์ถัดไปที่ผู้เขียนเขียนจะถูกตั้งค่าสถานะหรือไม่

ข้อมูลที่ป้อนไปยังอัลกอริธึมรวมถึงการประทับเวลาของโพสต์ล่าสุดของผู้เขียน ไม่ว่าโพสต์สุดท้ายจะถูกตั้งค่าสถานะหรือไม่ โพสต์ก่อนหน้าในการอภิปรายถูกตั้งค่าสถานะหรือไม่ ประวัติโดยรวมของผู้เขียนในการเขียนโพสต์ที่ถูกตั้งค่าสถานะ และ ID ผู้ใช้ที่ไม่ระบุตัวตนของผู้เขียน .

ผลการวิจัยพบว่าสถานะธงของโพสต์ก่อนหน้าในการอภิปรายเป็นตัวทำนายที่แข็งแกร่งที่สุดว่าโพสต์ถัดไปจะถูกตั้งค่าสถานะหรือไม่ คุณลักษณะที่เกี่ยวข้องกับอารมณ์ เช่น เวลาและการติดธงทำเครื่องหมายผู้แสดงความคิดเห็นครั้งก่อนนั้นคาดเดาได้น้อยกว่ามาก ประวัติผู้ใช้และ ID ผู้ใช้ แม้ว่าจะเป็นการคาดเดา แต่ก็ยังมีข้อมูลน้อยกว่าบริบทการสนทนาอย่างมีนัยสำคัญ นี่หมายความว่า แม้ว่าบางคนอาจมีแนวโน้มที่จะหลอกหลอนอยู่เสมอ แต่บริบทที่เราโพสต์มีแนวโน้มที่จะนำไปสู่การหลอกลวงมากกว่า

แบนเงาและช่วงพักร้อน?

ระหว่างการวิเคราะห์ข้อมูลในวงกว้างในชีวิตจริง การทดลอง และงานการทำนาย ผลการวิจัยมีความแข็งแกร่งและสม่ำเสมอ นักวิจัยแนะนำว่าบริบทของการสนทนาและอารมณ์สามารถนำไปสู่การหลอกลวงได้ พวกเขาเชื่อว่าสิ่งนี้สามารถนำไปสู่การสร้างพื้นที่สนทนาออนไลน์ที่ดีขึ้นได้

Cristian Danescu-Niculescu-Mizil ผู้ช่วยศาสตราจารย์ด้านวิทยาการสารสนเทศที่ Cornell University และผู้เขียนร่วมของรายงานกล่าวว่า "การทำความเข้าใจว่าอะไรเป็นตัวกำหนดคนให้ประพฤติต่อต้านสังคมเป็นสิ่งสำคัญ หากเราต้องการปรับปรุงคุณภาพของการสนทนาออนไลน์ "ข้อมูลเชิงลึกเกี่ยวกับกลไกเชิงสาเหตุพื้นฐานสามารถแจ้งการออกแบบระบบที่ส่งเสริมการอภิปรายออนไลน์ที่เป็นพลเมืองมากขึ้นและสามารถช่วยผู้ดูแลบรรเทาการหลอกลวงได้อย่างมีประสิทธิภาพมากขึ้น"

การแทรกแซงเพื่อป้องกันการล้อเลียนอาจรวมถึงกระดานสนทนาที่แนะนำช่วงเวลาพักสายตาสำหรับผู้แสดงความคิดเห็นที่เพิ่งถูกตั้งค่าสถานะโพสต์ ระบบที่เตือนผู้ดูแลโดยอัตโนมัติถึงโพสต์ที่น่าจะเป็นโพสต์หลอกลวงหรือ "การแบนเงา"—ซ่อนโพสต์โทรลล์ จากผู้ใช้ที่ไม่ใช่โทรลล์โดยไม่แจ้งโทรลล์

นักวิจัยเชื่อว่าการศึกษาในลักษณะนี้เป็นเพียงจุดเริ่มต้นของการทำงานที่จำเป็นมาระยะหนึ่งแล้ว เนื่องจากอินเทอร์เน็ตยังห่างไกลจากการเป็นหมู่บ้านแห่งการโต้วาทีและการอภิปรายอย่างจริงใจที่ผู้คนเคยคิดว่ามันจะกลายเป็น

ผู้เขียนร่วม Michael Bernstein ผู้ช่วยศาสตราจารย์ด้านวิทยาการคอมพิวเตอร์ที่ Stanford กล่าวว่า "ในท้ายที่สุดแล้ว สิ่งที่งานวิจัยชิ้นนี้แนะนำจริงๆ คือเราเองที่เป็นต้นเหตุให้เกิดความล้มเหลวเหล่านี้ในการอภิปราย “เว็บไซต์ข่าวจำนวนมากได้นำระบบแสดงความคิดเห็นออกเพราะพวกเขาคิดว่ามันขัดกับการอภิปรายและอภิปรายที่เกิดขึ้นจริง การทำความเข้าใจตัวตนที่ดีและแย่ที่สุดของเราที่นี่เป็นกุญแจสำคัญในการนำสิ่งเหล่านั้นกลับมา”

พื้นที่ กระดาษ ได้รับการตีพิมพ์เป็นส่วนหนึ่งของการประชุม 2017 ที่จะเกิดขึ้นเกี่ยวกับงานสหกรณ์ที่สนับสนุนด้วยคอมพิวเตอร์และคอมพิวเตอร์เพื่อสังคม

ที่มา: มหาวิทยาลัย Stanford

หนังสือที่เกี่ยวข้อง

at ตลาดภายในและอเมซอน