บริษัทเอกชนกำลังตรวจสอบความเกลียดชังทางออนไลน์โดยไม่มีการกำกับดูแลหรือกฎระเบียบที่เป็นอิสระ ซึ่งมีผลกระทบร้ายแรงและก่อให้เกิดความเสี่ยงต่อสิทธิมนุษยชนและเสรีภาพขั้นพื้นฐาน (Shutterstock)

การเดินขบวนด้วยไฟคบเพลิงโดยผู้มีอำนาจสูงสุดผิวขาวที่ติดอาวุธเมื่อเร็วๆ นี้ในเมืองชาร์ลอตส์วิลล์ รัฐเวอร์จิเนีย ยังคงก่อให้เกิดการถกเถียงกันว่าควรควบคุมกลุ่มความเกลียดชังอย่างไร ท่ามกลางแรงกดดันจากสาธารณชนที่เพิ่มมากขึ้นหลังการเดินขบวน บริษัทอินเทอร์เน็ตต่างรีบลบเว็บไซต์ที่ใช้ถ้อยคำแสดงความเกลียดชังที่รุนแรงออกจากแพลตฟอร์ม

GoDaddy ยุติบริการโดเมน ไปที่เว็บไซต์นีโอนาซี The Daily Stormer เช่นเดียวกับที่ Google. Cloudflare บริษัทที่ปกป้องเว็บไซต์จากการโจมตีออนไลน์ด้วย ห้าม เว็บไซต์เกลียดชังจากแพลตฟอร์ม รัสเซียสั่งห้ามเว็บไซต์ จากการเป็นเจ้าภาพในประเทศ

งานวิจัยของฉัน และหนังสือของฉัน Chokepoints: Global Private Regulation บนอินเทอร์เน็ต แสดงให้เห็นว่าบริษัทอินเทอร์เน็ตหลายแห่งได้ลบเนื้อหาและห้ามผู้ใช้ "โดยสมัครใจ" นั่นคือในกรณีที่ไม่มีกฎหมายหรือกระบวนการยุติธรรมใด ๆ ตัวกลางที่สำคัญ ได้แก่ Google, PayPal, GoDaddy, Twitter และ Facebook สมัครใจตรวจสอบแพลตฟอร์มของพวกเขาสำหรับเนื้อหาการล่วงละเมิดทางเพศเด็ก ความคลั่งไคล้ และการค้าสินค้าลอกเลียนแบบที่ผิดกฎหมาย

หลายคนปรบมืออย่างเข้าใจในความพยายามเหล่านี้ในการขจัดคำพูดแสดงความเกลียดชังและเนื้อหาที่ไม่เหมาะสมอื่นๆ อย่างไรก็ตาม ความพยายามของบริษัทอินเทอร์เน็ตในฐานะผู้ควบคุมคำพูดโดยพฤตินัยทำให้เกิดคำถามร้ายแรง: เนื้อหาออนไลน์ควรได้รับการควบคุมอย่างไร โดยใคร?

ฉันไม่สนับสนุน supremacists ผิวขาวและฉันไม่ได้โต้เถียงกับการรักษาคำพูดดังกล่าว ฉันกำลังบอกว่าเราจำเป็นต้องพิจารณาอย่างจริงจังถึงวิธีการควบคุมเนื้อหาออนไลน์ เนื่องจากกรณีต่อไปอาจไม่ชัดเจนเท่าที่ควร

มีปัญหาสำคัญเกี่ยวกับการพึ่งพาบริษัทที่มีอำนาจในการตรวจตราทางอินเทอร์เน็ต เนื่องจากแนวปฏิบัติในการบังคับใช้ของพวกเขานั้นไม่ชัดเจนและมีแนวโน้มที่จะตีความตามอำเภอใจ

แบบอย่างรบกวนจิตใจ

Matthew Prince ซีอีโอของ Cloudflare ได้เสนอมุมมองที่ระมัดระวังและเหมาะสมยิ่งสำหรับการถอนตัวจากกลุ่มที่เกลียดชังเพื่อตอบสนองต่อแรงกดดันของสาธารณชน ในทางตรงกันข้ามกับเสียงเชียร์ของบริษัทอินเทอร์เน็ตที่คัดค้าน Daily Stormer .

ใน โพสต์บล็อก ในการอธิบายการกระทำของ Cloudflare ต่อ Daily Stormer นั้น Prince โต้แย้งว่าบริษัทถือว่ากระบวนการที่เหมาะสมเป็น “หลักการที่สำคัญกว่า” มากกว่าเสรีภาพในการพูด เขากล่าวว่ากระบวนการที่ครบกำหนดหมายความว่า "คุณควรจะสามารถรู้กฎที่ระบบจะปฏิบัติตามหากคุณเข้าร่วมในระบบนั้น" คำแถลงนี้รวบรวมปัญหาโดยธรรมชาติของคนกลางที่ทำงานเป็นผู้ควบคุมเนื้อหาและพฤติกรรมออนไลน์โดยพฤตินัย

เมื่อต้นปีนี้ พนักงาน Shopify และอีกหลายร้อย หลายพันคน กระตุ้นและ กระทรวงมหาดไทย แพลตฟอร์มการค้าออนไลน์เพื่อหยุดการโฮสต์ร้านอินเทอร์เน็ตของ Breitbart Media ที่อยู่ทางขวาสุด กลับเข้ารับตำแหน่งประธานบริหาร สตีเฟน แบนนอน โทร Breitbart "เวทีสำหรับ alt-right" ที่เรียกว่า “alt-right” – คำที่นิยมโดย ริชาร์ด เบอร์ทรานด์ สเปนเซอร์ - ครอบคลุมการผสมผสานของลัทธิเหนือคนผิวขาว ลัทธิแบ่งแยกดินแดน นีโอนาซี ฟาสซิสต์ แบ่งแยกเชื้อชาติ ต่อต้านกลุ่มเซมิติก อิสลามโฟบิก และอุดมการณ์อนุรักษ์นิยมแบบประชานิยม

Tobias Lütke CEO ของ Shopify กล่าวว่าเขาปกป้องคำพูดอย่างอิสระ ในขณะที่บริษัทออตตาวายังคงเป็นเจ้าภาพร้านค้าออนไลน์ของ Breitbart ภายใต้การคุกคามของ พนักงานลาออก. หลังจากสาธารณะ ความดัน และแคมเปญระดับรากหญ้าขนานนามว่า #ลบShopify นำไปสู่การตรวจสอบที่เปิดเผยมากขึ้น ธุรกิจที่น่าสงสัย, Shopify เดิมคือ ถูกบังคับ การรับเอา an “นโยบายการใช้งานที่ยอมรับได้”

ตัวอย่างที่ตัดกันของ The Daily Stormer และการลบโดยบริษัทอินเทอร์เน็ต และการสนับสนุน Breitbart อย่างแน่วแน่ของ Shopify แสดงให้เห็นถึงภาวะที่กลืนไม่เข้าคายไม่ออกสุดขั้วที่สัญญาว่าจะทวีความรุนแรงขึ้นเท่านั้น

นโยบายระเบียบข้อบังคับ

คนกลางทางอินเทอร์เน็ตมีศักยภาพที่จะเป็นผู้กำกับดูแลที่มีประสิทธิภาพในประเด็นต่างๆ มากมาย เนื่องจากพวกเขาสามารถดำเนินการได้อย่างรวดเร็วและปราศจากคำสั่งศาล ที่สำคัญ พวกเขามีละติจูดในการเซ็นเซอร์เนื้อหาใดๆ หรือแบนผู้ใช้ภายใต้ข้อตกลงเงื่อนไขการให้บริการ

PayPal ขอสงวนสิทธิ์ในการยุติการให้บริการแก่ผู้ใช้ “ด้วยเหตุผลใด ๆ และในเวลาใด ๆ” ภาษาที่สะท้อนอยู่ในข้อตกลงการให้บริการของตัวกลางส่วนใหญ่ ความสามารถในการควบคุมโดยพลการจึงกลายเป็นกฎภายในของคนกลาง

เจ้าชายเตือนว่าการกระทำของ Cloudflare ต่อ Daily Stormer เป็นแบบอย่างสำหรับผู้ไกล่เกลี่ยในการปราศรัยของตำรวจโดยไม่ต้องมีคำสั่งศาลกำหนดให้พวกเขาทำเช่นนั้น

ตัวกลางเหล่านี้มักจะกระทำการตามคำสั่งของรัฐบาลที่ต้องการให้บริษัทเป็นสาธารณะ (แต่ส่วนใหญ่ไม่สามารถรับผิดชอบได้) ต่อกฎระเบียบทางอินเทอร์เน็ต แต่บริษัทเหล่านั้นมักไม่พร้อมในการแยกแยะระหว่างความถูกกฎหมายกับสิ่งผิดกฎหมาย ทำให้เกิดการลบออกโดยมิชอบ และมุ่งเป้าไปที่พฤติกรรมที่ชอบด้วยกฎหมายอย่างผิดพลาด

มีปัญหาเท่าเทียมกัน: กระบวนการบังคับใช้ของคนกลางมักไม่ชัดเจน เนื่องจากผู้ตรวจสอบเนื้อหาจะตีความกฎภายในที่ซับซ้อนและเปลี่ยนแปลงอย่างรวดเร็วโดยพลการ ปัญหาเหล่านี้ประกอบขึ้นจากการใช้เครื่องมืออัตโนมัติที่เพิ่มขึ้นของคนกลางในการระบุและลบเนื้อหาที่เป็นปัญหาบนแพลตฟอร์มของตน

นอกจากนี้ยังมีข้อกังวลที่เรียกว่าภารกิจคืบคลานเมื่อกฎที่ตราขึ้นเป็นครั้งแรกในการต่อต้านการทารุณกรรมเด็กหรือการก่อการร้าย – ตัวเร่งปฏิกิริยาที่สำคัญสำหรับการบังคับใช้ – ถูกนำมาใช้ในภายหลังกับปัญหาอื่นๆ ที่ไม่เป็นอันตรายอย่างชัดเจน เช่น การดาวน์โหลดเนื้อหาที่มีลิขสิทธิ์โดยไม่ได้รับอนุญาต

อนาคตดิสโทเปียอยู่ที่นี่

ความพยายามในการกำกับดูแลมักขยายจากการเซ็นเซอร์คำพูดแสดงความเกลียดชังที่รุนแรงไปเป็นคำพูดอื่นๆ ที่บางคนอาจมองว่าเป็นข้อขัดแย้ง เช่น คำพูดของ Black Lives Matter เช่นกัน รัฐบาลทั่วโลกมักกดดันให้คนกลางries เซ็นเซอร์และติดตาม นักวิจารณ์และฝ่ายตรงข้ามทางการเมือง

เมื่อคนกลางรายใหญ่กลายเป็นหน่วยงานกำกับดูแลที่รับผิดชอบในการรักษาเนื้อหาในนามของรัฐบาลหรือเพื่อตอบสนองต่อการประท้วงที่มีชื่อเสียง อำนาจของพวกเขาก็เพิ่มขึ้นอย่างมาก บริษัทอินเทอร์เน็ตที่มีฐานอยู่ในสหรัฐฯ ได้ครอบครองภาคอุตสาหกรรมมากมายแล้ว รวมถึงการค้นหา การโฆษณา การจดทะเบียนโดเมน การชำระเงิน และโซเชียลมีเดีย เจ้าชายแห่งคลาวด์แฟลร์อย่างถูกต้อง เตือน โดยขึ้นอยู่กับ "เครือข่ายยักษ์ไม่กี่แห่ง" "บริษัทจำนวนน้อยส่วนใหญ่จะกำหนดว่าอะไรสามารถและไม่สามารถออนไลน์ได้"

อนาคต dystopian นี้อยู่ที่นี่แล้ว

การลบล้าง Daily Stormer ทำให้โลกนี้น่าอยู่ขึ้นอย่างไม่ต้องสงสัย แต่เราต้องการให้บริษัทอย่าง Facebook และ Twitter ตัดสินใจ - อย่างอิสระ โดยพลการ และอย่างลับๆ - เนื้อหาใดที่เราสามารถเข้าถึงและแบ่งปันได้?

จากปัญหาที่ดูเหมือนยากจะรักษาเหล่านี้ เราจะทำอย่างไร? ประการแรก เราควรหลีกเลี่ยงการปกครองบนพื้นฐานของการประท้วงหรือแรงกดดันจากสื่อ แทนที่, เราต้องการกฎเกณฑ์ที่ชัดเจน เพื่อให้คนกลางสามารถโต้ตอบได้อย่างสม่ำเสมอ โปร่งใส และเคารพในกระบวนการที่เหมาะสม ตามที่เจ้าชายแนะนำ

รัฐบาลควรชี้แจงลักษณะและที่สำคัญคือข้อจำกัดความรับผิดชอบด้านกฎระเบียบของผู้เป็นคนกลาง สุดท้ายนี้ เราต้องหยุดการปกครองเพื่อตอบสนองต่อวิกฤตการณ์ต่างๆ ที่เรียกว่า "ข่าวปลอม" กลุ่มก่อการร้ายและกลุ่มความเกลียดชัง และแทนที่จะคิดอย่างวิพากษ์วิจารณ์ว่าเราจะทำอย่างไรและควรควบคุมอินเทอร์เน็ตได้อย่างไร

เกี่ยวกับผู้เขียน

Natasha Tusikov ผู้ช่วยศาสตราจารย์ อาชญวิทยา ภาควิชาสังคมศาสตร์ มหาวิทยาลัยนิวยอร์กประเทศแคนาดา

บทความนี้ตีพิมพ์ซ้ำจาก สนทนา ภายใต้ใบอนุญาตครีเอทีฟคอมมอนส์ อ่าน บทความต้นฉบับ.

หนังสือที่เกี่ยวข้อง

at ตลาดภายในและอเมซอน