การผสมผสานที่ผันผวนของของปลอมและแคมเปญทางการเมืองเป็นเหตุผลที่ดีที่ต้องระวัง Sean Anthony Eddy Creative/E+ ผ่าน Getty Images

ลองนึกภาพ เซอร์ไพรส์เดือนตุลาคม ไม่เหมือนใคร: เพียงหนึ่งสัปดาห์ก่อนวันที่ 5 พฤศจิกายน 2024 การบันทึกวิดีโอเผยให้เห็นการพบกันอย่างลับๆ ระหว่าง Joe Biden และ Volodymyr Zelenskyy ประธานาธิบดีอเมริกันและยูเครนเห็นพ้องที่จะเริ่มต้นยูเครนเข้าสู่ NATO ทันทีภายใต้ “โปรโตคอลการเป็นสมาชิกกรณีฉุกเฉินพิเศษ” และเตรียมพร้อมสำหรับการโจมตีด้วยอาวุธนิวเคลียร์กับรัสเซีย ทันใดนั้นโลกก็อยู่บนยอดของอาร์มาเก็ดดอน

ในขณะที่นักข่าวสามารถชี้ให้เห็นว่า ไม่มีโปรโตคอลดังกล่าว และผู้ใช้โซเชียลมีเดียอาจสังเกตเห็นคุณสมบัติที่เหมือนวิดีโอเกมแปลกๆ ของวิดีโอ คนอื่นๆ อาจรู้สึกเช่นนั้น ความกลัวที่เลวร้ายที่สุดของพวกเขา ได้รับการยืนยัน เมื่อวันเลือกตั้งมาถึง พลเมืองที่เกี่ยวข้องเหล่านี้อาจปล่อยให้วิดีโอส่งผลต่อการลงคะแนนของพวกเขา โดยไม่รู้ตัวว่าพวกเขาเพิ่งถูกควบคุมโดยสถานการณ์สมมติ ซึ่งเป็นเหตุการณ์ที่ไม่เคยเกิดขึ้นจริง

Deepfakes สถานการณ์เป็นตัวแทนของขั้นตอนต่อไปของเทคโนโลยีที่ มีอยู่แล้ว เขย่าการรับรู้ของผู้ชมเกี่ยวกับความเป็นจริง ในการวิจัยของเราที่ โครงการ DeFakeเพื่อนร่วมงานของฉันที่ Rochester Institute of Technologyที่ มหาวิทยาลัยมิสซิสซิปปี, มหาวิทยาลัยรัฐมิชิแกน และฉัน ศึกษาว่า Deepfake เกิดขึ้นได้อย่างไร และมาตรการใดที่ผู้ลงคะแนนสามารถใช้เพื่อป้องกันตนเองจากสิ่งเหล่านี้

จินตนาการถึงเหตุการณ์ที่ไม่เคยเกิดขึ้น

Deepfake ถูกสร้างขึ้นเมื่อมีคนใช้เครื่องมือปัญญาประดิษฐ์โดยเฉพาะ การเรียนรู้ลึก ๆเพื่อจัดการหรือสร้าง ใบหน้าที่ เสียง หรือ – ด้วยการเพิ่มขึ้นของ โมเดลภาษาขนาดใหญ่ กดไลก์ ChatGPT - ภาษาสนทนา. สิ่งเหล่านี้สามารถรวมกันเพื่อสร้าง "สถานการณ์ปลอม"

แนวคิดพื้นฐานและเทคโนโลยีของสถานการณ์ Deepfake นั้นเหมือนกับ Deepfake อื่นๆ แต่มีความทะเยอทะยานที่มากกว่า: เพื่อจัดการกับเหตุการณ์จริงหรือสร้างเหตุการณ์จากอากาศที่เบาบาง ตัวอย่าง ได้แก่ การแสดงภาพของ ท่าเดินของโดนัลด์ ทรัมป์ และ ทรัมป์กอดแอนโธนี เฟาซีซึ่งทั้งสองสิ่งนี้เกิดขึ้น Hug shot ได้รับการส่งเสริมโดยก บัญชี Twitter เกี่ยวข้องกับการหาเสียงของประธานาธิบดี ของรอน เดอซานทิส คู่แข่งของทรัมป์ หนึ่ง โฆษณาโจมตี การกำหนดเป้าหมายแคมเปญของ Joe Biden ในปี 2024 ที่เผยแพร่โดยคณะกรรมการแห่งชาติของพรรครีพับลิกันคือ สร้างด้วย AI ทั้งหมด.

ที่ โครงการ DeFakeของเรา มีงานวิจัยที่พบว่า การปลอมลึกซึ่งรวมถึงสถานการณ์มักสร้างขึ้นจากส่วนผสมบางอย่าง เพิ่มสื่อหนึ่งชิ้นกับอีกสื่อหนึ่ง; ใช้วิดีโอ เพื่อสร้างภาพเคลื่อนไหวหรือแก้ไขวิดีโออื่น, การเชิดหุ่นขนานนาม; เสกสื่อให้มีอยู่จริง โดยมากจะใช้ AI กำเนิด; หรือการผสมผสานเทคนิคเหล่านี้เข้าด้วยกัน

เพื่อให้ชัดเจน หลายๆ สถานการณ์มีการทำ Deepfake ขึ้นเพื่อจุดประสงค์ที่ไร้เดียงสา ตัวอย่างเช่น, นิตยสาร Infinite Odyssey สร้างภาพนิ่งปลอมจากภาพยนตร์ที่ ไม่เคยผลิต or ไม่เคยมีอยู่จริง. แต่แม้แต่การปลอมแปลงที่ไร้เดียงสาก็ยังให้เหตุผลในการหยุดชั่วคราว เช่น ในกรณีของภาพถ่ายปลอมที่เกือบจะเชื่อได้ซึ่งแสดงภาพ การลงจอดของ Apollo Moon เป็นการผลิตภาพยนตร์.

เจาะลึกการเลือกตั้ง

ตอนนี้ทำให้ตัวเองอยู่ในสถานะของคนที่พยายามมีอิทธิพลต่อการเลือกตั้งที่จะมาถึง สถานการณ์ที่เป็นไปได้ที่คุณอาจต้องการสร้างคืออะไร

สำหรับผู้เริ่มต้น สิ่งสำคัญคือคุณต้องการเอียงการลงคะแนนไปทางหรือออกจากผลลัพธ์ที่เฉพาะเจาะจง บางทีคุณอาจแสดงภาพผู้สมัครที่แสดงความกล้าหาญโดยดึงคนเดินถนนออกจากทางที่รถวิ่งเร็ว หรือในทางกลับกัน ทำสิ่งที่น่ารังเกียจหรืออาชญากร รูปแบบของสถานการณ์ deepfake ก็มีความสำคัญเช่นกัน แทนที่จะเป็นวิดีโอ อาจเป็นภาพถ่าย อาจด้วยความเบลอและมุมที่จำลองกล้องสมาร์ทโฟนหรือโลโก้ปลอมของสำนักข่าว

กลุ่มเป้าหมายของคุณจะเป็นกุญแจสำคัญ แทนที่จะมุ่งเป้าไปที่เขตเลือกตั้งทั่วไปหรือฐานเสียงของพรรค คุณอาจกำหนดเป้าหมายไปที่นักทฤษฎีสมคบคิดในเขตลงคะแนนสำคัญๆ คุณสามารถวาดภาพผู้สมัครหรือสมาชิกในครอบครัวของพวกเขาว่ามีส่วนร่วมในก พิธีกรรมของซาตาน,ร่วมงานเทศกาลที่ พิเศษและขัดแย้ง ป่าโบฮีเมียหรือมี การประชุมลับกับต่างดาว.

หากคุณมีความทะเยอทะยานและความสามารถสำหรับมัน คุณสามารถลองปลอมแปลงการเลือกตั้งได้ ในเดือนมิถุนายน พ.ศ. 2023 สถานีโทรทัศน์และวิทยุของรัสเซียถูกเจาะระบบและ ถ่ายทอดคำสั่งระดมพลเต็มรูปแบบ โดย ประธานาธิบดีวลาดิมีร์ ปูตินของรัสเซีย. แม้ว่าสิ่งนี้จะทำได้ยากกว่าในการเลือกตั้งของสหรัฐฯ แต่โดยหลักการแล้ว สำนักข่าวทุกแห่งอาจถูกแฮ็กเพื่อแพร่ภาพปลอมของผู้ประกาศข่าวที่ประกาศผลผิดหรือผู้สมัครรับเลือกตั้ง

ปกป้องความเป็นจริง

มีวิธีทางเทคโนโลยีและทางจิตวิทยาที่หลากหลายในการตรวจจับและป้องกันการปลอมแปลงสถานการณ์

ในด้านเทคโนโลยี Deepfakes ทั้งหมดมีหลักฐานบางอย่างที่แสดงถึงธรรมชาติที่แท้จริงของพวกมัน ข้อมูลเหล่านี้บางส่วนสามารถมองเห็นได้ด้วยตามนุษย์ เช่น ผิวเรียบเกินไป หรือแสงแปลกๆ หรือสถาปัตยกรรม ในขณะที่บางรายการอาจมองเห็นได้ ตรวจจับได้โดย AI ล่าลึกปลอมเท่านั้น.

เรากำลังสร้าง ปลอมเครื่องตรวจจับของจะใช้ AI เพื่อจับสัญญาณของ Deepfakes และเรากำลังดำเนินการเพื่อพยายามให้พร้อมสำหรับการเลือกตั้งในปี 2024 แต่แม้ว่าจะไม่สามารถใช้งานเครื่องตรวจจับ Deepfake ที่ทรงพลังอย่างเช่นของเราได้ในวันเลือกตั้ง แต่ก็มีเครื่องมือทางจิตวิทยาที่คุณซึ่งเป็นผู้มีสิทธิเลือกตั้งสามารถใช้เพื่อระบุ Deepfake ได้: ความรู้พื้นฐาน ความอยากรู้อยากเห็น และความกังขาที่ดี

หากคุณพบเนื้อหาสื่อเกี่ยวกับบุคคล สถานที่ หรือเหตุการณ์ที่ดูเหมือนไม่เคยมีมาก่อน ให้เชื่อถือความรู้พื้นฐานของคุณ ตัวอย่างเช่น ใน ก เหตุการณ์ไฟไหม้ที่เพนตากอนเมื่อเร็วๆ นี้, อาคารที่แสดงมีลักษณะสี่เหลี่ยมจัตุรัสมากกว่าห้าเหลี่ยมซึ่งอาจเป็นของแถมได้

อย่างไรก็ตาม พยายามอย่าพึ่งพาความรู้พื้นฐานของคุณทั้งหมด ซึ่งอาจผิดพลาดหรือขาดตกบกพร่องได้ อย่ากลัวที่จะเรียนรู้เพิ่มเติมจากแหล่งข้อมูลที่เชื่อถือได้ เช่น รายงานข่าวที่ตรวจสอบข้อเท็จจริง บทความวิชาการที่ผ่านการตรวจสอบโดยผู้รู้ หรือบทสัมภาษณ์จากผู้เชี่ยวชาญที่ได้รับการรับรอง

นอกจากนี้ โปรดทราบว่าสามารถใช้ Deepfake เพื่อใช้ประโยชน์จากสิ่งที่คุณเป็นได้ มีแนวโน้มที่จะเชื่อ เกี่ยวกับบุคคล สถานที่ หรือเหตุการณ์ หนึ่งในวิธีที่ดีที่สุดในการจัดการกับปัญหานี้ก็คือ ตระหนักถึงอคติของคุณ และระมัดระวังเล็กน้อยเกี่ยวกับเนื้อหาสื่อใด ๆ ที่ดูเหมือนจะยืนยันได้

แม้ว่าจะเป็นไปได้ที่จะสร้างสถานการณ์ที่สมบูรณ์แบบอย่างลึกซึ้ง แต่ประเด็นที่เชื่อได้นั้นน่าเชื่อเพียงใด ก็น่าจะยังคงเป็นจุดอ่อนของพวกเขา ดังนั้น ไม่ว่าจะมีหรือไม่มีโซลูชันทางเทคโนโลยี คุณก็ยังมีอำนาจในการปกป้องการเลือกตั้งจากอิทธิพลของเหตุการณ์ปลอม

เกี่ยวกับผู้เขียน

คริสโตเฟอร์ ชวาร์ตษ์, ผู้ร่วมวิจัยหลังปริญญาเอกด้านความปลอดภัยคอมพิวเตอร์, Rochester Institute of Technology

บทความนี้ตีพิมพ์ซ้ำจาก สนทนา ภายใต้ใบอนุญาตครีเอทีฟคอมมอนส์ อ่าน บทความต้นฉบับ.

หนังสือที่เกี่ยวข้อง:

เกี่ยวกับทรราช: ยี่สิบบทเรียนจากศตวรรษที่ยี่สิบ

โดยทิโมธี สไนเดอร์

หนังสือเล่มนี้นำเสนอบทเรียนจากประวัติศาสตร์ในการอนุรักษ์และปกป้องระบอบประชาธิปไตย รวมถึงความสำคัญของสถาบัน บทบาทของพลเมืองแต่ละคน และอันตรายของอำนาจนิยม

คลิกเพื่อดูข้อมูลเพิ่มเติมหรือสั่งซื้อ

เวลาของเราคือตอนนี้: พลังจุดมุ่งหมายและการต่อสู้เพื่ออเมริกาที่ยุติธรรม

โดย Stacey Abrams

ผู้เขียนซึ่งเป็นนักการเมืองและนักกิจกรรมได้แบ่งปันวิสัยทัศน์ของเธอเกี่ยวกับประชาธิปไตยที่ครอบคลุมมากขึ้นและเป็นธรรม และเสนอกลยุทธ์ที่ใช้ได้จริงสำหรับการมีส่วนร่วมทางการเมืองและการระดมผู้มีสิทธิเลือกตั้ง

คลิกเพื่อดูข้อมูลเพิ่มเติมหรือสั่งซื้อ

ประชาธิปไตยตายอย่างไร

โดย Steven Levitsky และ Daniel Ziblatt

หนังสือเล่มนี้ตรวจสอบสัญญาณเตือนและสาเหตุของการล่มสลายของระบอบประชาธิปไตย โดยดึงเอากรณีศึกษาจากทั่วโลกมานำเสนอข้อมูลเชิงลึกเกี่ยวกับวิธีการปกป้องระบอบประชาธิปไตย

คลิกเพื่อดูข้อมูลเพิ่มเติมหรือสั่งซื้อ

ประชาชน ไม่ใช่: ประวัติโดยย่อของการต่อต้านประชานิยม

โดยโทมัสแฟรงค์

ผู้เขียนเสนอประวัติของขบวนการประชานิยมในสหรัฐอเมริกาและวิจารณ์อุดมการณ์ "ต่อต้านประชานิยม" ที่เขาระบุว่าขัดขวางการปฏิรูปและความก้าวหน้าของประชาธิปไตย

คลิกเพื่อดูข้อมูลเพิ่มเติมหรือสั่งซื้อ

ประชาธิปไตยในหนังสือเล่มเดียวหรือน้อยกว่า: มันทำงานอย่างไร ทำไมไม่เป็นเช่นนั้น และทำไมการแก้ไขจึงง่ายกว่าที่คุณคิด

โดย เดวิด ลิตต์

หนังสือเล่มนี้นำเสนอภาพรวมของประชาธิปไตย รวมทั้งจุดแข็งและจุดอ่อน และเสนอการปฏิรูปเพื่อให้ระบบมีการตอบสนองและรับผิดชอบมากขึ้น

คลิกเพื่อดูข้อมูลเพิ่มเติมหรือสั่งซื้อ