deep fakes sow doubt 4 14
 เทคโนโลยีที่สามารถผลิต Deepfakes ได้อย่างกว้างขวาง (Shutterstock)

ในต้นเดือนมีนาคม a วิดีโอดัดแปลงของประธานาธิบดียูเครน Volodymyr Zelenskyy ถูกเผยแพร่. ในนั้น Zelenskyy ที่สร้างขึ้นแบบดิจิทัลได้บอกให้กองทัพยูเครนยอมจำนน วิดีโอดังกล่าวเผยแพร่ทางออนไลน์ แต่ถูกหักล้างอย่างรวดเร็วว่าเป็นวิดีโอปลอม ซึ่งเป็นวิดีโอที่สมจริงเกินจริง แต่ปลอมและดัดแปลงซึ่งสร้างขึ้นโดยใช้ปัญญาประดิษฐ์

แม้ว่าการบิดเบือนข้อมูลของรัสเซียดูเหมือนจะส่งผลกระทบอย่างจำกัด แต่ตัวอย่างที่น่าตกใจนี้แสดงให้เห็นถึงผลที่อาจเกิดขึ้นจากการปลอมแปลงข้อมูลลึกล้ำ

อย่างไรก็ตาม Deepfakes ถูกนำไปใช้อย่างประสบความสำเร็จในเทคโนโลยีอำนวยความสะดวก ตัวอย่างเช่น ผู้ที่เป็นโรคพาร์กินสันสามารถใช้การโคลนเสียงในการสื่อสารได้.

Deepfakes ใช้ในการศึกษา: บริษัท สังเคราะห์เสียงพูดในไอร์แลนด์ CereProc สร้างเสียงสังเคราะห์สำหรับ John F. Kennedy นำเขากลับมามีชีวิตเพื่อกล่าวสุนทรพจน์ทางประวัติศาสตร์ของเขา.

innerself subscribe graphic

ทว่าทุกเหรียญมีสองด้าน Deepfakes สามารถมีความสมจริงมากเกินไปและ โดยพื้นฐานแล้วไม่สามารถตรวจจับได้ด้วยตามนุษย์.

ดังนั้นเทคโนโลยีโคลนเสียงเดียวกันจึงสามารถใช้สำหรับฟิชชิง การหมิ่นประมาท และแบล็กเมล์ได้ เมื่อมีการปรับใช้ Deepfakes อย่างจงใจเพื่อก่อร่างใหม่ความคิดเห็นของประชาชน ปลุกระดมความขัดแย้งทางสังคมและจัดการการเลือกตั้ง พวกเขามีโอกาสที่จะบ่อนทำลายประชาธิปไตย

นักวิจัยจากมหาวิทยาลัยวอชิงตันได้ผลิตบารัค โอบามาตัวปลอม

ก่อความวุ่นวาย

Deepfakes ใช้เทคโนโลยีที่เรียกว่า เครือข่ายปฏิปักษ์โดยกำเนิด โดยอัลกอริธึมทั้งสองจะฝึกซึ่งกันและกันเพื่อสร้างภาพ

แม้ว่าเทคโนโลยีที่อยู่เบื้องหลังการปลอมแปลงอย่างลึกซึ้งอาจฟังดูซับซ้อน แต่ก็เป็นเรื่องง่ายที่จะสร้างมันขึ้นมา มีแอปพลิเคชั่นออนไลน์มากมายเช่น สลับหน้า และ ZAO Deepswap ที่สามารถผลิตของปลอมได้ภายในไม่กี่นาที

Google Colaboratory — ที่เก็บข้อมูลออนไลน์สำหรับรหัสในภาษาการเขียนโปรแกรมหลายภาษา — รวมถึงตัวอย่างของรหัสที่ สามารถใช้สร้างภาพและวิดีโอปลอมได้. ด้วยซอฟต์แวร์ที่สามารถเข้าถึงได้นี้ จึงเป็นเรื่องง่ายที่จะเห็นว่าผู้ใช้ทั่วไปสามารถสร้างความเสียหายให้กับ Deepfakes ได้อย่างไรโดยที่ไม่ตระหนักถึงความเสี่ยงด้านความปลอดภัยที่อาจเกิดขึ้น

ความนิยมของแอพแลกหน้าและบริการออนไลน์เช่น ความคิดถึงลึก ๆ แสดงให้เห็นว่าสาธารณชนทั่วไปสามารถนำ Deepfakes ไปใช้ได้อย่างรวดเร็วและกว้างขวางเพียงใด ในปี 2019 ตรวจพบวิดีโอประมาณ 15,000 รายการที่ใช้ Deepfakes. และคาดว่าจำนวนนี้จะเพิ่มขึ้น

Deepfakes เป็นเครื่องมือที่สมบูรณ์แบบสำหรับแคมเปญบิดเบือนข้อมูลเพราะพวกเขาสร้างข่าวปลอมที่น่าเชื่อถือซึ่งต้องใช้เวลาในการหักล้าง ในขณะเดียวกัน ความเสียหายที่เกิดจาก Deepfakes โดยเฉพาะความเสียหายที่ส่งผลต่อชื่อเสียงของผู้คน มักจะยาวนานและไม่สามารถย้อนกลับได้

เห็นแล้วเชื่อ?

บางทีการขยายสาขาที่อันตรายที่สุดของ Deepfakes คือวิธีที่พวกเขายืมตัวไปบิดเบือนข้อมูลในการรณรงค์ทางการเมือง

เราเห็นสิ่งนี้เมื่อโดนัลด์ ทรัมป์ ระบุการรายงานข่าวที่ไม่ประจบประแจงว่า “ข่าวปลอม” ด้วยการกล่าวหาว่านักวิจารณ์ของเขาเผยแพร่ข่าวปลอม ทรัมป์สามารถใช้ข้อมูลที่ผิดเพื่อป้องกันการกระทำผิดของเขาและเป็นเครื่องมือโฆษณาชวนเชื่อ

กลยุทธ์ของทรัมป์ทำให้เขาสามารถรักษาการสนับสนุนในสภาพแวดล้อมที่เต็มไปด้วยความไม่ไว้วางใจและการบิดเบือนข้อมูลโดยอ้างว่า “ว่าเหตุการณ์และเรื่องราวจริงเป็นข่าวลวงหรือลวงหลอก".

ความน่าเชื่อถือในหน่วยงานและสื่อกำลังถูกบ่อนทำลายทำให้เกิดบรรยากาศแห่งความไม่ไว้วางใจ และด้วยการแพร่กระจายที่เพิ่มขึ้นของ Deepfakes นักการเมืองสามารถปฏิเสธความผิดได้อย่างง่ายดายในเรื่องอื้อฉาวที่เกิดขึ้น จะยืนยันตัวตนของใครบางคนในวิดีโอได้อย่างไรหากพวกเขาปฏิเสธ

อย่างไรก็ตาม การต่อต้านการบิดเบือนข้อมูลเป็นความท้าทายสำหรับระบอบประชาธิปไตยเสมอมา เนื่องจากพวกเขาพยายามรักษาเสรีภาพในการพูด ความร่วมมือระหว่างมนุษย์กับ AI สามารถช่วยจัดการกับความเสี่ยงที่เพิ่มขึ้นของ Deepfakes โดยให้ผู้คนตรวจสอบข้อมูล การแนะนำกฎหมายใหม่หรือการใช้กฎหมายที่มีอยู่เพื่อลงโทษผู้ผลิต Deepfakes สำหรับการปลอมแปลงข้อมูลและการแอบอ้างบุคคลอื่นอาจได้รับการพิจารณา

แนวทางสหสาขาวิชาชีพโดยรัฐบาลระหว่างประเทศและระดับประเทศ บริษัทเอกชน และองค์กรอื่นๆ ล้วนมีความสำคัญในการปกป้องสังคมประชาธิปไตยจากข้อมูลเท็จThe Conversation

เกี่ยวกับผู้เขียน

เซะ-ฟุง หลี่, ผู้ช่วยวิจัย ภาควิชาสารสนเทศศึกษา, มหาวิทยาลัย McGill และ เบนจามิน ซีเอ็ม ฟุ้ง, ศาสตราจารย์และประธานวิจัยแคนาดาด้านการขุดข้อมูลเพื่อความปลอดภัยทางไซเบอร์ มหาวิทยาลัย McGill

บทความนี้ตีพิมพ์ซ้ำจาก สนทนา ภายใต้ใบอนุญาตครีเอทีฟคอมมอนส์ อ่าน บทความต้นฉบับ.