เก็ตตี้อิมเมจ

ปัญญาประดิษฐ์ (AI) กำลังก้าวไปอย่างรวดเร็วและจะกลายเป็นเครื่องมือสนับสนุนที่สำคัญในการดูแลทางคลินิก การวิจัยชี้ให้เห็นว่าอัลกอริทึม AI สามารถทำได้อย่างแม่นยำ ตรวจหามะเร็งผิวหนัง และ ทำนายมะเร็งเต้านมในอนาคต.

แต่ก่อนที่จะรวม AI เข้ากับการใช้งานทางคลินิกตามปกติ เราต้องจัดการกับความท้าทายของอคติอัลกอริทึม อัลกอริทึม AI อาจมีอคติโดยธรรมชาติที่อาจนำไปสู่การเลือกปฏิบัติและปัญหาความเป็นส่วนตัว ระบบ AI ยังสามารถตัดสินใจได้โดยไม่ต้องมีการกำกับดูแลที่จำเป็นหรือการป้อนข้อมูลจากมนุษย์

 ตัวอย่างของผลกระทบที่อาจเป็นอันตรายของ AI มาจาก โครงการระหว่างประเทศ ซึ่งมีเป้าหมายที่จะใช้ AI เพื่อช่วยชีวิตด้วยการพัฒนาการรักษาทางการแพทย์ที่ก้าวล้ำ ในการทดลอง ทีมงานได้ย้อนกลับโมเดล AI ที่ "ดี" เพื่อสร้างตัวเลือกสำหรับโมเดล AI ใหม่ที่ "ทำอันตราย"

ในเวลาน้อยกว่าหกชั่วโมงของการฝึกอบรม อัลกอริธึม AI แบบย้อนกลับสร้างตัวแทนสงครามเคมีที่มีศักยภาพหลายหมื่นคน โดยมีอันตรายมากกว่าตัวแทนสงครามในปัจจุบันหลายเท่า นี่เป็นตัวอย่างที่รุนแรงเกี่ยวกับสารประกอบทางเคมี แต่ทำหน้าที่เป็นตัวกระตุ้นเพื่อประเมินผลทางจริยธรรมที่ทราบและอาจไม่สามารถทราบได้ของ AI

AI ในการดูแลทางคลินิก

ในทางการแพทย์ เราจัดการกับข้อมูลที่เป็นส่วนตัวที่สุดของผู้คน และมักจะเป็นการตัดสินใจที่เปลี่ยนแปลงชีวิต กรอบจริยธรรมของ AI ที่แข็งแกร่งเป็นสิ่งจำเป็น

พื้นที่ โครงการโรคลมชักของออสเตรเลีย มีจุดมุ่งหมายเพื่อปรับปรุงชีวิตของผู้คนและทำให้การรักษาทางคลินิกมีให้บริการอย่างกว้างขวางมากขึ้น จากการถ่ายภาพสมองขั้นสูง ข้อมูลทางพันธุกรรมและความรู้ความเข้าใจจากผู้ป่วยโรคลมชักหลายพันคน เราวางแผนที่จะใช้ AI เพื่อ ตอบคำถามที่ยังไม่มีคำตอบในขณะนี้.

การชักว่าวของคนคนนี้จะดำเนินต่อไปหรือไม่? ยาใดมีประสิทธิภาพมากที่สุด? การผ่าตัดสมองเป็นทางเลือกในการรักษาหรือไม่? คำถามเหล่านี้เป็นคำถามพื้นฐานที่การแพทย์สมัยใหม่ต้องดิ้นรนเพื่อแก้ไข

ในฐานะหัวหน้าฝ่าย AI ของโครงการนี้ ข้อกังวลหลักของฉันคือ AI กำลังเคลื่อนไหวอย่างรวดเร็วและการกำกับดูแลด้านกฎระเบียบมีน้อยมาก ปัญหาเหล่านี้เป็นสาเหตุที่เราเพิ่งก่อตั้ง กรอบจริยธรรม สำหรับการใช้ AI เป็นเครื่องมือสนับสนุนทางคลินิก กรอบการทำงานนี้มีจุดมุ่งหมายเพื่อให้แน่ใจว่าเทคโนโลยี AI ของเราเปิดกว้าง ปลอดภัย และเชื่อถือได้ ในขณะเดียวกันก็ส่งเสริมความครอบคลุมและความเป็นธรรมในการดูแลทางคลินิก

แล้วเราจะใช้จริยธรรมของ AI ในการแพทย์เพื่อลดอคติและรักษาการควบคุมอัลกอริทึมได้อย่างไร หลักการวิทยาการคอมพิวเตอร์ “ขยะเข้า ขยะออก” ใช้กับ AI สมมติว่าเรารวบรวมข้อมูลที่มีอคติจากกลุ่มตัวอย่างขนาดเล็ก อัลกอริทึม AI ของเรามีแนวโน้มที่จะมีอคติและไม่สามารถทำซ้ำได้ในสถานพยาบาลอื่น

ตัวอย่างของอคตินั้นหาได้ไม่ยากในโมเดล AI ร่วมสมัย โมเดลภาษาขนาดใหญ่ยอดนิยม (เช่น ChatGPT) และโมเดลการแพร่กระจายแฝง (DALL-E และ Stable Diffusion) แสดงให้เห็นว่า อคติที่ชัดเจน ในเรื่องเพศ ชาติพันธุ์ และสถานะทางเศรษฐกิจและสังคมได้

นักวิจัยพบว่าข้อความแจ้งของผู้ใช้แบบง่ายๆ ตัวอย่างเช่น การแจ้งแพทย์ สร้างส่วนใหญ่ ภาพของแพทย์ชายซึ่งไม่สอดคล้องกับความเป็นจริง เนื่องจากประมาณครึ่งหนึ่งของแพทย์ทั้งหมดในประเทศ OECD เป็นผู้หญิง

การใช้ AI ทางการแพทย์อย่างปลอดภัย

ทางออกของการป้องกันอคติและการเลือกปฏิบัติไม่ใช่เรื่องเล็กน้อย การเปิดใช้งานความเท่าเทียมกันด้านสุขภาพและการส่งเสริมการมีส่วนร่วมในการศึกษาทางคลินิกมีแนวโน้มในหมู่ วิธีแก้ปัญหาเบื้องต้น เพื่อต่อสู้กับอคติใน AI ทางการแพทย์

องค์การอาหารและยาแห่งสหรัฐอเมริกาเสนอเมื่อเร็ว ๆ นี้ ทำให้ความหลากหลายเป็นข้อบังคับ ในการทดลองทางคลินิก ข้อเสนอนี้แสดงถึงการก้าวไปสู่การศึกษาทางคลินิกที่มีอคติน้อยลงและอิงกับชุมชน

อุปสรรคต่อความก้าวหน้าอีกประการหนึ่งคือเงินทุนวิจัยที่จำกัด โดยทั่วไปแล้ว อัลกอริทึม AI ต้องการข้อมูลจำนวนมาก ซึ่งอาจมีราคาแพง สิ่งสำคัญคือต้องสร้างกลไกการระดมทุนที่ได้รับการปรับปรุงเพื่อให้นักวิจัยมีทรัพยากรที่จำเป็นในการรวบรวมข้อมูลที่เกี่ยวข้องทางคลินิกที่เหมาะสมสำหรับการใช้งาน AI

นอกจากนี้ เรายังโต้แย้งว่าเราควรทราบการทำงานภายในของอัลกอริทึม AI และทำความเข้าใจว่าอัลกอริทึมเหล่านี้ไปถึงข้อสรุปและคำแนะนำได้อย่างไร แนวคิดนี้มักเรียกว่า "ความสามารถในการอธิบาย" ใน AI มันเกี่ยวข้องกับแนวคิดที่ว่ามนุษย์และเครื่องจักรต้องทำงานร่วมกันเพื่อให้ได้ผลลัพธ์ที่ดีที่สุด

เราชอบที่จะมองว่าการใช้การทำนายในแบบจำลองเป็นการ "เสริม" มากกว่า "ปัญญาประดิษฐ์" - อัลกอริทึมควรเป็นส่วนหนึ่งของกระบวนการและแพทย์จะต้องควบคุมการตัดสินใจ

นอกเหนือจากการส่งเสริมการใช้อัลกอริทึมที่อธิบายได้ เรายังสนับสนุนวิทยาศาสตร์ที่โปร่งใสและเปิดกว้าง นักวิทยาศาสตร์ควรเผยแพร่รายละเอียดของโมเดล AI และวิธีการของโมเดลเพื่อเพิ่มความโปร่งใสและความสามารถในการทำซ้ำ

เราต้องการอะไรใน Aotearoa New Zealand เพื่อให้แน่ใจว่าการใช้ AI อย่างปลอดภัยในการรักษาพยาบาล ข้อกังวลด้านจริยธรรมของ AI นั้นนำโดยผู้เชี่ยวชาญในสาขานี้เป็นหลัก อย่างไรก็ตาม กฎระเบียบด้าน AI ที่กำหนดเป้าหมาย เช่น สหภาพยุโรป พระราชบัญญัติปัญญาประดิษฐ์ ได้รับการเสนอโดยกล่าวถึงข้อพิจารณาด้านจริยธรรมเหล่านี้

ยินดีต้อนรับกฎหมาย AI ของยุโรปและจะปกป้องผู้คนที่ทำงานภายใต้ "AI ที่ปลอดภัย" รัฐบาลสหราชอาณาจักรเพิ่งเปิดตัว แนวทางเชิงรุกในการควบคุม AIซึ่งทำหน้าที่เป็นพิมพ์เขียวสำหรับการตอบสนองอื่นๆ ของรัฐบาลต่อความปลอดภัยของ AI

ใน Aotearoa เราโต้แย้งเรื่องการใช้ท่าทีเชิงรุกมากกว่าเชิงโต้ตอบเพื่อความปลอดภัยของ AI จะกำหนดกรอบจริยธรรมสำหรับการใช้ AI ในการดูแลทางคลินิกและสาขาอื่น ๆ ซึ่งให้ AI ที่ตีความได้ ปลอดภัย และเป็นกลาง ดังนั้น ความมั่นใจของเราจะเพิ่มขึ้นว่าเทคโนโลยีอันทรงพลังนี้มีประโยชน์ต่อสังคมในขณะเดียวกันก็ปกป้องมันจากอันตราย

เกี่ยวกับผู้เขียน

มังเกอร์ พีเดอร์เซ่น, รองศาสตราจารย์ด้านจิตวิทยาและประสาทวิทยาศาสตร์, มหาวิทยาลัยเทคโนโลยีแห่งโอกแลนด์

บทความนี้ตีพิมพ์ซ้ำจาก สนทนา ภายใต้ใบอนุญาตครีเอทีฟคอมมอนส์ อ่าน บทความต้นฉบับ.

หนังสือที่เกี่ยวข้อง:

ร่างกายรักษาคะแนน: สมองจิตใจและร่างกายในการรักษาบาดแผล

โดย Bessel van der Kolk

หนังสือเล่มนี้สำรวจความเชื่อมโยงระหว่างการบาดเจ็บกับสุขภาพกายและสุขภาพจิต นำเสนอข้อมูลเชิงลึกและกลยุทธ์ในการรักษาและฟื้นฟู

คลิกเพื่อดูข้อมูลเพิ่มเติมหรือสั่งซื้อ

ลมหายใจ: ศาสตร์ใหม่ของศิลปะที่สาบสูญ

โดย เจมส์ เนสเตอร์

หนังสือเล่มนี้สำรวจวิทยาศาสตร์และการฝึกหายใจ นำเสนอข้อมูลเชิงลึกและเทคนิคในการปรับปรุงสุขภาพร่างกายและจิตใจ

คลิกเพื่อดูข้อมูลเพิ่มเติมหรือสั่งซื้อ

The Plant Paradox: อันตรายที่ซ่อนอยู่ในอาหาร "สุขภาพ" ที่ทำให้เกิดโรคและน้ำหนักขึ้น

โดย สตีเวน อาร์. กันดรี

หนังสือเล่มนี้สำรวจความเชื่อมโยงระหว่างอาหาร สุขภาพ และโรค โดยนำเสนอข้อมูลเชิงลึกและกลยุทธ์ในการปรับปรุงสุขภาพโดยรวมและความสมบูรณ์พูนสุข

คลิกเพื่อดูข้อมูลเพิ่มเติมหรือสั่งซื้อ

รหัสภูมิคุ้มกัน: กระบวนทัศน์ใหม่เพื่อสุขภาพที่แท้จริงและการต่อต้านริ้วรอยที่รุนแรง

โดย Joel Greene

หนังสือเล่มนี้นำเสนอมุมมองใหม่เกี่ยวกับสุขภาพและภูมิคุ้มกัน โดยใช้หลักการของ epigenetics และนำเสนอข้อมูลเชิงลึกและกลยุทธ์ในการปรับปรุงสุขภาพและการชะลอวัยให้เหมาะสม

คลิกเพื่อดูข้อมูลเพิ่มเติมหรือสั่งซื้อ

คู่มือฉบับสมบูรณ์สำหรับการถือศีลอด: รักษาร่างกายของคุณด้วยการอดอาหารเป็นช่วงๆ วันเว้นวัน และการอดอาหารแบบยืดเวลา

โดย ดร.เจสัน ฟุง และจิมมี่ มัวร์

หนังสือเล่มนี้สำรวจวิทยาศาสตร์และการปฏิบัติของการถือศีลอดโดยนำเสนอข้อมูลเชิงลึกและกลยุทธ์ในการปรับปรุงสุขภาพโดยรวมและความสมบูรณ์พูนสุข

คลิกเพื่อดูข้อมูลเพิ่มเติมหรือสั่งซื้อ