จดหมายเปิดผนึกเรื่องปัญญาประดิษฐ์ ความเสี่ยงและโอกาส

ในเดือนมกราคม ปี 2015 สตีเฟน ฮอว์คิง (Stephen Hawking), อีลอน มัสก์ (Elon Musk) และผู้เชี่ยวชาญด้านปัญญาประดิษฐ์อีกหลายสิบคนได้ร่วมกันลงนามในจดหมายเปิดผนึก เพื่อเรียกร้องให้มีการวิจัยให้มากขึ้นเกี่ยวกับผลกระทบทางสังคมของ AI โดยจดหมายฉบับนี้เน้นย้ำว่า แม้สังคมจะได้รับประโยชน์มหาศาลจากปัญญาประดิษฐ์ แต่จำเป็นต้องมีการวิจัยที่เป็นรูปธรรมเพื่อป้องกัน "ความเสี่ยง" ที่อาจเกิดขึ้น

ภูมิหลังของจดหมาย

ภายในปี 2014 ทั้งสตีเฟน ฮอว์คิง และอีลอน มัสก์ ได้แสดงทัศนะว่า ปัญญาประดิษฐ์ระดับเหนือมนุษย์ (Superhuman AI) อาจนำมาซึ่งประโยชน์ที่ไม่อาจคำนวณได้ แต่ในขณะเดียวกันก็อาจทำให้มนุษยชาติสิ้นสุดลงหากนำไปใช้อย่างไม่ระมัดระวัง ทั้งสองท่านเป็นที่ปรึกษาทางวิทยาศาสตร์ให้กับ Future of Life Institute ซึ่งเป็นองค์กรที่ทำงานเพื่อลดความเสี่ยงเชิงประจักษ์ที่มนุษยชาติกำลังเผชิญ

วัตถุประสงค์หลัก

จดหมายฉบับนี้มุ่งเน้นไปที่การสร้างจุดร่วมระหว่างผู้ที่มองว่า AI ระดับซูเปอร์อินเทลลิเจนซ์เป็นความเสี่ยงร้ายแรง และผู้ที่มองว่าการนำเสนอข่าวเรื่องความเสี่ยงนั้นเกินจริง โดยมีประเด็นสำคัญดังนี้:

• ประโยชน์มหาศาล: AI มีศักยภาพในการกำจัดโรคภัยไข้เจ็บและความยากจน
• การวิจัยด้านความปลอดภัย: เน้นย้ำให้ผู้พัฒนา AI ให้ความสำคัญกับความปลอดภัย (AI Safety) มากกว่าการแข่งขันเพื่อสร้างความสามารถ
• การให้ข้อมูล: เพื่อให้สาธารณชนและผู้กำหนดนโยบายได้รับทราบข้อมูลที่ถูกต้องโดยไม่ตื่นตระหนก

ข้อกังวลที่ระบุในจดหมาย

ความกังวลระยะสั้น

ความกังวลในระยะสั้นเกี่ยวข้องกับระบบอัตโนมัติ เช่น รถยนต์ไร้คนขับและโดรนพลเรือน ซึ่งต้องเผชิญกับปัญหาทางจริยธรรมในการตัดสินใจในสถานการณ์ฉุกเฉิน นอกจากนี้ยังมีประเด็นเรื่อง อาวุธปัญญาประดิษฐ์สังหาร (Lethal Autonomous Weapons) ซึ่งนำไปสู่คำถามว่าควรมีการสั่งห้ามใช้หรือไม่ และใครจะเป็นผู้รับผิดชอบเมื่อเกิดความผิดพลาด

ความกังวลระยะยาว

ในระยะยาว มีความกังวลว่ามนุษย์อาจสูญเสียการควบคุมระบบ AI ที่มีความฉลาดเหนือมนุษย์ ซึ่งอาจไม่ทำงานตามความปรารถนาของมนุษย์ และนำไปสู่สถานการณ์ที่เลวร้าย (Dystopic outcomes) โดยจดหมายระบุว่าเครื่องมือปัจจุบัน เช่น Reinforcement Learning ไม่เพียงพอที่จะแก้ปัญหา "ปัญหาการควบคุม" (Control Problem) ได้

ผู้ลงนามในจดหมาย

ผู้ลงนามประกอบด้วยผู้เชี่ยวชาญระดับโลก เช่น สตีเฟน ฮอว์คิง, อีลอน มัสก์, ผู้อำนวยการฝ่ายวิจัยของ Google (Peter Norvig), และนักวิชาการจากมหาวิทยาลัยชั้นนำอย่าง Cambridge, Oxford, Stanford, Harvard และ MIT โดยมีผู้ลงนามเริ่มต้นมากกว่า 150 คน