นักวิจัย AI ภายในวงการเผยคลิปเตือนความเสี่ยงระดับ 'superintelligence' ว่าอันตรายเท่าที่ฟัง

ชุดวิดีโอสัมภาษณ์จากคนในแวดวงผู้พัฒนาเทคโนโลยี AI ถูกเผยแพร่ผ่านแพลตฟอร์ม frominside.ai โดย Palisade Research ซึ่งระบุว่าเป็นองค์กรไม่แสวงหากำไรที่ศึกษาขีดความสามารถและแรงจูงใจของ AI เนื้อหาในคลิปหลายตอนมาจากพนักงานปัจจุบันและอดีตของ OpenAI, Google DeepMind และ Anthropic และมีข้อความเตือนว่าการเกิด superintelligence อาจมีความเสี่ยงร้ายแรงต่อมนุษยชาติ

ใครเป็นผู้พูดและแหล่งที่มา

คลิปชุดนี้รวบรวมการสัมภาษณ์จำนวนหนึ่งโหลกับนักวิจัย AI หลายคน หนึ่งในการให้สัมภาษณ์ที่ถูกหยิบยกคือ Geoffrey Irving อดีตพนักงาน OpenAI และ Google DeepMind เขากล่าวว่า "The chance of human extinction is about a coin flip, in my view" ขณะที่ Neel Nanda นักวิจัยจาก Google DeepMind ระบุว่ามี "at least a 10 percent chance that it causes human extinction" ทั้งสองคำพูดสะท้อนการประเมินความเสี่ยงที่สูงกว่าการคาดการณ์แบบทั่วไป

ประเด็นกังวลหลักที่ถูกหยิบยก

ในคลิปอื่นๆ Daniel Kokotajlo อดีตนักวิจัย OpenAI ระบุว่า superintelligent AI "would basically be god-like powerful" และเตือนว่า "This is exactly as dangerous as it sounds and must not be allowed to happen." นอกจากคำเตือนเรื่องความสามารถอันทรงพลัง ยังมีการพูดถึงปัญหาการควบคุม (control) และการขาดแนวทางแก้ไขชัดเจน นักวิจัยบางคนยอมรับความขัดแย้งทางผลประโยชน์ เช่น Mary Phuong จาก Google ที่บอกให้ผู้ฟังตั้งคำถามต่อคำพูดของเธอเพราะเธอได้รับค่าจ้างจากห้องทดลอง ข้อความเหล่านี้แสดงให้เห็นว่าความเคลื่อนไหวด้านความปลอดภัย AI ไม่ได้มีคำตอบเดียวหรือหนทางปฏิบัติที่ทุกคนเห็นพ้องกัน

ผลต่อวงการและการพัฒนาเทคโนโลยี

คลิปของ Palisade Research จุดประกายการถกเถียงว่าเราควรจะมองความเสี่ยงเชิงมีนัยสำคัญเหล่านี้อย่างไร - เป็นแค่มุมมองโดมเมอร์หรือเป็นสัญญาณที่ควรทำให้ทั้งอุตสาหกรรมและผู้กำกับดูแลลงมือจริงจังขึ้น รายงานก่อนหน้านี้เกี่ยวกับชุมชน "AI safety" ชี้ว่าคำจำกัดความและแนวทางปฏิบัติยังมีความหลากหลาย และวิดีโอชุดนี้ก็ไม่ได้เสนอทางออกเดียวที่ชัดเจน สิ่งที่ร่วมกันคือความกังวลว่าบริษัทต่างๆ จะเดินหน้าสร้างระบบต่อไป แม้มีนักวิจัยบางคนถอนตัว

สิ่งที่ต้องจับตามอง

คำเตือนจากคนในวงการครั้งนี้อาจเร่งให้เกิดการสนทนาในระดับนโยบาย กฎระเบียบ และการออกแบบระบบให้คำนึงถึงความปลอดภัยมากขึ้น ทั้งในแง่การประเมินความเสี่ยง การตรวจสอบภายใน และการร่วมมือระหว่างองค์กร อย่างไรก็ตาม การหาทางออกที่เป็นรูปธรรมยังคงเป็นความท้าทาย

สรุป คลิปสัมภาษณ์จากผู้พัฒนา AI ระดับต้นๆ เน้นย้ำว่าความเสี่ยงจาก superintelligence ถูกมองว่าน่าเป็นห่วงและอันตรายจริง ผู้ที่ทำงานด้านเทคโนโลยีโดยเฉพาะนักพัฒนาและนักวิจัยควรติดตามการอภิปรายเรื่องมาตรการควบคุมและความปลอดภัยอย่างใกล้ชิด หากสนใจจะลงลึกด้านเทคนิคหรือความปลอดภัยของ AI การเสริมทักษะด้าน machine learning, deep learning และการใช้เครื่องมือ AI อย่างมีจริยธรรมจะเป็นประโยชน์

ที่มา: The Verge - เรียบเรียงและสรุปเป็นภาษาไทยโดยทีมงาน IT Genius