Jensen Huang บอกไม่ต้องมีกฎ AI ใหม่ - ปัญหาความปลอดภัยคือหน้าที่วิศวกร

Jensen Huang ซีอีโอและผู้ก่อตั้ง Nvidia ให้ความเห็นชัดเจนต่อความเสี่ยงจาก AI ขณะขึ้นเวทีที่งาน Salesforce Dreamforce ว่า AI ไม่ใช่ "จิตใจต่างดาว" แต่เป็นฮาร์ดแวร์และซอฟต์แวร์ที่มนุษย์สร้างขึ้น ดังนั้นการควบคุมและความปลอดภัยควรเป็นเรื่องของวิศวกรรมและมาตรฐานเชิงปฏิบัติ มากกว่าจะอาศัยกฎหมายฉบับใหม่

จุดยืนของ Huang - ความปลอดภัยคือปัญหาวิศวกรรม

Huang ย้ำว่า "Safety is an engineering problem, not a legal one" และชี้ว่า AI คือระบบคอมพิวติ้งที่ซับซ้อนแต่สุดท้ายยังคงเป็นระบบที่มนุษย์ออกแบบได้ เขาเชื่อว่าบริษัทควรชะลอการปล่อยผลิตภัณฑ์หากยังไม่มั่นใจในความปลอดภัยและให้กลไกตลาดเป็นแรงกดดันในการไม่ปล่อยของที่อันตราย

เหตุผลที่เขาเห็นว่าไม่ต้องมีกฎใหม่

หนึ่งในเหตุผลของ Huang คือกฎหมายและกฎปัจจุบันอาจครอบคลุมความรับผิดชอบของผู้ผลิตได้เพียงพอ และการออกกฎใหม่อาจทำให้กระบวนการนวัตกรรมช้าลง เขายังมองว่าความเร็วในการพัฒนาไม่จำเป็นต้องขัดแย้งกับความปลอดภัย - สามารถเดินควบคู่กันไปได้ถ้าบริษัทมีวินัยในการพูดว่าเมื่อใดควรหยุดและทดสอบเพิ่มเติม

ความกังวลที่ยังมีคำตอบไม่ได้

อย่างไรก็ตาม บทความเตือนว่าบริษัทที่ตั้งใจดียังสามารถส่งซอฟต์แวร์ที่มีบั๊กหรือผลกระทบที่ไม่คาดคิดออกสู่ตลาดได้ ตัวอย่างเช่นเหตุการณ์บั๊กของ CrowdStrike ในปี 2024 ที่ทำให้เกิดความเสียหายอย่างกว้างขวาง หรือคดีความที่ Meta ต้องจ่าย 18,000,000,000 ดอลลาร์เพื่อยุติข้อพิพาทเกี่ยวกับผลกระทบต่อเด็ก เหตุการณ์เหล่านี้ชี้ให้เห็นว่าการพึ่งพาตลาดหรือความรับผิดชอบของบริษัทเพียงอย่างเดียวอาจไม่เพียงพอ

ทางเลือกอื่นที่กำลังถูกพูดถึง

อีกแนวทางหนึ่งที่กำลังเกิดขึ้นคือการกำกับดูแลโดยอุตสาหกรรมเองหรือ self-regulation ซึ่งต้องอาศัยหน้าตักเวลาสั้น ๆ ในการตั้งกฎเกณฑ์ร่วมกันและเชิญชวนผู้เล่นจากทั่วโลกเข้าร่วม Huang สนับสนุนการใช้โมเดลเปิดน้ำหนัก (open-weight models) เป็นทางเลือกเชิงการแข่งขันต่อระบบปิด แต่บทบาทของภาครัฐและมาตรการระหว่างประเทศยังเป็นหัวข้อที่หลายฝ่ายกำลังเรียกร้องให้ดำเนินการ

สิ่งที่ต้องติดตาม - อีกไม่กี่ปีข้างหน้าเราจะได้เห็นว่ากลไกใดจะถูกเลือกเป็นหลัก ไม่ว่าจะเป็นกฎหมายใหม่ มาตรฐานอุตสาหกรรม หรือการพึ่งกลไกตลาด โดยผู้เล่นรายใหญ่อย่าง Nvidia มีอิทธิพลและเสียงที่หนักในเวทีสาธารณะ แต่ตัวอย่างความเสียหายจากซอฟต์แวร์ในอดีตเตือนให้ระวังความเสี่ยงที่อาจเกิดขึ้นได้

สำหรับคนทำงานสายไอทีในไทย สิ่งที่ควรจับตามากกว่าการถกเถียงเชิงนโยบายคือการพัฒนาแนวปฏิบัติด้านความปลอดภัยของซอฟต์แวร์ การทดสอบ และการออกแบบระบบที่มีการหยุดชั่วคราวเมื่อพบความเสี่ยงจริง - หากอุตสาหกรรมเลือกเส้นทาง self-regulation ผู้ปฏิบัติงานจะต้องพร้อมปรับกระบวนการภายในให้สอดคล้องกับมาตรฐานใหม่อย่างรวดเร็ว

ที่มา: TechCrunch - เรียบเรียงและสรุปเป็นภาษาไทยโดยทีมงาน IT Genius