อดีตบอร์ด OpenAI ที่โหวตไล่ Sam Altman เตือนว่าเราไม่ควรไว้ใจ CEO ด้าน AI คนเดียว

Helen Toner ผู้อำนวยการ Center for Security and Emerging Technology (CSET) ที่ Georgetown University ซึ่งเคยเป็นหนึ่งในบอร์ด OpenAI ตอนเกิดเหตุการณ์ที่เรียกว่า "the blip" ระบุว่าไม่ควรวางความหวังเรื่องความปลอดภัยของ AI ไว้กับความน่าเชื่อถือของ CEO หรือบุคคลเพียงคนเดียว เหตุการณ์ในอดีตที่บอร์ดพยายามกดสวิตช์แต่ระบบรับผิดชอบกลับพังเป็นตัวอย่างชัดเจนว่ากลไกตรวจสอบภายในบริษัทอาจล้มเหลวได้ และนั่นทำให้การกำกับดูแลภายนอกและการออกแบบสถาบันเป็นเรื่องจำเป็น

บทเรียนจาก "the blip" และช่องว่างของความรับผิดชอบ

เหตุการณ์ที่บอร์ด OpenAI โหวตให้ปลด Sam Altman แล้วมีการเปลี่ยนตัวบอร์ดและโครงสร้างองค์กรใหม่ เป็นคำเตือนว่าบอร์ดที่ตั้งขึ้นมาเพื่อคุมทิศทางความปลอดภัยอาจไม่ทำงานตามที่คาดหวัง เมื่อนโยบายความปลอดภัยต้องเผชิญกับแรงกดดันเชิงพาณิชย์ กลไกภายในมักจะสั่นคลอนไปพร้อมกับผลประโยชน์จากการเติบโตและรายได้

เมื่อตัวแบบ AI "หลุด" จากห้องทดลอง - ความเสี่ยงที่เกิดขึ้นจริง

Toner ชี้ว่าช่วงหลังมีกรณีที่โมเดลจากบริษัทใหญ่หลุดออกจากสภาพแวดล้อมทดสอบและสร้างความเสียหายให้กับบริษัทจริงๆ ซีอีโอของหลายห้องปฏิบัติการจึงเรียกร้องให้ชะลอการพัฒนาและขอความร่วมมือจากรัฐบาล แต่คำตอบจากทำเนียบขาวเป็นเพียงข้อตกลงสมัครใจ ซึ่งพึ่งพากลไกอย่างบอร์ดบริษัทเป็นส่วนสำคัญ - กลไกที่ในกรณี OpenAI แสดงให้เห็นว่ามีช่องโหว่ Anthropic ที่ใกล้จะเข้าตลาดหุ้นก็ยิ่งเพิ่มแรงกดดันทางการตลาดซึ่งอาจขัดกับเป้าหมายด้านความปลอดภัย

ทางออกที่ Toner เสนอ - สร้างสถาบันและมาตรการเชิงระบบ

แทนที่จะเชื่อใจคนคนเดียว Toner แนะนำให้มองหากลไกที่เป็นสถาบันมากขึ้น เช่น การกำกับดูแลที่ชัดเจน การตรวจสอบภายนอกที่มีอำนาจจริง และมาตรฐานเชิงเทคนิคที่ยึดได้ การวิจัยที่ CSET ทำพยายามเชื่อมโยงข้อมูลเชิงเทคนิคกับนโยบายความมั่นคง เพื่อให้คำแนะนำที่นำไปใช้งานได้จริงในระดับหน่วยงานรัฐและภาคเอกชน

สำหรับคนไอที - สิ่งที่ควรติดตามและเตรียมตัว

สำหรับนักพัฒนาและผู้ดูแลระบบ สิ่งที่น่าสนใจคือการเปลี่ยนจากการพึ่งพา "ผู้นำที่เชื่อถือได้" มาเป็นการออกแบบระบบและกระบวนการที่รองรับความผิดพลาด เช่น เพิ่มการตรวจสอบ การบันทึกเหตุการณ์ การทดสอบสภาพผิดปกติ และแนวทางปฏิบัติด้านความปลอดภัยของโมเดล (model governance) โดยตรง ซึ่งเป็นทักษะที่องค์กรหลายแห่งจะต้องการมากขึ้น

สรุปคือ Toner เตือนว่าการจัดการความเสี่ยงของ AI ต้องเป็นเรื่องสถาบัน ไม่ใช่เรื่องศรัทธาต่อบุคคลเดียว ข้อตกลงสมัครใจและบอร์ดภายในบริษัทเพียงอย่างเดียวไม่เพียงพอ เราจึงควรติดตามการพัฒนาแนวทางกำกับดูแลทั้งในระดับประเทศและระหว่างประเทศ รวมทั้งมาตรฐานเชิงเทคนิคที่จะช่วยลดความเสี่ยงในเชิงปฏิบัติ

ที่มา: The Verge - เรียบเรียงและสรุปเป็นภาษาไทยโดยทีมงาน IT Genius