Anthropic เสนอร่างกฎหมายความปลอดภัย AI ระบุเกณฑ์หยุดปล่อยโมเดลถ้าเสี่ยงกระทบแบบผู้อื่นตาย 50 คนขึ้นไป

Anthropic บริษัทวิจัย AI ได้จัดทำร่างกฎหมายความปลอดภัย AI ที่แสดงวิสัยทัศน์ต่อการกำกับดูแลอุตสาหกรรม โดยร่างนี้เสนอเกณฑ์สถานการณ์ที่อาจถูกสั่งห้ามไม่ให้ปล่อยโมเดลสู่สาธารณะ - จุดที่น่าสนใจคือการระบุเงื่อนไขเช่น หากมีความเสี่ยงที่คาดการณ์ได้และใกล้จะเกิดขึ้นซึ่งอาจทำให้มากกว่า 50 คนเสี่ยงถึงชีวิต หรืออาจเกิดความเสียหายทรัพย์สินมากกว่า a billion dollars

เงื่อนไขความเสี่ยงและเป้าหมายของร่างกฎหมาย

ร่างกฎหมายของ Anthropic ระบุว่าความเสี่ยงร้ายแรงต้องเกี่ยวข้องกับสาเหตุเฉพาะ เช่น การสร้างหรือการปล่อยอาวุธชีวภาพ การที่โมเดลหลบเลี่ยงการควบคุมของผู้พัฒนา หรือการโจมตีทางไซเบอร์ หากประเมินแล้วพบว่าเข้าข่าย "catastrophic risk" ตามนิยามที่ว่านี้ ร่างจะเปิดช่องให้กระบวนการทางกฎหมายขอระงับการปล่อยโมเดลได้

ใครเป็นผู้ประเมิน - แนวคิดผู้ประเมินอิสระ

หนึ่งในกลไกที่ร่างเสนอคือการใช้ "independent evaluators" ที่ต้องจดทะเบียนกับ Commerce Department ผู้ประเมินเหล่านี้อาจได้รับค่าตอบแทนจากบริษัทผู้พัฒนา แต่ร่างระบุชัดว่าการจ่ายเงินต้องไม่ขึ้นกับผลการประเมิน อย่างไรก็ตามรายละเอียดเชิงปฎิบัติว่าจะแน่ใจอย่างไรว่าเงินไม่กระทบต่อความเป็นกลางยังไม่ได้ถูกอธิบายเชิงลึก

ขั้นตอนเมื่อพบความเสี่ยงและบทบาทของศาล

ตามร่าง หากผู้ประเมินตัดสินว่าโมเดลก่อให้เกิดความเสี่ยงร้ายแรงพวกเขาจะต้องแจ้งภายใน 72 hours ต่อ Commerce Department ซึ่งหลังจากนั้นกระทรวงจะต้องยื่นคำขอต่อผู้พิพากษาใน Washington, D.C. เพื่อขอคำสั่งห้ามปล่อยโมเดล ข้อสังเกตสำคัญคือร่างนี้ห้ามหน่วยงานรัฐบาลกลางใดๆ ใช้อำนาจวิจารณญาณเพื่อตัดสินใจระงับการปล่อยโมเดลด้วยตัวเอง

บริบทอุตสาหกรรมและความเห็นจากบริษัทอื่น

เกณฑ์ตัวเลขที่ Anthropic ยกมา - 50 คน และ a billion dollars - มีความใกล้เคียงกับกฎหมายในแคลิฟอร์เนียอย่าง Senate Bill 53 ที่นิยามสถานการณ์เป็น "catastrophic risk" เช่นกัน แม้หลายบริษัทในวงการจะเตือนถึงความเสี่ยงสุดโต่งของเทคโนโลยี AI แต่บางรายก็ยังต้านการกำกับแบบบังคับ เช่น Nvidia โดย Jensen Huang เคยแย้งว่าวงการไม่จำเป็นต้องมีกฎหมายใหม่ ขณะที่ผู้นำบางรายเช่น Demis Hassabis ของ DeepMind เคยเสนอแนวคิดที่หน่วยกำกับดูแลควรเป็นแบบอุตสาหกรรมการเงิน อย่าง FINRA

ข้อเสนอของ Anthropic จึงน่าสนใจเพราะเป็นการนำเสนอกลไกที่ดูจะจริงจังขึ้นกว่าข้อเสนออื่นๆ จากอุตสาหกรรม โดยพยายามรวมหน่วยประเมินอิสระและบทบาทศาลเข้าด้วยกันเพื่อสร้างกระบวนการตรวจสอบความเสี่ยง

สรุปและสิ่งที่ต้องติดตาม - ร่างกฎหมายของ Anthropic เปิดประเด็นว่าการกำกับดูแล AI อาจต้องมีเกณฑ์เชิงปริมาณและกระบวนการประเมินภายนอกเพื่อจัดการความเสี่ยงร้ายแรง อีกทั้งจะต้องจับตามาตรการควบคุมความขัดแย้งผลประเมินและการทำงานร่วมกับหน่วยงานของรัฐ สำหรับผู้ปฏิบัติงานด้านไอทีและความปลอดภัยในไทย สิ่งที่ควรติดตามคือแนวทางการประเมินความเสี่ยงของโมเดลและกรอบการกำกับดูแล ซึ่งมีผลต่อการออกแบบระบบป้องกันและนโยบายการใช้งานโมเดลในองค์กร

ที่มา: TechCrunch - เรียบเรียงและสรุปเป็นภาษาไทยโดยทีมงาน IT Genius