Anthropic ให้ Accenture ส่งทีมประเมินความปลอดภัยเข้าอยู่ในบริษัท

Anthropic ประกาศความร่วมมือที่อาจเปลี่ยนรูปแบบการตรวจสอบความปลอดภัยของโมเดล AI - บริษัทจะเปิดให้พนักงานจาก Faculty ซึ่งเป็นหน่วยงานด้าน AI ที่ Accenture เข้าทำงานภายใน Anthropic เพื่อตรวจสอบโมเดล กระบวนการ และการปฏิบัติงานของทีมงาน โดยทั้งสองฝ่ายตั้งใจลงทุนอย่างน้อย 1,000 ล้านดอลลาร์ในโครงการนี้ภายใน 5 ปีข้างหน้า

รากเหง้าข้อเสนอและเหตุผลของ Anthropic

แนวคิดเรื่องการมี "embedded evaluator" มาจากบล็อกโพสต์ของ Dario Amodei ซึ่งเรียกร้องให้มีผู้ประเมินจากภายนอกทำงานภายในห้องวิจัย AI เพื่อยกระดับความโปร่งใสและการยืนยันการทำงานที่ปลอดภัย Anthropic ระบุว่า Faculty จะเข้ามาทำงานด้านการประเมินและ red-teaming โมเดล การทดสอบมาตรการความปลอดภัย และการประเมิน alignment ซึ่งสอดคล้องกับพันธกิจหลักด้านความปลอดภัยของบริษัท

ทำไมเป็น Accenture - ข้อดีและความแปลกใจ

การเลือก Accenture ทำให้หลายฝ่ายประหลาดใจ เพราะชื่อเสียงของบริษัทมักเน้นการนำ AI ไปใช้งานเชิงปฏิบัติสำหรับภาคธุรกิจและรัฐบาล มากกว่าการวิจัยเชิงลึกในทางทฤษฎี Anthropic ให้เหตุผลว่า Accenture มีประสบการณ์ด้านการปรับใช้ AI ในองค์กรขนาดใหญ่และมีสถานะเป็นบริษัทมหาชนที่อยู่นอกเครือข่ายนักวิจัย AI แบบสตาร์ทอัพ ทำให้มีความเป็นอิสระในเชิงหน้าที่มากขึ้น นอกจากนี้ข่าวการประกาศยังส่งผลให้หุ้นของ Accenture พุ่งขึ้นประมาณ 8% หลังตลาดปิด

เสียงวิจารณ์และความท้าทายของโมเดลการประเมินภายใน

แม้ Anthropic ยืนยันว่าการมีผู้ประเมินภายนอกมาอยู่ภายในจะช่วยให้ความรับผิดชอบเป็นไปตามที่ตรวจสอบได้ แต่ก็มีผู้ตั้งคำถามว่าข้อเสนอนี้อาจเป็นวิธีหลีกเลี่ยงความรับผิดชอบหรือไม่ โดยเฉพาะเมื่อยังไม่มีมาตรฐานที่ชัดเจนเกี่ยวกับการเข้าถึงข้อมูล การสื่อสาร และขอบเขตอำนาจของผู้ประเมิน นอกจากนี้ยังมีรายงานอ้างเหตุการณ์ที่ AI agents ที่ใช้งานจริงจาก OpenAI และ Anthropic สามารถเข้าถึงเว็บไซต์ภายนอกโดยไม่ได้รับการเตือนภายในห้องวิจัย ซึ่งยิ่งเน้นถึงความจำเป็นของการประเมินภายนอกที่เข้มงวด

แนวทางต่อไปและสิ่งที่ต้องติดตาม

Anthropic ระบุว่าจะประกาศผู้ประเมินเพิ่มเติมในสัปดาห์หน้าและกำลังคุยกับองค์กรไม่แสวงหาผลกำไรอย่าง METR, Redwood Research และ Apollo Research เพื่อทดลองรูปแบบการประเมินแบบ embedded โดยใช้ทุนขององค์กรเหล่านั้น สิ่งที่น่าสังเกตคือการกำหนดมาตรฐานการเข้าถึงข้อมูล การรายงานผล และความเป็นอิสระของผู้ประเมิน ซึ่งจะเป็นตัวชี้วัดว่ารูปแบบนี้จะช่วยเพิ่มความน่าเชื่อถือหรือไม่

สำหรับคนทำงานสายไอที เรื่องนี้มีความหมายตรงกับการออกแบบกระบวนการทดสอบ ระบบ governance และการตอบสนองต่อเหตุการณ์ความปลอดภัยเมื่อใช้งานโมเดล AI การติดตามมาตรฐานการประเมินและแนวปฏิบัติที่เกิดขึ้นจากความร่วมมือนี้จะเป็นประโยชน์เมื่อต้องวางนโยบายหรือเลือกพาร์ทเนอร์เชิง AI ให้กับองค์กรของคุณ

บทสรุป - ความร่วมมือนี้เป็นการทดลองเชิงสถาบันที่อาจกำหนดมาตรฐานใหม่ของการตรวจสอบความปลอดภัย AI แต่ยังมีคำถามเรื่องความเป็นอิสระ มาตรฐานการเข้าถึงข้อมูล และการเปิดเผยผลการประเมิน ที่ต้องจับตามองในระยะต่อไป

ที่มา: TechCrunch - เรียบเรียงและสรุปเป็นภาษาไทยโดยทีมงาน IT Genius