ทีมวิจัยใช้ Claude ช่วยเจาะระบบ OpenAI ผ่านไฟล์ภาพ HEIF ในฟอรั่ม Discourse

มีรายงานว่า ทีมวิจัยอิสระ 3 คนจาก Hacktron ใช้เวลาไม่ถึง 72 ชั่วโมงเพื่อเจาะบัญชีพนักงานของ OpenAI โดยอาศัย Claude Opus 4.8 และ 5 ช่วยในการพัฒนาการโจมตี พวกเขาได้เข้าถึง GitHub repository ของ OpenAI ที่เรียกว่า "Monorepo" ซึ่งตามข้อมูลมีเนื้อหาเกี่ยวกับความลับด้านอัลกอริทึมของ OpenAI แม้จะไม่ได้เข้าถึงโค้ดภายใน Monorepo โดยตรง แต่สามารถส่ง pull request จากบัญชี Codex ของพนักงานเพื่อยืนยันการเข้าถึงได้

ช่องโหว่เกิดจากการประมวลผลไฟล์ภาพ HEIF ใน Discourse

เส้นทางการโจมตีเริ่มจาก Discourse ซึ่งเป็นบริการของบุคคลที่สามที่ใช้โฮสต์ฟอรั่มของ OpenAI ทีมวิจัยพบปัญหากับระบบที่ใช้ประมวลผลไฟล์ HEIF โดยส่งไฟล์ภาพที่ถูกดัดแปลงเข้าไปแล้วทำให้เกิด remote code execution - RCE บน Discourse Cloud Hacktron ระบุว่า Claude Opus 5 เปิดตัวช่วงเย็นของวันที่ 24 กรกฎาคม และภายในเวลา 10AM ของวันถัดมา พวกเขาสามารถใช้โมเดลเพื่อช่วยให้บรรลุ RCE และเข้าถึง instance ของ OpenAI ได้

บทบาทของ Claude และการใช้ทรัพยากร

ทีมงานบอกว่าโครงการที่ตั้งชื่อว่า HEIF Heist ปรับให้ทำงานกับหลายบริษัทและเทคโนโลยีได้ในเวลาเพียงหนึ่งหรือสองวัน รวมถึง Slack, Meta, GitHub Ent, Rails, Next.js, ImageMagick เป็นต้น การทดลองใช้จ่ายไปน้อยกว่า $3,000 ในค่าโทเคน และจากที่ทราบมีเพียง Shopify เท่านั้นที่ตรวจจับการโจมตีได้ Hacktron รายงานช่องโหว่ต่อ Discourse และ OpenAI ซึ่งทั้งสองฝ่ายได้แก้ไขแล้ว และ OpenAI จ่ายค่าพบจุดบกพร่องให้ Hacktron เป็นจำนวน $6,500

ผลกระทบและแนวทางป้องกัน

เหตุการณ์นี้เตือนให้เห็นความเสี่ยงเมื่อบริการสำคัญขึ้นอยู่กับซอฟต์แวร์ของบุคคลที่สามและไลบรารีสำหรับประมวลผลไฟล์ ผู้ดูแลระบบควรเน้นการอัปเดตแพตช์อย่างสม่ำเสมอ ตรวจสอบการกรองและ sanitization ของไฟล์ที่อัปโหลด จำกัดสิทธิ์ของบัญชีภายในตามหลัก least privilege และติดตั้งระบบมอนิเตอร์เพื่อตรวจจับพฤติกรรมผิดปกติ นอกจากนี้องค์กรควรมีกระบวนการรับรายงานช่องโหว่และการตอบสนองต่อเหตุการณ์ที่ชัดเจน

สิ่งที่ต้องติดตามต่อ

ประเด็นที่ยังน่าติดตามคือบทบาทของโมเดลภาษาในการช่วยค้นหาและสร้างโค้ดโจมตี - โมเดลเดียวกันสามารถใช้เป็นเครื่องมือของผู้ป้องกันได้เช่นกัน แต่ก็ทำให้การโจมตีอัตโนมัติเป็นเรื่องง่ายขึ้น การกำกับดูแลการใช้ AI ในงานทดสอบความปลอดภัยและแนวทางรับผิดชอบของผู้ให้บริการโมเดลจึงกลายเป็นเรื่องสำคัญ

หมายเหตุสำหรับคนไอทีไทย - หากคุณดูแลเว็บแอปหรือฟอรั่มภายใน ควรตรวจสอบการจัดการไฟล์อัปโหลดโดยเฉพาะรูปแบบ HEIF/ภาพสมัยใหม่ และทบทวนสิทธิ์บัญชีที่ผูกกับบริการภายนอก เช่น GitHub เพื่อจำกัดความเสียหายหากเกิดการโจมตี

ที่มา: The Verge - เรียบเรียงและสรุปเป็นภาษาไทยโดยทีมงาน IT Genius