หลักสูตร AI Security and LLM Red Teaming เป็นการอบรมการทดสอบและป้องกันแอป LLM และ AI Agent ตาม OWASP Top 10 for LLM Applications 2026 ตั้งแต่ Prompt Injection ข้อมูลรั่ว และช่องโหว่ของ RAG ไปจนถึงการใช้ promptfoo และวาง Guardrails เหมาะกับ Security Engineer, Penetration Tester และนักพัฒนาที่สร้างแอป AI
แอปที่ใช้ LLM ทั้ง Chatbot ระบบ RAG และ AI Agent ที่เรียกเครื่องมือได้เอง กำลังเข้าไปอยู่ในระบบงานจริงขององค์กร แต่ช่องโหว่ของแอปเหล่านี้ต่างจากเว็บแอปทั่วไป ข้อความธรรมดาในอีเมลหรือเอกสารก็สั่งให้โมเดลทำสิ่งที่ไม่ควรทำได้ ข้อมูลลับใน Context อาจรั่วออกมาในคำตอบ และ Agent ที่มีสิทธิ์มากเกินไปอาจถูกหลอกให้ลบข้อมูลหรือส่งข้อมูลออกนอกองค์กร เครื่องมือสแกนแบบเดิมจึงมองไม่เห็นความเสี่ยงส่วนใหญ่
หลักสูตรนี้พาผู้เรียนทดสอบความปลอดภัยของแอป LLM แบบลงมือจริงในมุมของผู้ป้องกัน โดยใช้ OWASP Top 10 for LLM Applications ฉบับ 2026 และ OWASP Top 10 for Agentic Applications เป็นกรอบ ทุก Lab โจมตีเฉพาะแอปตัวอย่างที่ออกแบบให้มีช่องโหว่โดยเจตนาซึ่งรันบนเครื่องของผู้เรียนเอง เริ่มจาก Prompt Injection
ทั้งแบบตรงและแบบอ้อม ข้อมูลรั่ว ช่องโหว่ของ RAG ไปจนถึงการโจมตี AI Agent ผ่าน Tool และ MCP จากนั้นใช้ promptfoo ทำ Automated Red Teaming วาง Guardrails แบบหลายชั้น ฝังการทดสอบไว้ใน CI/CD และปิดท้ายด้วย Capstone ที่ต้องเขียนรายงานผลและข้อเสนอแก้ไขให้ทีมพัฒนา (อบรม 2 วัน วันละ 6 ชั่วโมง รวม 12 ชั่วโมง ระดับ Intermediate)
รายละเอียดหลักสูตร
อบรม 2 วัน วันละ 6 ชั่วโมง รวม 12 ชั่วโมง (09:00-16:00 น.) รูปแบบบรรยายสลับ Lab ระดับ Intermediate ทุก Lab โจมตีเฉพาะแอป Chatbot, RAG และ AI Agent ที่ออกแบบให้มีช่องโหว่โดยเจตนาและรันบนเครื่องของผู้เรียนด้วย Docker เนื้อหายึดตาม OWASP Top 10 for LLM Applications ฉบับ 2026 และ OWASP Top 10 for Agentic Applications โดยเน้นมุมผู้ป้องกัน
ทุกการโจมตีจบที่วิธีแก้ หลักสูตรนี้ต่อยอดจาก Ethical Hacking and Penetration Testing Fundamentals โดยเจาะเฉพาะแอปที่ใช้ LLM ผู้เรียนใช้โมเดลขนาดเล็กผ่าน Ollama บนเครื่อง หรือใช้ LLM API Key ของตนเองหรือของบริษัท ซึ่งค่าใช้ API เป็นไปตามการใช้งานจริง ผู้เรียนจะได้ Lab Guide ไฟล์ docker-compose ของแอปตัวอย่าง ชุด Config ของ promptfoo และแม่แบบรายงาน Red Team กลับไปใช้งานต่อ
Section 1: Lab: AI Red Teaming และการเตรียมสนามทดสอบ
Section 2: OWASP Top 10 for LLM Applications 2026
Section 3: Lab: Prompt Injection แบบตรงและแบบอ้อม
Section 4: Lab: ข้อมูลรั่วและ Hidden Context Exposure
Section 5: Lab: Output Handling และ Unbounded Consumption
Section 6: Lab: ช่องโหว่ของ RAG และ Supply Chain
Section 7: Excessive Agency และ Agentic Top 10
Section 8: Lab: ทดสอบ AI Agent, Tool และ MCP
Section 9: Lab: Automated Red Teaming ด้วย promptfoo
Section 10: Lab: Guardrails และ Defense in Depth
Section 11: ทดสอบต่อเนื่องและเฝ้าระวังใน Production
Section 12: Workshop: Capstone Red Team Engagement
ขณะนี้ยังไม่มีรอบอบรมเปิดรับสมัคร ลงชื่อจองไว้ได้เลย ทีมงานจะติดต่อกลับเป็นกลุ่มแรกเมื่อเปิดรอบถัดไป หรือสอบถามทางไลน์ หรือโทร 02-570-8449 หรือ 088-807-9770
Prompt Injection คือการแทรกข้อความที่ทำให้โมเดลทำตามคำสั่งของผู้โจมตีแทนคำสั่งที่ระบบกำหนดไว้ แบบตรง (Direct) ผู้โจมตีพิมพ์คำสั่งหรือ Jailbreak ลงช่องแชตเอง ส่วนแบบอ้อม (Indirect) คำสั่งถูกซ่อนไว้ในเว็บ อีเมล ไฟล์ PDF หรือเอกสารที่โมเดลดึงมาอ่าน ซึ่งอันตรายกว่าเพราะผู้ใช้อาจไม่รู้ตัวเลย จึงต้องแยกข้อมูลจากภายนอกออกจากคำสั่งของระบบเสมอ
แนวคิดปัจจุบันคือยอมรับว่าโมเดลถูกหลอกได้ แล้วออกแบบระบบรอบตัวให้เสียหายน้อยที่สุด เริ่มจากตรวจ Input และแยกข้อมูลภายนอกออกจากคำสั่ง จากนั้นตรวจ Output ก่อนแสดงผลหรือส่งต่อ เช่น Encode ก่อนแสดงเป็น HTML ให้ Tool มีสิทธิ์เท่าที่จำเป็น (Least Privilege) ขอการยืนยันจากคนก่อนทำงานที่ย้อนกลับไม่ได้ และเก็บ Audit Log ของ Agent ไว้ตรวจย้อนหลัง
เริ่มจากตั้งค่า promptfoo ให้ส่งคำขอไปยังแอปเป้าหมายผ่าน HTTP หรือ Python Provider จากนั้นเลือก Plugin และ Strategy ให้ตรงกับความเสี่ยงของแอปตามรายการ OWASP แล้วสั่งสแกนและอ่านรายงาน แยกผลบวกลวงออกก่อนจัดลำดับช่องโหว่ที่ต้องแก้ เมื่อแก้แล้วให้สแกนซ้ำเพื่อเทียบผล และฝังชุดทดสอบไว้ใน CI/CD เพื่อจับปัญหาทุกครั้งที่เปลี่ยน Prompt หรือโมเดล
เหมาะกับ Security Engineer และ Penetration Tester ที่ต้องทดสอบระบบที่มี LLM หรือ AI Agent นักพัฒนาที่สร้าง Chatbot RAG หรือ Agent และทีม AppSec หรือ DevSecOps ที่ต้องวางมาตรฐานการทดสอบแอป AI ควรเขียน Python ขั้นพื้นฐานและอ่านโค้ดที่เรียก LLM API ได้ เข้าใจ Web Security เช่น XSS และ SQL Injection และเข้าใจแนวคิด RAG กับ AI Agent เบื้องต้น
ทดสอบ Prompt Injection แบบตรงและแบบอ้อมรวมถึงการรั่วของข้อมูล ประเมินช่องโหว่ของ RAG และ AI Agent ตามรายการ OWASP ใช้ promptfoo สร้างชุดทดสอบ Red Team อัตโนมัติ ออกแบบ Guardrails หลายชั้น และเขียนรายงานผลพร้อมระดับความเสี่ยงและข้อเสนอแก้ไขให้ทีมพัฒนา ผู้ผ่านการอบรมได้รับใบประกาศนียบัตร (Certificate of Completion) ที่มีเลขที่ของตัวเองและตรวจสอบออนไลน์ได้
เตรียมโน้ตบุ๊ก RAM อย่างน้อย 16 GB ที่ติดตั้ง Docker Desktop, Node.js และ Python ได้ เพราะแอปตัวอย่างที่มีช่องโหว่โดยเจตนารันบนเครื่องของผู้เรียนด้วย Docker ส่วนโมเดลใช้โมเดลขนาดเล็กผ่าน Ollama บนเครื่อง หรือใช้ LLM API Key ของตนเองหรือของบริษัทก็ได้ ซึ่งค่าใช้ API เป็นไปตามการใช้งานจริง
ทีม SOC ส่วนใหญ่ไม่ได้ขาดข้อมูล แต่จมอยู่กับ Alert จำนวนมากที่ต้องเปิดดูทีละรายการ ต้องสลับหน้าจอไปค้นข้อมูล IP หรือ Hash เขียน Query ใหม่ทุกครั้งที่ต้องล่าภัยคุกคาม และใช้เวลานานกับการสรุปเหตุการณ์เป็นรายงาน AI และ LLM ช่วยงานเหล่านี้ได้มาก…
องค์กรจะป้องกันภัยไซเบอร์ได้ดีก็ต่อเมื่อเข้าใจว่าผู้โจมตีคิดและลงมืออย่างไร หลักสูตรนี้สอนการทดสอบเจาะระบบอย่างมีจริยธรรม (Ethical Hacking) ตามระเบียบวิธีมาตรฐาน ตั้งแต่การกำหนดขอบเขตและขออนุญาตเป็นลายลักษณ์อักษร การเก็บข้อมูลเป้าหมาย…
ทีมพัฒนาปัจจุบันส่งโค้ดขึ้น Production ได้หลายครั้งต่อวันด้วย CI/CD แต่งานความปลอดภัยจำนวนมากยังรอตรวจตอนท้ายก่อนขึ้นระบบจริง ผลคือช่องโหว่ถูกพบช้า แก้ยากและแพง หรือหลุดขึ้น Production ไปเลย ทั้ง Password ที่ติดไปกับโค้ด Library ที่มีช่องโหว่ Container Image…
