Section 11: พื้นฐาน LLM สำหรับนักพัฒนา
- Token, Context Window และ Temperature กับผลต่อคุณภาพและต้นทุน
- Chat Messages, System Prompt และ Structured Output ที่ตรวจด้วย Pydantic
- Cloud LLM กับ Local LLM ด้านความเป็นส่วนตัวของข้อมูล ค่าใช้จ่าย และประสิทธิภาพ
- Lab: เรียก LLM ให้ตอบเป็น JSON ตาม Schema ที่กำหนด
Section 12: Lab: AI Service และ LLM Client
- แยก AI Service ออกจาก Business Service และกำหนด Contract ให้ชัด
- LLM Client Abstraction ที่สลับ Cloud API แบบ OpenAI-compatible กับ Ollama ด้วย Config
- รัน Ollama ใน Docker Compose และเลือก Chat Model กับ Embedding Model ให้เหมาะกับเครื่อง
- Streaming Response ผ่าน Server-Sent Events (SSE) จาก FastAPI
- Lab: สร้าง AI Assistant Service ที่ตอบแบบ Streaming
Section 13: Lab: RAG ด้วย pgvector
- Embedding, Chunking และ Similarity Search
- ติดตั้ง pgvector บน PostgreSQL 18 สร้างตาราง Vector และ Index แบบ HNSW
- Ingestion Pipeline ที่รับเอกสารผ่าน Event แล้วสร้าง Embedding แบบ Asynchronous
- ประกอบ Prompt จากผลค้นหา อ้างอิงแหล่งที่มา และวัดคุณภาพคำตอบเบื้องต้น
- Lab: นำเอกสารนโยบายร้าน (ข้อมูลจำลอง) เข้า pgvector
Section 14: Tool Calling, MCP และความปลอดภัยของ AI Service
- Function/Tool Calling และการกำหนด Schema ของ Tool
- เชื่อม Tool เข้ากับ Order Service โดยส่งต่อสิทธิ์ของผู้ใช้อย่างถูกต้อง
- แนวคิด Model Context Protocol (MCP) และการเปิด Service เป็น MCP Tool (สาธิต)
- Prompt Injection, Data Leakage, การจำกัด Tool และปิดบังข้อมูลส่วนบุคคล
- Timeout, Rate Limit, Fallback Model และบันทึกจำนวน Token เพื่อคุมต้นทุน
Section 15: Workshop Day 3: AI Assistant ของ SiamCart
- ตอบคำถามนโยบายร้านแบบ RAG พร้อมอ้างอิงแหล่งที่มา
- ให้ LLM เรียกดูสถานะคำสั่งซื้อของผู้ใช้จาก Order Service ผ่าน Tool Calling
- ทดลองสลับระหว่าง Cloud LLM และ Ollama แล้วเปรียบเทียบคุณภาพ ความเร็ว และต้นทุน
- Workshop: ทดสอบ Prompt Injection ที่พยายามดูคำสั่งซื้อของผู้อื่นและปิดช่องโหว่