Microsoft Foundry: Build AI Apps and Agents (AI-103)

Section 1: Lab: Microsoft Foundry และโครงร่าง AI-103

• โครงร่าง AI-103: วางแผนและจัดการ (25-30%), Generative AI และ Agent (30-35%), Vision, Text และ Information Extraction (ด้านละ 10-15%)
• โครงสร้าง Foundry Resource, Project, Connection และ Foundry Tools
• ออกแบบ Infrastructure ของแอป AI และระบบ Agent ทั้ง Region, Network และ Storage
• Lab: สร้าง Foundry Project และเชื่อมต่อจาก Python ด้วย Foundry SDK

Section 2: Lab: เลือกโมเดลและ Deploy

• เลือกระหว่าง LLM, Small Language Model, โมเดล Multimodal และ Foundry Tools ตามงาน
• เลือกบริการสำหรับ Generative, Grounding, Vector Search, Agent Workflow และ Multimodal
• ตัวเลือกการ Deploy และการตั้งค่า Deployment ของโมเดลและ Agent
• Deploy และเรียกใช้โมเดลข้อความ โมเดลโค้ด และโมเดล Multimodal
• Lab: Deploy สองโมเดลแล้วเทียบคุณภาพ ความเร็ว และค่าใช้จ่ายกับงานเดียวกัน

Section 3: Lab: ความปลอดภัยและการเชื่อมต่อแอป

• Keyless Credential ด้วย Microsoft Entra ID และ Managed Identity
• กำหนด Role และสิทธิ์ของผู้พัฒนา แอป และ Agent ด้วย RBAC
• Private Networking และ Private Endpoint สำหรับ Foundry และบริการที่เกี่ยวข้อง
• ตั้งค่าแอปให้เชื่อมต่อ Foundry Project อย่างปลอดภัย
• Lab: เปลี่ยนแอปจากการใช้ API Key เป็น Managed Identity

Section 4: Lab: Quota ค่าใช้จ่าย และ CI/CD

• Quota, Rate Limit และการ Scale ของโมเดลและ Agent
• ประเมินและติดตาม Cost Footprint ของงาน AI
• จัดการ Error จาก Rate Limit ด้วย Retry และ Backoff
• เชื่อม Foundry Project เข้ากับ CI/CD Pipeline
• Lab: Deploy Agent ผ่าน Pipeline บน GitHub Actions

Section 5: Lab: Prompt และปรับพฤติกรรมของโมเดล

• Prompt Engineering สำหรับงานจริงและการปรับพารามิเตอร์ของโมเดล
• Structured Output และการบังคับรูปแบบ JSON
• Reflection และ Self-critique Loop เพื่อให้โมเดลตรวจคำตอบของตนเอง
• ผสมหลายโมเดลหรือใช้ LLM ร่วมกับ Rules Engine
• Lab: ระบบสรุปเอกสารที่ตรวจทานคำตอบตัวเองก่อนส่ง

Section 6: Lab: Retrieval และ Indexing ด้วย Azure AI Search

• เลือกวิธี Retrieval และ Indexing ให้เหมาะกับข้อมูลและโจทย์
• Ingest และทำ Index เอกสาร ภาพ เสียง และวิดีโอ
• Semantic Search, Hybrid Search และ Vector Search สำหรับ Grounding
• Enrichment ด้วย Skill สำเร็จรูปและ Custom Skill รวมถึง OCR และ Layout
• Lab: สร้าง Index ของคู่มือองค์กรพร้อม Vector และ Hybrid Search

Section 7: Lab: สร้างแอป RAG

• ออกแบบ RAG Ingestion Flow ตั้งแต่ Chunking จนถึง Embedding
• เชื่อม Retrieval เข้ากับแอปและให้คำตอบอ้างอิงแหล่งที่มา
• ติดตามคุณภาพการ Ingest สุขภาพของ Index และความเกี่ยวข้องของผลค้นหา
• ตรวจ Grounding Quality และคำตอบที่แต่งขึ้นเอง
• Lab: แอปถามตอบเอกสารองค์กรที่ตอบพร้อมแหล่งอ้างอิง

Section 8: Lab: สร้าง Agent ด้วย Foundry Agent Service

• กำหนดบทบาท เป้าหมาย วิธีติดตามบทสนทนา และ Tool Schema ของ Agent
• Prompt Agent และ Hosted Agent ต่างกันอย่างไร
• Agent ที่ผสาน Retrieval, Function Calling และ Conversation Memory
• เลือกบริการ Memory, Tool และ Knowledge ให้เหมาะกับ Agent
• Lab: Agent ตอบคำถามพนักงานที่ค้นเอกสารและเรียกฟังก์ชันได้

Section 9: Lab: Tools, MCP และ Knowledge

• เชื่อม API ภายนอกผ่าน OpenAPI และ Custom Function
• ใช้ MCP Server เป็น Tool ของ Agent และควบคุมสิทธิ์การเรียกใช้
• ใช้ Search และ Content Understanding เป็นแหล่ง Knowledge ของ Agent
• Lab: เพิ่ม Tool ตรวจสถานะคำสั่งซื้อผ่าน API ให้ Agent

Section 10: Lab: Multi-agent และ Workflow แบบมีคนอนุมัติ

• ออกแบบ Multi-agent ที่แบ่งบทบาทและส่งต่องานกัน
• Workflow, Tool-augmented Flow และ Multistep Reasoning
• Workflow อัตโนมัติและกึ่งอัตโนมัติพร้อม Safeguard และขั้นตอนอนุมัติโดยคน
• Lab: Agent ร่างคำตอบ อีกตัวตรวจทาน แล้วรอคนอนุมัติก่อนส่ง

Section 11: Lab: Evaluation, Tracing และ Monitoring

• Evaluator ด้าน Relevance, Groundedness, คุณภาพ และความปลอดภัย
• Tracing, Token Analytics และ Latency Breakdown ด้วย Application Insights
• ติดตามประสิทธิภาพ Drift และ Safety Event ของโมเดลและ Agent
• Lab: รัน Evaluation ชุดคำถามและวิเคราะห์ Error ของ Agent จาก Trace

Section 12: Lab: Responsible AI และ Guardrails

• Safety Filter, Guardrails, Risk Detection และ Content Moderation
• ป้องกัน Prompt Injection รวมถึงคำสั่งแฝงที่ฝังในข้อความบนภาพ
• กำกับ Agent ด้วย Oversight Mode, Constraint และการจำกัดสิทธิ์ Tool
• Lab: Audit ด้วย Trace Log, Provenance Metadata และ Approval Workflow

Section 13: Lab: สร้างและแก้ไขภาพกับวิดีโอ

• สร้างภาพและวิดีโอจาก Text Prompt และสื่ออ้างอิง
• แก้ไขภาพด้วย Inpainting, Mask และคำสั่งข้อความ
• Workflow แก้ไขวิดีโอ และ Visual Policy เช่น Watermark และกฎการใช้แบรนด์
• Lab: Pipeline สร้างภาพประกอบสินค้าพร้อมตรวจเนื้อหาไม่เหมาะสม

Section 14: Lab: Multimodal Understanding

• วิเคราะห์ภาพด้วยโมเดล Multimodal และถามตอบจากหลักฐานในภาพ
• สร้าง Caption และ Alt-text ตามแนวทาง Accessibility
• วิเคราะห์วิดีโอและระบุวัตถุด้วย Content Understanding
• Lab: สร้าง Alt-text อัตโนมัติให้ภาพในเว็บไซต์

Section 15: Lab: Text Analysis, Speech และการดึงข้อมูลเอกสาร

• ดึง Entity หัวข้อ สรุป และ JSON พร้อมตรวจ Sentiment และข้อมูลอ่อนไหว
• แปลภาษาด้วย Azure Translator หรือ LLM และ Speech เป็นช่องทางของ Agent
• OCR, Layout และ Field Extraction ด้วย Analyzer ของ Content Understanding
• Lab: แปลงเอกสารเป็น Markdown ที่มีโครงสร้างเพื่อใช้กับ Agent และ RAG

Section 16: Workshop: Capstone และแนวทางเตรียมสอบ

• สร้าง Agent ที่ใช้ RAG, Tools, Guardrails และขั้นตอนอนุมัติครบวงจร
• วัดผลด้วย Evaluation และเปิด Tracing ก่อนส่งมอบ
• ทบทวนตามโครงร่าง AI-103 และทดลองทำ Practice Assessment
• Workshop: ลบทรัพยากรและสรุป Checklist ก่อนใช้งานจริง