AI · AIC-87

LLM Fine-Tuning with LoRA

หลักสูตร LLM Fine-Tuning with LoRA เป็นการอบรมการปรับแต่งโมเดลภาษาด้วย LoRA และ QLoRA ตั้งแต่เตรียมชุดข้อมูลรวมถึงภาษาไทย ฝึกด้วย Unsloth และ Hugging Face วัดผล จนถึงนำขึ้น Ollama หรือ vLLM เหมาะกับ AI Engineer และนักพัฒนา Python ที่ใช้ LLM อยู่แล้ว จบแล้วได้โมเดลที่ Fine-tune สำหรับงานของตัวเอง

อัปเดตล่าสุด 1 ต.ค. 2569

ราคาเริ่มต้น 10,710 บาท / ท่าน 11,900 −10% ยังไม่รวม VAT 7% · มีราคาหมู่คณะ

ขอใบเสนอราคาอบรมองค์กร ลงชื่อจองไว้

PDFดาวน์โหลด Course Outline

ระยะเวลา18 ชั่วโมง · 3 วัน
รูปแบบออนไซต์ / ออนไลน์สด
รอบถัดไปเปิดตามคำขอ
ใบรับรองมี Certificate

ภาพรวมหลักสูตร

Prompt ที่ดีและ RAG แก้ปัญหาได้หลายอย่าง แต่บางงานก็ไปไม่สุด เช่น อยากให้โมเดลตอบในรูปแบบเฉพาะขององค์กรทุกครั้ง ใช้ศัพท์เฉพาะทางได้ถูกต้อง จัดหมวดเอกสารภาษาไทยได้แม่นยำ หรือใช้โมเดลขนาดเล็กที่รันในองค์กรได้แทนโมเดลใหญ่ราคาแพง Fine-tuning ด้วย LoRA และ QLoRA ทำให้การปรับแต่งโมเดลแบบนี้ทำได้บน GPU ตัวเดียว แต่ผลลัพธ์จะดีหรือไม่ขึ้นกับการตัดสินใจที่ถูกต้อง ชุดข้อมูลที่มีคุณภาพ และการวัดผลอย่างเป็นระบบ มากกว่าการกดรัน Notebook ให้จบ

หลักสูตรนี้พาผู้เรียน Fine-tune LLM แบบลงมือทำครบวงจร เริ่มจากเกณฑ์ตัดสินใจว่างานไหนควร Fine-tune เข้าใจหลักการของ LoRA และ QLoRA และออกแบบชุดข้อมูลฝึกรวมถึงข้อมูลภาษาไทย จากนั้นฝึกโมเดลจริงด้วย Unsloth และ Hugging Face TRL กับ PEFT ปรับ Hyperparameter อ่าน Loss Curve

และทดลองกับโมเดลที่รองรับภาษาไทยอย่าง Typhoon หรือ OpenThaiGPT พร้อมวัดผลเทียบกับโมเดลตั้งต้น ก่อนต่อยอดสู่ Preference Tuning ด้วย DPO การ Merge และ Export เป็น GGUF แล้วนำขึ้นใช้งานบน Ollama และ vLLM ปิดท้ายด้วย Capstone Fine-tune โมเดลสำหรับงานของตนเองตั้งแต่ชุดข้อมูลจนถึงการ Deploy (อบรม 3 วัน วันละ 6 ชั่วโมง รวม 18 ชั่วโมง ระดับ Intermediate - Advanced)

สิ่งที่คุณจะได้รับ

ตัดสินใจได้ว่างานใดควรใช้ Prompt, RAG หรือ Fine-tuning โดยมีเหตุผลรองรับ
อธิบายหลักการของ LoRA และ QLoRA และเลือกค่าพารามิเตอร์สำคัญได้
ออกแบบ ทำความสะอาด และจัดรูปแบบชุดข้อมูลฝึกตาม Chat Template ของโมเดลได้
Fine-tune โมเดลด้วย Unsloth และ Hugging Face TRL กับ PEFT บน GPU ตัวเดียวได้
Fine-tune โมเดลที่รองรับภาษาไทยสำหรับงานเฉพาะขององค์กรได้
วัดผลโมเดลที่ฝึกแล้วเทียบกับโมเดลตั้งต้นอย่างเป็นระบบ
Merge, Export เป็น GGUF และนำโมเดลขึ้นให้บริการบน Ollama หรือ vLLM ได้

หลักสูตรนี้เหมาะสำหรับ

AI Engineer และ ML Engineer ที่ต้องปรับแต่งโมเดลภาษาให้เหมาะกับงานขององค์กร
นักพัฒนา Python ที่ใช้ LLM API อยู่แล้วและอยากก้าวไปสู่การปรับแต่งโมเดลเอง
Data Scientist ที่ต้องการทักษะ Fine-tuning LLM บนข้อมูลภาษาไทย
ทีมที่รัน LLM ภายในองค์กรและอยากให้โมเดลขนาดเล็กทำงานเฉพาะทางได้ดีขึ้น
นักวิจัยและอาจารย์ที่ต้องการแนวปฏิบัติ Fine-tuning ที่ทำซ้ำได้

พื้นฐานของผู้เข้าอบรม

เขียน Python ได้คล่อง และเคยใช้ Jupyter Notebook หรือ Google Colab
เคยเรียก LLM ผ่าน API และเข้าใจ Prompt, Token และ Context Window
มีพื้นฐาน Machine Learning เบื้องต้น เช่น Training, Validation และ Overfitting จะเป็นประโยชน์
โน้ตบุ๊กเชื่อมต่ออินเทอร์เน็ต บัญชี Google สำหรับ Colab และบัญชี Hugging Face

หัวข้อการฝึกอบรม

รายละเอียดหลักสูตร

หลักสูตรนี้อบรม 3 วัน วันละ 6 ชั่วโมง รวม 18 ชั่วโมง (09:00-16:00 น.) รูปแบบบรรยายพร้อม Lab ที่ต่อยอดโจทย์ธุรกิจตัวอย่างเดียวตลอดหลักสูตร ระดับ Intermediate - Advanced ทุก Lab รันบน Google Colab หรือ Cloud GPU ที่ผู้เรียนเช่าเอง ค่าใช้จ่ายส่วนนี้ผู้เรียนรับผิดชอบเอง ไม่จำเป็นต้องมี GPU บนเครื่อง หลักสูตรเน้นการ Fine-tune

แบบ Parameter-Efficient ด้วย LoRA และ QLoRA ครอบคลุมการตัดสินใจ การเตรียมข้อมูลรวมถึงข้อมูลภาษาไทย การฝึก การวัดผล DPO และการนำขึ้นใช้งาน ต่อยอดได้กับหลักสูตร Local LLM Deployment with Ollama and vLLM สำหรับงานให้บริการโมเดลในระดับองค์กร ผู้เรียนจะได้ Lab Guide, Notebook ตัวอย่างครบทุก Lab ชุดข้อมูลตัวอย่าง และสคริปต์วัดผลกลับไปใช้งานต่อ

Day 1 หลักการ สภาพแวดล้อม และชุดข้อมูล

Section 1: Workshop: Prompt, RAG หรือ Fine-tuning

Fine-tuning แก้ปัญหาอะไรได้ และแก้อะไรไม่ได้ เช่น การเพิ่มความรู้ที่เปลี่ยนบ่อย
งานที่ได้ผลดีจาก Fine-tuning: รูปแบบคำตอบ, การจัดหมวด, การดึงข้อมูล และศัพท์เฉพาะทาง
ต้นทุนรวมของ Fine-tuning ทั้งข้อมูล GPU เวลา และการดูแลโมเดลหลังฝึก
ใช้โมเดลเล็กที่ฝึกแล้วแทนโมเดลใหญ่เพื่อลดต้นทุนและรันในองค์กรได้
Workshop: ประเมินโจทย์ขององค์กรตัวเองด้วย Decision Checklist

Section 2: LLM ถูกฝึกอย่างไร และหลักการ LoRA กับ QLoRA

Pre-training, Supervised Fine-tuning และ Preference Tuning ต่างกันอย่างไร
Full Fine-tuning เทียบกับ Parameter-Efficient Fine-tuning
LoRA ทำงานอย่างไร และความหมายของ Rank, Alpha และ Target Modules
QLoRA: โหลดโมเดลแบบ 4-bit เพื่อฝึกบน GPU ที่หน่วยความจำจำกัด
ประมาณหน่วยความจำ GPU ที่ต้องใช้ตามขนาดโมเดลและวิธีฝึก

Section 3: Lab: เตรียมสภาพแวดล้อม Fine-tuning

เลือกระหว่าง Google Colab, Cloud GPU ที่เช่าเอง หรือ GPU บนเครื่อง
ติดตั้ง Unsloth, Transformers, PEFT, TRL และ bitsandbytes ให้เวอร์ชันเข้ากัน
ใช้ Hugging Face Hub: Token, การดาวน์โหลดโมเดล และ Repository แบบ Private
ภาพรวม Unsloth Studio ที่ใช้งานแบบไม่ต้องเขียนโค้ด
Lab: รัน Inference โมเดลตั้งต้นและบันทึกผลไว้เป็น Baseline

Section 4: ออกแบบชุดข้อมูลฝึก

รูปแบบข้อมูลแบบ Instruction และแบบ Conversation พร้อม Chat Template ของแต่ละโมเดล
คุณภาพสำคัญกว่าปริมาณ: ความหลากหลาย ความสม่ำเสมอ และตัวอย่างขอบเขตงาน
สร้างข้อมูลสังเคราะห์ด้วย LLM แล้วให้คนตรวจทาน
ข้อควรระวังกับข้อมูลภาษาไทย ทั้งการตัดคำ จำนวน Token และความสม่ำเสมอของภาษา
PDPA และการลบข้อมูลส่วนบุคคลก่อนนำข้อมูลองค์กรไปฝึก

Section 5: Lab: เตรียมข้อมูลให้พร้อมฝึก

ทำความสะอาด ลบข้อมูลซ้ำ และกรองตัวอย่างคุณภาพต่ำ
แบ่งชุด Train, Validation และ Test โดยไม่ให้ข้อมูลรั่วข้ามชุด
แปลงข้อมูลเป็น Chat Template และตรวจความยาว Token ของแต่ละตัวอย่าง
บันทึกเป็น Dataset บน Hugging Face Hub แบบ Private
Lab: เตรียมชุดข้อมูลภาษาไทยสำหรับงานจัดหมวดและตอบคำถามของธุรกิจตัวอย่าง

Day 2 ฝึกโมเดลและวัดผล

Section 6: Lab: QLoRA ตัวแรกด้วย Unsloth

โหลดโมเดลแบบ 4-bit และเพิ่ม LoRA Adapter
ตั้งค่า SFTTrainer และฝึกเฉพาะส่วนคำตอบ (Train on Completions)
ติดตาม Loss และการใช้ GPU ระหว่างฝึก
ทดสอบโมเดลหลังฝึกและเทียบกับ Baseline
บันทึกเฉพาะ Adapter และโหลดกลับมาใช้งาน

Section 7: Hyperparameter และการอ่าน Loss Curve

Learning Rate, Epoch, Batch Size และ Gradient Accumulation
เลือก Rank และ Target Modules ให้สมดุลระหว่างคุณภาพกับหน่วยความจำ
อ่าน Training Loss กับ Validation Loss เพื่อจับ Overfitting
Checkpoint, Early Stopping และการบันทึกการทดลองด้วย TensorBoard หรือ W&B
Lab: ฝึกซ้ำด้วยค่าต่างกันแล้วเทียบผลอย่างเป็นระบบ

Section 8: Lab: Fine-tune โมเดลภาษาไทย

ภาพรวมโมเดลที่รองรับภาษาไทย เช่น Typhoon, OpenThaiGPT และ Qwen
ประสิทธิภาพของ Tokenizer กับภาษาไทย และผลต่อความยาวข้อมูลและต้นทุน
ตรวจ License ของโมเดลภาษาไทยก่อนเลือกเป็นโมเดลตั้งต้น
Lab: Fine-tune โมเดลภาษาไทยให้ตอบตามรูปแบบและน้ำเสียงขององค์กร
เทียบผลกับการเขียน Prompt อย่างเดียวบนโมเดลเดียวกัน

Section 9: Lab: Hugging Face TRL และ PEFT โดยตรง

เขียน Training Script ด้วย TRL และ PEFT โดยไม่พึ่ง Unsloth
เทียบความเร็วและหน่วยความจำกับการฝึกด้วย Unsloth
ใช้ Accelerate สำหรับการฝึกบนหลาย GPU เบื้องต้น
จัดโครงสร้างโปรเจกต์ให้ทำซ้ำได้: Config, Seed และ Version ของข้อมูล

Section 10: Lab: วัดผลโมเดลที่ฝึกแล้ว

สร้างชุดทดสอบจากงานจริงที่ไม่เคยอยู่ในข้อมูลฝึก
ตัวชี้วัดตามชนิดงาน เช่น Accuracy, F1 และ Exact Match สำหรับการจัดหมวดและดึงข้อมูล
ใช้ LLM-as-a-Judge ร่วมกับการตรวจโดยคนสำหรับงานที่ตอบเป็นข้อความ
ตรวจว่าโมเดลยังทำงานทั่วไปได้ ไม่ลืมความสามารถเดิม (Catastrophic Forgetting)
Lab: ทำรายงานเทียบโมเดลตั้งต้น Prompt อย่างเดียว และโมเดลที่ Fine-tune

Day 3 Preference Tuning, Deploy และ Capstone

Section 11: Lab: Preference Tuning ด้วย DPO

ทำไมต้องปรับตามความชอบ เมื่อ SFT อย่างเดียวยังไม่พอ
หลักการ DPO และรูปแบบข้อมูลคู่คำตอบที่ดีกว่าและแย่กว่า
ภาพรวม Reinforcement Learning แบบ GRPO สำหรับงานที่ตรวจคำตอบได้
Lab: ปรับโมเดลด้วย DPO ให้ตอบสุภาพและกระชับตามแนวทางองค์กร

Section 12: Lab: Merge และ Export โมเดล

เก็บแบบ Adapter แยก หรือ Merge เข้ากับโมเดลตั้งต้น เลือกอย่างไร
Merge Adapter และบันทึกเป็นโมเดลเต็มบน Hugging Face Hub แบบ Private
แปลงเป็น GGUF และเลือกระดับ Quantization
ตรวจคุณภาพหลัง Quantize ด้วยชุดทดสอบเดิม
เขียน Model Card บอกข้อมูลฝึก ข้อจำกัด และวิธีใช้งาน

Section 13: Lab: นำโมเดลขึ้นใช้งาน

สร้าง Modelfile และรันโมเดลที่ฝึกเองบน Ollama
ให้บริการบน vLLM และโหลด LoRA Adapter หลายตัวบนโมเดลตั้งต้นเดียว
เรียกใช้ผ่าน OpenAI-compatible API จากแอปเดิม
Lab: เชื่อมโมเดลที่ฝึกเองเข้ากับสคริปต์งานจริงของธุรกิจตัวอย่าง

Section 14: License, ความปลอดภัย และการดูแลโมเดล

License ของโมเดลตั้งต้นและข้อมูล กับสิทธิ์การใช้เชิงพาณิชย์
ทดสอบความปลอดภัยของโมเดลหลังฝึก เช่น การตอบเรื่องที่ไม่ควรตอบ และข้อมูลรั่ว
ระบบ Version ของข้อมูล Adapter และโมเดล เพื่อย้อนกลับได้
วางรอบการฝึกใหม่เมื่อข้อมูลหรือโมเดลตั้งต้นเปลี่ยน
ประเมินต้นทุนการฝึกและการให้บริการเทียบกับการใช้ API

Section 15: Capstone: Fine-tune โมเดลสำหรับงานของตัวเอง

เลือกโจทย์จากงานขององค์กรตัวเองหรือโจทย์ตัวอย่างที่เตรียมไว้
เตรียมข้อมูล ฝึก และปรับจูนอย่างน้อยสองรอบ
วัดผลเทียบกับ Baseline และสรุปว่าคุ้มค่าหรือไม่
Export และรันบน Ollama หรือ vLLM แล้วนำเสนอผลพร้อมรีวิวร่วมกัน

รอบอบรมและรูปแบบการอบรม

สำหรับบุคคล — รอบอบรมทั่วไป

ขณะนี้ยังไม่มีรอบอบรมเปิดรับสมัคร ลงชื่อจองไว้ได้เลย ทีมงานจะติดต่อกลับเป็นกลุ่มแรกเมื่อเปิดรอบถัดไป หรือสอบถามทางไลน์ หรือโทร 02-570-8449 หรือ 088-807-9770

ลงชื่อจองไว้ สอบถามรอบอบรม

สำหรับองค์กร — In-house / Private Training

ปรับเนื้อหาให้ตรงกับเครื่องมือและงานจริงของทีม
เลือกวันเอง อบรมที่บริษัทหรือออนไลน์สด
ออกใบเสนอราคาในนามนิติบุคคลให้ฝ่ายจัดซื้อ

ขอใบเสนอราคาอบรมองค์กร

วิทยากรผู้สอน

สามิตร โกยมCEO ที่สถาบันไอทีจีเนียส

คำถามที่พบบ่อย

หลักสูตร LLM Fine-Tuning with LoRA เหมาะกับใคร ต้องมีพื้นฐานอะไรมาก่อน

เหมาะกับ AI Engineer และ ML Engineer ที่ต้องปรับแต่งโมเดลภาษาให้เหมาะกับงานขององค์กร · นักพัฒนา Python ที่ใช้ LLM API อยู่แล้วและอยากก้าวไปสู่การปรับแต่งโมเดลเอง · Data Scientist ที่ต้องการทักษะ Fine-tuning LLM บนข้อมูลภาษาไทย พื้นฐานที่ผู้เรียนควรมี เขียน Python ได้คล่อง และเคยใช้ Jupyter Notebook หรือ Google Colab · เคยเรียก LLM ผ่าน API และเข้าใจ Prompt, Token และ Context Window หากไม่แน่ใจว่าพื้นฐานพอหรือไม่ ปรึกษาทีมงานได้ฟรีทาง LINE @itgenius หรือโทร 02-570-8449

หลักสูตร LLM Fine-Tuning with LoRA ราคาเท่าไร ใช้เวลาเรียนกี่ชั่วโมง

ราคาปกติ 11,900 บาท (โปรโมชันปัจจุบันเหลือ 10,710 บาท) ใช้เวลาอบรม 18 ชั่วโมง ราคานี้ยังไม่รวม VAT 7% (กรณีชำระในนามนิติบุคคล) ชำระค่าอบรมด้วยการโอนเข้าบัญชีบริษัท แล้วแจ้งชำระเงินผ่านหน้าแจ้งชำระเงินของเว็บไซต์ และขอใบเสร็จรับเงินหรือใบกำกับภาษีในนามบริษัทได้

เรียนจบได้รับ Certificate หรือไม่

ได้รับ ผู้ผ่านการอบรมทุกท่านจะได้รับใบประกาศนียบัตร (Certificate of Completion) จากสถาบันไอทีจีเนียส ใบประกาศแต่ละใบมีเลขที่ของตัวเอง ใครก็ตามที่มีเลขที่ใบประกาศตรวจสอบความถูกต้องออนไลน์ได้ที่หน้าตรวจสอบใบประกาศของสถาบัน จึงใช้แนบแฟ้มผลงานหรือส่งให้ฝ่ายบุคคลประกอบการพัฒนาบุคลากรได้

อบรมที่ไหน มีเรียนแบบออนไลน์หรือไม่

เรียนได้ทั้งแบบออนไซต์ที่สถาบันไอทีจีเนียส และนัดเรียนผ่านออนไลน์ และรับจัดอบรมเฉพาะทีม (In-house Training) ให้องค์กร สอบถามรอบและสถานที่ได้ที่ LINE @itgenius หรือโทร 02-570-8449

ถ้าเรียนไม่ทันหรือขาดเรียน มีเรียนซ้ำ/เรียนชดเชยหรือไม่

มี ผู้เรียนสามารถแจ้งขอเรียนซ้ำ (repeat) ในรอบถัดไปของหลักสูตรเดียวกันได้ฟรีตามเงื่อนไขของสถาบัน แจ้งชื่อหลักสูตรและรอบที่เคยเรียนกับทีมงาน แล้วทีมงานจะตรวจสอบและแจ้งรอบที่ยังมีที่นั่งว่างให้เลือก สอบถามได้ที่ LINE @itgenius หรือโทร 02-570-8449

สมัครเรียนหรือขอใบเสนอราคาในนามบริษัทได้อย่างไร

สมัครออนไลน์ได้จากแบบฟอร์มลงทะเบียนบนหน้านี้ ลงทะเบียนผู้เข้าอบรมหลายคนได้ในครั้งเดียว และกรอกเลขประจำตัวผู้เสียภาษีกับที่อยู่สำหรับออกใบกำกับภาษีได้ในฟอร์ม หรือขอใบเสนอราคา (Quotation) ในนามนิติบุคคลได้ทันทีจากปุ่มขอใบเสนอราคา สอบถามเพิ่มเติมโทร 02-570-8449 หรือ LINE @itgenius