Who is Local LLM Deployment with Ollama and vLLM for, and what background is needed?

Built for IT infrastructure teams and system engineers asked to set up an LLM for internal use · DevOps and platform engineers who run AI services on the organisation's servers or cloud · Developers who need an LLM API for internal apps that keeps data inside the organisation Background you should have: Basic Linux command-line and Docker skills · Basic Python and experience calling REST APIs Not sure the fit is right? Talk to our team on LINE @itgenius or call 02-570-8449.

How much does Local LLM Deployment with Ollama and vLLM cost and how long does it run?

THB 7,900 (currently THB 7,110 on promotion). The course runs 12 hours. The price excludes 7% VAT (for payment in a company's name). Pay by bank transfer to the company account, confirm it on our payment page, and we can issue the receipt or tax invoice in your company's name.

Do I get a certificate?

Yes. Everyone who completes the course receives a Certificate of Completion from IT Genius Institute. Each certificate carries its own number, and anyone holding that number can verify it online on our certificate page, so you can add it to your portfolio or pass it to HR as evidence of training.

Where does the training take place, and is there an online option?

You can attend onsite at IT Genius Institute or arrange to join online, and we also run it as a private in-house session for your team. Ask about dates and venues on LINE @itgenius or call 02-570-8449.

What if I fall behind or miss a session — can I retake it?

Yes. You may retake the same course free of charge in a later round, under the institute's conditions. Tell our team which course and round you attended, and we will check it and offer you the rounds that still have seats. Ask us on LINE @itgenius or call 02-570-8449.

How do I enrol, or request a quotation for my company?

Enrol online with the registration form on this page. You can register several attendees at once and enter your tax ID and billing address for the tax invoice. Or request a company quotation straight from the quote button. For anything else call 02-570-8449 or reach us on LINE @itgenius.

AI · AIC-85

Local LLM Deployment with Ollama and vLLM

หลักสูตร Local LLM Deployment with Ollama and vLLM เป็นการอบรมการรัน LLM บนเซิร์ฟเวอร์ขององค์กรเอง ตั้งแต่เลือกโมเดล Quantization คำนวณ GPU ใช้ Ollama และ vLLM จนถึงเปิดหน้าแชตด้วย Open WebUI เหมาะกับทีม IT, DevOps และนักพัฒนาที่ข้อมูลห้ามออกนอกองค์กร จบแล้วได้ระบบ LLM ภายในองค์กรต้นแบบ

ອັບເດດລ່າສຸດ 1 ຕ.ລ. 2026

ລາຄາເລີ່ມຕົ້ນ 7,110 ບາດ / ທ່ານ 7,900 −10% ຍັງບໍ່ລວມ VAT 7% · ມີລາຄາໝູ່ຄະນະ

ຂໍໃບສະເໜີລາຄາຝຶກອົບຮົມອົງກອນ ລົງຊື່ຈອງໄວ້

PDFດາວໂຫຼດ Course Outline

ໄລຍະເວລາ12 ຊົ່ວໂມງ · 2 ມື້
ຮູບແບບຢູ່ສະຖາບັນ / ອອນລາຍສົດ
ຮອບຕໍ່ໄປເປີດຕາມຄຳຂໍ
ໃບຢັ້ງຢືນມີໃບຢັ້ງຢືນ

ພາບລວມຫຼັກສູດ

หลายองค์กรอยากใช้ LLM กับเอกสารภายใน ข้อมูลลูกค้า หรือซอร์สโค้ด แต่ติดเงื่อนไขว่าข้อมูลห้ามส่งออกไปยังผู้ให้บริการภายนอก ทางออกคือรันโมเดล Open-weight บนเครื่องหรือเซิร์ฟเวอร์ขององค์กรเอง แต่พอลงมือจริงทีม IT ต้องตอบคำถามที่ไม่ง่ายเลย ว่าควรเลือกโมเดลไหน ต้องใช้ GPU กี่ GB จะ Quantize แค่ไหนโดยคุณภาพยังรับได้ ควรใช้ Ollama หรือ vLLM และจะเปิดให้ทั้งองค์กรใช้อย่างปลอดภัยได้อย่างไร

หลักสูตรนี้พาผู้เรียนตั้งระบบ LLM ภายในองค์กรตั้งแต่ต้นจนใช้งานได้จริง เริ่มจากเลือกโมเดลและอ่านเงื่อนไข License เข้าใจ Quantization และรูปแบบ GGUF คำนวณ VRAM, RAM และ Context Length ที่ต้องใช้ จากนั้นใช้ Ollama อย่างลึกทั้ง Modelfile, การตั้งค่าการทำงานพร้อมกัน และ OpenAI-compatible API ที่รองรับ Structured Output และ Tool Calling ก่อนขยับไปรัน vLLM บน GPU เพื่อรองรับผู้ใช้จำนวนมาก ปรับจูนหน่วยความจำ วัดผลด้วย Benchmark ต่อหน้าแชตด้วย Open WebUI และวางระบบความปลอดภัยกับ Monitoring แล้วปิดท้ายด้วย Capstone ออกแบบและติดตั้งระบบ LLM ภายในองค์กรของตนเอง (อบรม 2 วัน วันละ 6 ชั่วโมง รวม 12 ชั่วโมง ระดับ Intermediate)

ສິ່ງທີ່ທ່ານຈະໄດ້ຮັບ

เลือกโมเดล Open-weight ให้เหมาะกับงาน ภาษาไทย ฮาร์ดแวร์ และเงื่อนไข License ได้
เข้าใจ Quantization และเลือกระดับความละเอียดของโมเดลโดยชั่งคุณภาพกับทรัพยากรได้
คำนวณ VRAM และ RAM ที่ต้องใช้จากขนาดโมเดล Context Length และจำนวนผู้ใช้พร้อมกันได้
ติดตั้งและปรับแต่ง Ollama ด้วย Modelfile และตัวแปรสภาพแวดล้อมสำหรับงานจริงได้
เรียกโมเดลผ่าน OpenAI-compatible API พร้อม Structured Output, Tool Calling และ Embedding ได้
รันและปรับจูน vLLM บน GPU เพื่อรองรับคำขอพร้อมกันจำนวนมากได้
วางระบบ LLM ภายในองค์กรที่มีหน้าแชต การยืนยันตัวตน และการ Monitoring ได้

ຫຼັກສູດນີ້ເໝາະສຳລັບ

ทีม IT Infrastructure และ System Engineer ที่ได้รับโจทย์ให้ตั้ง LLM ใช้ภายในองค์กร
DevOps และ Platform Engineer ที่ต้องดูแลบริการ AI บนเซิร์ฟเวอร์หรือ Cloud ขององค์กร
นักพัฒนาที่ต้องการ API ของ LLM ที่ข้อมูลไม่ออกนอกองค์กรสำหรับแอปภายใน
AI Engineer ที่ต้องเปรียบเทียบต้นทุนและประสิทธิภาพระหว่าง Cloud API กับการรันเอง
องค์กรที่มีข้อกำหนดเรื่องความลับของข้อมูลหรือ PDPA ทำให้ใช้ AI บน Cloud ได้จำกัด

ພື້ນຖານຂອງຜູ້ເຂົ້າຝຶກອົບຮົມ

ใช้ Linux Command Line และ Docker ขั้นพื้นฐานได้
เขียน Python เบื้องต้นและเรียก REST API ได้
เคยใช้ ChatGPT หรือ LLM ตัวอื่นและเข้าใจแนวคิด Prompt เบื้องต้น
โน้ตบุ๊ก RAM 16 GB ขึ้นไปที่ติดตั้ง Docker ได้ และบัญชี Google สำหรับ Google Colab

ຫົວຂໍ້ການຝຶກອົບຮົມ

รายละเอียดหลักสูตร

หลักสูตรนี้อบรม 2 วัน วันละ 6 ชั่วโมง รวม 12 ชั่วโมง (09:00-16:00 น.) รูปแบบบรรยายพร้อม Lab ทุกหัวข้อ ระดับ Intermediate วันแรกเน้นการเลือกโมเดล การคำนวณทรัพยากร และ Ollama ซึ่ง Lab ทำบนโน้ตบุ๊กของผู้เรียนด้วยโมเดลขนาดเล็ก วันที่สองเน้น vLLM บน GPU, Open WebUI ความปลอดภัย และ Monitoring โดยผู้เรียนใช้ Google Colab หรือ Cloud GPU

ที่เช่าเอง ค่าใช้จ่ายส่วนนี้ผู้เรียนรับผิดชอบเอง หลักสูตรเน้นงานติดตั้งและให้บริการโมเดล (Model Serving) ต่อยอดได้กับหลักสูตรสร้าง AI Chatbots On-Premise ด้วย LangChain และ LangGraph ที่เน้นการเขียนแอปแชตบอตบนโมเดลภายใน ผู้เรียนจะได้ Lab Guide ไฟล์ docker-compose ตารางคำนวณขนาด GPU และสคริปต์ Benchmark กลับไปใช้งานต่อ

Day 1 เลือกโมเดล คำนวณทรัพยากร และใช้ Ollama อย่างลึก

Section 1: ทำไมต้องรัน LLM เอง และภาพรวมเครื่องมือ

เหตุผลที่องค์กรเลือกรันโมเดลเอง: ความลับของข้อมูล PDPA ต้นทุน และการทำงานแบบออฟไลน์
ข้อจำกัดเมื่อเทียบกับโมเดลบน Cloud ทั้งคุณภาพ ภาระดูแล และค่าฮาร์ดแวร์
ภาพรวม Inference Engine: Ollama, llama.cpp, vLLM และสถาปัตยกรรมอ้างอิงของระบบ LLM ภายในองค์กร
Lab: ติดตั้ง Ollama ดึงโมเดลแรกและคุยผ่าน Command Line

Section 2: เลือกโมเดล Open-weight ให้เหมาะกับงาน

ตระกูลโมเดลที่ใช้บ่อย เช่น Qwen, Llama, Gemma และโมเดลภาษาไทยอย่าง Typhoon
Base, Instruct และ Reasoning Model ต่างกันอย่างไร และเลือกใช้เมื่อไร
อ่าน Model Card และเงื่อนไข License ก่อนนำไปใช้เชิงพาณิชย์
ทดสอบความสามารถภาษาไทยด้วยชุดคำถามจากงานจริงขององค์กร
Lab: เทียบคำตอบภาษาไทยของโมเดล 3 ตัวจากโจทย์เดียวกัน

Section 3: Lab: Quantization และรูปแบบ GGUF

Quantization คืออะไร และทำไมโมเดลใหญ่จึงรันบนเครื่องเล็กได้
ระดับที่ใช้บ่อยใน GGUF เช่น Q4_K_M, Q5_K_M และ Q8_0
รูปแบบสำหรับ GPU อย่าง AWQ, GPTQ และ FP8 ที่ใช้กับ vLLM
ผลของ Quantization ต่อคุณภาพคำตอบ ความเร็ว และหน่วยความจำ
Lab: รันโมเดลเดียวกันสองระดับความละเอียดแล้วเทียบผลลัพธ์

Section 4: Workshop: คำนวณ GPU และหน่วยความจำ

สูตรประมาณหน่วยความจำของน้ำหนักโมเดลจากจำนวนพารามิเตอร์และ Precision
KV Cache คืออะไร และโตขึ้นอย่างไรตาม Context Length และผู้ใช้พร้อมกัน
รันบน CPU, GPU ตัวเดียว หลายตัว หรือ Apple Silicon ต่างกันอย่างไร
เลือก GPU และ Cloud Instance ให้คุ้มกับปริมาณงาน
Workshop: ทำตารางคำนวณขนาดเครื่องสำหรับโจทย์ขององค์กรตัวเอง

Section 5: Lab: Ollama และ API มาตรฐาน

สร้างโมเดลขององค์กรด้วย Modelfile: System Prompt, Template และ Parameter
นำเข้าไฟล์ GGUF จาก Hugging Face และตั้งค่า Context Length, Keep Alive และคำขอพร้อมกัน
รัน Ollama ใน Docker พร้อม GPU และเปิดให้เครื่องอื่นในเครือข่ายเรียกใช้
เรียกผ่าน OpenAI-compatible API โดยแก้แค่ Base URL ของโค้ดเดิม
Structured Output, Tool Calling และ Embedding กับโมเดลภายใน
Lab: สคริปต์ Python ดึงข้อมูลจากเอกสารโดยไม่ส่งข้อมูลออกนอกเครื่อง

Day 2 vLLM และการให้บริการ LLM ทั้งองค์กร

Section 6: Lab: vLLM บน GPU และการปรับจูน

ทำไม vLLM รับผู้ใช้พร้อมกันได้มาก: PagedAttention และ Continuous Batching
ติดตั้งบน Google Colab หรือ Cloud GPU และรันด้วย Docker Image ทางการ
เปิด OpenAI-compatible Server ด้วย vllm serve พร้อม API Key, Tool Calling และ Structured Output
ตั้งค่า Max Model Length และ GPU Memory Utilization ให้สมดุล
ใช้โมเดล AWQ, GPTQ หรือ FP8 และเปิด Prefix Caching เพื่อคุ้ม GPU
Tensor Parallel สำหรับหลาย GPU และให้บริการ LoRA Adapter หลายตัวบนโมเดลฐานเดียว

Section 7: Lab: Benchmark และเลือก Ollama หรือ vLLM

ตัวชี้วัดที่ต้องดู: Time to First Token, Tokens per Second และ Throughput รวม
ทดสอบโหลดด้วยเครื่องมือ Benchmark ของ vLLM และสคริปต์ยิงคำขอพร้อมกัน
อ่านผลเมื่อจำนวนผู้ใช้เพิ่มขึ้น และหาจุดที่ระบบเริ่มช้า
เกณฑ์เลือกระหว่าง Ollama กับ vLLM ตามขนาดทีมและฮาร์ดแวร์
Lab: วัดผลโมเดลเดียวกันบนทั้งสองระบบแล้วสรุปเป็นข้อเสนอ

Section 8: Lab: หน้าแชตองค์กรด้วย Open WebUI

ติดตั้ง Open WebUI ด้วย Docker Compose และเชื่อมกับ Ollama และ vLLM
จัดการผู้ใช้ บทบาท และสิทธิ์การเข้าถึงแต่ละโมเดล
อัปโหลดเอกสารเพื่อถามตอบเบื้องต้นด้วยโมเดลภายใน
ตั้ง System Prompt และโมเดลสำเร็จรูปสำหรับแต่ละแผนก
เงื่อนไข License ของ Open WebUI ที่ต้องรู้ก่อนใช้งานในองค์กร

Section 9: ความปลอดภัยและการดูแลระบบ

ปิดพอร์ตที่ไม่จำเป็นและวาง Reverse Proxy พร้อม TLS และ API Key
แยกเครือข่าย จำกัดผู้เรียกใช้ และเก็บ Log ตามนโยบายข้อมูลขององค์กร
Monitoring ด้วย Metrics ของ vLLM ร่วมกับ Prometheus และ Grafana
อัปเดตโมเดลและ Inference Engine อย่างปลอดภัยโดยไม่กระทบผู้ใช้
Lab: ตั้ง Dashboard ดูการใช้ GPU และเวลาตอบของระบบ

Section 10: Capstone: ระบบ LLM ภายในองค์กร

รับโจทย์จากสถานการณ์ขององค์กรตัวอย่าง พร้อมข้อจำกัดด้านข้อมูลและงบประมาณ
เลือกโมเดล ระดับ Quantization และ Inference Engine พร้อมเหตุผล
ประกอบระบบด้วย Docker Compose: Inference, Open WebUI และ Reverse Proxy
ทดสอบการใช้งานและโหลด แล้วนำเสนอแผนขยายระบบ
สรุป Checklist ก่อนเปิดให้ผู้ใช้ทั้งองค์กร

ຮອບຝຶກອົບຮົມ ແລະ ຮູບແບບການຝຶກອົບຮົມ

ສຳລັບບຸກຄົນ — ຮອບຝຶກອົບຮົມທົ່ວໄປ

ຂະນະນີ້ຍັງບໍ່ມີຮອບຝຶກອົບຮົມເປີດຮັບສະໝັກ ລົງຊື່ຈອງໄວ້ໄດ້ເລີຍ ທີມງານຈະຕິດຕໍ່ກັບເປັນກຸ່ມທຳອິດເມື່ອເປີດຮອບຕໍ່ໄປ ຫຼື ສອບຖາມທາງ LINE ຫຼື ໂທ 02-570-8449 ຫຼື 088-807-9770

ລົງຊື່ຈອງໄວ້ ສອບຖາມຮອບຝຶກອົບຮົມ

ສຳລັບອົງກອນ — In-house / Private Training

ປັບເນື້ອໃນໃຫ້ກົງກັບເຄື່ອງມື ແລະ ວຽກຈິງຂອງທີມ
ເລືອກວັນເອງ ຝຶກອົບຮົມທີ່ບໍລິສັດ ຫຼື ອອນລາຍສົດ
ອອກໃບສະເໜີລາຄາໃນນາມນິຕິບຸກຄົນໃຫ້ຝ່າຍຈັດຊື້

ຂໍໃບສະເໜີລາຄາຝຶກອົບຮົມອົງກອນ

ວິທະຍາກອນຜູ້ສອນ

สามิตร โกยมCEO ที่สถาบันไอทีจีเนียส

ຄຳຖາມທີ່ພົບເລື້ອຍ

หลักสูตร Local LLM Deployment with Ollama and vLLM เหมาะกับใคร ต้องมีพื้นฐานอะไรมาก่อน

เหมาะกับ ทีม IT Infrastructure และ System Engineer ที่ได้รับโจทย์ให้ตั้ง LLM ใช้ภายในองค์กร · DevOps และ Platform Engineer ที่ต้องดูแลบริการ AI บนเซิร์ฟเวอร์หรือ Cloud ขององค์กร · นักพัฒนาที่ต้องการ API ของ LLM ที่ข้อมูลไม่ออกนอกองค์กรสำหรับแอปภายใน พื้นฐานที่ผู้เรียนควรมี ใช้ Linux Command Line และ Docker ขั้นพื้นฐานได้ · เขียน Python เบื้องต้นและเรียก REST API ได้ หากไม่แน่ใจว่าพื้นฐานพอหรือไม่ ปรึกษาทีมงานได้ฟรีทาง LINE @itgenius หรือโทร 02-570-8449

หลักสูตร Local LLM Deployment with Ollama and vLLM ราคาเท่าไร ใช้เวลาเรียนกี่ชั่วโมง

ราคาปกติ 7,900 บาท (โปรโมชันปัจจุบันเหลือ 7,110 บาท) ใช้เวลาอบรม 12 ชั่วโมง ราคานี้ยังไม่รวม VAT 7% (กรณีชำระในนามนิติบุคคล) ชำระค่าอบรมด้วยการโอนเข้าบัญชีบริษัท แล้วแจ้งชำระเงินผ่านหน้าแจ้งชำระเงินของเว็บไซต์ และขอใบเสร็จรับเงินหรือใบกำกับภาษีในนามบริษัทได้

เรียนจบได้รับ Certificate หรือไม่

ได้รับ ผู้ผ่านการอบรมทุกท่านจะได้รับใบประกาศนียบัตร (Certificate of Completion) จากสถาบันไอทีจีเนียส ใบประกาศแต่ละใบมีเลขที่ของตัวเอง ใครก็ตามที่มีเลขที่ใบประกาศตรวจสอบความถูกต้องออนไลน์ได้ที่หน้าตรวจสอบใบประกาศของสถาบัน จึงใช้แนบแฟ้มผลงานหรือส่งให้ฝ่ายบุคคลประกอบการพัฒนาบุคลากรได้

อบรมที่ไหน มีเรียนแบบออนไลน์หรือไม่

เรียนได้ทั้งแบบออนไซต์ที่สถาบันไอทีจีเนียส และนัดเรียนผ่านออนไลน์ และรับจัดอบรมเฉพาะทีม (In-house Training) ให้องค์กร สอบถามรอบและสถานที่ได้ที่ LINE @itgenius หรือโทร 02-570-8449

ถ้าเรียนไม่ทันหรือขาดเรียน มีเรียนซ้ำ/เรียนชดเชยหรือไม่

มี ผู้เรียนสามารถแจ้งขอเรียนซ้ำ (repeat) ในรอบถัดไปของหลักสูตรเดียวกันได้ฟรีตามเงื่อนไขของสถาบัน แจ้งชื่อหลักสูตรและรอบที่เคยเรียนกับทีมงาน แล้วทีมงานจะตรวจสอบและแจ้งรอบที่ยังมีที่นั่งว่างให้เลือก สอบถามได้ที่ LINE @itgenius หรือโทร 02-570-8449

สมัครเรียนหรือขอใบเสนอราคาในนามบริษัทได้อย่างไร

สมัครออนไลน์ได้จากแบบฟอร์มลงทะเบียนบนหน้านี้ ลงทะเบียนผู้เข้าอบรมหลายคนได้ในครั้งเดียว และกรอกเลขประจำตัวผู้เสียภาษีกับที่อยู่สำหรับออกใบกำกับภาษีได้ในฟอร์ม หรือขอใบเสนอราคา (Quotation) ในนามนิติบุคคลได้ทันทีจากปุ่มขอใบเสนอราคา สอบถามเพิ่มเติมโทร 02-570-8449 หรือ LINE @itgenius