ก่อนซื้อ GPU หรือรัน LLM ในเครื่อง ลองคำนวณ VRAM ก่อน

คำถามที่พบบ่อยในสาย Local AI

"โมเดลนี้ต้องใช้ VRAM เท่าไหร่?"

เว็บนี้ช่วยตอบคำถามนั้นได้: https://apxml.com/tools/vram-calculator

ปัจจัยที่กระทบ VRAM

• Model Size: 7B, 13B, 34B, 70B
• Quantization: FP16, INT8, 4-bit
• Context Length: ยิ่งยาว ยิ่งใช้ VRAM มาก
• Batch Size: เพิ่ม batch ก็เพิ่ม VRAM

ตัวอย่างให้เห็นภาพ

7B Model

• 4-bit quantization: ~4-6 GB VRAM
• FP16: ~12-16 GB VRAM

→ การ์ด 8GB อาจพอสำหรับ 7B แบบ quantized

70B Model

• 4-bit quantization: ~35-45 GB VRAM
• FP16: ~140 GB+ VRAM

→ ต้องใช้ multi-GPU หรือ cloud instance ขนาดใหญ่

ทำไมเว็บนี้มีประโยชน์

• ช่วยลดการเดาผิด: ซื้อการ์ดมาแล้ว VRAM ไม่พอ
• เหมาะสำหรับผู้ใช้ Ollama, vLLM, LM Studio, text-generation-webui

ข้อควรรู้

ตัวเลขเป็นเพียง estimate อาจต่างกันตาม framework, KV cache และ flash attention

สรุป

ถ้ากำลังจะซื้อ GPU, เช่า cloud GPU หรือเลือกโมเดล ลอง VRAM Calculator ก่อนเสมอ