รัน Local LLM บน MacBook 64GB — โมเดลไหนรันได้บ้าง ด้วยเทคนิคเดียวกับ DeepSeek 284B
โดย Nokka (นก-กา) | 10 กรกฎาคม 2026
บทความนี้เป็นตอนที่ 2 ของซีรีส์ "รัน AI บน Laptop" — ตอนที่ 1: วิธีรัน DeepSeek V4 Flash (284B) บน Laptop
TL;DR — สำหรับคนที่รีบ
MacBook 64GB คือจุด sweet spot สำหรับ local AI ในปี 2026 — แรงพอรันโมเดลระดับ 70B ได้ แต่ไม่ต้องจ่ายค่า 128GB ที่แพงกว่ามาก ด้วยเทคนิคเดียวกับที่ใช้รัน DeepSeek 284B (MoE + quantization + inference engine ที่เหมาะสม) คุณรันโมเดลเหล่านี้ได้: Qwen 3.6 35B-A3B (MoE, #1 สำหรับ Mac กรกฎาคม 2026, SWE-bench 73.4%, ~44-52 tok/s), Llama 4 Scout (109B/17B MoE, Q4 ที่ ~55GB, 10M context), Gemma 4 31B (Q4_K_M 7.5 tok/s, Q8 ต้องปรับแต่ง), และ Llama 3.3 70B (Q4 ที่ 8-15 tok/s) [1][2][3]
DeepSeek V4 Flash (284B) รันบน 64GB ไม่ได้ — ต้องใช้อย่างน้อย 81GB แม้จะ quantize 2-bit แล้ว [4] แต่นั่นไม่ได้หมายความว่า 64GB "ไม่พอ" — มันแค่ต้องเลือกโมเดลให้เหมาะกับ RAM ที่มี
Highlight — 64GB คือจุดที่ "พอดี" ที่สุดในปี 2026
ถ้า 128GB คือจุดที่รัน frontier model ได้ 64GB คือจุดที่รัน "ทุกอย่างที่คุณต้องการจริงๆ" ได้ — และมีเงินเหลือในกระเป๋า
ความจริงคือ: โมเดลที่คนใช้ทำงานจริงในปี 2026 — coding, writing, research — ไม่ใช่โมเดล 284B แต่มันคือโมเดลระดับ 30-70B ที่รันเร็วพอที่จะใช้ interactive ได้ (20-60 tok/s) และมีคุณภาพดีพอที่จะแทน cloud API ได้ [1][2]
และ 64GB คือจุดที่รันโมเดลเหล่านี้ได้ที่ Q6-Q8 (คุณภาพสูง) โดยไม่ต้องลด context window — ต่างจาก 48GB ที่ต้องเลือกระหว่าง "คุณภาพ" กับ "context ยาว" และต่างจาก 32GB ที่จำกัดอยู่แค่โมเดล 7-14B
ผมใช้ MacBook M5 Pro 64GB เป็นเครื่องหลัก — และหลังจากทดสอบมาหลายเดือน ผมพบว่า Qwen 3.6 35B-A3B ที่ Q4 คือจุดที่ "ดีพอ" สำหรับงาน coding จริงจัง โดยไม่ต้องพึ่ง cloud เลย [5]
เทคนิคเดิม — แค่เปลี่ยนขนาด
3 เทคนิคที่ใช้รัน DeepSeek 284B บน 128GB ใช้ได้กับ 64GB เหมือนกัน — แค่เปลี่ยนขนาดโมเดล:
1. Mixture-of-Experts — ทำไม MoE ถึงสำคัญสำหรับ 64GB
MoE คือเหตุผลที่คุณรันโมเดล "ใหญ่" บน RAM "น้อย" ได้ — เพราะ activate แค่ส่วนน้อยของพารามิเตอร์ต่อ token [1]:
| โมเดล | Total Params | Active per Token | RAM ที่ใช้ (Q4) | ความเร็วบน M5 Max 64GB (MLX) |
|---|---|---|---|---|
| Qwen 3.6 35B-A3B | 35B | ~3B | ~20 GB | ~52 tok/s |
| Llama 4 Scout | 109B | 17B | ~55 GB | ~32 tok/s |
| gpt-oss 120B | 120B | 5.1B | ~58 GB | 15-20 tok/s |
| Gemma 4 26B-A4B | 26B | ~4B | ~16 GB | 60-78 tok/s |
เทียบกับ dense model ที่ activate ทั้งหมดทุก token — MoE ให้ "ความฉลาด" ของโมเดลใหญ่ ในราคา compute ของโมเดลเล็ก [1][2]
Qwen 3.6 35B-A3B คือตัวอย่างที่ดีที่สุดในตอนนี้: 35B parameters แต่ activate แค่ ~3B ต่อ token — เล็กลง ~91% ในแง่ compute แต่ benchmark (SWE-bench 73.4%) สูงกว่า dense 27B ที่ activate ทั้ง 27B [1][6]
2. Quantization — Q4, Q6, Q8 ต่างกันยังไงบน 64GB
นี่คือตารางที่บอกว่าแต่ละ quantization level กิน RAM เท่าไหร่ และเหมาะกับ 64GB แค่ไหน [2][7]:
| Quantization | Qwen 3.6 35B-A3B | Llama 4 Scout | Gemma 4 31B | Llama 3.3 70B | คุณภาพเทียบ FP16 |
|---|---|---|---|---|---|
| Q4_K_M | ~20 GB | ~55 GB | ~18 GB | ~37 GB | ~95-97% |
| Q6_K | ~36 GB | — (ไม่พอดี) | ~27 GB | ~52 GB | ~98-99% |
| Q8_0 | ~37 GB | — | ~31 GB | — | ~99.5% |
กฎง่ายๆ สำหรับ 64GB: Q4 สำหรับโมเดล 70-109B, Q6-Q8 สำหรับโมเดล 27-35B — และเหลือ RAM ~5-10GB สำหรับ context window และระบบ [2]
antirez (ผู้สร้าง Redis) ใช้เทคนิคเดียวกันกับ DeepSeek 284B — selective quantization — แต่สำหรับ 64GB คุณไม่จำเป็นต้องทำถึงขนาดนั้น เพราะโมเดล 35B ที่ Q6 ก็ใช้แค่ 36GB แล้ว [8]
3. Inference Engine — MLX vs llama.cpp vs LM Studio
Ollama เปลี่ยน backend จาก llama.cpp Metal เป็น MLX ตั้งแต่ v0.19 (31 มีนาคม 2026) และ stable ใน v0.30 (13 พฤษภาคม 2026) [9][10] — นี่คือการเปลี่ยนแปลงที่สำคัญที่สุดสำหรับคนรัน local LLM บน Mac ในปีนี้
ผลลัพธ์: Ollama บน Apple Silicon เร็วขึ้น ~2 เท่า — decode speed จาก ~58 tok/s เป็น ~112 tok/s, prefill speed เร็วขึ้น 1.6 เท่า [9]
| Engine | จุดเด่น | เหมาะกับ | ความเร็ว (M5 Max 64GB, Qwen 35B) |
|---|---|---|---|
| Ollama (MLX engine) | ง่ายสุด + เร็วเทียบเท่า MLX หลัง v0.30 | เริ่มต้น ใช้งานจริง | ~52 tok/s (Q4) |
| MLX (โดยตรง) | Apple-native, เร็วสุดบน Metal, prompt processing 5x | ต้องการ prompt processing เร็ว | 60-70+ tok/s (Q4) |
| LM Studio | GUI สวย, โหลดโมเดลจาก Hugging Face ได้ | มือใหม่ อยากลองเร็ว | ~50 tok/s (Q4) |
| llama.cpp | รองรับทุกรุ่น, GGUF format, community ใหญ่ | ทดลอง quantization ใหม่ๆ | ~35 tok/s (Q4) |
MLX โดยตรงยังคงเร็วที่สุดสำหรับ prompt processing [9] แต่หลัง Ollama v0.30 ช่องว่างแคบลงมาก — สำหรับผู้ใช้ทั่วไป Ollama ก็เพียงพอแล้ว
นอกจากนี้ Ollama v0.30 ยังเพิ่ม:
- Gemma 4 QAT weights — รองรับโมเดลที่เทรนด้วย quantization-aware training ของ Google [10]
- MTP speculative decoding — เร็วขึ้น >2 เท่าสำหรับ Gemma 4 บน Mac [10]
- KV-cache reuse — ข้ามขั้นตอน re-prefill สำหรับ prompt ซ้ำ [10]
- NVFP4 format — รองรับ Nvidia NVFP4 สำหรับ memory efficiency ที่ดีขึ้น [9]
โมเดลแนะนำสำหรับ 64GB — เรียงตาม Use Case
🏆 ดีที่สุดสำหรับ Coding: Qwen 3.6 35B-A3B (MoE)
Qwen 3.6 35B-A3B คือโมเดลอันดับ 1 สำหรับ Mac บน LLMCheck Index ในเดือนกรกฎาคม 2026 ด้วย LLMCheck Score 69 และ SWE-bench Verified 73.4% [6] — สูงกว่า Gemma 4 26B-A4B (52.1%) ถึง 21.3 คะแนน
ทำไมถึงดีที่สุด:
- SWE-bench Verified: 73.4% — สูงที่สุดในกลุ่มโมเดลที่รันบน 64GB ได้ [6]
- HumanEval: 92.1% — สูงกว่า Gemma 4 26B-A4B (72.0%) ถึง 20 คะแนน [6]
- ใช้ RAM ~20 GB ที่ Q4 — เหลือ RAM เยอะสำหรับ context และแอปอื่น
- ~44 tok/s บน M4 Max, ~52 tok/s บน M5 Max (MLX) [6]
- 262K context window — extendable ถึง 1M tokens ด้วย YaRN scaling [6]
- Apache 2.0 license — ใช้เชิงพาณิชย์ได้ฟรี
วิธีรัน:
# Ollama v0.30+ — ใช้ MLX engine อัตโนมัติ
ollama run qwen3.6:35b-a3b
# Q6 — คุณภาพดีสุดบน 64GB (~36 GB)
ollama run batiai/qwen3.6-35b:iq6
# MLX โดยตรง — prompt processing เร็วที่สุด
mlx_lm.server --model mlx-community/Qwen3.6-35B-A3B-4bit
นี่คือโมเดลที่ Birgitta Böckeler (Thoughtworks) เลือกใช้หลังจากทดสอบ local models สำหรับ coding มาหลายเดือน [5]
📚 ดีที่สุดสำหรับ Long Context: Llama 4 Scout (109B/17B MoE)
Llama 4 Scout มี context window 10 ล้าน tokens — ยาวที่สุดในตลาดตอนนี้ — และรันบน 64GB ได้ที่ Q4 (~55 GB) [3]
ทำไมถึงน่าสนใจ:
- 10M context — อ่านเอกสารทั้งเล่ม, codebase ทั้งโปรเจกต์, หรือ conversation history ยาวๆ ได้
- 109B total / 17B active — MoE ทำให้ compute ไม่หนักเกิน
- ~32 tok/s บน M5 Max 64GB [3]
- Q4 ใช้ ~55GB — เหลือ ~9GB สำหรับระบบ [3]
ข้อเสีย: Q4 คุณภาพต่ำกว่า Q6-Q8 — และ 55GB แทบไม่เหลือที่ให้แอปอื่น
ollama run llama4:scout-109b-q4_K_M
🎯 ดีที่สุดสำหรับ General Purpose: Gemma 4 31B
Gemma 4 31B คือโมเดล dense ที่ "พอดี" กับ 64GB — Q8 ใช้ ~31GB เหลือ RAM เยอะสำหรับ context ยาวและแอปอื่น [11]
ทำไมถึงน่าสนใจ:
- Q8 (คุณภาพสูงสุด) ใช้แค่ 31GB — เหลือ RAM ตั้ง 33GB
- Google QAT (Quantization-Aware Training) — คุณภาพ Q4 ใกล้เคียง BF16 [12]
- Q4_K_M: 7.49 tok/s บน M1 Max 64GB — เร็วกว่า Q8 ที่เกือบ freeze โดยไม่ปรับแต่ง [11]
- Q8 ต้องเพิ่ม macOS VRAM limit + ลด context window ถึงจะรันได้ [11]
- Ollama v0.30 รองรับ MTP speculative decoding — เร็วขึ้น >2 เท่าสำหรับ Gemma 4 บน Mac [10]
- ดีสำหรับงานทั่วไป: writing, summarization, research
# Q8 — คุณภาพดีสุด (~31 GB) — ใช้ MTP speculative decoding อัตโนมัติ
ollama run gemma4:31b
# MLX
mlx_lm.server --model mlx-community/gemma-4-31b-it-mlx-4bit
💪 ทางเลือก: Llama 3.3 70B (Dense)
ถ้าคุณต้องการโมเดล dense แท้ๆ (ไม่ใช่ MoE) — Llama 3.3 70B ที่ Q4 ใช้ ~37GB และรันที่ 8-15 tok/s บน M4 Max [2]
ollama run llama3.3:70b-q4_K_M
ตารางสรุป — โมเดลทั้งหมดที่รันบน 64GB ได้
| โมเดล | Type | Total Params | Active | Quant | RAM | Speed (M5 Max 64GB, MLX) | Best For |
|---|---|---|---|---|---|---|---|
| Qwen 3.6 35B-A3B | MoE | 35B | ~3B | Q4 | ~20 GB | ~52 tok/s | Coding #1 |
| Qwen 3.6 35B-A3B | MoE | 35B | ~3B | Q6 | ~36 GB | 22-30 tok/s | Coding (quality) |
| Llama 4 Scout | MoE | 109B | 17B | Q4 | ~55 GB | ~32 tok/s | Long context |
| Gemma 4 31B | Dense | 31B | 31B | Q8 | ~31 GB | ต้องปรับแต่ง [11] | General |
| Gemma 4 26B-A4B | MoE | 26B | ~4B | Q4 | ~16 GB | 60-78 tok/s | เร็วสุด |
| Llama 3.3 70B | Dense | 70B | 70B | Q4 | ~37 GB | 8-15 tok/s | General |
| gpt-oss 120B | MoE | 120B | 5.1B | Q4 | ~58 GB | 15-20 tok/s | Experimental |
| Qwen 3.6 27B | Dense | 27B | 27B | Q8 | ~29 GB | 25-35 tok/s | Coding (dense) |
สิ่งที่รันบน 64GB ไม่ได้ — และทำไม
DeepSeek V4 Flash (284B) ต้องการอย่างน้อย 81GB แม้จะใช้ 2-bit selective quantization แล้ว [4] — 64GB ไม่พอ
นอกจากนี้:
- DeepSeek V4 Pro (1.6T) — ต้องการ 350GB+ แม้ quantize แล้ว
- Llama 4 Maverick (400B) — Q4 ต้องการ ~200GB
- Claude Opus 4.6 (local) — ไม่มีให้รัน local
แต่ถามตัวเองก่อน: คุณต้องการ 284B จริงหรือ? Qwen 3.6 35B-A3B ที่ Q4 ให้ SWE-bench 73.4% — สูงกว่า DeepSeek V4 Flash ที่ Q2 ในหลาย benchmark [6] — เพราะ quantization หนักๆ ทำร้ายคุณภาพมากกว่าที่คนคิด
วิธีเลือก — Decision Tree สำหรับ 64GB
คุณมี MacBook 64GB — อยากได้อะไร?
├─ เน้น Coding?
│ ├─ Qwen 3.6 35B-A3B Q4 (~20 GB, ~52 tok/s) ← แนะนำ
│ └─ Qwen 3.6 35B-A3B Q6 (~36 GB, 22-30 tok/s) ถ้าอยากได้ quality สูงสุด
│
├─ เน้น Long Context? (อ่านเอกสารยาวๆ)
│ └─ Llama 4 Scout Q4 (~55 GB, ~32 tok/s, 10M context)
│
├─ เน้น General Purpose + เหลือ RAM?
│ └─ Gemma 4 31B Q4_K_M (~20 GB, 7.5 tok/s, >2x with MTP)
│
├─ อยากได้เร็วสุด?
│ └─ Gemma 4 26B-A4B Q4 (~16 GB, 60-78 tok/s)
│
└─ อยากได้ Dense Model?
└─ Llama 3.3 70B Q4 (~37 GB, 8-15 tok/s)
หรือ Qwen 3.6 27B Q8 (~29 GB, 25-35 tok/s)
ข้อจำกัดของ 64GB — สิ่งที่ต้องรู้ก่อนซื้อ
1. DeepSeek V4 Flash รันไม่ได้ — 81GB ขั้นต่ำ [4] ถ้าอยากได้ frontier model บน laptop ต้อง 96-128GB
2. Q6-Q8 สำหรับโมเดล 70B+ ไม่เหลือที่ให้ context — Llama 3.3 70B Q6 ใช้ ~52GB เหลือแค่ 12GB สำหรับ context และระบบ — context window จะถูกจำกัด
3. Multi-model serving แทบเป็นไปไม่ได้ — รัน 2 โมเดลพร้อมกัน (เช่น coding + embedding) ต้องใช้ RAM รวมกันเกิน 64GB
4. ความเร็วไม่เท่า cloud — 8-30 tok/s เทียบกับ 100+ tok/s บน cloud — แต่ "พอใช้" สำหรับงาน interactive
5. M5 Max 64GB ดีกว่า M1 Max 64GB มาก — memory bandwidth ต่างกัน 2-3 เท่า — ความเร็ว inference ต่างกันตาม [2] และ M5 Max มี prompt processing เร็วขึ้นสูงสุด 4 เท่าจาก M4 Max [13]
สรุป
64GB คือจุด sweet spot สำหรับ local AI ในปี 2026 — ไม่แพงเกินไป แต่แรงพอรันโมเดลที่ "ดีพอ" สำหรับงานจริง
เทคนิคเดียวกับที่ใช้รัน DeepSeek 284B — MoE, quantization, inference engine ที่เหมาะสม — ใช้ได้กับ 64GB เหมือนกัน แค่เปลี่ยนขนาดโมเดล และผลลัพธ์คือคุณรัน Qwen 3.6 35B MoE ที่ Q4 ได้ (SWE-bench 73.4%, coding quality สูงกว่า cloud API หลายตัว) หรือ Llama 4 Scout ที่มี 10M context window
Ollama v0.30+ เปลี่ยนมาใช้ MLX engine ทำให้ความเร็วบน Apple Silicon เพิ่มขึ้น ~2 เท่า — ถ้าคุณยังใช้ Ollama รุ่นเก่า อัปเกรดเลย
ถ้าคุณมี MacBook 64GB อยู่แล้ว — เริ่มจาก Qwen 3.6 35B-A3B Q4 วันนี้ (ollama run qwen3.6:35b-a3b) แล้วดูว่ามันแทน cloud API ในงานประจำวันของคุณได้แค่ไหน
ถ้ากำลังจะซื้อเครื่องใหม่ — 64GB คือขั้นต่ำที่แนะนำสำหรับ local AI จริงจัง 128GB ถ้ามีงบ แต่ 64GB ก็ "พอ" สำหรับ 90% ของ use case
บทความนี้เขียนโดย AI (DeepSeek V4 Pro) ผ่าน Hermes Agent ภายใต้การควบคุมและตรวจสอบคุณภาพโดยมนุษย์ — Nokka (นก-กา)
[1] PromptQuorum, "Best Models for Apple Silicon 2026: 16GB–128GB", promptquorum.com, June 2026. https://www.promptquorum.com/local-llms/best-models-apple-silicon-2026
[2] Compute Market, "Qwen 3.6-35B-A3B Local Hardware Guide — GPU & VRAM (2026)", compute-market.com, April 23, 2026. https://www.compute-market.com/blog/qwen-3-6-local-hardware-guide-2026
[3] LLMCheck, "Llama 4 Scout on Mac: Setup Guide, Benchmarks & Performance", llmcheck.net, March 24, 2026. https://llmcheck.net/blog/llama-4-scout-mac-setup-benchmarks/
[4] ModemGuides, "Run DeepSeek V4-Flash Locally: 2026 Hardware Reality Check", modemguides.com, June 2026. https://www.modemguides.com/blogs/ai-infrastructure/run-deepseek-v4-flash-locally-hardware-reality-check
[5] Birgitta Böckeler, "Experiences with local models for coding", martinfowler.com, July 8, 2026. https://martinfowler.com/articles/exploring-gen-ai/local-models-for-coding-experiences.html
[6] LLMCheck, "Qwen 3.6-35B-A3B on Mac: The New #1 Local LLM for Coding", llmcheck.net, June 6, 2026. https://llmcheck.net/blog/qwen-36-35b-a3b-mac-new-number-one/
[7] Will It Run AI, "Qwen 3.6 VRAM & Hardware Requirements", willitrunai.com, May 20, 2026. https://willitrunai.com/blog/qwen-3-6-vram-requirements
[8] antirez, "If you believe 2 bit quantization is not practical with DeepSeek v4 Flash, think again", X.com, April 27, 2026. https://x.com/antirez/status/2048885632869523869
[9] MacRumors, "Ollama Now Runs Faster on Macs Thanks to Apple's MLX Framework", macrumors.com, March 31, 2026. https://www.macrumors.com/2026/03/31/ollama-now-runs-faster-apple-silicon-macs/
[10] RunAIHome, "Ollama v0.30 on Apple Silicon: What the Stable MLX Release Actually Changed", runaihome.com, June 2026. https://runaihome.com/blog/ollama-v030-mlx-stable-upgrade-2026/
[11] DevelopersIO, "Tried to run Gemma 4 locally at its limit (31b q8) on M1 Max 64GB", dev.classmethod.jp, April 6, 2026. https://dev.classmethod.jp/en/articles/trying-deepmind-gemma4-31b-in-local-machine/
[12] Google, "Gemma 4 with quantization-aware training", blog.google, June 5, 2026. https://blog.google/innovation-and-ai/technology/developers-tools/quantization-aware-training-gemma-4/
[13] AI Productivity, "Apple M5 Max Local LLM: 128GB Inference Guide 2026", aiproductivity.ai, June 2026. https://aiproductivity.ai/blog/apple-m5-max-local-llm-guide/
Top comments (0)