เปิด speculative decoding ใน LM Studio ให้ local LLM เร็วขึ้น 26%

โดย Nokka (นก-กา) | 19 กันยายน 2026

บทความนี้เขียนโดย AI (โมเดล deepseek-v4.1-flash ของผู้ให้บริการ ollama-cloud) ผ่าน Hermes Agent จาก Nous Research ตรวจสอบและเรียบเรียงโดย Nokka ข้อความในเครื่องหมายคำพูดที่เป็นคำแปลเป็นคำแปลของผม ไม่ใช่สำเนาต้นฉบับ

คนที่รันโมเดลในเครื่องจะรู้ปัญหานี้ดี พอตั้งค่าเสร็จและลองใช้จริง ความเร็วมักช้าจนไม่อยากใช้ต่องานยาว ๆ [1]

⇒ ผู้เขียนบทความบน XDA เล่าว่าเขาเคยแก้ด้วยวิธีผสม GPT-5.6 Luna เป็นตัววางแผนและตรวจงาน แล้วให้ Qwen 3.5-9B รันงานในเครื่อง วิธีนั้นได้ผล แต่เขาอยากตัดคลาวด์ออกให้หมด [1]

ทางออกที่เขาเลือกคือเปิด speculative decoding ซึ่งจับคู่โมเดลร่างเล็กกับโมเดลหลัก เขาระบุว่าหลังเปิดแล้ว เขาเปลี่ยนใจชอบมันมากกว่าการเรียก API บนคลาวด์ [1]

ภาพที่ 1: ลำดับการทำงานของ speculative decoding

หลักการทำงานของ speculative decoding

แนวคิดตรงไปตรงมา คือใช้โมเดลเล็กช่วยทำนายคำล่วงหน้า แล้วให้โมเดลใหญ่ตรวจว่าเห็นด้วยหรือไม่ [1]

โมเดล draft ตัวเล็กจะทำนายโทเคนข้างหน้าหลายตัวอย่างรวดเร็ว จากนั้นโมเดล executor ตัวใหญ่จะตรวจคำทำนายทั้งหมดในรอบเดียว ตัวไหนโมเดลใหญ่เห็นด้วยก็รับไว้ ตัวไหนผิดก็ให้โมเดลใหญ่รับช่วงต่อเอง [1]

⇒ วิธีนี้เร็วกว่าการสร้างทีละโทเคนตามปกติ เพราะรับได้หลายโทเคนพร้อมกัน ลดความหน่วงและเพิ่มปริมาณงานโดยไม่เปลี่ยนคุณภาพของผลลัพธ์สุดท้าย [1][3]

เอกสารทางการอธิบายกลไกที่ทำให้คุณภาพคงเดิมไว้ชัด โมเดลหลักจะรับเฉพาะโทเคนที่ตรงกับสิ่งที่มันจะสร้างเอง และหลังโทเคนร่างตัวสุดท้ายที่ถูกยอมรับ โมเดลหลักจะสร้างโทเคนเพิ่มอีกหนึ่งตัวเสมอ [2]

ผู้เขียนอธิบายด้วยภาพง่าย ๆ ว่าเหมือนนักวิทยาศาสตร์รุ่นพี่ทำงานคู่กับผู้ช่วยรุ่นน้อง ผู้ช่วยทำงานประจำให้เร็ว ส่วนพี่ตรวจและอนุมัติสิ่งที่ถูก แล้วเข้าแทรกเมื่อมีอะไรต้องแก้ [1]

ภาพที่ 3: คู่โมเดลที่เอกสารทางการยกตัวอย่าง

ตั้งค่าอย่างไรใน LM Studio

สองขั้นที่ใช้เวลาไม่ถึงสิบนาที

ขั้นตอนนี้ใช้เวลาไม่ถึงสิบนาที เมื่อโมเดลทั้งสองตัวดาวน์โหลดเสร็จแล้ว [1]

ขั้นที่หนึ่ง · เตรียมโมเดลสองตัว ผู้เขียนใช้ Llama 3.1 8B เป็นโมเดลหลัก และ Llama 3.2 1B เป็นโมเดลร่าง [1]

⇒ เอกสารทางการของ LM Studio อธิบายข้อกำหนดนี้ชัดกว่า โมเดลร่างต้องมี vocabulary เดียวกับโมเดลหลัก จึงต้องเป็นรุ่นเดียวกันในขนาดที่ต่างกัน [2]

เอกสารยังยกตัวอย่างคู่ที่ใช้ได้จริงไว้สามคู่ Llama 3.1 8B Instruct คู่กับ Llama 3.2 1B Instruct · Qwen 2.5 14B Instruct คู่กับ Qwen 2.5 0.5B Instruct · และ DeepSeek R1 Distill Qwen 32B คู่กับ DeepSeek R1 Distill Qwen 1.5B [2]

และมีอีกข้อที่ XDA ไม่ได้ระบุ ต้องเปิดโหมด Power User ขึ้นไป จึงจะเห็นตัวเลือกนี้ในแถบด้านข้างของหน้าสนทนา [2]

มีข้อกำหนดที่ต้องระวังสองข้อ ทั้งสองโมเดลต้องอยู่ตระกูลเดียวกันและใช้ tokenizer ที่เข้ากันได้ และ โมเดลร่างต้องเล็กกว่าโมเดลหลักชัดเจน ถ้าใช้โมเดลร่างที่ใหญ่เกินไปก็เสียจุดประสงค์ทั้งหมด เพราะขั้นตอนร่างต้องเร็วและเบา [1]

ขั้นที่สอง · ตั้งค่าในแอป เปิด LM Studio ไปที่ My Models แล้วคลิก Edit Model Default Config ที่โมเดลหลัก [1]

⇒ เข้าเมนู Load → Advanced → Speculative Decoding เปลี่ยนจาก Off เป็น Draft Model แล้วเลือก Llama 3.2 1B Instruct (Q8_0) เป็นโมเดลร่าง [1]

ค่าที่เหลือผู้เขียนปล่อยตามนี้ Max draft tokens = 3 · Min draft tokens = 0 · Draft probability = 0 [1]

แล้วกด Load Model โดยทำเครื่องหมายถูกที่ Remember settings [1]

ขั้นตอนและชื่อเมนูทั้งหมดอ้างตามที่ผู้เขียนบทความบรรยาย ส่วนรายละเอียดการตั้งค่าโมเดลใน LM Studio ดูเพิ่มได้จากเอกสารทางการของแอป [2]

ภาพที่ 2: ตัวเลขที่ผู้เขียนวัดบนเครื่องของตัวเอง

ตัวเลขที่วัดได้จริง

วิธีวัดที่ทำตามได้

นี่คือส่วนที่มีค่าที่สุดของบทความต้นทาง เพราะผู้เขียนวัดเองและเปิดวิธีวัดไว้ [1]

เขาใช้คำสั่งเดียวกัน ตั้งค่าเหมือนกันทุกอย่าง แล้วเปิด-ปิด speculative decoding รันแต่ละแบบ 3 ครั้ง หลัง warm up โมเดลแล้ว [1]

การตั้งค่า	ความเร็ว
ไม่เปิด speculative decoding	23.35 โทเคนต่อวินาที
เปิด Llama 3.2 1B เป็นโมเดลร่าง	29.46 โทเคนต่อวินาที

⇒ คิดเป็น เร็วขึ้นประมาณ 26% [1]

ผู้เขียนเขียนตรง ๆ ว่าโทเคนที่เพิ่มมาหกตัวต่อวินาทีฟังดูไม่มาก แต่เมื่อรวมกับการตอบยาว ๆ และคำถามต่อเนื่อง มันสะสมจนเห็นผลชัด [1]

ผมคิดว่าตัวเลขนี้มีค่าตรงที่มันมาจากเครื่องจริงของผู้เขียนเอง ไม่ใช่การวัดบนฮาร์ดแวร์ระดับไฮเอนด์ในห้องแล็บ และวิธีวัดก็เรียบง่ายจนทำตามได้ [1]

ข้อจำกัดที่ต้องเข้าใจก่อนเปิด

แลกหน่วยความจำกับความเร็ว

speculative decoding แลกมาด้วยหน่วยความจำ โมเดลร่างกินแรมและพลังประมวลผลเพิ่ม ถ้าโมเดลหลักใช้ฮาร์ดแวร์ของคุณเต็มที่อยู่แล้ว การเปิดเพิ่มจะทำให้แย่ลง ไม่ใช่ดีขึ้น [1]

ผู้เขียนระบุว่าถ้าโมเดลทั้งสองตัวใส่ในหน่วยความจำได้สบาย ๆ ก็คุ้มที่จะลอง และแนะนำวิธีตัดสินใจง่าย ๆ คือ ทดสอบด้วยคำสั่งเดียวกันทั้งเปิดและปิด แล้วเก็บแบบไหนก็ได้ที่เร็วกว่า [1]

สำหรับคนที่ไม่ได้ใช้ LM Studio แต่รันผ่าน Ollama หรือรันไทม์อื่น แนวคิดเดียวกันนี้ใช้ได้ เพียงแต่ชื่อเมนูและวิธีเปิดจะต่างกันไปตามเครื่องมือ [4]

⇒ จุดนี้สำคัญเพราะมันบอกว่าไม่มีคำตอบสำเร็จรูปสำหรับทุกเครื่อง ต้องวัดเอง

เรื่องที่ผมอยากให้สังเกต

บทความต้นทางทำได้ดีตรงที่ ยกข้อจำกัดขึ้นมาก่อน แล้วค่อยให้ตัวเลข ต่างจากบทความแนว tutorial ทั่วไปที่มักโชว์ผลลัพธ์สวย ๆ ก่อน แล้วค่อยบอกข้อจำกัดทีหลังหรือไม่บอกเลย [1]

และเมื่อดูตัวเลขให้ดี จะเห็นว่า 26% ไม่ใช่การเปลี่ยนแปลงครั้งใหญ่ แต่เป็นการเปลี่ยนแปลงที่ปลดล็อกการใช้งานจริง เพราะปัญหาของ local LLM ไม่ได้อยู่ที่คุณภาพเท่านั้น แต่อยู่ที่ความเร็วที่ทำให้รอไม่ไหว [1]

ผมคิดว่าประเด็นของเรื่องนี้จึงไม่ใช่ "เปิดแล้วเร็วขึ้นเท่าไร" แต่คือ การวัดของตัวเอง ฮาร์ดแวร์แต่ละเครื่องต่างกันมาก และตัวเลข 26% ของผู้เขียนเป็นของ Llama 3.1 8B คู่กับ Llama 3.2 1B บนเครื่องของเขา ไม่ใช่ตัวเลขที่รับประกันได้ [1]

ภาพรวมที่กว้างกว่า

เทคโนโลยีนี้ไม่ใช่ของใหม่ มันมีมานานในงาน inference และถูกพูดถึงในบริบทของโมเดลรุ่นต่าง ๆ อยู่แล้ว

⇒ ในบทความนี้ผมไม่ขยายไปเทียบกับของเจ้าอื่น เพราะ XDA ไม่ได้ทำการเปรียบเทียบแบบนั้น ผู้อ่านที่สนใจภาพรวมควรดูข้อมูลจากคู่มือของแต่ละรันไทม์เอง

บทความต้นทางให้ บันทึกการทดลองในเครื่องเดียว ซึ่งเป็นข้อมูลที่คู่มือทางการมักไม่ให้ และเป็นข้อมูลที่มีประโยชน์ที่สุดสำหรับคนที่กำลังตัดสินใจว่าจะลองหรือไม่ [1]

---

ถ้าคุณมีโมเดลรันอยู่ในเครื่องและรู้สึกว่ามันช้า ลองทำตามลำดับนี้ ดาวน์โหลดโมเดลร่างที่อยู่ตระกูลเดียวกับโมเดลหลัก เปิด speculative decoding ใน LM Studio แล้ววัดความเร็วด้วยคำสั่งเดิมทั้งเปิดและปิด [1]

ถ้าตัวเลขขึ้นจริงก็เก็บไว้ ถ้าแย่ลงก็ปิด เพราะคำตอบที่ถูกคือคำตอบจากเครื่องของคุณ ไม่ใช่จากบทความนี้ [1]

แหล่งอ้างอิง

[1] XDA Developers — "I used speculative decoding to make my local LLM feel instant, and now I actually prefer it to cloud APIs" (Anurag Singh), 16 กันยายน 2026 — https://www.xda-developers.com/used-speculative-decoding-my-local-llm-feel-instant-prefer-cloud-apis/

[2] LM Studio — "Speculative Decoding" (เอกสารทางการ), กันยายน 2026 — https://lmstudio.ai/docs/app/advanced/speculative-decoding

[3] Hugging Face — "Generation strategies" (ส่วน Assisted Generation และ Speculative Decoding), กันยายน 2026 — https://huggingface.co/docs/transformers/main/en/generation_strategies

[4] Ollama — เอกสารทางการ (การรันโมเดลในเครื่อง), กันยายน 2026 — https://docs.ollama.com/