DEV Community

Nokka
Nokka

Posted on AI-assisted

Tencent Hy4 770B โอเพนซอร์ส Apache 2.0 กับ IQuest-Q1 เปิดใช้แค่ 15B

Tencent Hy4 770B โอเพนซอร์ส Apache 2.0 กับ IQuest-Q1 เปิดใช้แค่ 15B

โดย Nokka (นก-กา) | 30 กันยายน 2026

บทความนี้เขียนโดย AI (โมเดล deepseek-v4.1-flash ของผู้ให้บริการ ollama-cloud) ผ่าน Hermes Agent จาก Nous Research ตรวจสอบและเรียบเรียงโดย Nokka

TL;DR

Tencent ปล่อย Hy4 preview โมเดลขนาด 770,000 ล้านพารามิเตอร์ภายใต้สัญญาอนุญาต Apache 2.0 รองรับบริบทยาว 1 ล้านโทเคน ขณะที่ IQuest ปล่อย IQuest-Q1 สถาปัตยกรรม MoE ขนาด 320,000 ล้านพารามิเตอร์ที่เปิดใช้เพียง 15,000

ล้านตัวต่อโทเคน ทั้งสองตัวชี้ทิศทางเดียวกันคือ โมเดลจีนกำลังแข่งกันที่ประสิทธิภาพต่อพารามิเตอร์ ไม่ใช่จำนวนพารามิเตอร์ดิบ

Hy4 preview: เรือธงโอเพนซอร์สของ Tencent

Hy4 preview เปิดตัวเมื่อวันที่ 28 สิงหาคม 2026 และ Tencent ประกาศเปิดเป็นโอเพนซอร์สผ่านช่องทางทางการของบริษัทเอง[1] ภายใต้สัญญาอนุญาต Apache 2.0 ซึ่งเป็นสัญญาโอเพนซอร์สมาตรฐาน[2]

สเปก Hy4 preview

โครงสร้างเป็น MoE ทั้งหมด 770,000 ล้านพารามิเตอร์ เปิดใช้ 49,000 ล้านตัวต่อโทเคน แกนหลัก 78 ชั้น โดยชั้นแรกใช้ FFN แบบหนาแน่นตามปกติ ส่วน 77 ชั้นที่เหลือใช้ MoE แต่ละชั้นมีผู้เชี่ยวชาญแบบกำหนดเส้นทาง 256

ตัวกับผู้เชี่ยวชาญร่วม 1 ตัว ทุกโทเคนจะเปิดใช้ผู้เชี่ยวชาญ 8 ตัวบนสุดพร้อมผู้เชี่ยวชาญร่วม[2]

นอกจากแกนหลักยังมีชั้น MTP ขนาด 10,000 ล้านพารามิเตอร์ที่เปิดใช้ 0.7 พันล้าน ฝังมาให้ใช้สำหรับการถอดรหัสแบบคาดการณ์ล่วงหน้า[2]

ด้านสถาปัตยกรรมความสนใจ โมเดลนี้ได้แรงบันดาลใจจาก DeepSeek และ GLM โดยใช้ Gated DeepSeek Sparse Attention ร่วมกับ IndexCache เพื่อใช้ดัชนีแบบเบาบางซ้ำข้ามชั้น และใช้ iHC

ในการขยายการไหลของข้อมูลระหว่างชั้น[2]

รองรับบริบทยาว 1 ล้านโทเคน และไฟล์น้ำหนักมีขนาดราว 1.56 เทระไบต์[2]

ผลทดสอบที่ทำแบบปิดตา

Tencent ไม่ได้อ้างว่าชนะขาด แต่บอกว่าทำการทดสอบแบบปิดตากับผู้เชี่ยวชาญภายใน 163 คน ให้คะแนนผลลัพธ์ของโมเดลบนงานวิศวกรรม 203 งาน[2]

Hy4 preview ได้ 2.99 คะแนน ขณะที่ GLM 5.3 ได้ 2.92 โดย Hy4 ชนะ 46.8% เสมอ 12.8% และแพ้ 40.4% ส่วน Kimi K3 ได้ 2.94 โดย Hy4 ชนะ 51.2% เสมอ 7.9% และแพ้ 40.9%[2]

ตัวเลขนี้บอกอะไรที่สำคัญกว่าคะแนนเฉลี่ย นั่นคืออัตราการแพ้สูงถึงราว 40% ทั้งสองคู่ แปลว่าโมเดลชั้นนำของจีนในตอนนี้ไม่ได้ห่างกันจนเรียกได้ว่ามีตัวเดียวที่เหนือกว่า

จุดที่ Tencent เขียนไว้เองว่ายังมีปัญหา

ส่วนที่ผมชื่นชมที่สุดในเอกสารของ Tencent คือหัวข้อข้อจำกัดที่รู้อยู่แล้ว บริษัทระบุว่า Hy4 preview ยังมีช่องว่างทั้งในชั้นก่อนการเทรนและหลังการเทรน และปล่อยออกมาพร้อมปัญหาที่รู้อยู่ สองข้อที่ระบุตรง ๆ

คือใช้เวลาคิดกับงานซับซ้อนนานเกินความจำเป็น และมีแนวโน้มตรวจงานของตัวเองซ้ำเกินไป[2]

Tencent ยังเขียนว่า บริษัทเลือกจะปล่อยเร็วแล้วรับฟังว่าอะไรพัง มากกว่าจะรอให้สมบูรณ์ เพราะวิธีนั้นแหละที่ทำให้ Hy3 ดีขึ้นมาก และเป็นวิธีที่จะทำให้ Hy4 ถูกต้อง[2]

IQuest-Q1: โมเดลที่เปิดใช้น้อยกว่าที่มี

อีกโมเดลที่ออกมาในช่วงเดียวกันคือ IQuest-Q1 จาก IQuest สถาปัตยกรรม MoE ขนาดรวมประมาณ 320,000 ล้านพารามิเตอร์ แต่เปิดใช้เพียงประมาณ 15,000 ล้านตัวต่อโทเคน[3]

โครงสร้างคือ 88 ชั้น มิติซ่อน 3,072 จำนวนผู้เชี่ยวชาญ 256 ตัวและเปิดใช้ 8 ตัว รองรับบริบทยาว 524,288 โทเคน และมีชั้น MTP สองชั้นแยกกันสำหรับการเทรน กับอีกหนึ่งชั้นแบบเรียกซ้ำ 8

ครั้งสำหรับการอนุมาน[3]

โค้ดและสคริปต์ปรับแต่งของ Hy4 preview เปิดไว้บน GitHub ภายใต้สัญญาเดียวกัน[4] และ IQuest เองก็เปิดที่เก็บโค้ดพร้อมเอกสารการติดตั้งสำหรับ Q1 ไว้เช่นกัน[5]

IQuest-Q1 ต้องการ 8 การ์ดขึ้นไป

จุดที่ผมคิดว่าน่าจับตาคือคำแนะนำการติดตั้ง IQuest แนะนำให้ใช้ SGLang หรือ vLLM ด้วยการขนานเทนเซอร์ 8 ทาง และระบุตัวจัดการเครื่องมือกับตัวแยกการให้เหตุผลเฉพาะของโมเดล[3] นั่นหมายความว่าโมเดลนี้ต้องการโครงสร้างพื้นฐานระดับ 8

การ์ดขึ้นไป ไม่ใช่ของที่รันบนแล็ปท็อป

งานที่โมเดลนี้ถูกออกแบบมาให้ทำชัดเจนคือการเขียนโค้ดแบบเอเจนต์ การให้เหตุผล และการใช้เครื่องมือหลายขั้นตอน[3]

มิติ Tencent Hy4 preview IQuest-Q1
พารามิเตอร์รวม 770,000 ล้าน 320,000 ล้าน
เปิดใช้ต่อโทเคน 49,000 ล้าน 15,000 ล้าน
จำนวนชั้น 78 88
บริบทสูงสุด 1 ล้านโทเคน 524,288 โทเคน
จุดเน้น เรือธงอเนกประสงค์ งานวิศวกรรม โค้ดแบบเอเจนต์และใช้เครื่องมือหลายขั้นตอน
สัญญาอนุญาต Apache 2.0 Modified MIT (ต้องแสดงชื่อ "IQuest-Q1" บน UI เมื่อใช้เชิงพาณิชย์)

ภาพที่เห็นเมื่อวางสองโมเดลข้างกัน

บนกระดานเทรนด์ของ Hugging Face ณ 30 กันยายน 2026 โมเดลจีนยังครองหลายอันดับ และ Qwen คือชื่อที่ติดทั้งอันดับดาวน์โหลดและอันดับเทรนด์ โดย Qwen3.8-27B มียอดดาวน์โหลด 7.0 ล้านครั้ง[6]

ทั้ง Hy4 preview และ IQuest-Q1 เป็น MoE ทั้งคู่ ทั้งสองใช้ผู้เชี่ยวชาญแบบกำหนดเส้นทางจำนวนมากและเปิดใช้เพียงเศษเสี้ยวต่อโทเคน และ Hy4 ออกภายใต้ Apache 2.0 ส่วน IQuest-Q1 ออกภายใต้ Modified MIT ที่ขอให้แสดงชื่อโมเดลบน UI เมื่อใช้เชิงพาณิชย์ ทั้งคู่เปิดให้ใช้เชิงพาณิชย์ได้ แต่เงื่อนไขไม่เหมือนกัน

สิ่งที่ต่างคือเป้าหมาย Hy4 เป็นเรือธงอเนกประสงค์ที่อ้างว่านำหน้าในงานวิศวกรรม ขณะที่ IQuest-Q1 ถูกออกแบบมาแคบและลึกกว่าสำหรับงานโค้ดกับเอเจนต์ และสิ่งที่เหมือนกันคือทั้งสองมาพร้อมข้อจำกัดที่ผู้พัฒนาเขียนไว้เอง ซึ่งเป็นนิสัยที่คนใช้งานควรให้ค่ามากกว่าตัวเลข benchmark เพราะมันบอกเราว่าจะเจอปัญหาอะไรในวันที่สองของการใช้งาน

สำหรับคนที่รันโมเดลในเครื่องตัวเอง เรื่องนี้ยังมีนัยอีกชั้น น้ำหนัก 1.56 เทระไบต์ของ Hy4 ไม่ใช่ของที่รันในบ้านได้ ส่วน IQuest-Q1 ก็ต้องใช้หลายการ์ด

ทั้งสองตัวจึงบอกทิศทางว่าโมเดลโอเพนซอร์สระดับแนวหน้ากำลังแยกออกเป็นสองกลุ่มชัดเจน คือกลุ่มที่รันในเครื่องได้ กับกลุ่มที่ต้องใช้โครงสร้างพื้นฐานจริง

ถ้าคุณกำลังเลือกโมเดลโอเพนซอร์สสำหรับงานโค้ด ลองอ่านหัวข้อข้อจำกัดที่ผู้พัฒนาเขียนไว้ก่อนดูตารางคะแนน และทดสอบกับงานจริงของทีมหนึ่งสัปดาห์ก่อนตัดสินใจ เพราะความต่างของโมเดลกลุ่มนี้อยู่ที่ความน่าเชื่อถือในงานยาว ไม่ใช่คะแนนเฉลี่ย

REF

[1] Tencent, "Tencent Releases and Open-Sources Tencent Hy4 preview" (ประกาศทางการของ Tencent เรื่องการเปิดโอเพนซอร์ส Hy4 preview), 28 สิงหาคม 2026. https://www.tencent.com/tencent-releases-and-open-sources-tencent-hy4-preview/

[2] Hugging Face, "tencent/Hy4-preview" (770,000 ล้านพารามิเตอร์ เปิดใช้ 49,000 ล้านต่อโทเคน · 78 ชั้น · ผู้เชี่ยวชาญ 256 ตัว + ร่วม 1 ตัว เปิดใช้ 8 ตัว · Gated DSA + IndexCache + iHC · ชั้น MTP 10,000 ล้าน/0.7 พันล้าน · บริบท 1 ล้านโทเคน · ผลทดสอบปิดตาผู้เชี่ยวชาญ 163 คนบน 203 งาน เทียบ GLM 5.3 และ Kimi K3 · ข้อจำกัดที่ระบุเอง: คิดนานเกินและตรวจงานซ้ำเกิน), สิงหาคม 2026. https://huggingface.co/tencent/Hy4-preview

[3] Hugging Face, "IQuestLab/IQuest-Q1" (MoE 320,000 ล้านพารามิเตอร์ เปิดใช้ ~15,000 ล้านต่อโทเคน · 88 ชั้น · ผู้เชี่ยวชาญ 256/8 · บริบท 524,288 · MTP 2 ชั้นสำหรับเทรนและ 1 ชั้นเรียกซ้ำ 8 ครั้งสำหรับอนุมาน · แนะนำ SGLang หรือ vLLM ขนานเทนเซอร์ 8 ทาง · เป้าหมาย: agentic coding, reasoning, multi-step tool use), กันยายน 2026. https://huggingface.co/IQuestLab/IQuest-Q1

[4] GitHub, "Tencent-Hunyuan/Hy4-preview" (ที่เก็บโค้ด Apache 2.0 พร้อมสคริปต์ปรับแต่งและควอนไทซ์), 2026. https://github.com/Tencent-Hunyuan/Hy4-preview

[5] GitHub, "IQuestLab/IQuest-Q1" (ที่เก็บโค้ดและเอกสารการติดตั้ง), 2026. https://github.com/IQuestLab/IQuest-Q1

[6] Hugging Face API, "models?sort=trendingScore" (ข้อมูลเทรนด์โมเดลและยอดดาวน์โหลด ณ 30 กันยายน 2026), 30 กันยายน 2026. https://huggingface.co/api/models?sort=trendingScore

Top comments (0)