Sebastian Petrus

Posted on Jul 17 • Originally published at apidog.com

Kimi K3 là gì? Siêu phẩm 2.8T Open của Moonshot

Moonshot AI đã ra mắt Kimi K3 vào ngày 16 tháng 7 năm 2026 và gọi đây là “mô hình mã nguồn mở hạng 3T đầu tiên trên thế giới”. Về kỹ thuật, K3 là mô hình Mixture-of-Experts (MoE) có 2,8 nghìn tỷ tham số, cửa sổ ngữ cảnh 1 triệu token, cơ chế attention mới và mức giá nhắm đến đội ngũ phát triển phần mềm. Mô hình được triển khai ngay ngày ra mắt trên Kimi.com, Kimi Work, Kimi Code và Kimi API; Moonshot cam kết phát hành toàn bộ trọng số trước ngày 27 tháng 7 năm 2026. Bài viết này tập trung vào cách đánh giá, tích hợp và kiểm thử Kimi K3 trước khi đưa vào production.

Dùng thử Apidog ngay hôm nay

TL;DR: Kimi K3 là gì?

Kimi K3 là mô hình ngôn ngữ lớn chủ lực của Moonshot AI, phát hành ngày 16 tháng 7 năm 2026.

Các thông số chính:

Kiến trúc: Mixture-of-Experts, tổng cộng 2,8 nghìn tỷ tham số
Chuyên gia hoạt động: 16 trên 896 chuyên gia cho mỗi token
Cửa sổ ngữ cảnh: 1.048.576 token (1M)
ID model API: kimi-k3
API: tương thích OpenAI SDK
Giá input cache-hit: 0,30 USD / 1 triệu token
Giá input cache-miss: 3,00 USD / 1 triệu token
Giá output: 15,00 USD / 1 triệu token
Artificial Analysis Intelligence Index: 57 điểm, xếp thứ 4 trong 189 model
Thời điểm dự kiến mở trọng số: khoảng ngày 27 tháng 7 năm 2026

Moonshot cho biết K3 vẫn kém Claude Fable 5 và GPT-5.6 Sol. Vì vậy, hãy xem K3 là một model trọng số mở mạnh, gần nhóm “biên giới” công nghệ, thay vì model tốt nhất tuyệt đối.

Vì sao Kimi K3 đáng chú ý với developer?

Điểm đáng chú ý không chỉ là benchmark. Với đội ngũ xây dựng sản phẩm AI, K3 có ba yếu tố cần kiểm tra:

Chất lượng gần nhóm model dẫn đầu
Giá input cache-hit thấp hơn 10 lần cache-miss
Lộ trình phát hành trọng số để tự lưu trữ

Nếu Moonshot phát hành trọng số đúng cam kết, K3 có thể trở thành một lựa chọn đáng cân nhắc khi bạn cần so sánh:

Chi phí API so với chi phí cụm GPU
Quyền kiểm soát hạ tầng so với API độc quyền
Context window dài so với chi phí gửi lại prompt lặp lại
Chất lượng agentic so với độ trễ phản hồi

Về tích hợp, câu hỏi quan trọng nhất là: bạn có thể giữ nguyên client theo chuẩn OpenAI và chỉ đổi model sang kimi-k3 hay không?

Câu trả lời là có, vì Moonshot cung cấp API tương thích OpenAI SDK. Điều này giúp bạn tái sử dụng phần lớn code hiện có cho:

Chat completion
Streaming
Tool calling
Structured output
Agent framework

Bạn cũng có thể kiểm thử endpoint tương thích OpenAI bằng Apidog, bao gồm streaming SSE, request có tool và payload tool_calls, trước khi đưa model vào luồng production.

Để đi sâu theo từng chủ đề, xem thêm:

Danh tính: model mạnh nhất của Moonshot

Moonshot AI định vị K3 là “mô hình mạnh mẽ nhất của chúng tôi”, kế nhiệm dòng Kimi K2.

Nếu bạn đã dùng:

thì K3 là thế hệ tiếp theo, được xây dựng lại từ lớp attention trở lên.

Tuyên bố “mô hình mã nguồn mở hạng 3T đầu tiên trên thế giới” cần được hiểu đúng:

“Mã nguồn mở”: không có ngay tại thời điểm phát hành. Khi ra mắt, K3 chỉ truy cập được qua sản phẩm được lưu trữ và API trả phí. Moonshot cam kết phát hành toàn bộ trọng số trước ngày 27 tháng 7 năm 2026.
“Hạng 3T”: đề cập đến tổng số 2,8 nghìn tỷ tham số. Tuy nhiên, model chỉ kích hoạt một phần chuyên gia cho mỗi token, giúp giảm chi phí inference.

Nếu bạn cần tự host, không nên lập kế hoạch dựa trên giả định rằng trọng số đã có sẵn ngay ngày đầu. Hãy coi đây là một mốc phát hành được lên lịch.

Kiến trúc Kimi K3: những điểm cần biết

K3 không chỉ là K2 với số tham số lớn hơn. Moonshot nêu ra một số thay đổi kiến trúc ảnh hưởng trực tiếp đến context dài, routing MoE và hiệu quả inference.

Kimi Delta Attention (KDA)

KDA là cơ chế linear attention lai. Theo Moonshot, cơ chế này giúp kiểm soát mức tăng bộ nhớ và chi phí tính toán khi context dài hơn.

Ý nghĩa thực tế: context window 1M token trở nên khả dụng hơn cho các workload như:

Phân tích codebase lớn
Trợ lý nghiên cứu dùng tài liệu dài
Agent cần giữ trạng thái lớn
Phân tích log hoặc transcript nhiều giờ

Attention Residuals (AttnRes)

AttnRes được Moonshot mô tả là thay thế trực tiếp cho residual connection tiêu chuẩn.

Mục tiêu là cho phép model truy xuất có chọn lọc biểu diễn từ các lớp trước ở những lớp sâu hơn. Hiểu đơn giản: kiến trúc này nhằm giảm việc mất ngữ cảnh khi thông tin đi qua nhiều lớp của network.

Stable LatentMoE

Đây là lớp routing Mixture-of-Experts của K3:

896 chuyên gia tổng cộng
16 chuyên gia hoạt động trên mỗi token
Dùng Quantile Balancing để giữ routing ổn định trong quá trình huấn luyện

Sparse activation là lý do K3 có thể mang tổng số tham số rất lớn nhưng không phải kích hoạt toàn bộ model ở mỗi bước inference.

Moonshot cũng đề cập các thành phần bổ trợ:

Per-Head Muon
Sigmoid Tanh Unit (SiTU)
Gated MLA
Trọng số MXFP4
Kích hoạt MXFP8

Thông số kỹ thuật Kimi K3

Thông số	Kimi K3
Nhà phát triển	Moonshot AI
Ngày phát hành	16 tháng 7 năm 2026
Tổng tham số	2,8 nghìn tỷ (Mixture-of-Experts)
Chuyên gia hoạt động	16 trong số 896 trên mỗi token
Cửa sổ ngữ cảnh	1.048.576 token (1M)
ID model API	`kimi-k3`
OpenRouter slug	`moonshotai/kimi-k3`
Tương thích API	Tương thích OpenAI SDK
Input cache-hit	0,30 USD / 1 triệu token
Input cache-miss	3,00 USD / 1 triệu token
Output	15,00 USD / 1 triệu token
Tốc độ output	~62 token/giây
Thời gian đến token đầu tiên	~1,99 giây
Intelligence Index	57, xếp thứ 4 trong 189
Trọng số mở	Dự kiến khoảng 27 tháng 7 năm 2026

Để ước tính chi phí theo lưu lượng token của ứng dụng, xem hướng dẫn định giá Kimi K3.

Context 1M token: tối ưu chi phí bằng cache-hit

Context window 1.048.576 token cho phép bạn đưa vào một prompt:

Toàn bộ codebase
Tài liệu nghiên cứu dài
Cây thư mục lớn
Prompt hệ thống phức tạp
Transcript dài nhiều giờ

Tuy nhiên, điểm đáng chú ý hơn là chênh lệch giá input:

Loại input	Giá / 1 triệu token
Cache-hit	0,30 USD
Cache-miss	3,00 USD

Đây là chênh lệch 10 lần.

Moonshot cho biết hệ thống inference Mooncake có thể đạt cache-hit trên 90% cho tác vụ lập trình. Điều này đặc biệt có lợi nếu ứng dụng của bạn liên tục gửi lại cùng một phần context, ví dụ:

Prompt hệ thống lớn dùng chung
Metadata repository
Hướng dẫn cố định cho agent
Cây thư mục dự án
Context code được tái sử dụng qua nhiều vòng lặp agent

Cách đánh giá lợi ích cache trong workload của bạn

Trước khi chọn model, hãy đo ba chỉ số:

Tổng số input token trên mỗi request
Phần input lặp lại giữa các request
Tỷ lệ cache-hit thực tế trong workload

Nếu agent gửi lại 500.000 token repository context ở mỗi bước, chi phí sẽ khác biệt đáng kể giữa cache-hit và cache-miss.

Đánh đổi: tốc độ output

Artificial Analysis đo K3 ở khoảng:

62 token output/giây
1,99 giây đến token đầu tiên

Tốc độ output này thấp hơn mức trung bình 72,7 token/giây của phân khúc giá tương ứng. Vì vậy, K3 phù hợp hơn với workload cần suy luận sâu, context dài và agentic workflow hơn là giao diện cần phản hồi tức thời.

Nếu latency là ưu tiên hàng đầu, hãy benchmark trực tiếp với model nhanh hơn trước khi cam kết.

Định vị thực tế: mạnh, mở, nhưng không dẫn đầu tuyệt đối

Moonshot thừa nhận trong blog ra mắt Kimi K3 rằng K3 vẫn kém các model độc quyền mạnh nhất là Claude Fable 5 và GPT-5.6 Sol.

Theo Artificial Analysis, K3 đạt 57 điểm trên Intelligence Index và xếp thứ 4 trong 189 model. Chỉ số này tổng hợp chín bài đánh giá về:

Agentic tasks
Coding
Scientific reasoning
General reasoning

Cách định vị phù hợp cho K3 là:

Model trọng số mở mạnh gần nhóm frontier
Lựa chọn đáng cân nhắc cho self-hosting sau khi phát hành trọng số
Lựa chọn có chi phí input hiệu quả khi tận dụng cache
Không phải model tốt nhất tuyệt đối cho các tác vụ suy luận khó nhất

Để so sánh trực tiếp với các model đóng, xem:

Bạn có thể dùng Kimi K3 ở đâu?

Nền tảng	Bạn nhận được gì
Kimi.com	Ứng dụng chat web, K3 là model mặc định
Kimi Work	Sản phẩm không gian làm việc nhóm
Kimi Code	Agent lập trình chạy trong terminal
Kimi API	Truy cập lập trình qua model ID `kimi-k3`
Ứng dụng di động	iOS, Android và HarmonyOS
Desktop	Kimi Work phiên bản 3.1.0 trở lên
OpenRouter	Truy cập qua `moonshotai/kimi-k3`

Nếu làm việc trong terminal, bạn có thể bắt đầu với Kimi Code. Xem hướng dẫn Kimi Code CLI để tham khảo quy trình thiết lập từ thời K2.

Các tài nguyên liên quan:

Khả năng API của Kimi K3

Kimi K3 hỗ trợ các tính năng cần thiết cho ứng dụng agentic và workflow có cấu trúc:

Context caching
Tool calling
Ràng buộc lựa chọn tool
JSON mode
Structured output
Partial mode để kiểm soát completion
Internet search
Dynamic tool loading
Cấu hình reasoning effort, bao gồm mức “maximum”

Vì API tương thích OpenAI SDK, bạn có thể bắt đầu bằng cách giữ nguyên cấu trúc client hiện có và chỉ thay endpoint cùng model ID.

from openai import OpenAI

client = OpenAI(
    api_key="YOUR_KIMI_API_KEY",
    base_url="YOUR_KIMI_OPENAI_COMPATIBLE_BASE_URL"
)

response = client.chat.completions.create(
    model="kimi-k3",
    messages=[
        {
            "role": "user",
            "content": "Phân tích các rủi ro chính trong thay đổi này."
        }
    ]
)

print(response.choices[0].message.content)

Trước khi hard-code URL cơ sở, hãy xác nhận endpoint chính xác trong platform.kimi.ai, vì Moonshot đã chuyển sang tên miền mới khi ra mắt.

Để tích hợp tool calling, giữ nguyên schema OpenAI-style hiện có và kiểm tra payload trả về từ tool_calls trong môi trường test trước.

Xem hướng dẫn API Kimi K3 để biết chi tiết request và response.

Kiểm thử `kimi-k3` trước khi triển khai

Đừng đưa K3 trực tiếp vào agent loop chỉ dựa trên benchmark. Trước tiên, hãy xác minh các hành vi API quan trọng:

Streaming hoạt động đúng với parser của bạn
tool_calls có đúng schema bạn mong đợi
JSON output có ổn định với dữ liệu thật
Context caching hoạt động đúng trên request lặp lại
Latency phù hợp với SLO của ứng dụng
Reasoning effort tối đa có ảnh hưởng thế nào đến chi phí và thời gian phản hồi

Bạn có thể dùng Apidog để kiểm thử endpoint theo quy trình sau:

Tạo request chat completion tương thích OpenAI.
Lưu API key dưới dạng biến môi trường, không đặt trực tiếp trong collection chia sẻ.
Đặt model là kimi-k3.
Gửi request với stream: true.
Kiểm tra các sự kiện Server-Sent Events khi token được trả về.
Gửi request có tools để xem payload tool_calls.
Xác thực arguments của tool theo JSON schema trước khi nối vào agent runtime.

Ví dụ payload streaming:

{
  "model": "kimi-k3",
  "stream": true,
  "messages": [
    {
      "role": "user",
      "content": "Tóm tắt thay đổi trong repository này."
    }
  ]
}

Ví dụ request có tool:

{
  "model": "kimi-k3",
  "messages": [
    {
      "role": "user",
      "content": "Kiểm tra trạng thái triển khai mới nhất."
    }
  ],
  "tools": [
    {
      "type": "function",
      "function": {
        "name": "get_deployment_status",
        "description": "Lấy trạng thái triển khai theo môi trường.",
        "parameters": {
          "type": "object",
          "properties": {
            "environment": {
              "type": "string",
              "enum": ["development", "staging", "production"]
            }
          },
          "required": ["environment"]
        }
      }
    }
  ]
}

Mục tiêu của bước này không phải prompt engineering. Đây là kiểm thử hợp đồng API: xác minh chính xác dữ liệu model trả về trước khi code agent được chạy trong production.

Các câu hỏi thường gặp

Kimi K3 là gì?

Kimi K3 là model ngôn ngữ lớn chủ lực của Moonshot AI, ra mắt ngày 16 tháng 7 năm 2026. Đây là model MoE 2,8 nghìn tỷ tham số, context window 1M token và được phục vụ qua API model ID kimi-k3.

Kimi K3 có bao nhiêu tham số?

K3 có tổng cộng 2,8 nghìn tỷ tham số. Model kích hoạt 16 trong số 896 chuyên gia trên mỗi token.

Moonshot chưa công bố số tham số hoạt động chính xác. Vì vậy, không nên trích dẫn một con số “active parameters” cụ thể như dữ kiện.

API Kimi K3 có giá bao nhiêu?

Input cache-hit: 0,30 USD / 1 triệu token
Input cache-miss: 3,00 USD / 1 triệu token
Output: 15,00 USD / 1 triệu token

Xem phân tích giá Kimi K3 để lập mô hình chi phí theo lượng token của ứng dụng.

Kimi K3 có phải mã nguồn mở không?

Không phải ngay ngày ra mắt. Moonshot cam kết phát hành toàn bộ trọng số trước ngày 27 tháng 7 năm 2026.

Trước thời điểm đó, bạn truy cập K3 qua các sản phẩm được lưu trữ và API trả phí. Sau khi trọng số được phát hành, bạn có thể cân nhắc tự host.

Kimi K3 có tốt hơn Claude Fable 5 hoặc GPT-5.6 Sol không?

Không. Moonshot nói rõ rằng K3 vẫn kém các model độc quyền mạnh nhất là Claude Fable 5 và GPT-5.6 Sol.

Tuy nhiên, K3 đạt 57 điểm trên Artificial Analysis Intelligence Index và xếp thứ 4 trong 189 model, nên vẫn là một lựa chọn mạnh trong nhóm model gần frontier.

Tôi có thể dùng Kimi K3 với OpenAI SDK không?

Có. API Moonshot tương thích OpenAI SDK.

Bạn cần:

Xác nhận base URL trên platform.kimi.ai
Cấu hình client trỏ đến endpoint tương thích OpenAI
Đặt model là kimi-k3
Kiểm thử chat completion, streaming và tool calling

Bạn có thể xác minh request/response trước bằng Apidog.

Kimi K3 nhanh đến mức nào?

Artificial Analysis đo khoảng 62 token output/giây, thấp hơn mức trung bình phân khúc là 72,7 token/giây. Thời gian đến token đầu tiên gần 1,99 giây.

K3 ưu tiên độ sâu suy luận hơn tốc độ phản hồi. Nếu latency là ràng buộc chính, hãy benchmark với model nhanh hơn trên workload thực tế.

Kimi K3 khác Kimi K2.7 Code thế nào?

K3 là model chủ lực thế hệ tiếp theo của dòng K2, với cơ chế attention được xây dựng lại và hiệu quả mở rộng tốt hơn khoảng 2,5 lần so với K2 theo Moonshot.

K2.7 Code vẫn là model mạnh dành riêng cho coding. Xem Kimi K3 vs Kimi K2.7 Code để so sánh trực tiếp.

DEV Community

Kimi K3 là gì? Siêu phẩm 2.8T Open của Moonshot

TL;DR: Kimi K3 là gì?

Vì sao Kimi K3 đáng chú ý với developer?

Danh tính: model mạnh nhất của Moonshot

Kiến trúc Kimi K3: những điểm cần biết

Kimi Delta Attention (KDA)

Attention Residuals (AttnRes)

Stable LatentMoE

Thông số kỹ thuật Kimi K3

Context 1M token: tối ưu chi phí bằng cache-hit

Cách đánh giá lợi ích cache trong workload của bạn

Đánh đổi: tốc độ output

Định vị thực tế: mạnh, mở, nhưng không dẫn đầu tuyệt đối

Bạn có thể dùng Kimi K3 ở đâu?

Khả năng API của Kimi K3

Kiểm thử `kimi-k3` trước khi triển khai

Các câu hỏi thường gặp

Kimi K3 là gì?

Kimi K3 có bao nhiêu tham số?

API Kimi K3 có giá bao nhiêu?

Kimi K3 có phải mã nguồn mở không?

Kimi K3 có tốt hơn Claude Fable 5 hoặc GPT-5.6 Sol không?

Tôi có thể dùng Kimi K3 với OpenAI SDK không?

Kimi K3 nhanh đến mức nào?

Kimi K3 khác Kimi K2.7 Code thế nào?

Top comments (0)

TL;DR: Kimi K3 là gì?

Vì sao Kimi K3 đáng chú ý với developer?

Danh tính: model mạnh nhất của Moonshot

Kiến trúc Kimi K3: những điểm cần biết

Kimi Delta Attention (KDA)

Attention Residuals (AttnRes)

Stable LatentMoE

Thông số kỹ thuật Kimi K3

Context 1M token: tối ưu chi phí bằng cache-hit

Cách đánh giá lợi ích cache trong workload của bạn

Đánh đổi: tốc độ output

Định vị thực tế: mạnh, mở, nhưng không dẫn đầu tuyệt đối

Bạn có thể dùng Kimi K3 ở đâu?

Khả năng API của Kimi K3

Kiểm thử kimi-k3 trước khi triển khai

Các câu hỏi thường gặp

Kimi K3 là gì?

Kimi K3 có bao nhiêu tham số?

API Kimi K3 có giá bao nhiêu?

Kimi K3 có phải mã nguồn mở không?

Kimi K3 có tốt hơn Claude Fable 5 hoặc GPT-5.6 Sol không?

Tôi có thể dùng Kimi K3 với OpenAI SDK không?

Kimi K3 nhanh đến mức nào?

Kimi K3 khác Kimi K2.7 Code thế nào?

Kiểm thử `kimi-k3` trước khi triển khai