DEV Community

Cover image for Giá Kimi K3: Chi phí API và Bài toán Cache-Hit
Sebastian Petrus
Sebastian Petrus

Posted on • Originally published at apidog.com

Giá Kimi K3: Chi phí API và Bài toán Cache-Hit

Kimi K3 ra mắt vào ngày 16 tháng 7 năm 2026, và bảng giá có vẻ đơn giản cho đến khi bạn nhận thấy nó có hai mức giá đầu vào khác nhau. Moonshot AI niêm yết $0,30 cho mỗi triệu token đối với đầu vào trúng bộ nhớ đệm (cache hit), $3,00 cho mỗi triệu token đối với đầu vào trượt bộ nhớ đệm (cache miss), và $15,00 cho mỗi triệu token đầu ra. Tuy nhiên, con số quyết định hóa đơn hàng tháng không chỉ là giá niêm yết mà là tỷ lệ đầu vào hỗn hợp bạn thực sự trả. Với tác vụ lập trình, tỷ lệ này có thể gần mức $0,30 hơn nhiều so với $3,00. Bài viết này hướng dẫn cách tính chi phí hiệu quả, phân tích một tác vụ cụ thể và so sánh Kimi K3 với Claude Opus 4.8, GPT-5.6 Sol và DeepSeek V4.

Dùng thử Apidog ngay hôm nay

TÓM TẮT

Kimi K3 có giá:

  • $0,30 / 1M token cho đầu vào trúng bộ nhớ đệm
  • $3,00 / 1M token cho đầu vào trượt bộ nhớ đệm
  • $15,00 / 1M token cho đầu ra

Moonshot cung cấp mô hình qua kiến trúc suy luận phân tán Mooncake và báo cáo tỷ lệ trúng bộ nhớ đệm trên 90% cho các tác vụ lập trình. Nếu tỷ lệ này phù hợp với workload của bạn, chi phí đầu vào thực tế sẽ gần mức $0,30 hơn mức $3,00.

Điểm cần tối ưu không phải là đầu vào đã được cache, mà là đầu ra. Tận dụng cache, giữ tiền tố prompt ổn định và giới hạn phản hồi để kiểm soát chi phí. Bạn có thể kiểm tra token usage trên từng phản hồi bằng Apidog khi thử nghiệm mô hình.

Giá niêm yết trong một bảng

Moonshot công bố mức giá sau cho model kimi-k3:

Loại token Giá trên 1 triệu token
Đầu vào trúng bộ nhớ đệm $0,30
Đầu vào trượt bộ nhớ đệm $3,00
Đầu ra $15,00

Chênh lệch giá là yếu tố quan trọng:

  • Đầu vào trượt cache đắt gấp 10 lần đầu vào trúng cache.
  • Đầu ra đắt gấp 5 lần đầu vào trượt cache.
  • Đầu ra đắt gấp 50 lần đầu vào trúng cache.

Nếu giả định mọi token đầu vào đều bị trượt cache, bạn sẽ đánh giá quá cao chi phí đầu vào. Ngược lại, nếu xem đầu ra là chi phí nhỏ, bạn sẽ bỏ qua phần thường chi phối hóa đơn.

Để xem tổng quan về model và vị trí của nó trong bối cảnh hiện tại, hãy đọc bài giải thích Kimi K3. Nếu cần cấu hình request, base URL và SDK, xem hướng dẫn API Kimi K3.

Kimi K3 pricing overview

Vì sao giá cache hit thay đổi phép tính

Prompt caching là khác biệt giữa giá bạn nhìn thấy và giá bạn thực sự trả.

Khi gửi request, nhà cung cấp lưu tiền tố prompt đã được token hóa. Nếu request tiếp theo tái sử dụng cùng tiền tố đó, model có thể đọc từ cache thay vì xử lý lại toàn bộ ngữ cảnh. Các token tái sử dụng sẽ được tính theo giá cache hit thay vì cache miss.

Moonshot cho biết Kimi K3 sử dụng kiến trúc suy luận phân tán Mooncake, tách riêng giai đoạn prefill và decode để tái sử dụng tiền tố cache hiệu quả hơn. Công ty báo cáo tỷ lệ cache hit trên 90% với tác vụ lập trình.

Công thức tính giá đầu vào hỗn hợp

Gọi:

  • h là tỷ lệ cache hit
  • 1 - h là tỷ lệ cache miss
  • P_hit = $0,30 / 1M token
  • P_miss = $3,00 / 1M token

Khi đó:

Giá đầu vào hỗn hợp =
  (h × P_hit) + ((1 - h) × P_miss)
Enter fullscreen mode Exit fullscreen mode

Với tỷ lệ cache hit 90%:

0,90 × $0,30 = $0,27
0,10 × $3,00 = $0,30
----------------------
Giá đầu vào hỗn hợp = $0,57 / 1M token
Enter fullscreen mode Exit fullscreen mode

Như vậy, thay vì lập ngân sách theo mức $3,00 / 1M token đầu vào, bạn có thể bắt đầu với mức ước tính khoảng $0,57 / 1M token nếu workload thực tế đạt 90% cache hit.

Với tỷ lệ cache hit 95%:

0,95 × $0,30 = $0,285
0,05 × $3,00 = $0,150
-----------------------
Giá đầu vào hỗn hợp = $0,435 / 1M token
Enter fullscreen mode Exit fullscreen mode

Con số 90% là số liệu Moonshot báo cáo cho tác vụ lập trình. Tỷ lệ thực tế của bạn phụ thuộc vào độ ổn định của prompt prefix. Chat có prompt thay đổi liên tục thường cache kém hơn agent liên tục làm việc với cùng kho mã nguồn.

Ví dụ: chi phí của một tác vụ lập trình tự động

Giả sử bạn chạy một phiên lập trình tự động trên một repository cỡ trung bình.

Trong toàn bộ phiên:

  • Model đọc 2.000.000 token đầu vào
  • Model sinh 200.000 token đầu ra
  • Context được gửi lại qua nhiều lượt, nên tổng token đầu vào cao

Trường hợp 1: Không có cache hit 

Đầu vào:
2.000.000 × $3,00 / 1.000.000 = $6,00

Đầu ra:
200.000 × $15,00 / 1.000.000 = $3,00

Tổng chi phí = $9,00
Enter fullscreen mode Exit fullscreen mode

Trường hợp 2: Cache hit 90% 

Đầu vào cache hit:
1.800.000 × $0,30 / 1.000.000 = $0,54

Đầu vào cache miss:
200.000 × $3,00 / 1.000.000 = $0,60

Tổng đầu vào = $1,14

Đầu ra:
200.000 × $15,00 / 1.000.000 = $3,00

Tổng chi phí = $4,14
Enter fullscreen mode Exit fullscreen mode

Kết quả:

Hạng mục Không cache Cache hit 90%
Chi phí đầu vào $6,00 $1,14
Chi phí đầu ra $3,00 $3,00
Tổng chi phí $9,00 $4,14

Caching giảm tổng chi phí từ $9,00 xuống $4,14, tương đương khoảng 54%.

Lưu ý: cache chỉ giảm chi phí đầu vào. Token đầu ra vẫn có giá $15,00 / 1M token trong cả hai trường hợp.

Đầu vào rẻ, đầu ra là phần cao cấp

Với Kimi K3, đầu ra là phần cần kiểm soát chặt nhất:

  • Đầu ra $15,00 / 1M token đắt gấp 50 lần đầu vào cache hit.
  • Đầu ra đắt gấp 5 lần đầu vào cache miss.
  • Tối ưu đầu ra thường tạo tác động lớn hơn việc cắt giảm context đã được cache.

Việc nên làm

  • Yêu cầu phản hồi ngắn gọn, ví dụ: chỉ trả về diff, patch hoặc checklist.
  • Đặt max_tokens khi API hoặc SDK hỗ trợ.
  • Giữ system prompt, tool schema và context prefix ổn định theo byte.
  • Gộp các lệnh gọi liên quan vào cùng một phiên có prefix đã “ấm”.
  • Dùng cùng format prompt giữa các lượt thay vì thay đổi thứ tự hoặc chỉnh sửa nhỏ không cần thiết.

Ví dụ, thay vì yêu cầu:

Phân tích toàn bộ lỗi, giải thích nguyên nhân chi tiết,
đề xuất các phương án, rồi viết code hoàn chỉnh.
Enter fullscreen mode Exit fullscreen mode

Bạn có thể tách thành yêu cầu kiểm soát đầu ra tốt hơn:

Chỉ trả về unified diff để sửa lỗi.
Không giải thích. Tối đa 500 token.
Enter fullscreen mode Exit fullscreen mode

Việc ít hiệu quả hơn bạn nghĩ

Cắt giảm context đầu vào chỉ để tiết kiệm token thường không phải chiến lược tốt khi context đó đang được cache. Việc loại bỏ thông tin hữu ích có thể:

  • Làm model thiếu ngữ cảnh.
  • Tăng số lượt hỏi-đáp để làm rõ yêu cầu.
  • Khiến phản hồi dài hơn và đắt hơn.
  • Làm giảm chất lượng diff hoặc code được sinh ra.

Với mô hình có cấu trúc giá như Kimi K3, hãy cấp input đủ tốt, sau đó kiểm soát đầu ra bằng prompt và giới hạn token.

So sánh giá: Kimi K3 đứng ở đâu

Mô hình Đầu vào trên 1M token Đầu ra trên 1M token Ghi chú
Kimi K3 $0,30 cache hit / $3,00 cache miss $15,00 Context 1M, trọng số mở gần 27 tháng 7
Claude Opus 4.8 $5,00 $25,00 Mức cao cấp; cần kiểm tra giá hiện tại
GPT-5.6 Sol Khoảng $5,00 Khoảng $30,00 Mức flagship; có các mức GPT-5.6 rẻ hơn
DeepSeek V4 Mức giá trị Mức giá trị Xác nhận tỷ giá hiện tại

So với Claude Opus 4.8

Theo giá Claude Opus 4.8, đầu vào là $5,00 / 1M token và đầu ra là $25,00 / 1M token.

Với tác vụ mẫu 2M token đầu vào và 200K token đầu ra:

Claude Opus 4.8:
2M đầu vào × $5,00 / 1M = $10,00
200K đầu ra × $25,00 / 1M = $5,00
Tổng = $15,00
Enter fullscreen mode Exit fullscreen mode

Trong khi đó, Kimi K3 với 90% cache hit có tổng chi phí khoảng $4,14.

So sánh này mang tính định hướng vì Anthropic cũng có prompt caching, có thể làm giảm chi phí thực tế của Opus. Tuy nhiên, theo giá niêm yết, Kimi K3 vẫn rẻ hơn ở cả đầu vào lẫn đầu ra.

So với GPT-5.6 Sol

Theo giá GPT-5.6, GPT-5.6 Sol có giá khoảng $5 đầu vào và $30 đầu ra.

Kimi K3 rẻ hơn GPT-5.6 Sol ở mức giá này. Tuy nhiên, GPT-5.6 có các tier Terra và Luna rẻ hơn, nên lựa chọn phụ thuộc vào khả năng bạn cần và mức giá hiện tại.

So với DeepSeek V4

Theo giá DeepSeek V4, DeepSeek V4 là một lựa chọn định vị ở phân khúc giá trị.

DeepSeek có thể có giá đầu ra thô thấp hơn Kimi K3. Ngược lại, Kimi K3 có context 1M và chiết khấu sâu cho đầu vào cache hit. Nếu workload của bạn nặng về input và tái sử dụng prefix tốt, Kimi K3 có thể thu hẹp hoặc đảo ngược khoảng cách chi phí.

Kiểm tra token usage với Apidog

Phép tính cache chỉ hữu ích khi bạn đo được dữ liệu thực tế của mình. Mỗi phản hồi từ Kimi K3 trả về đối tượng usage, bao gồm token đầu vào, token đầu ra và phần token trúng cache.

Kiểm tra mức sử dụng token Kimi K3

Bạn có thể dùng Apidog để gửi request đại diện và kiểm tra phản hồi.

Kimi K3 tương thích OpenAI SDK, vì vậy cấu hình request tương tự API kiểu OpenAI:

  • Base URL của Kimi K3
  • Bearer token
  • Model ID: kimi-k3

Ví dụ request:

curl "$KIMI_BASE_URL/chat/completions" \
  -H "Authorization: Bearer $KIMI_API_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "kimi-k3",
    "messages": [
      {
        "role": "system",
        "content": "Bạn là trợ lý lập trình. Chỉ trả về unified diff."
      },
      {
        "role": "user",
        "content": "Sửa lỗi null pointer trong hàm parseConfig."
      }
    ],
    "max_tokens": 800
  }'
Enter fullscreen mode Exit fullscreen mode

Cách đo tỷ lệ cache hit của bạn

  1. Gửi một request đại diện lần đầu.
  2. Gửi lại request đó với system prompt và context prefix không thay đổi.
  3. So sánh trường usage trong hai phản hồi.
  4. Ghi lại token cache hit, cache miss và output token.
  5. Dùng tỷ lệ cache hit thực tế trong công thức chi phí hỗn hợp.

Bạn cũng có thể lưu cùng một request cho kimi-k3 và model hiện tại, sau đó A/B test phản hồi và token usage cạnh nhau. Nếu làm việc trong editor, hãy xem hướng dẫn chạy Apidog bên trong VS Code. Bạn có thể tải xuống Apidog để bắt đầu thử nghiệm.

Phán quyết trung thực

Kimi K3 rẻ ở đầu vào và đắt ở đầu ra.

Mức $0,30 cho cache hit, kết hợp với tỷ lệ trúng cache trên 90% mà Moonshot báo cáo cho tác vụ lập trình, khiến chi phí đầu vào hiệu quả có thể tiến gần mức sàn. Phần cần quản lý chặt hơn là output ở mức $15,00 / 1M token.

So với các đối thủ:

  • Rẻ hơn Claude Opus 4.8 theo giá niêm yết.
  • Rẻ hơn GPT-5.6 Sol theo mức giá được nêu.
  • Có thể cạnh tranh với DeepSeek V4, tùy tỷ trọng input và hiệu quả caching.
  • Có context 1M và lợi thế lớn khi workload tái sử dụng cùng prompt prefix.

Moonshot xếp Kimi K3 sau Claude Fable 5 và GPT-5.6 Sol về khả năng, đồng thời model chạy chậm hơn một chút so với mức trung bình trong phân khúc giá. Tuy nhiên, nếu workload của bạn phù hợp với caching, Kimi K3 là lựa chọn đáng cân nhắc về chi phí.

Quy trình thực tế nên là:

  1. Giữ system prompt và context prefix ổn định.
  2. Đo cache hit rate trên traffic đại diện.
  3. Giới hạn max_tokens.
  4. Yêu cầu đầu ra đúng định dạng cần dùng.
  5. So sánh chi phí theo token usage thực tế, không chỉ theo bảng giá.

Để xác định tỷ lệ đầu vào hỗn hợp trước khi triển khai, hãy tải xuống Apidog, gửi vài request đại diện đến kimi-k3 và kiểm tra phân tách token cache hit trực tiếp trong usage object.

Câu hỏi thường gặp

API Kimi K3 có giá bao nhiêu?

Kimi K3 có giá $0,30 cho mỗi triệu token đầu vào trúng bộ nhớ đệm, $3,00 cho mỗi triệu token đầu vào trượt bộ nhớ đệm và $15,00 cho mỗi triệu token đầu ra trên API trực tiếp của Moonshot.

Các bên thứ ba như OpenRouter có thể hiển thị mức giá cố định $3,00 đầu vào và $15,00 đầu ra mà không tách riêng giá cache hit. Xem hướng dẫn API Kimi K3 để thiết lập request.

Tỷ lệ cache hit là gì và tại sao nó quan trọng?

Cache hit là phần token đầu vào được tái sử dụng từ prompt prefix đã lưu. Những token này có giá $0,30 thay vì $3,00 mỗi triệu token.

Moonshot báo cáo cache hit trên 90% cho tác vụ lập trình. Với tỷ lệ này, giá đầu vào hỗn hợp rơi vào khoảng $0,57 / 1M token.

Kimi K3 có rẻ hơn Claude Opus 4.8 không?

Có, dựa trên giá niêm yết. Đầu ra của Kimi K3 là $15,00 / 1M token, trong khi Claude Opus 4.8 là $25,00 / 1M token. Đầu vào của Kimi K3 cũng thấp hơn.

Trong tác vụ mẫu với 2M token đầu vào và 200K token đầu ra, Kimi K3 với cache hit 90% có giá khoảng $4,14, trong khi Opus theo giá niêm yết khoảng $15,00.

Anthropic có prompt caching riêng, nên hãy coi đây là so sánh định hướng. Xem giá Claude Opus 4.8 và so sánh Kimi K3 với Claude Opus 4.8.

Giá Kimi K3 so với GPT-5.6 và DeepSeek V4 như thế nào?

Kimi K3 rẻ hơn GPT-5.6 Sol, model flagship có giá khoảng $5 đầu vào và $30 đầu ra. Tuy nhiên, GPT-5.6 có các tier Terra và Luna rẻ hơn.

DeepSeek V4 là một lựa chọn giá trị khác và có thể có giá đầu ra thô thấp hơn Kimi K3. Hãy kiểm tra trực tiếp giá GPT-5.6 và giá DeepSeek V4 trước khi quyết định.

Làm thế nào để giảm hóa đơn Kimi K3?

Tập trung vào đầu ra:

  • Đặt max_tokens.
  • Yêu cầu phản hồi ngắn gọn.
  • Chỉ yêu cầu format cần thiết, chẳng hạn unified diff hoặc JSON.
  • Giữ system prompt và context prefix ổn định theo byte.
  • Gộp các request liên quan để tận dụng prefix đã cache.

Cắt giảm input đã cache thường ít hiệu quả vì token cache hit đã rất rẻ. Loại bỏ context hữu ích thậm chí có thể khiến output dài hơn và tốn kém hơn.

Làm thế nào để xác minh tỷ lệ cache hit thực tế?

Kiểm tra usage object trả về trên từng phản hồi Kimi K3. Đối tượng này báo cáo token đầu vào, đầu ra và token trúng cache.

Gửi cùng một request qua Apidog hai lần, sau đó so sánh số token cache hit giữa hai phản hồi. Tỷ lệ quan sát được là số bạn nên dùng trong công thức chi phí hỗn hợp của mình.

Top comments (0)