DEV Community

Cover image for ERNIE 5.5 Flash là gì?
Sebastian Petrus
Sebastian Petrus

Posted on Originally published at apidog.com

ERNIE 5.5 Flash là gì?

ERNIE 5.5 Flash là gì? Mô hình MoE 280B của Baidu với ngữ cảnh 1 triệu token

ERNIE 5.5 Flash là gì? Đây là dòng mô hình mở (open-weight) mới nhất của Baidu: một mô hình ngôn ngữ dạng hỗn hợp chuyên gia thưa (sparse mixture-of-experts – MoE) với tổng cộng 280 tỷ tham số, 14 tỷ tham số hoạt động trên mỗi token và cửa sổ ngữ cảnh lên tới 1 triệu token. Nó được phát hành dưới hai phiên bản riêng biệt. ERNIE 5.5 Flash Base (5 tháng 11, 2026) là checkpoint tiền huấn luyện thô được đăng trên Hugging Face. ERNIE 5.5 Flash Preview (11 tháng 11, 2026) là mô hình chat và agent đã qua hậu huấn luyện (post-trained), khả dụng qua API trên Baidu Qianfan và miễn phí trên OpenRouter.

Dùng thử Apidog ngay hôm nay

ERNIE 5.5 Flash là gì?

ERNIE 5.5 Flash là mô hình ngôn ngữ MoE thưa 280 tỷ tham số của Baidu, kích hoạt 14 tỷ tham số cho mỗi token và hỗ trợ ngữ cảnh 1 triệu token. Mô hình chỉ xử lý văn bản, được huấn luyện từ đầu trên 33,5 nghìn tỷ token, và được thiết kế cho lập trình, các tác vụ agentic, công việc tri thức và tài liệu dài. Nó có hai phiên bản: checkpoint Base và bản Preview đã qua hậu huấn luyện.

ERNIE 5.5 Flash

Baidu định vị mô hình này dựa trên yếu tố hiệu quả. Theo trang phát hành Base, mọi thành phần đều được thiết kế lại để cân bằng giữa năng lực mô hình với lượng tính toán kích hoạt, kích thước KV cache và chi phí ngữ cảnh dài. Trang Preview mô tả kết quả là "mạnh về lập trình, mô hình hóa 3D, công việc tri thức và sáng tạo nội dung."

Mô hình này kế thừa ERNIE 5.1; để có thêm thông tin nền tảng, xem ERNIE 5.1 là gì và hướng dẫn API ERNIE 5.1.

So sánh ERNIE 5.5 Flash Preview và Base

Cách đặt tên này dễ gây nhầm lẫn, nên đây là bảng đối chiếu trực tiếp:

ERNIE 5.5 Flash Base ERNIE 5.5 Flash Preview
Ngày phát hành 5 tháng 11, 2026 11 tháng 11, 2026
Bản chất Checkpoint kết thúc tiền huấn luyện, không có huấn luyện giữa hoặc hậu huấn luyện Mô hình hậu huấn luyện đầu tiên xây dựng trên Base, là một checkpoint trung gian
Phù hợp cho Fine-tuning, thích ứng lĩnh vực, nghiên cứu RL Chat, agent lập trình, gọi công cụ
Cách gọi Tự lưu trữ; chỉ qua endpoint completions Qianfan API, OpenRouter baidu/ernie-5.5-flash-preview:free
Trọng số Công khai trên Hugging Face (FP8 và BF16) Chưa công khai; Baidu cho biết Apache 2.0 "sớm ra mắt"
Giấy phép ERNIE 5.5 Flash Base Model License v1.0 Cam kết Apache 2.0, chưa công bố
Kích thước 280B tổng, 14B hoạt động 280B tổng, 14B hoạt động
Ngữ cảnh 128K khi huấn luyện, 1M cho fine-tuning và suy luận 1.024.000 token trên OpenRouter

Diagram comparing ERNIE 5.5 Flash Base and Preview

Quy tắc đơn giản: muốn chat với mô hình hoặc tích hợp vào agent lập trình, dùng Preview. Muốn huấn luyện mô hình riêng từ một nền tảng tiền huấn luyện mạnh, dùng Base. Base không được tinh chỉnh theo hướng dẫn (instruction-tuned), nên nó sẽ không tuân theo các prompt dạng chat.

Baidu thừa nhận rõ ràng rằng Preview chưa hoàn thiện. Trang phát hành gọi đây là "một checkpoint trung gian từ quá trình hậu huấn luyện" và nói rằng "một số năng lực vẫn có thể chưa đạt yêu cầu" cho đến khi bản chính thức ra mắt.

Kiến trúc của ERNIE 5.5 Flash

Dưới đây là những điểm trong tài liệu kỹ thuật của Baidu mà người dùng như bạn cần quan tâm.

Cơ chế attention thưa kết hợp (hybrid sparse attention)

Mô hình có 43 lớp Transformer. Chỉ 6 lớp trong số đó (khoảng một phần bảy) giữ quyền truy cập token-level vào toàn bộ ngữ cảnh, sử dụng Multi-head Latent Attention (MLA) kết hợp sparse attention (DSA). 37 lớp còn lại dùng Heavily Compressed Attention (HCA), nén mỗi 128 token thành một mục duy nhất trong cache và chú ý qua các mục này cùng một cửa sổ ngắn các token gần đây.

Vì sao điều này quan trọng với bạn: KV cache luôn nhỏ, nên ngữ cảnh 1 triệu token có chi phí vận hành thấp hơn nhiều so với con số tham số gợi ý. Baidu cho biết sparse attention ở các lớp MLA giữ chi phí attention trên mỗi truy vấn không đổi khi ngữ cảnh tăng.

MoE tiềm ẩn đa router (Multi-Router latent MoE)

Một lớp MoE thông thường dùng một router duy nhất để chọn top-k chuyên gia. ERNIE 5.5 Flash sử dụng nhiều router được khởi tạo độc lập, cùng chấm điểm các chuyên gia, điều mà Baidu cho biết giúp khắc phục các lựa chọn chuyên gia sai mà một router đơn lẻ có thể củng cố. Mỗi lớp MoE chứa 512 chuyên gia định tuyến (10 hoạt động mỗi token) cùng 1 chuyên gia dùng chung, vận hành trong không gian tiềm ẩn 2048 chiều để giảm khoảng một nửa lượng tính toán và lưu lượng chuyên gia.

Các thay đổi khác

  • MultiMax output head: nhiệt độ softmax phân đoạn có thể học được.
  • ECHO thay cho MTP: lớp cuối dự đoán token tương lai và đồng thời đóng vai trò draft model cho speculative decoding.
  • Tokenizer: khoảng 200K mục, với các con số được tách từ phải sang trái theo nhóm ba chữ số.

Architecture diagram of ERNIE 5.5 Flash

Kết quả benchmark của ERNIE 5.5 Flash

Tất cả số liệu dưới đây đều do Baidu công bố trên các trang phát hành của họ. Nhiều điểm so sánh có dấu sao (*), nghĩa là Baidu tự chạy đánh giá thay vì trích dẫn từ phòng lab khác.

Preview (đã hậu huấn luyện), một số dòng từ bảng của Baidu:

Benchmark ERNIE 5.5 Flash Preview DeepSeek-V4.1-Flash GPT-6.1 Sol Claude Opus 5.5
Terminal-Bench 4.0 46.5 42.3 56.1 66.4
DeepSWE v1.1 71.2 77.0 75.2 74.2
MCP-Atlas 84.6 77.8 81.0 84.2
AutomationBench 61.9 60.5 49.3 58.0
BrowseComp 87.4 80.3 87.5 90.8
HLE (không công cụ, chỉ văn bản) 46.4 44.0 52.9 61.4

Đánh giá trung thực về bảng trên: Preview vượt trội trong nhóm kích thước của nó ở một số bài kiểm tra agentic và công việc tri thức (MCP-Atlas, AutomationBench, SpreadsheetBench), nhưng thua các mô hình tiên tiến ở các tác vụ agentic lập trình khó như Terminal-Bench. Nó đứng dưới DeepSeek-V4.1-Flash trên DeepSWE. Để xem so sánh chi tiết với DeepSeek, xem bài viết liên quan ERNIE 5.5 Flash vs DeepSeek V4.1 Flash, cùng giải thích về DeepSeek V4.1 Flash để hiểu phía bên kia.

Base (tiền huấn luyện), so với các mô hình base cùng cỡ: Baidu báo cáo MMLU-Pro 78.4 so với 69.2 của DeepSeek-V4-Flash-Base, HumanEval+ 82.3 so với 69.5, LiveCodeBench 40.1 so với 31.9 và LongBench-v2 48.7 so với 44.5. Mô hình thua ở một vài dòng, chẳng hạn InfiniteBench. Bảng đầy đủ nằm trên model card trên Hugging Face.

Về tốc độ, mô tả trên OpenRouter cho biết "hơn 200 token mỗi giây". Dashboard 3 ngày của chính OpenRouter ngày 12 tháng 11 ghi nhận thông lượng P50 là 79 token mỗi giây trên endpoint miễn phí, vốn là lưu lượng dùng chung, nên đừng ngạc nhiên nếu số liệu của bạn khác đi.

Cách truy cập ERNIE 5.5 Flash

Hiện tại bạn có ba con đường:

  1. OpenRouter (miễn phí, Preview): gọi baidu/ernie-5.5-flash-preview:free qua API tương thích OpenAI của OpenRouter. Baidu Qianfan là nhà cung cấp duy nhất, và trang mô hình hiển thị giá đầu vào và đầu ra là $0. Endpoint miễn phí bị giới hạn tốc độ theo tài liệu giới hạn của OpenRouter. Xem hướng dẫn đầy đủ trong bài hướng dẫn dùng ERNIE 5.5 Flash miễn phí.
  2. Baidu Qianfan (Preview): API chính thức, được liên kết từ trang phát hành của Baidu. Xem hướng dẫn API ERNIE 5.5 Flash để thiết lập request.
  3. Hugging Face (chỉ Base): tải trọng số FP8 hoặc BF16 và vận hành bằng vLLM (kèm plugin vLLM-ERNIE) hoặc SGLang. Ví dụ của Baidu dùng parallelism 4 hướng trên một node nhiều GPU. Các bước chi tiết trong bài chạy ERNIE 5.5 Flash cục bộ với vLLM.

Một lời gọi OpenRouter tối giản trông như sau:

curl https://openrouter.ai/api/v1/chat/completions \
  -H "Content-Type: application/json" \
  -H "Authorization: Bearer $OPENROUTER_API_KEY" \
  -d '{
    "model": "baidu/ernie-5.5-flash-preview:free",
    "messages": [{"role": "user", "content": "Explain MoE routing in two sentences."}]
  }'
Enter fullscreen mode Exit fullscreen mode

OpenRouter cho biết endpoint chấp nhận tools, tool_choice, response_format với JSON schema và tham số reasoning. Nếu bạn muốn điều khiển nó từ một agent trên terminal, bài viết liên quan về dùng ERNIE 5.5 Flash trong OpenCode miễn phí sẽ hướng dẫn cách thiết lập đó.

Giấy phép ERNIE 5.5 Flash: được phép và không được phép làm gì

Hai phiên bản có điều khoản khác nhau, và sự khác biệt này rất quan trọng nếu bạn định đưa sản phẩm vào vận hành.

Base dùng ERNIE 5.5 Flash Base Model License Agreement v1.0, không phải Apache 2.0. Tóm tắt:

  • Sử dụng phi thương mại (nghiên cứu, giáo dục, đánh giá, thử nghiệm cá nhân) được miễn phí, không cần thông báo.
  • Sử dụng thương mại được miễn phí khi doanh thu hàng năm của các sản phẩm liên quan bằng hoặc dưới 50 triệu USD, với điều kiện bạn gửi cho Baidu một thông báo sử dụng một lần và hiển thị dòng chữ "Powered by ERNIE".
  • Trên 50 triệu USD, bạn cần sự cho phép bằng văn bản riêng từ Baidu trước khi bắt đầu.

Preview chưa có trọng số hoặc tệp giấy phép công bố. Baidu cho biết trọng số "sớm được mở nguồn theo Apache 2.0" nhưng không nêu ngày cụ thể. Cho đến khi tệp giấy phép xuất hiện, hãy coi Preview chỉ dùng qua API.

Ai nên dùng ERNIE 5.5 Flash?

  • Các team vận hành agent với ngân sách hạn chế. Endpoint OpenRouter miễn phí với ngữ cảnh 1 triệu và gọi công cụ là cách giá rẻ để thử nghiệm các vòng lặp agent.
  • Nhà nghiên cứu fine-tuning và RL. Base là một checkpoint kết thúc tiền huấn luyện "sạch", điều hiếm gặp ở quy mô này.
  • Khối lượng công việc với tài liệu dài. Thiết kế attention nén hướng đến đầu vào 1 triệu token mà không cần KV cache khổng lồ.

Nên cân nhắc kỹ ở những trường hợp sau:

  • Đường ống JSON nghiêm ngặt. Dashboard OpenRouter ghi nhận tỷ lệ lỗi structured-output 21,70% cho endpoint miễn phí ngày 12 tháng 11. Hãy kiểm tra tính hợp lệ của mọi phản hồi.
  • Đầu vào hình ảnh. Mô hình chỉ xử lý văn bản; chính ghi chú benchmark của Baidu cho biết khả năng hiểu ảnh được bổ sung bằng công cụ bên ngoài.
  • SLA cho môi trường production. Preview là một checkpoint chưa hoàn thiện do duy nhất một nhà cung cấp vận hành.

Dùng agent lập trình của bạn để kiểm thử ERNIE 5.5 Flash với Apidog CLI

Tỷ lệ lỗi structured-output 21,70% chính là lý do bạn cần kiểm tra cấu trúc phản hồi trước khi xây dựng trên đó. Hãy để Claude Code, Codex hoặc Cursor tạo endpoint và test case bằng Apidog CLI.

Thiết lập một lần:

npm install -g apidog-cli@latest
apidog auth login --with-token <YOUR_APIDOG_TOKEN>
apidog skill install
Enter fullscreen mode Exit fullscreen mode

Sau đó đưa cho agent của bạn một prompt duy nhất:

In Apidog project <projectId>, create an environment "openrouter" with base URL
https://openrouter.ai/api/v1 and my OpenRouter key as a variable. Add a POST
/chat/completions endpoint for model baidu/ernie-5.5-flash-preview:free.
Create a test case that asserts HTTP 200, choices[0].message.content is a
non-empty string, and usage.total_tokens is a number. Run it and summarize failures.
Enter fullscreen mode Exit fullscreen mode

Agent kiểm tra từng payload against schema CLI trước khi ghi bất kỳ thứ gì:

apidog environment create openrouter --project <projectId> --base-url https://openrouter.ai/api/v1
apidog cli-schema get endpoint-create
apidog cli-schema validate endpoint-create --file endpoint.json
apidog endpoint create --project <projectId> --file endpoint.json
apidog test-case category --project <projectId>
apidog cli-schema validate test-case-create --file case.json
apidog test-case create --project <projectId> --file case.json
apidog run --test-case <caseId> --project <projectId> -e <envId> -r cli,json
Enter fullscreen mode Exit fullscreen mode

Đổi base URL thành endpoint Qianfan hoặc vLLM cục bộ của bạn, và cùng test case đó vẫn kiểm tra được cả hai. Để chạy nó ở mỗi lần commit, thêm -r junit và làm theo hướng dẫn CI/CD với Apidog CLI. Mới dùng CLI? Bắt đầu với Apidog CLI trong Claude Code. Apidog Free hỗ trợ tối đa 4 người dùng, hãy tải Apidog và thử ngay trên dự án của bạn.

Câu hỏi thường gặp

ERNIE 5.5 Flash có phải là open source không? Một phần. Trọng số Base được công khai theo giấy phép riêng của Baidu, miễn phí cho mục đích thương mại nếu doanh thu hàng năm liên quan không vượt quá 50 triệu USD. Trọng số Preview được cam kết mở nguồn theo Apache 2.0 "sớm ra mắt".

Sự khác biệt giữa ERNIE 5.5 Flash Preview và Base là gì? Base là checkpoint tiền huấn luyện thô dùng cho fine-tuning. Preview là mô hình chat và agent đã qua hậu huấn luyện, được gọi qua API. Cả hai đều có 280B tham số tổng và 14B hoạt động.

ERNIE 5.5 Flash có miễn phí không? Preview miễn phí trên OpenRouter dưới tên baidu/ernie-5.5-flash-preview:free, kèm giới hạn tốc độ. Base miễn phí để tải xuống. Tính đến ngày 12 tháng 11, 2026, Baidu chưa công bố giá trả phí theo token trên trang chính thức nào.

Cửa sổ ngữ cảnh của ERNIE 5.5 Flash lớn đến đâu? 1 triệu token: 1.024.000 cho Preview trên OpenRouter và 1.048.576 trong cấu hình Base, dù Base chỉ được huấn luyện tới tối đa 128K.

Có thể chạy ERNIE 5.5 Flash cục bộ không? Base thì được, bằng vLLM kèm plugin vLLM-ERNIE hoặc SGLang trên node nhiều GPU. Preview chưa thể chạy cục bộ cho đến khi Baidu công bố trọng số.

ERNIE 5.5 Flash có hỗ trợ hình ảnh không? Không. Cả hai phiên bản đều là mô hình chỉ xử lý văn bản.

Top comments (0)