DEV Community

Cover image for Apa Itu ERNIE 5.5 Flash?
Walse
Walse

Posted on Originally published at apidog.com

Apa Itu ERNIE 5.5 Flash?

Apa itu ERNIE 5.5 Flash? Model MoE 280B Baidu dengan Konteks 1M Token

Apa itu ERNIE 5.5 Flash? Ini adalah keluarga model open-weight terbaru dari Baidu: model bahasa sparse mixture-of-experts (MoE) dengan total 280B parameter, 14B parameter aktif per token, dan jendela konteks 1M token. Model ini dirilis dalam dua artefak terpisah. ERNIE 5.5 Flash Base (5 November 2026) adalah checkpoint pretraining mentah yang tersedia di Hugging Face. ERNIE 5.5 Flash Preview (11 November 2026) adalah model chat dan agen hasil post-training, tersedia sebagai API di Baidu Qianfan dan sebagai endpoint gratis di OpenRouter.

Coba Apidog hari ini

Apa itu ERNIE 5.5 Flash?

ERNIE 5.5 Flash adalah model bahasa sparse MoE berparameter 280B dari Baidu yang mengaktifkan 14B parameter per token dan mendukung konteks 1M token. Model ini hanya mendukung teks, dilatih dari nol dengan 33,5T token, dan dirancang untuk coding, tugas agenik, pekerjaan berbasis pengetahuan, serta dokumen panjang. Model ini hadir sebagai checkpoint Base dan versi Preview hasil post-training.

ERNIE 5.5 Flash

Daya jual utama Baidu adalah efisiensi. Halaman rilis Base menyatakan bahwa setiap komponen didesain ulang untuk menyeimbangkan kemampuan dengan komputasi aktif, ukuran KV cache, dan biaya konteks panjang. Halaman Preview menyebut hasilnya "kuat dalam coding, pemodelan 3D, pekerjaan berbasis pengetahuan, dan pembuatan konten."

Model ini merupakan penerus ERNIE 5.1; untuk latar belakang, lihat Apa itu ERNIE 5.1 dan panduan API ERNIE 5.1.

ERNIE 5.5 Flash Preview vs Base

Penamaannya sering membingungkan, jadi berikut perbandingannya:

ERNIE 5.5 Flash Base ERNIE 5.5 Flash Preview
Rilis 5 November 2026 11 November 2026
Apa itu Checkpoint akhir pretraining, tanpa mid- atau post-training Model pertama hasil post-training yang dibangun di atas Base, sebuah checkpoint antara
Gunakan untuk Fine-tuning, adaptasi domain, riset RL Chat, agen coding, pemanggilan tool
Cara memanggilnya Self-host; hanya endpoint completions API Qianfan, OpenRouter baidu/ernie-5.5-flash-preview:free
Bobot model Publik di Hugging Face (FP8 dan BF16) Belum publik; Baidu mengatakan Apache 2.0 "segera"
Lisensi ERNIE 5.5 Flash Base Model License v1.0 Apache 2.0 dijanjikan, belum dipublikasikan
Ukuran 280B total, 14B aktif 280B total, 14B aktif
Konteks 128K saat training, 1M untuk fine-tuning dan inferensi 1.024.000 token di OpenRouter

Diagram comparing ERNIE 5.5 Flash Base and Preview

Aturannya: untuk mengobrol dengan model atau menghubungkannya ke agen coding, gunakan Preview. Untuk melatih model Anda sendiri dari titik awal pretrained yang kuat, gunakan Base. Base tidak di-tune untuk instruksi, jadi ia tidak akan mengikuti prompt percakapan.

Baidu terbuka bahwa Preview masih belum selesai. Halaman rilis menyebutnya "checkpoint antara dari post-training" dan menyatakan "beberapa kemampuan mungkin masih kurang" hingga rilis resminya keluar.

Arsitektur ERNIE 5.5 Flash

Berikut bagian-bagian dari dokumentasi teknis Baidu yang penting bagi Anda sebagai pengguna.

Hybrid sparse attention

Model ini memiliki 43 lapisan Transformer. Hanya 6 di antaranya (sekitar satu dari tujuh) yang mempertahankan akses tingkat token ke seluruh konteks, menggunakan Multi-head Latent Attention (MLA) dengan sparse attention (DSA). 37 lapisan lainnya menggunakan Heavily Compressed Attention (HCA), yang memadatkan setiap 128 token menjadi satu entri cache dan melakukan attention atas entri-entri tersebut ditambah jendela pendek token terkini.

Mengapa ini penting bagi Anda: KV cache tetap kecil, sehingga konteks 1M token lebih murah untuk dilayani daripada yang disarankan jumlah parameternya. Baidu menyatakan sparse attention pada lapisan MLA menjaga biaya per-query dari core attention tetap konstan seiring bertambahnya konteks.

Multi-Router latent MoE

Lapisan MoE biasa menggunakan satu router untuk memilih top-k expert-nya. ERNIE 5.5 Flash menggunakan beberapa router yang diinisialisasi secara independen dan menilai expert secara bersamaan, yang menurut Baidu mengoreksi pilihan expert yang buruk yang akan diperkuat oleh router tunggal. Setiap lapisan MoE memuat 512 routed expert (10 aktif per token) ditambah 1 shared expert, yang berjalan dalam ruang laten berdimensi 2048 untuk memangkas komputasi dan trafik expert sekitar setengahnya.

Perubahan lainnya

  • MultiMax output head: suhu softmax piecewise yang dapat dipelajari.
  • ECHO alih-alih MTP: lapisan akhir memprediksi token mendatang dan berfungsi ganda sebagai draft model untuk speculative decoding.
  • Tokenizer: sekitar 200K entri, dengan angka yang dipecah dari kanan ke kiri dalam kelompok tiga digit.

Architecture diagram of ERNIE 5.5 Flash

Benchmark ERNIE 5.5 Flash

Semua angka di bawah ini adalah milik Baidu sendiri, berasal dari halaman rilisnya. Banyak skor perbandingan membawa tanda bintang dari Baidu, artinya Baidu menjalankan evaluasinya sendiri alih-alih mengutip lab lain.

Preview (hasil post-training), baris terpilih dari tabel Baidu:

Benchmark ERNIE 5.5 Flash Preview DeepSeek-V4.1-Flash GPT-6.1 Sol Claude Opus 5.5
Terminal-Bench 4.0 46.5 42.3 56.1 66.4
DeepSWE v1.1 71.2 77.0 75.2 74.2
MCP-Atlas 84.6 77.8 81.0 84.2
AutomationBench 61.9 60.5 49.3 58.0
BrowseComp 87.4 80.3 87.5 90.8
HLE (tanpa tools, hanya teks) 46.4 44.0 52.9 61.4

Baca hasilnya secara jujur: Preview mengungguli kelas ukurannya pada beberapa tes agen dan pekerjaan berbasis pengetahuan (MCP-Atlas, AutomationBench, SpreadsheetBench) dan tertinggal dari model frontier pada coding agenik yang sulit seperti Terminal-Bench. Ia berada di bawah DeepSeek-V4.1-Flash pada DeepSWE. Untuk perbandingan langsung dengan DeepSeek, lihat artikel terkait ERNIE 5.5 Flash vs DeepSeek V4.1 Flash, dan penjelasan DeepSeek V4.1 Flash kami untuk sisi sebaliknya.

Base (pretrained), dibandingkan dengan base model berukuran serupa: Baidu melaporkan MMLU-Pro 78,4 vs 69,2 untuk DeepSeek-V4-Flash-Base, HumanEval+ 82,3 vs 69,5, LiveCodeBench 40,1 vs 31,9, dan LongBench-v2 48,7 vs 44,5. Ia kalah di beberapa baris, seperti InfiniteBench. Tabel lengkapnya ada di model card Hugging Face.

Soal kecepatan, deskripsi OpenRouter menyebutkan "lebih dari 200 token per detik." Dasbor 3 hari OpenRouter sendiri pada 12 November menunjukkan throughput P50 sebesar 79 token per detik di endpoint gratis, yang merupakan trafik bersama, jadi anggap saja angka Anda akan bervariasi.

Cara mengakses ERNIE 5.5 Flash

Ada tiga jalur yang tersedia saat ini:

  1. OpenRouter (gratis, Preview): panggil baidu/ernie-5.5-flash-preview:free melalui API kompatibel OpenAI milik OpenRouter. Baidu Qianfan adalah satu-satunya provider, dan halaman model mencantumkan $0 untuk input dan output. Endpoint gratis dibatasi rate limit sesuai dokumen limit OpenRouter. Panduan lengkap ada di artikel terkait panduan gratis ERNIE 5.5 Flash.
  2. Baidu Qianfan (Preview): API resmi, ditautkan dari halaman rilis Baidu. Lihat panduan API ERNIE 5.5 Flash untuk pengaturan request.
  3. Hugging Face (hanya Base): unduh bobot FP8 atau BF16 dan jalankan dengan vLLM (ditambah plugin vLLM-ERNIE) atau SGLang. Contoh Baidu menggunakan paralelisme 4 arah pada node multi-GPU. Langkah demi langkah di menjalankan ERNIE 5.5 Flash secara lokal dengan vLLM.

Panggilan OpenRouter minimal terlihat seperti ini:

curl https://openrouter.ai/api/v1/chat/completions \
  -H "Content-Type: application/json" \
  -H "Authorization: Bearer $OPENROUTER_API_KEY" \
  -d '{
    "model": "baidu/ernie-5.5-flash-preview:free",
    "messages": [{"role": "user", "content": "Explain MoE routing in two sentences."}]
  }'
Enter fullscreen mode Exit fullscreen mode

OpenRouter menyatakan endpoint ini menerima tools, tool_choice, response_format dengan skema JSON, serta parameter reasoning. Jika Anda lebih suka mengendalikannya dari agen terminal, artikel terkait tentang ERNIE 5.5 Flash di OpenCode secara gratis membahas pengaturan tersebut.

Lisensi ERNIE 5.5 Flash: apa yang boleh dan tidak boleh dilakukan

Kedua artefak memiliki ketentuan yang berbeda, dan perbedaannya penting jika Anda berencana meluncurkan produk.

Base menggunakan ERNIE 5.5 Flash Base Model License Agreement v1.0, bukan Apache 2.0. Singkatnya:

  • Penggunaan non-komersial (riset, pendidikan, evaluasi, eksperimen pribadi) gratis tanpa pemberitahuan.
  • Penggunaan komersial gratis jika pendapatan tahunan produk terkait berada di atau di bawah US$50 juta, asalkan Anda mengirimkan pemberitahuan penggunaan satu kali kepada Baidu dan menampilkan "Powered by ERNIE".
  • Di atas US$50 juta, Anda memerlukan otorisasi tertulis terpisah dari Baidu sebelum memulai.

Preview belum memiliki bobot yang dipublikasikan maupun berkas lisensi. Baidu menyatakan bobotnya "akan di-open-source di bawah Apache 2.0 segera" tetapi tidak memberikan tanggal. Sampai berkas itu ada, perlakukan Preview sebagai API-only.

Siapa yang sebaiknya menggunakan ERNIE 5.5 Flash?

  • Tim yang menjalankan agen dengan anggaran terbatas. Endpoint OpenRouter gratis dengan konteks 1M dan pemanggilan tool adalah cara murah untuk menguji loop agen.
  • Peneliti fine-tuning dan RL. Base adalah checkpoint akhir pretraining yang bersih, sesuatu yang jarang pada ukuran ini.
  • Beban kerja dokumen panjang. Desain compressed attention menargetkan input 1M token tanpa KV cache yang besar.

Kapan sebaiknya menahan diri:

  • Pipeline JSON yang ketat. Dasbor OpenRouter menunjukkan tingkat error structured-output sebesar 21,70% untuk endpoint gratis pada 12 November. Validasi setiap respons.
  • Input gambar. Model ini hanya mendukung teks; catatan benchmark Baidu sendiri menyebutkan pemahaman gambar disediakan oleh tool eksternal.
  • SLA produksi. Preview adalah checkpoint yang belum selesai dan dilayani oleh satu provider.

Minta agen coding Anda menguji ERNIE 5.5 Flash dengan Apidog CLI

Tingkat error structured-output sebesar 21,70% itulah alasan Anda perlu menguji bentuk respons sebelum membangun di atasnya. Biarkan Claude Code, Codex, atau Cursor membuat endpoint dan test case dengan Apidog CLI.

Siapkan sekali saja:

npm install -g apidog-cli@latest
apidog auth login --with-token <YOUR_APIDOG_TOKEN>
apidog skill install
Enter fullscreen mode Exit fullscreen mode

Lalu berikan satu prompt kepada agen Anda:

In Apidog project <projectId>, create an environment "openrouter" with base URL
https://openrouter.ai/api/v1 and my OpenRouter key as a variable. Add a POST
/chat/completions endpoint for model baidu/ernie-5.5-flash-preview:free.
Create a test case that asserts HTTP 200, choices[0].message.content is a
non-empty string, and usage.total_tokens is a number. Run it and summarize failures.
Enter fullscreen mode Exit fullscreen mode

Agen akan memeriksa setiap payload terhadap skema CLI sebelum menulis apa pun:

apidog environment create openrouter --project <projectId> --base-url https://openrouter.ai/api/v1
apidog cli-schema get endpoint-create
apidog cli-schema validate endpoint-create --file endpoint.json
apidog endpoint create --project <projectId> --file endpoint.json
apidog test-case category --project <projectId>
apidog cli-schema validate test-case-create --file case.json
apidog test-case create --project <projectId> --file case.json
apidog run --test-case <caseId> --project <projectId> -e <envId> -r cli,json
Enter fullscreen mode Exit fullscreen mode

Ganti base URL dengan endpoint Qianfan atau vLLM lokal Anda, dan test case yang sama juga akan memeriksanya. Untuk menjalankannya di setiap commit, tambahkan -r junit dan ikuti panduan CI/CD Apidog CLI. Baru mengenal CLI? Mulailah dengan Apidog CLI di Claude Code. Apidog Free mencakup hingga 4 pengguna, jadi unduh Apidog dan coba di proyek Anda sendiri.

FAQ

Apakah ERNIE 5.5 Flash open source? Sebagian. Bobot Base bersifat publik di bawah lisensi milik Baidu sendiri, gratis untuk penggunaan komersial hingga pendapatan tahunan terkait US$50 juta. Bobot Preview dijanjikan akan dirilis di bawah Apache 2.0 "segera".

Apa perbedaan antara ERNIE 5.5 Flash Preview dan Base? Base adalah checkpoint pretraining mentah untuk fine-tuning. Preview adalah model chat dan agen hasil post-training yang Anda panggil melalui API. Keduanya memiliki 280B parameter total dan 14B aktif.

Apakah ERNIE 5.5 Flash gratis? Preview gratis di OpenRouter sebagai baidu/ernie-5.5-flash-preview:free, dengan rate limit. Base gratis untuk diunduh. Baidu belum mempublikasikan harga per-token berbayar di halaman resmi per 12 November 2026.

Berapa besar jendela konteks ERNIE 5.5 Flash? 1M token: 1.024.000 untuk Preview di OpenRouter dan 1.048.576 di konfigurasi Base, meskipun Base dilatih hingga maksimal 128K.

Bisakah saya menjalankan ERNIE 5.5 Flash secara lokal? Untuk Base, ya, dengan vLLM ditambah plugin vLLM-ERNIE atau SGLang pada node multi-GPU. Preview belum bisa dijalankan secara lokal sampai Baidu mempublikasikan bobotnya.

Apakah ERNIE 5.5 Flash mendukung gambar? Tidak. Kedua versi hanya mendukung teks.

Top comments (0)