DEV Community: AI OpenFree

VIDRAFT's Darwin: Cross-Architecture Model Merging That Beats Brute-Force Scaling

AI OpenFree — Sun, 12 Jul 2026 11:01:22 +0000

VIDRAFT's Darwin: Cross-Architecture Model Merging That Beats Brute-Force Scaling

TL;DR: Darwin is VIDRAFT's evolutionary model-merging framework that combines the strengths of heterogeneous pretrained models — including architectures as different as Transformer and Mamba — without large-scale retraining. Built by a Seoul AI Hub startup, it has attracted international attention for delivering top-tier benchmark results under severe compute constraints. If you care about compute-efficient model development, this is worth watching.

What it is

Darwin is a model-merging technology developed by VIDRAFT, a Korean Pre-AGI AI startup operating under the Seoul AI Hub. The framework is grounded in an academic paper published on arXiv (arXiv:2605.14386) and has been covered by Zhiding Technology (至顶科技) — a Chinese IT publication with a 30-year lineage tracing back to ZDNet China — in an analysis article distributed via Tencent News.

The core proposition: you do not need to train a new model from scratch to get a better one. Instead, Darwin recombines latent capabilities already encoded in existing pretrained models. The framework is notable for being, according to the Chinese publication's assessment, the only publicly documented technique that supports cross-architecture merging — specifically demonstrated by fusing a Transformer-based model and a Mamba-based model into a single unified model called Darwin-4B-Genesis.

Darwin is positioned as a successor to Sakana AI's Evolutionary Model Merge (EvoMerge), extending that foundation with two new conceptual primitives: a 14-dimensional genome representation for describing model characteristics, and a MRI-based trust fusion mechanism for weighting how component models are blended.

How it works

At a high level, Darwin treats model merging as an evolutionary search problem:

Genome encoding: Each candidate model (or model component) is described along 14 dimensions that characterize its capabilities and behavior. Think of this as a structured "fingerprint" of what a model knows and how it reasons.
Trust-weighted fusion (MRI fusion): Rather than naively averaging or interpolating model weights, Darwin uses a reliability signal — analogous to medical MRI contrast — to decide how much to trust each source model's contribution in a given parameter region.
Cross-architecture support: Unlike most merging approaches that require identical architectures, Darwin can merge models with structurally different designs (e.g., attention-based Transformers and state-space Mamba models) into a coherent output model.
No large-scale retraining required: The merge process itself is the primary compute step. The result is a model that inherits composite strengths without going through a full pretraining or even a heavy fine-tuning cycle.

This matters practically because it decouples model capability from raw compute spend — capability can grow through methodological sophistication rather than just through larger GPU clusters.

Benchmarks & results

All figures below come directly from the source article:

GPQA Diamond (science reasoning): Darwin-398B-JGOS scored 90.9% on this hard science reasoning benchmark.
K-AI Leaderboard: The JGOS-31B-Citizen model reached #1 overall on the K-AI leaderboard, a Hugging Face-recognized evaluation.
Polaris (drug discovery): Darwin-family models achieved 14 top rankings across major molecular property prediction categories including efficacy, solubility, toxicity, anti-cancer activity, kinase activity, and ADME properties.
Metacognition / trap-question avoidance: 99.5% trap-question avoidance rate in metacognitive evaluation.
Hugging Face downloads: Cumulative downloads across official and community-derived Darwin-ecosystem models have exceeded 1 million.
Compute footprint for Darwin-27B-Opus: Produced in approximately 5 hours using a compute cluster of limited scale — reported as a top-tier science reasoning model at its release.

How to try it

Darwin-family models are publicly available on Hugging Face. You can browse and download models from VIDRAFT's Hugging Face profile. The source article confirms the ecosystem includes both official VIDRAFT releases and community-derived variants.

To explore available models:

# Search for VIDRAFT Darwin models on Hugging Face
huggingface-cli search vidraft

For direct model downloads, use the standard Hugging Face Hub workflow:

pip install huggingface_hub

from huggingface_hub import snapshot_download
# Replace with the specific Darwin model ID you want
snapshot_download(repo_id="vidraft/<model-name>")

The arXiv paper (arXiv:2605.14386) is publicly accessible and provides the technical foundation for the approach. No API endpoint or GitHub repository URL was cited in the source article, so those are not listed here.

FAQ

Q: How is Darwin different from standard model merging techniques like SLERP or TIES-Merging?
A: Most standard merging methods assume architecturally identical models and use relatively simple interpolation strategies. Darwin's distinguishing claims are its 14-dimensional genome encoding for structured capability representation and its MRI-based trust fusion for non-uniform blending — and crucially, its documented ability to merge models with different underlying architectures (Transformer + Mamba), which existing methods do not support.

Q: Does Darwin require retraining after the merge?
A: According to VIDRAFT, large-scale retraining is not required. The merge process itself produces the output model, which is the key compute efficiency claim — Darwin-27B-Opus was reportedly produced in roughly 5 hours rather than through a multi-week distributed training run.

Q: What domains is Darwin being targeted at beyond general reasoning?
A: The source article cites science reasoning, drug discovery, quantum computing applications, cryptanalysis, AI inference acceleration, autonomous AI agents, and security as target domains for Darwin-family model expansion.

Q: Is the underlying paper peer-reviewed?
A: As of the source article's publication date, the Darwin paper (arXiv:2605.14386) is available as an arXiv preprint. Peer-review status was not specified in the source.

Originally reported by IT조선 (2026-07-08) — source article.

How a Sparse 35B MoE Runs on a CPU: Active Params, Memory Bandwidth, and a Reproducible Benchmark

AI OpenFree — Sun, 12 Jul 2026 07:34:12 +0000

How a Sparse 35B MoE Runs on a CPU: Active Params, Memory Bandwidth, and a Reproducible Benchmark

Most "runs on your laptop" LLM claims quietly mean a 7B model. This one is a 34.7B reasoning model — and it also runs on a GPU-less CPU. The interesting part isn't the marketing; it's why the numbers are possible, and that you can reproduce them.

I looked at VIDRAFT's Ourbox-35B-JGOS (served by their proprietary VKUE engine) using only the public model, demos, and leaderboard.

The one-file benchmark

Same GGUF weights, measured across a four-orders-of-magnitude hardware range:

Hardware	tok/s
B200 (data center)	18,057
A10G ×1 (cloud)	126
8GB gaming laptop	20
CPU, no GPU	~17

Why it works: memory bandwidth, not FLOPs

Autoregressive decoding is memory-bandwidth bound — the bottleneck is bytes read per token, not compute. For a dense model you stream every weight per token; for a sparse Mixture-of-Experts (MoE) you stream only the active experts.

Ourbox-35B: 34.7B total, ~3B active (think "8 of 256 experts routed per token").

Back-of-envelope bytes per token, same quantization:

Dense 34B: ~16.7 GB/token
Sparse (~3B active): ~1.45 GB/token → ~11× less memory traffic

That ratio is the whole story: park the cold experts in cheap RAM, keep the hot path on whatever accelerator you have (or none), and an 8GB card — or a CPU — is enough.

Isolating the variable: A/B vs a dense 32B

Speed comparisons usually confound size, quantization, and hardware. VIDRAFT published a controlled A/B — same laptop, same quantization, near-identical file size — so the only variable is active-parameter count:

Model	Active params	tok/s
Ourbox-35B (MoE)	~3B	20.01
Qwen2.5-32B (dense)	32.8B	5.36

3.7× from sparsity alone.

Fast ≠ dumb

The obvious objection is quality. Public score: GPQA Diamond 86.4% (maj@8) — graduate-level science reasoning, with the method label included so you can compare apples to apples.

Reproduce it yourself

This is the part that matters for engineers: you don't have to trust the table. The model (GGUF), two live demos, and the efficiency leaderboard are public. Run the same prompt on GPU and CPU in the demo and watch the live tok/s. GGUF plus a standard 3-bit quant (Q3_K_M) is the worst-case config; a full 24GB card pushes the same weights to 87–196 tok/s.

Honest limits (stated, not hidden)

Numbers are per-machine measurements, not guarantees; long contexts slow everything.
CPU at ~17 tok/s proves "it runs," not "it's fast." This is not "CPU beats GPU."
The laptop/CPU figures are the 3-bit worst case.
The whole trick is contingent on MoE sparsity — it does not transfer to a dense 34B.
The VKUE serving engine itself is closed; what's open and verifiable is the model, the demos, and the numbers.

VKAE vs VKUE

VIDRAFT ships two serving profiles: VKAE (maximum throughput on data-center GPUs — the B200 18,057 tok/s) and VKUE (minimum-hardware reach — laptop/CPU). Different objectives: throughput vs access.

VKAE: VIDRAFT's Kernel-Level LLM Inference Acceleration Engine Delivers Up to 23.4 Throughput Gains

AI OpenFree — Sun, 12 Jul 2026 00:48:30 +0000

VKAE: VIDRAFT's Kernel-Level LLM Inference Acceleration Engine Delivers Up to 23.4× Throughput Gains

TL;DR: VIDRAFT has released VKAE (Vidraft Kernel Acceleration Engine), a hardware-layer inference acceleration engine designed to dramatically increase LLM serving throughput without degrading output quality. By optimizing at the kernel level — the execution layer closest to the GPU hardware — VKAE claims up to 23.4× throughput improvement over standard serving methods on the same GPU environment. It ships as a self-contained Docker container with OpenAI-compatible API support, making it directly testable on your own hardware.

What it is

VKAE — short for Vidraft Kernel Acceleration Engine — is VIDRAFT's inference acceleration layer for large language models. Unlike approaches that modify the model architecture or the application logic, VKAE operates at the kernel level: the lowest software layer before hardware execution, where individual token-generation operations are actually scheduled and dispatched.

Key characteristics based on the public release:

Scope: Targets the inference/serving bottleneck, not model training or fine-tuning.
Goal: Increase token throughput per GPU without changing model weights or degrading response quality.
Packaging: Ships as an integrated Docker container — model weights, serving environment, runtime optimizations, and kernel-level enhancements are bundled together in a single executable package.
API surface: Exposes an OpenAI-compatible API, allowing drop-in integration with existing AI applications built against that interface standard.
Scale coverage: Optimizations have been validated on JGOS-398B, a very large-scale model, confirming the engine targets high-parameter serving scenarios — not only compact model deployments.
Leaderboard: VIDRAFT has published a public performance leaderboard to enable external verification.
Proprietary internals: The internal kernel implementation remains closed-source, but the container and leaderboard are publicly available for independent benchmarking.

How it works

VKAE's core design philosophy is to push optimization as close to the hardware execution boundary as possible. At a high level:

Kernel-layer intervention: Standard LLM serving stacks (like vLLM or TGI) operate primarily at the model and runtime orchestration levels. VKAE instead focuses on the operations executed during token generation at the kernel layer — the point where GPU compute instructions are issued, memory transactions occur, and parallelism is managed.
Throughput vs. quality separation: The engine is designed so that acceleration gains do not affect output quality. The optimization target is the computational path, not the numerical precision or sampling logic of the model itself.
Container-first distribution: Rather than publishing a library that developers integrate into their own stack, VIDRAFT ships VKAE as a pre-configured Docker image. This means the serving environment, optimized runtime, model, and weights arrive as a coherent unit — eliminating dependency configuration overhead and making benchmark reproduction on proprietary GPU hardware straightforward.
Large-model applicability: At the scale of JGOS-398B parameters, memory bandwidth, inter-device parallelism, and per-kernel latency become the dominant cost factors. Even marginal kernel-level improvements compound significantly at this scale, which is part of what makes a kernel-focused approach particularly relevant for frontier-scale serving.
OpenAI-compatible API layer: VKAE surfaces the standard OpenAI chat/completions API format, meaning any application already calling OpenAI endpoints can be redirected to a VKAE-powered instance with minimal or no changes to application code.

Benchmarks & results

VIDRAFT has publicly reported the following performance figure:

Up to 23.4× throughput increase compared to standard serving methods in the same GPU environment.

This figure represents the upper bound of the reported range under the company's own testing conditions. The comparison baseline is described as "standard serving methods" on equivalent GPU hardware. VIDRAFT has also published an external-facing leaderboard to allow third-party verification — the stated intent being to shift the credibility of performance claims from declared benchmarks to reproducible results on real infrastructure.

No additional granular benchmark breakdowns (per-model, per-batch-size, latency percentiles) are included in this source. Independent reproduction via the Docker container is the recommended verification path.

How to try it

Access is available through the integrated Docker container that VIDRAFT has publicly released. The container bundles everything needed to run and benchmark VKAE on your own GPU hardware. Once running, it exposes an OpenAI-compatible API endpoint, so you can point any OpenAI SDK client at your local instance.

A generic test call against an OpenAI-compatible local endpoint would follow the standard format — for example, using curl against your deployed container's host and port with the standard /v1/chat/completions path and a JSON body. No VIDRAFT-specific API keys or custom request schemas are required beyond what the OpenAI API format already defines.

For the latest container image, leaderboard access, and official documentation, refer to VIDRAFT's official channels. Specific registry URLs and image tags should be confirmed directly from VIDRAFT's official site or their published release materials.

FAQ

Q: Does VKAE require changes to my model weights or architecture?
A: No. VKAE operates at the kernel and runtime level. Your model weights and architecture remain unchanged; the acceleration is applied to the execution path during inference.

Q: Can I use VKAE if my app is already built on the OpenAI SDK?
A: Yes. VKAE exposes an OpenAI-compatible API, so existing applications using the OpenAI client libraries can be redirected to a VKAE-powered endpoint with minimal integration work — typically just a base URL change.

Q: Is the kernel implementation open-source?
A: No. VIDRAFT has kept the internal kernel optimizations proprietary. However, the Docker container and performance leaderboard are publicly available, enabling external verification of throughput claims on your own hardware.

Q: Is VKAE only useful for very large models like JGOS-398B?
A: The engine is positioned for general LLM serving, but VIDRAFT has explicitly validated it at the JGOS-398B scale — demonstrating that it addresses the memory, parallelism, and latency challenges specific to very large model deployments, not just compact models.

Originally reported by iHAL (이탈리아) (2026-07-09) — source article.

VIDRAFT Releases VKAE: An LLM Inference Acceleration Engine with Public Leaderboard and Unified Container

AI OpenFree — Sat, 11 Jul 2026 11:00:44 +0000

VIDRAFT Releases VKAE: An LLM Inference Acceleration Engine with Public Leaderboard and Unified Container

TL;DR: VIDRAFT, a Korean Pre-AGI AI startup, has publicly released VKAE — an LLM inference acceleration engine — along with a public leaderboard and a unified container deployment package. The release targets developers and ML engineers who need faster, more efficient LLM serving without building acceleration infrastructure from scratch. If you're running LLM inference at scale and want a drop-in performance layer, this is worth your attention.

What it is

VKAE (VIDRAFT Knowledge Acceleration Engine) is VIDRAFT's purpose-built inference acceleration engine for large language models. The 2026-07-09 announcement marks two concrete public deliverables:

A public leaderboard — a benchmarking surface where VKAE's inference performance can be evaluated and compared against other serving solutions
A unified container — a packaged deployment artifact designed to lower the operational barrier for integrating VKAE into existing ML infrastructure

This is a production-facing release, not a research preview. The combination of a leaderboard and a containerized distribution signals that VIDRAFT is positioning VKAE as an engine developers can evaluate rigorously and deploy directly — rather than a whitepaper result that lives only on a slide deck.

How it works

At a conceptual level, LLM inference acceleration engines like VKAE operate by optimizing the bottlenecks that make serving large transformer-based models slow and expensive. The typical target areas in this class of system include:

Attention computation efficiency — reducing the quadratic cost of attention across long context windows
KV-cache management — smarter scheduling and memory layout for the key-value cache that dominates GPU memory during generation
Kernel-level optimizations — replacing default framework operations (e.g., PyTorch eager mode) with fused or otherwise optimized low-level kernels
Batching and scheduling strategies — continuous batching and dynamic request scheduling to maximize hardware utilization across concurrent inference requests

The "unified container" approach suggests VIDRAFT is packaging the engine, its dependencies, and likely an API-compatible serving layer into a single deployable unit. This is consistent with a broader industry pattern of making inference engines accessible without requiring engineers to hand-wire acceleration libraries to model weights themselves.

The public leaderboard implies standardized evaluation conditions — meaning the performance claims are reproducible by third parties, which is a meaningful credibility step beyond vendor-reported numbers alone.

Benchmarks & results

The source article does not provide specific quantitative benchmark figures (e.g., tokens/second, latency percentiles, or throughput comparisons against named baselines) in the available excerpt. The leaderboard itself is the mechanism through which public performance data will be surfaced.

Qualitatively, the decision to publish a leaderboard rather than a static whitepaper suggests confidence in transparent, reproducible evaluation. Developers should visit the leaderboard directly to review current numbers as they are populated — these figures will be more meaningful than any static snapshot reported here.

⚠️ Note: This article will be updated as public benchmark data becomes available through VIDRAFT's official channels.

How to try it

Based on the announcement, VIDRAFT has released a unified container for VKAE. The source article does not include specific public URLs, Hugging Face repository paths, GitHub links, or confirmed API endpoint details in the available excerpt.

To access VKAE when it becomes publicly available, developers should monitor:

VIDRAFT's official website for container registry links or download instructions
Hugging Face (huggingface.co/vidraft) for any model or artifact hosting under their namespace
GitHub for open-source components, if any are released under a public license
The public leaderboard as the primary surface for evaluating performance before committing to integration

Once a public OpenAI-compatible API endpoint is confirmed, a standard health-check pattern would look like:

curl https://<confirmed-public-endpoint>/v1/models \
  -H "Authorization: Bearer $YOUR_API_KEY"

Do not use the above until VIDRAFT publishes an official endpoint — the placeholder is illustrative of the pattern only.

FAQ

Q: Is VKAE a model, or is it an inference serving layer?
A: VKAE is an inference acceleration engine — it is the serving infrastructure layer, not a model itself. It is designed to accelerate the execution of existing LLMs, similar in category to systems like vLLM or TensorRT-LLM, rather than being a new foundation model.

Q: What deployment target does the unified container support?
A: The source announcement confirms a unified container exists but does not specify the target runtime (e.g., Docker, Kubernetes, specific cloud environments). Check VIDRAFT's official release documentation for supported platforms and hardware requirements before planning a deployment.

Q: How does the public leaderboard help me evaluate VKAE for my use case?
A: A public leaderboard with standardized evaluation conditions lets you compare VKAE's throughput, latency, and efficiency metrics against other inference engines under reproducible test scenarios. This is more actionable than vendor-only numbers because the methodology is open to scrutiny — you can assess whether the benchmark workloads resemble your production traffic patterns before investing in integration.

Q: Is VKAE open source?
A: The source article does not confirm an open-source license for VKAE. The unified container release may be a binary distribution rather than a source-available release. Confirm licensing terms through VIDRAFT's official channels before assuming open-source availability.

Originally reported by MSN (2026-07-09) — source article.

VIDRAFT Releases "Building": An AI Architectural Design Service Powered by Darwin-398B — Free Open Research Preview

AI OpenFree — Sat, 11 Jul 2026 08:51:21 +0000

VIDRAFT Releases "Building": An AI Architectural Design Service Powered by Darwin-398B — Free Open Research Preview

TL;DR: VIDRAFT has launched Building (빌딩), a free open-research-preview architectural design service driven by its in-house Darwin-398B model. Given a single natural-language prompt, it generates KS-standard floor plans with compliance checks, exportable CAD/BIM files, and real-time cost estimates — no architectural software expertise required. Developers and AEC professionals can sign up now for the preview.

What it is

Building is a domain-specific AI service built on top of VIDRAFT's Darwin-398B foundation model, targeting the early-stage, high-iteration work that architects and developers do before a project is even formally commissioned. The service ships in two distinct modes:

Unit Design (세대 설계): Accepts a single Korean natural-language description (e.g., "84 m² apartment, 3 bedrooms, south-facing living room, open-plan kitchen") and produces a complete floor plan that conforms to KS F 1501 (Korean Standard for Architectural Drawing), the national standard for architectural representation.
Site Design (대지 설계): Accepts a Korean cadastral address (지번) and automatically pulls public land data from the Ministry of Land's V-World open-data API, then generates a compliant 3D building mass in roughly 3 seconds.

Output formats for Unit Design include:

AutoCAD-compatible DXF drawings
A3 PDF drawing sheets
IFC models (compatible with major BIM software)
Room-level quantity takeoffs in Excel (적산/물량산출서), including rough construction cost estimates

How it works

Unit Design pipeline

At a conceptual level, the service runs a parallel multi-draft generation step: given a natural-language requirement, Darwin-398B produces several candidate floor plans simultaneously. A separate AI reviewer component then scores and selects the best candidate automatically — so the "best" result surfaces without manual comparison.

Beyond the AI selection step, six categories of rule-based automated compliance checks run against every output, each citing the relevant legal clause:

Building Act abridged review (daylighting, ventilation, minimum habitable area)
Fire safety review (extinguisher walking distance, refuge space, evacuation routes)
Barrier-free (BF) accessibility
Design KPIs
Rough construction cost
AI quality audit

Critically, the spatial layout quality score — which evaluates zoning, privacy, solar orientation, circulation, and proportions — is computed via deterministic, rule-based logic, not AI self-evaluation. This is an intentional design choice to make the score reproducible and auditable.

Completed plans can be visualized in 3D, walked through in a first-person "walk mode," tested with seasonal/time-of-day solar shadow simulation, and rendered into photorealistic images via AI rendering.

Site Design pipeline

When a cadastral address is entered, the system queries V-World to retrieve zoning class, parcel boundary, parcel area, and land value. Building coverage ratio (건폐율) and floor-area ratio (용적률) legal ceilings are then applied — not as warning labels, but as geometric constraints: the building footprint is mathematically capped so it cannot exceed the coverage ratio, and in residential zones, the north solar access setback angle (Building Act Enforcement Decree Article 86) physically slices the upper floors of the generated mass, producing the characteristic stepback profile seen in Korean apartment towers.

A FAR slider lets users adjust floor-area ratio in real time, with floor count, gross floor area, rough cost, and estimated unit count recalculating live.

Surrounding buildings are rendered at their actual heights so that view openings and solar impact can be assessed in context. Regulatory checklists (e.g., sprinklers above 6 floors, emergency elevators above 31 m) are surfaced automatically with statutory citations.

Benchmarks & results

No third-party benchmark scores are published for this preview release. VIDRAFT shared one demonstrative result from a commercial parcel in Gangnam-gu, Seoul:

At FAR 1,300% → 17 floors, ~54,000 m² gross floor area
At FAR 650% → 9 floors, ~27,000 m² gross floor area

The gray mass can be converted to a photorealistic aerial render (day/dusk/night) in approximately 15 seconds, and a land parcel lookup completes in approximately 3 seconds. These are figures cited by VIDRAFT for illustrative purposes in the preview announcement.

How to try it

Building is available as a free open research preview — VIDRAFT is actively collecting feedback from testers. Access appears to be web-based. No Hugging Face model weights, GitHub repository, or OpenAI-compatible API endpoint has been announced for this release. To join the preview:

Visit VIDRAFT's official channels for sign-up details (check vidraft.ai or their announcement pages).
The open research preview is free of charge at this stage.

No pip install, huggingface-cli, or API curl commands are available at this time — the service is accessed through a web interface.

FAQ

Q: Are the outputs legally valid architectural drawings?
A: No. VIDRAFT explicitly labels all outputs as conceptual design reference materials with no legal standing. Building coverage ratio and FAR figures also reflect statutory national ceilings — local municipal ordinances may impose stricter limits and must be verified separately.

Q: Is Darwin-398B available as a standalone model (weights / API)?
A: Not announced as part of this release. Darwin-398B currently powers the Building service backend; no public model weights or standalone API have been disclosed.

Q: Can the service handle non-Korean addresses or international building codes?
A: Based on the current announcement, the service is scoped to Korean cadastral addresses (via V-World) and Korean standards (KS F 1501, Korean Building Act). International jurisdiction support has not been announced.

Q: What file formats can I export?
A: DXF (AutoCAD-compatible), PDF (A3 drawing sheets), IFC (BIM-compatible), and Excel quantity takeoff sheets — all available for download directly from the web interface.

Originally reported by 지디넷코리아 (2026-07-10) — source article.

한국의 어떤 AI 기술을 왜 중국과 러시아에서 주목하는지 분석

AI OpenFree — Tue, 07 Jul 2026 13:16:04 +0000

낯선 언어로 우리 이름을 처음 봤을 때의 기분을, 어떻게 설명해야 할까.

2026년 5월, 베이징. 중국 최대 포털 텐센트 뉴스(腾讯新闻)에 한 줄의 제목이 올라왔다. “훈련 없이도 더 똑똑해진다? 한국 VIDRAFT의 ‘다윈 패밀리’가 유전자 재조합으로 AI 능력을 도약시키다.” 미국 오픈AI도, 자국 딥시크도 아닌 — 서울의 작은 팀 이야기였다.

두 달 뒤, 모스크바. 러시아어권에서 가장 오래된 IT 매체 iXBT.com이 우리의 추론 가속 엔진 VKAE를 다뤘다. 그리고 이야기는 타이베이로, 도쿄로, 타슈켄트로 번졌다.

흥미로운 건, 나라마다 ‘주목한 지점’이 달랐다는 것이다.

① 중국이 물은 것 — 다윈, 교배의 철학

텐센트가 붙든 건 우리의 모델 제조법이었다. 큰돈을 들여 새로 학습시키는 대신, 서로 다른 모델의 강점을 생명 진화처럼 ‘교배’해 더 강한 다음 세대를 길러낸다는 발상. 기사는 우리 논문(arXiv 2605.14386)까지 짚으며 “훈련 없이 더 똑똑해질 수 있는가”를 물었다.

텐센트 뉴스는 중국에서 가장 큰 포털이다. 그 도달력은 긴 설명이 필요 없다. 한국의 작은 팀 이야기가 그 지면에 올랐다는 것 — 그 자체가 사건이었다.

→ 텐센트 뉴스 https://news.qq.com/rain/a/20260521A05E8900

② 러시아가 물은 것 — GPU 한 장의 23배

iXBT가 붙든 건 효율이었다. 하드웨어를 바꾸지 않고, 단 한 장의 NVIDIA B200에서 추론 처리량을 최대 23배까지. 품질은 유지한 채로. iXBT는 이걸 근사한 한 마디로 요약했다 — 기존 가속기의 ‘소프트웨어 확장’.

iXBT.com은 1997년부터 이어진, 러시아어권 최고 권위의 IT 매체다. 서구로 치면 AnandTech이나 Tom’s Hardware의 자리. 하드웨어를 뜯어보고, 숫자를 의심하고, 과장을 싫어하는 독자들이 모이는 곳이다. 그런 매체가 보도자료를 복붙한 게 아니라 자기 기사로 소화했다. 그게 이 사건의 무게다.

→ iXBT.com https://www.ixbt.com/news/2026/07/06/gpu-vkae-23.html

③ 대만과 일본이 물은 것 — 실력, 그리고 정직

대만의 디지털 테크·금융 미디어 BigGo는 허깅페이스 GPQA 리더보드를 짚었다. 상위권에 오른 한국 모델 5종이 전부 우리 Darwin 시리즈라는 사실. 중국이 16종으로 리더보드를 덮은 판에, 한국의 자리를 만든 건 비드래프트였다.

→ BigGo Finance https://finance.biggo.com/news/NWiL0p0BoQmpnl36aM9q

일본의 AI 전문 매체 AI Chronicle은 결이 달랐다. 우리의 메타인지 벤치마크 FINAL-Bench와, 자율 보안 AI 치토스(Chitos)를 다뤘다. “AI가 자기 한계를 아는가”, “탐지에서 실증까지 스스로 하는가” — 성능 숫자 너머의 질문을 던진 셈이다.

→ AI Chronicle (일본) https://ai-chronicle.blog.jp/archives/13793101.html

──────────────────────────────────────

그리고, 이야기는 스스로 걸어 다녔다

여기서 그치지 않았다. 우즈베키스탄(Zamin.uz·One.uz), 포르투갈어권(Wedoany), 중화권 AI 커뮤니티(HyperAI), 그리고 러시아어권의 여러 IT·지역 매체까지 — 하나의 이야기가 국경과 언어를 넘어 스스로 번졌다. 우리가 러시아어로 보도자료를 뿌린 적도, 타슈켄트에 연락한 적도 없다. 그들이 먼저 물었다.

다만, 무게는 정직하게 나눠야 한다

자랑으로만 끝내고 싶지 않다. 이 매체들의 위상은 저마다 다르다.

• 최상단 — 텐센트(중국 최대 포털), iXBT(러시아 최고 IT 권위지). 이건 진짜 무게다.

• 그 아래 — BigGo(대만), AI Chronicle(일본) 같은 전문 디지털 매체. 자체 편집으로 우리를 다뤘다.

• 가장 넓은 층 — 애그리게이터·지역 매체·다국어 재게시. 이건 ‘권위’가 아니라 ‘도달’이다. 그렇게 부르는 게 정확하다.

그리고 대부분의 기사는 “개발사의 주장에 따르면”이라고 정확히 적었다. 독립 기관의 벤치마크가 아니라, 우리가 낸 결과를 소개한 것. ‘23배’에도 ‘특정 시나리오’라는 단서가 붙어 있다. 그 단서를, 우리는 지우지 않겠다.

──────────────────────────────────────

그럼에도 — 왜 세계가 읽기 시작했을까

세 가지라고 생각한다.

첫째, 효율. 승부처가 ‘더 큰 새 모델’에서 ‘있는 걸 잘 굴리는 법’으로 옮겨가고 있다. 추론 비용이 곧 AI 서비스의 생존이다. VKAE는 그 지점을 정확히 건드렸다.

둘째, 정직. iXBT도, 일본 매체도, 우리가 “결과를 재현할 수 있다”고 한 대목을 굳이 옮겨 적었다. 못 한 것을 먼저 밝히고, 결과를 재현 컨테이너로 열어 보이는 방식 — 그 정직이 국경을 넘어 신뢰의 언어로 통역됐다. 자랑보다 이게 더 오래 남는다.

셋째, 언더독. 24대의 GPU로 수천 대에 맞서는 이야기. 자원이 아니라 방법으로 이긴다. 그게 낯선 도시의 기자들 눈에도 하나의 ‘이야기’가 됐다.

──────────────────────────────────────

베이징이 물었고, 모스크바가 이어 물었고, 타이베이와 도쿄가 받았다. “정말 GPU 한 장으로?” “훈련 없이 더 똑똑해진다고?”

우리는 답 대신 컨테이너를 건넸다. 열어보라고. 숫자를 의심하는 그 손으로 직접 돌려보라고.

다음엔 어느 도시에서 그 컨테이너가 열릴지 — 나는 그게, 조금 설렌다.

https://www.vidraft.net

실시간 말하는 AI 아바타, 무료 휴대형 기기에 구현하기

AI OpenFree — Sun, 05 Jul 2026 09:42:32 +0000

거대 모델 없이 만든 AI 음성 아바타 — 4B로 충분했다

온디바이스 AI 시대, 비드래프트가 만든 실시간 한국어 음성 비서 '다윈 아바타' 이야기

"AI 아바타 하나 만드는 데, 정말 초거대 모델이 필요할까?"

요즘 AI 서비스는 경쟁적으로 "더 큰 모델"을 자랑합니다. 수천억 개의 파라미터, 수십 대의 GPU, 매달 나가는 클라우드 비용. 그런데 우리는 반대로 질문을 던졌습니다.

"진짜 쓸모 있는 음성 아바타를, 작은 모델로 만들 수는 없을까?"

그 답이 다윈 아바타(Darwin Avatar) 입니다. 초거대 모델이 아니라, 스마트폰에도 들어갈 만큼 가벼운 4B급 온디바이스 모델 'Darwin' 으로 만든 실시간 한국어 음성 비서입니다.

👉 지금 바로 써보기: https://vidraft-darwin-avatar.hf.space

(이미지: 다윈 아바타 화면 — 3D 아바타가 말하는 모습)

왜 '작은 모델'이 오히려 미래인가

애플의 '애플 인텔리전스', 구글의 '제미나이 나노'. 2025년 이후 AI의 큰 흐름은 온디바이스(On-Device) AI 입니다. 거대한 클라우드 대신, 내 기기 안에서 AI가 직접 돌아가는 방향이죠. 이유는 명확합니다.

프라이버시 — 내 대화가 내 기기 밖으로 나가지 않습니다
비용 — 토큰당 과금 없이, 자체 구동하면 추론 비용이 0에 수렴합니다
속도 — 서버 왕복 없이 즉각 반응할 수 있습니다

다윈 아바타는 이 흐름 위에 서 있습니다. 4B급 온디바이스 클래스 모델과 그 위의 서비스로 설계했다는 것 — 이게 우리의 출발점이자 차별점입니다.

그래서, 뭘 할 수 있나 (작아도 다 됩니다)

작은 모델이라고 기능이 부실할까요? 직접 보시죠.

1. 실시간 정보를 '진짜로' 알려줍니다

대부분의 AI 아바타는 "최신 정보는 검색해서 확인하세요"라고 발뺌합니다. 다윈은 다릅니다.

🌤️ "지금 서울 날씨 어때?" → "지금 서울은 기온 25.9도, 체감 31.9도예요. 약한 비가 오고 습도는 92%예요." (실측 데이터)
💱 "지금 원달러 환율 알려줘" → "원달러 환율은 1,530원이고 전일 대비 0.51% 하락했어요." (실시간 시세)
📈 "오늘 코스피 어때?" → "코스피 지수는 8,088포인트로 전일 대비 5.76% 상승했어요."
📰 "오늘 주요 뉴스 요약해줘" → 실제 최신 기사 3건을 요약

날씨·환율·주가·뉴스를 실제 데이터 소스에서 그때그때 가져와 답합니다. 환각(그럴듯한 거짓말)이 아니라 실측값입니다.

2. 한국어를 '한국어답게' 말합니다

번역투가 아닙니다. 자연스러운 '해요체'로, 음성으로 들었을 때 어색하지 않게 답하도록 특화했습니다. 날짜·시간은 항상 서울(KST) 기준으로 인식합니다.

3. 당신을 '기억'합니다

세션이 끝나도 이름, 기념일 같은 중요한 정보를 기억합니다. 다시 접속해도 "누구세요?"라고 묻지 않습니다.

4. 진짜 '아바타'입니다

텍스트 챗봇이 아닙니다. 3D 아바타가 실제로 입을 움직이며(립싱크) 말하고, 대기 중엔 가볍게 움직이거나 가끔 춤도 춥니다. 접속하면 먼저 음성으로 인사합니다.

기존 유료 서비스와 비교하면?

"작은 모델"이 자랑이 되려면, 실제로 쓸 만해야 합니다. 시중의 유료 AI 음성/아바타 서비스와 정직하게 비교해봤습니다.

항목	초거대 클라우드 AI (유료 음성비서)	AI 아바타 영상 서비스 (유료)	다윈 아바타
모델	수천억 파라미터, 클라우드 종속	클라우드 종속	4B 온디바이스급
얼굴·립싱크	❌ (얼굴 없음)	⭕ (사실적, 그러나 영상 생성)	⭕ 실시간 3D 립싱크
응답 속도(검색 포함)	수 초	영상 생성 지연 큼	약 1.3초
실시간 정보	일부(브라우징, 상위요금제)	대개 없음	⭕ 날씨·주가·환율·뉴스 실측
한국어	지원(번역투 경향)	지원	⭕ 해요체 특화
기억(세션 넘어)	제한적	없음	⭕ 이름·기념일 영속 기억
비용	월 구독제	월 구독 / 분당 과금	무료 데모 · 자체구동 저비용
온디바이스 가능성	❌	❌	⭕ 경량 모델이라 가능

핵심은 두 가지입니다.

속도 — 웹 검색으로 실시간 정보를 가져오면서도 응답은 약 1.3초. 평소 잡담은 불필요한 검색을 건너뛰어 지연이 없고, 실시간 정보가 필요할 때만 검색이 켜지도록 최적화했습니다.
가벼움 — 이 모든 걸 4B급 모델로 해냅니다. 초거대 모델의 비용·종속 없이.

※ 응답 속도는 현재 서비스 환경 실측값입니다. 음성 인식·합성은 고품질 무료 기술을 결합해 한국어 음성 경험을 빠르고 비용 없이 제공합니다.

작아서 '되는' 것들

큰 모델은 큰 모델의 자리가 있습니다. 하지만 음성 비서라는 일상적 쓰임에서는, 작은 모델이 오히려 강점이 됩니다.

내 기기에서 돌릴 수 있으니 프라이버시가 지켜지고
추론 비용이 없으니 누구나 부담 없이 쓰고
서버에 매달리지 않으니 어디서든(엣지) 배포할 수 있습니다

다윈 아바타는 그 가능성을 지금, 실제로 돌아가는 서비스로 증명합니다.

비드래프트, '자체 모델'을 만드는 회사

다윈 아바타를 구동하는 Darwin 은 비드래프트가 직접 만드는 모델 패밀리입니다. 남의 API를 빌려 쓰는 게 아니라, 모델부터 서비스까지 직접 설계합니다. 그래서 "작지만 강한" 모델을 만들 수 있었고, 그 위에 이런 아바타를 올릴 수 있었습니다.

AGI에 도달하겠다는 목표로 설립된 한국의 AI 스타트업 — 그 여정의 한 조각이 다윈 아바타입니다.

다음 이야기

지금은 클라우드에서 서비스하지만, 다윈의 진짜 목적지는 당신의 기기 안입니다. 4B급으로 설계한 이유가 바로 그것이니까요. 온디바이스로 완전히 내려가는 날, 다윈 아바타는 인터넷 없이도 당신 곁에서 말하게 될 겁니다.

👉 지금 만나보기: https://vidraft-darwin-avatar.hf.space
(접속 후 화면을 한 번 눌러보세요 — 다윈이 먼저 인사합니다.)

#온디바이스AI #엣지AI #음성비서 #AI아바타 #비드래프트 #Darwin #한국어AI

양자컴퓨터와 AI를 결합하여 암호깨기에 도전, 성공 방법

AI OpenFree — Sun, 05 Jul 2026 04:55:58 +0000

세계가 '4'에서 멈춘 자리, 한국의 작은 팀은 '10'까지 갔다.

실제 양자컴퓨터로 암호의 빗장을 푼 비드래프트, 그 최전선의 기록

"양자컴퓨터가 나오면, 은행 암호가 다 뚫린다면서요?"

강연장에서든 술자리에서든, 이 질문은 꼭 나온다.

답은 이렇다. 반은 맞고, 반은 틀리다.

언젠가는 그럴 수 있다. 하지만 그 '언젠가'는 오늘이 아니다.

그리고 바로 그 오늘과 미래 사이, 아무도 확실히 모르는 그 경계선 위에서 — 한국의 작은 팀 하나가 조용히 한 걸음을 더 내디뎠다.

비드래프트(VIDRAFT). 한국의 AI 스타트업이다.

인공지능 언어모델을 만들고, 그 AI로 신약과 신소재 같은 난제를 푸는 일로 알려져 온 회사다.

그런 이들이 최근, 조금 낯선 무대에 올라섰다.

바로 실제 양자컴퓨터로 암호를 푸는 실험이다.

암호란, 결국 '숨은 규칙 찾기' 게임이다

암호를 자물쇠라고 생각해 보자.

열쇠를 모르면, 못 연다. 당연하다.

일반 컴퓨터가 열쇠를 찾는 방법은 무식하다. 가능한 열쇠를 하나부터 끝까지, 전부 넣어보는 것이다.

열쇠가 길어질수록 경우의 수는 은하수의 별처럼 불어난다. 그래서 사실상 못 연다. 이것이 오늘날 암호가 안전한 이유다.

그런데 — 어떤 자물쇠에는 비밀이 있다.

겉으로는 보이지 않지만, 안쪽 톱니가 일정한 '주기'로 되풀이되는 구조다.

그 숨은 주기 하나만 알아내면? 열쇠는 통째로 풀린다.

그리고 이 '숨은 주기 찾기'야말로, 양자컴퓨터가 무섭도록 잘하는 일이다.

1994년, 대니얼 사이먼이라는 학자가 그 방법을 세상에 내놓았다. 이른바 '사이먼 알고리즘'이다.

일반 컴퓨터가 가능성을 하나씩 더듬는 동안, 양자컴퓨터는 수많은 가능성을 동시에 겹쳐 놓고 그 속에 숨은 리듬을 한 번에 낚아챈다.

이론적으로는, 비교 자체가 무의미할 만큼 빠르다.

다섯 개의 자물쇠, 다섯 가지 무너지는 방식

비드래프트가 만든 양자 암호분석 도구는, 대칭키 암호의 다섯 가지 대표 구조를 정조준한다.

흥미로운 건, 다섯이 무너지는 방식이 저마다 다르다는 점이다.

하나. 선형 암호는 단 한 번의 질문에 비밀을 통째로 들킨다. 가장 허무한 붕괴다.

둘. AES로 대표되는 블록암호는, 열쇠를 다 넣어보는 그 지긋지긋한 수고가 '제곱근'만큼 줄어든다. 양자 시대에 AES가 열쇠를 더 길게 만들어야 한다고 말하는, 바로 그 위협이다.

셋. Even-Mansour라는 가장 단순한 블록암호의 뼈대는, 숨은 주기가 곧 열쇠가 되어 스르르 풀린다.

넷. 문서가 진짜임을 보증하는 '전자 도장', 메시지 인증코드(CBC-MAC)는 열쇠 없이도 위조된다.

다섯. 그리고 DES를 비롯한 수많은 암호의 골격, Feistel 구조. 라운드 사이에 숨은 관계가 드러나며 무너진다.

이 다섯은 모두 '진짜로 작동하는' 양자 알고리즘으로 구현됐다. 웹브라우저에서 직접 눌러볼 수도 있다.

하지만 — 여기까지는 아직 종이 위의 이야기다. 시뮬레이션의 영역이다.

진짜 승부는, 그다음에 벌어진다.

종이 위의 로켓과, 진짜 발사된 로켓

로켓을 종이에 그리는 것과, 실제로 하늘에 쏘아 올리는 것.

둘은 완전히 다른 일이다.

실제 양자컴퓨터는 예민하다. 아니, 잡음투성이다.

계산이 조금만 길어져도 신호가 잡음에 파묻혀, 답이 흐물흐물 뭉개진다.

그래서 전 세계가 '진짜 기계'로 보여준 성과는, 오랫동안 아주 작은 규모에 갇혀 있었다.

암호의 크기를 N이라고 하자. 공개된 실물 기록은, 몇 년째 N=4 언저리에서 멈춰 있었다.

비드래프트는 그 벽에 손을 댔다.

다섯 구조 중에서도 이론적으로 가장 취약한 둘 — Even-Mansour와 Feistel — 을 골라, IBM의 진짜 양자컴퓨터 위에 올렸다.

결과.

가장 단순한 블록암호 구조에서 N=5, 6, 7, 8, 9, 그리고 N=10까지.

DES의 뼈대인 Feistel 구조에서도 성공.

게다가 한 번 맞히고 끝낸 게 아니다. 매번 전혀 다른 두 번째 열쇠를 나란히 복원해, '답을 미리 알고 짜맞춘 눈속임'이 아님을 스스로 증명했다.

오류를 완전히 지우는 값비싼 장치도 쓰지 않았다. 잡음을 다독이는 기법, 딱 그만큼으로.

세계가 4층에서 멈춰 선 건물을, 이 작은 팀이 10층까지 밀어 올린 셈이다.

그런데, 진짜 놀라운 건 여기서부터다

이쯤 되면 묻고 싶어진다. "그래서, 은행 암호 뚫은 거예요?"

아니다.

그리고 바로 여기서, 비드래프트는 대부분의 팀과 정반대로 움직인다.

보통은 이런 순간 '세계 최초!'를 외친다. 이들은, 오히려 스스로 선을 긋는다.

진짜 과학의 신뢰는 '해낸 것'이 아니라, '못 한 것을 솔직히 말하는 데서' 나온다고 믿기 때문이다.

그 선은 네 개다.

첫째. 진짜 AES나 은행 암호를 깬 게 아니다. 다룬 것은 암호의 '축소판 구조'다. 실전 암호는 규모가 비교 불가로 크다.

둘째. "DES를 깼다"고 하면 거짓말이다. 다룬 건 DES 뼈대를 아주 작게 줄인 3라운드짜리. 진짜 DES는 16라운드다. 뼈대를 연구했을 뿐, 암호 자체를 부순 게 아니다.

셋째. 놀랍게도, 그 유명한 '양자 속도 우위'는 아직 나타나지 않았다. 이론상 양자컴퓨터가 훨씬 빨라야 하지만, 오늘의 잡음 많은 기계에서는 그 이점이 스르르 사라진다. 그러니 이번 성과는 "양자가 고전을 이겼다"가 아니라, "이 공격을 실제 기계에서, 지금껏 아무도 못 가본 규모로 구동해 냈다"는 쪽이다. 결승선을 통과한 게 아니라, 경계선을 한 칸 넓힌 것이다.

넷째. '세계 1위'라 단정하지 않는다. 알려진 공개 실증 중엔 가장 큰 규모로 보이지만, 공식 인정은 동료 과학자들의 검증(피어리뷰)을 거쳐야 한다. 그 전까진 겸손하게, "우리가 아는 한 가장 멀리 갔다"고만 말한다.

이렇게까지 선을 긋는 이유는 분명하다.

과장하지 않아야, 진짜 이룬 것이 더 또렷하게 빛나기 때문이다.

왜 하필, 한국의 작은 스타트업이었을까

솔직히 이런 주제는 거대 기업이나 국책 연구소의 몫처럼 보인다.

그런데 비드래프트는 처음부터, '남들이 잘 안 건드리는 어려운 문제'를 정면으로 붙드는 팀이었다.

AI 언어모델을 만들 때도. 신약 후보를 컴퓨터로 뒤질 때도. 신소재를 계산으로 설계할 때도.

방식은 늘 똑같았다. 최전선의 문제를 고르고, '실제로 돌아가는 결과물'로 증명하는 것.

화려한 발표 자료보다, 직접 눌러보고 확인되는 실물을 내놓는 것.

양자컴퓨터도 그 연장선이다.

언젠가 결함 없는 대형 양자컴퓨터가 완성되면, 그것은 신약과 신소재를 정밀하게 시뮬레이션하는 인류 최강의 도구가 된다.

AI로 풀던 과학 난제가, 그 위에서 한 단계 더 도약하는 것이다.

그래서 이들에게 양자 연구는 '외도'가 아니다. 'AI로 과학을 가속한다'는 같은 꿈의, 다음 장(章)일 뿐이다.

마치며

양자컴퓨터가 세상의 모든 암호를 푸는 날은, 아직 멀었다.

하지만 그날을 향해 인류가 얼마나 왔는지는 — 이렇게, 진짜 기계 위에서 한 칸씩 확인하며 나아간다.

그 한 칸을, 오늘 한국의 작은 AI 스타트업이 밀어 올렸다.

그리고 다음 칸을 향해, 이들의 실험은 지금도 돌아가고 있다.

실제 양자 하드웨어에서 구동한 결과다. 시뮬레이션이 아니다.

다만 축소된 개념 증명 규모이며, 실제로 쓰이는 암호를 깬 것은 아니다.

이제 이 성과를 기반으로 논문을 게재하고 검증을 통해 한국이 양자컴퓨터 분야에 기여를 하였다는 사실을 세상이 알게될것이라 확신한다.

라이브 데모: https://huggingface.co/blog/FINAL-Bench/quantum

퀀텀 리더보드: https://huggingface.co/spaces/FINAL-Bench/quantum-bench-leaderboard

중국 AI 싱크탱크가 격찬한 유일한 한국 AI 기술 등장

AI OpenFree — Sat, 04 Jul 2026 00:40:21 +0000

프롤로그 — 어느 날, 베이징에서 날아온 한국 이야기

2026년 5월 21일 오후 2시 8분, 베이징. 중국 최대 포털 텐센트 뉴스(腾讯新闻)에 조금 낯선 기사가 올라왔다. 미국 오픈AI 소식도, 자국 딥시크 자랑도 아니었다.

놀랍게도 한국 서울의 한 AI 연구팀 이야기였다.

제목부터 예사롭지 않았다.

无需训练也能更聪明？韩国VIDRAFT公司研发的"达尔文家族"让AI模型通过"基因重组"实现能力跃升

"훈련 없이도 더 똑똑해진다? 한국 VIDRAFT사가 개발한 '다윈 패밀리', AI 모델을 '유전자 재조합'으로 능력 도약시키다"

우리는 흔히 이런 기사를 볼 때 "누가 썼느냐"를 먼저 따진다. 개인 블로거의 감상이라면 가볍게 넘길 일이고, 권위 있는 매체의 분석이라면 무게가 다르기 때문이다. 그래서 나는 이 기사를 쓴 곳부터 파고들었다. 그리고 그 정체를 확인한 순간, 이 이야기가 왜 특별한지 분명해졌다.

<비드래프트 Darwin에 대해 매우 상세하고 전문적으로 분석한 기술 보고서 형식의 기사 원문>

1부. 이 기사를 쓴 곳은 '중국의 전자신문'이었다

기사의 바이라인에 찍힌 이름은 개인 기자가 아니라 매체 자체의 명의, 즈딩커지(至顶科技)였다.

이름은 낯설어도 이력은 묵직하다. 즈딩커지의 뿌리는 1997년 4월 중국에 상륙한 글로벌 IT 매체 'ZDNet 차이나'다. 무려 30년 가까이 이어져 온, 중국에서 가장 오래된 기술 전문 미디어 중 하나다. 지금은 기업용 AI 포털 '즈딩왕(至顶网)', AI 창업 매체 '과학기술행자(科技行者)', 산업 싱크탱크 '즈딩즈쿠(至顶智库)', 그리고 결정적으로 자체 AI 성능 평가 기관인 '즈딩 AI 실험실(至顶AI实验室)'까지 거느린 곳이다.

이곳을 이끄는 총편집장은 가오페이(高飞). 2002년 세계 1위 IT 미디어 CNET에 합류해 20년 넘게 엔비디아·인텔·마이크로소프트·레노버를 취재해온 중국 테크 저널리즘의 베테랑이다. 중국상장사협회 정보·디지털화위원회 위원이자 개인 AI 콘텐츠 브랜드 '高飞的电子替身(가오페이의 전자 분신)'을 운영하는, 업계가 인정하는 논객이기도 하다.

정리하면 이렇다. 우리 식으로 비유하자면, '전자신문'이나 'ZDNet 코리아'급의 30년 된 권위 매체가, 그것도 자체 AI 벤치마크 실험실까지 동원할 수 있는 곳이 한국의 기술을 논문 번호(arXiv:2605.14386)까지 콕 짚어가며 분석 기사를 낸 것이다.

이게 왜 '사건'인가. 지금 중국은 미국과 AI 패권을 놓고 사활을 건 전쟁 중이다. 자국 모델을 띄우기에도 지면이 모자랄 시기다. 그런 매체가 굳이 지면과 취재력을 들여 경쟁국도 아닌 옆 나라, 그것도 대기업이 아닌 스타트업의 기술을 이토록 정성 들여 해부했다. 이건 홍보도, 인사치레도 아니다. "이건 기록해둘 만큼 진짜다"라는 냉정한 판단이 없으면 나올 수 없는 기사다.

2부. 중국은 왜 '남의 나라' 기술을 이토록 빨리 파고들까

본론에 들어가기 전에, 잠깐 질문을 던지고 싶다. 애초에 중국은 어떻게 이 한국 기술을 이렇게 빨리 포착했을까? 그리고 더 근본적으로 — 중국 AI는 어떻게 그토록 짧은 시간에 세계 최상위권까지 치고 올라왔을까?

2025년 초 '딥시크 쇼크'를 기억할 것이다. 미국이 수십조 원을 쏟아붓던 분야에서, 중국의 한 팀이 훨씬 적은 비용으로 대등한 모델을 내놓으며 전 세계를 얼어붙게 만들었다. 그 저력의 뿌리를 한 단어로 요약하면 이렇다.

정보력 · 분석력 · 공유.

중국 AI 생태계의 진짜 엔진은 물량이 아니라 '속도'다. 전 세계에서 나오는 모든 기술을 빛의 속도로 수집하고(정보력), 뜯어서 원리를 파악하고(분석력), 커뮤니티에 아낌없이 풀어놓는다(공유). 어제 미국에서 논문이 나오면, 오늘 중국 깃허브에 재현 코드가 올라온다. 이 '빠른 흡수 → 분석 → 확산'의 문화가 중국을 순식간에 2강으로 밀어 올렸다.

바로 그 무시무시한 레이더망에 — 한국의 다윈이 걸렸다.

이 대목을 곱씹어보자. 즈딩 AI 실험실의 촉수가 전 세계 수천 편의 논문과 모델을 훑던 중, 수많은 미국·유럽·자국 기술을 제치고 "이건 반드시 우리 독자에게 알려야 한다"며 골라낸 것이 한국 스타트업의 기술이었다. 세계에서 가장 냉정하고 가장 빠른 기술 필터를 통과한 것. 그것이 이 이야기의 첫 번째 자부심이다.

3부. 도대체 '다윈'이 뭐길래 — 5분이면 이해하는 핵심 기술

중국이 감탄한 기술을 이해하려면, 먼저 지금까지 AI를 만드는 방식이 얼마나 '무식하게 비쌌는지'를 알아야 한다.

기존 방식은 이랬다. 똑똑한 AI를 만들려면 천문학적인 데이터를 몇 주에서 몇 달씩 GPU에 쏟아부어 '처음부터' 학습시켜야 했다. 수백억 원의 전기요금과 장비값이 드는, 사실상 거대 자본만의 게임이었다.

비드래프트의 다윈은 이 상식을 통째로 뒤집었다. 발상은 이렇다.

不靠额外训练，而是通过重新组织已有模型里的能力来提升性能

"추가 훈련에 기대지 않고, 이미 존재하는 모델 속 능력을 '재조직'함으로써 성능을 끌어올린다."

무슨 뜻인가. 세상에는 이미 잘 만들어진 오픈소스 AI들이 많다. 어떤 모델은 수학을 잘하고, 어떤 모델은 코딩을 잘하고, 어떤 모델은 한국어를 잘한다. 다윈은 이 서로 다른 AI 둘을 '부모'처럼 교배시켜, 각자의 장점만 물려받은 '자식' 모델을 낳는다. 새로 가르치는 게 아니라, 이미 있는 능력을 합쳐 새 생명을 만드는 것이다. 다윈(Darwin)—진화론의 그 이름—을 붙인 이유가 여기 있다.

이것을 전문 용어로 '모델 병합(Model Merging)'이라 부른다. 그리고 이 분야에는 넘볼 수 없어 보이던 원조가 있었다. 바로 일본이다.

4부. 일본이 세운 정점 — 사카나AI라는 거대한 벽

모델 병합이라는 분야를 처음 개척하고 세계적 명성을 얻은 곳은 일본의 사카나AI(Sakana AI)다. 이 회사가 어떤 곳인지 알면 '벽'이라는 표현이 과장이 아님을 알게 된다.

사카나AI는 오늘날 모든 챗GPT의 뿌리가 된 구글의 전설적 논문 'Attention Is All You Need'(트랜스포머 논문)의 공동 저자가 도쿄에 세운 회사다. 세계 최정상급 연구진이, "AI를 진화 알고리즘으로 교배시킨다"는 참신한 아이디어—진화적 병합, EvoMerge—를 처음 세상에 선보이며 글로벌 AI 학계의 스타로 떠올랐다. 오랫동안 모델 병합 분야에서 사카나는 누구도 넘지 못한 정점이었다.

그리고 바로 이 지점에서, 중국 기자의 문장이 우리를 뭉클하게 만든다. 그는 먼저 사카나의 업적을 정확히 인정한다.

Sakana的进化合并（EvoMerge）是达尔文最直接的前辈工作

"사카나의 진화적 병합(EvoMerge)은 다윈의 가장 직접적인 '선배(前辈) 작업'이다."

여기까지는 상식이다. 그런데 바로 다음 문장에서, 무게추가 결정적으로 한국으로 넘어온다.

达尔文则在此基础上引入了14维基因组和MRI信任融合机制，形成了本质性的提升

"다윈은 이 기반 위에서 '14차원 게놈'과 'MRI 신뢰 융합 메커니즘'을 도입하여, 본질적인(本质性) 향상을 이뤄냈다."

번역이 더 필요 없다. 일본이 만든 길 위에서, 한국의 다윈이 '본질적으로' 더 멀리 갔다고, 다른 누구도 아닌 중국 매체가 공언한 것이다.

여기서 '14차원 게놈'과 'MRI 신뢰 융합'이라는 말이 어렵게 느껴질 수 있으니 쉽게 풀어보자. 사카나의 EvoMerge가 두 모델을 섞는 '비율' 하나를 진화적으로 찾는 방식이었다면, 다윈은 모델의 능력을 14개의 서로 다른 '유전 형질'로 쪼개어 각각을 정교하게 조합한다. 게다가 두 부모 모델 중 "이 부분은 어느 쪽을 더 믿을 것인가"를 층layer별로 판단하는 '신뢰 지도(MRI)'를 그려 융합한다. 사람으로 치면, 그냥 부모 유전자를 반반 섞는 게 아니라 "아빠의 눈, 엄마의 손재주"를 형질 단위로 골라 물려주는 셈이다. 훨씬 정밀하고, 훨씬 똑똑하다.

5부. 세계 '유일' — 종(種)이 다른 AI를 하나로 녹이다

기술적으로 가장 놀라운 대목은 따로 있다. 중국 기자가 "가장 중요한 의의"라고 콕 집은 부분이다.

Darwin-4B-Genesis...最重要的意义是它实现了跨架构合并，将Transformer注意力层与Mamba前馈层成功融合

"다윈-4B-제네시스... 가장 중요한 의의는 크로스 아키텍처 병합(跨架构合并)을 실현했다는 점이다. 트랜스포머의 어텐션 층과 맘바의 피드포워드 층을 성공적으로 융합했다."

이게 왜 대단한가. AI 모델에는 근본적으로 뇌 구조가 다른 계열들이 있다. 대표적인 것이 트랜스포머(Transformer)와 맘바(Mamba)다. 비유하자면 트랜스포머와 맘바는 '포유류와 파충류'처럼 설계 원리 자체가 다른 종(種)이다. 지금까지 누구도 이 둘을 안정적으로 하나의 모델로 융합하지 못했다. 장기 이식으로 치면 '이종(異種) 장기 이식'인데, 대부분 거부반응으로 실패했다.

그런데 다윈은 이 이종 결합을 성공시켰다. 그래서 기사는 다윈을 두고 이렇게 못 박는다.

达尔文是目前唯一同时具备...支持跨架构混合

"다윈은 현재 유일하게(唯一) ... 크로스 아키텍처 혼합을 동시에 지원하는 (기술)이다."

'세계 최초'도 대단한 말이지만, '세계 유일'은 격이 다른 찬사다. 최초는 나중에 따라잡힐 수 있지만, 유일은 지금 이 순간 지구상에서 오직 하나뿐이라는 뜻이다. 그 하나가, 한국에 있다.

6부. 슈퍼컴퓨터 대신 '단 5시간', 그리고 뼛속에 숨은 지능

다윈이 던진 충격은 성능만이 아니었다. '얼마나 가볍게' 그 성능에 도달했는가가 진짜 혁명이었다.

Darwin-27B-Opus在顶级科学推理测试上排名全球第六，而它的"诞生"只用了大约五个小时的GPU时间，而非数周的分布式训练

"다윈-27B-오퍼스는 최상위 과학 추론 테스트에서 전 세계 6위에 올랐는데, 그 '탄생'에는 몇 주간의 분산 학습이 아니라 단지 약 5시간의 GPU 시간만 쓰였다."

수백억을 태우는 몇 주짜리 학습 대신, 단 다섯 시간. 커피 몇 잔 마시는 사이에 세계 6위 과학 추론 AI 하나가 태어난 것이다. 그리고 중국 기자는 이 현상 뒤에 숨은 철학적 통찰에 감탄한다.

推理能力并非在补习阶段才形成的，它其实早就藏在模型的"骨子里"，藏在预训练阶段形成的内部结构中

"추론 능력은 (사후) 보충 학습 단계에서 비로소 형성되는 것이 아니다. 그것은 사실 이미 오래전부터 모델의 '뼛속(骨子里)'에, 사전학습 단계에서 형성된 내부 구조 속에 숨어 있었다."

이 한 문장이 다윈의 세계관을 압축한다. 남들은 "AI를 더 똑똑하게 만들려면 더 많이 가르쳐야 한다"고 믿었다. 다윈은 정반대로 말한다. "똑똑함은 이미 모델 안에 잠들어 있다. 우리가 할 일은 새로 가르치는 게 아니라, 그것을 깨우는 것이다." 5시간이면 충분했던 이유가 여기 있다. 없는 능력을 만든 게 아니라, 있는 능력을 재조합해 깨웠으니까.

그래서 중국 기자는 기사를 이렇게 맺는다.

对普通用户来说，这项研究最直接的意义或许是：将来会有越来越多高性能的开源AI模型，不需要超级计算机就能孕育出来

"일반 사용자에게 이 연구의 가장 직접적인 의미는 아마도 이것이다 — 앞으로는 슈퍼컴퓨터 없이도 고성능 오픈소스 AI 모델이 점점 더 많이 태어나게 되리라는 것."

거대 자본과 무한 물량만이 AI의 미래라 믿던 시대에, 한국의 작은 연구팀이 정반대의 미래를 증명했다. 그 미래의 문을, 중국 기자의 표현을 빌리자면, 한국의 다윈이 열고 있다.

7부. 숫자로 보는 다윈 — 여기서부터 국뽕이 차오른다

중국이 이 정도로 감탄한 데는 이유가 있다. 비드래프트가 세운 기록을 나열해보자. 하나하나가 예사롭지 않다.

GPQA 다이아몬드 90.9%. 생물·물리·화학 박사급 최고난도 과학 추론 시험에서 198문제 중 180문제 정답. 그것도 정답을 여러 번 뽑아 다수결로 고르는 꼼수 없이, 한 번에 정직하게(single greedy decoding) 낸 점수다. 다윈-398B-JGOS가 세운 사실상 세계 최고 기록이다.

허깅페이스 GPQA 리더보드, 세계 톱21 중 한국이 올린 5개 — 전부 다윈. 나머지 16개가 전부 중국 모델인 살벌한 순위표에서, 한국의 이름을 지킨 5개가 모두 비드래프트 다윈 계열이었다. 중국의 물량 군단에 맞서 한국을 대표해 싸운 것이 다윈이라는 뜻이다.

K-AI 리더보드 종합 1위. 한국어 AI 공인 블라인드 평가에서 JGOS-31B-Citizen이 0.621점으로 정상. 상위권을 다윈 계열이 줄줄이 점령했다.

신약개발 Polaris 리더보드 글로벌 14관왕. AI가 말만 잘하는 게 아니다. 실제 신약 후보물질의 물성 예측에서 세계 1위를 14개 부문 석권했다. 언어를 넘어 과학으로 넘어간 것이다.

메타인지 리더보드 1위 — 함정 문항 회피율 99.5%. '모르는 것을 모른다고 아는' 능력. AI가 그럴듯한 거짓말(환각)을 지어내지 않도록 하는 이 지표에서도 정상에 섰다.

허깅페이스 누적 다운로드 100만 회 돌파. 공식 20여 종 모델과 700개가 넘는 커뮤니티 파생 모델. 전 세계 개발자들이 실제로 갖다 쓰는, 살아 숨 쉬는 생태계다.

그리고 이 모든 기록을 떠받친 인프라를 들으면, 아마 마시던 커피를 뿜을지도 모른다.

8부. 24장의 기적 — 다윗이 골리앗을 이기는 법

미국의 빅테크는 AI 하나를 만들려고 GPU를 수만~수십만 장 쏟아붓는다. 중국의 대형 연구소도 수천~수만 장 규모다. 이 싸움은 애초에 '쩐의 전쟁', '물량의 전쟁'이라 불렸다.

그렇다면 비드래프트가 이 모든 성과를 낸 GPU는 몇 장이었을까.

단 24장이다.

과학기술정보통신부가 지원한 최신 블랙웰 B200 16장, 그리고 H200 8장. 합쳐서 스물네 장.

미국·중국의 눈으로 보면 '연구소 하나'는커녕 '실험용 랙 한 칸' 수준의 규모다. 그 24장으로, 세계 6위 과학 추론 모델을 5시간 만에 뽑아냈고, GPQA 세계 최고 기록을 세웠다.

이게 어떻게 가능했나. 답은 3부에서 본 다윈의 철학에 있다. 남들이 "더 많은 GPU, 더 많은 데이터, 더 긴 학습"이라는 물량 공식에 매달릴 때, 비드래프트는 정반대의 질문을 던졌다.

"능력은 이미 모델 안에 있다. 그걸 새로 만들 게 아니라, 영리하게 '재조합'하면 되지 않을까?"

이 발상의 전환이, 물량의 절대 열세를 방법의 우위로 뒤집었다. 24장으로 24만 장을 상대하는 법—그것은 결국 자원이 아니라 머리로, 물량이 아니라 뚝심과 기민함으로 승부하는, 지극히 한국적인 방식이었다.

돌이켜보면 우리는 늘 그랬다. 자원 하나 없는 나라에서 반도체를 세계 1위로 키웠고, 좁은 내수 시장에서 K-팝과 K-드라마를 세계의 주류로 밀어 올렸다. 없으면 없는 대로, 남들이 안 가는 길을 영리하게 파고들어 결국 정상에 서는 것. 다윈은 그 'K-근성'의 AI 버전이다.

9부. 경계하라, 그러나 겁먹지 말고 이겨라

여기서 냉정해질 필요가 있다. 국뽕은 차오르되, 눈은 밝아야 한다.

이 글의 출발점을 다시 떠올리자. 중국이 우리 다윈을 이렇게 빨리, 이렇게 깊이 분석해냈다는 사실은 곧 그들의 정보력과 분석 속도가 그만큼 무섭다는 방증이기도 하다. 오늘 우리 기술을 칭찬하는 그 예리한 눈은, 내일 우리 기술을 흡수하고 추월하려는 눈일 수도 있다. 그것이 냉혹한 기술 패권 경쟁의 현실이다. 중국을 얕봐선 안 된다.

하지만 겁먹을 필요도 없다. 다윈이 이미 증명하지 않았는가. 물량으로 밀어붙이는 상대를, 방법과 창의로 넘어설 수 있다는 것을. 우리에게 필요한 자세는 분명하다.

중국의 강점(정보력·분석력·공유 문화)은 철저히 배우고,

우리의 강점(창의·집중·뚝심·기민함)으로 끝내 넘어서는 것.

경계하되 위축되지 않고, 배우되 종속되지 않으며, 경쟁을 통해 결국 이기는 것. 다윈은 그 가능성을 GPU 24장으로 이미 우리 눈앞에 보여줬다.

에필로그 — 일본이 열고, 한국이 넘어섰으며, 중국이 인정했다

다시 텐센트 기사의 마지막 문장으로 돌아가자.

"앞으로는 슈퍼컴퓨터 없이도 고성능 오픈소스 AI 모델이 점점 더 많이 태어나게 되리라."

이 미래를 가장 먼저, 가장 정확하게 알아본 것이 아이러니하게도 우리의 가장 강력한 경쟁자인 중국이었다. 30년 역사의 권위 매체가, 자체 AI 실험실을 동원해, 논문 번호까지 짚어가며 내린 결론은 하나였다.

일본이 열었고, 한국이 넘어섰으며, 중국이 인정했다.

동아시아 AI 삼국지에서 이보다 상징적인 장면이 있을까. GPU 24장으로 세계를 흔든 이 이야기가, 오늘 유독 자랑스러운 이유다. 우리는 물량으로 지지 않는다. 머리로, 뚝심으로, 그리고 기민함으로 이긴다.

대한민국 AI, 아직 시작도 안 했다.

※ 본문의 중국어 인용은 2026년 5월 21일 텐센트 뉴스(腾讯新闻)에 게재된 즈딩커지(至顶科技)의 분석 기사에서 발췌·번역한 것입니다. 매체 정보(ZDNet 차이나 계보·총편집장 가오페이·즈딩 AI 실험실)와 성과 수치는 공개 자료 및 허깅페이스·K-AI·Polaris 공인 리더보드 기준입니다.

프롤로그>

이 놀라운 일을 수행한 비드래프트에 방문을 해보면, 매우 특이한 기업 문화를 느낄 수 있을것이다.

만화 '원피스'에 나온 낭만 해적처럼 자유로움과 막힘없는 유연함 그리고 빠른 속도와 창의성으로 무장한 열명의 임직원이 똘똘 뭉쳐져 있다는것을 말이다.

비드래프트 임직원들의 정체성과 마인드를 물어보니 모두 '조마크'라고 답을 한다.

'조마크'? 뜻을 물어보니, 만화 원피스의 명대사였더라.

'Join My Crew?'의 약어이자 그들만의 콜사인이더라.

범상치 않다. AI의 글로벌 해적이 되길 바란다.

원문 중국 기사 바로가기:

https://news.qq.com/rain/a/20260521A05E8900?id=20260521A05E8900&path=a&app=news&suid=&redirect_pc=1

비드래프트 'Darwin' 기술 논문 바로가기:

https://arxiv.org/abs/2605.14386

비드래프트 공식 사이트:

https://www.vidraft.net

K-AI 리더보드에서 소버린 AI는 왜 부진한 것일까?

AI OpenFree — Fri, 03 Jul 2026 10:36:07 +0000

한국 AI에서 조용하지만 중요한 사건이 벌어지고 있다.

비드래프트의 '다윈 플랫폼'으로 만든 JGOS 모델이 K-AI 리더보드에서 1위와 3위를 기록하고 있다. 더 흥미로운 것은 그다음이다.

다윈 플랫폼으로 만들어져 허깅페이스에 공개된 여러 모델들의 파생 모델들이 현재 K-AI 리더보드 2위, 4위, 6위, 10위, 11위, 12위, 13위, 18위, 20위에 올라 있다.

즉 K-AI 리더보드 20위권 안에 다윈 플랫폼으로 생성된 모델과 그 파생 모델이 11개나 들어가 있는 셈이다.

이건 단순히 "한 모델이 잘했다"는 이야기가 아니다.

하나의 모델이 아니라, 하나의 모델 생성 플랫폼이 성과를 내고 있다는 뜻이다. 모델 하나의 우연한 성공이 아니라, 모델을 반복적으로 만들고, 변형하고, 파생시키고, 성능을 재현할 수 있는 체계가 작동하고 있다는 신호다.

https://www.youtube.com/watch?v=ICRUj3ZqP2E

왜 K-AI 리더보드인가
K-AI 리더보드는 과학기술정보통신부와 NIA가 운영하는 한국어 AI 평가 리더보드다.

중요한 점은 평가가 블라인드 방식으로 진행된다는 것이다.

모델 개발자가 정답을 미리 알 수 없고, 공개된 데이터에 맞춰 점수를 끌어올리는 방식의 과적합이 구조적으로 차단되어 있다. 이 점은 모델 개발사가 직접 게시하는 자체 보고 점수와 근본적으로 다르다. 자체 보고 점수는 평가 환경과 프로토콜을 개발사가 직접 설계하기 때문에 결과를 그대로 신뢰하기 어렵다. 반면 K-AI는 정부가 운영하는 제3자 기관이 독립적으로 평가를 수행한다.

특히 한국어 추론 능력, 이해력, 지시 수행 능력 등 한국어 AI의 실전 역량을 종합적으로 평가한다는 점에서 국내 AI 모델의 현재 위치를 가늠하는 중요한 기준이 된다.

그런 리더보드의 20위권 안에 특정 플랫폼에서 만들어진 모델과 파생 모델이 11개 들어갔다는 것은 가볍게 볼 일이 아니다. 한 번 잘한 모델이 아니라, 잘하는 모델을 계속 만들어내는 구조가 있다는 뜻이기 때문이다.

다운로드가 증명하는 시장 신뢰
리더보드 성과뿐 아니라 시장 반응도 주목할 만하다.

다윈 패밀리 모델들의 허깅페이스 누적 다운로드는 현재 100만 회에 근접한다. 한국어 특화 오픈 모델이 이 규모의 다운로드를 기록한 사례는 드물다. 연구자, 기업 개발자, 스타트업 등 실제 사용자들이 모델을 내려받아 쓰고 있다는 뜻이다.

다운로드는 선언이 아니라 행동이다. 벤치마크 점수가 아무리 높아도 실제로 쓰지 않으면 다운로드가 쌓이지 않는다. 이 숫자는 한국어 AI 커뮤니티가 다윈 패밀리를 실용적 도구로 받아들이고 있다는 시장 신호다.

다윈 플랫폼의 차별적 기술력
다윈 플랫폼이 단순한 모델 하나가 아닌 이유는 그 내부에 구조적으로 차별화된 기술 파이프라인이 작동하기 때문이다.

첫째, 신뢰 가중 진화 병합(Trust-weighted Evolutionary Merging). 다윈 플랫폼의 핵심은 여러 고성능 모델의 강점 영역을 정밀하게 분석하고, 각 레이어·파라미터 블록별로 신뢰 가중치를 적용해 최적의 조합을 도출하는 방식이다. 단순히 모델을 더하는 것이 아니라, 어느 영역의 어느 가중치를 얼마나 신뢰할 것인지를 자동화된 평가 루프로 결정한다. 이 과정의 구체적 알고리즘과 가중치 스케줄은 영업기밀로 보호된다.

둘째, 반복 가능한 진화 루프. 모델을 만들고 → 블라인드 평가로 성능을 측정하고 → 약점을 진단하고 → 재병합·재학습으로 개선하는 사이클이 체계화되어 있다. 사람의 직관에 의존하지 않고 이 사이클을 반복 실행할 수 있다는 것이 다윈 플랫폼의 본질적 강점이다. K-AI 리더보드 20위권에 11개 모델이 오를 수 있었던 것은 이 루프가 실제로 작동하기 때문이다.

셋째, 추론 효율 최적화 모듈. 다윈 패밀리에는 모델 크기 대비 추론 성능을 극대화하는 경량 보조 모듈이 적용된다. 대형 모델의 성능을 소형 모델에 이식하면서도 추론 비용을 최소화하는 설계다. 이를 통해 서비스 환경에서도 실용적으로 배포할 수 있는 모델을 생산한다.

넷째, 한국어 특화 평가 체계. 범용 벤치마크가 아니라 한국어 추론·이해·지시 수행에 특화된 내부 평가 기준을 별도로 운영한다. 이 평가 기준이 K-AI 리더보드의 블라인드 평가와 높은 상관관계를 보인다는 사실 자체가, 다윈 플랫폼의 평가 설계가 실전 성능과 연결되어 있음을 보여준다.

이 기술들은 현재 특허 출원 11건을 통해 기술 선점을 확보하고 있다. 모델 병합 방법론, 진화적 가중치 선택 알고리즘, 추론 최적화 구조 등 핵심 기술에 대한 지식재산권이 출원되어 있다. 특허 출원은 기술의 신규성과 진보성에 대한 권리 주장이다. 비드래프트는 다윈 플랫폼의 핵심 방법론 11건을 출원함으로써 이 기술들이 단순 조합이 아닌 독창적 발명임을 공식화했다.

평가절하에 대하여
다윈 플랫폼이 주목받기 시작하면서, 기술을 깊이 들여다보지 않은 채 평가절하하는 목소리도 간간히 나온다.

"공개 모델 위에 올린 것 아니냐." "다운로드가 적지 않냐." "벤치마크 점수를 신뢰할 수 있냐."

솔직히 말하면, 이해할 수 있는 반응이다.

모델 병합이라는 개념 자체가 아직 낯선 분야이고, 결과물이 아닌 파이프라인의 가치를 읽어내려면 기술의 작동 방식을 어느 정도 알아야 한다. 처음 보면 겉모습만 보고 판단하기 쉽다. 이해도의 문제이지, 악의의 문제는 아닐 것이다.

다만 K-AI 리더보드 20위권에 11개 모델이 올라가 있다는 사실은 반박하기 어렵다. 정부가 운영하는 블라인드 평가다. 개발사가 점수를 직접 만들어낼 수 없는 구조다. 누적 다운로드 100만 회는 시장이 직접 낸 답이다. 특허 출원 11건은 기술의 독창성에 대한 공식 기록이다.

플랫폼이 실제로 작동하지 않는다면 이 결과들은 나올 수 없다.

평가절하가 이해도의 문제라면, 시간이 지나면서 자연히 해소된다. 다윈 플랫폼이 해야 할 일은 그 자리에서 계속 성과를 내는 것이다. 설명보다 결과가 빠르다.

'조합 기술'에 대한 오해
좀 더 기술적인 맥락에서 짚어두자.

Android는 Linux 커널 위에 구축됐다. 그러나 그것이 Android를 단순한 Linux 복사본으로 만들지 않는다. 어떤 아키텍처를 뼈대로 삼느냐는 핵심 질문이 아니다. 그 위에서 무엇을 어떻게 조합하고 최적화했는지가 진짜 기술이다.

공개 베이스 모델을 어떻게 선별하고, 어떤 가중치 전략으로 병합하고, 어떤 데이터와 평가 루프를 통해 한국어 성능을 끌어올리느냐 — 이것이 소버린 AI의 실질적 역량이다. 모든 것을 처음부터 직접 만드는 것이 소버린 AI의 조건이라면, 세계 어느 나라도 소버린 AI를 가질 수 없다.

다윈 플랫폼의 핵심 방법론이 특허 출원 11건으로 기록되어 있다는 사실, 그리고 K-AI 블라인드 평가에서 11개 모델이 20위권에 진입했다는 사실이 이 논점에 대한 가장 명확한 답이다.

소버린 AI의 현실적 방향
요즘 소버린 AI라는 말이 많이 나온다.

자국 언어와 문화, 산업 데이터를 이해하는 AI를 직접 가져야 한다는 주장이다. 방향은 맞다. 하지만 소버린 AI를 단순히 "한국형 파운데이션 모델 하나 만들기"로만 보면 위험하다.

파운데이션 모델 하나를 거대하게 만드는 데에는 막대한 비용이 든다. 글로벌 빅테크와 정면으로 모델 크기 경쟁을 하는 것은 쉽지 않다.

오히려 실질적인 경쟁력은 다른 곳에서 나올 수 있다.

좋은 모델을 빠르게 만들 수 있는 플랫폼. 공개 모델을 한국어와 특정 목적에 맞게 재구성하는 기술. 파생 모델을 대량으로 만들고 평가하는 체계. 성능 좋은 모델을 저렴하게 서빙하는 추론 인프라.

이런 것들이야말로 현실적인 소버린 AI의 기반이 될 수 있다.

그런 관점에서 다윈 플랫폼의 성과는 꽤 중요하다. 단순히 "우리가 만든 모델이 1등을 했다"가 아니라, "우리가 만든 플랫폼에서 나온 모델 생태계가 상위권을 점유했다"는 이야기이기 때문이다.

모델보다 중요한 것은 모델을 만드는 능력
AI 경쟁의 초점은 조금씩 바뀌고 있다.

처음에는 누가 더 큰 모델을 만들었는지가 중요했다. 그다음에는 누가 더 높은 벤치마크 점수를 받았는지가 중요했다. 이제는 더 근본적인 질문이 필요하다.

누가 좋은 모델을 반복적으로 만들어낼 수 있는가.

누가 파생 모델 생태계를 만들 수 있는가.

누가 평가, 개선, 배포까지 연결된 플랫폼을 가지고 있는가.

다윈 플랫폼이 K-AI 리더보드 20위권에 11개 모델을 올렸다는 사실은 바로 이 질문에 대한 하나의 답이다.

모델 하나가 아니라 모델 생산 체계. 단발성 성과가 아니라 반복 가능한 성과. 개별 연구가 아니라 플랫폼 경쟁력. 그리고 그 경쟁력을 뒷받침하는 특허 출원 11건.

이 지점이 중요하다.

한국 AI가 가야 할 길
국내 AI 시장은 그동안 하드웨어 확보, GPU 인프라, 대형 모델 구축에 많은 관심을 쏟아왔다.

물론 인프라는 중요하다. 하지만 AI의 진짜 경쟁력은 하드웨어만으로 나오지 않는다.

모델을 만드는 소프트웨어. 모델을 평가하는 체계. 모델을 개선하는 플랫폼. 모델을 빠르게 서빙하는 추론 엔진.

이 네 가지가 함께 있어야 한다.

다윈 플랫폼은 그중 "모델을 반복적으로 생성하고 개선하는 능력"을 보여주는 사례다. 그리고 이 성과가 K-AI 리더보드라는 공정한 블라인드 평가 무대에서 드러났다는 점에서 더 의미가 있다.

한국 AI에 필요한 것은 단 하나의 거대한 모델이 아닐 수 있다. 오히려 필요한 것은 좋은 모델을 계속 만들어내는 플랫폼이다.

20위권 안에 11개. 누적 다운로드 100만 회. 특허 출원 11건.

숫자는 단순하다. 하지만 그 의미는 작지 않다.

비드래프트가 만든 것은 모델 하나가 아니라, 한국어 AI 모델을 진화시키는 시스템이다.

K-AI 리더보드 링크: https://leaderboard.aihub.or.kr/leaderboard

GPU를 만들 수 없는 한국, 그래서 GPU 위의 모델을 추론 가속하여 20배 이상 빨라졌다.

AI OpenFree — Fri, 03 Jul 2026 08:16:13 +0000

AI 이야기에서 사람들은 늘 두 가지만 말합니다. 모델이 얼마나 똑똑한가, 그리고 GPU를 몇 장이나 확보했는가. 엔비디아 주가가 그래서 오르고, 나라마다 GPU를 사재기합니다.

그런데 정작 업계가 조용히 앓는 병목은 다른 곳에 있습니다.

"확보한 GPU를, 얼마나 알뜰하게 쓰고 있는가."

AI는 누군가 질문할 때마다 GPU가 돕니다. 답변 한 줄이 곧 전기이고 서버비입니다. 사용자가 늘수록 이 '돌리는 비용'이 눈덩이처럼 불어납니다. 그래서 지금 AI 인프라의 진짜 승부처는 모델을 만드는 순간이 아니라, 그 모델을 계속 돌리는 순간, 즉 '추론(inference)'입니다.

여기서 등장하는 개념이 추론 가속(inference acceleration)입니다. 비드래프트가 공개한 VKAE (VIDRAFT Kernel Acceleration Engine) 는 그 한 사례이고, 이 글은 특정 제품 홍보가 아니라 이 기술이 대체 어떤 가치를 갖는지를 짚어보려 합니다.

GPU를 만드는 게 아니라, GPU를 '늘리는' 기술
이 기술을 이해하는 가장 좋은 비유는 이겁니다.

추론 가속은 GPU를 제조하지 않습니다. 대신, 이미 가진 GPU에서 성능을 몇 배로 끌어올려 마치 '가상의 GPU'를 한 대 더 꽂은 것과 같은 효과를 냅니다.

엔비디아가 물리적인 칩을 깎아 성능을 올린다면, 추론 가속은 소프트웨어(커널 레벨 최적화)로 같은 칩에서 더 많은 일을 뽑아냅니다. 같은 장비, 같은 전기, 같은 조건인데 처리량이 몇 배가 됩니다.

VKAE(VIDRAFT Kernel Acceleration Engine) 의 경우, 같은 GPU에서 일반적인 방식 대비 최대 23.4배 높은 처리량을 기록했다고 공개됐습니다(엔비디아 B200 기준, 다중 요청 시 초당 1만 토큰 이상). 핵심은 속도를 올리면서도 답변 품질은 그대로 유지한다는 점입니다. 빠른데 대충 답하면 의미가 없으니까요.

숫자 자체보다 중요한 건 그 함의입니다. 23배 빨라진다는 건, 극단적으로 말하면 GPU 한 장으로 여러 장의 몫을 한다는 뜻입니다. GPU를 새로 사는 대신, 있는 GPU를 소프트웨어로 증설하는 셈입니다.

왜 이게 '필수재'인가, 시장의 관점
여기서 시장성이 나옵니다. 추론 가속이 흥미로운 이유는, 이게 선택이 아니라 필수이기 때문입니다.

모든 AI 데이터센터(AI IDC)는 추론 가속이 반드시 필요합니다. 이유는 단순합니다.

첫째, GPU는 비싸고, 부족하고, 전기를 먹습니다. H100·B200급 GPU는 물량 자체가 귀하고, 데이터센터 전력은 한계가 있습니다. 무한정 사서 늘리는 건 불가능합니다.

둘째, 그래서 '확보한 자원의 효율'이 곧 경쟁력이 됩니다. 같은 GPU로 두 배 처리하면, 인프라를 두 배 지은 것과 같습니다. 반대로 최적화가 없으면, 비싼 장비를 절반만 쓰고 버리는 셈입니다.

셋째, 추론 비용은 서비스가 성공할수록 커집니다. 모델 학습은 한 번이면 끝나지만, 추론은 사용자가 쓰는 내내 발생합니다. 그래서 AI 서비스의 손익은 결국 '토큰당 단가'에서 갈립니다. 추론 가속은 이 단가를 직접 낮춥니다.

정리하면, AI를 서비스로 운영하는 모든 주체, 즉 클라우드 사업자, AI 스타트업, 자체 모델을 돌리는 기업, 국가 단위 AI 인프라(소버린 AI)에게 추론 가속은 '있으면 좋은 것'이 아니라 '없으면 적자'인 기반 기술입니다. GPU 공급이 빠듯할수록, 전기값이 오를수록, 이 기술의 값어치는 올라갑니다.

이건 이미 글로벌 트렌드입니다. vLLM, TensorRT-LLM 같은 추론 최적화 프레임워크가 빠르게 표준이 된 것도 같은 이유고, 추론 전용 반도체(그록, 세레브라스 등)가 주목받는 것도 "추론을 싸게" 만들려는 같은 방향의 움직임입니다.

이 접근에서 특히 눈에 띄는 지점, '재현 가능성'
속도 자랑은 흔합니다. "우리가 제일 빠릅니다"라는 주장은 업계에 넘칩니다. 문제는 그 말을 검증할 방법이 대개 없다는 것입니다.

VKAE 사례에서 주목할 만한 건, 성능 수치와 함께 모델 가중치와 최적화된 서빙 환경을 하나로 묶은 통합 도커(Docker) 컨테이너를 공개해, 사용자가 자신의 GPU에서 직접 재현하도록 했다는 점입니다. 게다가 OpenAI 호환 방식이라 기존 서비스에 바로 연결됩니다.

이 '재현 가능성'은 추론 가속 분야에서 생각보다 중요합니다. 벤치마크 숫자는 조건에 따라 얼마든지 유리하게 만들 수 있어서, "내 손으로 돌려봤더니 진짜 나오더라"가 결국 신뢰의 기준이 되기 때문입니다. 다만 냉정하게 보면, 이런 주장은 어떤 기준선(baseline) 대비 몇 배인지, 품질 저하는 얼마인지가 함께 공개될 때 완성됩니다. 그 조건까지 투명하게 밝혀질수록 기술 커뮤니티의 신뢰는 커집니다.

큰 그림
AI 경쟁은 흔히 '모델의 지능' 대결로 그려집니다. 하지만 그 지능을 실제 세상에서 굴러가게 하는 건 인프라의 경제학입니다. 아무리 똑똑한 모델도 돌리는 비용이 감당 안 되면 서비스가 될 수 없습니다.

추론 가속은 바로 그 지점, "똑똑함"과 "돌릴 수 있음" 사이의 간극을 메우는 기술입니다. GPU를 새로 만드는 건 소수의 반도체 기업만 할 수 있지만, 있는 GPU를 더 잘 쓰게 만드는 일은 소프트웨어의 영역이고, 여기엔 아직 큰 여백이 남아 있습니다.

큰 자본으로 GPU를 더 많이 사서 이기는 건 자연스럽습니다. 하지만 같은 GPU를 더 잘 써서 같은 결과를 내는 것, 그건 조금 다른 종류의 경쟁력이고, GPU가 귀한 시대일수록 더 값진 기술입니다.

GPU를 만들지 않고도, GPU를 한 대 더 만드는 일. 추론 가속이 AI 인프라에서 조용히, 그러나 필수적으로 중요해지는 이유입니다.

직접 확인하기
VKAE 리더보드·데모(도커 컨테이너 포함): https://huggingface.co/spaces/VIDraft/vkae

도커허브 VKAE Repo 링크: https://hub.docker.com/r/vidraft/qwen35-vkae

허깅페이스 VKAE Repo 링크: https://huggingface.co/FINAL-Bench/Qwen3.5-35B-A3B-VKAE

공식 사이트: https://www.vidraft.net

397B급 거대 모델을 단일 GPU 노드에서 초당 121.9토큰으로.

AI OpenFree — Wed, 01 Jul 2026 08:00:55 +0000

397B급 거대 모델을 단일 GPU 노드에서 초당 121.9토큰으로.

응답 시작까지 0.033초.

그리고 이 성능을 직접 확인할 수 있는 VKAE 공개 Space까지.

비드래프트는 초거대 AI를 더 빠르고, 더 싸고, 더 안정적으로 운영하기 위한 추론 가속 엔진 VKAE를 공개했습니다.

VKAE Hugging Face Space
https://huggingface.co/spaces/VIDraft/vkae

VKAE가 적용된 실제 사례('치토스')

https://chitos.vidraft.net

AI 모델이 점점 커지고 있습니다.

수십억 개 파라미터를 넘어, 이제는 수천억 개 파라미터를 가진 초거대 모델들이 등장하고 있습니다.

모델이 커질수록 더 복잡한 문제를 풀고, 더 깊은 추론을 하고, 더 전문적인 답변을 만들어낼 수 있습니다.

하지만 대가도 분명합니다.

느립니다.

비쌉니다.

운영하기 어렵습니다.

좋은 모델을 만드는 것만으로는 부족한 시대가 됐습니다.

이제 중요한 질문은 이것입니다.

“그 거대한 모델을 얼마나 빠르고, 안정적으로, 저렴하게 서비스할 수 있는가?”

비드래프트는 바로 이 문제를 풀고 있는 AI 기술 기업입니다.

비드래프트는 Darwin, JGOS 등 대규모 언어모델 개발과 평가, 모델 병합, 과학추론 특화 모델 연구, 추론 최적화 기술을 함께 개발해 왔습니다.

단순히 모델을 만드는 데서 멈추지 않고, 그 모델을 실제 서비스에서 쓸 수 있도록 서빙 인프라와 가속 기술까지 직접 구축하고 있습니다.

그 결과물 중 하나가 바로 VKAE입니다.

VKAE는 VIDRAFT Kernel Acceleration Engine의 약자입니다.

비드래프트가 개발한 커널 레벨 추론 가속 엔진입니다.

핵심 목표는 단순합니다.

같은 모델을 더 빠르게.

같은 GPU로 더 많은 사용자를.

같은 품질을 더 낮은 원가로.

초거대 모델의 병목은 모델이 아니라 서빙이다

많은 사람들은 AI 성능을 이야기할 때 모델 크기나 벤치마크 점수를 먼저 봅니다.

몇 B 모델인가.

어떤 데이터로 학습했는가.

어떤 리더보드에서 몇 점을 받았는가.

물론 중요합니다.

하지만 실제 서비스를 운영하는 순간, 더 현실적인 문제가 등장합니다.

사용자가 질문했는데 답이 늦게 나오면 쓸 수 없습니다.

동시 사용자가 늘어날 때 서버가 버티지 못하면 확장할 수 없습니다.

GPU 비용이 너무 높으면 아무리 좋은 모델도 상용화하기 어렵습니다.

초거대 AI의 진짜 병목은 점점 모델 자체가 아니라, 그 모델을 굴리는 방식으로 이동하고 있습니다.

같은 모델이라도 어떤 서빙 엔진을 쓰느냐에 따라 속도와 비용은 크게 달라집니다.

GPU라는 비싼 자원을 얼마나 효율적으로 쓰느냐가 곧 AI 서비스의 경쟁력이 됩니다.

VKAE는 이 지점을 겨냥했습니다.

비유하자면, 매번 지시하지 않고 한 번 녹화한 뒤 재생한다

초거대 모델이 답변을 만들 때는 토큰을 하나씩 생성합니다.

토큰 하나를 만들 때마다 GPU 안에서는 수많은 연산이 실행됩니다.

기본적인 서빙 방식에서는 이 연산 흐름을 CPU가 계속 조율하고 지시합니다.

문제는 이 과정에서 낭비가 생긴다는 점입니다.

GPU는 빠릅니다.

하지만 GPU가 일하려면 누군가 계속 일을 배분하고 순서를 알려줘야 합니다.

그 지시 과정이 반복되면, GPU는 잠깐씩 기다리게 됩니다.

모델이 커질수록 이 낭비는 더 커집니다.

VKAE의 아이디어는 직관적입니다.

복잡한 연산 흐름을 매번 새로 지시하지 말고, 한 번 최적화된 형태로 잡아둔 뒤 반복 실행하자는 것입니다.

쉽게 말하면 이렇습니다.

매번 설명하지 않고, 한 번 녹화한 뒤 재생한다.

다만 말은 쉽지만, 실제 구현은 간단하지 않습니다.

초거대 모델, MoE 구조, 선형 어텐션 구조, FP8 경량화, 배치 처리, 동시 사용자 처리 환경에서 이 방식이 안정적으로 작동해야 하기 때문입니다.

VKAE는 이 복잡한 문제를 커널 레벨에서 해결하는 추론 가속 엔진입니다.

커널 내부 구현은 비드래프트의 핵심 영업기밀입니다.

다만 공개할 수 있는 것은 분명합니다.

VKAE는 모델의 답변 품질을 바꾸는 기술이 아닙니다.

같은 계산을 더 효율적으로 실행하게 만드는 기술입니다.

실측 결과: 397B급 모델, 초당 121.9토큰

이제 중요한 것은 숫자입니다.

비드래프트는 397B급 초거대 모델을 FP8 환경에서 B200 GPU 4장 단일 노드에 올려 직접 측정했습니다.

먼저 사용자 1명이 사용할 때의 결과입니다.

기본 서빙 방식은 초당 약 25토큰 수준이었습니다.

VKAE 적용 후에는 초당 121.9토큰을 기록했습니다.

약 4.9배 빨라진 것입니다.

응답 시작까지 걸리는 시간은 0.033초였습니다.

사용자가 체감하기에는 거의 즉시 반응하는 수준입니다.

초거대 모델은 보통 강하지만 느리다는 인식이 있습니다.

VKAE는 이 인식을 바꾸고자 합니다.

거대한 모델도 충분히 빠르게 응답할 수 있다는 것을 실측으로 확인한 것입니다.

동시 사용자 처리량: 최대 27배

진짜 차이는 동시 사용자를 늘렸을 때 나타납니다.

AI 서비스는 한 명에게 빠른 것도 중요하지만, 동시에 많은 사용자가 접속했을 때 전체 처리량을 유지하는 것이 더 중요합니다.

비드래프트의 실측 결과, 기본 서빙 방식은 동시 사용자 16명 기준 초당 334토큰 수준이었습니다.

VKAE 적용 후에는 동시 사용자 256명 기준 초당 8,932토큰을 기록했습니다.

약 27배의 처리량 향상입니다.

더 중요한 것은 동시 사용자 256명 환경에서도 각 사용자가 초당 35~48토큰 수준의 응답을 받을 수 있었다는 점입니다.

이 정도면 단순한 벤치마크용 숫자가 아니라, 실제 서비스 운영 관점에서 의미가 있습니다.

한 대의 서버가 감당할 수 있는 트래픽이 늘어나고, 같은 GPU로 더 많은 사용자를 처리할 수 있습니다.

처리량이 늘어난다는 것은 곧 토큰당 원가가 내려간다는 뜻입니다.

빠른데 싸다

보통 AI 인프라에서는 둘 중 하나를 선택해야 합니다.

빠르면 비쌉니다.

싸면 느립니다.

그러나 VKAE가 목표로 하는 지점은 다릅니다.

같은 GPU에서 더 많은 토큰을 뽑아내면, 속도는 빨라지고 토큰당 원가는 내려갑니다.

GPU를 더 많이 사서 해결하는 방식이 아니라, 이미 가진 GPU를 더 효율적으로 쓰는 방식입니다.

공개 지표 기준 글로벌 상위 제공사들의 397B급 모델 서빙 속도와 비교해도 VKAE의 실측 성능은 최상위권에 해당합니다.

특히 응답 시작 지연 시간은 0.033초로, 초거대 모델 서비스에서 매우 짧은 수준을 기록했습니다.

이것이 VKAE의 핵심입니다.

더 빠르게.

더 많이.

더 낮은 원가로.

품질은 그대로 유지한다

가속 기술에서 가장 중요한 질문은 이것입니다.

“빨라진 대신 답변 품질이 나빠진 것은 아닌가?”

VKAE는 모델을 새로 학습시키거나 답변 방식을 임의로 바꾸는 기술이 아닙니다.

모델의 계산 결과 자체를 바꾸는 것이 아니라, 연산을 실행하는 경로와 방식을 최적화하는 기술입니다.

따라서 목표는 명확합니다.

품질은 그대로 유지하고, 실행만 더 빠르게 만드는 것.

비드래프트는 FP8 경량화 환경에서도 한국어 벤치마크 점수가 사실상 무손실에 가깝게 유지되는 것을 확인했습니다.

즉 VKAE는 단순히 빠른 엔진이 아니라, 초거대 모델의 실사용성을 높이는 엔진입니다.

Hugging Face Space로 공개한 이유

비드래프트는 VKAE를 단순한 내부 기술로만 소개하지 않습니다.

VKAE 전용 Hugging Face Space를 통해 공개적으로 확인할 수 있는 형태로 제시했습니다.

VKAE Hugging Face Space
https://huggingface.co/spaces/VIDraft/vkae

이 공간은 VKAE의 성능과 개념을 외부에서도 확인할 수 있도록 만든 공개 창구입니다.

많은 AI 기술은 “빠르다”, “싸다”, “좋다”고 말합니다.

하지만 실제로 중요한 것은 측정 가능한 수치와 재현 가능한 환경입니다.

VKAE Space는 바로 그 지점을 보여주기 위한 공간입니다.

비드래프트가 말하는 것은 단순한 주장이나 슬로건이 아닙니다.

실측 수치.

공개 링크.

검증 가능한 데모.

이 세 가지를 통해 VKAE가 초거대 AI 서빙에서 어떤 의미를 갖는지 보여주고자 합니다.

소버린 AI에는 모델만 필요한 것이 아니다

최근 전 세계적으로 소버린 AI가 중요한 화두가 되고 있습니다.

자국 언어와 문화, 산업 데이터를 이해하는 AI 모델을 직접 만들고 운영해야 한다는 흐름입니다.

한국 역시 예외가 아닙니다.

그런데 소버린 AI를 말할 때 모델만 이야기해서는 부족합니다.

모델을 직접 만드는 것도 중요합니다.

하지만 그 모델을 안정적으로 운영하는 기술도 필요합니다.

비용을 낮추는 기술도 필요합니다.

사용자가 체감할 수 있는 속도를 만드는 기술도 필요합니다.

소버린 AI는 모델과 인프라가 함께 있어야 완성됩니다.

비드래프트가 VKAE를 개발한 이유도 여기에 있습니다.

한국어에 강한 모델, 과학추론에 강한 모델, 산업 특화 모델을 만들었다면, 그다음은 그것을 세계 최상위 수준의 효율로 굴릴 수 있어야 합니다.

모델을 만드는 회사에서, 모델을 가장 잘 굴리는 회사로.

비드래프트는 이 방향으로 가고 있습니다.

큰 모델을 만드는 시대에서, 큰 모델을 잘 굴리는 시대로

AI 경쟁은 이제 새로운 단계에 들어섰습니다.

누가 더 큰 모델을 만들었는가.

누가 더 높은 점수를 받았는가.

이 질문도 여전히 중요합니다.

하지만 실제 시장에서는 다른 질문이 더 중요해지고 있습니다.

누가 더 빠르게 서비스하는가.

누가 더 낮은 비용으로 운영하는가.

누가 더 많은 사용자를 안정적으로 감당하는가.

누가 모델부터 서빙 엔진까지 풀스택으로 장악하는가.

VKAE는 이 질문에 대한 비드래프트의 답입니다.

397B급 초거대 모델.

B200 GPU 4장 단일 노드.

초당 121.9토큰.

응답 시작 0.033초.

동시 사용자 256명 기준 초당 8,932토큰.

이 수치는 단순한 성능표가 아닙니다.

초거대 AI를 실제 서비스로 만들기 위해 필요한 인프라 기술의 증거입니다.

큰 것을 만드는 시대는 지나가고 있습니다.

이제는 큰 것을 가장 잘 굴리는 자가 이깁니다.

비드래프트는 그 엔진을 만들고 있습니다.

비드래프트 공식 사이트
https://www.vidraft.net

VKAE #VIDRAFT #비드래프트 #추론가속 #초거대AI #MoE #GPU최적화 #B200 #소버린AI #AI인프라 #HuggingFace

DEV Community: AI OpenFree

VIDRAFT's Darwin: Cross-Architecture Model Merging That Beats Brute-Force Scaling

VIDRAFT's Darwin: Cross-Architecture Model Merging That Beats Brute-Force Scaling

What it is

How it works

Benchmarks & results

How to try it

FAQ

How a Sparse 35B MoE Runs on a CPU: Active Params, Memory Bandwidth, and a Reproducible Benchmark

How a Sparse 35B MoE Runs on a CPU: Active Params, Memory Bandwidth, and a Reproducible Benchmark

The one-file benchmark

Why it works: memory bandwidth, not FLOPs

Isolating the variable: A/B vs a dense 32B

Fast ≠ dumb

Reproduce it yourself

Honest limits (stated, not hidden)

VKAE vs VKUE

Links

VKAE: VIDRAFT's Kernel-Level LLM Inference Acceleration Engine Delivers Up to 23.4 Throughput Gains

VKAE: VIDRAFT's Kernel-Level LLM Inference Acceleration Engine Delivers Up to 23.4× Throughput Gains

What it is

How it works

Benchmarks & results

How to try it

FAQ

VIDRAFT Releases VKAE: An LLM Inference Acceleration Engine with Public Leaderboard and Unified Container

VIDRAFT Releases VKAE: An LLM Inference Acceleration Engine with Public Leaderboard and Unified Container

What it is

How it works

Benchmarks & results

How to try it

FAQ

VIDRAFT Releases "Building": An AI Architectural Design Service Powered by Darwin-398B — Free Open Research Preview

VIDRAFT Releases "Building": An AI Architectural Design Service Powered by Darwin-398B — Free Open Research Preview

What it is

How it works

Unit Design pipeline

Site Design pipeline

Benchmarks & results

How to try it

FAQ

한국의 어떤 AI 기술을 왜 중국과 러시아에서 주목하는지 분석

실시간 말하는 AI 아바타, 무료 휴대형 기기에 구현하기

거대 모델 없이 만든 AI 음성 아바타 — 4B로 충분했다

"AI 아바타 하나 만드는 데, 정말 초거대 모델이 필요할까?"

왜 '작은 모델'이 오히려 미래인가

그래서, 뭘 할 수 있나 (작아도 다 됩니다)

1. 실시간 정보를 '진짜로' 알려줍니다

2. 한국어를 '한국어답게' 말합니다

3. 당신을 '기억'합니다

4. 진짜 '아바타'입니다

기존 유료 서비스와 비교하면?

작아서 '되는' 것들

비드래프트, '자체 모델'을 만드는 회사

다음 이야기

양자컴퓨터와 AI를 결합하여 암호깨기에 도전, 성공 방법

중국 AI 싱크탱크가 격찬한 유일한 한국 AI 기술 등장

K-AI 리더보드에서 소버린 AI는 왜 부진한 것일까?

GPU를 만들 수 없는 한국, 그래서 GPU 위의 모델을 추론 가속하여 20배 이상 빨라졌다.

397B급 거대 모델을 단일 GPU 노드에서 초당 121.9토큰으로.

VKAE #VIDRAFT #비드래프트 #추론가속 #초거대AI #MoE #GPU최적화 #B200 #소버린AI #AI인프라 #HuggingFace