DEV Community

Cover image for Benchmarks de Muse Wonder
Antoine Laurent
Antoine Laurent

Posted on Originally published at apidog.com

Benchmarks de Muse Wonder

Benchmarks de Muse Wonder

Benchmarks de Muse Wonder

Muse Wonder Full obtient 56 à l’Artificial Analysis Intelligence Index et Muse Wonder obtient 52, contre 58 pour Claude Opus 5.5, 56 pour Claude Sonnet 5.5 et 53 chacun pour GPT-6 Astra, Gemini 4 Argon et Claude Fable 5.1. La fiche modèle de Meta raconte une histoire plus forte : elle place Wonder en tête pour la programmation longue, le travail juridique, l’automatisation des entreprises et la mémoire. Les deux résultats sont vrais parce qu’ils mesurent des choses différentes, et cet écart est le fait le plus utile à retenir.

Essayez Apidog dès aujourd’hui

Voici tous les chiffres publiés par Meta et par les évaluateurs indépendants, avec ce que chaque test mesure, où Wonder domine, où il reste en retrait et quels résultats personne en dehors de Meta ne peut reproduire. Pour une présentation du modèle lui-même, voir l’explicatif Muse Wonder.

Le tableau de la fiche modèle de Meta

Meta a comparé Muse Wonder Full, Muse Wonder, GPT-6 Astra et Claude Opus 5.5 à effort de raisonnement maximal. Les lignes suivantes proviennent du rapport de VentureBeat sur la fiche modèle :

Benchmark Ce qu’il mesure Wonder Full Wonder GPT-6 Astra Claude Opus 5.5
Artificial Analysis Intelligence Index Composite de dix évaluations 56 52 53 58
Harvey LAB-AA Tâches d’agent juridique 13.1 10.0 8.6 4.2
AutomationBench-AA Automatisation des processus métier 45.4 39.1 41.6 41.2
JobBench Travail professionnel 75.3 70.5 66.1 75.4
DeepSWE 1.1 Ingénierie logicielle 79.0 78.8 74.1 74.2
SWE-Marathon Exécutions de code longues 57.5 53.1 42.5 46.3
Terminal-Bench 4.0-AA Tâches d’agent dans le terminal 57.1 52.0 59.1 59.6
HealthBench Pro Questions de santé 62.3 60.5 65.3 65.6

Lues horizontalement, les résultats dessinent une forme claire. Wonder Full gagne quand la tâche est longue et agentique : 11 points d’avance sur Opus 5.5 pour SWE-Marathon, cinq points pour DeepSWE et un facteur trois environ en juridique. Il perd sur le travail terminal, la santé et l’indice composite. Même dans le tableau de Meta, Opus 5.5 reste le modèle le plus intelligent en agrégé ; Wonder Full est le plus persévérant.

Meta mentionne elle-même deux réserves. Les exécutions concurrentes ont été faites au mieux, avec des réglages peut-être non optimaux pour ces modèles. Certaines comparaisons de code ont aussi utilisé des outils différents, rendant ces lignes moins contrôlées que les autres.

Les benchmarks internes de Meta : mémoire et concentration

Trois chiffres du matériel de lancement de Meta proviennent de tests que seul Meta peut exécuter.

Benchmark Wonder Full Wonder GPT-6 Astra Claude Opus 5.5 Claude Fable 5.1
MemoryBench 85.5 85.6 81.4 81.5 79.0
FocusBench 54.2 44.9 47.7 45.8 36.6

MemoryBench cache des faits dans des conversations de 64K à 100K tokens, ajoute des distracteurs et modifie certains faits en cours de route ; le modèle doit rappeler la version actuelle. C’est la preuve avancée pour Active Memory. FocusBench mesure si un modèle continue de poursuivre un objectif malgré les blocages, ce qui correspond à Active Focus. Note que le plus petit Wonder obtient un score inférieur à Astra et Opus sur FocusBench ; seul Full domine. Un troisième chiffre interne, le Personal Superintelligence Index, n’a aucune comparaison concurrentielle publiée.

Ce sont des tests plausibles de comportements réels, mais ils portent aussi exactement sur les comportements pour lesquels Meta s’est entraînée. Tant qu’une partie extérieure à Meta ne peut pas les exécuter, traite-les comme une description de l’objectif d’entraînement.

Les scores indépendants : Artificial Analysis

Artificial Analysis a évalué les deux modèles avec son Intelligence Index v4.3 à effort maximal. Le composite et plusieurs composantes donnent :

Évaluation Wonder Full Wonder Muse Spark 1.3 Comparaison notable
Intelligence Index 56 52 48 Opus 5.5 : 58 ; Sonnet 5.5 : 56 ; Astra / Argon / Fable 5.1 : 53 ; Grok 4.6 : 44
Terminal-Bench 4.0 57% 52% 33% Gemini 4 Argon : 57%
GDPval-AA (Elo) 1857, #2 n/d 1681 Opus 5.5 : 1866 ; Sonnet 5.5 : 1838
AA-Briefcase (Elo) 1729, #3 n/d 1581
CritPt 33%, #1 n/d n/d Rivaux les plus proches : 31 à 32%
GDP.pdf 33%, #1 n/d n/d Rivaux les plus proches : 31 à 32%
SciCode 63%, #3 n/d n/d
AA-Omniscience (connaissances) 30 25 25 Opus 5.5 : 46 ; Astra : 43 ; Argon : 42 ; Sonnet 5.5 : 32
Taux d’hallucination 23% 27% 33% Gemini 4 Argon : 15%
Coding Agents Index 68 63 54 Claude Code avec Sonnet 5.5 : 68 ; Opus 5.5 : 66

Trois éléments ressortent.

Le saut depuis Spark est réel. Huit points sur le composite en six semaines, et Terminal-Bench a presque doublé. Artificial Analysis le qualifie de progrès matériel en intelligence par rapport aux précédents modèles de Meta.

Les connaissances sont le point faible. Un score Omniscience de 30 contre 46 pour Opus 5.5 signifie que Wonder connaît moins de faits, même si son taux d’hallucination plus faible rend moins probable qu’il en invente. Pour les produits très dépendants de la recherche d’information, cela plaide pour un ancrage via la recherche ou vos propres documents plutôt que pour la mémoire du modèle.

Plusieurs avances sont étroites. CritPt et GDP.pdf précèdent le champ d’un à deux points, et l’avance de GDPval sur Sonnet 5.5 reste dans les intervalles de confiance. L’égalité au Coding Agents Index avec Claude Code sur Sonnet 5.5 est le chiffre le plus pertinent pour choisir un runtime d’agents, et elle appartient à Full, pas au modèle disponible via API.

La ligne où Meta et Artificial Analysis divergent

La fiche modèle de Meta indique Wonder Full à 59.0 sur une ligne de l’Artificial Analysis Intelligence Index. Artificial Analysis publie 56. La différence vient probablement des versions d’indice, des dates d’exécution ou du propre harnais d’évaluation de Meta, et aucun des deux ne l’a expliqué publiquement. Si vous voyez 59 cité, c’est le chiffre de Meta ; si vous voyez 56, c’est le chiffre indépendant. Le même écart apparaît sur AutomationBench : le tableau de Meta contient 45.4 et 39.1, tandis qu’Artificial Analysis rapporte 71% et 68% sur ce qui semble être une version différente du test. Citez toujours la source avec le chiffre.

Tokens et coût derrière les scores

Les scores à effort maximal s’accompagnent d’une facture de tokens. Artificial Analysis a mesuré environ 54 000 tokens de sortie par tâche pour les deux modèles Wonder, contre 62 000 pour Argon, 78 000 pour Fable 5.1 et 27 000 pour GPT-6 Astra. En entrée, Wonder a utilisé 7,69 millions de tokens sur l’indice et Full 6,44 millions, soit deux à sept fois plus que les modèles d’OpenAI et de Google. C’est pourquoi le coût par tâche de Wonder s’établit à 4,52 $, sous les 5,98 $ d’Opus 5.5 mais au-dessus des 3,26 $ d’Astra, alors qu’Astra affiche un prix catalogue 2,5 fois supérieur. L’article sur les tarifs détaille ce que cela signifie pour une charge réelle.

Ce que tester toi-même

Les benchmarks indiquent où regarder, pas ce qu’il faut livrer. Pour vérifier les forces agentiques revendiquées par Meta, le bon test est votre propre tâche longue : un refactoring en 30 étapes, une revue multidocument ou une boucle d’outils avec pannes délibérément injectées.

Dans Apidog, configure les mêmes prompts et définitions d’outils pour Muse Wonder, Opus 5.5 et votre solution actuelle, vérifie la sortie structurée et compare usage à chaque exécution. Le harnais de test d’appels d’outils et le guide de test des agents non déterministes couvrent la configuration. Téléchargez Apidog pour exécuter les trois côte à côte.

Rappelez-vous que l’API sert Wonder, pas Full. Tout titre de benchmark sur le modèle de frontière de Meta décrit probablement celui que vous ne pouvez pas appeler.

Questions fréquentes

Muse Wonder est-il le meilleur modèle disponible ? Pas sur le composite indépendant. Opus 5.5 obtient 58 contre 56 pour Full et 52 pour Wonder. Wonder Full domine des benchmarks agentiques précis : SWE-Marathon, DeepSWE, Harvey LAB et FocusBench.

Quels benchmarks peuvent être crus ? Les exécutions d’Artificial Analysis sont tierces et reproductibles. Le tableau intermodèles de Meta est exécuté par Meta avec des réglages concurrents au mieux. MemoryBench, FocusBench et le Personal Superintelligence Index sont réservés à Meta.

Comment se compare-t-il à Gemini 4 Argon ? Argon obtient 53 à l’indice contre 52 pour Wonder à moitié prix, égale Full sur Terminal-Bench à 57% et hallucine moins : 15% contre 27%. Notre article sur les benchmarks d’Argon contient son tableau complet.

L’effort maximal change-t-il le modèle ? Non. L’effort change la durée de raisonnement de Wonder ; il ne transforme jamais muse-wonder-1.0 en Muse Wonder Full.

Prochaine étape

Choisissez le benchmark le plus proche de votre charge de travail — SWE-Marathon pour les longues exécutions de code ou Omniscience pour le rappel factuel — et laissez ce résultat décider si Wonder mérite un essai. Le nombre composite ne le fera pas.

Top comments (0)