Grok 4.5 est sorti avec une pollution de benchmark reconnue — et ne ressemble toujours pas à un gagnant

xAI et Cursor ont lancé conjointement le modèle Grok 4.5, reconnaissant aussitôt qu'une partie des données d'entraînement a accidentellement chevauché l'ensemble de test. Les évaluations neutres montrent des résultats plus modestes que ceux promis par Musk.

24
Partager :
Інтерфейс Grok 4.5 (Фото: SpaceXAI)

Lorsqu'une entreprise elle-même supprime son propre référence de la présentation — c'est soit de l'honnêteté, soit un signe que les résultats ne disent pas ce qu'il faut. Dans le cas de Grok 4.5, cela s'est avéré être à la fois l'un et l'autre.

Qu'est-ce que ce modèle

Grok 4.5 — le premier modèle sous la marque SpaceXAI après la refonte de xAI, développé conjointement avec l'éditeur de code Cursor. En termes d'architecture — mixture-of-experts basé sur la fondation V9 avec 1,5 billion de paramètres. Pour comparaison : la version précédente Grok 4.3 utilisait environ 0,5 billion de paramètres.

Le modèle est disponible dans Cursor sur tous les plans, dans Grok Build et via l'API SpaceXAI pour $2 par million de jetons d'entrée. Exception — l'UE : le modèle n'est pas encore disponible là-bas, l'accès est promis pour la mi-juillet.

Où réside la supercherie avec le référence

Cursor a immédiatement annoncé dans son communiqué qu'il avait exclu son propre référence CursorBench des résultats comparatifs. La raison — un snapshot précoce de la base de code Cursor s'est accidentellement retrouvé dans l'ensemble de données d'entraînement, donnant au modèle un avantage déloyal précisément sur ce test.

« Grok 4.5 a un avantage sur CursorBench, car un snapshot précoce de la base de code Cursor s'est accidentellement retrouvé dans les données d'entraînement. L'impact exact est peu clair. Ces données ont été supprimées pour les modèles futurs ».

Cursor, annonce officielle

Les références indépendantes donnent une image contradictoire. Sur DeepSWE 1.0 (infrastructure du fournisseur), Grok 4.5 surpasse Claude Opus 4.8. Mais sur DeepSWE 1.1 neutre — il est nettement inférieur à Opus 4.8 et Fable 5. Ce sont précisément ces écarts entre les mesures « internes » et indépendantes qui sont généralement l'argument principal des sceptiques.

Quoi de réellement nouveau

  • Spécialisation plus large. Le Composer 2.5 précédent a été entraîné uniquement sur le code. Grok 4.5 a reçu un mélange plus large : tâches STEM, articles scientifiques, documents financiers et juridiques — le modèle est positionné comme un agent pour le « travail avec les connaissances », et non seulement un programmeur.
  • Contexte réduit. La fenêtre a diminué d'1 million de jetons dans Grok 4.3 à 500 000 dans Grok 4.5. xAI n'a fourni aucune explication publique. Pour les équipes analysant de grandes bases de code ou des documents, c'est une véritable limitation.
  • Efficacité des jetons. Sur les tâches pratiques, Grok 4.5 consomme moins de jetons de sortie que ses concurrents — cela affecte directement le coût des sessions d'agents.
  • Apprentissage par renforcement dans des environnements réalistes. Le modèle a été entraîné à se rétablir après des erreurs et à vérifier ses propres résultats — non seulement générer du code, mais aussi le vérifier.

Les données Cursor comme atout et risque

L'ensemble de données d'entraînement inclut des billions de jetons provenant de Cursor — les interactions des développeurs avec les bases de code, les modèles de travail des agents, les corrections d'erreurs dans les projets réels. Cela donne au modèle une « expérience » de développement que les modèles entraînés uniquement sur du code statique n'ont pas.

Mais une question de dépendance surgit aussitôt. Plus les données de Cursor sont présentes dans le modèle, plus le lien est étroit entre l'éditeur et le fournisseur. Les équipes qui choisissent Grok 4.5 en raison de son intégration avec Cursor font effectivement un pari sur le fait que les deux produits resteront compatibles — et que SpaceXAI ne changera pas les conditions de l'API.

Si l'itération suivante (selon les rumeurs — 2T V-series, attendue en août) montre le même écart entre les références des fournisseurs et les références neutres, la question de la confiance envers la méthodologie d'évaluation deviendra centrale — et pas seulement pour Grok.

Actualités mondiales

Sport

Après la victoire de la France sur le Maroc 2-0 en quart de finale de la Coupe du monde 2022 à Edgware Road à Londres, une foule de supporters a bloqué la circulation, tiré des feux d'artifice et jeté des bouteilles sur les policiers. Un officier s'est retrouvé à l'hôpital avec une blessure à la tête, et quatre participants ont été arrêtés pour « troubles violents ».

il y a 3 heures