Grok 4.5 wurde mit erkannter Benchmark-Verunreinigung veröffentlicht — und sieht trotzdem nicht wie ein Sieger aus

xAI und Cursor haben gemeinsam das Modell Grok 4.5 veröffentlicht und geben zu, dass ein Teil der Trainingsdaten versehentlich mit dem Testdatensatz übereinstimmte. Unabhängige Benchmarks zeigen Ergebnisse, die bescheidener ausfallen als von Musk versprochen.

25
Teilen:
Інтерфейс Grok 4.5 (Фото: SpaceXAI)

Wenn ein Unternehmen seinen eigenen Benchmark aus der Präsentation streicht — das ist entweder Ehrlichkeit oder ein Zeichen dafür, dass die Ergebnisse nicht das aussagen, was sein soll. Im Fall von Grok 4.5 stellte sich heraus, dass es beides gleichzeitig war.

Was ist das für ein Modell

Grok 4.5 — das erste Modell unter der Marke SpaceXAI nach dem Rebranding von xAI, entwickelt gemeinsam mit dem Code-Editor Cursor. Nach der Architektur — Mixture-of-Experts basierend auf dem V9-Fundament mit 1,5 Billionen Parametern. Zum Vergleich: Die vorherige Version Grok 4.3 verwendete etwa 0,5 Billionen Parameter.

Das Modell ist in Cursor bei allen Tarifen, in Grok Build und über die SpaceXAI-API für $2 pro Million Eingabetoken verfügbar. Ausnahme — die EU: Das Modell ist dort noch nicht verfügbar, der Zugang soll bis Mitte Juli gewährt werden.

Wo steckt der Haken beim Benchmark

Cursor teilte in seiner Ankündigung sofort mit, dass es seinen eigenen Benchmark CursorBench aus den Vergleichsergebnissen ausgeschlossen hat. Der Grund — in den Trainingsdatensatz gelangte versehentlich ein frühes Snapshot der Codebasis von Cursor, was dem Modell einen unfairen Vorteil genau bei diesem Test gab.

«Grok 4.5 hat einen Vorteil bei CursorBench, weil ein frühes Snapshot der Codebasis von Cursor versehentlich in die Trainingsdaten gelangt ist. Das genaue Ausmaß ist unklar. Diese Daten wurden für zukünftige Modelle entfernt».

Cursor, offizielle Ankündigung

Unabhängige Benchmarks zeigen ein widersprüchliches Bild. Bei DeepSWE 1.0 (Infrastruktur des Anbieters) übertrifft Grok 4.5 Claude Opus 4.8. Aber bei dem neutralen DeepSWE 1.1 — fällt es deutlich hinter Opus 4.8 und Fable 5 zurück. Genau solche Unterschiede zwischen «Eigen-» und unabhängigen Messungen sind normalerweise das Hauptargument der Skeptiker.

Was ist wirklich neu

  • Breitere Spezialisierung. Der vorherige Composer 2.5 wurde rein auf Code trainiert. Grok 4.5 erhielt einen breiteren Mix: STEM-Aufgaben, wissenschaftliche Artikel, Finanz- und Rechtsdokumente — das Modell positioniert sich als Agent für «Wissensarbeit», nicht nur als Programmierer.
  • Reduzierter Kontext. Das Fenster ist von 1 Million Token in Grok 4.3 auf 500.000 in Grok 4.5 gefallen. xAI gab keine öffentliche Erklärung ab. Für Teams, die große Codebasen oder Dokumente analysieren, ist dies eine echte Einschränkung.
  • Token-Effizienz. Bei praktischen Aufgaben verbraucht Grok 4.5 weniger Ausgabetoken als Konkurrenten — das wirkt sich direkt auf die Kosten von Agent-Sitzungen aus.
  • Reinforcement Learning in realistischen Umgebungen. Das Modell wurde trainiert, sich nach Fehlern zu erholen und seine eigenen Ergebnisse zu überprüfen — nicht nur Code zu generieren, sondern ihn auch zu verifizieren.

Cursor-Daten als Vermögenswert und Risiko

Der Trainingsdatensatz umfasst Billionen von Token aus Cursor — Interaktionen von Entwicklern mit Codebasen, Muster der Agenten-Arbeit, Fehlerkorrekturen in echten Projekten. Dies gibt dem Modell «Erfahrung» in der Entwicklung, die Modelle, die nur auf statischem Code trainiert wurden, nicht haben.

Aber hier entsteht sogleich eine Abhängigkeitsfrage. Je mehr Cursor-Daten im Modell sind, desto enger ist die Verbindung zwischen dem Editor und dem Anbieter. Teams, die sich für Grok 4.5 wegen der Integration mit Cursor entscheiden, setzen faktisch darauf, dass beide Produkte kompatibel bleiben — und dass SpaceXAI die API-Bedingungen nicht ändert.

Wenn die nächste Iteration (laut Gerüchten — 2T V-Series, erwartet im August) eine solche Lücke zwischen Anbieter- und neutralen Benchmarks zeigt, wird die Frage zum Vertrauen in die Bewertungsmethodik zentral — und nicht nur für Grok.

Weltnachrichten

Kultur

Kiewer Zollbeamte beschlagnahmten aus einer internationalen Postsendung eine bestickte Ikone „Gottesmutter der Verkündigung" aus der ersten Hälfte des 19. Jahrhunderts – eines der seltensten Exemplare kirchlicher Kunsthandwerkskunst, die bis in die Gegenwart kaum erhalten geblieben sind. Die Absenderin verfügte über keine erforderlichen Genehmigungsdokumente.

3 Stunden vor
Sport

# Übersetzung ins Deutsche: Nach Frankreichs 2:0-Sieg gegen Marokko im Viertelfinale der WM 2022 auf der Edgware Road in London blockierte eine Menschenmenge den Verkehr, zündete Feuerwerk ab und warf Flaschen auf Polizisten. Ein Beamter wurde mit einer Kopfverletzung ins Krankenhaus eingeliefert, vier Teilnehmer wurden wegen „gewalttätiger Unruhen" verhaftet.

3 Stunden vor