Intelligenzdichte von 71 LLMs: Intelligentere und dichtere Modelle
Wir haben 71 LLMs verfolgt, die zwischen Februar 2023 und Mai 2026 veröffentlicht wurden, und 10 öffentliche Benchmarks gesammelt, um die Intelligenzdichte zu messen. Wir haben den Fähigkeitswert durch die vom Modell verbrauchten Ressourcen (aktive Parameter, Trainingsrechenleistung und Inferenzpreis) dividiert.
LLM Intelligenzdichte-Übersicht
Um die Intelligenzdichte zu berechnen, haben wir die folgenden Schritte ausgeführt:
- Ressourceneffizienz: Wir haben die Fähigkeit jedes Modells durch zwei Ressourcenmetriken dividiert:
- Aktive Parameter: Ein Proxy für Speicher- und Bereitstellungskosten (nur Open-Weight).
- Inferenzpreis: Markteffizienz basierend auf gemischten API-Preisen pro Million Tokens.
- Hinweis zur Trainingsrechenleistung (FLOP): Wir hatten ursprünglich eine dritte Achse, Trainingsrechenleistung (FLOP), einbezogen, haben sie jedoch entfernt, weil ihre negative Steigung bei gesättigten Standard-Benchmarks den zusammengesetzten Wert für 2023–2024 in einen kontraintuitiven Abfall zog.
- Benchmark-Gruppierung: Um zu verhindern, dass eine Bewertungssättigung Effizienzgewinne verschleiert, haben wir die Fähigkeiten über zwei verschiedene Benchmark-Ären hinweg bewertet:
- Standard-Benchmarks (2023–2024): MMLU (5-shot), GSM8K (8-shot CoT), HellaSwag (10-shot), ARC Challenge (25-shot), HumanEval (0-shot pass@1).
- Erweiterte Benchmarks (2024–2026): MMLU-Pro, GPQA Diamond, AIME 2025, LiveCodeBench, SWE-bench Verified.
- Verkettete Indexierung: Wir haben das jährliche Wachstum innerhalb übereinstimmender Benchmark-Gruppen berechnet und sie multiplikativ von einer Basislinie von 100 im Jahr 2023 aus verkettet, um den kumulativen Trend darzustellen.
Siehe Methodik für den Bewertungsansatz und Aufschlüsselungen nach Ressourcen.
LLM Intelligenzdichte-Ergebnisse
Bis Mitte 2026 lieferte das KI-Ökosystem fast 15-mal mehr Intelligenz pro Ressourceneinheit (Parameter und Dollar) als die Basislinie von 2023. Zwei Punkte sind beim Lesen des Trends zu beachten:
- Der Anstieg von 2024–2025 (+362%) überbewertet den tatsächlichen Gewinn: Die erweiterten Benchmarks waren 2024 neu und nur eine Handvoll Modelle hatte Bewertungen darauf, sodass die Basislinie für 2024 künstlich niedrig ist. Der größte Teil des „Anstiegs“ ist das Auffüllen des Panels, nicht ein einjähriger Effizienzsprung.
- Der Anstieg von 2025–2026 (+105%) ist das, was wirklich zählt: Er wird anhand vieler weiterer Modelle gemessen und wird von kleinen Open-Weight-Veröffentlichungen wie Qwen 3.6-35B-A3B und DeepSeek V4 Flash angetrieben, die Fähigkeiten von Closed-Modellen der Spitzenklasse zu einem Bruchteil der Größe und Kosten erreichen.
LLM-Fähigkeit
Das Dichtediagramm zeigt die Effizienz. Um es in den Kontext zu setzen, haben wir auch die rohe Fähigkeit im gleichen Zeitraum gemessen: Wie viel schlauer sind diese Modelle tatsächlich geworden, bevor irgendeine Ressourcenanpassung vorgenommen wurde?
Fähigkeit, indexiert auf 100 im Jahr 2023, gemittelt über alle in jedem Jahr veröffentlichten Modelle.
Achsen und Tooltip funktionieren wie beim Dichtediagramm, wobei die Y-Achse die rohe Benchmark-Leistung statt der Dichte verfolgt.
Ein Fähigkeitswert von 100 im Jahr 2023 stieg bis 2026 auf 468, was ungefähr einer 4,7fachen Verbesserung entspricht. Jahr für Jahr:
- 2024 (+88%): Schneller Fortschritt bei Standard-Benchmarks, bevor sie gesättigt waren.
- 2025 (+105%): Gleicher schneller Fortschritt, gemessen an den schwierigeren erweiterten Benchmarks, die Standard-Benchmarks ersetzt haben.
- 2026 (+22%): Die Verlangsamung ist ein frühes Anzeichen dafür, dass auch die erweiterten Benchmarks anfangen, gesättigt zu werden.
Die beiden Diagramme nebeneinander gestellt:
- Die Fähigkeit wuchs um das 4,7fache, während die Intelligenzdichte um das 8,9fache wuchs.
- Modelle wurden gleichzeitig schlauer und effizienter. Sie benötigen nicht proportional mehr Parameter, Trainingsrechenleistung oder Geld, um zu laufen.
Beachte, dass: Der 4,7fache Fähigkeitswert ist eine glaubwürdige Größenordnung. Der 8,9fache Dichtewert ist fragiler (die erweiterte Gruppe von 2024 hat weniger Datenpunkte, was die Wachstumsrate des Jahres verstärkt), betrachte ihn daher als Richtungssignal und nicht als genauen Multiplikator.
Welches LLM hat die höchste Intelligenzdichte?
Die Intelligenzdichte hängt davon ab, welche Ressource wir messen und auf welcher Benchmark-Gruppe wir bewerten. Der Spitzenreiter ändert sich für jede Kombination.
Dichte pro aktivem Parameter (nur Open-Weight)
Diese Ansicht misst, wie effizient ein Modell Fähigkeiten in seine Gewichte packt. Aktive Parameter sind wichtig, weil Mixture-of-Experts (MoE)-Modelle jedes Token durch einen Bruchteil der Gesamtgewichte leiten. DeepSeek V3 hat 671B Gesamtparameter, aber 37B aktive pro Token, und die 37B-Zahl spiegelt die effektiven Bereitstellungskosten wider.
Standard-Benchmarks Spitzenreiter
- LLaMA 3.1 8B (Jul 2024): 100.0
- LLaMA 3 8B (Apr 2024): 85.0
- LLaMA 4 Maverick (Apr 2025): 55.9
- Mixtral 8x7B (Dez 2023): 47.4
- Mistral 7B (Sep 2023): 46.3
Erweiterte Benchmarks Spitzenreiter
- Qwen 3.6-35B-A3B (Apr 2026): 100.0 (3B aktive Parameter; die Bewertung basiert auf einem einzigen Benchmark, SWE-bench Verified bei 73.4%, daher entsprechend lesen)
- GPT-OSS 20B (Aug 2025): 85.2 (3.6B aktive Parameter)
- GPT-OSS 120B (Aug 2025): 64.4 (5.1B aktive Parameter)
- Qwen 3.5 9B (Mär 2026): 35.2 (9B dichte Parameter)
- DeepSeek V4 Flash (Apr 2026): 26.0
Das Ranking der Standard-Benchmarks hat sich seit Ende 2024 nicht mehr bewegt, weil die Benchmarks gesättigt sind, nicht weil der Fortschritt aufgehört hat. GPT-4 erzielte Anfang 2023 90.2 bei Standard-Benchmarks, aber 17.3 bei erweiterten Benchmarks.
Dichte pro Trainings-FLOP (nur Open-Weight)
Diese Ansicht belohnt Datenkuratierung, Architekturentscheidungen und Trainingsrezepte anstelle von reinen Ausgaben.
Hinweis: Die FLOP-Dichte auf Standard-Benchmarks scheint mit der Zeit zu fallen. Dies ist ein Sättigungsartefakt, kein Abfall der Trainingseffizienz. Die älteren Benchmarks messen keine jüngeren Fortschritte mehr, so dass die Fähigkeitswerte komprimiert werden, während die Trainingsrechenleistung weiter wächst.
Standard-Benchmarks Spitzenreiter
- Mistral 7B (Sep 2023): 100.0 (immer noch der Anker des Panels, seit über zwei Jahren)
- LLaMA 3 8B (Apr 2024): 40.8
- LLaMA 1 (Feb 2023): 37.0
- DeepSeek V2 (Mai 2024): 32.6
- Mixtral 8x7B (Dez 2023): 27.1
Erweiterte Benchmarks Spitzenreiter
- Qwen 3.5 9B (Mär 2026): 100.0
- Qwen 3.6-35B-A3B (Apr 2026): 28.4
- DeepSeek V4 Flash (Apr 2026): 6.4
Das Ergebnis von Qwen 3.5 (9B) ist bemerkenswert: ein 9B dichtes Modell, trainiert mit ca. 1.5 × 10²³ FLOP, das bei erweiterten Benchmark-Fähigkeiten 81.2 erreicht. Seine Trainingsrechenleistung ist ungefähr eine Größenordnung niedriger als bei DeepSeek V4 Pro, aber der Fähigkeitsunterschied ist kleiner.
Dichte pro Dollar Inferenz
Die Dichte pro Dollar ist die Achse, auf der Open-Weight- und geschlossene Spitzenmodelle direkt verglichen werden können, da die API-Preisgestaltung öffentlich überprüfbar ist. Wir verwenden die endgültigen Preise für die Überschrift, damit Preissenkungen nach dem Start berücksichtigt werden.
Standard-Benchmarks Spitzenreiter
- Mistral Small 3 24B (Jan 2025): 100.0 bei $0.10 / $0.30 pro Million Tokens über die Erstparteien-API von Mistral
- Gemini 1.5 Flash (Mai 2024): 99.3 (das bestbewertete Closed-Modell nach seiner Preissenkung im August 2024)
- DeepSeek V2 (Mai 2024): 66.0 bei $0.27 / $1.10 pro Million Tokens
- DeepSeek V3 (Dez 2024): 30.9
- DeepSeek R1 (Jan 2025): 17.8
Erweiterte Benchmarks Spitzenreiter
- GPT-OSS 120B (Aug 2025): 100.0 (Preisreferenz ist der anbieterübergreifende Median von OpenRouter, da OpenAI das Modell nicht auf einer eigenen API gehostet hat)
- GPT-OSS 20B (Aug 2025): 80.0
- DeepSeek V4 Flash (Apr 2026): 44.0 bei $0.06 / $0.42 pro Million Tokens über die Erstparteien-API von DeepSeek
- DeepSeek V3.2 (Dez 2025): 22.5
- Mistral Small 3 24B (Jan 2025): 20.9
- DeepSeek V4 Pro (Apr 2026): 16.0 bei $0.54 gemischt, mit einer erweiterten Benchmark-Fähigkeit von 97.8. Das bringt V4 Pro innerhalb von 2.2 Fähigkeitspunkten von Claude Opus 4.7 zu ungefähr 1/18 des gemischten Preises ($0.54 vs $10.00).
Die Kluft zwischen Closed-Frontier-Modellen hat sich nicht verringert
Geschlossene Reasoning-Modelle von Anthropic, OpenAI und Google liegen während des gesamten Panelzeitraums zwischen 0 und 6 bei der erweiterten Benchmark-Dichte pro Dollar. GPT-4 erzielte im März 2023 0.0. Claude Opus 4.7 erzielte im April 2026 0.9.
Closed Labs haben absolute Preise gesenkt:
- Claude Opus fiel von $30 auf $10 pro Million Tokens zwischen Opus 4 und Opus 4.5.
- OpenAIs o3 fiel von $10/$40 beim Start auf $2/$8 nach der Preissenkung.
- Gemini 1.5 Flash fiel um ungefähr 78%.
Aber der relative Abstand zu den Open-Weight-Dichteführern blieb über den Zeitraum hinweg ungefähr 30 bis 50fach. DeepSeek lag 2024 (V2) bei etwa $0.18 pro Million und 2026 (V4 Flash) bei etwa $0.18 pro Million. Der Open-Weight-Preisboden hat sich nicht bewegt, und der geschlossene Spitzenpreisboden hat sich nicht genug bewegt, um die Lücke zu schließen. Der Preiswettbewerb findet auf der Ebene der vorherigen Generation statt, wo ältere geschlossene Modelle als günstige Alternativen am Leben erhalten werden, nicht an der Spitze.
Die neue Richtung: Agentenbasierte Benchmarks
Die erweiterten Benchmarks, die zur Messung der KI-Leistung verwendet werden, beginnen ihre Wirksamkeit zu verlieren, wie die älteren Testreihen, die sie ersetzt haben. Labore haben begonnen, agentenbasierte Benchmarks (SWE-Bench Pro, SWE-bench Verified, Terminal-Bench, OSWorld-Verified, Finance Agent) anstelle der älteren Reasoning-Tests zu melden. Wir haben begonnen, ein Panel aufzubauen, um diesen Wandel zu verfolgen.
Zum Beispiel meldet das neueste Spitzenmodell Claude Opus 4.8 seine Ergebnisse fast ausschließlich auf diesen agentenbasierten LLM Benchmarks, ohne Bewertungen in den Reasoning-Benchmarks, die unser Hauptpanel verfolgt.
SWE-Bench Pro Lösungsrate nach Veröffentlichungsdatum, bewertet auf dem standardisierten Prüfstand Scale SEAL. Unter den dargestellten Modellen:
- Die besten Closed-Weight-Performer: Claude Fable 5 (80.3%), Claude Opus 4.5 (45.9%), Claude Sonnet 4.5 (43.6%) und Gemini 3 Pro Preview (43.3%).
- Die besten Open-Weight-Performer: GLM 5.2 (62.1%), Qwen3-Coder-480B-A35B (38.7%), Kimi K2 Instruct (27.7%) und Qwen3-235B-A22B (21.4%).
Entdecken Sie agentenbasierte Benchmarks, indem Sie sich die agentenbasierten Coding-Benchmarks, die agentenbasierten Suche und die agentenbasierten Überwachung ansehen.
Herausforderungen beim Vergleich agentenbasierter Leistung
Die Bewertung und der Vergleich agentenbasierter Benchmark-Ergebnisse bringt mehrere zentrale Schwierigkeiten mit sich:
- Fokus auf Fähigkeitsmetriken: Wir können Fähigkeitswerte anzeigen, da die zur Messung der Dichte erforderlichen Ressourcendaten (Parameterzahlen, Trainingsrechenleistung und verifizierte Preise pro Modell) von geschlossenen Laboren unvollständig oder nicht offengelegt bleiben.
- Systemebenen-Empfindlichkeit: Benchmark-Werte messen das gesamte System, nicht nur das KI-Modell allein. Da die Bewertungen stark vom „Scaffolding“ (dem umgebenden Software-Framework) abhängen, kann dasselbe Modell je nach verwendetem Agenten-Harness stark unterschiedliche Ergebnisse liefern.
- Standardisierungsprotokoll: Um einen fairen Vergleich zu gewährleisten, stellt dieser Bericht ausschließlich SWE-Bench Pro Daten aus einer einzigen standardisierten Umgebung (Scale's SEAL-Bestenliste) dar. Andere von Laboren gemeldete Bewertungen verwenden unterschiedliche Harness-Versionen und sind nicht direkt vergleichbar.
- Ausschluss von Claude Opus 4.8: Obwohl Opus 4.8 selbst einen Rekordwert von 69.2% bei SWE-Bench Pro meldet, wurde es auf dem internen Harness von Anthropic getestet und wurde noch nicht von Scale's SEAL bewertet. Um die strikte Datenkonsistenz zu wahren, geben wir seine Punktzahl hier an, statt sie zu plotten.
SWE-Bench Pro aus dem standardisierten Scale SEAL-Prüfstand. Die anderen Spalten sind laborberichtet auf unterschiedlichen Prüfständen und sind über die Zeilen hinweg nicht direkt vergleichbar. Gedankenstriche bedeuten, dass keine verifizierte Bewertung gefunden wurde.
Diese drei liefen auf dem mini-swe-agent Harness und sind daher vom Streudiagramm ausgeschlossen, um die Vergleichbarkeit zu wahren.
Methodik der Intelligenzdichte
Panel-Abdeckung
- Modelle: 71 LLMs, veröffentlicht von Februar 2023 bis April 2026. 37 Modelle haben Standard-Benchmark-Werte und 54 haben erweiterte Benchmark-Werte. Modelle ohne eine vollständige Benchmark-Gruppe sind von den Dichteberechnungen dieser Gruppe ausgeschlossen.
- Benchmarks: 10 öffentliche Benchmarks, alle von Laboren gemeldet und auf eine Primärquelle zurückführbar. Wir haben keinen Benchmark erneut ausgeführt.
- Ressourcen: Für jedes Modell haben wir seinen Fähigkeitswert unabhängig durch drei Ressourcen dividiert:
- Aktive Parameter: Ein Proxy für Speicher- und Bereitstellungskosten. Beschränkt auf Open-Weight-Modelle, da geschlossene Labs (OpenAI, Anthropic, Google) keine Parameterzahlen offenlegen.
- Trainingsrechenleistung (FLOP): Ein Proxy für die Trainingseffizienz. Ebenfalls auf Open-Weight-Modelle beschränkt. FLOP-Angaben sind größtenteils Schätzungen von Epoch KI und sollten als richtungsweisend gelesen werden.
- Inferenzpreis: Der Preis, den ein Käufer tatsächlich an der API zahlt. Die Fähigkeit wird durch den gemischten Preis pro Million Tokens bei einem Verhältnis von 3:1 Eingabe zu Ausgabe dividiert. Sowohl offene als auch geschlossene Modelle nehmen teil, da die API-Preisgestaltung öffentlich überprüfbar ist.
Warum zwei Benchmark-Gruppen?
Modelle, die 2024 veröffentlicht wurden, sättigten die Standard-Benchmarks, die KI-Labore seit 2020 verwendet haben. Sobald Spitzenmodelle 90% oder mehr auf einem Benchmark erreichen, trennt der Test nicht mehr starke von stärkeren Modellen. Die Labore reagierten mit der Einführung schwierigerer Benchmarks.
Wir behandeln diesen Wechsel aus zwei Gründen als klaren Bruch:
- Erstens: Das Mischen einfacher und schwieriger Benchmarks innerhalb eines einzigen Fähigkeitswerts würde es einem gesättigten Wert bei einem einfachen Benchmark ermöglichen, einen niedrigen Wert bei einem schwierigen zu überdecken. Ein Modell mit 85 bei MMLU-Pro ist stärker als eines mit 85 bei MMLU. Die beiden als gleichwertig zu behandeln, komprimiert den Wertebereich und belohnt ältere Benchmarks.
- Zweitens haben die beiden Suiten unterschiedliche Bewertungsverteilungen: Standard-Benchmarks gruppieren sich an der Spitze (die meisten Spitzenmodelle über 85), während erweiterte Benchmarks eine größere Streuung aufweisen (Top-Modelle um 90, mittlere Modelle um 50, schwächere Modelle unter 30). Ein Z-Scoring über beide hinweg würde die Varianzschätzung verzerren.
Wir berechnen die Fähigkeit für jede Gruppe unabhängig:
- Standard-Benchmarks (2023–2024): MMLU (5-shot), GSM8K (8-shot Chain of Thought), HellaSwag (10-shot), ARC Challenge (25-shot), HumanEval (0-shot pass@1).
- Erweiterte Benchmarks (2024–2026): MMLU-Pro, GPQA Diamond, AIME 2025, LiveCodeBench, SWE-bench Verified.
Ein Wert von 90 bei Standard-Benchmarks entspricht nicht 90 bei erweiterten Benchmarks. Für jedes ab Ende 2024 veröffentlichte Modell sind die erweiterten Benchmarks die aussagekräftige Referenz.
Fähigkeitsformel
Für jeden Benchmark b und jedes Modell m:
Wir verwenden die Populationsstandardabweichung (teilt durch N, nicht N−1). Dies entspricht der ursprünglichen pandas-Berechnung mit ddof=0 und stellt sicher, dass das Hinzufügen eines einzelnen neuen Modells die Varianzschätzung nicht rückwirkend verschiebt.
Wir mitteln dann die verfügbaren z-Werte pro Modell innerhalb jeder Benchmark-Gruppe und skalieren sie per Min-Max auf einen panelrelativen Wert von 0–100 um.
Dichteformel
Für jede Dichteansicht:
Der Nenner ändert sich je nach Ansicht: aktive Parameter in Milliarden, Trainings-FLOP dividiert durch 10²⁴ oder gemischter Preis pro Million Tokens.
Methodik des verketteten Index
Die beiden Indexdiagramme oben im Artikel (Intelligenzdichte und Fähigkeit) zeigen ein einzeiliges kumulatives Wachstum, indexiert auf 100 im Jahr 2023, nach dem Vorbild des kumulativen Renditeformats des S&P 500. Wir verketten die jährlichen Wachstumsraten über die Benchmark-Übergänge hinweg, anstatt absolute Werte darzustellen.
Schritt 1. Berechne den jährlichen Mittelwert der Metrik für jede Benchmark-Gruppe:
Für den Intelligenzdichte-Index ist die Metrik der zeilenweise Durchschnitt der drei Dichtewerte pro Modell (Combined Density A oder B). Für den Fähigkeitsindex ist die Metrik der panelrelative Fähigkeitswert (Capability_A oder Capability_B).
Schritt 2. Berechne für jeden Jahresübergang das Wachstum innerhalb einer einzelnen Benchmark-Gruppe. Beide Jahre müssen aus derselben Gruppe stammen:
Schritt 3. Verkette multiplikativ von einer Basislinie von 100 im Jahr 2023:
Gruppenauswahl pro Übergang:
- 2023 – 2024: Standard-Benchmarks (Erweiterte hat 1 Modell im Jahr 2023, zu dünn, um einen stabilen Mittelwert zu berechnen)
- 2024 – 2025: Erweiterte Benchmarks (Standard war Ende 2024 gesättigt; Erweiterte hat 16 Modelle im Jahr 2024 und 27 im Jahr 2025)
- 2025 – 2026: Erweiterte Benchmarks (Standard für 2026 nicht gemeldet)
Der verkettete Index geht davon aus, dass die zugrunde liegenden Populationen innerhalb einer Gruppe über die Jahre hinweg vergleichbar sind. Unser Panel ist heterogen (verschiedene Modelle jedes Jahr mit unterschiedlicher Benchmark-Abdeckung), daher sollten die verketteten Werte am besten als richtungsweisende Zusammenfassung und nicht als präziser Multiplikator gelesen werden.
Kernbewertungsprinzipien für die Messung der Intelligenzdichte
- Branchenübliche Benchmarks: Wir führen keinen benutzerdefinierten Benchmark ein.
- Primärquellen-Nachweis: Jeder Benchmark-Wert ist auf das Veröffentlichungspapier des Modells, das Model Card oder die offizielle Ankündigung zurückführbar. Wenn die Primärquelle einen Benchmark nicht gemeldet hat, bleibt die Zelle leer, anstatt dass ein Wert unterstellt wird.
- Abdeckungsflags (N): Für jedes Modell geben wir die Anzahl der Benchmarks an, die zu seinem Fähigkeitswert in jeder Gruppe beitragen. Modelle mit N=1 erhalten einen ungenaueren Wert als Modelle mit N=5. Der Fall N=1 trifft auf Qwen 3.6 35B A3B (nur SWE-bench Verified) und einige geschlossene Spitzenveröffentlichungen von 2026 zu.
Preisquellen für Closed-Weight-Modelle
Die Preisgestaltung ist der kohortensensibelste Teil des Index. Wir verwenden die folgende Hierarchie:
- Lab-Ankündigung zum Start (bevorzugt): Preis, der im Startbeitrag des Labors, in der API-Dokumentation oder in zeitgenössischer Presseberichterstattung genannt wurde.
- Anbieterübergreifender Median von Artificial Analysis (Fallback für reine Gewichtsmodelle): Wird für drei Llama 3.1-Zeilen (8B, 70B, 405B) und die GPT-OSS-Zeilen verwendet, da keine Erstanbieter-API existiert.
- Nur Gewichte ohne Abdeckung: 22 von 69 Zeilen haben keinen Preis pro Dollar erfasst. Sie erscheinen in Fähigkeits- und Pro-Parameter-Diagrammen, fehlen jedoch in den Pro-Dollar-Diagrammen.
Wir verfolgen zwei Preispfade: Startpreis (Erstanbieterpreis am Tag der Veröffentlichung) und endgültiger Preis (aktueller Erstanbieterpreis, oder der letzte vor der Einstellung). Sechs Modelle im Panel wurden nach dem Start neu bepreist:
- Gemini 1.5 Pro: $3.50/$10.50 auf $1.25/$5.00 (Oktober 2024)
- GPT-4o: $5.00/$15.00 auf $2.50/$10.00 (Oktober 2024)
- Gemini 1.5 Flash: $0.35/$1.05 auf $0.075/$0.30 (August 2024)
- Claude 3.5 Haiku: $1.00/$5.00 auf $0.80/$4.00 (Dezember 2024)
- o3: $10.00/$40.00 auf $2.00/$8.00 (Juni 2025)
Die Überschrift zur Dichte pro Dollar verwendet die endgültigen Preise. Bei 37 von 43 bepreisten Zeilen sind Start- und Endpreise identisch.
Aktualisierungsrhythmus
Wir aktualisieren den Index monatlich. Bei jeder Aktualisierung werden neue Modellzeilen für alle Spitzen- oder bemerkenswerten Veröffentlichungen des Vormonats hinzugefügt, die Preise aktualisiert, wo Labore ihre Tarife angepasst haben, neu gemeldete Benchmarks für bestehende Zeilen nachgetragen und die z-Werte über das gesamte Panel neu berechnet. Neue Modelleinträge verschieben den Mittelwert und die Standardabweichung jedes Benchmarks, sodass sich die bestehenden 0–100 Werte mit dem Panel bewegen. Historische Momentaufnahmen bleiben erhalten.
Einschränkungen der Bewertung der Intelligenzdichte
- Laborberichteter Optimismus: Benchmark-Werte stammen von den Laboren selbst. Unabhängige Wiederholungen liegen typischerweise 5 bis 13 Punkte niedriger. Trendlinien sind richtungsweisend informativ, aber nicht punktgenau.
- Reasoning- und Nicht-Reasoning-Modi nicht getrennt: Modelle, die 2025 und 2026 veröffentlicht wurden, unterstützen erweiterte Denkumschaltungen, die Mathe- und Codierungsergebnisse um 5 bis 15 Punkte verschieben können. Wir verwenden, wo identifizierbar, die Werte im Standardmodus.
- Trainings-FLOP-Angaben sind größtenteils Schätzungen: Eine Handvoll Zeilen haben laborbestätigte FLOP. Der Rest wird aus offengelegten Parametern und Trainingstokens extrapoliert, meist über Epoch KI.
- Parameterzahlen geschlossener Modelle unbekannt: Die Dichte pro Parameter und pro FLOP ist für geschlossene Spitzenzeilen leer. Geschlossene Modelle nehmen nur an der Dichte pro Dollar teil.
- Panelrelative Werte: Dichtewerte werden innerhalb des Panels mittels Min-Max neu skaliert. Ein neues Modell mit einem höheren Rohverhältnis verschiebt den 0–100 Wert jedes bestehenden Modells. Um Versionen des Panels zu vergleichen, verwende die zugrunde liegenden Rohverhältnisse anstelle der neu skalierten Werte.
Was ist Intelligenzdichte?
Die Intelligenzdichte stellt eine neue Metrik dar, um zu bewerten, wie viel Wissen und Denkfähigkeit ein Modell in eine einzelne Einheit von Speicher oder Rechenleistung packen kann. Sie misst die Modellarchitektur, indem sie bewertet, wie effektiv es jeden Parameter nutzt, um Wert zu erzeugen.
In diesem Rahmen stellt die x-Achse oft die Anzahl der Modellparameter dar, während die y-Achse die Leistung bei anspruchsvollen Aufgaben verfolgt. Eine hohe Dichte tritt auf, wenn Modelle überlegene Fähigkeiten demonstrieren, ohne die massiven Rechenkosten zu benötigen, die mit größeren Modellen verbunden sind. Dieser Prozess beweist, dass Intelligenz nicht allein von der Datenmenge oder dem Ausmaß des Trainings abhängt, sondern vielmehr davon, wie die Software und Algorithmen diese Informationen organisieren.
Früher hatte sich die KI-Community darauf verlassen, Modellparameter zu skalieren, um höhere Leistung zu erzielen, was zu massiven, ressourcenintensiven Systemen führte. Mit dieser Verschiebung des Fokus wird die algorithmische Optimierung gegenüber dem reinen Volumen priorisiert, um mehr Intelligenz aus kleineren Modellen zu erzeugen.
Warum ist es wichtig, die Intelligenzdichte zu messen?
Effiziente Systeme müssen die Inferenzzeit und die Speichernutzung optimieren. Die Identifizierung des Punktes, an dem mehr Tokens oder zusätzliche Rechenleistung keine signifikanten Gewinne mehr bringen, hilft der Branche, die Obergrenzen aktueller großer Sprachmodelle zu verstehen. Die Hauptgründe zur Messung der Intelligenzdichte lassen sich wie folgt zusammenfassen:
- Die KI-Community unterschätzt den langfristigen Overhead der Wartung überdimensionierter Modelle in Rechenzentren.
- Wertschöpfung in praktischen Anwendungen hängt vom Verhältnis der Ausgabequalität zur benötigten Energie ab, um sie zu erzeugen.
- Moores Gesetz für Hardware kann das Wachstum von Sprachmodellen nicht aufrechterhalten ohne entsprechende Fortschritte bei deren Optimierung.
- Reinforcement Learning und verbesserte Datenverteilung ermöglichen es Werkzeugen der nächsten Generation, Benchmarks zu erreichen, die einst nur Menschen vorbehalten waren. Erfahren Sie mehr über Reinforcement Learning und andere Arten von LLM Fine-Tuning-Techniken.
Während größere Modelle immer noch wichtig sind, um neue Grenzen zu erforschen, bestimmt die Dichte eines Systems seinen tatsächlichen Nutzen in der realen Welt. Dieser Kontext hilft, Intelligenz als ein konzentriertes Ergebnis des Trainings zu betrachten, anstatt als Nebenprodukt der bloßen Größe.
Weiterführende Literatur
Die Intelligenzdichte ist eine Möglichkeit, LLMs zu vergleichen. Weitere Dimensionen werden in separaten Analysen behandelt:
- Latenz-Benchmarks: Zur Zeit bis zum ersten Token und Tokens pro Sekunde, siehe unseren LLM Latenz-Benchmark.
- Aufgabenspezifische Benchmarks: Für Finanz-Reasoning siehe unseren Finanz-LLM-Benchmark. Für Coding siehe unseren KI-Coding-Benchmark.
Zitieren Sie diesen Benchmark
Wählen Sie das Format, das zu Ihrem Veröffentlichungsort passt. Wenn Sie die Link-Version in Ihr CMS einfügen, bleibt der Backlink erhalten.
@misc{simsek2026,
author = {Şimşek, Hazal},
title = {{Intelligenzdichte von 71 LLMs: Intelligentere und dichtere Modelle}},
year = {2026},
month = jul,
howpublished = {\url{https://aimultiple.com/intelligence-density}},
note = {AIMultiple. Abgerufen am 7. Juli 2026}
}Ergebnisse und Zeitstempel von 69 Datenpunkten. Laden Sie die in diesem Artikel verwendeten Daten als ZIP-Datei herunter, die eine CSV-Datei und eine README enthält.
Seien Sie der Erste, der kommentiert
Ihre E-Mail-Adresse wird nicht veröffentlicht. Alle Felder sind erforderlich. Kommentare werden in ihrer Originalsprache belassen.