Cloud-GPU-Mietpreisindex

Die On-Demand-Preise für die neuesten Cloud-GPUs (B200, B300, MI300X, RTX 5090) haben sich im vergangenen Jahr grob verdoppelt, während Mainstream-Karten (H100, H200, A100) in einem engen Band blieben. Wir erstellen den GPU-Index monatlich aus 69 Anbietern und 17 GPU-Modellen und decken On-Demand-, Spot- und 1-Jahres-Reservierungsstufen ab.

Preisentwicklung nach GPU-Generation

Das Diagramm zeigt den monatlichen Medianpreis über drei Buckets nach Erscheinungszeitraum. Wir teilen 17 GPU-Modelle nach Einführungstermin in drei Kategorien ein:

Der größte Teil des Anstiegs stammt von B200- und B300-Angeboten, die von Neocloud-Anbietern auf Hyperscaler-Preislisten ausgeweitet wurden. Diese Hyperscaler-Angebote sind typischerweise 2x-3x höher und erhöhen den Kategorie-Median, sobald sie in den Datensatz aufgenommen werden.

Moderne GPUs stiegen um ~25 %, aber die Bewegung ist größtenteils statistisch. Google Cloud fügte seine A3z-Mega-H100-Variante zum Standard-A3-Angebot hinzu, was den Median der H100-Kohorte von etwa $2 auf etwa $3 anhob. Darunter tendierten die Neocloud-Preise für H100 nach unten. Wir weisen im nächsten Abschnitt darauf hin.

Legacy-GPUs fielen im Zeitraum von $1,77 auf $1,14, weil die V100-Kohorte ihre High-End-Hyperscaler-Anker verlor, da Unternehmen die SKU ausmustern. Ein oder zwei Anbieter pro Legacy-Karte verbleiben in unserem Datensatz: AWS listet K80 zu $0,90, P40 liegt bei Vast.ai bei $0,11, und der Rest sind ähnliche Einzelangebot-Randfälle.

Der Vertragsmarkt entwickelte sich anders: 1-Jahres-H100-Verpflichtungen tendierten im gleichen Zeitraum nach oben, während unser On-Demand-H100-Median etwa unverändert blieb. Dies zeigt eine wachsende Differenz zwischen monatlicher und 1-Jahres-Vertragspreisgestaltung.

Siehe unsere GPU-Index-Methodik für die Berechnung.

Preisentwicklung nach GPU-Modell

Das folgende Diagramm umfasst 10 GPUs: 5 moderne, 4 zuletzt veröffentlichte und die V100 als Legacy-Referenz.

Moderne GPUs (H100, H200, A100, L40S, RTX 4090)

IONOS deckt diese Stufe aus der EU ab: On-Demand-T4, A10 und RTX PRO 6000 Blackwell sowie dedizierte H100- und H200-Server zu pauschal $3,990/Monat mit EU-Datenresidenz.

H100 wird von 54 Anbietern gelistet, die breiteste Abdeckung aller aktuellen Beschleuniger. Der Kohorten-Median liegt jetzt bei rund $3,38/GPU-Stunde, gegenüber über $7 Anfang 2024. Thunder Compute, Vast.ai und RunPod liegen am unteren Ende der Spanne; Microsoft Azure und Google Cloud tragen das obere Ende über $10 hinaus. Die Google Cloud-Zeile ist selbst eine Mischung aus drei SKUs (a3-highgpu, a3-megagpu, a3-edgegpu), die unter einem nvidia-h100-Label zusammengefasst sind, was den Kohorten-Median anhebt.

Die Spanne von H200 reicht von $2,30 (FluidStack) bis $13,78 (Microsoft Azure), mit einem Kohorten-Median um $4.47. Die Untergrenze hängt davon ab, ob man Community-Tier- oder Instance-Share-Angebote als vergleichbar mit dedizierter Kapazität betrachtet. Wenn diese ausgeklammert werden, liegt der Arbeitsmedian im Bereich von $3–4.

A100 hält ein enges Neocloud-Band um $1,86, mit ein oder zwei Serverless-Inference-Ausreißern (Replicate bei $5,04), die das obere Ende nach oben ziehen. Behandeln Sie Serverless-Raten separat, wenn Sie IaaS-Anbieter vergleichen.

L40S hat sich bei einem Median von $1,54 eingependelt, wobei AWS mit $7,58 die Obergrenze setzt. Die RTX 4090 ist die günstigste Karte der Trainingsklasse im Index mit einem Median von $0,43; Salad mit $0,18 und Beam mit $1,61 begrenzen die Spanne. Beide zielen auf Inferenz unter 100B und Batch-Fine-Tuning ab, wo sie A100 oft zu einem Bruchteil des Preises ersetzen.

Zuletzt veröffentlichte GPUs (B200, B300, MI300X, RTX 5090)

B200-Median $6,22, Spanne $3,75 (Packet.ai) bis $16,11 (Google Cloud). B300-Median $7,98, Spanne $6,90 (TheAI Cloud) bis $17,80 (AWS). MI300X-Median $3,00, Spanne $2,39 (RunPod) bis $7,86 (Microsoft Azure). RTX-5090-Median $0,54, Spanne $0,29 (Salad) bis $3,63 (Vast.ai).

Das Muster wiederholt sich gegenüber der früheren Kurve der H100: Hyperscaler führen neue Beschleuniger im ersten Jahr zu 3-5x der Neocloud-Untergrenzen. B300 tendiert im Diagramm weiter nach oben, da zusätzliche Hyperscaler-Angebote den Median weiter anheben. MI300X ist der Angebotsausreißer; es liegt bei DigitalOcean und TensorWave unter der H100-Untergrenze, läuft aber auf ROCm, und nicht jede CUDA-Workload lässt sich sauber portieren.

Legacy-Referenz (V100)

Die V100, die Legacy-Karte im Diagramm, ist als Referenzlinie der Generation 2017 enthalten. Der Kohorten-Median fiel von $1,84 Mitte 2024 auf heute rund $1,57 bei 21 Anbietern. Hyperscaler pflegen V100-SKUs für Compliance-Kunden mit unveränderbaren Workloads; Neoclouds haben sie größtenteils aufgegeben.

Preisentwicklung nach Anbieter

Für dieselbe GPU sind die veröffentlichten Hyperscaler-Preise typischerweise 3x-6x höher als die niedrigsten Neocloud-Angebote im Datensatz. Die Katalogtiefe variiert je nach Anbieter, GPU, Region und Abrechnungstyp.

Angebot und Verfügbarkeit

Das Angebot variiert stärker als die Hauptpreise. Das folgende Diagramm zeigt den Anteil der Angebote jeder GPU, die heute bestätigten Bestand melden, sortiert vom knappsten zum am besten verfügbaren.

MI300X und B300 sind mit 5-28 % am knappsten, B200 und L40S folgen dicht dahinter mit 30-40 %. H200, H100 und A100 gruppieren sich nahe 43-51 %, wo etwa die Hälfte des Katalogs bestätigter Bestand ist und der Rest von der Bereitstellung abhängt. RTX 4090 und RTX 5090 erreichen 53-76 %, was ein tieferes Consumer-Kartenangebot und eine niedrigere Enterprise-Nachfrage pro Karte widerspiegelt.

Auswahl einer GPU und eines Anbieters

Die Wahl der GPU wird von drei Achsen bestimmt: Workload, Dauer und Region. Spot- und On-Demand-Preise kommen zu allen dreien hinzu.

Nach Workload

Nach Dauer

Unter einer Woche: Neocloud-On-Demand am unteren Ende der Spanne.

Mehrwöchig: Fordern Sie ein Angebot an (Neoclouds gewähren in der Regel Rabatt 15-30 % für Verpflichtungen von 4-12 Wochen; Hyperscaler bieten 1-Jahres-Reservierungsstufen).

Mehrjährig: Verhandeln Sie direkt mit Anbietern, da veröffentlichte On-Demand-Raten keine Rabatte für gebundene Laufzeiten erfassen.

Reservierungsrabatte

Der 1-Jahres-Reservierungsrabatt beträgt typischerweise 5-38 % auf den veröffentlichten On-Demand-Preis, mit den stärksten Einsparungen bei B300, der Inferenz-Stufe L40S und B200, wo Anbieter stärker um gebundene Kapazität konkurrieren.

H100 und H200 verzeichnen bescheidene Rabatte im einstelligen bis niedrigen Zehnerbereich; ihr On-Demand-Markt ist wettbewerbsintensiv genug, dass Anbieter keine Margen für Verpflichtungen opfern. B200-Reservierungen mit -15 %, MI300X mit -8 %, L40S mit -28 %. Das Diagramm zeigt den anbieterübergreifenden Median für beide Abrechnungsstufen; einzelne Anbieterangebote können bei mehrjährigen Laufzeiten, die hier nicht abgebildet sind, tiefer gehen.

Spot vs. On-Demand

Das Diagramm zum Spot-Rabatt-Tracker zeigt den medianen Spot- gegenüber On-Demand-Rabatt nach Kategorie. In den letzten sechs Monaten spart Modern ~50 %, Last Released ~49 %, Legacy ~61 % (Legacy ist verrauschter, als es aussieht; nur wenige Anbieter veröffentlichen noch Spot-Raten für diese Karten).

Wenn Ihre Workload Unterbrechungen von 5-15 Minuten toleriert, ist Spot der größte verfügbare Kostenhebel. Schalten Sie das Abrechnungs-Dropdown im Explorer-Diagramm oben um, um die Spot-Rate nebeneinander mit On-Demand für jeden Anbieter auf Ihrer Auswahlliste zu sehen.

GPU-Index-Methodik

Der Index erfasst veröffentlichte stündliche Cloud-GPU-Mietpreise über On-Demand-, Spot- und 1-Jahres-Reservierungsstufen (sofern Anbieter diese öffentlich listen). Er umfasst keine mehrjährigen Verträge, unternehmensspezifisch ausgehandelte Preise, Spot-plus-Savings-Plan-Kombinationen oder Gesamtbetriebskosten.

Unsere Daten sind monatliche Momentaufnahmen über 26 Monate (Juli 2024 bis August 2026), gefiltert auf 17 kuratierte GPU-Modelle bei 69 Anbietern. Jede Momentaufnahme meldet für jede Zelle (Anbieter, GPU, Abrechnungstyp, Monat) den Minimal-, Maximal-, Durchschnitts- und Median-Stundensatz pro GPU sowie die Anzahl der Angebote hinter diesen Zahlen.

Die Preise für H100, A100, H200, B200, B300 und V100 sind Mediane über mehrere physische Versionen der Karte (PCIe-, SXM- oder NVL-Interconnect; bei A100 und V100 auch 40/80 GB oder 16/32 GB VRAM), die Anbieter unter einem Namen listen.

Wie jedes Diagramm berechnet wird

Wir verwenden durchgängig Median der Mediane: Anbieter und GPUs fließen jeweils mit gleichem Gewicht in die Hauptzahl ein, sodass ein Anbieter mit 38 Angeboten einen Neuling mit 5 Angeboten nicht übertönt.

Marktüberblick (drei Kategorielinien):

Das Abrechnungs-Dropdown führt die Schritte 2-3 für die ausgewählte Stufe (On-Demand, Spot oder Reservierung) erneut aus. Eine vierte Option „Durchschnitt“ zeichnet das arithmetische Mittel der Mediane der drei Stufen pro Kategorie und Monat, beschränkt auf Monate, in denen für alle drei Stufen Daten vorliegen.

Anbieter × Abrechnungs-Explorer:

Für den von Ihnen gewählten Anbieter und die Abrechnungsstufe zeichnet jede Linie den monatlichen Median einer GPU im Zeitverlauf nach. Es wird keine anbieterübergreifende Aggregation angewendet: Der Punkt jedes Monats ist der Medianpreis über die Angebote dieses Anbieters für diese GPU und diese Abrechnungsstufe. Die Linie endet, wo das Angebot aus dem Katalog verschwindet.

Moderne GPUs im direkten Vergleich:

Gleiche Schritte 1-2 wie beim Marktüberblick, beschränkt auf On-Demand-Preise. Jede Linie ist der anbieterübergreifende monatliche Median für eine GPU. Keine GPU-übergreifende Aggregation. Acht Serien.

Spot-Rabatt-Tracker:

Dieser setzt jeden Spotpreis mit dem entsprechenden On-Demand-Preis desselben Anbieters, derselben GPU und desselben Monats in Beziehung, sodass der Rabatt die tatsächliche Spanne widerspiegelt, die ein Käufer bei diesem Anbieter sehen würde, und nicht einen marktübergreifenden Rauschunterschied.

Verfügbarkeits-Momentaufnahme:

Nur Momentaufnahme, keine zeitliche Aggregation. Angebote, die als unbekannter Bestand, Warteliste oder nicht verfügbar gemeldet werden, fließen weiterhin in den Nenner ein, werden aber im Diagramm nicht separat dargestellt, da das für Käufer relevante Signal der bestätigt verfügbare Anteil ist.

Reservierungsrabatte:

Verpassen Sie nicht unsere Benchmarks und datengestützten Erkenntnisse. Die Schaltfläche öffnet Google; die Auswahl von AIMultiple bestätigt, dass Sie AIMultiple häufiger in den Google-Suchergebnissen sehen möchten.

Als bevorzugte Quelle hinzufügen

FAQs

Weiterführende Literatur

• Multi-GPU-Benchmark: B200 vs. H200 vs. H100 vs. MI300X
• Top 30 Cloud-GPU-Anbieter & ihre GPUs
• GPU-Parallelitäts-Benchmark
• Top 25+ KI-Chip-Hersteller: NVIDIA & ihre Konkurrenten

Diese Forschung zitieren

Wählen Sie das Format, das zu Ihrem Veröffentlichungsort passt. Wenn Sie die Link-Version in Ihr CMS einfügen, bleibt der Backlink erhalten.

@misc{sari2026,
  author = {Sarı, Ekrem},
  title  = {{Cloud-GPU-Mietpreisindex}},
  year   = {2026},
  month  = aug,
  howpublished    = {\url{https://aimultiple.com/gpu-index}},
  note   = {AIMultiple. Abgerufen am 25. August 2026}
}

Änderungsprotokoll

3 Aktualisierungen

1. 202617. Jun

   Updated den GPU-Index über 63 Anbieter mit neuen Medianen, Verfügbarkeitsquoten und Reservierungsrabatten, IONOS ergänzt.

2. 20. Mai

   Mediane und Spannen in den Abschnitten Moderne und zuletzt veröffentlichte GPUs durch neue Werte ersetzt.

3. 14. Mai

   Eine Abrechnungsstufen-Option "Durchschnitt" wurde dem Marktübersichtsdiagramm im Methodikabschnitt hinzugefügt.

Ekrem Sarı

KI-Forscher

Folgen auf

Ekrem ist KI-Forscher und Datenwissenschaftler bei AIMultiple. Er entwirft und führt praxisnahe Benchmarks für KI- und LLM-Systeme durch.

Vollständiges Profil anzeigen

Seien Sie der Erste, der kommentiert

Ihre E-Mail-Adresse wird nicht veröffentlicht. Alle Felder sind erforderlich. Kommentare werden in ihrer Originalsprache belassen.

Name

E-Mail-Adresse

Kommentar

0/450

Kommentar posten