Benchmark

Cloud GPU Preise, Leistung & Anbietervergleich

mit

aktualisiert am 17. Juni 2026

Cloud GPU Listenpreise für dasselbe Modell können sich von Anbieter zu Anbieter um ein Vielfaches unterscheiden. Wir haben den niedrigsten Preis, den Anbieter, die Marktspanne und den Median für 40+ GPU-Konfigurationen in allen drei Preismodellen sowie einen Durchsatz-pro-Dollar-Benchmark für 10 Modelle zusammengestellt.

Cloud GPU Preis pro Durchsatz

Sehen Sie die kosteneffektivste GPU für Ihre Workload über 13 Hyperscaler- und Neocloud-Anbieter, sortiert nach Durchsatz pro Dollar:

Siehe Cloud-GPU-Benchmark-Methodik für Details.

On-Demand ist das einfachste Preismodell, bei dem Sie stunden- oder sekundengenau für die genutzte Rechenkapazität bezahlen, ohne langfristige Verpflichtungen oder Vorauszahlungen.

Diese Instanzen werden für Nutzer empfohlen, die Flexibilität einer Cloud-GPU-Plattform ohne Vorauszahlung oder langfristige Bindung bevorzugen. On-Demand-Instanzen sind in der Regel teurer als Spot-Instanzen, bieten aber garantierte unterbrechungsfreie Kapazität.

On-Demand-Cloud-GPU-Preise

Anbieter	GPU	Niedrigster $/h	Spanne ($/h)	Median ($/h)
IONOS	RTX PRO 6000 96GB Blackwell	$1.79	$0.93 – $17.27	$1.54
IONOS	Tesla T4 16GB	$0.94	$0.20 – $4.35	$1.03
IONOS	A10 24GB	$1.10	$1.00 – $4.52	$1.60
IONOS	Intel Flex 170 16GB	$1.20	NA	NA
Vast.ai	RTX A4000 16GB	$0.07	$0.07 – $0.88	$0.11
Salad	RTX A5000 24GB	$0.11	$0.11 – $1.56	$0.37
Salad	RTX 3090 24GB	$0.11	$0.11 – $0.34	$0.20
Salad	RTX 4080 16GB	$0.13	$0.13 – $0.40	$0.24
Verda	V100 16GB	$0.17	$0.17 – $4.22	$2.65
Salad	RTX 4090 24GB	$0.18	$0.18 – $1.61	$0.41

Rangfolge: Sponsoren sind verlinkt und oben in der Tabelle hervorgehoben. Die übrigen Zeilen sind aufsteigend nach dem niedrigsten On-Demand-Preis sortiert. Die Spanne zeigt die Streuung zwischen dem niedrigsten und höchsten Listenpreis für dieselbe SKU über alle Anbieter hinweg. Der Median ist die Mitte der Preisverteilung über alle Listings dieser SKU und dient als fairer Marktanker. Die Preise spiegeln die letzte wöchentliche Katalogaktualisierung wider.

On-Demand ist das Standard-Mietmodell: stundenweise Bezahlung, keine Bindung, Kapazität garantiert, solange die Instanz läuft. Es ist die teuerste Stufe, aber die einzige ohne Kompromisse.

Spot-Cloud-GPU-Preise

Anbieter	GPU	Niedrigster $/h	Spanne ($/h)	Median ($/h)
IONOS	RTX PRO 6000 96GB Blackwell	NA	$0.15 – $9.14	$0.94
Vast.ai	RTX A5000 24GB	$0.05	$0.05 – $0.23	$0.12
Vast.ai	RTX A4000 16GB	$0.05	$0.05 – $0.27	$0.10
Vast.ai	P40 24GB	$0.07	$0.07	$0.07
Vast.ai	RTX 4090 24GB	$0.07	$0.07 – $1.20	$0.34
Vast.ai	RTX 3090 24GB	$0.07	$0.07 – $0.27	$0.14
Vast.ai	RTX 4080 16GB	$0.08	$0.08 – $0.30	$0.17
Vast.ai	RTX 5080 16GB	$0.08	$0.08 – $0.47	$0.15
Microsoft Azure	T4 16GB	$0.10	$0.10 – $0.66	$0.30
Vast.ai	RTX 5090 32GB	$0.13	$0.13 – $1.03	$0.36

Rangfolge: Zeilen sind aufsteigend nach dem niedrigsten Spot-Preis sortiert. Spot-Kapazität ist unterbrechbar. Der Median ist die Mitte der Spot-Preisverteilung für diese SKU.

Spot-Kapazität ist unterbrechbar; der Anbieter kann die Instanz mit kurzer oder ohne Vorwarnung zurückfordern, meist wenn die On-Demand-Nachfrage ansteigt. Spot-Preise liegen in der Regel 40-64% unter den On-Demand-Preisen desselben Anbieters. Nutzen Sie Spot für trainings mit Checkpoints, Batch-Inferenz und Evaluierungsjobs, die Neustarts vertragen. Vermeiden Sie es für latenzempfindliche Inferenz oder Einzelreplikadienste ohne Failover.

Reservierte Cloud-GPU-Preise (1 Jahr)

Anbieter	GPU	Niedrigster $/h	Spanne ($/h)	Median ($/h)
IONOS	RTX PRO 6000 96GB Blackwell	NA	$0.42 – $6.97	$1.14
Vast.ai	RTX A4000 16GB	$0.07	$0.07 – $0.39	$0.11
Vast.ai	RTX 3090 24GB	$0.13	$0.13 – $0.24	$0.17
Vast.ai	RTX A5000 24GB	$0.18	$0.18 – $0.52	$0.31
Database Mart	K80 24GB	$0.18	$0.18	$0.18
Database Mart	P100 16GB	$0.18	$0.18 – $2.03	$1.04
Vast.ai	RTX 4080 16GB	$0.21	$0.21 – $0.40	$0.22
Google Cloud	T4 16GB	$0.21	$0.21 – $2.74	$0.53
Database Mart	V100 16GB	$0.23	$0.23 – $3.64	$2.05
Vast.ai	RTX 4090 24GB	$0.25	$0.25 – $1.34	$0.43

Rangfolge: Zeilen sind aufsteigend nach dem niedrigsten reservierten 1-Jahres-Preis sortiert. Reservierungen sichern die Kapazität für die Laufzeit. Der Median ist die Mitte der reservierten Preisverteilung für diese SKU.

Reservierungen sichern Kapazität für eine feste Laufzeit im Austausch für einen Rabatt gegenüber On-Demand. Einjahresverträge liegen in der Regel 19-57% unter der On-Demand-Liste desselben Anbieters. In einigen Fällen sinken Reservierungspreise unter Spot, da der reservierende Anbieter das Inventar vollständig vom Spot-Markt trennt.

Lassen Sie unser Team einen Ihrer Geschäftsprozesse kostenlos mit KI-Agenten automatisieren.

Einen Prozess automatisieren

Cloud-Anbieter Leistungsvergleich

Dasselbe GPU-Modell kann je nach Anbieter aufgrund der Auswahl der Host-CPU, der Netzwerkstruktur, der Treiberkonfiguration und des Virtualisierungs-Overheads leicht unterschiedliche Leistung zeigen. Um dies zu quantifizieren, haben wir identische Text- und Bildgenerierungs-Workloads auf AMD MI300X 192GB bei DigitalOcean und Runpod ausgeführt:

Wichtige Erkenntnisse:

Bei Textgenerierung zeigte Digital Ocean einen etwas höheren Durchsatz und verarbeitete etwa 0,4% mehr Tokens pro Sekunde.
Umgekehrt zeigte Runpod bei der Bildgenerierung einen leichten Vorteil und verarbeitete etwa 0,4% mehr Bilder pro Sekunde.

Der Unterschied ist für die meisten Workloads unerheblich. Bei latenzkritischer Inferenz oder großangelegtem Training, wo jeder Prozentpunkt sich über Millionen von Inferenzen aufsummiert, sollten Sie die spezifische Anbieterkonfiguration benchmarken, bevor Sie sich auf eine lange Reservierung festlegen.

On-Premise kaufen oder in der Cloud mieten

Eigentum lohnt sich, wenn die Arbeitslast vorhersehbar ist, das Team über das operative Know-how verfügt und die Hardware-Auslastung über die Nutzungsdauer der GPU bei über ~70% liegt. Bei schwankender Nachfrage, Trainingsspitzen oder Produktexperimenten punktet die Cloud-Miete mit Kapitaleffizienz und Skalierungsflexibilität. Die Gewinnschwelle liegt etwa bei einer 12-monatigen Auslastung: über 70%, Reservierung oder eigene Kapazität schlägt fast immer On-Demand; unter 50% gewinnt Spot oder On-Demand bei der Flexibilität; das Mittelfeld hängt davon ab, wie viel Kapazitätsunterbrechung Ihre Workload verträgt.

Ein praktisches Muster im großen Maßstab: ein Basiscluster in der Größe des stetigen Bedarfs besitzen, für Spitzen und Erkundungsarbeiten in der Cloud mieten. Meta kündigte im Februar 2026 eine mehrjährige Partnerschaft an, um bis zu 6 Gigawatt AMD Instinct GPUs bereitzustellen – ein Zeichen, dass selbst Hyperscaler-große Betreiber ihre eigene Kapazität weiter ausbauen und gleichzeitig Cloud-GPUs für variable Workloads nutzen.

Consumer-GPUs (RTX 4090, RTX 5090) bieten auf dem Papier den besten Preis pro FLOP, aber NVIDIAs EULA schränkt deren Nutzung in kommerziellen Rechenzentren ein. Sie bleiben nützlich für einzelne Workstations und Proof-of-Concept-Arbeiten, nicht für den Produktionseinsatz.

Entdecken Sie weitere unserer Benchmarks und datengestützten Erkenntnisse in der Google-Suche.

Als bevorzugte Quelle hinzufügen

Cloud-GPU-Benchmark-Methodik

Durchsatz-Benchmarks verwenden 4-Bit FP-Quantisierung über alle Tests. Die Pipeline umfasst:

Text-Feintuning: Llama 3.2 mit den ersten 5,000 Gesprächen aus FineTome, 5 Epochen, 1M Tokens insgesamt, Unsloth-Framework. Durchsatz = (Tokens × Epochen) / Gesamtzeit.
Text-Inferenz: 1M Tokens generiert mit llama-cpp-python.
Bild-Feintuning: YOLOv9 mit 100 Bildern aus SkyFusion, 4 Epochen, Unsloth.
Bild-Inferenz: Feinabgestimmtes YOLOv9 mit ~500 Bildern bei 640×640.

Die Durchsatz-pro-Dollar-Metrik teilt den Workload-Output durch die stündlichen Kosten der Instanz. Die Durchsatzwerte sind workloadspezifisch und dienen als relative Richtwerte; dieselbe Hardware wird bei Ihrem eigenen Modell einen wesentlich anderen Durchsatz liefern.

FAQs

Ein einzelner GPU-Modellname deckt oft mehrere physische SKUs ab. H100 wird in PCIe-, SXM-, SXM5- und NVL-Varianten zu unterschiedlichen Preisen und Interconnect-Bandbreiten angeboten. A100 gibt es mit 40GB und 80GB VRAM; V100 mit 16GB und 32GB. Innerhalb eines Anbieters variiert der Listenpreis auch je nach Host-CPU-Klasse, gebündeltem RAM und Speicher sowie Region. Die obigen Preistabellen teilen die SKUs nach Interconnect und VRAM auf, wo es die Quelldaten erlauben, sodass jede Zeile eine einzelne physische Karte und keine Modellnamen-Aggregation darstellt.

Die Komponente führt einen festen Workload (Bild- oder Textgenerierung, Feintuning oder Inferenz) auf jeder GPU-Instanz aus und teilt die Gesamtleistung durch die stündlichen Kosten der Instanz. Ein höherer Wert bedeutet günstiger pro Output für diesen Workload. Die Rangfolge ändert sich mit dem Workload: Eine für FP8-Inferenz optimierte Karte kann bei der Textgenerierung vor einer Karte mit mehr VRAM liegen, verliert aber bei einem umfangreichen Bildmodell-Feintuning. Wählen Sie den Workload-Tab, der zu Ihrer Aufgabe passt, bevor Sie die Bestenliste lesen.

Die Preistabellen werden monatlich durch einen Katalog-Crawl aktualisiert.

Weiterführende Literatur

Diese Forschung zitieren

Wählen Sie das Format, das zu Ihrem Veröffentlichungsort passt. Wenn Sie die Link-Version in Ihr CMS einfügen, bleibt der Backlink erhalten.

Cem Dilmegani and Ekrem Sarı (2026) - "Cloud GPU Preise, Leistung & Anbietervergleich". Online veröffentlicht auf AIMultiple.com. Abgerufen am 17. Juni 2026, von: https://aimultiple.com/cloud-gpu-pricing [Online-Ressource]

Dilmegani, C., & Sarı, E. (2026, 17. Juni). Cloud GPU Preise, Leistung & Anbietervergleich. AIMultiple. https://aimultiple.com/cloud-gpu-pricing

@misc{dilmegani2026,
  author = {Dilmegani, Cem and Sarı, Ekrem},
  title  = {{Cloud GPU Preise, Leistung & Anbietervergleich}},
  year   = {2026},
  month  = jun,
  howpublished    = {\url{https://aimultiple.com/cloud-gpu-pricing}},
  note   = {AIMultiple. Abgerufen am 17. Juni 2026}
}

Cem Dilmegani

Leitender Analyst

Folgen auf

Cem ist seit 2017 leitender Analyst bei AIMultiple. AIMultiple informiert monatlich Hunderttausende von Unternehmen (laut similarWeb), darunter 55 % der Fortune 500. Cems Arbeit wurde von führenden globalen Publikationen wie Business Insider, Forbes und der Washington Post, von globalen Unternehmen wie Deloitte und HPE sowie von NGOs wie dem Weltwirtschaftsforum und supranationalen Organisationen wie der Europäischen Kommission zitiert. Weitere namhafte Unternehmen und Ressourcen, die AIMultiple referenziert haben, finden Sie hier. Im Laufe seiner Karriere war Cem als Technologieberater, Technologieeinkäufer und Technologieunternehmer tätig. Über ein Jahrzehnt lang beriet er Unternehmen bei McKinsey & Company und Altman Solon in ihren Technologieentscheidungen. Er veröffentlichte außerdem einen McKinsey-Bericht zur Digitalisierung. Bei einem Telekommunikationsunternehmen leitete er die Technologiestrategie und -beschaffung und berichtete direkt an den CEO. Darüber hinaus verantwortete er das kommerzielle Wachstum des Deep-Tech-Unternehmens Hypatos, das innerhalb von zwei Jahren von null auf einen siebenstelligen jährlichen wiederkehrenden Umsatz und eine neunstellige Unternehmensbewertung kam. Cems Arbeit bei Hypatos wurde von führenden Technologiepublikationen wie TechCrunch und Business Insider gewürdigt. Er ist ein gefragter Redner auf internationalen Technologiekonferenzen. Cem absolvierte sein Studium der Informatik an der Bogazici-Universität und besitzt einen MBA der Columbia Business School.

Vollständiges Profil anzeigen

Technisch geprüft von