Cloud GPU Anbieter lassen sich in drei Stufen einteilen. Hyperscaler betreiben breite Cloud-Plattformen, bei denen GPU-Mietangebote nur eines von vielen Produkten sind. Spezialisierte Neoclouds konzentrieren sich auf GPU und AI-Infrastruktur als ihr Kernprodukt. Community-Marktplätze bündeln Bestände vieler kleiner Betreiber, oft am unteren Ende der veröffentlichten Preisspanne.
Wir verfolgen 64 Cloud GPU Anbieter und 14 kuratierte GPU-Modellfamilien, die sich über mehr als 2.500 verschiedene Instanzkonfigurationen erstrecken.
Preise nach Anbieterstufe
Wählen Sie ein GPU-Modell und eine Anbieterstufe, um die On-Demand-Preisverläufe innerhalb dieser Stufe der letzten 23 Monate zu vergleichen.
Anbietervergleichstabelle
Spaltendefinitionen:
- Modelle: verschiedene GPU-Modellfamilien, die von allen Anbietern angeboten werden (NVIDIA + AMD + Intel). H100 und H100 NVL zählen als eine Familie.
- Kombinationen: verschiedene (GPU-Modell, GPU-Anzahl) Instanz-SKUs im öffentlichen Katalog.
- Abrechnungsstufen: wie viele der Optionen On-Demand, Spot und 1-Jahres-Reservierung der Anbieter anbietet (max. 3).
- State-of-the-Art: Ja, wenn der Anbieter B200, B300, MI300X oder RTX 5090 auflistet.
Rangfolge: Sponsoren sind verlinkt und an der Spitze der Tabelle hervorgehoben. Die übrigen Anbieter werden nach Katalogtiefe (Spalte Kombinationen) in absteigender Reihenfolge rangiert.
IONOS
IONOS ist eine europäische Cloud-Plattform mit Hauptsitz in Deutschland. Der öffentliche GPU-Katalog umfasst vier Single-GPU-SKUs:
Der RTX PRO 6000 Blackwell SKU ist eine der wenigen öffentlich gelisteten Blackwell-Generation-Karten unter 2 $/GPU/Std. auf der EU-Seite. IONOS listet H100 nicht öffentlich auf. Die Abrechnung erfolgt ausschließlich on-demand, mit einem angegebenen monatlichen Höchstbetrag für jeden SKU. Hosting und Rechenzentren befinden sich in der EU/EWR, was für Käufer mit GDPR-Datenaufbewahrungspflichten relevant ist.
Hyperscaler-Anbieter
Hyperscaler betreiben breite Cloud-Plattformen, bei denen GPU-Mietangebote nur eines von vielen Produkten sind, neben Compute, Storage, Networking, Identity und Managed Services. Sie kalkulieren in der Regel 3-6x höher als spezialisierte Neoclouds für dieselbe GPU, da die gemietete Kapazität mit Enterprise-SLA, Compliance-Zertifizierungen und Cross-Service-Integration gebündelt wird.
Amazon Web Services
AWS ist der größte Hyperscaler. Der Katalog umfasst 15 GPU-Modellfamilien und listet H100 über die p5-Instanzfamilie auf. Zwei Abrechnungsstufen sind öffentlich gelistet (On-Demand und 1-Jahres-Reservierung); Spot-Preise existieren, werden aber über einen separaten Anforderungsprozess abgewickelt. EC2 G7e wurde Anfang 2026 mit NVIDIA RTX PRO 6000 Blackwell hinzugefügt, zunächst in us-east-1 und us-east-2.1 2 3
AWS bietet auch eigene AI-Beschleuniger an (Trainium für Training, Inferentia für Inference), die außerhalb des GPU-Mietumfangs dieses Vergleichs liegen. SageMaker, Redshift und der breitere Katalog verwalteter Dienste sind häufige Gründe, warum Unternehmen sich trotz des GPU-Preisaufschlags für AWS entscheiden.
Für die meisten GPU-Instanztypen ist eine Quotengenehmigung erforderlich. Wir haben innerhalb eines Tages nach unserer Bewerbung eine Quote für alle H100- und A100-Typen erhalten.
Microsoft Azure
Azure listet H100 über die ND H100 v5-Serie (H100 SXM) auf; kleinere H100 PCIe-Konfigurationen sind über die NC-Serie verfügbar. Der Katalog umfasst 10 GPU-Modellfamilien und beinhaltet B200 (ND B200) sowie AMD MI300X (ND MI300X v5).4 5
Alle drei Abrechnungsstufen sind öffentlich gelistet. Azure baut zudem sein eigenes AI-Beschleuniger-Programm (Maia) für interne Trainingsworkloads auf; diese Chips sind über die standardmäßige GPU-Instanz API nicht mietbar.6
Google Cloud Platform
GCP listet das günstigste H100 in der Hyperscaler-Stufe auf, aber die Auflistung fasst drei SKUs (a3-highgpu, a3-megagpu, a3-edgegpu) in öffentlichen Katalog-Schnappschüssen in einer Zeile zusammen. Die A3 Mega-Variante wird typischerweise bei ca. 14,19 $/GPU/Std. gelistet, während A3 Standard bei ca. 11,06 $ liegt, und der sichtbare Median verschiebt sich, je nachdem, ob eine Variante in die öffentliche Auflistung ein- oder ausfällt. Der Katalog umfasst 10 GPU-Modellfamilien und beinhaltet B200 über die A3 Ultra-Familie.7
Alle drei Abrechnungsstufen sind öffentlich gelistet. GCP bietet zudem TPU-Beschleuniger (v5p, v6e, Trillium) als separate Produktlinie außerhalb des GPU-Mietumfangs dieses Vergleichs an.
Oracle Cloud Infrastructure
OCI verfolgt einen Bare-Metal-first-Ansatz: Die meisten GPU-Angebote laufen direkt auf der Host-Hardware ohne Hypervisor-Schicht. Der Katalog umfasst 13 GPU-Modellfamilien, einschließlich AMD MI300X und MI355X. Unter den Hyperscalern sind OCIs Bare-Metal-by-Default und RoCE v2-Cluster-Netzwerk Unterscheidungsmerkmale für eng gekoppelte Multi-Node-Trainingsworkloads. Cohere, ein früher Kunde, führt LLM-Training auf OCI-Clustern durch; Oracle hat zudem als strategischer Unterstützer in Cohere investiert.8
Andere Hyperscaler-Stufe allgemeine Clouds
OVHcloud (Frankreich-basiert), Scaleway (Frankreich, mit dem Nabu 2023 Supercomputer mit 1.016 H100 GPUs), DigitalOcean, Vultr und Linode/Akamai runden die Hyperscaler-Stufe ab. Dies sind allgemeine Cloud-Plattformen mit GPU-Mietangeboten als einer Komponente. Die in Europa ansässigen Anbieter (OVHcloud, Scaleway, IONOS) sind für EU-Datenaufbewahrung und Nachhaltigkeitsansprüche positioniert; Scaleway betreibt in drei EU-Regionen vollständig auf erneuerbaren Energien.9 10 11 12 13 14
Alibaba Cloud ist der einzige große Hyperscaler mit Verfügbarkeit auf dem chinesischen Festland. Der Katalog ist schmaler (4 GPU-Modellfamilien), und US/EU-Unternehmen mit regulierten Workloads schließen ihn in der Regel aufgrund von Gerichtsbarkeitsgründen aus.15
Neocloud-Anbieter
Neoclouds konzentrieren sich auf GPU und AI-Infrastruktur als ihr Kernprodukt. Sie unterbieten in der Regel die Hyperscaler-Preise um 50-80% für dieselbe GPU, da sie den Overhead breiter Plattformen umgehen. Der Kompromiss ist ein schmalerer Servicekatalog: Compute und grundlegender Storage sind gut abgedeckt; Identity, verwaltete Datenbanken und Cross-Service-Integration sind es nicht.
Lambda Labs
Lambda Labs gibt an, über 10.000 Forschungsteams zu bedienen. Der Katalog umfasst 8 GPU-Modellfamilien und ist nach Design GPU-only. Lambda Cloud kommt werkseitig mit PyTorch, TensorFlow, CUDA-Treibern und einem Jupyter-Notebook pro Instanz ausgestattet, näher an „Klicken und Trainieren" als andere Neoclouds. Lambda verkauft zudem direkt GPU-Hardware (Desktops, Server), mit den historischen Wurzeln des Unternehmens. Die Preisgestaltung ist in der öffentlichen Auflistung nur on-demand; Mehrwochen- und Mehrjahresverpflichtungen sind auf Anfragebasis.16
CoreWeave
CoreWeave ist der größte spezialisierte Neocloud und wurde als erster Elite-Cloud-Dienstleister von NVIDIA ausgewählt. Das Unternehmen gibt 45.000 GPUs in seinen Rechenzentren an und zählt NVIDIA zu seinen Investoren. Zwei Abrechnungsstufen sind verfügbar (On-Demand und Spot). Der Katalog umfasst 10 GPU-Modellfamilien, einschließlich B200 und B300.17
Das ARENA-Programm von CoreWeave (AI-Ready Native Applications) ermöglicht es Kunden, Produktionsworkloads gegen echte Infrastruktur zu benchmarken, bevor sie sich für Kapazitäten verpflichten. Die Preise liegen näher an der Hyperscaler-Stufe als bei anderen Neoclouds, was die höherwertige Enterprise-Positionierung widerspiegelt.
RunPod
RunPod betreibt zwei Stufen: Secure Cloud (dediziertes Bare-Metal) und Community Cloud (geteiltes Bare-Metal zu niedrigeren Preisen ohne SLA). Der Katalog umfasst 18 GPU-Modellfamilien, einschließlich AMD MI300X. Drei Abrechnungsstufen sind öffentlich verfügbar (On-Demand, Spot und Reserviert). Der Instanz-Start erfolgt in unter einer Minute, das Schnellste in unseren Messungen.18
Zu den jüngsten Updates gehören GitHub-Release-Rollback für Serverless-Endpunkte, Load-Balancing-Endpunkte in der Beta-Phase und Vercel AI SDK-Integration über das @runpod/ai-sdk-provider-Paket. Der Public Endpoints-Katalog umfasst Text-, Bild-, Video- und Audio-Modelle mit vorgefertigten Bereitstellungsvorlagen.
Crusoe
Crusoe betreibt Rechenzentren mit gestrandetem und abgefackeltem Erdgas, eine Kosten- und Emissionsarbitrage, die den aggressiven Aufbau von H100 und B200-Kapazitäten finanziert. Der Katalog umfasst 9 GPU-Modellfamilien, einschließlich AMD MI300X.19
FluidStack, Hyperstack, Nebius
FluidStack bündelt GPU-Kapazitäten von mehreren Rechenzentrumsbetreibern. Hyperstack ist eine der günstigsten H100-Quellen in der Neocloud-Stufe mit einem Standort in Großbritannien und drei Abrechnungsstufen. Nebius hat seinen Hauptsitz in Europa (Niederlande) und bietet State-of-the-Art B200 und B300 in seinem Katalog.20 21 22
Paperspace by DigitalOcean
Paperspace wurde von DigitalOcean übernommen und gibt an, über 650.000 Nutzer zu bedienen. Der Katalog umfasst 12 GPU-Modellfamilien. Die vorinstallierte Jupyter-Notebook-Oberfläche und das visuelle Instanzmanagement sind die historischen Unterscheidungsmerkmale; fortgeschrittene Nutzer ersetzen die GUI in der Regel durch native Jupyter- oder SSH-Workflows.23
Andere spezialisierte Neoclouds
TensorDock, CUDO Compute, Hot Aisle (AMD MI300X-Fokus), Sesterce, Lyceum, Cirrascale (nur Reservierung, beinhaltet Cerebras und Graphcore-Optionen), Together (Inference-Stufe) und Replicate (Serverless) runden die spezialisierte Stufe ab. Die meisten bieten nur On-Demand an und richten sich an kleine bis mittlere AI-Entwicklungsteams.24 25 26 27 28 29 30 31
Datacrunch und Seeweb (europäische Spezialisten)
Datacrunch ist ein in Finnland ansässiger Neocloud, der zu 100% auf erneuerbaren Energien läuft, mit H100, A100, RTX 6000 und V100 in Gruppen von 1, 2, 4 oder 8. Seeweb ist ein italienischer Neocloud, der ebenfalls zu 100% auf erneuerbaren Energien läuft, mit fünf GPU-Modellfamilien und Terraform-Unterstützung für Infrastructure-as-Code-Workflows.32 33
Als bevorzugte Quelle hinzufügenCommunity-Marktplätze
Community-Marktplätze bündeln GPU-Kapazitäten vieler kleiner Betreiber, oft am unteren Ende der öffentlich gelisteten Preisspanne. Der Kompromiss ist die Variabilität: geteiltes Bare Metal, weniger konsistente Uptime-SLAs und Bestände, die davon abhängen, wie viele Host-Betreiber zum Zeitpunkt der Anfrage online sind.
Vast.ai
Vast.ai bündelt 42 GPU-Modellfamilien und 106 verschiedene Multi-GPU-Konfigurationen, den tiefsten Katalog aller von uns verfolgten Anbieter. Drei Abrechnungsstufen sind verfügbar. Der Marktplatz bietet Bestände vieler kleiner Host-Betreiber an, was bedeutet, dass ein Preisangebot im Dashboard die aktuelle Verfügbarkeit widerspiegelt und möglicherweise fünf Minuten später nicht mehr gilt. Der Katalog umfasst auch veraltete Hardware (GTX 1080, K80-Ära), die kein anderer verfolgter Anbieter auflistet, nützlich für kostengesteuerte Experimente und akademische Workloads.34
Salad
Salad läuft auf verteilter Consumer-Hardware (Gaming-PCs, die während der Leerlaufzeit am Netzwerk teilnehmen). H100 ist nicht öffentlich gelistet; der Katalog neigt zu RTX 4090, RTX 5090 und anderen Consumer-Tier-Karten am unteren Ende dieser GPU-Klassen aller Anbieter.35
Theta EdgeCloud
Theta EdgeCloud umfasst 28 GPU-Modellfamilien über ein Edge-Netzwerk-Portfolio. Die verteilte Edge-Architektur ist das Unterscheidungsmerkmal für regionsbewusste Inference; die Preisgestaltung ist nur on-demand, und die Bestände variieren je nach Edge-Knoten.36
Bereitstellungsmodelle
GPU-Mietdienste kommen in drei Bereitstellungsformen. Jede Form tauscht Kontrolle gegen Komfort.
Serverless GPU
Serverless GPU-Dienste verwalten die Bereitstellung, Skalierung und den Abbau im Auftrag des Käufers. Der Anbieter berechnet Sekunden oder Millisekunden der tatsächlichen GPU-Nutzung; Leerlaufzeit ist kostenlos. Diese Form eignet sich für sporadische Workloads, Batch-Inference und burstige generative AI-Anwendungen, bei denen die durchschnittliche Auslastung niedrig ist.
Zu den gängigen Serverless GPU-Anbietern gehören Replicate, RunPod Serverless, Modal, Fal.ai und Together. Der Durchsatz pro Dollar schlägt in der Regel provisionierte GPU, wenn die Auslastung unter 30-40% liegt; oberhalb dieser Schwelle sind On-Demand- oder reservierte GPU-Instanzen günstiger.37 38 39 40 41
Virtual GPU (vGPU)
Virtual GPUs sind die häufigste Form. Ein Hypervisor teilt eine physische GPU in eine oder mehrere virtuelle Slices auf, die jeweils in einer virtuellen Maschine laufen. Alle großen Hyperscaler und die meisten Neoclouds verwenden standardmäßig diese Form. Die Kompromisse: vorhersehbare Kosten, breite Verfügbarkeit bei Anbietern und ein leichtes Latenz-Overhead durch die Virtualisierungsschicht.
Bare-metal GPU
Bare-metal GPU-Dienste liefern einen dedizierten physischen GPU-Server ohne Virtualisierungsschicht. Der Käufer erhält direkten Hardwarezugriff für maximale Leistung und minimale Latenz. Diese Form eignet sich für große Trainingsläufe, HPC-Workloads und jeden Fall, bei dem Virtualisierungsoverhead relevant ist. OCI, CoreWeave und Lambda Labs bieten alle Bare-Metal-Optionen an. AWS und Azure bieten dies über spezifische Instanzfamilien an (p5d bei AWS, ND-Serie bei Azure).
FAQs
Hyperscaler betreiben breite Cloud-Plattformen, bei denen GPU-Mietangebote nur eine von vielen Produktlinien sind. Spezialisierte Neoclouds konzentrieren sich auf GPU und AI-Infrastruktur als ihr Kernprodukt. Hyperscaler kalkulieren für dieselbe GPU 3-6x höher als Neoclouds; die Kluft spiegelt gebündelte Enterprise-Dienste wider und nicht rohe Siliziumleistung. Für einen nachhaltigen Preisvergleich über die Stufen hinweg siehe den Cloud GPU Rental Price Index.
Verwenden Sie Serverless, wenn die durchschnittliche GPU-Auslastung unter 30-40% liegt, wenn Workloads burstig sind oder wenn der Betriebsaufwand höhere Kosten verursacht als der Stundensatz. Provisionierte GPU auf einer Neocloud ist bei nachhaltiger hoher Auslastung günstiger.
Für Workloads mit EU-Datenaufbewahrungspflichten oder Käufer, die EU-Kunden auf latenzsensitiven Pfaden bedienen, ja. IONOS, OVHcloud, Scaleway, Nebius, Datacrunch und Seeweb sind in der EU ansässige Optionen. Die Preise entsprechen in der Regel den US-basierten Neoclouds oder liegen leicht darüber; die Prämie gilt für Aufbewahrung, Gerichtsbarkeit und Nachhaltigkeitsansprüche und nicht für rohe Rechenleistung.
Weiterführende Literatur
- Multi-GPU Benchmark: B200 vs H200 vs H100 vs MI300X
- Top 30 Cloud GPU Anbieter & ihre GPUs
- GPU Concurrency Benchmark
- Top 25+ AI-Chip-Hersteller: NVIDIA & seine Konkurrenten
- Cloud GPU Rental Price Index
Zitieren Sie diesen Benchmark
Wählen Sie das Format, das zu Ihrem Veröffentlichungsort passt. Wenn Sie die Link-Version in Ihr CMS einfügen, bleibt der Backlink erhalten.
@misc{dogan2026,
author = {Dogan, Sedat and Sarı, Ekrem},
title = {{Top 60+ Cloud GPU Anbieter}},
year = {2026},
month = jul,
howpublished = {\url{https://aimultiple.com/cloud-gpu-providers}},
note = {AIMultiple. Abgerufen am 3. Juli 2026}
}Ergebnisse und Zeitstempel von 233 Datenpunkten. Laden Sie die in diesem Artikel verwendeten Daten als ZIP-Datei herunter, die 2 CSV-Dateien und eine README enthält.
Referenzlinks
Kommentare 4
Teilen Sie Ihre Gedanken
Ihre E-Mail-Adresse wird nicht veröffentlicht. Alle Felder sind erforderlich. Kommentare werden in ihrer Originalsprache belassen.
Nice article, Cem! Could you add Koyeb and a few other serverless GPU providers?
Sure, thank you for the suggestion, we will consider it in the next edit.
Hi Cem, please also check out Dataoorts at https://dataoorts.com. We'd greatly appreciate being listed here.
Sure, we'll review to see if we can include Dataoorts in the next edit.
Hi Cem, we just launched Atlascloud.ai with the lowest H100 pricing on internet 2.48 on demand. Would love to get on your list.
Sure, we'll be reaching out to understand what Atlascloud.ai is offering.
Where is Nebius.ai ???
Thank you! It is added now.