L'hardware per l'IA imposta la velocità e il costo dell'addestramento e dell'esecuzione dei modelli. Confrontiamo GPU, acceleratori e chip per IA, e monitoriamo i prezzi delle GPU cloud, i fornitori e i motori di inferenza su tutto lo stack.
Sulla base della nostra esperienza nell'esecuzione del cloud GPU benchmark di AIMultiple con 10 diversi modelli di GPU in 4 scenari differenti, queste sono le migliori aziende di hardware IA per i carichi di lavoro dei data center.
Tracciamo 71 fornitori di cloud GPU e 14 famiglie di modelli GPU curate che coprono oltre 2.500 configurazioni di istanze distinte.
Abbiamo testato le più recenti NVIDIA GPU, incluse le NVIDIA H100, H200 e B200 e la AMD MI300X, per l'analisi del ridimensionamento della concorrenza.
Abbiamo raccolto la tariffa più bassa, il provider, l’intervallo di mercato e la mediana per oltre 40 configurazioni di GPU in tutti e tre i livelli di prezzo, più un benchmark di throughput per dollaro su 10 modelli.
