Le matériel IA détermine la vitesse et le coût de l’entraînement et de l’exécution des modèles. Nous évaluons les GPUs, les accélérateurs et puces IA, et suivons la tarification des GPU cloud, les fournisseurs et les moteurs d’inférence sur l’ensemble de la pile.
Sur la base de notre expérience d'exécution du benchmark cloud GPU d'AIMultiple avec 10 modèles de GPU différents dans 4 scénarios différents, voici les principales entreprises de matériel IA pour les charges de travail des centres de données.
Nous suivons 71 fournisseurs de GPU cloud et 14 familles de modèles GPU couvrant plus de 2 500 configurations d’instances distinctes.
Nous avons évalué les derniers GPU NVIDIA, y compris les NVIDIA H100, H200 et B200, et le AMD MI300X, pour une analyse de la mise à l'échelle de la concurrence.
Nous avons compilé le tarif le plus bas, le fournisseur, la fourchette de marché et la médiane pour plus de 40 configurations de GPU sur les trois niveaux de tarification, ainsi qu'un benchmark de débit par dollar sur 10 modèles.
