O hardware de IA define a velocidade e o custo de treinamento e execução de modelos. Avaliamos GPUs, aceleradores de IA e chips, e acompanhamos nuvem GPU precificação, provedores e mecanismos de inferência em toda a pilha.
Com base em nossa experiência executando o AIMultiple’s nuvem GPU benchmark com 10 diferentes GPU modelos em 4 cenários diferentes, estas são as principais empresas de hardware de IA para cargas de trabalho de data center.
Acompanhamos 71 provedores de cloud GPU e 14 famílias de modelos GPU com curadoria, abrangendo mais de 2.500 configurações de instância distintas.
Realizamos benchmark das mais recentes GPUs da NVIDIA, incluindo a NVIDIA H100, H200 e B200, e a AMD MI300X, para análise de escalonamento de simultaneidade.
Selecionámos o preço mais baixo, fornecedor, intervalo de mercado e mediana para mais de 40 configurações de GPU nos três níveis de preços, mais um benchmark de débito por dólar em 10 modelos.
