KI-Hardware bestimmt die Geschwindigkeit und Kosten für das Training und das Ausführen von Modellen. Wir benchmarken GPUs, KI-Beschleuniger und Chips und verfolgen Cloud-GPU-Preise, Anbieter und Inferenz-Engines über den gesamten Stack.
Keine passenden Forschungsartikel gefunden. Versuchen Sie andere Filter oder Suchbegriffe.
Basierend auf unserer Erfahrung mit dem AIMultiple-Cloud-GPU-Benchmark vergleichen wir Chip-Hersteller nach Produkt, Verfügbarkeit und Architektur und decken Data-Center-GPUs, mobile Chips, Edge-Beschleuniger und Foundries ab.
Wir haben NVIDIA-B200, -H200, H100 und AMD-MI300X einem Benchmark unterzogen, um zu bewerten, wie gut sie für die Inferenz von Large Language Models (LLM) skalieren.
Wir haben die neuesten NVIDIA-GPUs getestet, einschließlich der NVIDIA’s H100, H200 und B200 sowie der AMD’s MI300X, um die Parallelitätsskalierung zu analysieren.
Wir vergleichen veröffentlichte Inference-Benchmarks für DGX Spark, RTX und Ryzen KI Halo, einschließlich Prompt-Verarbeitung, Token-Generierung und längeren Kontexten.