Modèles d'IA
Les modèles d'IA prédisent des résultats à partir de leurs données d'entraînement. Ils peuvent fonctionner dans tous les domaines, tels que les nombres, le texte ou le multimédia.
LLM Benchmark de latence par cas d'usage
Nous avons benchmarké 11 des meilleurs grands modèles de langage avec un total de 1 320 requêtes, en séparant les modèles de raisonnement et de non-raisonnement, et mesuré la latence du premier token, la latence par token et le temps de réponse global. Vous trouverez des détails sur la façon dont nous avons mesuré la…
Benchmark des modèles tabulaires: performances sur 19 jeux de données
Nous avons testé 8 modèles d’apprentissage tabulaire sur 19 jeux de données réels totalisant environ 260 000 échantillons, avec des tailles allant de 435 à 48 800 lignes. Chaque modèle a tourné sur la même machine avec une validation croisée en 5 plis et des partitions identiques. Chaque jeu de données est un tournoi en tête-à-tête entre…
LLM Quantification: BF16 vs FP8 vs INT4
Nous avons effectué des benchmarks de Qwen3-32B à 4 niveaux de précision (BF16, FP8, GPTQ-Int8, GPTQ-Int4) sur un seul NVIDIA H100 80GB GPU. Chaque configuration a été évaluée sur 2 benchmarks (~12,2K questions) couvrant les connaissances et la génération de code, ainsi que sur plus de 2 000 exécutions d'inférence pour mesurer le débit. Int4…