Intelligence Artificielle
Explorez des analyses pratiques, des recherches et des références en intelligence artificielle, notamment l'IA générative, les grands modèles de langage, RAG, les cadres de gouvernance, les pratiques MLOps et le matériel d'IA. Comprenez les outils clés, les stratégies de mise en œuvre et les cas d'usage en entreprise qui façonnent le paysage de l'IA.
Explorez Intelligence Artificielle
- LLMAnalyse21 sep
LLM Calculateur de VRAM pour l'auto-hébergement
Auto-héberger un LLM signifie exécuter l'inférence sur du matériel contrôlé par l'opérateur plutôt que via une API tierce, ce qui modifie le coût, le contrôle des données et le profil de confidentialité. Qu'un modèle puisse s'exécuter dépend de la mémoire. Le calculateur estime la VRAM ou la mémoire unifiée dont un modèle a besoin pour…
- Matériel IABenchmark21 sep
Benchmark multi-GPU: B200 vs H200 vs H100 vs MI300X
Depuis plus de deux décennies, l’optimisation des performances de calcul est une pierre angulaire de mon travail. Nous avons évalué les NVIDIA B200, H200, H100 et AMD MI300X pour mesurer leur capacité de mise à l’échelle pour l’inférence de Large Language Model (LLM). En utilisant le framework vLLM avec le modèle meta-llama/Llama-3.1-8B-Instruct, nous avons exécuté…
- Matériel IABenchmark21 sep
GPU Benchmark de concurrence: H100 vs H200 vs B200 vs MI300X
J'ai passé les 20 dernières années à me concentrer sur l'optimisation des performances de calcul au niveau système. Nous avons évalué les derniers NVIDIA GPUs, y compris les NVIDIA H100, H200 et B200, et l'AMD MI300X, pour une analyse de mise à l'échelle de la concurrence. En utilisant le framework vLLM avec le gpt-oss-20b model,…
- LLMBenchmark18 sep
IT agentique: les agents IA peuvent-ils concevoir un benchmark ?
Nous avons testé 16 modèles sur une conception de benchmark en text-to-SQL et en appel d'outils. Chaque modèle a construit un benchmark par sujet, pour un total de 32 soumissions. Aucune soumission n'a réussi tous les critères de la grille d'évaluation. Les agents ont pu construire et exécuter des tests, mais aucun n'a démontré à…
- LLMBenchmark17 sep
AIM Enterprise: Benchmark d'entreprise agentique
Les entreprises utilisent des LLM tous les jours pour leurs tâches courantes. Pour trouver les LLM les plus rentables, nous avons conçu AIM Enterprise, un benchmark d'entreprise agentique, dans lequel nous avons utilisé 69 tâches d'entreprise réelles couvrant la stratégie, le marketing, les RH, la vente et les opérations. Deux models juges ont noté chaque…
- Matériel IABenchmark17 sep
Alternatives au DGX Spark: RTX, Ryzen IA Halo et Mac Studio
Nous comparons les benchmarks d’inference publiés pour DGX Spark, RTX et Ryzen IA Halo, couvrant le traitement des prompts, la génération de tokens et les contextes plus longs. Les alternatives incluent le Framework Desktop, le Mac Studio et les systèmes GB10 d’autres fabricants. La vitesse de décodage mesure les tokens de sortie générés par seconde.…
- Matériel IAÉvaluation en Monde Ouvert16 sep
GPU cloud gratuits: modèles, limites et conditions d'accès
Des GPU cloud gratuits sont disponibles via des notebooks Python, des démos d’IA et des crédits de calcul mensuels. Comparez le matériel GPU, les quotas gratuit et les conditions d’accès, ou vérifiez quels services conviennent à votre charge de travail. Deux T4 fournissent deux allocations mémoire distinctes de 16 Go. Exécuter un modèle sur les…
- ChatbotsAnalyse15 sep
Wu Dao 3.0: La version chinoise de GPT-5
Lorsque les États-Unis ont coupé l'accès de la Chine aux puces avancées, l'Académie de Beijing pour l'intelligence artificielle a dû faire un choix : se plaindre des restrictions ou les contourner. Ils ont choisi la deuxième option. Wu Dao 3.0, lancé en juillet 2023, jette le manuel par-dessus bord. Pas de modèles massifs de billions…