Les nouveaux LLM, tels que la famille OpenAI GPT-5, existent en différentes versions (par exemple, GPT-5, GPT-5-mini et GPT-5-nano) et avec divers paramètres, notamment élevé, moyen, faible et minimal.
Ci-dessous, nous explorons les différences entre ces versions de modèles en rassemblant leurs performances de benchmark et les coûts d'exécution de ces benchmarks.
Prix par rapport au succès : Principales conclusions
Nous avons utilisé la famille GPT-5 dans notre analyse. Nous avons utilisé six benchmarks dans divers domaines, notamment le raisonnement, le codage, le suivi des instructions et les mathématiques.
Notre analyse a révélé :
- En moyenne sur l'ensemble des benchmarks, GPT-5 (high) et GPT-5 (medium) offrent des taux de réussite presque identiques (65 % contre 64 %), mais GPT-5 (high) coûte presque deux fois plus cher (511 $ contre 280 $). Ils sont suivis par GPT-5-mini (high), GPT-5 (low) et GPT-5-mini (medium), avec des taux de réussite de 62 %, 61 % et 60 % respectivement, à des prix beaucoup plus bas de 105 $, 90 $ et 28 $. Cela montre qu'en acceptant une baisse de réussite d'environ 5 %, les tâches peuvent être accomplies à un coût jusqu'à 18 fois inférieur en passant de GPT-5 (high) à GPT-5-mini (medium).
- GPT-5-mini (high) surpasse GPT-5 (low) dans presque tous les benchmarks, et ce au même coût ou à un coût inférieur. Dans IFBench, les taux de réussite sont de 75 % contre 67 % ; dans AIME 2025, 97 % contre 83 % ; dans Humanity's Last Exam, 20 % contre 18 % ; et dans GPQA Diamond, 83 % contre 81 %. Ils sont à égalité sur SciCode à 39 %, mais GPT-5-mini (high) reste moins cher.
- Le modèle le plus cher, GPT-5 (high), surpasse le deuxième meilleur sur seulement trois benchmarks, et même dans ce cas, la marge n'est pas supérieure à 3 %. Dans tous les autres benchmarks, il est surpassé par des alternatives moins chères.
Paramètres élevé, moyen, faible et minimal
Bien que les paramètres des LLM soient souvent décrits en termes d'ajustements numériques, ils peuvent également être exprimés sous forme de plages qualitatives telles que élevé, moyen et faible. Ces plages ne sont pas des normes fixes ; ce sont plutôt des catégories conceptuelles qui décrivent l'influence d'un paramètre sur la sortie du modèle.
L'utilisation de ces trois niveaux aide à sélectionner rapidement des paramètres pour différentes tâches, en fonction du niveau de créativité, de déterminisme ou de longueur souhaité. Ces niveaux sont bénéfiques lors du réglage de top-P, du nombre maximal de tokens et des paramètres de pénalité.
Le paramètre moyen fait référence à la version régulière (non paramétrisée) d'un modèle.
Paramètre minimal :
- Top-p / Top-k : Très faible (top-p ≈ 0,1–0,2, top-k = 1–5)
- Max tokens : Limite courte
- Pénalités : Très faibles ou nulles
- Effets :
- Très déterministe, des sorties presque identiques à chaque fois.
- Très concis, factuel et rigide.
- Idéal pour le code, les mathématiques, les requêtes de base de données ou les réponses conformes strictes.
- Très contraint, avec peu d'aléatoire, favorisant la prévisibilité et la précision.
Paramètre faible :
- Top-p / Top-k : Faible (top-p ≈ 0,3–0,5, top-k = 5–10)
- Max tokens : Court à moyen
- Pénalités : Faibles à modérées
- Effets :
- Majoritairement déterministe mais permet de légères variations.
- Réduit la répétition robotique par rapport au minimal.
- Convient aux résumés, aux explications structurées ou à l'écriture professionnelle avec un style cohérent.
Paramètre moyen :
- Top-p / Top-k : Modéré (top-p ≈ 0,7–0,9, top-k = 20–50)
- Max tokens : Longueur moyenne
- Pénalités : Modérées, pour éviter la répétition tout en permettant une certaine créativité
- Effets :
- Équilibré entre précision et créativité.
- Produit des réponses naturelles qui varient légèrement d'une exécution à l'autre.
- Convient aux Q&R généraux, à la rédaction et au brainstorming.
Paramètre élevé :
- Top-p / Top-k : Élevé (top-p ≈ 0,95–1,0, top-k = 50–100)
- Max tokens : Limite élevée pour des sorties plus longues
- Pénalités : Moyennes à élevées, encourageant la variété et la nouveauté
- Effets :
- Sorties très créatives et diversifiées.
- Moins prévisible, avec un risque accru d'hallucinations.
- Idéal pour la narration, l'idéation, le jeu de rôle et l'écriture créative.
Pour décider quel niveau utiliser, considérez :
- Type/objet de la tâche : Si vous avez besoin de précision (juridique, médical, code, factuel), choisissez minimal ou moyen. Si vous avez besoin de créativité, de voix ou de nouveauté, élevé pourrait être mieux.
- Tolérance aux erreurs : À quel point les bizarreries ou les erreurs occasionnelles sont-elles graves ? Si faible, évitez l'aléatoire élevé.
- Contraintes de calcul : Les longueurs de sortie élevées et l'aléatoire élevé nécessitent souvent plus de puissance de calcul et de mémoire.
- Taille du modèle : Les modèles plus grands gèrent généralement mieux l'aléatoire élevé, tandis que les modèles plus petits peuvent se dégrader considérablement avec des paramètres élevés.
- Longueur de sortie souhaitée : Un texte généré plus long peut dériver, donc un aléatoire élevé combiné à une longueur élevée est plus risqué.
GPT-5
GPT-5 équilibre une capacité de raisonnement plus élevée avec une vitesse moyenne, ce qui le rend adapté aux tâches complexes et multi-étapes où la précision et l'adaptabilité sont cruciales.
- Fenêtre de contexte : 400 000
- Max output tokens : 128 000
- Coupure des connaissances : 30 septembre 2024
- Raisonnement : Élevé, avec support des tokens de raisonnement
Tarification (par 1M de tokens)
- Entrée : 1,25 $
- Entrée mise en cache : 0,125 $
- Sortie : 10,00 $
Modalités
- Texte : entrée et sortie
- Image : entrée uniquement
- Audio : non pris en charge
GPT-5 mini
GPT-5 mini est une version plus petite, plus rapide et plus abordable de GPT-5. Il conserve une forte capacité de raisonnement tout en étant mieux adapté aux tâches bien définies.
- Fenêtre de contexte : 400 000
- Max output tokens : 128 000
- Coupure des connaissances : 31 mai 2024
- Fonctionnalités : Prend en charge la recherche web, la recherche de fichiers et l'interpréteur de code.
Tarification par 1M de tokens :
- Entrée : 0,25 $
- Entrée mise en cache : 0,025 $
- Sortie : 2,00 $
GPT-5 nano
GPT-5 nano est l'option la plus rapide et la moins chère, conçue pour des tâches légères telles que la classification et le résumé.
- Fenêtre de contexte : 400 000
- Max output tokens : 128 000
- Coupure des connaissances : 31 mai 2024
- Fonctionnalités : Prend en charge la recherche de fichiers, la génération d'images et l'interpréteur de code (mais pas la recherche web).
Tarification par 1M de tokens :
- Entrée : 0,05 $
- Entrée mise en cache : 0,005 $
- Sortie : 0,40 $
Fonctionnalités de la série GPT-5
La série GPT-5 introduit plusieurs capacités qui améliorent le contrôle, la mise en forme et l'efficacité. Ces fonctionnalités s'appliquent à GPT-5, GPT-5 Mini et GPT-5 Nano.
Paramètre de verbosité
Le paramètre de verbosité permet aux développeurs d'influencer le niveau de détail des sorties du modèle sans modifier le prompt.
Il accepte trois valeurs :
- Faible : résultats courts et concis
- Moyen : résultats équilibrés (par défaut)
- Élevé : sorties détaillées adaptées à l'explication, à la documentation ou à l'examen
Une verbosité plus élevée entraîne des réponses plus longues et une utilisation accrue des tokens de sortie.
Appel de fonction libre
La série GPT-5 prend en charge les appels d'outils personnalisés qui acceptent une sortie de texte brut au lieu d'un JSON structuré. Cela permet de générer du code, des requêtes SQL ou du texte de configuration qui est transmis directement dans des environnements d'exécution externes tels que :
- Sandboxes de code
- Moteurs SQL
- Environnements shell
- Systèmes de configuration
Le type d'outil personnalisé ne prend pas en charge les appels d'outils parallèles. Il est destiné aux situations où le texte naturel est préférable à un schéma JSON strict.
Prise en charge de la grammaire hors contexte (CFG)
Les modèles peuvent produire du texte contraint par une grammaire définie avec la syntaxe Lark ou regex. Cela garantit que le texte généré suit des règles structurelles strictes. Les cas d'utilisation courants incluent :
- Application de dialectes SQL spécifiques
- Restriction des horodatages ou des identifiants
- Validation des formats de configuration
Lors de l'utilisation de CFG, les développeurs définissent des terminaux et des règles qui décrivent l'ensemble des chaînes acceptables. Le modèle ne produit que des sorties qui correspondent à ces règles.
Mode de raisonnement minimal
Le mode de raisonnement minimal réduit ou supprime les tokens de raisonnement. Cela réduit la latence et améliore le temps jusqu'au premier token.
Il est adapté aux tâches telles que :
- Classification
- Réécritures courtes
- Extraction structurée
- Opérations de mise en forme de base
Lorsqu'aucun paramètre de raisonnement n'est fourni, le niveau d'effort par défaut est moyen.
Principales différences
Les trois modèles diffèrent principalement par la profondeur du raisonnement, la vitesse et le coût. Les nouvelles fonctionnalités peuvent être utilisées sur tous les modèles, mais leur impact varie selon le modèle.
Raisonnement
- GPT-5 offre la capacité de raisonnement la plus forte. Il est approprié pour les problèmes complexes et multi-étapes en codage, analyse scientifique ou aide à la décision.
- GPT-5 mini offre un raisonnement solide pour les prompts structurés avec des limites de tâches prévisibles.
- GPT-5 nano a une performance de raisonnement modérée et fonctionne mieux sur les tâches qui ne nécessitent pas d'analyse approfondie.
- Le mode de raisonnement minimal peut être utilisé avec tous les modèles et apporte le bénéfice le plus significatif pour GPT-5 nano et GPT-5 mini, étant donné leur avantage de vitesse.
Vitesse
- GPT-5 nano est l'option la plus rapide et est efficace pour les charges de travail en temps réel ou à grande échelle.
- GPT-5 mini équilibre vitesse et raisonnement, ce qui le rend adapté aux charges de travail de production régulières.
- GPT-5 est plus lent car il effectue plus de raisonnement interne, mais cela se traduit par une sortie plus précise.
- Le mode de raisonnement minimal peut encore réduire la latence, en particulier pour nano.
Coût
- GPT-5 nano a le coût par token le plus bas. Il est préféré pour les tâches à haut volume telles que la classification par lots ou le résumé.
- GPT-5 mini se situe dans la gamme médiane, offrant un équilibre entre capacité et coût.
- GPT-5 est le modèle le plus cher et est généralement utilisé lorsque la précision et la cohérence sont prioritaires.
- Les paramètres de verbosité influencent le coût car une verbosité plus élevée produit plus de tokens de sortie.
Que sont les paramètres des LLM ?
Les paramètres des LLM sont des paramètres qui influencent la façon dont les modèles de langage (LLMs) génèrent du texte lors de l'inférence. Ces contrôles de paramètres ne modifient pas les poids appris d'un modèle pré-entraîné. Au lieu de cela, ils façonnent la façon dont le modèle de langage échantillonne à partir d'une distribution de probabilité sur les tokens probables lors de la génération de réponses.
Les grands modèles de langage sont des systèmes de réseaux de neurones, généralement construits sur l'architecture de modèle transformer. Pendant l'entraînement, le modèle apprend des valeurs numériques appelées poids et biais. Les poids représentent l'importance attribuée à différentes entrées, permettant au modèle de capturer les relations entre les mots, les concepts et le contexte. Les biais sont des valeurs constantes ajoutées dans les couches qui aident à activer les neurones dans certaines conditions. Ensemble, ces valeurs définissent la capacité du modèle à reconnaître des modèles complexes dans le langage.
Les paramètres d'inférence, en revanche, opèrent après l'entraînement. Ils façonnent la façon dont les connaissances apprises du modèle sont utilisées, sans modifier les poids sous-jacents. L'ajustement des paramètres LLM permet aux utilisateurs d'influencer la diversité de la sortie, la prévisibilité, la répétition et la longueur de la sortie, ce qui est essentiel pour optimiser les performances du modèle sur des tâches spécifiques telles que l'écriture créative, la génération structurée ou les explications techniques.
Les paramètres clés incluent l'échantillonnage top-p, max tokens, la pénalité de fréquence, la pénalité de présence et les séquences d'arrêt. Ensemble, ces paramètres d'échantillonnage contrôlent la sortie générée tout en équilibrant la qualité de la sortie, le coût de calcul et l'efficacité de l'inférence.
Taille du modèle, paramètres et fondamentaux de l'entraînement
Le nombre de paramètres dans les grands modèles de langage peut atteindre des milliards. Les modèles plus grands ont généralement une plus grande capacité à gérer les nuances du langage, les dépendances à long terme et le raisonnement complexe. Cette amélioration des performances du modèle s'accompagne d'un coût plus élevé en termes de puissance de calcul requise pendant l'entraînement et l'inférence.
Les modèles plus petits nécessitent moins de ressources de calcul et offrent une meilleure efficacité de calcul, mais ils peuvent avoir des difficultés avec des modèles plus complexes ou des fenêtres de contexte plus longues. Le choix entre les modèles plus grands et les modèles plus petits dépend de la tâche, de la latence acceptable et de l'infrastructure disponible. Consultez les lois d'échelle des LLM pour savoir comment les chercheurs en IA évaluent l'effet de la taille du modèle, de la qualité des données et de la stratégie d'entraînement.
Plusieurs paramètres d'entraînement façonnent la façon dont un modèle apprend avant l'inférence :
- Taille du lot fait référence au nombre d'échantillons d'entraînement traités avant que le modèle ne mette à jour ses poids. Les tailles de lot plus grandes améliorent l'efficacité de l'entraînement mais augmentent l'utilisation de la mémoire.
- Taux d'apprentissage contrôle la rapidité avec laquelle le modèle ajuste ses poids et ses biais. Des valeurs plus élevées accélèrent l'apprentissage mais risquent l'instabilité, tandis que des valeurs plus faibles favorisent une convergence régulière.
- Hyperparamètres définissent des paramètres externes tels que la taille du modèle, la taille du lot et le taux d'apprentissage, façonnant le processus d'entraînement global.
Après le pré-entraînement, le fine-tuning et l'alignement sont essentiels. Le fine-tuning adapte un modèle pré-entraîné à des données ou des tâches spécifiques à un domaine, tandis que l'alignement garantit que le texte généré reflète l'intention humaine.
Le fine-tuning efficace en paramètres (PEFT) améliore l'efficacité de calcul en gelant la plupart des paramètres et en ne mettant à jour qu'un petit sous-ensemble de paramètres pertinents pour la tâche.
Échantillonnage Top-p
L'échantillonnage top-p, également connu sous le nom d'échantillonnage du noyau, limite la sélection de tokens au plus petit groupe dont la probabilité cumulative dépasse un seuil donné p. Au lieu de sélectionner à partir d'un nombre fixe de tokens, le modèle choisit dynamiquement parmi les tokens probables qui représentent ensemble la masse de probabilité spécifiée.
- Des valeurs plus faibles (par exemple, p = 0,5) restreignent l'échantillonnage à un ensemble étroit des tokens les plus probables, résultant en un texte cohérent mais moins varié.
- Des valeurs plus élevées (par exemple, p = 0,9) permettent l'échantillonnage à partir d'un pool plus large, augmentant la diversité de la sortie mais aussi le risque de dériver hors sujet.
Échantillonnage Top k
L'échantillonnage top k restreint le choix du modèle aux k tokens les plus probables pour l'étape suivante de la génération de texte. En rétrécissant l'ensemble des candidats, ce paramètre affecte directement la prévisibilité et la variété.
- Des valeurs top-k plus faibles limitent la sélection à un petit ensemble de tokens hautement probables, produisant des sorties plus prévisibles et concentrées.
- Des valeurs plus élevées élargissent le pool de candidats, augmentant la variabilité et soutenant un langage plus diversifié.
Alors que l'échantillonnage top-p s'adapte dynamiquement en fonction de la masse de probabilité, l'échantillonnage top-k utilise une coupure fixe. Les deux sont souvent comparés lors de l'évaluation du modèle pour déterminer les paramètres optimaux pour des tâches spécifiques.
Max tokens (Le nombre de tokens)
Le paramètre max_tokens définit le nombre maximum de tokens que le modèle peut générer dans une seule réponse. Il détermine directement la longueur de la sortie et influence le coût de calcul.
- Des valeurs maximales plus faibles imposent des réponses concises mais peuvent couper des détails importants.
- Des valeurs plus élevées permettent des explications plus détaillées mais nécessitent plus de ressources de calcul et augmentent le temps d'inférence.
Le nombre maximum de tokens est contraint par la fenêtre de contexte, qui inclut à la fois les données d'entrée et la sortie générée. Si le nombre combiné de tokens dépasse la limite de tokens du modèle, la génération s'arrêtera indépendamment du paramètre max tokens.
Paramètre de pénalité de fréquence
La pénalité de fréquence ajuste la probabilité des tokens en fonction de la fréquence à laquelle ils sont déjà apparus dans le texte généré.
- Des valeurs positives réduisent la répétition, améliorant la qualité de la sortie dans les réponses plus longues.
- Des valeurs négatives encouragent la réutilisation, ce qui peut être utile pour les documents qui nécessitent une terminologie cohérente.
Des pénalités excessivement élevées peuvent nuire à la cohérence, car la répétition naturelle est souvent nécessaire pour un texte humain. Ce paramètre est le plus efficace lors de l'optimisation des performances du modèle pour la génération de texte long.
Pénalité de présence
La pénalité de présence réduit la probabilité des tokens qui sont apparus au moins une fois, indépendamment de la fréquence. Cela encourage le modèle à introduire de nouvelles idées.
- Des valeurs positives favorisent la nouveauté et l'exploration, ce qui est utile pour le brainstorming et l'écriture créative.
- Des valeurs négatives renforcent les termes existants, ce qui peut aider dans les sorties structurées ou contraintes.
La pénalité de présence est un contrôle précieux pour guider la diversité des idées, mais elle doit être appliquée avec précaution pour éviter d'éviter de manière non naturelle des termes clés.
Séquences d'arrêt
Les séquences d'arrêt définissent des tokens ou des chaînes spécifiques qui signalent au modèle d'arrêter la génération. Elles sont couramment utilisées dans les applications structurées.
- Utile pour imposer des modèles dans les systèmes de dialogue ou la génération de code.
- Aide à contrôler la longueur de la sortie et à prévenir les continuations non pertinentes.
Les séquences d'arrêt améliorent la prévisibilité des sorties de texte généré sans dépendre uniquement des limites de tokens.
Graine et déterminisme
Certains systèmes permettent aux utilisateurs de spécifier une graine aléatoire, garantissant que les mêmes données d'entrée et paramètres de paramètres produisent la même sortie générée.
- Utile pour l'évaluation et les tests de modèles.
- Aide à comparer différentes configurations de paramètres sans que la variation aléatoire n'affecte les résultats.
La génération déterministe prend en charge la reproductibilité, bien que les sorties exactes puissent encore varier entre différents modèles d'IA ou environnements de déploiement.
Différences entre les paramètres clés
Comprendre comment les paramètres clés diffèrent aide lors du réglage des paramètres LLM pour des résultats optimaux.
- Pénalité de fréquence vs pénalité de présence : La pénalité de fréquence évolue en fonction de la fréquence d'apparition d'un token, tandis que la pénalité de présence s'applique une fois après la première apparition d'un token.
- Top k vs top p sampling : Top k limite la sélection à un nombre fixe de tokens, tandis que top p sélectionne dynamiquement des tokens en fonction de la probabilité cumulative.
- Max tokens vs fenêtre de contexte : Max tokens limite la longueur de la sortie, tandis que la fenêtre de contexte est une limite supérieure fixe couvrant à la fois les tokens d'entrée et de sortie.
Un réglage attentif de ces paramètres permet aux praticiens d'équilibrer la qualité de la sortie, l'efficacité de calcul et les performances des LLM dans des applications telles que la génération augmentée par la récupération, les tâches analytiques et la génération de texte ouvert.
Citer cette recherche
Choisissez le format qui correspond à votre lieu de publication. Coller la version avec lien dans votre CMS préserve le lien retour.
@misc{ermut2026,
author = {Ermut, Sıla and Alper, Şevval},
title = {{LLM Paramètres: GPT-5 High, Medium, Low et Minimal}},
year = {2026},
month = jun,
howpublished = {\url{https://aimultiple.com/llm-parameters}},
note = {AIMultiple. Consulté le 26 Juin 2026}
}
Soyez le premier à commenter
Votre adresse courriel ne sera pas publiée. Tous les champs sont obligatoires. Les commentaires sont laissés dans leur langue d'origine.