Benchmark des modèles tabulaires: Performance sur 19 jeux de données

Nous avons évalué 7 modèles d'apprentissage tabulaire largement utilisés sur 19 jeux de données réels, couvrant environ 260 000 échantillons et plus de 250 caractéristiques au total, avec des tailles de jeux de données allant de 435 à près de 49 000 lignes.

Notre objectif était de comprendre les familles de modèles les plus performantes pour des jeux de données de différentes tailles et structures (par exemple, numériques par rapport à catégorielles) qui constituent une architecture de données d'entreprise typique.

Résultats du benchmark des modèles d'apprentissage tabulaire

Dans le graphique, le modèle gagnant reçoit 1 point. En cas d'égalité, le point est partagé équitablement entre les modèles à égalité. Le taux de victoire mesure la fréquence à laquelle un modèle termine en premier dans un régime donné, offrant une vision plus stricte de la domination que le rang moyen.

Différents modèles gagnent dans différentes conditions structurelles, et le taux de succès varie avec la taille du jeu de données et la composition des caractéristiques.

En particulier :

• Les modèles de fondation sont les plus réussis lorsque les données sont limitées
• TabPFN 3 remporte à la fois les grands jeux de données numériques, surpassant XGBoost et TabICL
• Sur les grands jeux de données hybrides :
  • TabPFN 3 remporte 3 des 5 jeux de données, la Régression logistique (amazon_employee_access) et LightGBM (adult) remportant les autres
  • Les écarts de score entre les quatre premiers modèles restent étroits (dans les 0,5 points de ROC-AUC), le choix du modèle dépend donc toujours des caractéristiques des données

Avertissement : Les types de caractéristiques sont catégorisés comme numériques ou hybrides en fonction de la représentation d'entrée dominante après prétraitement.

Comment interpréter le mélange de jeux de données :

• Les catégories de taille vont des petits jeux de données avec moins de 1 000 lignes aux grands jeux de données avec plus de 40 000 lignes.
• Les types de tâches incluent la classification binaire, la classification multiclasse et la régression.
• Les types de caractéristiques reflètent les données d'entreprise pratiques :
  • Numérique : principalement des variables continues ou ordinales
  • Hybride : un mélange de caractéristiques numériques et catégorielles

Cette variation rend le benchmark bien adapté pour comprendre quelles familles de modèles fonctionnent de manière fiable dans différentes conditions.

Vous pouvez voir notre méthodologie ci-dessous.

Résultats de haut niveau par taille de jeu de données et type de caractéristique

Voici comment les modèles se comportent à travers les catégories de taille de jeu de données et les types de caractéristiques, plutôt que de se concentrer sur les scores individuels des jeux de données.

Pour chaque catégorie de taille de jeu de données, le graphique rapporte le ROC-AUC moyen obtenu par chaque modèle, séparément pour les jeux de données numériques et hybrides.

Petits jeux de données (<1K lignes)

Sur les petits jeux de données, les modèles tabulaires de style fondation sont les plus réussis.

• TabPFN 3 et TabICL, les principaux modèles de fondation tabulaires (TFM), obtiennent les meilleures performances sur les jeux de données numériques et hybrides.
• L'écart de performance est particulièrement prononcé sur les jeux de données hybrides
• La régression logistique est compétitive sur les données numériques, mais se dégrade fortement sur les données hybrides

Lorsque les données sont rares, les modèles avec un fort biais inductif surpassent à la fois le boosting et les bases neuronales. Dans ce régime, les connaissances préalables et les interactions de caractéristiques apprises comptent plus que la capacité du modèle.

Jeu de données moyens (1K–10K lignes)

Sur les jeux de données de taille moyenne, la performance globale s'améliore, mais les différences structurelles persistent.

• La plupart des modèles fonctionnent fortement sur les jeux de données numériques (souvent dépassant 97% ROC-AUC)
• Les jeux de données hybrides restent plus difficiles.
• Parmi les TFM, TabPFN 3 et TabICL continuent de mener, mais l'écart avec le gradient boosting est plus proche.

Les jeux de données de taille moyenne représentent un régime de transition : la densité du signal augmente, mais le biais inductif fournit toujours un avantage mesurable, en particulier sur les types de caractéristiques mixtes.

Grands jeux de données (>10K lignes)

À grande échelle, les modèles de performance changent.

• Sur les grands jeux de données numériques, TabPFN 3 mène, suivi de XGBoost et TabICL. TabPFN 3 remporte également la tâche de régression california_housing, qui est rapportée dans le tableau par jeu de données plutôt que dans ce graphique.
• Sur les grands jeux de données hybrides, la performance converge :
  • Les différences sont plus petites, et le choix du modèle devient moins évident

À grande échelle, TabPFN 3 réduit l'écart qui favorisait auparavant le gradient boosting sur les données numériques et étend son avance sur les données hybrides. Le seul régime où le boosting et les bases linéaires gagnent encore est les données purement catégorielles à haute cardinalité, comme on le voit sur amazon_employee_access.

Rang moyen par régime

Les modèles sont classés dans chaque régime (taille du jeu de données × type de caractéristique).
Les rangs sont normalisés de sorte que des valeurs plus élevées indiquent une performance relative plus forte, facilitant les comparaisons inter-régimes.

Petits jeux de données

Sur les petits jeux de données, les modèles de style fondation dominent les classements.

• TabPFN 3 et TabICL sont classés premiers sur les jeux de données numériques et hybrides, souvent à égalité
• Les modèles de gradient boosting sont classés de manière cohérente près du bas
• L'écart entre les modèles de fondation et le boosting est plus grand sur les données hybrides

Le rang moyen met en évidence le même modèle observé dans la performance brute :
Lorsque les données sont rares, les connaissances préalables apprises et le biais inductif l'emportent sur l'optimisation pilotée par l'échelle.

Jeu de données moyens

Sur les jeux de données de taille moyenne, les classements commencent à changer.

• TabPFN 3 et TabICL restent en tête sur les deux types de caractéristiques, TabPFN 3 ayant une petite avance
• CatBoost émerge comme une troisième option forte sur les jeux de données hybrides
• Les modèles de boosting améliorent leur position relative par rapport au régime des petites données

Ce régime reflète un point d'équilibre. Le volume de données augmente, mais les interactions de caractéristiques récompensent toujours les modèles avec un biais inductif plus fort.

Grands jeux de données

Sur les grands jeux de données, la domination devient spécifique au régime.

• Grand + numérique :
  • TabPFN 3 est classé premier, avec XGBoost et TabICL derrière.
• Grand + hybride :
  • TabPFN 3 prend le rang moyen le plus élevé, mais seulement avec une petite marge
  • LightGBM, TabICL et CatBoost suivent à moins de 1 point de rang les uns des autres

Le rang moyen montre TabPFN 3 en tête dans chaque régime, bien que les écarts se réduisent sur les grandes données hybrides où plusieurs modèles se regroupent dans un point de rang.
Les classements globaux forts masquent souvent de fortes différences de performance à travers les régimes.

Observations spécifiques aux modèles

Cette section résume où chaque classe de modèle fonctionne bien et où elle lutte, sur la base de l'ensemble complet des résultats.

Modèles de fondation tabulaires (TFM) : TabPFN 3 et TabICL

Points forts

• Constantement les meilleurs sur les petits et moyens jeux de données
• Particulièrement forts sur les jeux de données hybrides, où la structure catégorielle compte
• Taux de victoire élevés sur les petits jeux de données

Limites

• Les deux TFM ont des plafonds de lignes bornés, ils ne peuvent donc pas ingérer des tailles de jeux de données où le gradient boosting fonctionne toujours sans échantillonnage
• Les TFM plafonnent généralement à 2 000 caractéristiques ou moins, ce qui peut être limitant sur les tables très larges, même avec une gestion native des catégories
• TabICL ne prend pas en charge la régression, il ne peut donc pas être noté sur les jeux de données de régression

Les TFM couvrent maintenant la plupart des régimes de manière satisfaisante. TabPFN 3 en particulier fonctionne fortement sur les petits, moyens et grands jeux de données, le principal point faible restant étant les données purement catégorielles à haute cardinalité.

Modèles de gradient boosting : XGBoost et LightGBM

Points forts

• Compétitifs sur les grands jeux de données
• Performance forte et stable à mesure que le volume de données augmente
• Restent compétitifs sur les données hybrides à grande échelle

Limites

• Sous-performants par rapport aux modèles de fondation sur les petits jeux de données
• Nécessitent un prétraitement et un réglage minutieux pour les données riches en catégories

Le gradient boosting reste une base forte à travers les régimes et le défaut pratique pour les paramètres de production où les contraintes TFM s'appliquent, y compris les restrictions de licence, les lacunes de prise en charge de la régression ou les plafonds de lignes/fonctionnalités.

CatBoost

Points forts

• Parmi les modèles non-fondation, généralement forts sur les jeux de données hybrides moyens et grands
• La gestion native des catégories fournit des gains cohérents
• Rarement performant dans les régimes

Limites

• Rarement le meilleur performant
• Moins dominant sur les jeux de données purement numériques

CatBoost est le choix non-fondation le plus sûr lorsque les caractéristiques catégorielles dominent. Sur les données purement catégorielles à haute cardinalité, la régression logistique et CatBoost surpassent TabPFN 3, la régression logistique étant légèrement en avance.

RealMLP

Observations

• Rarement gagnant à travers les régimes
• Souvent classé près du bas, sauf sur un petit nombre de jeux de données

Les MLP neuronaux génériques peinent sur les données tabulaires sans fort biais inductif, renforçant une leçon de longue date en apprentissage automatique appliqué. ¹

Régression logistique (base)

Observations

• Compétitif sur les petits jeux de données numériques ; recule sur les données numériques moyennes et grandes
• Gagne occasionnellement ou est classé haut sur les jeux de données hybrides
• La performance se dégrade fortement lorsque les interactions de caractéristiques dominent

Malgré sa simplicité, la régression logistique reste une base significative et ne doit pas être ignorée dans les benchmarks tabulaires.

Ne manquez pas nos benchmarks et analyses basées sur les données. Le bouton ouvre Google ; sélectionner AIMultiple confirme que vous souhaitez voir AIMultiple plus souvent dans les résultats de recherche Google.

Ajouter comme source préférée

Principales conclusions du benchmark des modèles d'apprentissage tabulaire

Sur 19 jeux de données, TabPFN 3 est le meilleur modèle dans chaque régime que nous avons testé. Il gagne sur les petits, moyens et grands jeux de données, et sur les données numériques et hybrides.

L'exception est les données catégorielles à haute cardinalité, où la régression logistique et CatBoost battent toujours TabPFN 3.

Pour les équipes choisissant un modèle tabulaire, TabPFN 3 est désormais le défaut pratique pour la plupart des jeux de données. Le gradient boosting reste la base forte lorsque le jeu de données est trop grand ou trop large pour TabPFN 3, ou lorsque la structure des données favorise des modèles comme CatBoost.

Fondements conceptuels des modèles tabulaires de style fondation

Les modèles tabulaires de style fondation visent à généraliser à travers divers jeux de données tabulaires en apprenant de fortes connaissances préalables sur la structure des tableaux, les interactions de caractéristiques et le comportement des tâches, plutôt que d'optimiser pour un seul jeu de données.

Contrairement aux modèles tabulaires traditionnels, qui sont entraînés indépendamment pour chaque jeu de données, les approches de style fondation sont pré-entraînées sur de grandes collections de problèmes tabulaires puis appliquées à de nouveaux jeux de données par adaptation au moment de l'inférence.

Dans ce benchmark, TabPFN 3 et TabICL représentent deux approches proéminentes au sein de ce paradigme.

Capacités clés des modèles tabulaires de style fondation

Les modèles tabulaires de style fondation présentent généralement les capacités suivantes :

• Fort biais inductif : En apprenant des modèles communs à travers de nombreux jeux de données tabulaires, ces modèles encodent des hypothèses sur les interactions de caractéristiques, les distributions cibles et les caractéristiques de bruit qui se généralisent bien aux problèmes non vus.
• Gestion unifiée des types de caractéristiques : Les caractéristiques numériques et catégorielles sont intégrées dans un espace de représentation partagé, permettant au modèle de raisonner sur des tableaux à caractéristiques mixtes sans prétraitement manuel extensif.
• Adaptation au moment de l'inférence : Plutôt que de ré-entraîner, ces modèles s'adaptent aux nouveaux jeux de données en utilisant des exemples de contexte ou des statistiques au niveau du jeu de données, permettant une forte performance en cas de pénurie de données.
• Transfert à travers les tâches : Un seul modèle pré-entraîné peut effectuer une classification ou une régression sur des jeux de données précédemment non vus, souvent avec une configuration minimale.

Ces propriétés donnent aux modèles de style fondation un avantage clair sur les petits et moyens jeux de données, où les méthodes classiques n'ont pas assez de données pour estimer des interactions de caractéristiques complexes. Les récentes versions comme TabPFN 3 étendent cette force aux grands jeux de données également, grâce à des limites de lignes et de caractéristiques plus élevées et à une gestion native des catégories.

TabPFN : Ajustement des données préalables pour la prédiction tabulaire

TabPFN (Tabular Prior-Data Fitted Network) reformule l'apprentissage tabulaire comme un problème d'inférence bayésienne.

Au lieu d'apprendre des paramètres pour un seul jeu de données, TabPFN est entraîné sur des millions de tâches tabulaires synthétiques échantillonnées à partir d'une distribution de processus de génération de données. Pendant l'inférence, le modèle effectue efficacement une inférence bayésienne amortie, conditionnant sur le jeu de données observé pour produire des prédictions.

Les caractéristiques clés de TabPFN incluent :

• Une architecture de transformateur qui traite des jeux de données entiers comme contexte.
• Entraînement sur une large distribution de tâches synthétiques pour encoder des connaissances préalables à usage général.
• Forte performance dans les régimes à faible données sans réglage d'hyperparamètres.²

En pratique, cette conception permet à TabPFN 3 de surpasser les méthodes de boosting traditionnelles sur les petits, moyens et grands jeux de données dans le benchmark.

TabPFN 3 étend l'approche de réseau ajusté aux données préalables pour gérer jusqu'à 100 000 lignes d'entraînement et ingérer nativement les caractéristiques catégorielles, deux changements qui comblent la plupart de l'écart historique entre les TFM et le gradient boosting à grande échelle.

SAP a annoncé son acquisition de Prior Labs, le groupe de recherche derrière TabPFN, en mai 2026 et s'est engagé à plus d'un milliard d'euros sur quatre ans pour l'opérer en tant que laboratoire de recherche en IA indépendant.³

TabICL : Apprentissage en contexte pour les données tabulaires

TabICL étend l'idée d'apprentissage en contexte à la prédiction tabulaire.

Au lieu d'ajuster les paramètres du modèle, TabICL se conditionne sur des exemples du jeu de données fournis directement dans le contexte d'entrée. Le modèle apprend à inférer des règles de décision à partir de ces exemples, de la même manière que les grands modèles de langage effectuent l'apprentissage en quelques coups.

Les aspects clés de TabICL incluent :

• Lignes de jeu de données encodées comme des jetons structurés
• Adaptation de la tâche via des exemples de contexte plutôt que par entraînement basé sur le gradient
• Un seul modèle pré-entraîné capable de gérer diverses tâches tabulaires⁴

TabICL fonctionne mieux sur les petits jeux de données. Sur les grands jeux de données numériques, il est derrière TabPFN 3 et XGBoost.

Cette approche permet à TabICL d'obtenir de fortes performances sur les jeux de données hybrides, en particulier lorsque les interactions de caractéristiques sont complexes et que les données étiquetées sont limitées.

Où les modèles de style fondation perdent encore

Le modèle antérieur était que les modèles de fondation excellaient sur les petites données et le gradient boosting dominait à grande échelle. TabPFN 3 réduit cet écart et gagne ou mène maintenant sur les grands jeux de données également.

Le principal régime où les modèles non-fondation gagnent encore est les données purement catégorielles à haute cardinalité, où la régression logistique et CatBoost surpassent TabPFN 3. Les équipes avec de tels jeux de données devraient évaluer le gradient boosting et les bases linéaires aux côtés des modèles de fondation plutôt que de se contenter d'une seule approche.

Méthodologie du benchmark des modèles d'apprentissage tabulaire

Nous évaluons 7 modèles ML sur 19 jeux de données tabulaires en utilisant une validation croisée stratifiée à 5 plis.

Environnement : RunPod Cloud Container (Ubuntu 24.04).

Pilotes : Cuda 12.8.1, Pytorch 2.8.0

Modèles :

• LogisticRegression – Base linéaire
• XGBoost – Gradient boosting
• LightGBM – Gradient boosting
• CatBoost – Gradient boosting avec prise en charge native des catégories
• RealMLP – Apprentissage profond (MLP)
• TabPFN 3 – Réseau ajusté aux données préalables basé sur transformateur
• TabICL – Apprentissage en contexte basé sur transformateur

19 jeux de données d'OpenML :

• Classification binaire : 15 jeux de données
• Classification multiclasse : 1 jeu de données
• Régression : 3 jeux de données
• Les tailles de jeux de données vont d'environ 600 à environ 45 000 échantillons.

Évaluation

Validation croisée

• CV stratifié à 5 plis pour la classification
• CV à 5 plis pour la régression
• Même graine aléatoire (42) pour toutes les expériences

Métriques

Prétraitement

• Caractéristiques numériques : StandardScaler
• Caractéristiques catégorielles : Encodage one-hot (sauf CatBoost, qui gère nativement)
• Valeurs manquantes : Imputation médiane (numérique), imputation mode (catégorielle)

Limitations

• TabPFN 3 : ≤2 000 caractéristiques brutes, ≤100 000 lignes d'entraînement. La gestion native des catégories évite l'explosion one-hot qui contraignait les versions précédentes
• TabICL : Tâches de classification uniquement (pas de prise en charge de la régression) ; aucun score enregistré sur les 3 jeux de données de régression dans ce benchmark

Reproductibilité

Toutes les expériences utilisent :

• Graine aléatoire fixe : 42
• Mêmes divisions train/test à travers les modèles
• Hyperparamètres par défaut (pas de réglage)

Citez ce benchmark

Choisissez le format qui correspond à votre lieu de publication. Coller la version avec lien dans votre CMS préserve le lien retour.

@misc{kaleliolu2026,
  author = {Kalelioğlu, Berk and Dilmegani, Cem},
  title  = {{Benchmark des modèles tabulaires: Performance sur 19 jeux de données}},
  year   = {2026},
  month  = jul,
  howpublished    = {\url{https://aimultiple.com/tabular-models}},
  note   = {AIMultiple. Consulté le 3 Juillet 2026}
}

Liens de référence

1.

Introducing TabFM: A zero-shot foundation model for tabular data

2.

AutoGluon Tabular - Foundational Models - AutoGluon 1.5.0 documentation

3.

Pricing | Runpod

Runpod

4.

[2602.11139] TabICLv2: A better, faster, scalable, and open tabular foundation model

Berk Kalelioğlu

Chercheur en IA

SuivreVoir le profil complet

Recherche effectuée par

Cem Dilmegani

Analyste principal

Suivre

Cem est analyste principal chez AIMultiple depuis 2017. AIMultiple informe chaque mois des centaines de milliers d'entreprises (selon similarWeb), dont 55 % des entreprises du classement Fortune 500. Les travaux de Cem ont été cités par des publications internationales de premier plan telles que Business Insider, Forbes et le Washington Post, ainsi que par des entreprises mondiales comme Deloitte et HPE, des ONG comme le Forum économique mondial et des organisations supranationales comme la Commission européenne. Vous trouverez d'autres entreprises et ressources réputées ayant fait référence à AIMultiple. Tout au long de sa carrière, Cem a exercé les fonctions de consultant, d'acheteur et d'entrepreneur dans le secteur des technologies. Il a conseillé des entreprises sur leurs décisions technologiques chez McKinsey & Company et Altman Solon pendant plus de dix ans. Il a également publié un rapport McKinsey sur la numérisation. Il a dirigé la stratégie technologique et les achats d'un opérateur télécom, sous la responsabilité directe du PDG. Il a également piloté la croissance commerciale de la société de deep tech Hypatos, qui a atteint un chiffre d'affaires annuel récurrent à sept chiffres et une valorisation à neuf chiffres en seulement deux ans. Les travaux de Cem chez Hypatos ont été présentés dans des publications technologiques de référence telles que TechCrunch et Business Insider. Cem intervient régulièrement lors de conférences internationales sur les technologies. Diplômé en génie informatique de l'université de Bogazici, il est également titulaire d'un MBA de la Columbia Business School.

Voir le profil complet

Soyez le premier à commenter

Votre adresse courriel ne sera pas publiée. Tous les champs sont obligatoires. Les commentaires sont laissés dans leur langue d'origine.

Nom

Adresse email

Commentaire

0/450

Publier un commentaire