Benchmark Modelli Tabulari: Prestazioni su 19 Dataset
Abbiamo valutato 7 modelli di apprendimento tabulare ampiamente utilizzati su 19 dataset reali, coprendo circa 260.000 campioni e oltre 250 feature totali, con dimensioni dei dataset che variano da 435 a quasi 49.000 righe.
Il nostro obiettivo era comprendere le famiglie di modelli migliori per dataset di diverse dimensioni e strutture (ad es. numerico vs. categorico) che costituiscono un'architettura dati aziendale tipica.
Risultati del benchmark dei modelli di apprendimento tabulare
Nel grafico, il modello vincente riceve 1 punto. In caso di parità, il punto è condiviso equamente tra i modelli in parità. Il tasso di vittoria misura la frequenza con cui un modello finisce al primo posto in un dato regime, fornendo una visione più rigorosa del dominio rispetto alla classifica media.
Modelli diversi vincono in diverse condizioni strutturali e il tasso di successo varia con la dimensione del dataset e la composizione delle feature.
In particolare:
- I modelli foundation sono i più riusciti quando i dati sono limitati
- TabPFN 3 vince sia nei dataset grandi + numerici, superando XGBoost e TabICL
- Sui dataset grandi + ibridi:
- TabPFN 3 prende 3 dei 5 dataset, con Logistic Regression (amazon_employee_access) e LightGBM (adult) che vincono gli altri
- Le differenze di punteggio tra i primi quattro modelli rimangono strette (entro 0,5 punti di ROC-AUC), quindi la scelta del modello dipende ancora dalle caratteristiche dei dati
Disclaimer: I tipi di feature sono categorizzati come numerici o ibridi in base alla rappresentazione di input dominante dopo il pre-processing.
Come interpretare il mix di dataset:
- I bucket di dimensione vanno da dataset piccoli con meno di 1.000 righe a dataset grandi con più di 40.000 righe.
- I tipi di task includono classificazione binaria, classificazione multiclasse e regressione.
- I tipi di feature riflettono dati aziendali pratici:
- Numerico: principalmente variabili continue o ordinali
- Ibrido: un mix di feature numeriche e categoriche
Questa variazione rende il benchmark ben adatto a comprendere quali famiglie di modelli si comportano in modo affidabile in diverse condizioni.
Puoi vedere la nostra metodologia di seguito.
Risultati di alto livello per dimensione del dataset e tipo di feature
Ecco come si comportano i modelli attraverso i bucket di dimensione del dataset e i tipi di feature, piuttosto che concentrarsi sui punteggi dei singoli dataset.
Per ogni bucket di dimensione del dataset, il grafico riporta la media ROC-AUC ottenuta da ciascun modello, separatamente per dataset numerici e ibridi.
Dataset piccoli (<1K righe)
Sui dataset piccoli, i modelli tabulari in stile foundation sono i più riusciti.
- TabPFN 3 e TabICL, i principali modelli foundation tabulari (TFM), ottengono le prestazioni più forti sia sui dataset numerici che su quelli ibridi.
- Il divario di prestazioni è particolarmente pronunciato sui dataset ibridi
- La regressione logistica si comporta in modo competitivo sui dati numerici, ma degrada nettamente sui dati ibridi
Quando i dati sono scarsi, i modelli con forte bias induttivo superano sia il boosting che le basi neurali. In questo regime, la conoscenza pregressa e le interazioni di feature apprese contano più della capacità del modello.
Dataset medi (1K–10K righe)
Sui dataset di dimensioni medie, le prestazioni complessive migliorano, ma le differenze strutturali rimangono.
- La maggior parte dei modelli si comporta fortemente sui dataset numerici (spesso superando il 97% di ROC-AUC)
- I dataset ibridi rimangono più difficili.
- Tra i TFM, TabPFN 3 e TabICL continuano a guidare, ma il divario con il gradient boosting è più stretto.
I dataset di dimensioni medie rappresentano un regime di transizione: la densità del segnale aumenta, ma il bias induttivo fornisce ancora un vantaggio misurabile, in particolare sui tipi di feature misti.
Dataset grandi (>10K righe)
Allo scalare, i modelli di prestazioni cambiano.
- Sui dataset numerici grandi, TabPFN 3 guida, seguito da XGBoost e TabICL. TabPFN 3 vince anche il task di regressione california_housing, che è riportato nella tabella per dataset piuttosto che in questo grafico.
- Sui dataset grandi + ibridi, le prestazioni convergono:
- Le differenze sono più piccole e la scelta del modello diventa meno ovvia
Allo scalare, TabPFN 3 riduce il divario che in precedenza favoriva il gradient boosting sui dati numerici e estende il suo vantaggio sui dati ibridi. L'unico regime in cui il boosting e le basi lineari vincono ancora è i dati puramente categorici ad alta cardinalità, come visto su amazon_employee_access.
Classifica media per regime
I modelli sono classificati all'interno di ogni regime (dimensione del dataset × tipo di feature).
Le classifiche sono normalizzate in modo che valori più alti indichino prestazioni relative più forti, rendendo più facili i confronti tra regimi.
Dataset piccoli
Sui dataset piccoli, i modelli in stile foundation dominano le classifiche.
- TabPFN 3 e TabICL sono al primo posto sia sui dataset numerici che su quelli ibridi, spesso in parità
- I modelli di gradient boosting sono costantemente classificati vicino alla fine
- Il divario tra i modelli foundation e il boosting è più grande sui dati ibridi
La classifica media evidenzia lo stesso modello osservato nelle prestazioni grezze:
Quando i dati sono scarsi, le conoscenze apprese e il bias induttivo superano l'ottimizzazione guidata dalla scala.
Dataset medi
Sui dataset di dimensioni medie, le classifiche iniziano a cambiare.
- TabPFN 3 e TabICL rimangono ai primi posti in entrambi i tipi di feature, con TabPFN 3 che mantiene un piccolo vantaggio
- CatBoost emerge come una forte terza opzione sui dataset ibridi
- I modelli di boosting migliorano la loro posizione relativa rispetto al regime dei dati piccoli
Questo regime riflette un punto di equilibrio. Il volume dei dati aumenta, ma le interazioni di feature continuano a premiare i modelli con un bias induttivo più forte.
Dataset grandi
Sui dataset grandi, il dominio diventa specifico per regime.
- Grandi + numerici:
- TabPFN 3 è al primo posto, con XGBoost e TabICL dietro.
- Grandi + ibridi:
- TabPFN 3 prende la classifica media più alta ma solo con un piccolo margine
- LightGBM, TabICL e CatBoost seguono entro 1 punto di classifica l'uno dall'altro
La classifica media mostra TabPFN 3 in testa in ogni regime, sebbene i divari si restringano sui dati ibridi grandi dove più modelli si raggruppano entro un punto di classifica.
Classifiche complessive forti spesso mascherano differenze di prestazioni nette tra i regimi.
Osservazioni specifiche per modello
Questa sezione riassume dove ogni classe di modello si comporta bene e dove fatica, basandosi sull'insieme completo dei risultati.
Modelli foundation tabulari (TFM): TabPFN 3 e TabICL
Punti di forza
- Costantemente tra i migliori sui dataset piccoli e medi
- Particolarmente forti sui dataset ibridi, dove la struttura categorica conta
- Alti tassi di vittoria sui dataset piccoli
Limiti
- Entrambi i TFM hanno limiti di righe limitati, quindi non possono ingerire dimensioni di dataset dove il gradient boosting opera ancora senza sottocampionamento
- I TFM tipicamente si fermano a 2.000 feature o meno, il che può essere limitante su tabelle molto ampie, anche con gestione nativa delle categorie
- TabICL non supporta la regressione, quindi non può essere valutato sui dataset di regressione
I TFM ora coprono bene la maggior parte dei regimi. TabPFN 3 in particolare si comporta fortemente attraverso dataset piccoli, medi e grandi, con il principale punto debole rimanente che sono i dati puramente categorici ad alta cardinalità.
Modelli di gradient boosting: XGBoost e LightGBM
Punti di forza
- Competitivi sui dataset grandi
- Prestazioni forti e stabili man mano che il volume dei dati aumenta
- Rimangono competitivi sui dati ibridi allo scalare
Limiti
- Prestano peggio rispetto ai modelli foundation sui dataset più piccoli
- Richiedono pre-processing e tuning attenti per i dati pesanti di categorie
Il gradient boosting rimane una solida base attraverso i regimi e il default pratico per le impostazioni di produzione dove si applicano i vincoli TFM, inclusi le restrizioni di licenza, le lacune nel supporto della regressione o i limiti di righe/feature.
CatBoost
Punti di forza
- Tra i modelli non foundation, generalmente forti sui dataset ibridi medi e grandi
- La gestione nativa delle categorie fornisce guadagni costanti
- Raramente si comporta male attraverso i regimi
Limiti
- Raramente è il miglior performer
- Meno dominante sui dataset puramente numerici
CatBoost è la scelta non foundation più sicura quando le feature categoriche dominano. Sui dati puramente categorici ad alta cardinalità, sia la Regressione Logistica che CatBoost superano TabPFN 3, con la Regressione Logistica leggermente in testa.
RealMLP
Osservazioni
- Raramente vince attraverso i regimi
- Spesso classificato vicino alla fine, tranne su un piccolo numero di dataset
I generici MLP neurali faticano sui dati tabulari senza un forte bias induttivo, rafforzando una lezione di lunga data nell'apprendimento automatico applicato. 1
Regressione logistica (baseline)
Osservazioni
- Competitiva sui dataset numerici piccoli; rimane indietro sui dati numerici medi e grandi
- Vince occasionalmente o è classificata in alto sui dataset ibridi
- Le prestazioni degradano nettamente quando le interazioni di feature dominano
Nonostante la sua semplicità, la regressione logistica rimane una base significativa e non dovrebbe essere saltata nei benchmark tabulari.
Aggiungi come fonte preferitaPunti chiave del benchmark dei modelli di apprendimento tabulare
Su 19 dataset, TabPFN 3 è il modello migliore in ogni regime che abbiamo testato. Vince su dataset piccoli, medi e grandi, e su dati sia numerici che ibridi.
L'eccezione sono i dati categorici ad alta cardinalità, dove la Regressione Logistica e CatBoost battono ancora TabPFN 3.
Per i team che scelgono un modello tabulare, TabPFN 3 è ora il default pratico per la maggior parte dei dataset. Il gradient boosting rimane la solida base quando il dataset è troppo grande o troppo ampio per TabPFN 3, o quando la struttura dei dati favorisce modelli come CatBoost.
Fondamenti concettuali dei modelli tabulari in stile foundation
I modelli tabulari in stile foundation mirano a generalizzare attraverso diversi dataset tabulari imparando forti conoscenze pregresse sulla struttura della tabella, le interazioni di feature e il comportamento del task, piuttosto che ottimizzare per un singolo dataset.
A differenza dei modelli tabulari tradizionali, che sono addestrati indipendentemente per ogni dataset, gli approcci in stile foundation sono pre-addestrati su grandi collezioni di problemi tabulari e poi applicati a nuovi dataset attraverso l'adattamento al momento dell'inferenza.
In questo benchmark, TabPFN 3 e TabICL rappresentano due approcci prominenti all'interno di questo paradigma.
Capacità chiave dei modelli tabulari in stile foundation
I modelli tabulari in stile foundation tipicamente esibiscono le seguenti capacità:
- Forte bias induttivo: Imparando modelli comuni attraverso molti dataset tabulari, questi modelli codificano ipotesi sulle interazioni di feature, distribuzioni target e caratteristiche del rumore che si generalizzano bene a problemi non visti.
- Gestione unificata dei tipi di feature: Le feature numeriche e categoriche sono incorporate in uno spazio di rappresentazione condiviso, permettendo al modello di ragionare su tabelle a feature miste senza pre-processing manuale estensivo.
- Adattamento al momento dell'inferenza: Piuttosto che ri-addestrare, questi modelli si adattano ai nuovi dataset usando esempi di contesto o statistiche a livello di dataset, consentendo prestazioni forti in caso di scarsità di dati.
- Trasferimento tra task: Un singolo modello pre-addestrato può eseguire classificazione o regressione su dataset precedentemente non visti, spesso con una configurazione minima.
Queste proprietà danno ai modelli in stile foundation un chiaro vantaggio sui dataset piccoli e medi, dove i metodi classici non hanno abbastanza dati per stimare complesse interazioni di feature. Le recenti release come TabPFN 3 estendono quella forza anche ai dataset più grandi, attraverso limiti di righe e feature più alti e gestione nativa delle categorie.
TabPFN: Adattamento dei dati pregressi per la previsione tabulare
TabPFN (Tabular Prior-Data Fitted Network) riformula l'apprendimento tabulare come un problema di inferenza bayesiana.
Invece di imparare parametri per un singolo dataset, TabPFN è addestrato su milioni di task tabulari sintetici campionati da una distribuzione di processi di generazione dei dati. Durante l'inferenza, il modello esegue efficacemente inferenza bayesiana ammortizzata, condizionando sul dataset osservato per produrre previsioni.
Le caratteristiche chiave di TabPFN includono:
- Un'architettura transformer che elabora interi dataset come contesto.
- Addestramento su una vasta distribuzione di task sintetici per codificare conoscenze pregresse a scopo generale.
- Prestazioni forti in regimi a bassa quantità di dati senza tuning degli iperparametri.2
In pratica, questo design permette a TabPFN 3 di superare i metodi di boosting tradizionali attraverso dataset piccoli, medi e grandi nel benchmark.
TabPFN 3 estende l'approccio della rete adattata ai dati pregressi per gestire fino a 100.000 righe di addestramento e per ingerire feature categoriche in modo nativo, due cambiamenti che chiudono la maggior parte del divario storico tra TFM e gradient boosting allo scalare.
SAP ha annunciato l'acquisizione di Prior Labs, il gruppo di ricerca dietro TabPFN, nel maggio 2026 e si è impegnato a investire oltre 1 miliardo di euro in quattro anni per operarlo come un laboratorio di ricerca AI indipendente.3
TabICL: Apprendimento in contesto per dati tabulari
TabICL estende l'idea dell'apprendimento in contesto alla previsione tabulare.
Invece di adattare i parametri del modello, TabICL si condiziona sugli esempi dal dataset forniti direttamente nel contesto di input. Il modello impara a inferire regole decisionali da questi esempi, simile a come i grandi modelli linguistici eseguono l'apprendimento few-shot.
Aspetti chiave di TabICL includono:
- Righe di dataset codificate come token strutturati
- Adattamento del task attraverso esempi di contesto piuttosto che addestramento basato su gradienti
- Un singolo modello pre-addestrato capace di gestire diversi task tabulari4
TabICL funziona meglio sui dataset piccoli. Sui dataset numerici grandi, rimane indietro rispetto a TabPFN 3 e XGBoost.
Questo approccio permette a TabICL di ottenere prestazioni forti sui dataset ibridi, specialmente quando le interazioni di feature sono complesse e i dati etichettati sono limitati.
Dove i modelli in stile foundation perdono ancora
Il modello precedente era che i modelli foundation eccellevano sui dati piccoli e il gradient boosting dominava allo scalare. TabPFN 3 riduce questo divario e ora vince o guida anche sui dataset grandi.
Il principale regime in cui i modelli non foundation vincono ancora sono i dati puramente categorici ad alta cardinalità, dove la Regressione Logistica e CatBoost superano TabPFN 3. I team con tali dataset dovrebbero valutare il gradient boosting e le basi lineari insieme ai modelli foundation piuttosto che affidarsi a un singolo approccio.
Metodologia del benchmark dei modelli di apprendimento tabulare
Hanno valutato 7 modelli ML su 19 dataset tabulari usando la validazione incrociata stratificata a 5 fold.
Ambiente: RunPod Cloud Container (Ubuntu 24.04).
Driver: Cuda 12.8.1, Pytorch 2.8.0
Modelli:
- LogisticRegression – Baseline lineare
- XGBoost – Gradient boosting
- LightGBM – Gradient boosting
- CatBoost – Gradient boosting con supporto nativo delle categorie
- RealMLP – Deep learning (MLP)
- TabPFN 3 – Rete adattata ai dati pregressi basata su transformer
- TabICL – Apprendimento in contesto basato su transformer
19 dataset da OpenML:
- Classificazione binaria: 15 dataset
- Classificazione multiclasse: 1 dataset
- Regressione: 3 dataset
- Le dimensioni dei dataset variano da circa 600 a circa 45.000 campioni.
Valutazione
Validazione incrociata
- CV stratificata a 5 fold per la classificazione
- CV a 5 fold per la regressione
- Stesso seed casuale (42) in tutti gli esperimenti
Metriche
Pre-processing
- Feature numeriche: StandardScaler
- Feature categoriche: Codifica one-hot (tranne CatBoost, che gestisce in modo nativo)
- Valori mancanti: Imputazione mediana (numerico), imputazione moda (categorico)
Limiti
- TabPFN 3: ≤2.000 feature grezze, ≤100.000 righe di addestramento. La gestione nativa delle categorie evita l'esplosione one-hot che ha limitato le versioni precedenti
- TabICL: Solo task di classificazione (nessun supporto per la regressione); nessun punteggio registrato sui 3 dataset di regressione in questo benchmark
Riproducibilità
Tutti gli esperimenti usano:
- Seed casuale fisso: 42
- Stesse divisioni train/test tra i modelli
- Iperparametri predefiniti (nessun tuning)
Cita questo benchmark
Scegli il formato adatto a dove pubblicherai. Incollare la versione con link nel tuo CMS preserva il backlink.
@misc{kaleliolu2026,
author = {Kalelioğlu, Berk and Dilmegani, Cem},
title = {{Benchmark Modelli Tabulari: Prestazioni su 19 Dataset}},
year = {2026},
month = jul,
howpublished = {\url{https://aimultiple.com/tabular-models}},
note = {AIMultiple. Consultato il 3 Luglio 2026}
}Risultati e timestamp di 8 punti dati. Scarica i dati utilizzati in questo articolo come file ZIP contenente un file CSV e un README.
Collegamenti di riferimento
Sii il primo a commentare
Il tuo indirizzo email non verrà pubblicato. Tutti i campi sono obbligatori. I commenti vengono lasciati nella loro lingua originale.