Allucinazioni dell'IA: Confronta i migliori LLM come GPT-5.2
I modelli di intelligenza artificiale possono generare risposte che sembrano plausibili ma sono errate o fuorvianti, note come allucinazioni dell'IA. Il 77% delle aziende preoccupate per le allucinazioni dell'IA.1
Abbiamo testato 37 diversi LLM con 60 domande per misurare i loro tassi di allucinazione:
Risultati del benchmark sulle allucinazioni dell'IA
Il nostro benchmark ha rivelato che anche gli ultimi modelli hanno tassi di allucinazione >15% quando vengono chiesti di analizzare affermazioni fornite. Leggi la metodologia del benchmark per scoprire come abbiamo misurato questi tassi.
Analisi del tasso di allucinazione: Costo rispetto al contesto
Per garantire un confronto equo dei costi tra i modelli, normalizziamo i prezzi utilizzando una metrica unificata che riflette schemi di utilizzo reali. Poiché nella maggior parte dei carichi di lavoro pratici i token provengono dagli input piuttosto che dagli output, calcoliamo il costo del modello come 0,75 × prezzo del token in input + 0,25 × prezzo del token in output.
Questo impedisce ai modelli con output artificialmente economici o input sproporzionatamente costosi di apparire ingannevolmente efficienti, consentendo di valutare ogni modello su una scala coerente e confrontabile.
Dimensione del contesto rispetto alle tendenze di allucinazione
Il grafico rivela schemi distinti confrontando i tassi di allucinazione con la dimensione della finestra di contesto. In linea con i dati precedenti relativi al costo, non esiste alcuna correlazione lineare tra capacità di contesto e accuratezza.
Un contesto ampio non garantisce accuratezza
Contrariamente all'assunto che input più ampi portino a un ragionamento migliore, emerge una relazione mista. I modelli progettati per finestre di contesto massive (1M+ token) non raggiungono costantemente tassi di allucinazione più bassi rispetto ai loro omologhi più piccoli. Come mostrato nei dati, modelli altamente affidabili si trovano sia negli spettri di contesto brevi che lunghi, così come i modelli con prestazioni inferiori.
Ciò suggerisce che una finestra di contesto massiccia non garantisce automaticamente una maggiore coerenza fattuale. Alla fine, specifiche tecniche come la dimensione del contesto non sono indicatori definitivi di affidabilità; le prestazioni dipendono più dall'architettura specifica del modello e dalla qualità dell'addestramento piuttosto che dalla capacità da sola.
Cos'è un'allucinazione dell'IA?
Le allucinazioni si verificano quando un LLM produce informazioni che sembrano reali ma sono completamente inventate o fattualmente inaccurate. A differenza degli errori semplici, le allucinazioni sono particolarmente problematiche poiché vengono presentate con la stessa sicurezza delle informazioni accurate, rendendo difficile per gli utenti riconoscerle senza una conferma esterna.
Gli impatti delle allucinazioni dei LLM
Le allucinazioni dell'IA influenzano molti settori perché le organizzazioni dipendono dagli strumenti di intelligenza artificiale generativa per produrre testo, analizzare dati e supportare il processo decisionale. I possibili risultati variano, ma diversi rischi si presentano costantemente:
Danno alla reputazione
Se un modello produce informazioni inaccurate, narrazioni false o output fuorvianti, gli utenti potrebbero perdere fiducia nel sistema e nell'organizzazione che lo utilizza. Ricostruire la fiducia dopo che informazioni errate raggiungono clienti, team interni o il pubblico può rivelarsi difficile.
Ad esempio, un'analisi recente di GPTZero2 ha scoperto che decine di articoli accettati a NeurIPS 2025 includevano citazioni generate dall'IA non rilevate durante la revisione paritaria. Dopo aver analizzato oltre 4.000 articoli accettati, l'azienda ha trovato centinaia di riferimenti errati in almeno 50 articoli, che vanno da citazioni completamente false a versioni alterate di citazioni reali.
Alcuni errori riguardavano autori, titoli, riviste o link inventati, mentre altri modificavano sottilmente citazioni reali cambiando nomi di autori o titoli degli articoli. GPTZero afferma che tutte le citazioni segnalate sono state successivamente verificate da esperti umani.
NeurIPS ha riconosciuto l'uso crescente dei modelli linguistici di grandi dimensioni nella scrittura della ricerca e ha dichiarato di monitorare il problema, osservando che riferimenti errati non invalidano automaticamente i risultati di un articolo. Tuttavia, GPTZero ha definito i risultati allarmanti, considerando che gli articoli sono stati formalmente accettati e pubblicati in una conferenza altamente selettiva.
I risultati evidenziano come l'aumento delle sottomissioni, oltre 21.000 nel 2025, renda difficile una revisione approfondita e sollevi preoccupazioni sulla correttezza della ricerca, sulla riproducibilità e sui rischi di affidarsi a citazioni generate dall'IA nella pubblicazione accademica.3
Rischi legali
In settori regolamentati come sanità, finanza e diritto, i contenuti generati dall'IA che includono errori fattuali possono portare a violazioni della conformità. Quando il contenuto generato viene utilizzato senza verifica, interpretazioni errate di dati o politiche possono comportare sanzioni, danni ai clienti o azioni legali.
Ad esempio, le citazioni legali false generate dall'IA sono diventate un problema serio e in crescita per i tribunali. Nel solo 2025, giudici di tutto il mondo hanno emesso centinaia di decisioni affrontando allucinazioni dell'IA nei documenti legali, rappresentando circa il 90% di tutti i casi noti di questo problema finora.
I giudici affermano che questi errori sprecano tempo e risorse scarse, costringendo i tribunali a indagare su casi inesistenti invece di concentrarsi sui meriti delle controversie. Sia avvocati che giudici stessi sono stati colti a fare affidamento su output errati dell'IA, suscitando avvertimenti, ordini permanenti e sanzioni sempre più severe.
Man mano che cresce la consapevolezza dei limiti dell'IA, i tribunali diventano meno tolleranti verso le scuse, considerando le citazioni allucinate come comportamento scorretto piuttosto che ignoranza. Mentre i ricercatori che seguono il problema segnalano una rapida crescita di tali casi, molti vedono l'IA come ampiamente vantaggiosa per il lavoro legale, purché il suo utilizzo sia trasparente, accuratamente verificato e considerato uno strumento di bozza piuttosto che una fonte di verità legale.4
Inefficienza operativa
Quando gli utenti non possono fare affidamento sul testo o sugli output generati dall'IA, devono verificare manualmente i risultati. Questo richiede tempo e riduce il valore dell'intelligenza artificiale generativa. Invece di assistere i flussi di lavoro, le allucinazioni possono creare collo di bottiglia che richiedono una revisione umana per identificare informazioni false.
Ad esempio, durante un test di rapporti di polizia scritti dall'IA nello Utah, un audio di sottofondo di un film Disney ha fatto sì che il sistema affermasse erroneamente che un agente di polizia si fosse trasformato in una rana. L'incidente si è verificato durante un test pilota di strumenti di IA come Axon’s Draft One, che convertono l'audio delle telecamere corporee in rapporti scritti per risparmiare tempo agli agenti.
Sebbene le autorità affermino che gli strumenti possono risparmiare diverse ore a settimana sulla documentazione, l'episodio ha evidenziato preoccupazioni più profonde riguardo all'accuratezza e alla supervisione. Anche rapporti di test di routine richiedevano correzioni, e i critici avvertono che l'IA può interpretare male i suoni, appianare incertezze o introdurre errori sottili che in seguito diventano parte del documento ufficiale.5
Cause delle allucinazioni dell'IA
Comprendere perché si verificano le allucinazioni è essenziale per progettare tecniche di mitigazione delle allucinazioni e decidere quando fidarsi dei contenuti generati dall'IA.
Limitazioni dei dati di addestramento
I modelli linguistici di grandi dimensioni vengono addestrati su enormi quantità di dati provenienti da Internet, documenti e altro testo. Le limitazioni in questi dati di addestramento possono portare a allucinazioni:
- Dati di addestramento insufficienti in aree specializzate possono lasciare lacune conoscitive. Quando al modello viene chiesto di generare testo in tali domini, potrebbe colmare le informazioni mancanti con dati inventati invece di ammettere incertezza.
- Pagine web di bassa qualità, notizie false o contenuti fuorvianti nel set di addestramento possono indurre il modello verso narrazioni false ed errori fattuali.
- Dati fattuali obsoleti possono indurre il modello a produrre informazioni errate su argomenti cambiati dopo il periodo di addestramento.
- I bias nei dati di addestramento possono distorcere il modo in cui i modelli di IA descrivono persone, eventi o possibili risultati.
Questi problemi non sono unici alla generazione di testo. Problemi simili si verificano nei modelli di visione artificiale addestrati su dataset distorti o incompleti, anche se le allucinazioni assumono forme diverse, come errori di classificazione.
Limite di conoscenza e aggiornamenti continui
Le generazioni precedenti di modelli di IA avevano una data precisa di cutoff della conoscenza e nessun accesso a dati esterni in tempo reale. Quando gli utenti chiedevano informazioni su eventi recenti, il modello spesso generava comunque output, aumentando il rischio di allucinazioni.
I sistemi di IA moderni combinano sempre più dati di addestramento statici con il recupero da una base di conoscenza in tempo reale o altre fonti esterne. Di conseguenza:
- Il limite di conoscenza è ancora rilevante per alcuni modelli, principalmente per distribuzioni offline.
- In molti contesti aziendali, la generazione potenziata da recupero riduce l'impatto dei cutoff estraendo dati fattuali recenti da fonti interne o esterne.
- Le allucinazioni legate alla recentezza riflettono ora spesso un recupero mancante o non allineato, non solo l'età dei parametri del modello.
Eccessiva sicurezza e previsione della parola successiva
Un modello linguistico genera testo token dopo token, prevedendo la parola successiva in base al contesto di input e ai token precedenti. Il modello è ottimizzato per produrre continui fluenti e probabili, non risposte garantite corrette. Ciò causa diversi effetti:
- Il modello potrebbe dare priorità a una spiegazione fluente piuttosto che ammettere di non conoscere la risposta corretta.
- Potrebbe selezionare un modello di informazione plausibile ma falso se tale modello appare spesso nei dati di addestramento.
- Il modello può generalizzare eccessivamente dagli schemi nei dati e generare contenuti che sembrano specifici ma non sono basati su fonti fattuali.
Dal punto di vista dell'utente, lo stile del testo generato dall'IA rende difficile capire che la risposta potrebbe essere errata.
Errata interpretazione del prompt e prompt vaghi
Le allucinazioni possono anche derivare dal modo in cui vengono formulati i prompt di input:
- Prompt vaghi danno troppa libertà al modello, portando a risultati inaspettati o risposte che non corrispondono all'intento dell'utente.
- Domande eccessivamente ampie incoraggiano il modello a generare output oltre la conoscenza presente nei suoi parametri o nei documenti recuperati.
- Un linguaggio ambiguo può portare il modello a scegliere un'interpretazione e produrre con sicurezza informazioni inaccurate basate su quell'interpretazione.
Istruzioni più precise e vincoli espliciti spesso riducono questi effetti ma non li eliminano.
Strategie per ridurre le allucinazioni dell'IA
Le tecniche di mitigazione delle allucinazioni combinano tipicamente scelte architetturali, approcci di addestramento e progettazione a livello di sistema piuttosto che una singola soluzione.
Strumenti di rilevamento delle allucinazioni dell'IA
Gli strumenti di rilevamento delle allucinazioni dell'IA valutano se il contesto fornito o i dati di riferimento supportano gli output generati dall'IA. Questi strumenti utilizzano più comunemente metodi LLM-come-giudice insieme a tecniche come analisi della coerenza, punteggi di confidenza e verifica basata sull'implicazione.
Abbiamo testato 100 casi di test equilibrati di domande e risposte fattuali per confrontare gli strumenti di rilevamento delle allucinazioni dell'IA. W&B Weave e Arize Phoenix hanno mostrato prestazioni simili, rispettivamente al 91% e al 90%, mentre Comet Opik ha raggiunto il 72% di accuratezza a causa di una strategia di rilevamento più conservativa. Leggi strumenti di rilevamento delle allucinazioni dell'IA per saperne di più sui risultati.
Generazione potenziata da recupero
La generazione potenziata da recupero collega i modelli di IA generativa a una base di conoscenza esterna. Quando un utente invia una query:
- Il sistema recupera documenti o dati pertinenti da fonti curate, come database interni, letteratura specifica del settore o pagine web selezionate.
- Questi passaggi recuperati vengono passati al modello linguistico come contesto aggiuntivo.
- Il modello genera output che dovrebbero rimanere più vicini ai dati fattuali recuperati piuttosto che fare affidamento esclusivamente sui suoi parametri appresi.
I design recenti di generazione potenziata da recupero estendono questo schema con:
- Recupero in più passaggi, in cui il sistema recupera, riassume e poi recupera nuovamente se mancano informazioni.
- Recupero strutturato, in cui gli strumenti di IA interrogano API, database SQL o grafi della conoscenza invece di soli documenti non strutturati.
- Monitoraggio della qualità del recupero, che verifica se il contesto recuperato supporta effettivamente la risposta, segnalando potenziali casi di allucinazione.
RAG non garantisce accuratezza fattuale, ma di solito riduce le allucinazioni, specialmente quando la base di conoscenza è accuratamente curata e regolarmente aggiornata.
Ad esempio, un nuovo articolo presenta REFIND, un metodo potenziato da recupero per rilevare porzioni allucinate negli output dei modelli linguistici di grandi dimensioni misurando la sensibilità di ogni token generato alle evidenze esterne.
Utilizzando una nuova metrica chiamata Rapporto di Sensibilità al Contesto (CSR), REFIND confronta le probabilità dei token con e senza documenti recuperati, segnalando i token che cambiano significativamente come probabili allucinazioni.
Valutato sul dataset multilingue SemEval-2025 Mu-SHROOM, l'approccio aiuta a superare i baselines esistenti, specialmente nelle lingue a basse risorse. I risultati mostrano che basare il rilevamento delle allucinazioni sulle evidenze recuperate consente un'identificazione più precisa, affidabile e scalabile degli errori fattuali nel testo generato dai LLM.6
Progettazione del prompt nei sistemi moderni
L'ingegneria del prompt è cambiata con il miglioramento dei modelli di IA generativa. Non riguarda più solo la formulazione intelligente. Nei sistemi attuali, la progettazione del prompt si concentra su:
- Indicare chiaramente il compito, gli input e i vincoli, inclusi cosa conta come corretto e cosa non dovrebbe essere risposto.
- Indicare al modello di dire "Non lo so" o di richiedere ulteriori informazioni quando l'input fornito è incompleto.
- Incoraggiare il modello a fare riferimento esplicitamente al contesto citato invece di inventare dettagli non presenti nei dati forniti.
- Allineare istruzioni di ruolo, strumenti e impostazioni di recupero in modo che il modello sappia quando utilizzare fonti esterne e quando fare affidamento sui suoi parametri.
I buoni prompt migliorano la qualità degli output dell'IA, ma ora fanno parte di un sistema più ampio che include recupero, strumenti e verifica.
Verifica esterna e metodi di controllo dei fatti
Verificare il contenuto generato dall'IA rispetto a dati fattuali affidabili rimane una strategia centrale. La verifica può avvenire in diversi modi:
- Recupero e confronto automatizzati: Il sistema utilizza la generazione potenziata da recupero per estrarre documenti, quindi verifica se tali documenti supportano affermazioni chiave nel contenuto generato.
- Verifica incrociata tra modelli: Un modello linguistico genera una risposta e un altro modello o una configurazione diversa la revisiona per errori fattuali.
- Verifica basata su strumenti: I modelli di IA richiamano strumenti specializzati, come interpreti di codice, calcolatrici o API specifiche del dominio, per verificare valori numerici, date o output strutturati.
- Revisione con intervento umano: Esperti del settore esaminano il testo generato dall'IA più critico prima che venga utilizzato in produzione o pubblicato.
I sistemi moderni spesso combinano questi approcci, utilizzando controlli automatici per la maggior parte del contenuto ed elevando i casi sospetti alla revisione umana.
Approcci agente per ridurre le allucinazioni
Il lavoro recente nell'intelligenza artificiale ha introdotto sistemi agenti, in cui a un modello è consentito pianificare, richiamare strumenti ed eseguire più passaggi invece di rispondere in un'unica passata. Questo cambia il modo in cui le allucinazioni si manifestano e come possono essere ridotte.
I sistemi di modelli linguistici agenti possono:
- Suddividere una domanda in sottoproblemi e risolverli passo dopo passo.
- Decidere quando sono necessari ulteriori dati ed eseguire ulteriori recuperi da una base di conoscenza o fonti esterne.
- Richiamare strumenti specifici del dominio, come API di ricerca, database o calcolatrici, per verificare risultati intermedi.
- Rivalutare la propria bozza di risposta e rivedere parti che confliggono con le evidenze recuperate.
Ad esempio, invece di generare immediatamente una lunga risposta, l'agente di IA potrebbe:
- Recuperare documenti pertinenti.
- Riassumere e confrontare diverse fonti.
- Identificare contraddizioni o dati mancanti.
- Porre domande di follow-up all'utente se il compito è mal definito.
- Solo allora generare la risposta finale.
Questa struttura in più passaggi rende le allucinazioni più visibili e fornisce ulteriori punti in cui possono essere applicati controlli.
Aggiungi come fonte preferitaStima dell'incertezza e punteggi di confidenza
Un altro campo attivo è la stima della probabilità che un output dell'IA contenga errori fattuali. La stima dell'incertezza può essere utilizzata sia durante che dopo la generazione. Alcuni approcci includono:
- Punteggi di confidenza a livello di token, che mostrano quanto è sicuro il modello per ogni parola o frase. Le aree con bassa confidenza possono essere segnalate per revisione.
- Controlli di coerenza, in cui il modello risponde alla stessa domanda in diversi modi o con prompt variati, e il sistema misura quanto siano stabili le risposte.
- Controlli di sufficienza del contesto, in cui un modello separato valuta se i documenti recuperati contengono informazioni sufficienti per rispondere alla domanda.
- Valutazione del rischio pre-generazione, in cui il sistema prevede se un determinato input è probabile che induca allucinazioni in una specifica configurazione del modello.
Questi metodi non eliminano le allucinazioni, ma aiutano le organizzazioni a identificare output ad alto rischio e indirizzarli a flussi di verifica più rigorosi o a revisori umani.
Comunicare l'incertezza agli utenti
Comunicare l'incertezza agli utenti è cruciale quando i sistemi di IA incontrano limitazioni. Alcune pratiche efficaci sono:
- L'uso di un linguaggio intenzionalmente incerto aiuta a impostare aspettative appropriate e riduce output fuorvianti che potrebbero diffondere informazioni inaccurate.
- Integrando indicatori di informazioni fattualmente errate, i modelli possono segnalare quando non sono sicuri delle loro risposte. Questa trasparenza, raccomandata in recenti pubblicazioni di revisione tecnologica, impedisce agli utenti di prendere per buono il contenuto generato dall'IA.
- Evidenziando elementi testuali specifici che hanno influenzato la risposta del modello, si aiutano gli utenti a comprendere il ragionamento dietro output incerti, mentre la visualizzazione dei punteggi di confidenza consente una valutazione più affidabile.
- Quando si affrontano problemi complessi, presentare più fonti incoraggia gli utenti a verificare autonomamente le affermazioni invece di fare affidamento esclusivamente su output dell'IA che potrebbero contenere allucinazioni.
Questi approcci, validati attraverso ampio feedback umano, creano una relazione più onesta tra utenti e modelli di IA generativa riconoscendo quando i limiti della base di conoscenza potrebbero portare a potenziali allucinazioni.
Stimare il rischio di allucinazioni prima che si verifichino
Rilevare contenuti falsi dopo che il LLM li ha già generati è il focus principale della maggior parte della ricerca attuale sulle allucinazioni. Strumenti come RefChecker e Hallucination Guard mirano a evidenziare o assegnare un punteggio a output sospetti, aiutando gli utenti a filtrare o correggere i risultati allucinati.
Una nuova prospettiva reinterpreti il problema, suggerendo che le allucinazioni siano artefatti di compressione piuttosto che "bug". Durante il funzionamento, i modelli linguistici di grandi dimensioni decomprimono informazioni precedentemente compresse nei loro parametri. Simile a come un file ZIP corrotto produce dati inutilizzabili quando viene estratto, il modello colma le lacune con contenuti plausibili ma falsi quando il suo "budget informativo" è limitato.7
I LLM ottimizzano l'efficienza media, il che può portare a occasionali allucinazioni sistematiche. La Legge di Decompressione a Livello di Aspettativa (EDFL) definisce le soglie informative necessarie per prevenire allucinazioni nei LLM.
Il Calcolatore Open Source del Rischio di Allucinazione consente la valutazione del rischio pre-generazione, l'impostazione di limiti di errore, la valutazione del contesto e garanzie in stile SLA, ognuna molto utile in settori regolamentati. Può essere utilizzato con qualsiasi OpenAI-compatibile API.
Metodologia del benchmark sulle allucinazioni dell'IA
Il nostro obiettivo è determinare se i modelli possono elaborare informazioni aziendali e derivarne conclusioni accurate. Questo è un campo in cui i LLM possono generare il maggior valore per le aziende, e volevamo comprendere i tassi di allucinazione in questo contesto.
Il nostro benchmark valuta i tassi di allucinazione dei LLM utilizzando un dataset di domande derivate da articoli di CNN News.
Abbiamo utilizzato un sistema automatizzato di raccolta dati web per costruire il dataset, estraendo articoli direttamente dal feed RSS di CNN. Da questi articoli, abbiamo creato 60 domande progettate per testare rigorosamente la capacità di un LLM di recuperare informazioni fattuali specifiche dell'articolo.
Le domande sono state intenzionalmente costruite per:
- Chiedere valori numerici precisi (percentuali, date, quantità).
- Coprire argomenti diversi come prezzi del petrolio, storia dell'arte, ricerca scientifica, finanza e altro.
- Includere relazioni temporali e fatti statistici difficili da indovinare.
- Richiedere un recupero esatto dal testo fornito piuttosto che un ragionamento generalizzato.
- Rendere facile la verifica controllando se la risposta corrisponde alla cifra dell'articolo originale.
Valutazione utilizzando un sistema di controllo dei fatti in tre fasi
Dopo che le domande vengono inviate a ogni LLM tramite chiamate API, le risposte vengono valutate utilizzando una pipeline di controllo dei fatti in due fasi:
- Controllo Statico di Corrispondenza Esatta: Il sistema esegue innanzitutto un rapido confronto tra stringhe tra la risposta del LLM e il valore reale estratto dall'articolo. Se i valori corrispondono esattamente, la risposta viene contrassegnata come corretta.
- LLM come Giudice per la Validazione Semantica: Se non viene trovata corrispondenza esatta, un ulteriore passaggio di valutazione utilizza un modello LLM-come-giudice per determinare se la risposta è semanticamente equivalente alla verità reale.
Questo tiene conto di variazioni nel formato o nella formulazione, come- "26 milioni" vs. "26000000"
- "n/d", "non disponibile" o "non fornito"
- differenze minori di formulazione che mantengono lo stesso significato.
- Controllo finale: Anche il LLM-come-giudice può allucinare. Per risolvere questo, abbiamo costruito un altro LLM-come-giudice per controllare gli output contrassegnati come "falliti" dal primo LLM-come-giudice, per verificare se sono veramente falliti o se il nostro LLM-come-giudice ha allucinato. Se qualsiasi risposta viene contrassegnata come sospetta da quel LLM-come-giudice, la controlliamo e la valutiamo manualmente per assicurarci che non ci siano errori durante le valutazioni.
La risposta viene classificata come allucinazione solo se fallisce sia il controllo di corrispondenza esatta, sia la valutazione dell'equivalenza semantica, sia il controllo finale.
Esempio
Prompt: "Rispondi alla domanda utilizzando solo le informazioni presenti nell'articolo fornito. Non arrotondare le risposte. Rispondi solo con una parola o un numero, oppure con 'non dato'."
Articolo: Gli scienziati identificano l'ingrediente segreto nei dipinti di Leonardo da Vinci 8
Domanda: In quale secolo la pittura a olio si diffuse nell'Europa settentrionale?
Verità reale: Non dato.
L'articolo non fornisce questa informazione; fa riferimento solo al Medioevo. Pertanto, qualsiasi risposta diversa da "non dato" indica che il modello non sta seguendo l'articolo e sta generando informazioni inventate o assunte, risultando in un'allucinazione.
FAQ
Gli strumenti di IA possono generare informazioni false o output fuorvianti. Per prevenire le allucinazioni dell'IA, gli utenti possono ricontrollare le risposte e dovrebbero porre domande più semplici. Queste informazioni fattualmente errate nel testo generato dall'IA possono portare a risultati indesiderabili, specialmente in aree come la scrittura scientifica e la ricerca legale.
Pubblicazioni hanno identificato diverse cause delle allucinazioni dell'IA. Quando sistemi di intelligenza artificiale generativa come modelli linguistici di grandi dimensioni producono output fattualmente errati, è spesso dovuto a dati di addestramento insufficienti o alla dipendenza da dati fattuali obsoleti. Ricerche mostrano che metodi precedenti per creare sistemi di base di conoscenza non hanno adeguatamente impedito ai modelli di allucinare riferimenti o produrre informazioni inaccurate quando elaborano dati di Internet per rispondere a problemi complessi.
Il contenuto generato dall'IA spesso manca di verifica rispetto a fonti esterne, portando a output fuorvianti. I modelli generativi hanno difficoltà con argomenti al di fuori del loro corpus di addestramento e possono inventare fatti plausibili che falliscono la verifica da esperti.
Sebbene preziosi in aree come la ricerca legale, i sistemi di IA possono produrre inaccurati, specialmente per argomenti poco trattati o sotto attacco avversario.
I modelli possono confondere correlazione con causalità, e anche output accurati possono includere fabbricazioni, evidenziando la necessità di verificare i fatti rispetto a fonti affidabili. Questo problema persiste a causa di standard di revisione inadeguati su come i modelli elaborano i dati.
Ulteriori letture
- 8 modelli di IA per il codice testati: LMC-Eval
- Comprendere la tariffazione dei LLM: Confronto tra i principali fornitori
- Memoria dell'IA: I modelli di IA più popolari con la migliore memoria
- Prestazioni dell'agente di IA: Tassi di successo e ROI
Cita questo benchmark
Scegli il formato adatto a dove pubblicherai. Incollare la versione con link nel tuo CMS preserva il backlink.
@misc{alper2026,
author = {Alper, Şevval and Kalelioğlu, Berk},
title = {{Allucinazioni dell'IA: Confronta i migliori LLM come GPT-5.2}},
year = {2026},
month = jun,
howpublished = {\url{https://aimultiple.com/ai-hallucination}},
note = {AIMultiple. Consultato il 4 Giugno 2026}
}Collegamenti di riferimento
Commenti 4
Condividi i tuoi pensieri
Il tuo indirizzo email non verrà pubblicato. Tutti i campi sono obbligatori. I commenti vengono lasciati nella loro lingua originale.
This article is updated in June while the GPT 5 is announced in August. How did you test GPT 5 in AI Hallucination Rates figure
Hi! Thanks for your comment. We use WordPress for our articles, which allows us to update graphs and tables independently of the main text. This means that even if the article text shows an earlier update date, we can still add the latest results to the figures without altering the written sections.
Hi Cem, I've been using this article as a reference of severity of hallucination. Is it possible to refresh the report with the newly released GPT-5? Thanks!
Hi Rui, Thanks a lot for your interest and for using our article as a reference. We’ve already refreshed the report with GPT-5 results, so you’ll find the latest updates included in the article.
Is there any chance that you might add Claude Sonnet/Opus 4 as well as Gemini 2.5 Pro?
Hi Tim, Thank you for your support and suggestion. Claude Sonnet/Opus 4 and Gemini 2.5 Pro have already been added to the article, so you can now see them included in the comparisons.
Hi, thank you for interesting benchmark! I was wondering Grok3's hallucination rate, both in Think mode and without. Are you planning to add these?
Hi Joon and thank you for your comment, Yes, we are waiting for API access.