Fallimenti dell'IA: 10 cause principali ed esempi concreti
Che si tratti di un incidente con un'auto a guida autonoma, di un algoritmo distorto o di un malfunzionamento di un chatbot per l'assistenza clienti, i guasti nei sistemi di intelligenza artificiale implementati possono avere gravi conseguenze e sollevare importanti questioni etiche e sociali.
Identificando e affrontando le problematiche di fondo, le aziende possono mitigare i rischi associati all'IA e garantire che venga utilizzata in modo sicuro ed etico, in linea conle migliori pratiche per un'IA responsabile .
Scopri 10 motivi comuni per l'elevato tasso di fallimento dei progetti di intelligenza artificiale ed esplora esempi concreti.
Fallimenti organizzativi e strategici
1. Obiettivi aziendali poco chiari
Implementare l'IA senza un problema aziendale ben definito e obiettivi aziendali chiari non è sufficiente per avere successo. Invece di partire dalla soluzione di un problema aziendale indefinito, le aziende devono prima identificare e definire i problemi aziendali e poi decidere se le tecniche e gli strumenti di IA possono contribuire a risolverli.
Inoltre, misurare i costi e i potenziali benefici di un progetto di intelligenza artificiale è difficile perché:
- Lo sviluppo di un progetto di intelligenza artificiale e la creazione/addestramento di un modello di IA sono attività di natura sperimentale che possono richiedere un lungo processo di tentativi ed errori.
- I modelli di intelligenza artificiale cercano di risolvere problemi aziendali probabilistici, il che significa che i risultati potrebbero non essere gli stessi per ogni caso d'uso.
Un obiettivo aziendale ben definito può fornire un'idea chiara se l'IA sia lo strumento giusto o se esistano strumenti o metodi alternativi per risolvere il problema in questione. Questo può far risparmiare alle aziende costi inutili.
2. Sistemi di intelligenza artificiale a scatola nera
L'intelligenza artificiale a scatola nera si riferisce a modelli i cui processi decisionali interni non sono comprensibili agli esseri umani. Sebbene gli utenti possano osservare gli input e gli output di questi sistemi, il ragionamento alla base delle decisioni del modello rimane nascosto.
Ad esempio, un sistema di assunzione basato sull'intelligenza artificiale potrebbe classificare i candidati in base ai curriculum inviati, ma i fattori e i pesi esatti che influenzano tali classifiche non sono visibili. Questa mancanza di trasparenza può contribuire a potenziali fallimenti, poiché i pregiudizi nei dati di addestramento potrebbero rimanere inosservati, gli errori diventano difficili da individuare e correggere e le organizzazioni potrebbero avere difficoltà a spiegare o giustificare le decisioni automatizzate.
Di conseguenza, i sistemi opachi possono sollevare preoccupazioni in merito a equità, responsabilità e fiducia. Tuttavia, l'intelligenza artificiale a scatola nera non è intrinsecamente un fallimento, poiché molti di questi modelli, soprattutto sistemi complessi come le reti neurali profonde, possono essere estremamente precisi ed efficaci.
La sfida principale è che, quando si verificano problemi, le loro cause sono difficili da identificare, il che rende l'IA a scatola nera un rischio per l'affidabilità e la governance, piuttosto che un fallimento in sé.
Ad esempio, New Relic propone una soluzione a questa sfida. L'azienda ha annunciato una soluzione di osservabilità che offre piena visibilità sulle applicazioni create all'interno di ChatGPT, aiutando le aziende a monitorare e ottimizzare l'aspetto e il funzionamento dei propri servizi all'interno di interfacce basate sull'intelligenza artificiale.
La soluzione consente ai team di ingegneri di monitorare le prestazioni, l'utilizzo e l'affidabilità delle app ChatGPT, eliminando la natura di "scatola nera" delle esperienze di intelligenza artificiale integrate. 1
3. Mancanza di collaborazione tra i team
Avere un team di data science che lavora in isolamento su un progetto di intelligenza artificiale non è una ricetta per il successo. La realizzazione di un progetto di intelligenza artificiale di successo richiede la collaborazione tra data scientist, ingegneri dei dati, professionisti IT, designer e professionisti delle diverse aree aziendali. Creare un ambiente tecnico collaborativo aiuterebbe le aziende a:
- Assicurarsi che i risultati del progetto di intelligenza artificiale siano ben integrati nell'architettura tecnologica complessiva.
- Standardizzare il processo di sviluppo dell'IA
- Condividere conoscenze ed esperienze, sviluppare le migliori pratiche
- Implementare soluzioni di intelligenza artificiale su larga scala
Esistono insiemi di pratiche note come DataOps e MLOps per colmare il divario tra team diversi e rendere operativi i sistemi di intelligenza artificiale su larga scala. Inoltre, la creazione di un Centro di Eccellenza (CoE) federato per l'IA, in cui data scientist di diversi settori aziendali possano collaborare, può migliorare la collaborazione.
4. Mancanza di talento
A causa di questa carenza di competenze, la creazione di un team di data science di talento può risultare costosa e richiedere molto tempo. Senza un team con una formazione adeguata e una solida esperienza nel settore, le aziende non dovrebbero aspettarsi di ottenere grandi risultati dalle loro iniziative di intelligenza artificiale.
Le aziende devono analizzare i costi e i benefici della creazione di team interni di data science. A seconda degli obiettivi aziendali e della portata delle operazioni, l'outsourcing può inizialmente rappresentare un'alternativa più conveniente rispetto all'implementazione di applicazioni di intelligenza artificiale.
Errori relativi ai dati
I dati sono la risorsa chiave di ogni progetto di intelligenza artificiale. Le aziende devono sviluppare una strategia di governance dei dati per garantire la disponibilità, la qualità, l'integrità e la sicurezza dei dati che utilizzeranno nel loro progetto. Lavorare con dati obsoleti, insufficienti o distorti può portare a situazioni di "garbage in, garbage out" (dati errati in uscita), al fallimento del progetto e allo spreco di risorse aziendali.
5. Overfitting: memorizzare invece di imparare
L'overfitting si verifica quando i modelli di intelligenza artificiale si specializzano eccessivamente nei dati di addestramento e non riescono a generalizzare a nuovi input. Questo fallimento dell'IA è comune nei modelli di deep learning utilizzati per il rilevamento delle frodi finanziarie , dove lo strumento potrebbe riconoscere solo schemi di frode passati e non individuare tattiche emergenti.
L'overfitting è una delle principali cause di fallimento dei progetti di intelligenza artificiale, poiché le tecnologie basate sull'IA devono adattarsi ad ambienti dinamici anziché basarsi su modelli storici. La scarsa qualità dei dati e la mancanza di osservabilità dell'IA spesso aggravano questo problema.
6. Trascurare i casi limite: ignorare gli scenari rari
I casi limite, scenari rari ma critici, spesso portano i sistemi di intelligenza artificiale a prendere decisioni errate. Nei veicoli a guida autonoma , un chatbot basato sull'IA progettato per la navigazione potrebbe non riuscire a elaborare condizioni di guida insolite.
Ignorare i casi limite nelle iniziative di intelligenza artificiale può comportare perdite finanziarie, rischi per la sicurezza e perdita di fiducia da parte dei clienti. Le organizzazioni che utilizzano modelli linguistici e di apprendimento profondo su larga scala devono integrare dati di alta qualità per migliorare la gestione dei casi limite.
7. Dipendenza dalla correlazione: presupposti errati e risultati discriminatori
I progetti di intelligenza artificiale spesso falliscono perché i modelli confondono la correlazione con la causalità. Ad esempio, un sistema di assunzione basato sull'IA potrebbe favorire i candidati provenienti da un determinato codice postale, non per le loro competenze, ma a causa di pregiudizi insiti nei dati di addestramento. Ciò può portare a risultati discriminatori.
8. Distorsione dei dati: rafforzamento della disuguaglianza e implicazioni etiche
La distorsione dei dati è un problema critico nelle iniziative di intelligenza artificiale, in particolare nei modelli di apprendimento automatico utilizzati per il processo decisionale. Un esempio ben noto è rappresentato dai modelli di intelligenza artificiale in ambito sanitario, addestrati principalmente su dati di pazienti caucasici, che portano a diagnosi inaccurate per i pazienti non caucasici.
Tali pregiudizi insiti nelle tecnologie di intelligenza artificiale possono generare implicazioni etiche e problematiche legali. Le organizzazioni devono concentrarsi sulle migliori pratiche di data science per evitare una scarsa qualità dei dati e migliorare l'accuratezza nei progetti di intelligenza artificiale.
9. Underfitting: modelli di IA privi di complessità
L'underfitting si verifica quando i modelli di apprendimento automatico sono troppo semplicistici, con conseguenti prestazioni scadenti. Un chatbot basato sull'intelligenza artificiale , ad esempio, progettato male, potrebbe avere difficoltà a distinguere tra le intenzioni dell'utente e le sue, finendo per dire bugie e fornire consigli errati.
I progetti di intelligenza artificiale falliscono quando le organizzazioni si affidano a modelli non sufficientemente addestrati, senza perfezionarne la capacità di elaborare schemi complessi. L'importanza cruciale dell'osservabilità dell'IA e del miglioramento continuo dei modelli non può essere sottovalutata.
10. Deriva dei dati: la difficoltà dell'IA ad adattarsi al cambiamento
Gli strumenti di intelligenza artificiale presuppongono che i dati rimangano coerenti nel tempo, ma i cambiamenti nel mondo reale, come ad esempio le variazioni nel comportamento dei clienti su una piattaforma di social media, possono portare a una deriva dei dati.
I modelli di intelligenza artificiale utilizzati nelle previsioni finanziarie o nella ricerca legale devono essere aggiornati frequentemente per mantenerne l'accuratezza. Le organizzazioni che investono in tecnologie di intelligenza artificiale devono dare priorità all'osservabilità dell'IA per garantire che i modelli rimangano affidabili man mano che emergono milioni di nuovi punti dati.
Prima di avviare un progetto di intelligenza artificiale, le aziende dovrebbero assicurarsi di disporre di dati sufficienti e pertinenti provenienti da fonti affidabili, che rappresentino le loro attività aziendali, siano etichettati correttamente e siano adatti allo strumento di intelligenza artificiale che si intende utilizzare. In caso contrario, gli strumenti di intelligenza artificiale possono produrre risultati errati ed essere pericolosi se utilizzati nei processi decisionali.
Gli esperti di raccolta dati possono aiutare la tua azienda se non disponi di dati di buona qualità.
Oltre all'osservabilità, alcune organizzazioni stanno adottando sistemi di monitoraggio agentici che tracciano autonomamente il comportamento dei modelli in produzione. I sistemi di monitoraggio agentici tracciano continuamente input, output e comportamento degli agenti in produzione. Analizzano le distribuzioni delle funzionalità, i modelli di risposta e le tracce di esecuzione per rilevare problemi come deriva dei dati, degrado delle prestazioni o azioni anomale degli agenti.
Quando vengono rilevate anomalie, le pipeline di monitoraggio possono attivare risposte automatizzate, come avvisi, verifiche di valutazione, riqualificazione dei flussi di lavoro, azioni di rollback o notifiche ai team responsabili. Identificando in modo proattivo i cambiamenti nei dati del mondo reale e nel comportamento degli agenti, il monitoraggio basato su agenti contribuisce a mantenere nel tempo le prestazioni, l'affidabilità e la sicurezza del sistema.
Quali sono alcuni esempi di progetti di intelligenza artificiale falliti?
cause per violazione del diritto d'autore
La rapida crescita dell'intelligenza artificiale generativa ha innescato oltre 70 cause per violazione del copyright contro aziende del settore, principalmente intentate da autori, artisti e organi di stampa, i quali sostengono che le loro opere protette da copyright siano state utilizzate per addestrare sistemi di intelligenza artificiale senza autorizzazione.
Alcune sentenze hanno suggerito che l'addestramento di modelli con dati ottenuti legalmente potrebbe essere considerato un uso lecito, mentre l'utilizzo di copie pirata o non autorizzate potrebbe comunque violare la legge sul diritto d'autore.
Ad esempio, Bandcamp ha annunciato una politica che vieta la musica e l'audio generati interamente o in gran parte dall'intelligenza artificiale.
La piattaforma dichiara che il suo obiettivo è preservare la creatività umana e mantenere un rapporto diretto tra artisti e fan, sottolineando che la musica è un'espressione culturale e sociale, non solo un prodotto digitale.
Secondo le nuove regole, sono vietati i brani generati dall'intelligenza artificiale e l'utilizzo di strumenti di IA per imitare altri artisti o stili. Gli utenti possono segnalare eventuali violazioni sospette. L'obiettivo della politica è garantire che gli ascoltatori possano avere fiducia nel fatto che la musica su Bandcamp sia creata da persone reali e proteggere i musicisti indipendenti dall'essere oscurati da un'enorme quantità di contenuti generati dall'IA. 2
Incidenti che coinvolgono auto a guida autonoma
Una recente analisi del programma di robotaxi di Tesla ha rilevato che i veicoli a guida autonoma sono coinvolti in incidenti con una frequenza significativamente maggiore rispetto ai conducenti umani.
Secondo i rapporti sulla sicurezza di Tesla e i dati normativi, la flotta ha registrato 14 incidenti su circa 800.000 miglia di percorrenza, ovvero circa un incidente ogni 57.000 miglia. In confronto, i conducenti umani in genere subiscono un incidente di lieve entità ogni 229.000 miglia, il che suggerisce che i robotaxi di Tesla si schiantano circa quattro volte più frequentemente e fino a otto volte più spesso se si utilizzano i parametri di sicurezza federali. 3
Riepiloghi di notizie fuorvianti di Apple Intelligence
La BBC ha presentato un reclamo ad Apple in merito alle inesattezze presenti nei riassunti di notizie generati dall'intelligenza artificiale di Apple, noti come "Apple Intelligence". Questi riassunti, recapitati tramite notifiche iPhone, attribuivano erroneamente informazioni false alla BBC.
Un caso eclatante riguarda una falsa notizia secondo cui Luigi Mangione, arrestato per l'omicidio dell'amministratore delegato di UnitedHealthcare Brian Thompson, si sarebbe suicidato, un'affermazione che non è stata riportata dalla BBC.
Tra gli errori successivi, si è registrata una notifica che annunciava erroneamente la vittoria del giocatore di freccette Luke Littler al Campionato mondiale di freccette PDC prima ancora che si svolgesse la partita finale.
In risposta a questi problemi, Apple ha riconosciuto che le sue funzionalità di intelligenza artificiale erano ancora in versione beta e ha annunciato l'intenzione di disabilitare temporaneamente i riepiloghi delle notifiche per le app di notizie e intrattenimento. L'azienda ha inoltre dichiarato che sarebbe stato rilasciato un aggiornamento software per chiarire quando le notifiche sono generate dall'IA, con l'obiettivo di prevenire future informazioni errate e preservare l'integrità della diffusione delle notizie. 4
Guasto al chatbot di Air Canada
Air Canada ha dovuto affrontare problemi legali dopo che il suo chatbot basato sull'intelligenza artificiale ha fornito informazioni errate a un cliente in merito ai rimborsi per lutto. Il chatbot aveva erroneamente affermato che il cliente avrebbe potuto richiedere un rimborso entro 90 giorni dalla prenotazione, ma la compagnia aerea ha successivamente negato la richiesta, citando la propria politica aziendale.
Il cliente ha presentato un reclamo e un tribunale ha stabilito che Air Canada era responsabile di tutte le informazioni presenti sul suo sito web, ordinando alla compagnia aerea di effettuare il rimborso. 5
Le risposte di parte di Amazon Alexa
Alexa, l'assistente vocale di Amazon, è stata criticata per aver fornito risposte apparentemente di parte, favorendo la vicepresidente Kamala Harris rispetto all'ex presidente Donald Trump.
Quando gli utenti hanno chiesto ad Alexa perché avrebbero dovuto votare per Harris, l'assistente ha evidenziato i suoi successi e il suo impegno per gli ideali progressisti. Al contrario, quando le è stata posta la stessa domanda su Trump, Alexa si è rifiutata di dare il suo appoggio, citando una politica che vieta di promuovere figure politiche specifiche.
Amazon ha attribuito questa discrepanza a un errore derivante da un recente aggiornamento software volto a migliorare le capacità di intelligenza artificiale di Alexa. L'azienda ha dichiarato che il problema è stato prontamente risolto non appena scoperto e ha sottolineato che Alexa è progettata per fornire informazioni imparziali, senza favorire alcun partito politico o candidato. 6
IBM Watson per l'oncologia
La collaborazione di IBM con l'Università del Texas MD è un noto esempio di fallimento di un progetto di intelligenza artificiale. Secondo StatNews, documenti interni di IBM mostrano che Watson forniva frequentemente consigli errati sul trattamento del cancro, come ad esempio prescrivere farmaci emorragici a un paziente con gravi emorragie.
I dati di addestramento di Watson contenevano un piccolo numero di dati ipotetici su pazienti oncologici, anziché dati reali di pazienti. Secondo un rapporto dell'amministrazione del sistema universitario del Texas, il progetto è costato 62 milioni di dollari al MD Anderson senza alcun risultato concreto. 7
Lo strumento di reclutamento basato sull'intelligenza artificiale di Amazon
Lo strumento di reclutamento basato sull'intelligenza artificiale di Amazon, che discriminava le donne, è un altro noto esempio di fallimento dell'IA. Lo strumento era stato addestrato su un set di dati contenente principalmente curriculum di candidati uomini e ha interpretato le candidate donne come meno preferibili. 8
Discriminazione razziale e sessuale negli strumenti di riconoscimento facciale
Un'inchiesta del Guardian ha rilevato che i sistemi di intelligenza artificiale di Microsoft, Amazon e Google, utilizzati dalle piattaforme di social media per consigliare contenuti, mostrano una notevole discriminazione di genere nel modo in cui trattano i corpi maschili e femminili.
Lo studio ha rivelato che le immagini di donne venivano etichettate più frequentemente come "piccanti" rispetto a foto simili di uomini. In un caso, l'IA di Microsoft ha classificato le immagini di screening per il cancro al seno provenienti dal National Cancer Institute statunitense come potenzialmente esplicite dal punto di vista sessuale. 9
Un altro esempio è che i ricercatori nel campo dell'IA hanno scoperto che le tecnologie commerciali di riconoscimento facciale, come quelle di IBM, Microsoft e Amazon, hanno ottenuto risultati scarsi con le donne dalla pelle scura e buoni con gli uomini dalla pelle chiara. 10
Collegamenti di riferimento
Sii il primo a commentare
Il tuo indirizzo email non verrà pubblicato. Tutti i campi sono obbligatori.