Intelligenza artificiale responsabile: 4 principi e migliori pratiche per il

Il 65% dei leader ritiene di non essere preparato a gestire efficacemente i rischi legati all'intelligenza artificiale. ¹ Sviluppare e scalare applicazioni di intelligenza artificiale tenendo conto di responsabilità, affidabilità e pratiche etiche è essenziale per costruire un'IA che funzioni per tutti.

Esplora quattro principi per la progettazione di un'IA responsabile (RAI) e suggerisci le migliori pratiche per raggiungerli:

Guida passo passo all'IA responsabile

1. Implementare sistemi di intelligenza artificiale ponendo l'accento sugli utenti umani e sulle loro esperienze. Assicurarsi che la progettazione integri principi etici e valori sociali per una migliore interazione con l'utente.
2. Utilizza una dashboard di intelligenza artificiale responsabile per monitorare diverse metriche, tra cui feedback e tassi di errore, garantendo l'efficacia del sistema e la gestione del rischio.
3. Esamina attentamente i dati di addestramento e i dati sottostanti per verificarne l'accuratezza e la rappresentatività. Affronta i pregiudizi e i risultati iniqui per migliorare l'etica dei dati e assicurati che la tua politica sull'IA imponga verifiche di equità.
4. Comprendere i limiti dei modelli di apprendimento automatico e comunicarli con chiarezza. Evitare di fare eccessivo affidamento sulle correlazioni e riconoscere la portata delle capacità dell'intelligenza artificiale generativa.
5. Implementare test rigorosi all'interno dei flussi di lavoro di IA, inclusi test unitari e di integrazione. Il monitoraggio continuo è essenziale per l'affidabilità e la precisione del sistema, integrando considerazioni etiche in ogni fase.
6. Monitorare costantemente le prestazioni del sistema dopo l'implementazione, valutando gli aggiornamenti in base alla normativa europea sull'IA per garantirne la conformità e adattandoli ai principi di privacy e sicurezza. Allineare le pratiche di monitoraggio agli standard normativi in materia di IA che pongono l'accento su privacy, trasparenza e sicurezza. Affrontare le problematiche sia immediate che a lungo termine, garantendo al contempo un'ampia diffusione e la resistenza agli attacchi malevoli.

1. Equità

Gli strumenti di intelligenza artificiale vengono sempre più utilizzati in diversi processi decisionali, come ad esempio nelle assunzioni, nella concessione di prestiti e nella diagnosi medica . I pregiudizi introdotti in questi sistemi decisionali possono avere ripercussioni di vasta portata sul pubblico e contribuire alla discriminazione nei confronti di diversi gruppi di persone.

Esempi concreti

Ecco tre esempi di pregiudizi nell'IA applicati al mondo reale:

• Sessismo negli algoritmi di credito: nel 2019, diverse persone (tra cui il co-fondatore Steve Wozniak) hanno affermato che l'algoritmo delle carte di credito di Apple discrimina le donne, offrendo limiti di credito diversi in base al genere.
• Razzismo e discriminazione nei confronti delle persone con disabilità nei processi di assunzione basati sull'intelligenza artificiale: secondo un recente rapporto della Harvard Business School e di Accenture, 27 milioni di lavoratori negli Stati Uniti vengono esclusi e non riescono a trovare un impiego a causa dei sistemi di assunzione automatizzati e basati sull'intelligenza artificiale. ² Tra questi “lavoratori invisibili” figurano immigrati, rifugiati e persone con disabilità fisiche.
• Razzismo nel riconoscimento facciale: i ricercatori hanno scoperto ³ che alcune tecnologie commerciali di riconoscimento facciale, come quelle di Amazon o di Microsoft, avevano una scarsa precisione sulle donne con la pelle scura, ma erano più precise sugli uomini con la pelle chiara (Figura 1).

Queste decisioni distorte possono derivare dalla progettazione del progetto o da set di dati che riflettono pregiudizi reali. È fondamentale eliminare questi pregiudizi per creare sistemi di intelligenza artificiale robusti e inclusivi per tutti.

Le migliori prassi per raggiungere l'equità

• Esamina il set di dati per verificare se rappresenta fedelmente la popolazione.
• Analizza le sottopopolazioni del dataset per determinare se il modello offre prestazioni ugualmente buone in gruppi diversi.
• Progettare modelli tenendo conto dell'equità e consultarsi con sociologi e altri esperti in materia.
• Monitora costantemente il modello di machine learning dopo la sua implementazione. I modelli tendono a modificarsi nel tempo, pertanto, dopo un certo periodo, potrebbero essere introdotti dei bias nel sistema.
• Integra parametri di equità nella tua politica sull'IA per una rendicontazione misurabile.

Abbiamo un articolo esaustivo sui pregiudizi nell'IA e su come risolverli . Non esitate a consultarlo. Potete anche leggere il nostro articolo sull'etica dell'IA .

2. Privacy

I sistemi di intelligenza artificiale spesso utilizzano grandi insiemi di dati, che possono contenere informazioni sensibili sugli individui. Ciò rende le soluzioni di IA vulnerabili a violazioni dei dati e attacchi da parte di malintenzionati che desiderano ottenere informazioni riservate.

• Secondo l'Identity Theft Resource Center, nel 2021 si sono verificati 1862 casi di violazione dei dati, un dato superiore del 23% rispetto al precedente record del 2017. ⁴

Le violazioni dei dati causano perdite finanziarie e danni alla reputazione delle aziende, oltre a mettere a rischio le persone i cui dati sensibili vengono divulgati.

Esempio tratto dalla vita reale

All'inizio del 2024, l'Autorità Garante per la protezione dei dati personali ha multato la città di Trento per 50.000 euro, rendendola il primo comune italiano sanzionato per violazioni della privacy legate all'intelligenza artificiale. Trento aveva utilizzato strumenti di intelligenza artificiale in progetti di sorveglianza finanziati dall'UE, che includevano telecamere, microfoni e monitoraggio dei social media, ma non aveva provveduto ad anonimizzare correttamente i dati personali e aveva condiviso illegalmente informazioni con terze parti.

L'autorità garante ha ordinato la cancellazione di tutti i dati raccolti, citando violazioni dei principi di trasparenza e proporzionalità previsti dal GDPR. Questo caso riflette la crescente applicazione da parte dell'Italia delle norme sulla privacy relative all'intelligenza artificiale, a seguito di azioni come il blocco temporaneo di ChatGPT nel 2023 e la sanzione inflitta a OpenAI alla fine del 2024. ⁵

Le migliori prassi per garantire la privacy

• Valutare e classificare i dati in base alla loro sensibilità e monitorare i dati sensibili.
• Sviluppare una politica di accesso e utilizzo dei dati all'interno dell'organizzazione. Implementare il principio del minimo privilegio.

3. Sicurezza e protezione

La sicurezza di un sistema di intelligenza artificiale è fondamentale per impedire agli aggressori di interferire con il sistema e modificarne il comportamento previsto. Il crescente utilizzo dell'IA in settori particolarmente critici della società può introdurre vulnerabilità che possono avere un impatto significativo sulla sicurezza pubblica.

L'applicazione di solidi principi di sicurezza durante la progettazione del sistema contribuisce a minimizzare queste vulnerabilità. Inoltre, una politica di intelligenza artificiale efficace richiede la modellazione delle minacce, i test di penetrazione e le attività di red teaming.

Si considerino i seguenti esempi:

• I ricercatori hanno dimostrato di poter indurre un'auto a guida autonoma a percorrere la corsia opposta applicando dei piccoli adesivi sulla strada.

Questi attacchi avversari possono includere:

• Avvelenamento dei dati mediante l'immissione di dati fuorvianti nei set di dati di addestramento.
• Avvelenamento del modello tramite accesso e manipolazione dei modelli.

tra le altre cose, possono indurre il modello di IA ad agire in modi non previsti. Con l'evoluzione della tecnologia IA, gli aggressori troveranno nuovi metodi e verranno sviluppati nuovi modi per difendere i sistemi di IA.

Esempio tratto dalla vita reale

La Spagna ha approvato una bozza di legge in linea con l'Atto UE sull'IA che impone un'etichettatura chiara a tutti i contenuti generati dall'intelligenza artificiale, come i deepfake, con l'obiettivo di rafforzare la trasparenza e proteggere i gruppi vulnerabili. La legge vieta inoltre la manipolazione subliminale tramite IA e prevede sanzioni severe per le violazioni. La legge prevede:

• Etichettatura : tutti i contenuti generati dall'IA (ad esempio, immagini, video, testo) devono essere chiaramente contrassegnati come tali.
• Regolamentazione dei deepfake : i contenuti multimediali sintetici devono rivelare la loro origine artificiale.
• Divieto di manipolazione : i sistemi di intelligenza artificiale non possono utilizzare tecniche subliminali per sfruttare gli utenti, in particolare i minori o le persone vulnerabili.

In caso di violazione, i fornitori di servizi basati su modelli di business dovranno pagare sanzioni fino a 35 milioni di euro o il 7% del fatturato globale. Una nuova agenzia nazionale, AESIA, si occuperà del monitoraggio e dell'applicazione delle norme.

Questa legge rafforza i principi di trasparenza e sicurezza dell'IA responsabile, garantendo che gli utenti sappiano quando interagiscono con contenuti sintetici e contrastando le manipolazioni dannose. ⁶

Le migliori pratiche per garantire la sicurezza

• Valutare se un avversario avrebbe un incentivo ad attaccare il sistema e le potenziali conseguenze di tale attacco.
• Crea un team rosso all'interno della tua organizzazione che agisca come un avversario per testare il sistema al fine di identificare e mitigare le vulnerabilità.
• Segui gli ultimi sviluppi in materia di attacchi e sicurezza dell'IA. Si tratta di un'area di ricerca in continua evoluzione, quindi è importante tenersi aggiornati.

4. Trasparenza

La trasparenza, l'interpretabilità e la spiegabilità dei sistemi di intelligenza artificiale sono imprescindibili in alcuni settori, come quello sanitario e assicurativo, dove le aziende devono conformarsi agli standard di settore o alle normative governative. Tuttavia, essere in grado di interpretare il perché i modelli di intelligenza artificiale producano risultati specifici è fondamentale affinché tutte le aziende e gli utenti possano comprendere e fidarsi dei sistemi di intelligenza artificiale.

Un sistema di intelligenza artificiale trasparente può aiutare le aziende a:

• Spiegare e difendere le decisioni cruciali per l'azienda,
• Crea scenari “cosa succederebbe se”,
• Assicurarsi che i modelli funzionino come previsto,
• Garantire l'individuazione dei responsabili in caso di risultati indesiderati.

Esempio tratto dalla vita reale

Clearview AI, un'azienda statunitense specializzata nel riconoscimento facciale, ha creato un database di oltre 30 miliardi di immagini raccolte da internet per identificare individui per conto delle forze dell'ordine e di clienti privati. L'azienda è stata multata di 30,5 milioni di euro dall'Autorità olandese per la protezione dei dati per aver violato i principi di privacy e trasparenza previsti dal GDPR, tra cui:

• Nessun consenso : dati biometrici (caratteristiche facciali) raccolti senza la conoscenza o il permesso degli utenti.
• Mancanza di trasparenza : gli individui non sono stati informati dell'utilizzo delle loro immagini né delle modalità di elaborazione.
• Dati sensibili : il database includeva immagini di minori.
• Inadempienza : Operazione nell'UE senza un rappresentante locale o una base dati legale. ⁷

Casi d'uso

L'intelligenza artificiale spiegabile può contribuire a creare trasparenza e fiducia nei processi decisionali in diversi settori, come ad esempio:

• Assistenza sanitaria , aiutando i medici a comprendere le motivazioni alla base delle diagnosi e dei suggerimenti terapeutici dell'intelligenza artificiale.
• Finanziare garantendo trasparenza, promuovendo la fiducia tra le parti interessate nell'individuazione delle frodi e nella consulenza sugli investimenti.
• Nel settore automobilistico , si contribuisce a chiarire i processi decisionali nei veicoli autonomi, migliorandone la sicurezza e l'affidabilità.
• Il marketing e le vendite, grazie all'utilizzo di insight basati sull'intelligenza artificiale per la segmentazione dei clienti, le previsioni di vendita e il targeting pubblicitario, operano in modo trasparente, supportando le decisioni strategiche.
• La sicurezza informatica, attraverso la spiegazione del ragionamento alla base del rilevamento delle minacce da parte dell'IA, contribuisce a migliorare la gestione della sicurezza informatica.

Le migliori prassi per garantire la trasparenza

• Utilizza un insieme ridotto di input, strettamente necessario per ottenere le prestazioni desiderate del modello. Questo può facilitare l'individuazione precisa dell'origine della correlazione o del nesso causale tra le variabili.
• Dai priorità ai metodi di intelligenza artificiale interpretabili rispetto ai modelli difficili da interpretare (ovvero, i modelli a scatola nera).
• Discutere il livello di interpretabilità richiesto con gli esperti del settore e le parti interessate.

Nuovo pilastro: l'intelligenza artificiale verde

L'IA verde si concentra sulla riduzione dell'impatto ambientale dei sistemi di intelligenza artificiale. L'addestramento e l'esecuzione dei modelli di IA richiedono una notevole potenza di calcolo, che comporta un elevato consumo energetico. Ciò può aumentare sia i costi che le emissioni di carbonio.

Con la crescente diffusione dell'intelligenza artificiale, l'efficienza energetica assume un'importanza sempre maggiore. Le aziende stanno iniziando a ottimizzare le modalità di creazione, addestramento e implementazione dei modelli per ridurre il consumo di risorse, mantenendo al contempo prestazioni elevate.

Un approccio all'IA verde può aiutare le aziende a:

• Ridurre il consumo energetico e i costi operativi,
• Minore impronta di carbonio dei carichi di lavoro di intelligenza artificiale,
• Migliorare l'efficienza dell'addestramento e dell'inferenza del modello,
• Allineare le iniziative di intelligenza artificiale agli obiettivi di sostenibilità.

Esempio tratto dalla vita reale

DeepMind ha applicato l'apprendimento automatico per ottimizzare i sistemi di raffreddamento nei data center di DeepMind. Il sistema analizza dati come temperatura, consumo energetico e prestazioni delle apparecchiature per regolare automaticamente il raffreddamento.

Ciò ha comportato:

• Riduzione fino al 40% del consumo di energia per il raffreddamento,
• Riduzione di circa il 15% del consumo energetico complessivo nei data center.

Questo esempio dimostra che l'IA verde sta già fornendo risultati misurabili in ambienti su larga scala. ⁸

Casi d'uso

L'IA verde può essere applicata in diversi ambiti, tra cui:

• Ottimizzazione dei data center: i sistemi di intelligenza artificiale regolano il raffreddamento e il consumo energetico per ridurre gli sprechi di energia.
• Progettazione efficiente del modello: modelli più piccoli e tecniche di compressione riducono i requisiti di calcolo.
• Pianificazione del carico di lavoro: le attività vengono eseguite quando la domanda di energia è inferiore o quando è disponibile energia rinnovabile.
• Ottimizzazione del cloud: l'intelligenza artificiale aiuta ad allocare le risorse in modo dinamico per evitare il sovradimensionamento.
• Edge AI: l'elaborazione dei dati più vicina alla fonte riduce il trasferimento dei dati e il consumo energetico.

Le migliori pratiche per garantire un'IA ecocompatibile.

• Utilizzare architetture di modelli efficienti anziché modelli inutilmente grandi.
• Ottimizza l'addestramento riducendo il numero di iterazioni e utilizzando dati di qualità superiore.
• Monitorare il consumo energetico dei carichi di lavoro di intelligenza artificiale.
• Preferisci regioni o fornitori di servizi cloud che utilizzano energie rinnovabili.
• Quando possibile, riutilizza i modelli pre-addestrati invece di addestrarli da zero.

Nota di maturità

Alcune pratiche di IA verde, come la pianificazione dei carichi di lavoro in base alle emissioni di carbonio, sono ancora in fase di sviluppo e non ancora ampiamente standardizzate. Tuttavia, le implementazioni esistenti dimostrano già che è possibile ottenere significativi miglioramenti in termini di efficienza.

Strumenti di intelligenza artificiale responsabili

Il panorama del mercato del software per l'IA responsabile comprende diversi strumenti che forniscono framework per l'IA responsabile, come ad esempio:

• Strumenti di governance dell'IA
• Guardrail dell'IA
• Strumenti MLOps
• Strumenti LLMOps
• Librerie di IA responsabile open-source

Per ulteriori informazioni su consulenti di data science e consulenti di intelligenza artificiale, consulta i nostri elenchi di servizi di IA basati sui dati. Puoi anche dare un'occhiata all'ecosistema del Responsible AI Toolkit di TensorFlow , che può aiutare le aziende ad adottare pratiche di IA responsabile.

Per garantire che questi strumenti siano in linea con i valori etici, le organizzazioni dovrebbero adottare strumenti conformi alla propria politica sull'IA, che comprenda sicurezza, equità, trasparenza e responsabilità.

Come identificare se la responsabilità è di uno strumento di intelligenza artificiale?

Gli utenti aziendali possono utilizzare strumenti di intelligenza artificiale, come ad esempio un team delle risorse umane che utilizza un algoritmo basato su LLM per esaminare i profili dei candidati, velocizzando il processo di reclutamento filtrando i CV in base all'esperienza e alla formazione. Tuttavia, se lo strumento viola i principi di equità, potrebbe discriminare determinati gruppi. Inconsapevoli di questo pregiudizio, gli utenti potrebbero scartare i candidati in base al genere o all'etnia, con conseguenti problemi etici e di reputazione per l'organizzazione.

Per prevenire tali problemi, le aziende dovrebbero adottare strumenti in linea con i principi dell'IA responsabile. Possono valutare i benchmark, esaminare le recensioni degli utenti e studiare esempi reali o casi di studio per garantire un utilizzo etico dell'IA. La tabella seguente mostra i risultati dei benchmark per alcuni dei principali LLM:

I sistemi vengono valutati sia nel complesso che per ciascun rischio utilizzando una scala a 5 punti: Scarso (1), Discreto (2), Buono (3), Molto buono (4) ed Eccellente (5). Le valutazioni sono determinate dalla percentuale di risposte che non soddisfano gli standard di valutazione. ⁹

Recenti sviluppi nell'ambito dell'IA responsabile

sistema di allerta precoce per disallineamenti

Una nuova tecnica chiamata "allarme precoce di disallineamento" è stata introdotta da OpenAI come un passo promettente verso sistemi di intelligenza artificiale più sicuri e responsabili. Questo metodo si concentra sul rilevamento di segnali di allarme interni prima che un modello di intelligenza artificiale produca risultati dannosi. ¹⁰

Come funziona il sistema di intervento anticipato in caso di disallineamento?

Il sistema funziona identificando specifiche caratteristiche interne, come ad esempio una "personalità tossica", che sono correlate a comportamenti non sicuri. Monitorando i livelli di attivazione di queste caratteristiche durante l'addestramento o l'implementazione, gli sviluppatori possono ricevere avvisi tempestivi quando un modello inizia a deviare verso comportamenti non conformi.

Quando compaiono tali segnali di allarme, è possibile intervenire in uno dei seguenti modi:

• Smorzare direttamente l'attivazione dannosa
• Applicazione della sterzatura di attivazione, una tecnica che regola la direzione interna del modello allontanandola da schemi pericolosi.

Questo approccio consente una mitigazione proattiva del rischio, anziché basarsi esclusivamente sul monitoraggio di parametri esterni.

Disallineamento iniziale per un'IA responsabile

Questo sviluppo supporta i principi chiave dell'IA responsabile:

• Trasparenza , rendendo interpretabile il comportamento interno del modello
• Sicurezza , consentendo un intervento precoce
• Responsabilità , attraverso l'offerta di segnali chiari per la supervisione umana.

Ciò riflette una tendenza crescente verso l'integrazione di meccanismi di monitoraggio e controllo in tempo reale nel processo di sviluppo dei modelli. Nell'ambito di più ampi sforzi di ricerca e sviluppo in materia di sicurezza, questa tecnica migliora la capacità di individuare e correggere i disallineamenti durante l'addestramento, in linea con i quadri normativi internazionali in materia di intelligenza artificiale e con gli standard di sicurezza fin dalla progettazione.

Il vertice sulla sicurezza dell'IA

L'AI Safety Summit è una conferenza internazionale di primaria importanza incentrata sulla sicurezza, i rischi e la regolamentazione dei sistemi avanzati di "IA di frontiera". L'evento inaugurale si è tenuto nel novembre 2023 a Bletchley Park, nel Regno Unito, e ha riunito governi, aziende del settore dell'IA, società civile ed esperti provenienti da 28 paesi per coordinare gli sforzi globali in materia di sicurezza dell'IA.

Risultati chiave

• Dichiarazione di Bletchley: Le nazioni partecipanti si impegnano a sviluppare un'intelligenza artificiale sicura, incentrata sull'uomo, affidabile e responsabile, basata su principi di sicurezza condivisi.
• Cooperazione internazionale: è stata sottolineata l'urgente necessità di collaborare per mitigare rischi quali l'uso improprio, la perturbazione sociale e la perdita di controllo sull'intelligenza artificiale avanzata.
• Trasparenza e regolamentazione: è stata richiesta trasparenza, test di sicurezza rigorosi e quadri normativi adattivi per stare al passo con i progressi dell'IA.

Scopo e visione

Il vertice promuove lo sviluppo responsabile dell'IA, favorendo la collaborazione tra le diverse parti interessate e una governance etica. Il suo obiettivo è garantire che l'IA apporti benefici alla società riducendo al minimo i danni, sottolineando la responsabilità globale di progettare, implementare e governare sistemi di IA che privilegino la sicurezza umana, l'etica e l'inclusività.

Collegamenti di riferimento

1.

Global Risk Study | Accenture

Accenture

2.

LAVORATORI NASCOSTI: TALENTI NON SFRUTTATI

3.

Sfumature di genere: disparità di accuratezza intersezionale nella classificazione commerciale del genere

4.

ITRC 2021 Data Breach Report Saw Record Number of Compromises

Identity Theft Resource Center

5.

reuters.com

Reuters

6.

reuters.com

Reuters

7.

Clearview AI fined €30.5M in the Netherlands over its facial recognition database - SiliconANGLE

8.

Deepmind AI Cuts Google Data Center Cooling Bill By 40%,

9.

Benchmark per un modello di chat AI generico

10.

Toward understanding and preventing misalignment generalization | OpenAI

Cem Dilmegani

Analista principale

Segui

Cem è analista principale presso AIMultiple dal 2017. AIMultiple fornisce informazioni a centinaia di migliaia di aziende (secondo SimilarWeb), tra cui il 55% delle aziende Fortune 500, ogni mese. Il lavoro di Cem è stato citato da importanti pubblicazioni globali come Business Insider, Forbes, Washington Post, società globali come Deloitte e HPE, ONG come il World Economic Forum e organizzazioni sovranazionali come la Commissione Europea. È possibile consultare l'elenco di altre aziende e risorse autorevoli che hanno citato AIMultiple. Nel corso della sua carriera, Cem ha lavorato come consulente tecnologico, responsabile acquisti tecnologici e imprenditore nel settore tecnologico. Ha fornito consulenza alle aziende sulle loro decisioni tecnologiche presso McKinsey & Company e Altman Solon per oltre un decennio. Ha anche pubblicato un report di McKinsey sulla digitalizzazione. Ha guidato la strategia tecnologica e gli acquisti di un'azienda di telecomunicazioni, riportando direttamente al CEO. Ha inoltre guidato la crescita commerciale dell'azienda deep tech Hypatos, che ha raggiunto un fatturato annuo ricorrente a 7 cifre e una valutazione a 9 cifre partendo da zero in soli 2 anni. Il lavoro di Cem in Hypatos è stato oggetto di articoli su importanti pubblicazioni tecnologiche come TechCrunch e Business Insider. Cem partecipa regolarmente come relatore a conferenze internazionali di settore. Si è laureato in ingegneria informatica presso l'Università di Bogazici e ha conseguito un MBA presso la Columbia Business School.

Visualizza il profilo completo

Sii il primo a commentare

Il tuo indirizzo email non verrà pubblicato. Tutti i campi sono obbligatori.

Nome

Indirizzo e-mail

Commento

0/450

Pubblica un commento