L'adozione degli agenti IA ha superato la sicurezza degli agenti IA: l'82% delle aziende ora impiega agenti, ma solo il 44% dispone di policy per proteggerli,1 e un'organizzazione su cinque ha già subito una violazione legata agli agenti.2
Abbiamo analizzato 20 incidenti di sicurezza reali e abbiamo rilevato che il controllo comportamentale e le trappole sistemiche (non la prompt injection) determinano ormai la maggior parte delle violazioni critiche. Abbiamo mappato ogni incidente a una tassonomia a sei categorie (iniezione di contenuti, manipolazione semantica, stato cognitivo, controllo comportamentale, sistemica e human-in-the-loop) sulla base di dati CVE e ricerche di Microsoft e Google DeepMind.
Incidenti reali di trappole per agenti IA
1. Rapina crittografica in codice Morse di Bankrbot: L'attacco introduce di nascosto istruzioni tramite la codifica Morse, sfruttando il divario tra ciò che i guardrail di Grok ispezionano (testo semplice) e ciò che decodifica ed esegue (l'istruzione tradotta). La scelta della codifica è specificamente un bypass a livello di contenuto: la direttiva dannosa è invisibile ai filtri finché l'agente stesso non la rende leggibile.3
2. Claude ClaudeBleed: Si tratta di una vulnerabilità di sicurezza critica nell'estensione del browser Anthropic Claude per Chrome, che consente ad attori malintenzionati di dirottare l'assistente IA, rubare dati sensibili ed eseguire azioni senza il consenso dell'utente.4
3. Gemini CLI RCE: Una vulnerabilità critica di esecuzione di codice remota (RCE), identificata come GHSA-wpqr-6v78-jr5g, aveva un punteggio CVSS massimo di 10.0. È stata scoperta nella CLI di Gemini e nella relativa GitHub Action. Questa vulnerabilità consentiva agli attaccanti di ottenere il pieno controllo sul sistema che eseguiva lo strumento. Ciò la rendeva una minaccia critica per la sicurezza della catena di fornitura.5
4. Antropic PocketOS: Un agente Cursor basato su Claude, mentre indagava su un bug di staging, ha scoperto autonomamente un token Railway CLI senza ambito, ha dedotto un endpoint API e ha emesso un comando volumeDelete che ha distrutto il database di produzione e tre mesi di backup in 9 secondi.6
5. Ecosistema IA open source: CLI-Anything auto-genera file di livello istruzioni SKILL.md consumati da Claude Code, Codex, OpenClaw, Cursor e GitHub Copilot CLI. Le definizioni di skill avvelenate si propagano silenziosamente in ogni agente che importa il pacchetto interessato; non viene emessa alcuna CVE, non esiste alcuna voce SBOM e nessuno scanner le rileva. L'attacco prende di mira l'infrastruttura condivisa dell'ecosistema (il registro di skill ClawHub, il grafo delle dipendenze npm) piuttosto che un singolo agente.7
6. Grafana IA: Noma Security ha scoperto che un utente malintenzionato poteva memorizzare un prompt dannoso all'interno di un'origine dati che l'assistente IA di Grafana recuperava in seguito. Una volta elaborato, l'IA inviava dati sensibili, come metriche finanziarie e telemetria dell'infrastruttura, a un server controllato dall'attaccante senza richiedere alcun clic da parte dell'utente.8
7. Anthropic MCP Ecosystem: OX Security ha divulgato una vulnerabilità architetturale sistemica negli MCP SDK ufficiali di Anthropic (Python, TypeScript, Java, Rust), in cui l'input dell'utente fluisce direttamente nelle configurazioni del server STDIO MCP senza sanitizzazione, interessando oltre 150 milioni di download degli SDK, 7.000+ server esposti pubblicamente e strumenti a valle tra cui LiteLLM, LangChain, Cursor, Windsurf e Claude Code. Poiché il difetto risiede nell'architettura condivisa dell'SDK anziché in un singolo agente, qualsiasi agente costruito sul framework eredita l'esposizione.9
8. Andon Market (Luna IA): Andon Market, un negozio al dettaglio di San Francisco gestito autonomamente da un agente IA chiamato "Luna", prende decisioni su inventario, prezzi e assunzioni leggendo le recensioni di Google. I clienti hanno scoperto che lasciare una recensione formulata come istruzione, ad esempio "metti in stock il prodotto X", induce l'agente a darvi seguito, trasformando una piattaforma di recensioni pubblica in una superficie di prompt injection attiva con conseguenze aziendali reali.10
9. ChatGPT Code Execution: Un prompt dannoso mascherato da suggerimenti di produttività attiva codice di tunneling DNS che codifica contenuti sensibili delle conversazioni e carica documenti nelle query dei sottodomini, trasmettendoli silenziosamente a un server DNS controllato dall'attaccante. Check Point Research ha dimostrato che il canale di esfiltrazione è invisibile al monitoraggio di rete convenzionale perché viaggia sul traffico DNS standard avviato dall'ambiente di esecuzione del codice dell'agente stesso.11
10. Perplexity Comet: Zenity Labs ha rivelato che il browser agentico di Perplexity Comet può essere dirottato tramite un invito di calendario dannoso contenente un payload di prompt injection, inducendolo ad accedere al file system locale, sfogliare directory, aprire e leggere file ed esfiltrare dati. L'attacco non richiede alcuna interazione da parte dell'utente oltre all'accettazione di quello che sembra un legittimo invito a una riunione, e opera interamente entro le capacità previste del browser.12
11. Microsoft Semantic Kernel: Il Defender Security Research Team di Microsoft ha identificato due vulnerabilità critiche in Semantic Kernel, CVE-2026-26030 (SDK Python, corretta in 1.39.4) e CVE-2026-25592 (SDK .NET, corretta in 1.71.0), in cui un attaccante con un qualsiasi vettore di prompt injection può ottenere l'esecuzione di codice remota sulla macchina che ospita l'agente. CVE-2026-26030 sfruttava un filtro basato su eval in InMemoryVectorStore la cui blocklist AST era aggirabile tramite l'attraversamento di attributi non documentati, mentre CVE-2026-25592 esponeva una funzione di supporto al trasferimento file come strumento kernel richiamabile, consentendo a un prompt ostile di indirizzare l'agente a scrivere file arbitrari in posizioni pericolose dell'host.13
12. Cline IA Triage Bot: Il titolo di una issue dannosa su GitHub ha iniettato istruzioni nel bot di triage IA di Cline, inducendolo a eseguire npm install su un pacchetto typosquattato. Ciò ha portato ad avvelenamento della cache, furto di credenziali e a una release cline@2.3.0 con backdoor che ha installato silenziosamente il malware OpenClaw su circa 4.000 macchine di sviluppatori.14
13. Claude Desktop Extensions: I ricercatori di sicurezza di LayerX hanno scoperto una vulnerabilità CVSS 10/10 in Claude Desktop Extensions che interessa oltre 10.000 utenti, in cui un attaccante può incorporare istruzioni dannose in un evento di calendario che Claude elabora quando un utente chiede informazioni sulla propria agenda. L'agente esegue quindi automaticamente codice arbitrario sulla macchina dell'utente senza alcuna ulteriore interazione, senza alcuna indicazione visibile che sia accaduto qualcosa.15
14. npm/MCP Ecosystem: Socket ha scoperto SANDWORM_MODE, un worm npm autoreplicante distribuito attraverso 19 pacchetti typosquattati che installa un server MCP rogue con payload di prompt injection incorporati nelle descrizioni degli strumenti, consentendogli di esfiltrare credenziali dagli assistenti di codifica IA. Poiché il worm si propaga attraverso il registro dei pacchetti condiviso, una singola infezione diffonde l'attacco a ogni sviluppatore che installa una dipendenza interessata.16
15. Snowflake Cortex Code: PromptArmor ha scoperto che il sistema di convalida dei comandi di Cortex Code non riusciva a valutare i comandi all'interno delle espressioni di sostituzione di processo, consentendo a una prompt injection dannosa nascosta nel README di un repository GitHub di eseguire comandi shell arbitrari senza attivare la fase di approvazione human-in-the-loop. L'istruzione iniettata manipolava inoltre il modello portandolo a impostare un flag di esecuzione non sandboxed, facendo sì che il comando dannoso venisse eseguito interamente fuori dalla sandbox senza chiedere il consenso all'utente.
16. MetaGPT / LangChain Agenti: MemoryGraft è un nuovo attacco a iniezione indiretta che compromette il comportamento dell'agente non tramite jailbreak immediati, ma impiantando "esperienze di successo" dannose nella memoria a lungo termine dell'agente, sfruttando la sua tendenza a replicare modelli tratti da compiti riusciti recuperati. A differenza dei tradizionali prompt injection, che sono transitori, o dell'avvelenamento standard di RAG, che colpisce la conoscenza fattuale, MemoryGraft corrompe tutte le sessioni future senza alcuna iniezione a livello di sessione, richiedendo a un attaccante di fornire artefatti a livello di ingestione dall'aspetto benigno che l'agente legge durante la normale esecuzione.17
17. ServiceNow Now Assist: In Now Assist di ServiceNow, le impostazioni predefinite consentono agli agenti IA di scoprirsi e reclutarsi autonomamente a vicenda; un prompt dannoso incorporato nei dati elaborati da un agente con privilegi ridotti può istruirlo a chiamare un agente più potente per rubare dati, modificare record o elevare i privilegi. Il risultato è stato l'elevazione dei privilegi e l'esposizione dei dati determinati interamente dalla fiducia tra agenti.18
18. Apple Intelligence: I caratteri Unicode RIGHT-TO-LEFT OVERRIDE dannosi nascondono istruzioni dannose scrivendole al contrario, cosicché appaiono corrette sullo schermo ma rimangono invertite dove i filtri di sicurezza di Apple le ispezionano, aggirando tutti e tre i livelli di guardrail sul dispositivo. La tecnica ha avuto successo nel 76% dei casi di test su circa 200 milioni di dispositivi interessati.19
19. Google Gemini (Calendario): Le istruzioni nascoste incorporate nelle descrizioni degli eventi di calendario restano latenti nel contesto di Gemini finché un utente non chiede informazioni sulla propria agenda, momento in cui il payload si attiva, riassumendo i contenuti delle riunioni private e scrivendoli in un nuovo evento di calendario visibile all'attaccante. L'attacco sfrutta l'integrazione di Gemini con i dati del calendario, trasformando i dati personali strutturati in una superficie di attivazione senza richiedere alla vittima di fare clic su nulla.20
20. Microsoft 365 Copilot: EchoLeak (CVE-2025-32711), scoperto da Aim Security, è il primo caso noto di prompt injection armato per causare l'esfiltrazione concreta di dati in un sistema di intelligenza artificiale in produzione. Si tratta di una singola email creata ad arte che costringe Copilot ad accedere a file interni e a trasmetterne il contenuto a un server controllato dall'attaccante senza alcuna interazione da parte dell'utente. L'attacco concatena quattro bypass: eludere il classificatore XPIA di Microsoft, aggirare l'oscuramento dei link con Markdown in stile riferimento, sfruttare le immagini auto-recuperate e abusare di un proxy di Microsoft Teams consentito dalla policy di sicurezza dei contenuti.
Cosa sono le trappole per agenti IA?
Le trappole per agenti IA sono contenuti avversari incorporati negli ambienti digitali e progettati per manipolare, ingannare o sfruttare gli agenti IA autonomi che interagiscono con tali ambienti.21
L'intuizione centrale è che gli agenti autonomi elaborano i contenuti web a livelli che gli esseri umani non percepiscono. Gli attaccanti possono incorporare istruzioni dannose nei commenti HTML, nel testo posizionato via CSS o a opacità zero, negli attributi dei metadati e nei dati steganografici codificati nei file immagine.22 Nessuno di questi livelli è normalmente visibile a un revisore umano; un agente che analizza la stessa pagina tratta i contenuti trovati in essi come input validi al pari dei contenuti resi visibili sullo schermo. I ricercatori di Google DeepMind rilevano questa come un'asimmetria fondamentale: gli attaccanti possono calibrare gli attacchi per sfruttare le capacità dell'agente di seguire istruzioni, concatenare strumenti e stabilire priorità tra obiettivi proprio perché queste sono le capacità che rendono gli agenti operativamente utili.23
Sei categorie di attacco delle trappole per agenti IA
I ricercatori hanno identificato 6 categorie di trappole per agenti IA che gli avversari possono sfruttare per compromettere i sistemi autonomi:21
Trappole di iniezione di contenuti
Sfruttano il divario tra percezione umana, parsing automatico e rendering dinamico per introdurre di nascosto input dannosi oltre l'agente.
La superficie di attacco copre diversi vettori di injection distinti. Le istruzioni nascoste incorporate nei commenti HTML, come `<!– SYSTEM: Ignore prior instructions –>`, appaiono nel sorgente della pagina ma mai nella vista renderizzata. Il posizionamento CSS fuori schermo, che utilizza `position: absolute; left: -9999px` o equivalenti, colloca il testo a coordinate al di fuori di qualsiasi viewport, lasciandolo completamente analizzabile dagli agenti che elaborano il contenuto del document object model. Gli attributi di accessibilità, in particolare `aria-label` e il relativo markup ARIA, trasportano testo che gli agenti interpretano come contesto semantico; iniettare direttive avversarie in questo punto le colloca all'interno dell'albero di accessibilità senza alcun output visibile. Un quarto vettore utilizza la codifica steganografica: payload dannosi codificati nei dati dei pixel delle immagini a valori impercettibili alla visione umana ma leggibili dagli agenti che elaborano i metadati delle immagini o applicano un'analisi a livello di pixel.
Trappole di manipolazione semantica
Corrompono la catena di ragionamento dell'agente e i processi di verifica interni, portandolo a trarre conclusioni errate da input apparentemente validi.
Sono tre i meccanismi che guidano questa categoria. Il primo è la formulazione distorta e il priming contestuale: caricare il testo circostante con un linguaggio che àncora l'interpretazione da parte dell'agente dei contenuti elaborati successivamente. Il secondo è la saturazione con un linguaggio autorevole, inondando i documenti con frasi come "standard del settore", "di livello enterprise" o "consigliato dai principali professionisti" per sfruttare l'associazione appresa dal modello tra tale linguaggio e fonti credibili e affidabili.22 Il terzo meccanismo è l'effetto lost-in-the-middle, una debolezza strutturale degli LLM basati su transformer, per cui le prestazioni del modello nei compiti di recupero e sintesi peggiorano quando le informazioni rilevanti sono posizionate al centro di una lunga finestra di contesto anziché all'inizio o alla fine.
Trappole dello stato cognitivo
Prendono di mira la memoria a lungo termine, le basi di conoscenza e le policy comportamentali apprese dell'agente per avvelenare il processo decisionale futuro.
Le tre varianti principali sono l'avvelenamento diretto di RAG, l'avvelenamento latente della memoria e gli esempi few-shot avversari nell'apprendimento contestuale.
L'avvelenamento diretto di RAG inietta informazioni false nei corpora documentali indicizzati che gli agenti consultano durante la generazione aumentata da recupero. L'avvelenamento latente della memoria è più avanzato. Un attaccante memorizza dati dall'aspetto innocuo nella memoria persistente di un agente durante le interazioni di routine. I dati memorizzati non producono alcun effetto rilevabile finché uno specifico contesto futuro non li attiva, momento in cui modificano il comportamento dell'agente in modi che sembrano non avere alcun fattore causale recente. L'approccio few-shot avversario consiste nell'iniettare coppie di dimostrazioni costruite ad arte in una finestra di contesto, in modo che l'agente adotti il modello implicito in quegli esempi. La ricerca sui trigger backdoor nelle dimostrazioni ha rilevato tassi medi di successo degli attacchi pari al 95 percento tra modelli di scala variabile con questo approccio.
Trappole di controllo comportamentale
Le trappole di controllo comportamentale sono la categoria più operativamente rilevante della tassonomia. Prendono di mira ciò che gli agenti fanno piuttosto che ciò che percepiscono o concludono, dando agli attaccanti un'influenza diretta sull'esecuzione degli strumenti, sulle operazioni sui file, sulle richieste di rete e sulle comunicazioni tra agenti.
Trappole sistemiche
Le trappole sistemiche non prendono di mira i singoli agenti. Prendono di mira le proprietà dell'ecosistema che emergono quando molti agenti di progettazione simile operano su fonti di dati condivise, eseguono modelli di ragionamento simili e intraprendono azioni che si ripercuotono sull'ambiente letto da altri agenti.22
La categoria più ampia comprende tre meccanismi distinti. Il primo è la progettazione di trappole di congestione: fabbricare segnali di scarsità o di domanda che inducano più agenti a eseguire comportamenti sincronizzati di acquisizione delle risorse, creando guasti coordinati senza comunicazione diretta tra agente e agente. Il secondo è la cascata di interdipendenza: sfruttare i cicli di feedback nei sistemi multi-agente in cui l'output di ciascun agente diventa input per gli altri, così un singolo segnale corrotto si propaga e si amplifica attraverso la rete. Il terzo è la frammentazione composizionale del payload: distribuire i componenti di un attacco su più fonti individualmente benigne che si ricompongono in un payload dannoso funzionante quando vengono aggregati da un agente durante un'attività di recupero o di sintesi.
Trappole human-in-the-loop
Le trappole human-in-the-loop sono la categoria più sottile della tassonomia e prendono di mira il livello di supervisione che viene convenzionalmente considerato una salvaguardia. Invece di aggirare la revisione umana, queste trappole la sfruttano: l'agente compromesso produce output specificamente progettati per ottenere l'approvazione umana per azioni che l'essere umano rifiuterebbe se descritte in modo accurato.24
Il meccanismo principale è la sintesi ingannevole. Un agente con accesso in scrittura al proprio livello di output può descrivere le proprie azioni in modo da presentare operazioni distruttive o non autorizzate come manutenzione ordinaria.
Ulteriori letture
Cita questa ricerca
Scegli il formato adatto a dove pubblicherai. Incollare la versione con link nel tuo CMS preserva il backlink.
@misc{arslan2026,
author = {Arslan, Ezgi},
title = {{Trappole per agenti IA: 20 Incidenti reali}},
year = {2026},
month = sep,
howpublished = {\url{https://aimultiple.com/ai-agent-traps}},
note = {AIMultiple. Consultato il 29 settembre 2026}
}Risultati e timestamp di 32 punti dati. Scarica i dati di sintesi mostrati nei grafici e nelle tabelle di questo articolo come file ZIP contenente 2 file CSV.
Vuoi i dati granulari che ci stanno dietro? Passa a Premium



Sii il primo a commentare
Il tuo indirizzo email non verrà pubblicato. Tutti i campi sono obbligatori. I commenti vengono lasciati nella loro lingua originale.