Die Einführung von KI-Agenten hat die KI-Agentensicherheit überholt: 82 % der Unternehmen setzen inzwischen Agenten ein, aber 44 % haben Richtlinien zu deren Absicherung,1 und jedes fünfte Unternehmen hat bereits einen agentenbezogenen Sicherheitsverstoß erlebt.2
Wir haben 20 reale Sicherheitsvorfälle analysiert und festgestellt, dass Verhaltenskontrolle und systemische Fallen (nicht Prompt-Injection) inzwischen die Mehrzahl der kritischen Sicherheitsverletzungen verursachen. Wir haben jeden Vorfall einer Taxonomie mit sechs Kategorien (Inhaltsinjektion, semantische Manipulation, kognitiver Zustand, Verhaltenskontrolle, systemisch und Mensch-in-der-Schleife) auf der Grundlage von CVE-Daten und Forschung von Microsoft und Google DeepMind zugeordnet.
Reale Vorfälle durch KI-Agentenfallen
1. Bankrbot Morse-Code-Krypto-Raub: Der Angriff schmuggelt Anweisungen mithilfe der Morse-Codierung durch und nutzt die Lücke zwischen dem, was die Schutzmechanismen von Grok prüfen (Klartext), und dem, was das System entschlüsselt und ausführt (die übersetzte Anweisung). Die Wahl der Codierung ist gezielt eine Umgehung auf Inhaltsebene: Die bösartige Anweisung bleibt für Filter unsichtbar, bis der Agent sie selbst lesbar macht.3
2. Claude ClaudeBleed: Es handelt sich um eine kritische Sicherheitslücke in der Anthropic-Claude-Browsererweiterung für Chrome, die es böswilligen Akteuren ermöglicht, den KI-Assistenten zu kapern, sensible Daten zu stehlen und Aktionen ohne Zustimmung der Benutzer auszuführen.4
3. Gemini CLI RCE: Eine kritische Remote-Codeausführung-Schwachstelle (RCE), identifiziert als GHSA-wpqr-6v78-jr5g, erreichte einen maximalen CVSS-Wert von 10.0. Sie wurde in der Gemini-CLI und der zugehörigen GitHub-Action entdeckt. Diese Schwachstelle ermöglichte es Angreifern, die volle Kontrolle über das System zu erlangen, das Tool ausführt. Dies machte sie zu einer kritischen Bedrohung der Lieferkettensicherheit.5
4. Antropic PocketOS: Ein Cursor-Agent, der von Claude betrieben wird, entdeckte bei der Untersuchung eines Staging-Fehlers autonom einen nicht begrenzten Railway-CLI-Token, leitete einen API-Endpoint ab und gab einen volumeDelete-Befehl aus, der die Produktionsdatenbank und Backups von drei Monaten in 9 Sekunden zerstörte.6
5. Open-Source-KI-Ökosystem: CLI-Anything automatisch-generiert SKILL.md-Anweisungsebenen-Dateien, die von Claude Code, Codex, OpenClaw, Cursor und GitHub Copilot CLI konsumiert werden. Vergiftete Skill-Definitionen verbreiten sich unbemerkt über jeden Agenten, der das betroffene Paket importiert; es wird keine CVE ausgestellt, es existiert kein SBOM-Eintrag und kein Scanner erkennt sie. Der Angriff zielt auf die gemeinsame Ökosystem-Infrastruktur (die ClawHub-Skill-Registry, den npm-Abhängigkeitsgraphen) und nicht auf einen einzelnen Agenten.7
6. Grafana KI: Noma Security stellte fest, dass ein Angreifer einen bösartigen Prompt in einer Datenquelle speichern konnte, die der KI-Assistent von Grafana später abrief. Nach der Verarbeitung sendete die KI sensible Daten wie Finanzkennzahlen und Infrastrukturtelemetrie an einen vom Angreifer kontrollierten Server, ohne dass ein Benutzerklick erforderlich war.8
7. Anthropic-MCP-Ökosystem: OX Security legte eine systemische architektonische Schwachstelle in den offiziellen MCP-SDKs von Anthropic (Python, TypeScript, Java, Rust) offen, bei der Benutzereingaben ohne Bereinigung direkt in STDIO-MCP-Serverkonfigurationen einfließen. Dies betrifft mehr als 150 Millionen SDK-Downloads, über 7.000+ öffentlich zugängliche Server sowie nachgelagerte Tools wie LiteLLM, LangChain, Cursor, Windsurf und Claude Code. Da der Fehler in der gemeinsamen SDK-Architektur und nicht in einem einzelnen Agenten liegt, erbt jeder auf dem Framework aufbauende Agent die Gefährdung.9
8. Andon Market (Luna KI): Andon Market, ein autonom von einem KI-Agenten namens „Luna“ geführtes Einzelhandelsgeschäft in San Francisco, trifft Bestands-, Preis- und Einstellungsentscheidungen, indem es Google Reviews liest. Kunden entdeckten, dass eine als Anweisung formulierte Bewertung, wie etwa „Bitte Produkt X vorrätig halten“, den Agenten dazu veranlasst, danach zu handeln, wodurch eine öffentliche Bewertungsplattform zu einer Live-Prompt-Injection-Angriffsfläche mit realen geschäftlichen Konsequenzen wird.10
9. ChatGPT Code Execution: Ein bösartiger Prompt, getarnt als Produktivitätstipps, löst DNS-Tunneling-Code aus, der sensible Gesprächsinhalte kodiert und Dokumente in Subdomain-Abfragen hochlädt und sie so still an einen vom Angreifer kontrollierten DNS-Server überträgt. Check Point Research zeigte, dass der Exfiltrationskanal für herkömmliche Netzwerküberwachung unsichtbar ist, weil er auf normalem DNS-Verkehr aufsetzt, der von der Codeausführungsumgebung des Agenten selbst initiiert wird.11
10. Perplexity Comet: Zenity Labs legte offen, dass der agentische Browser von Perplexity Comet über eine bösartige Kalendereinladung mit einer Prompt-Injection-Payload gekapert werden kann, wodurch er auf das lokale Dateisystem zugreift, Verzeichnisse durchsucht, Dateien öffnet und liest und Daten exfiltriert. Der Angriff erfordert keine Benutzerinteraktion über das Annehmen einer scheinbar legitimen Besprechungseinladung hinaus und findet vollständig innerhalb der vorgesehenen Fähigkeiten des Browsers statt.12
11. Microsoft Semantic Kernel: Das Defender Security Research Team von Microsoft identifizierte zwei kritische Schwachstellen in Semantic Kernel, CVE-2026-26030 (Python SDK, gepatcht in 1.39.4) und CVE-2026-25592 (.NET SDK, gepatcht in 1.71.0), bei denen ein Angreifer mit beliebigem Prompt-Injection-Vektor eine Remote Code Execution auf dem Rechner erreichen kann, auf dem der Agent gehostet wird. CVE-2026-26030 nutzte einen eval-basierten Filter im InMemoryVectorStore aus, dessen AST-Blocklist durch undokumentierte Attributdurchquerung umgangen werden konnte, während CVE-2026-25592 eine Dateiübertragungs-Hilfsfunktion als aufrufbares Kernel-Tool offenlegte, sodass ein feindlicher Prompt den Agenten dazu verleiten konnte, beliebige Dateien an gefährliche Host-Speicherorte zu schreiben.13
12. Cline KI Triage Bot: Ein bösartiger GitHub-Issue-Titel injizierte Anweisungen in den KI-Triage-Bot von Cline und brachte ihn dazu, npm install auf einem typosquatteten Paket auszuführen. Dies führte zu Cache-Vergiftung, Diebstahl von Zugangsdaten und einer mit einer Hintertür versehenen cline@2.3.0-Version, die auf etwa 4.000 Entwicklungsrechnern still die OpenClaw-Malware installierte.14
13. Claude Desktop Extensions: Die Sicherheitsforscher von LayerX entdeckten eine CVSS-10/10-Schwachstelle in Claude Desktop Extensions, die mehr als 10.000 Benutzer betrifft. Ein Angreifer kann bösartige Anweisungen in ein Kalenderereignis einbetten, das Claude verarbeitet, wenn ein Benutzer nach seinem Zeitplan fragt. Der Agent führt dann automatisch beliebigen Code auf dem Rechner des Benutzers aus, ohne weitere Interaktion und ohne sichtbaren Hinweis darauf, dass etwas passiert ist.15
14. npm/MCP-Ökosystem: Socket entdeckte SANDWORM_MODE, einen sich selbst replizierenden npm-Wurm, der über 19 typosquattete Pakete verbreitet wird und einen bösartigen MCP-Server mit in Tool-Beschreibungen eingebetteten Prompt-Injection-Payloads installiert. Dadurch kann er Zugangsdaten aus KI-Coding-Assistenten exfiltrieren. Da sich der Wurm über die gemeinsame Paket-Registry verbreitet, infiziert eine einzige Infektion jeden Entwickler, der eine betroffene Abhängigkeit installiert.16
15. Snowflake Cortex Code: PromptArmor entdeckte, dass das Befehlsvalidierungssystem von Cortex Code Befehle innerhalb von Prozesssubstitutionsausdrücken nicht auswertete. Dadurch konnte eine bösartige Prompt-Injection, die in der README eines GitHub-Repositorys versteckt war, beliebige Shell-Befehle ausführen, ohne den Genehmigungsschritt „Mensch-in-der-Schleife“ auszulösen. Die injizierte Anweisung manipulierte das Model auch dazu, ein nicht sandboxed Ausführungsflag zu setzen, wodurch der bösartige Befehl vollständig außerhalb der Sandbox ausgeführt wurde, ohne den Benutzer um Zustimmung zu bitten.
16. MetaGPT / LangChain Agents: MemoryGraft ist ein neuartiger indirekter Injection-Angriff, der das Agentenverhalten nicht durch unmittelbare Jailbreaks kompromittiert, sondern indem er bösartige „erfolgreiche Erfahrungen“ in das Langzeitgedächtnis des Agenten implantiert und dabei dessen Tendenz ausnutzt, Muster aus abgerufenen erfolgreichen Aufgaben zu replizieren. Anders als herkömmliche Prompt-Injections, die flüchtig sind, oder gewöhnliches RAG-Poisoning, das auf Faktenwissen abzielt, korrumpiert MemoryGraft alle zukünftigen Sitzungen ohne Injection auf Sitzungsebene. Dazu muss ein Angreifer harmlos wirkende Artefakte auf Ingestions-Ebene bereitstellen, die der Agent während der normalen Ausführung liest.17
17. ServiceNow Now Assist: In Now Assist von ServiceNow erlauben die Standardeinstellungen KI-Agenten, einander autonom zu entdecken und zu rekrutieren. Ein bösartiger Prompt, der in Daten eingebettet ist, die von einem Agenten mit geringen Berechtigungen verarbeitet werden, kann diesen anweisen, einen mächtigeren Agenten aufzurufen, um Daten zu stehlen, Datensätze zu ändern oder Berechtigungen zu eskalieren. Das Ergebnis waren Berechtigungsausweitung und Datenschutzverletzungen, die ausschließlich durch das Vertrauen zwischen Agenten verursacht wurden.18
18. Apple Intelligence: Bösartige Unicode-Zeichen RIGHT-TO-LEFT OVERRIDE verbergen schädliche Anweisungen, indem sie rückwärts schreiben, sodass sie auf dem Bildschirm korrekt erscheinen, aber an der Stelle, an der die Sicherheitsfilter von Apple sie prüfen, umgekehrt bleiben. Dadurch werden alle drei Ebenen der geräteinternen Schutzmechanismen umgangen. Die Technik war in 76 % der Testfälle auf etwa 200 Millionen betroffenen Geräten erfolgreich.19
19. Google Gemini (Calendar): Versteckte Anweisungen, die in Beschreibungen von Kalenderereignissen eingebettet sind, lagen inaktiv im Kontext von Gemini, bis ein Benutzer nach seinem Zeitplan fragt. Zu diesem Zeitpunkt aktiviert sich die Payload, fasst private Besprechungsinhalte zusammen und schreibt sie in ein neues Kalenderereignis, das für den Angreifer sichtbar ist. Der Angriff nutzt die Integration von Gemini mit Kalenderdaten aus und macht strukturierte persönliche Daten zu einer Angriffsfläche, ohne dass das Opfer irgendetwas anklicken muss.20
20. Microsoft 365 Copilot: EchoLeak (CVE-2025-32711), entdeckt von Aim Security, ist der erste bekannte Fall, bei dem Prompt-Injection als Waffe eingesetzt wurde, um in einem produktiven KI-System eine konkrete Datenexfiltration zu verursachen. Es handelt sich um eine einzige, gezielt gestaltete E-Mail, die Copilot dazu zwingt, auf interne Dateien zuzugreifen und deren Inhalte ohne jegliche Benutzerinteraktion an einen vom Angreifer kontrollierten Server zu übertragen. Der Angriff kombiniert vier Umgehungen: das Umgehen des Microsoft-XPIA-Klassifikators, die Umgehung der Link-Schwärzung durch Referenz-Markdown, das Ausnutzen automatisch-abgerufener Bilder sowie den Missbrauch eines Microsoft Teams-Proxy, der durch die Inhalts-Sicherheitsrichtlinie erlaubt ist.
Was sind KI-Agentenfallen?
KI-Agentenfallen sind gegnerische Inhalte, die in digitale Umgebungen eingebettet und darauf ausgelegt sind, autonome KI-Agenten, die mit diesen Umgebungen interagieren, zu manipulieren, zu täuschen oder auszunutzen.21
Die zentrale Erkenntnis ist, dass autonome Agenten Webinhalte auf Ebenen verarbeiten, die Menschen nicht wahrnehmen. Angreifer können bösartige Anweisungen in HTML-Kommentaren, CSS-positioniertem oder vollständig transparentem Text, Metadaten-Attributen und steganografischen Daten, die in Bilddateien kodiert sind, einbetten.22 Keine dieser Ebenen ist für einen menschlichen Prüfer normalerweise sichtbar; ein Agent, der dieselbe Seite analysiert, behandelt darin gefundene Inhalte als genauso gültige Eingabe wie sichtbar gerenderten Inhalt. Die Forscher von Google DeepMind bezeichnen dies als grundlegende Asymmetrie: Angreifer können Angriffe genau deshalb darauf kalibrieren, die Fähigkeiten eines Agenten zur Befehlsausführung, Tool-Verkettung und Zielpriorisierung auszunutzen, weil diese Fähigkeiten es sind, die Agenten operativ nützlich machen.23
Sechs Angriffskategorien von KI-Agentenfallen
Forscher haben 6 Kategorien von KI-Agentenfallen identifiziert, die Angreifer ausnutzen können, um autonome Systeme zu kompromittieren:21
Inhaltsinjektions-Fallen
Diese Fallen nutzen die Lücke zwischen menschlicher Wahrnehmung, maschinellem Parsing und dynamischem Rendering aus, um bösartige Eingaben am Agenten vorbeizuschmuggeln.
Die Angriffsfläche umfasst mehrere unterschiedliche Injektionsvektoren. Versteckte Anweisungen, die in HTML-Kommentare eingebettet sind, wie etwa `<!– SYSTEM: Ignore prior instructions –>`, erscheinen im Seitenquelltext, aber nie in der gerenderten Ansicht. CSS-Positionierung außerhalb des Bildschirms mit `position: absolute; left: -9999px` oder Ähnlichem platziert Text an Koordinaten außerhalb jedes Viewports, lässt ihn aber für Agenten, die den Inhalt des Document Object Model verarbeiten, vollständig lesbar. Barrierefreiheitsattribute, insbesondere `aria-label` und verwandtes ARIA-Markup, transportieren Text, den Agenten als semantischen Kontext interpretieren; werden gegnerische Anweisungen dort injiziert, landen sie im Accessibility Tree ohne sichtbare Ausgabe. Ein vierter Vektor nutzt steganografische Codierung: bösartige Payloads werden in Bildpixeldaten mit Werten kodiert, die für das menschliche Auge nicht wahrnehmbar, für Agenten, die Bildmetadaten verarbeiten oder pixelbasierte Analysen durchführen, jedoch lesbar sind.
Semantische Manipulationsfallen
Sie korrumpieren die Schlussfolgerungskette und die internen Verifizierungsprozesse des Agenten und führen dazu, dass er aus scheinbar validen Eingaben fehlerhafte Schlussfolgerungen zieht.
Drei Mechanismen prägen diese Kategorie. Der erste ist voreingenommene Formulierung und kontextuelles Priming: Der umgebende Text wird mit Sprache aufgeladen, die Interpretation nachfolgend verarbeiteter Inhalte durch den Agenten verankert. Der zweite ist die Sättigung mit autoritativer Sprache: Dokumente werden mit Formulierungen wie „branchenüblich“, „unternehmenstauglich“ oder „von führenden Praktikern empfohlen“ überflutet, um die erlernte Assoziation des Models zwischen solcher Sprache und glaubwürdigen, vertrauenswürdigen Quellen auszunutzen.22 Der dritte Mechanismus ist der Lost-in-the-Middle-Effekt, eine strukturelle Schwäche transformerbasierter LLMs, bei der die Leistung des Models bei Abruf- und Syntheseaufgaben abnimmt, wenn relevante Informationen in der Mitte eines langen Kontextfensters statt am Anfang oder Ende stehen.
Fallen durch kognitiven Zustand
Sie zielen auf das Langzeitgedächtnis, die Wissensdatenbanken und die erlernten Verhaltensrichtlinien des Agenten ab, um zukünftige Entscheidungsfindung zu vergiften.
Die drei Hauptvarianten sind direktes RAG-Poisoning, latente Gedächtnisvergiftung und gegnerische Few-Shot-Beispiele beim kontextuellen Lernen.
Direktes RAG-Poisoning schleust falsche Informationen in indizierte Dokumentkorpora ein, die Agenten während der Retrieval Augmented Generation konsultieren. Vergiftetes Gedächtnis ist fortgeschrittener. Ein Angreifer speichert harmlos erscheinende Daten während routinemäßiger Interaktionen im persistenten Gedächtnis eines Agenten. Die gespeicherten Daten haben keine feststellbare Wirkung, bis ein bestimmter zukünftiger Kontext sie aktiviert; zu diesem Zeitpunkt verändern sie das Agentenverhalten auf eine Weise, die keinen erkennbaren jüngsten kausalen Auslöser zu haben scheint. Adversarial Few bedeutet, sorgfältig gestaltete Demonstrationspaare in ein Kontextfenster zu injizieren, sodass der Agent das in diesen Beispielen implizite Muster übernimmt. Die Forschung zu Backdoor-Triggern in Demonstrationen ergab unter diesem Ansatz durchschnittliche Angriffserfolgsraten von 95 Prozent über Models unterschiedlicher Größenordnung.
Verhaltenskontrollfallen
Verhaltenskontrollfallen sind die operativ folgenreichste Kategorie der Taxonomie. Sie zielen darauf ab, was Agenten tun, und nicht darauf, was sie wahrnehmen oder schlussfolgern, und geben Angreifern direkten Einfluss auf die Tool-Ausführung, Dateioperationen, Netzwerkanfragen und die Kommunikation zwischen Agenten.
Systemische Fallen
Systemische Fallen zielen nicht auf einzelne Agenten ab. Sie zielen auf die Ökosystem-Eigenschaften ab, die entstehen, wenn viele ähnlich konzipierte Agenten auf gemeinsamen Datenquellen arbeiten, ähnliche Denkmuster ausführen und Aktionen vornehmen, die in die Umgebung zurückfließen, die andere Agenten lesen.22
Die breitere Kategorie umfasst drei verschiedene Mechanismen. Der erste ist das Design von Überlastungsfallen: Es werden künstliche Knappheits- oder Nachfragesignale erzeugt, die mehrere Agenten zu synchronisierten Ressourcenbeschaffungsverhalten veranlassen und so koordinierte Ausfälle ohne direkte Kommunikation zwischen Agenten hervorrufen. Der zweite ist die Interdependenzkaskade: die Ausnutzung von Feedback-Schleifen in Multi-Agenten-Systemen, in denen die Ausgabe jedes Agenten zur Eingabe anderer wird, sodass sich ein einziges korrumpiertes Signal über das Netzwerk ausbreitet und verstärkt. Der dritte ist die kompositionelle Payload-Fragmentierung: Angriffskomponenten werden auf mehrere einzeln harmlose Quellen verteilt, die sich zu einer funktionsfähigen bösartigen Payload zusammensetzen, wenn ein Agent sie während einer Abruf- oder Syntheseaufgabe aggregiert.
Mensch-in-der-Schleife-Fallen
Mensch-in-der-Schleife-Fallen sind die subtilste Kategorie der Taxonomie und zielen auf die Überwachungsebene ab, die herkömmlich als Schutzmechanismus gilt. Statt die menschliche Prüfung zu umgehen, nutzen diese Fallen sie aus: Der kompromittierte Agent erzeugt Ausgaben, die gezielt darauf ausgelegt sind, eine menschliche Genehmigung für Aktionen zu erhalten, die der Mensch ablehnen würde, wenn sie zutreffend beschrieben würden.24
Der zentrale Mechanismus ist täuschende Zusammenfassung. Ein Agent mit Schreibzugriff auf seine eigene Ausgabeschicht kann seine Aktionen so beschreiben, dass destruktive oder nicht autorisierte Vorgänge als routinemäßige Wartung dargestellt werden.
Weiterführende Literatur
Diese Forschung zitieren
Wählen Sie das Format, das zu Ihrem Veröffentlichungsort passt. Wenn Sie die Link-Version in Ihr CMS einfügen, bleibt der Backlink erhalten.
@misc{arslan2026,
author = {Arslan, Ezgi},
title = {{KI-Agentenfallen: 20 Vorfälle aus der Praxis}},
year = {2026},
month = sep,
howpublished = {\url{https://aimultiple.com/ai-agent-traps}},
note = {AIMultiple. Abgerufen am 29. September 2026}
}Ergebnisse und Zeitstempel von 32 Datenpunkten. Laden Sie die Zusammenfassungsdaten aus den Diagrammen und Tabellen dieses Artikels als ZIP-Datei herunter, die 2 CSV-Dateien enthält.
Möchten Sie die granularen Daten dahinter? Premium beitreten



Seien Sie der Erste, der kommentiert
Ihre E-Mail-Adresse wird nicht veröffentlicht. Alle Felder sind erforderlich. Kommentare werden in ihrer Originalsprache belassen.