Agenten-Sicherheit & Threat Modeling
Prompt Injection, Tool Poisoning, Memory Poisoning, Excessive Agency. Die OWASP Top 10 für agentische Anwendungen — eingebettet in reale Angriffe und Abwehr.
Artikel
Indirekte Prompt Injection: Erkennung und Abwehr in der Agenten-Pipeline
Wie Sie indirekte Prompt Injection in einer produktiven Agenten-Pipeline erkennen und eindämmen — Inhaltsisolierung, Provenance, Ausgabefilterung und mehrschichtige Abwehr, die den Schadensradius verkleinert.
Lesen →Red Teaming für KI-Agenten: ein Red-Team-Programm im Unternehmen aufbauen
Wie Sie ein Red-Team-Programm für Agenten als wiederholbaren Prozess etablieren — Umfang, Kadenz, Rollen und warum organisatorisches Red-Teaming autonomer Agenten sich von einem einmaligen Pentest unterscheidet.
Lesen →Memory Poisoning: das Gedächtnis eines Agenten im Produktivbetrieb schützen
Wie Sie den Langzeitspeicher und Retrieval-Store eines produktiven Agenten gegen Poisoning schützen — Validierung, Provenance, Segmentierung und Ablauf, damit falsche Daten künftige Entscheidungen nicht verzerren.
Lesen →OWASP Top 10 für agentische Anwendungen: jedes Risiko im Produktivbetrieb absichern
Ein Praxis-Playbook zu den OWASP Top 10 für agentische Anwendungen: wie Sie jedes der zehn Risiken im Produktivbetrieb mit konkreten Kontrollen, Guardrails und Governance erfüllen und mindern.
Lesen →Tool Poisoning: wenn die Tools eines Agenten sich gegen ihn wenden
Wie manipulierte Tool-Beschreibungen und präparierte Tool-Ausgaben autonome Agenten zu schädlichen Aktionen lenken — und die Validierungs-, Isolations- und Herkunftskontrollen dagegen.
Lesen →Excessive Agency: das schädlichste Agenten-Risiko
Warum zu weit gefasste Berechtigungen einen kleinen Agentenfehler in einen großen Vorfall verwandeln — und wie Least Privilege, eingegrenzte Tools und Freigabe-Gates den Schadensradius eindämmen.
Lesen →Agenten ausliefern, denen Sie vertrauen
Holen Sie sich die AgentOps-Checkliste für die Produktionsreife — kostenlos, herstellerneutral, praxisnah.
Checkliste holen