Eine KI-Richtlinie schreiben, die Agenten wirklich steuert
Eine praktische Vorlage für eine interne KI-Richtlinie — die Abschnitte, die zählen, wie man autonome Agenten und Shadow AI abdeckt und sie nicht zum Regalstück wird.
Definition
Eine KI-Richtlinie ist ein internes Dokument, das festlegt, wie eine Organisation KI bauen, kaufen und nutzen darf — einschließlich freigegebener Tools, Datenhandhabung, menschlicher Aufsicht und Verantwortlichkeit. Für Agenten muss sie Autonomiestufen, Tool-Zugriff und die Realität von Shadow AI adressieren.
Eine KI-Richtlinie ist leicht schlecht zu schreiben: ein langes Dokument, das niemand liest, voller Verbote, die Menschen zu Shadow AI treiben. Eine gute ist kurz, konkret und macht den sicheren Weg zum einfachen. Hier die Vorlage, die funktioniert.
Welche Abschnitte zählen wirklich?
Halten Sie sie schlank genug, um gelesen zu werden, vollständig genug, um zu steuern:
- Geltungsbereich und Definitionen. Was hier als KI gilt, für wen die Richtlinie gilt und Kernbegriffe — verlinken Sie ein Glossar, statt alles neu zu definieren.
- Freigegebene Tools und Freigabeprozess. Eine benannte Liste plus ein schneller, klarer Weg, Neues freizugeben. Vagheit hier erzeugt Shadow AI.
- Datenhandhabung. Welche Daten in welche Tools dürfen, was die Organisation nie verlassen darf und wie personenbezogene Daten nach der DSGVO behandelt werden.
- Menschliche Aufsicht nach Risikostufe. Wann Human-in-the-Loop nötig ist, wann Überwachung genügt und was nie voll automatisiert wird.
- Verantwortlichkeit. Wer jedes KI-System besitzt und für seine Handlungen einsteht.
- Incident Response. Was zu tun ist, wenn ein Agent entgleist — einschließlich des Kill-Switch.
Agenten ausdrücklich abdecken
Generische KI-Richtlinien verfehlen, was Agenten anders macht: Sie handeln. Ergänzen Sie Regeln für Autonomiestufen (welche Aktionen ein Agent ohne Freigabe ausführen darf), Tool-Zugriff (Least Privilege, kein stehender Admin) sowie Gedächtnis und Datenaufbewahrung. Eine Richtlinie, die nur „ChatGPT-Nutzung“ steuert, steuert keinen in Ihre Systeme verdrahteten Agenten.
Eine nützliche Art, Autonomiestufen konkret zu machen:
| Autonomiestufe | Was der Agent darf | Rolle des Menschen |
|---|---|---|
| Vorschlagen | Aktionen entwerfen und empfehlen | Mensch führt alles aus |
| Handeln mit Freigabe | Eine Aktion vorbereiten und einreihen | Mensch gibt jede frei |
| Handeln in Grenzen | Innerhalb definierter Grenzen ausführen | Mensch überwacht, kann eingreifen |
| Voll autonom | Entscheiden und ausführen | Mensch prüft im Nachhinein |
Shadow AI leicht vermeidbar machen
Shadow AI — Mitarbeitende, die nicht sanktionierte Tools nutzen — wächst überall dort, wo die offizielle Antwort „nein“ ohne Alternative lautet. Aufgabe der Richtlinie ist der sanktionierte Weg: freigegebene Tools, klare Datenregeln und ein schneller Freigabeweg. Wenn Compliance leichter ist als die Umgehung, halten sich die meisten daran.
Sie vom Regalstück bewahren
Eine Richtlinie ist Absicht; allein steuert sie nichts. Drei Gewohnheiten halten sie lebendig:
- Jede Regel auf eine Kontrolle abbilden. „Least Privilege“ in der Richtlinie heißt eingegrenzte Credentials in der Praxis — siehe Excessive Agency.
- Nach Plan überprüfen. Modelle, Tools und Regularien bewegen sich; eine mindestens jährliche Prüfung hält die Richtlinie aktuell.
- An ein Managementsystem ankern wie ISO 42001, damit die Richtlinie Teil einer auditierten Schleife ist, keine einmalige Datei.
So geschrieben ist eine KI-Richtlinie keine Bürokratie — sie ist die menschenlesbare Schicht über den technischen Kontrollen, die Ihre Agenten tatsächlich sicher betreiben. Begriffe stehen im Glossar.
Häufige Fragen
Welche Abschnitte braucht eine KI-Richtlinie?
Mindestens sechs: Geltungsbereich und Definitionen, freigegebene Tools mit Freigabeprozess, Datenhandhabungsregeln, Anforderungen an menschliche Aufsicht nach Risikostufe, Verantwortlichkeit und Eigentum sowie Incident Response. Für Agenten kommen zwei hinzu — Autonomiestufen, die sagen, welche Aktionen ein Agent ohne Freigabe ausführen darf, und Tool-Zugriffsregeln, die Least Privilege erzwingen. Die schwierigste Beschränkung ist die Länge: Eine Richtlinie, die lang genug ist, um gründlich zu wirken, ist meist zu lang, um gelesen zu werden, und eine ungelesene Richtlinie steuert nichts. Zielen Sie auf etwas, das eine neue Mitarbeiterin in einer Sitzung aufnimmt, schieben Sie detaillierte Verfahren in verlinkte Referenzen und widerstehen Sie dem Drang, jeden Randfall im Hauptdokument zu regeln. Der Test einer guten Richtlinie ist nicht Vollständigkeit auf Papier, sondern ob die Betroffenen sich erinnern, was sie von ihnen verlangt. Kurz, konkret und tatsächlich gelesen schlägt umfassend und ignoriert jedes Mal.
Wie adressiert eine Richtlinie Shadow AI?
Indem sie einen sanktionierten Weg gibt, der leichter ist als die Umgehung, denn Shadow AI gedeiht überall dort, wo die offizielle Antwort nein lautet, ohne Alternative. Bekommt das Personal kein freigegebenes Tool schnell, greift es zu irgendetwas Gefundenem und fügt sensible Daten ein — genau das Ergebnis, das die Richtlinie verhindern soll. Eine gute Richtlinie benennt daher freigegebene Tools, erklärt die Datenregeln dahinter in klarer Sprache und bietet einen schnellen, sichtbaren Weg, Neues freizugeben. Die Rahmung zählt: Eine Wand aus Verboten liest sich als Hindernis zum Umgehen, während ein klares Menü erlaubter Optionen plus ein einfacher Antragsprozess sich als Hilfe liest. Sie beseitigen Shadow AI nicht durch ein Verbot; Sie verringern es, indem Sie den konformen Weg zum Weg des geringsten Widerstands machen. Kombinieren Sie das mit leichtem Monitoring, damit Sie sehen, welche nicht sanktionierten Tools im Einsatz sind, und die beliebten, sicheren in die freigegebene Menge aufnehmen.
Reicht eine Richtlinie für Compliance?
Nein — eine Richtlinie ist notwendig, aber nicht hinreichend, denn sie nennt die Absicht, während Kontrollen sie erzwingen. Ein Dokument, das Least Privilege sagt, steuert nichts, solange in der Praxis keine eingegrenzten Credentials existieren; eine Klausel, die menschliche Aufsicht verlangt, ist leer, bis ein Freigabe-Gate die Aktion tatsächlich blockiert. Das verlässliche Muster ist, jede Regel der Richtlinie auf eine konkrete technische Kontrolle und auf eine Art, deren Wirksamkeit zu prüfen, abzubilden: Least Privilege auf eingegrenzte Tokens, Aufsicht auf Freigabe-Workflows, Verantwortlichkeit auf Audit-Logs pro Identität. Verankern Sie dann das Ganze in einem Managementsystem wie ISO 42001, damit die Richtlinie Teil einer auditierten, überprüften Schleife ist statt einer Datei, die still auf einem geteilten Laufwerk altert. Compliance lebt in der Lücke zwischen dem, was die Richtlinie sagt, und dem, was das System tatsächlich tut, und diese Lücke zu schließen — Worte auf erzwungenes Verhalten abgebildet, nach Plan überprüft — ist die eigentliche Arbeit. Die Richtlinie ist die menschenlesbare Schicht, nicht die Durchsetzung.
Wie unterscheidet sich eine KI-Richtlinie von einem Managementsystem wie ISO 42001?
Eine KI-Richtlinie ist ein Dokument, das sagt, was erlaubt und gefordert ist; ein Managementsystem wie ISO 42001 ist die operative Maschinerie, die die Richtlinie real macht und über die Zeit ehrlich hält. Die Richtlinie ist eines der Artefakte, die das System hervorbringt, neben definierten Rollen, Risikobehandlung, internen Audits und einer Schleife kontinuierlicher Verbesserung. Der Unterschied zählt, weil eine Richtlinie für sich statisch ist: Sie hält die Absicht zu einem Zeitpunkt fest und driftet dann, während Modelle, Tools und Regularien sich ändern, wohingegen ein Managementsystem Reviews plant, Eigentum zuweist, Kontrollen testet und den Kurs korrigiert. Denken Sie an die Richtlinie als die menschenlesbaren Regeln und an das AIMS als die Governance, die sie erzwingt, auditiert und aktualisiert. Sie können eine Richtlinie ohne Managementsystem haben — viele Organisationen tun das, und sie wird langsam zum Regalstück —, aber Sie können kein glaubwürdiges Managementsystem ohne eine Richtlinie darin haben. Für alles jenseits eines kleinen Teams ist es genau diese Verankerung der Richtlinie im System, die sie davor bewahrt, still zu veralten.