KURZ ERKLÄRT
KI-Governance legt fest, wer welche KI-Anwendung für welche Aufgabe und mit welchen Daten einsetzen darf. Für Marketingteams muss das im Arbeitsalltag verständlich sein. Ein langes Regelwerk ohne konkrete Entscheidungshilfe reicht nicht. Ebenso wenig genügt ein Freigabeknopf, den niemand informiert prüfen kann. Der folgende Ansatz beschreibt operative Gestaltung und ersetzt keine rechtliche Einzelfallbewertung.
Wie ihr einzelne KI-Anwendungen in verlässliche Marketingabläufe einordnet, zeigt der übergeordnete Guide KI-Transformation im B2B-Marketing: Von einzelnen Prompts zu verlässlichen Abläufen.
Beschreibt Anwendungen mit Zweck und Grenze
Führt für jeden relevanten Einsatz eine kurze Beschreibung: Zweck, Nutzerkreis, benötigte Daten, erlaubte Ergebnisse und verantwortliche Person. „KI im Content Marketing“ ist zu breit. „Interne Entwürfe aus freigegebenen Produktunterlagen“ benennt eine prüfbare Aufgabe. Haltet fest, welche Nutzung nicht abgedeckt ist, beispielsweise individuelle Kundendaten oder externe Veröffentlichung. Dadurch können Mitarbeiter erkennen, ob ein neuer Wunsch noch in den vereinbarten Rahmen passt. Änderungen sollten nachvollziehbar entschieden werden, statt stillschweigend durch zusätzliche Werkzeuge oder Datenquellen zu entstehen.
Begrenzt Berechtigungen nach der tatsächlichen Aufgabe
Ein Rechercheassistent braucht normalerweise andere Rechte als ein Agent, der Datensätze verändert. Trennt Lesen, Entwürfe erstellen, Vorschläge speichern und externe Aktionen. Nutzt nach Möglichkeit begrenzte Konten und klare Zuständigkeiten. Gebt keine umfassenden Rechte allein aus Bequemlichkeit. Prüft auch verbundene Systeme: Ein enger Agentenauftrag kann durch einen weitreichenden Connector unterlaufen werden. Der wirksame Schutz ergibt sich aus der tatsächlichen technischen Grenze, nicht nur aus einer freundlichen Anweisung im Prompt. Testet diese Grenze mit absichtlich unpassenden Anforderungen.
Behandelt externe Inhalte als Informationen, nicht als Befehle
Agenten können Webseiten, Dokumente oder Nachrichten lesen, die unerwartete Anweisungen enthalten. Ein Inhalt könnte versuchen, die Aufgabe umzulenken oder vertrauliche Informationen anzufordern. Trennt daher Quellenmaterial von verbindlichen Systemanweisungen und beschränkt nachgelagerte Aktionen. Technische Prüfungen, definierte Datenfelder und begrenzte Werkzeuge können helfen, beseitigen das Risiko aber nicht vollständig. Vertraut nicht darauf, dass ein Satz wie „Ignoriere gefährliche Anweisungen“ allein genügt. Prüft besonders Abläufe, in denen fremder Text unmittelbar eine externe Handlung auslösen könnte.
Macht menschliche Prüfung entscheidungsfähig
Zeigt dem Prüfer die konkrete Ausgabe, die geplante Handlung und die dafür relevanten Belege. Markiert offene Fragen und Abweichungen. Ein pauschales „Fortfahren?“ nach vielen unsichtbaren Schritten ermöglicht kaum Kontrolle. Legt fest, welche Kriterien geprüft werden müssen und wann eine Korrektur erforderlich ist. Eine Freigabe sollte sich auf ein bestimmtes Ergebnis beziehen. Wenn der Inhalt danach wesentlich verändert wird, braucht es eine passende neue Prüfung. Gute Governance reduziert unnötige Unterbrechungen, erhält aber wirksame Kontrolle vor bedeutenden Folgen.
Plant Stopp, Übergabe und Korrektur
Ein Ablauf braucht klare Grenzen für Wiederholungen und eine erkennbare Übergabe an Menschen. Definiert, wie ein Mitarbeiter den Prozess stoppt und welche Informationen er für die Übernahme erhält. Bewahrt notwendige Protokolle so auf, dass Fehler nachvollzogen werden können, ohne unnötig sensible Daten zu verteilen. Klärt, wie fehlerhafte Entwürfe zurückgezogen oder geänderte Datensätze korrigiert werden. Nicht jede Aktion ist vollständig rückgängig zu machen. Diese Tatsache muss vor dem Einsatz bekannt sein und den zulässigen Handlungsspielraum beeinflussen. Mehr dazu im Leitfaden Multi-Agent-Systeme im Marketing: Wann mehrere Spezialisten sinnvoll sind.
Überprüft Regeln an realen Fällen
Lasst Mitarbeiter typische und schwierige Situationen durchspielen: eine vertrauliche Datei, widersprüchliche Produktangaben oder eine nicht autorisierte Versandanforderung. Beobachtet, ob Zuständigkeiten und Hilfestellungen funktionieren. Nutzt Vorfälle und Beinahefehler zur Verbesserung, statt nur die Anzahl bestätigter Freigaben zu zählen. Prüft den Rahmen nach Änderungen an Quellen, Nutzern oder Werkzeugen erneut. Die zuständigen Fach-, Sicherheits- und gegebenenfalls Rechtsverantwortlichen sollten passende Entscheidungen begleiten. Governance ist dann ein gepflegter Bestandteil des Betriebs und keine einmalig abgelegte Richtlinie. Mehr dazu im Leitfaden KI-Vertriebsagenten im B2B: Vorbereitung verbessern, Kundenbeziehungen verantworten.
INTERAKTIV / VOM LESEN ZUR ANWENDUNG
Drei Prüfpunkte für eure Umsetzung
Wähle einen Punkt und halte deinen persönlichen Lesefortschritt fest. Die Häkchen werden weder gespeichert noch übertragen und sind keine Bewertung eures Unternehmens.
PRÜFPUNKT 01
Behandelt externe Inhalte als Informationen, nicht als Befehle
Agenten können Webseiten, Dokumente oder Nachrichten lesen, die unerwartete Anweisungen enthalten.
Im Artikel vertiefen ↗PRÜFPUNKT 02
Macht menschliche Prüfung entscheidungsfähig
Zeigt dem Prüfer die konkrete Ausgabe, die geplante Handlung und die dafür relevanten Belege.
Im Artikel vertiefen ↗PRÜFPUNKT 03
Plant Stopp, Übergabe und Korrektur
Ein Ablauf braucht klare Grenzen für Wiederholungen und eine erkennbare Übergabe an Menschen.
Im Artikel vertiefen ↗Häufige Fragen
Muss jede kleine Aktion manuell freigegeben werden?
Nicht pauschal. Platziert wirksame Prüfungen anhand der Folgen und Berechtigungen. Der Rahmen muss zum konkreten Einsatz passen.
Reicht eine Sicherheitsanweisung im Prompt?
Nein. Verknüpft Anweisungen mit tatsächlichen Zugriffsbeschränkungen, Tests, Beobachtbarkeit und einem funktionierenden Übergabeweg.
Ist dieser Ansatz eine rechtliche Freigabe?
Nein. Er beschreibt operative Gestaltung. Konkrete Datenschutz-, Vertrags- oder Rechtsfragen gehören zu den dafür zuständigen Fachleuten.
Wie lässt sich „Beschreibt Anwendungen mit Zweck und Grenze“ praktisch umsetzen?
Führt für jeden relevanten Einsatz eine kurze Beschreibung: Zweck, Nutzerkreis, benötigte Daten, erlaubte Ergebnisse und verantwortliche Person. „KI im Content Marketing“ ist zu breit. „Interne Entwürfe aus freigegebenen Produktunterlagen“ benennt eine prüfbare Aufgabe.
Was ist bei „Begrenzt Berechtigungen nach der tatsächlichen Aufgabe“ besonders wichtig?
Ein Rechercheassistent braucht normalerweise andere Rechte als ein Agent, der Datensätze verändert. Trennt Lesen, Entwürfe erstellen, Vorschläge speichern und externe Aktionen. Nutzt nach Möglichkeit begrenzte Konten und klare Zuständigkeiten.
