Ein einzelner KI-Agent lässt sich noch nebenbei betreuen. Sobald aber der zweite, dritte und fünfte Agent im Haus arbeitet, jeder mit eigenen Zugängen, eigenen Aufgaben und eigenen Risiken, wird aus einem Werkzeug eine kleine Belegschaft ohne Personalakte. Governance ist der Rahmen, der verhindert, dass dieser Wildwuchs entsteht. Es geht dabei nicht um Bürokratie, sondern um wenige klare Regeln, die festlegen, wer welchen Agenten mit welchen Rechten für welchen Zweck betreiben darf. Dieser Ratgeber zeigt, wie ein Mittelständler diesen Rahmen pragmatisch aufbaut, ohne ein eigenes Compliance-Team zu beschäftigen.
Was Governance für KI-Agenten konkret bedeutet
Governance klingt nach großem Konzern, meint im Kern aber etwas Handfestes: eine bewusste Entscheidung darüber, was ein Agent darf und was nicht, und eine Instanz, die diese Entscheidung trifft und dokumentiert. Ohne diesen Rahmen entstehen Agenten oft im Vorbeigehen. Eine Abteilung bastelt sich einen Assistenten, verbindet ihn mit dem Postfach und dem CRM, und niemand außerhalb weiß, dass dort ein System eigenständig Kundendaten liest und Nachrichten verschickt. Governance macht aus solchen Schattenprojekten sichtbare, verantwortete Vorgänge. Sie beantwortet drei Fragen dauerhaft: Welche Agenten laufen bei uns? Wer ist für jeden einzelnen zuständig? Und nach welchen Regeln dürfen neue dazukommen?
Das Agenten-Register als Fundament
Der erste praktische Schritt kostet fast nichts und bringt am meisten: ein zentrales Verzeichnis aller Agenten. Eine simple Tabelle reicht zu Beginn. Für jeden Agenten wird festgehalten, welche Aufgabe er erfüllt, auf welche Systeme und Daten er zugreift, welches Modell dahintersteckt, wer ihn fachlich verantwortet und wann er zuletzt überprüft wurde. Dieses Register ist eng verwandt mit dem Verzeichnis von Verarbeitungstätigkeiten, das die DSGVO in Artikel 30 ohnehin verlangt, sobald personenbezogene Daten im Spiel sind. Wer beides zusammenführt, spart doppelte Arbeit. Worauf es beim rechtssicheren Einsatz sonst noch ankommt, fasst der Leitfaden KI-Agenten DSGVO-konform einsetzen zusammen.
Der Nutzen zeigt sich spätestens im Ernstfall. Fällt ein angebundenes System aus, ändert ein Anbieter sein Modell oder meldet sich eine Aufsichtsbehörde, lässt sich in Minuten beantworten, welche Agenten betroffen sind. Ohne Register beginnt an dieser Stelle eine hektische Suche quer durch die Abteilungen.
Welche Richtlinien wirklich gebraucht werden
Ein dickes Regelwerk liest niemand. Sinnvoll sind wenige, verständliche Vorgaben, die im Alltag tragen:
- Zweckbindung: Jeder Agent hat einen klar beschriebenen Auftrag. Er wird nicht heimlich für zusätzliche Aufgaben zweckentfremdet, weil das seine Risiken verändert.
- Datenklassen: Es wird vorab festgelegt, mit welchen Datenarten ein Agent arbeiten darf. Öffentliche Produktinfos sind unkritisch, Gesundheits- oder Bewerberdaten verlangen eine gesonderte Prüfung.
- Ausgabegrenzen: Der Agent darf informieren und vorbereiten, aber bestimmte Handlungen wie Zahlungen, Vertragszusagen oder Kündigungen bleiben dem Menschen vorbehalten.
- Kennzeichnung: Wo ein Agent mit Kunden oder Bewerbern kommuniziert, wird offengelegt, dass eine Maschine antwortet. Der EU AI Act verlangt diese Transparenz für viele Anwendungen ausdrücklich.
Diese Punkte lassen sich auf zwei Seiten unterbringen. Wichtiger als Vollständigkeit ist, dass jeder im Team sie kennt und versteht. Die rechtliche Einordnung dahinter vertieft der Beitrag KI-Agenten und der EU AI Act.
Freigabeprozesse: bevor ein Agent scharfgeschaltet wird
Ein neuer Agent geht nicht in Produktion, weil er in der Vorführung gut aussah. Zwischen Idee und echtem Betrieb steht eine kurze, wiederkehrende Prüfung. Sie muss nicht schwerfällig sein. Für einen risikoarmen Agenten, der nur interne Texte zusammenfasst, genügt eine formlose Freigabe durch die Fachverantwortung. Sobald ein Agent aber personenbezogene Daten verarbeitet, nach außen kommuniziert oder Geld bewegt, lohnt eine strengere Stufe mit Beteiligung von Datenschutz und IT-Sicherheit.
Bewährt hat sich ein abgestuftes Modell nach Risiko. Je mehr ein Agent selbst entscheiden und auslösen darf, desto genauer wird vor dem Start hingeschaut. Zur Freigabe gehört auch die Frage, ob und wie ein Mensch eingreifen kann, ein Prinzip, das der Ratgeber Mensch-in-the-Loop im Detail beschreibt. Wo diese Rückfallebene fehlt, sollte kein Agent mit weitreichenden Rechten starten.
Verantwortung klar zuordnen
Der häufigste Governance-Fehler ist diffuse Zuständigkeit. Ein Agent gehört gefühlt allen und deshalb niemandem. Wenn er dann eine falsche Auskunft gibt oder eine Rechnung doppelt bucht, fühlt sich keiner verantwortlich. Deshalb bekommt jeder Agent im Register eine benannte Person als fachliche Verantwortung, so wie jede Maschine in der Werkstatt einen zuständigen Meister hat. Diese Person entscheidet über Änderungen, prüft die Ergebnisse in Stichproben und ist Ansprechpartner bei Problemen. Daneben braucht es eine technische Verantwortung für Zugänge und Betrieb. Beide Rollen können in kleinen Betrieben bei einer Person liegen, sie müssen nur benannt sein.
Governance endet nicht mit dem Start
Ein freigegebener Agent bleibt nicht für immer unbedenklich. Modelle werden getauscht, Anweisungen angepasst, neue Datenquellen angebunden, und mit jeder Änderung kann sich das Verhalten verschieben. Deshalb gehört zu jeder Governance ein wiederkehrender Blick. Einmal im Quartal wird durch das Register gegangen: Läuft jeder Agent noch für seinen ursprünglichen Zweck? Stimmen die Zugriffsrechte noch? Gab es Vorfälle, die eine Regel nachschärfen? Dieser feste Termin verhindert, dass sich über Monate unbemerkt Risiken ansammeln. Wie sich das technisch begleiten lässt, zeigt der Beitrag Datensicherheit bei KI-Agenten. Governance ist am Ende kein Projekt mit Enddatum, sondern eine leise Gewohnheit, die den Betrieb ruhig hält.
Häufige Fragen
Ab wann lohnt sich Governance für KI-Agenten?
Sinnvoll wird ein Rahmen bereits beim zweiten Agenten, spätestens aber sobald ein Agent personenbezogene Daten verarbeitet oder nach außen kommuniziert. Für einen einzelnen, rein internen Assistenten reicht oft eine klare Zuständigkeit. Der Aufwand für ein einfaches Register und wenige Regeln ist gering, während das Risiko unkontrollierter Schattenprojekte mit jedem weiteren Agenten steigt. Wer früh anfängt, muss später nicht mühsam aufräumen.
Was gehört in ein Agenten-Register?
Für jeden Agenten werden Aufgabe, angebundene Systeme und Datenarten, verwendetes Modell, die fachlich und technisch verantwortliche Person sowie das Datum der letzten Prüfung festgehalten. Eine einfache Tabelle genügt zu Beginn. Sinnvoll ist, dieses Register mit dem nach Artikel 30 DSGVO ohnehin nötigen Verzeichnis von Verarbeitungstätigkeiten zu verbinden, um doppelte Pflege zu vermeiden.
Wer sollte einen neuen KI-Agenten freigeben?
Das hängt vom Risiko ab. Ein risikoarmer, interner Agent kann durch die Fachverantwortung freigegeben werden. Sobald ein Agent personenbezogene Daten verarbeitet, extern kommuniziert oder finanzielle Vorgänge auslöst, sollten Datenschutz und IT-Sicherheit beteiligt sein. Ein abgestuftes Modell, bei dem mit steigenden Rechten genauer geprüft wird, hält den Aufwand für harmlose Fälle klein und für heikle Fälle angemessen.
Wie unterscheidet sich Governance vom EU AI Act?
Der EU AI Act ist die gesetzliche Vorgabe von außen, die je nach Risikoklasse bestimmte Pflichten festlegt. Governance ist der interne Rahmen, mit dem ein Unternehmen diese und weitere Anforderungen im eigenen Haus umsetzt und kontrolliert. Gute Governance sorgt dafür, dass gesetzliche Pflichten, Datenschutz und eigene Qualitätsansprüche zusammen erfüllt werden, statt jeden Punkt einzeln und reaktiv abzuarbeiten.