Ein KI-Agent ist kein Werkzeug, das man einmal einrichtet und dann vergisst. Er trifft Vorschläge, stößt auf Ausnahmen, verarbeitet sich verändernde Daten – und braucht deshalb einen Menschen, der ihn im Blick behält. Fehlt diese klare Zuständigkeit, verwaist der Agent nach dem anfänglichen Schwung, oder schlimmer: Niemand merkt, wenn er beginnt, falsch zu arbeiten. Dieser Ratgeber klärt, welche Rollen und Verantwortlichkeiten ein Agent im Betrieb erfordert – und wie Sie sie besetzen, auch ohne eigene IT-Abteilung.
Er gehört zum Leitfaden KI-Agenten im Team einführen. Ob Ihr Betrieb die nötige personelle Reife mitbringt, prüft ergänzend der Readiness-Check.
Die zentrale Rolle: der fachliche Betreuer
Jeder Agent braucht eine verantwortliche Person auf der Fachseite – nennen wir sie den Betreuer. Das ist keine technische Rolle und erfordert keine Programmierkenntnisse. Der Betreuer kennt den Prozess, den der Agent bearbeitet, und ist die erste Anlaufstelle, wenn etwas unklar ist. Seine Aufgaben:
- Freigaben verantworten: Er entscheidet in den Fällen, die der Agent zur Prüfung vorlegt – oder legt fest, wer das tut.
- Ausnahmen bearbeiten: Was der Agent nicht sicher erledigen kann, landet bei ihm.
- Qualität beobachten: Er merkt, wenn der Agent häufiger danebenliegt, und stößt Anpassungen an.
- Rückmeldung geben: Er sammelt, wo der Agent besser werden muss, und trägt das an den Dienstleister weiter.
In kleinen Betrieben ist der Betreuer oft dieselbe Person, die den Prozess schon vorher verantwortet hat. Wichtig ist nur, dass die Rolle bewusst benannt und mit Zeit hinterlegt wird – nicht als unsichtbare Zusatzlast obendrauf.
Fachliche und technische Verantwortung trennen
Es lohnt, zwei Verantwortungen sauber auseinanderzuhalten. Die fachliche Betreuung – was der Agent tun soll, welche Fälle er prüfen lässt, ob seine Ergebnisse stimmen – bleibt im Betrieb. Die technische Betreuung – Betrieb der Systeme, Anbindungen, Sicherheit – liegt meist beim Dienstleister. Diese Trennung nimmt kleinen Betrieben die Sorge, sie müssten Technik-Know-how vorhalten. Sie müssen es nicht; sie müssen nur wissen, wer im Zweifel welchen Hut aufhat. Wie die technische Absicherung organisiert ist, beschreibt der Ratgeber Datensicherheit bei KI-Agenten.
Wer gibt was frei? Eine einfache Rechteordnung
Sobald ein Agent verbindliche Aktionen auslösen kann – eine Mail versenden, eine Buchung anstoßen, einen Datensatz ändern –, muss klar sein, wer diese Aktion verantwortet. Bewährt hat sich eine schlichte Staffelung nach Tragweite:
- Unkritisch und eindeutig: Der Agent handelt selbstständig (z. B. eine Eingangsmail einsortieren).
- Verbindlich, aber alltäglich: Der Agent bereitet vor, der Betreuer gibt frei (z. B. eine Standardantwort versenden).
- Weitreichend oder heikel: Immer Freigabe durch eine benannte Person, oft mit Vier-Augen-Prinzip (z. B. Zahlungen, Vertragliches).
Diese Staffelung ist zugleich das Rückgrat der täglichen Zusammenarbeit zwischen Mensch und Agent, die der Ratgeber Mensch-in-the-Loop bei KI-Agenten vertieft. Sie sorgt dafür, dass Autonomie und Kontrolle in einem gesunden Verhältnis bleiben.
Vertretung und Ausfallsicherheit
Ein Agent arbeitet zuverlässig weiter, auch wenn der Betreuer im Urlaub ist – aber seine Freigaben und Ausnahmen brauchen dann eine Vertretung. Klären Sie früh, wer einspringt, damit nicht der ganze automatisierte Ablauf steht, sobald eine Person fehlt. Das ist kein großer Aufwand, wird aber gern vergessen, bis es das erste Mal klemmt. Eine benannte Vertretung gehört deshalb zur Grundausstattung jeder Agenten-Rolle.
Verantwortung braucht Kompetenz
Wer einen Agenten betreut, muss verstehen, was der Agent kann und wo seine Grenzen liegen – sonst kann er weder sinnvoll freigeben noch Fehler erkennen. Die Rolle des Betreuers und der Aufbau von KI-Kompetenz gehören deshalb zusammen. Welches Grundwissen das Team braucht und wie Sie es vermitteln, beschreibt der Ratgeber Mitarbeiter für KI-Agenten schulen. Und wo Beschäftigte durch neue Zuständigkeiten spürbar betroffen sind, ist die Beteiligung des Betriebsrats zu prüfen – siehe KI-Agenten und Betriebsrat.
Rollen am Beispiel eines Rechnungs-Agenten
Wie sich die Zuständigkeiten in der Praxis verteilen, wird an einem konkreten Fall am deutlichsten. Nehmen wir einen Agenten, der eingehende Rechnungen ausliest, prüft und zur Buchung vorbereitet:
- Der Dienstleister hat den Agenten gebaut, an das Postfach und die Buchhaltung angebunden und sorgt für Betrieb und Sicherheit. Er ist der technische Ansprechpartner, greift aber nicht in die tägliche Bearbeitung ein.
- Die Betreuerin aus der Buchhaltung verantwortet den fachlichen Betrieb. Sie prüft die Vorschläge, die der Agent zur Freigabe vorlegt – etwa wenn eine Rechnungssumme unklar ist –, bearbeitet Ausnahmen und meldet an den Dienstleister, wenn ein Lieferantenformat systematisch Probleme macht.
- Die Geschäftsführung hat die Freigabegrenzen gesetzt: Rechnungen bis zu einem festgelegten Betrag darf der Agent nach der Prüfung durch die Betreuerin verbuchen lassen, darüber hinaus ist eine zweite Freigabe nötig.
- Eine Kollegin ist als Vertretung benannt und kann die Freigaben übernehmen, wenn die Betreuerin ausfällt.
Keine dieser Rollen erfordert technisches Spezialwissen. Nötig ist allein, dass jede Zuständigkeit bewusst benannt und mit der nötigen Zeit hinterlegt ist. Genau das unterscheidet einen Agenten, der dauerhaft trägt, von einem, der nach dem Piloten stillschweigend verwaist.
Zuständigkeiten kurz festhalten
Damit die Rollen nicht nur im Kopf einer Person existieren, lohnt eine knappe schriftliche Fixierung – ein halbes Blatt genügt. Darauf steht, wer den Agenten fachlich betreut, wer vertritt, welche Aktionen welche Freigabe brauchen und an wen technische Fragen gehen. Dieses Dokument ist zugleich die Grundlage, falls ein Betriebsrat zu beteiligen ist oder eine Betriebsvereinbarung entsteht. Es kostet wenig Aufwand, erspart aber viel Suchen, sobald der erste ungewöhnliche Fall auftritt oder eine Zuständigkeit wechselt.
Häufige Fragen zu Rollen und Verantwortung bei KI-Agenten
Brauchen wir eine eigene IT-Abteilung, um einen Agenten zu betreuen?
Nein. Die technische Betreuung – Betrieb, Anbindung, Sicherheit – übernimmt in aller Regel der Dienstleister. Im Betrieb bleibt die fachliche Verantwortung: eine Person, die den Prozess kennt, Freigaben verantwortet und Ausnahmen bearbeitet. Diese Rolle erfordert Fachwissen über den Vorgang, nicht über Technik. Gerade kleine Betriebe ohne IT-Abteilung setzen Agenten deshalb erfolgreich ein, solange diese fachliche Zuständigkeit klar besetzt ist.
Kann eine Person mehrere Agenten betreuen?
Ja, solange die Summe der Aufgaben in ihre Zeit passt. Ein gut eingespielter Agent verursacht im Regelbetrieb wenig Betreuungsaufwand – meist nur einige Freigaben und gelegentliche Ausnahmen. Erst wenn ein Betreuer sehr viele oder sehr unterschiedliche Agenten zugleich verantwortet, lohnt es, die Rolle aufzuteilen. Entscheidend ist nicht die Zahl der Agenten, sondern dass für jeden klar ist, wer zuständig ist.
Was passiert, wenn der Betreuer den Betrieb verlässt?
Dann muss die Rolle nahtlos übergehen, sonst verwaist der Agent. Deshalb sollten die Betreuung nie an einer einzigen Person kleben, sondern eine benannte Vertretung und eine knappe Dokumentation der Freigaberegeln existieren. Das ist derselbe Grundsatz wie bei jeder anderen Schlüsselrolle im Betrieb: Wissen und Zuständigkeit dürfen nicht mit einer Person das Haus verlassen.
Wer haftet, wenn der Agent einen Fehler mit Folgen macht?
Grundsätzlich bleibt das Unternehmen als Betreiber für seinen Geschäftsbetrieb verantwortlich – der Agent ist ein Werkzeug, kein eigenständiger Verantwortungsträger. Genau deshalb sind Freigabeschleifen bei tragweiten Aktionen und lückenlose Protokolle so wichtig: Sie halten kritische Entscheidungen bei benannten Menschen und machen jeden Schritt nachvollziehbar. Für die verbindliche Klärung der Haftung in Ihrem konkreten Fall ist eine rechtliche Beratung ratsam.