KI-Agenten testen und evaluieren vor dem Go-Live

Ein KI-Agent, der in der Vorführung überzeugt, ist noch lange nicht produktionsreif. Der Unterschied zwischen einem gelungenen Einzelbeispiel und einem verlässlichen Werkzeug liegt im systematischen Testen. Anders als bei klassischer Software gibt ein Agent auf dieselbe Eingabe nicht immer exakt dieselbe Antwort – deshalb reicht ein einmaliges Durchklicken nicht. Dieser Ratgeber erklärt, wie Sie einen KI-Agenten vor dem Go-Live seriös prüfen, ohne dafür ein ganzes Testlabor aufzubauen.

Warum sich KI-Agenten anders testen lassen als normale Software

Klassische Software ist deterministisch: Gleiche Eingabe, gleiches Ergebnis. Ein KI-Agent arbeitet mit Wahrscheinlichkeiten und kann bei derselben Frage in Formulierung und Weg leicht variieren. Das hat zwei Konsequenzen. Erstens genügt es nicht, einen Fall einmal zu testen – man muss prüfen, ob das Ergebnis über viele ähnliche Fälle hinweg stabil bleibt. Zweitens gibt es oft nicht die eine richtige Antwort, sondern einen Bereich akzeptabler Antworten. Das Testen verschiebt sich damit von „richtig oder falsch“ hin zu „gut genug und sicher“. Wer verstehen will, warum diese Unschärfe entsteht, findet die Grundlagen im Beitrag Wie funktioniert ein Sprachmodell?.

Das Fundament: ein Satz fester Testfälle

Der wichtigste und zugleich am meisten unterschätzte Schritt ist eine Sammlung echter, repräsentativer Testfälle – oft „Goldstandard“ genannt. Das ist eine Liste von Eingaben mit der jeweils erwarteten, von Menschen geprüften Musterantwort. Gute Quellen dafür sind echte vergangene Vorgänge: alte E-Mails, reale Belege, tatsächlich gestellte Kundenfragen. Wichtig ist die Mischung:

• Normalfälle: die häufigen, alltäglichen Vorgänge, die den Großteil der Arbeit ausmachen.
• Randfälle: ungewöhnliche, aber legitime Fälle – etwa eine unvollständige Rechnung oder eine mehrdeutige Anfrage.
• Fallen: Fälle, in denen der Agent bewusst nichts tun oder abbrechen und an einen Menschen übergeben sollte.

Schon 30 bis 50 gut ausgewählte Fälle liefern ein deutlich belastbareres Bild als hundert zufällige Klicks. Diese Sammlung ist keine Einmalarbeit: Jeder im Betrieb aufgetretene Fehler wandert als neuer Testfall hinein und schützt künftig vor demselben Fehler.

Woran man Qualität misst

Nicht jede Aufgabe wird gleich bewertet. Je nach Einsatz zählen andere Maßstäbe:

• Korrektheit: Stimmt das Ergebnis sachlich? Bei Datenextraktion etwa: Wurde der Betrag richtig ausgelesen?
• Vollständigkeit: Hat der Agent alles Nötige erfasst, nichts Wichtiges ausgelassen?
• Sicheres Nichtstun: Erkennt der Agent Fälle, die er nicht bearbeiten sollte, und übergibt er sie korrekt? Dieser Punkt wird oft vergessen und ist einer der wichtigsten.
• Keine Erfindungen: Stützt sich die Antwort auf die vorhandenen Daten, statt Fakten zu erfinden? Der Umgang damit ist Thema im Beitrag Halluzinationen und Guardrails.

Für jeden Maßstab lohnt es, vorab eine Zielmarke festzulegen – etwa: „In mindestens 95 Prozent der Normalfälle korrekt, und in keinem einzigen Fall eine erfundene Angabe.“ Erst wenn diese Marken erreicht sind, ist der Agent startbereit.

Der Mensch als Prüfinstanz

Ein Teil der Bewertung lässt sich automatisieren – etwa der Abgleich ausgelesener Zahlen mit einer Sollwert-Liste. Bei Texten und Einschätzungen führt aber kein Weg an menschlicher Beurteilung vorbei, zumindest bei den ersten Durchläufen und in Stichproben. Praktisch bewährt hat sich ein einfaches Vorgehen: Eine fachkundige Person bewertet die Antworten des Agenten anhand einer kurzen, immer gleichen Checkliste. So werden Urteile vergleichbar, statt vom Tagesgefühl abzuhängen. Diese menschliche Prüfung ist kein Misstrauensvotum, sondern der Kern verantwortungsvoller Einführung – eng verwandt mit dem Prinzip Mensch-in-the-Loop im laufenden Betrieb.

Testen hört nach dem Start nicht auf

Der Go-Live ist kein Schlussstrich, sondern ein Übergang. Zwei Testarten begleiten den Betrieb dauerhaft. Erstens der Regressionstest: Bevor irgendetwas geändert wird – ein neuer Textbaustein, ein Modellwechsel, eine angepasste Anweisung – lässt man den festen Testfall-Satz erneut durchlaufen und prüft, ob sich nichts verschlechtert hat. Zweitens die laufende Stichprobe: Ein kleiner Anteil der echten Vorgänge wird regelmäßig von Menschen nachkontrolliert, um schleichende Verschlechterung früh zu bemerken. Wie sich das dauerhaft organisieren lässt, beschreibt der Ratgeber Monitoring und Observability. Erst dieses Zusammenspiel aus Test vor dem Start und Überwachung danach macht einen Agenten wirklich verlässlich.

Häufige Fragen

Warum kann man einen KI-Agenten nicht wie normale Software testen?

Weil ein KI-Agent nicht deterministisch arbeitet: Auf dieselbe Eingabe kann er in Formulierung und Weg leicht unterschiedliche Antworten geben. Deshalb reicht es nicht, einen Fall einmal zu prüfen – man muss testen, ob das Ergebnis über viele ähnliche Fälle hinweg stabil und sicher bleibt. Außerdem gibt es oft nicht die eine richtige Antwort, sondern einen Bereich akzeptabler Antworten. Das Testen verschiebt sich damit von einem einfachen „richtig oder falsch“ zu „gut genug und sicher“.

Was ist ein Goldstandard beim Testen von KI-Agenten?

Ein Goldstandard ist eine Sammlung repräsentativer Testfälle mit jeweils erwarteter, von Menschen geprüfter Musterantwort. Gute Quellen sind echte vergangene Vorgänge wie alte E-Mails, reale Belege oder tatsächlich gestellte Kundenfragen. Die Sammlung sollte Normalfälle, Randfälle und bewusste Fallen enthalten, bei denen der Agent nichts tun und an einen Menschen übergeben sollte. Schon 30 bis 50 gut gewählte Fälle liefern ein belastbares Bild.

Welche Kriterien sind beim Testen wichtig?

Je nach Aufgabe zählen Korrektheit, Vollständigkeit, das sichere Erkennen von Fällen, die der Agent nicht bearbeiten sollte, und das Vermeiden erfundener Angaben. Für jedes Kriterium sollte vorab eine Zielmarke feststehen, etwa eine Mindestquote korrekter Normalfälle und die klare Vorgabe, dass keine Fakten erfunden werden. Erst wenn diese Marken erreicht sind, ist der Agent startbereit.

Ist das Testen mit dem Go-Live abgeschlossen?

Nein. Zwei Testarten begleiten den Betrieb dauerhaft: der Regressionstest, bei dem vor jeder Änderung der feste Testfall-Satz erneut durchläuft, um Verschlechterungen auszuschließen, und die laufende Stichprobe, bei der ein kleiner Anteil echter Vorgänge regelmäßig von Menschen nachkontrolliert wird. Erst das Zusammenspiel aus Test vor dem Start und Überwachung danach macht einen Agenten verlässlich.

KI-Agent im Vertrieb: Leads qualifizieren und recherchieren

Im Vertrieb entscheidet oft die Geschwindigkeit: Wer eine Anfrage zuerst und gut vorbereitet beantwortet, gewinnt häufiger den Auftrag. Genau hier setzen KI-Agenten an. Sie ersetzen keine Verkäuferin und keinen Verkäufer, aber sie übernehmen die zeitraubende Vorarbeit – Anfragen sortieren, Interessenten recherchieren, Informationen zusammentragen – damit sich das Team auf das konzentrieren kann, was Menschen besser können: Beziehungen aufbauen und verhandeln. Dieser Ratgeber zeigt konkret, wo ein KI-Agent im Vertrieb heute realistisch hilft und wo seine Grenzen liegen.

Drei Aufgaben, bei denen ein Vertriebs-Agent stark ist

Erstens: Leads qualifizieren. Nicht jede Anfrage ist gleich wertvoll. Ein Agent kann eingehende Anfragen anhand vorab definierter Kriterien einordnen – etwa Unternehmensgröße, Branche, geäußerter Bedarf und Region – und sie in eine Reihenfolge bringen. So landet die vielversprechende Anfrage sofort beim richtigen Menschen, statt in einer langen Liste unterzugehen.

Zweitens: Interessenten recherchieren. Vor einem Erstgespräch will man wissen, mit wem man es zu tun hat. Ein Agent stellt öffentlich verfügbare Informationen strukturiert zusammen: Was macht das Unternehmen, wie groß ist es ungefähr, gibt es einen erkennbaren Anlass für den Kontakt? Wichtig dabei ist, dass er seine Quellen nennt und nichts erfindet – das Prinzip dahinter erklärt der Beitrag KI-Agent für Recherche und Marktbeobachtung.

Drittens: Nachfassen strukturieren. Viele Abschlüsse gehen schlicht verloren, weil niemand rechtzeitig nachhakt. Ein Agent kann Fristen im Blick behalten, an offene Angebote erinnern und Entwürfe für Folgenachrichten vorbereiten – die dann ein Mensch prüft und freigibt.

Was ein KI-Agent im Vertrieb nicht leisten sollte

Die Grenze verläuft dort, wo aus Vorbereitung eine Entscheidung oder eine echte Beziehung wird. Ein Agent sollte keine verbindlichen Zusagen machen, keine Preise autonom verhandeln und keine Verträge abschließen. Er sollte auch nicht ungeprüft im Namen des Unternehmens an Kunden schreiben. Der Grund ist einfach: Ein Sprachmodell arbeitet mit Wahrscheinlichkeiten und kann überzeugend klingende, aber falsche Aussagen treffen. Im Vertrieb wäre das doppelt teuer – finanziell und für das Vertrauen. Deshalb gilt das Prinzip der menschlichen Freigabe bei allem, was nach außen geht; ausführlich beschrieben im Beitrag Mensch-in-the-Loop.

Datenschutz: der wunde Punkt im Vertrieb

Vertriebsdaten sind fast immer personenbezogene Daten – Namen, Kontaktdaten, Gesprächsnotizen. Damit gilt die DSGVO in vollem Umfang. Drei Punkte sind besonders wichtig:

• Rechtsgrundlage: Für die Ansprache und Verarbeitung braucht es eine tragfähige Grundlage, etwa berechtigtes Interesse oder Einwilligung. Ein Agent darf nicht wahllos Datenquellen zusammenführen, für die keine Grundlage besteht.
• Datensparsamkeit: Der Agent sollte nur die Daten sehen, die er für seine Aufgabe braucht – nicht den gesamten CRM-Bestand.
• Transparenz und Protokoll: Es sollte nachvollziehbar bleiben, welche Daten der Agent genutzt und welche Vorschläge er gemacht hat.

Wie sich das sauber umsetzen lässt, vertieft der Leitfaden KI-Agenten DSGVO-konform einsetzen. Wer diesen Punkt überspringt, riskiert nicht nur Bußgelder, sondern auch den Ruf beim Kunden.

Größenordnung von Nutzen und Aufwand

Belastbare, allgemeingültige Prozentzahlen zum Umsatzplus gibt es nicht – sie hingen von Branche, Angebot und Ausgangslage ab und wären unseriös. Realistisch benennen lässt sich dagegen die Art des Nutzens: Der größte Hebel liegt meist in der schnelleren Reaktionszeit auf neue Anfragen und in der Entlastung von Routinerecherche. Wenn das Team weniger Zeit mit Sortieren und Zusammensuchen verbringt, bleibt mehr Zeit für Gespräche. Der Einrichtungsaufwand ist überschaubar, wenn ein CRM mit sauberen Daten vorhanden ist; er steigt deutlich, wenn Daten über viele Systeme verstreut und uneinheitlich sind. Deshalb steht am Anfang immer eine ehrliche Bestandsaufnahme – eine erste Orientierung bietet der Readiness-Check.

Ein realistischer Einstieg im Vertrieb

Bewährt hat sich der schmale, klar begrenzte Start. Wählen Sie einen einzelnen, häufigen Vorgang – zum Beispiel das Qualifizieren eingehender Web-Anfragen – und lassen Sie den Agenten dort zunächst nur Vorschläge machen, die ein Mensch bestätigt. So sammeln Sie Erfahrung, ohne Risiko einzugehen, und sehen an echten Fällen, wie gut die Einordnung trifft. Erst wenn die Trefferquote überzeugt, weiten Sie den Einsatz aus. Wie ein solcher Pilot Schritt für Schritt abläuft, zeigt der Beitrag KI-Agent einführen. Dieser vorsichtige Weg kostet ein paar Wochen mehr, verhindert aber genau die Enttäuschungen, an denen überambitionierte Projekte scheitern.

Häufige Fragen

Kann ein KI-Agent im Vertrieb selbstständig verkaufen?

Nein, und das sollte er auch nicht. Ein KI-Agent eignet sich für die Vorarbeit: Anfragen qualifizieren, Interessenten recherchieren und Nachfass-Aktionen strukturieren. Verbindliche Zusagen, Preisverhandlungen und Vertragsabschlüsse gehören in menschliche Hand. Der Grund ist, dass ein Sprachmodell mit Wahrscheinlichkeiten arbeitet und überzeugend klingende, aber falsche Aussagen treffen kann – im Vertrieb wäre das für Umsatz und Vertrauen gleichermaßen riskant.

Wie qualifiziert ein KI-Agent Leads?

Der Agent ordnet eingehende Anfragen anhand vorab festgelegter Kriterien ein, etwa Unternehmensgröße, Branche, geäußerter Bedarf und Region, und bringt sie in eine sinnvolle Reihenfolge. So landet die vielversprechende Anfrage schnell beim richtigen Menschen, statt in einer langen Liste unterzugehen. Die Kriterien legt das Unternehmen selbst fest – der Agent wendet sie nur konsequent und schnell an.

Ist der Einsatz eines Vertriebs-Agenten DSGVO-konform möglich?

Ja, wenn einige Punkte eingehalten werden. Vertriebsdaten sind fast immer personenbezogen, daher braucht es eine tragfähige Rechtsgrundlage wie berechtigtes Interesse oder Einwilligung, den Grundsatz der Datensparsamkeit und ein nachvollziehbares Protokoll der genutzten Daten. Der Agent sollte nur die Daten sehen, die er für seine Aufgabe wirklich braucht. Ein sauberes Datenschutzkonzept ist damit Voraussetzung, kein nachträglicher Zusatz.

Wie steigt man im Vertrieb sinnvoll ein?

Mit einem schmalen, klar begrenzten Anwendungsfall, zum Beispiel dem Qualifizieren eingehender Web-Anfragen. Der Agent macht dabei zunächst nur Vorschläge, die ein Mensch bestätigt. So sammelt man an echten Fällen Erfahrung ohne Risiko und sieht, wie gut die Einordnung trifft. Erst wenn die Trefferquote überzeugt, weitet man den Einsatz schrittweise aus.

Multi-Agenten-Systeme: wenn KI-Agenten im Team arbeiten

Die meisten KI-Agenten im Mittelstand sind Einzelgänger: Ein Agent liest Rechnungen aus, ein anderer beantwortet E-Mails. Sobald eine Aufgabe aber aus mehreren, sehr unterschiedlichen Schritten besteht, stößt ein einzelner Alleskönner an Grenzen. Die Antwort darauf heißt Multi-Agenten-System – mehrere spezialisierte Agenten, die zusammenarbeiten wie ein kleines Team. Dieser Ratgeber erklärt verständlich, wie das funktioniert, wann es sich lohnt und wo die Fallstricke liegen.

Was ist ein Multi-Agenten-System?

Ein Multi-Agenten-System ist eine Anordnung, in der mehrere KI-Agenten mit jeweils eigener Aufgabe an einem gemeinsamen Ziel arbeiten und dabei Informationen austauschen. Statt einen einzigen Agenten mit allem zu beauftragen, zerlegt man die Aufgabe in Teilrollen. Jeder Agent bekommt einen klar umrissenen Zuständigkeitsbereich, passende Werkzeuge und nur die Daten, die er wirklich braucht.

Die Analogie zum Büro trägt weit: In einem gut organisierten Team fragt man den Buchhalter nicht nach juristischem Rat und die Rechtsabteilung nicht nach der Steuererklärung. Genau diese Arbeitsteilung bildet ein Multi-Agenten-System nach. Um zu verstehen, was ein einzelner solcher Agent überhaupt kann, hilft der Beitrag Wie funktioniert ein KI-Agent? als Grundlage.

Typische Bauformen

In der Praxis haben sich einige wiederkehrende Muster herausgebildet:

• Orchestrator und Spezialisten: Ein koordinierender Agent nimmt die Aufgabe entgegen, teilt sie auf und delegiert an spezialisierte Agenten – etwa einen für Recherche, einen für das Verfassen, einen für die Prüfung. Er führt die Ergebnisse am Ende zusammen. Dies ist die häufigste und meist robusteste Form.
• Fließband (Pipeline): Die Agenten sind hintereinandergeschaltet. Das Ergebnis des ersten ist die Eingabe des zweiten und so weiter. Geeignet für klar sequenzielle Abläufe, etwa: extrahieren, dann prüfen, dann ablegen.
• Prüfer-Prinzip: Ein Agent erledigt die Arbeit, ein zweiter kontrolliert sie kritisch gegen. Diese Trennung von Ausführung und Kontrolle senkt die Fehlerquote spürbar, weil der Prüfer nicht in dieselbe Denkfalle läuft wie der Bearbeiter.

Wann lohnt sich der Mehraufwand?

Mehrere Agenten sind kein Selbstzweck. Sie bringen erst dann Vorteile, wenn die Aufgabe es rechtfertigt. Sinnvoll wird die Aufteilung typischerweise, wenn eine der folgenden Bedingungen zutrifft:

• Die Aufgabe umfasst deutlich verschiedene Fähigkeiten, die je eigene Werkzeuge und eigenes Kontextwissen brauchen.
• Man will Ausführung und Kontrolle bewusst trennen, um Fehler früher zu fangen.
• Einzelne Teilschritte sollen getrennt getestet, ausgetauscht oder abgeschaltet werden können.
• Aus Datenschutzgründen soll ein Agent nur einen eng begrenzten Datenausschnitt sehen.

Umgekehrt gilt: Lässt sich eine Aufgabe zuverlässig mit einem einzelnen, gut angeleiteten Agenten lösen, ist das fast immer die bessere Wahl. Jeder zusätzliche Agent bringt neue Übergabepunkte, an denen Informationen verloren gehen oder Missverständnisse entstehen können.

Die unterschätzten Risiken

Ein Team aus Agenten erbt nicht nur die Stärken, sondern auch die Schwächen jedes Mitglieds – und ergänzt eigene. Drei Punkte sind besonders wichtig:

Fehler pflanzen sich fort. Wenn der erste Agent eine falsche Annahme trifft und der zweite darauf aufbaut, verstärkt sich der Fehler, statt sich zu korrigieren. Ohne Prüfschritte kann ein kleiner Anfangsfehler am Ende zu einem großen werden. Der Umgang mit solchen Fehlern und passende Leitplanken sind Thema im Beitrag Halluzinationen und Guardrails.

Kosten und Dauer steigen. Jeder Agent verursacht eigene Rechenkosten und eigene Wartezeit. Ein Vorgang, der über fünf Agenten läuft, kann leicht das Mehrfache eines einzelnen Durchlaufs kosten und deutlich länger dauern. Diese Größenordnung sollte man vor dem Bau kennen.

Nachvollziehbarkeit wird schwerer. Bei einem einzelnen Agenten ist die Fehlersuche überschaubar. Bei fünf zusammenarbeitenden Agenten muss man erst herausfinden, welcher die falsche Weiche gestellt hat. Ein durchgängiges Protokoll über alle Agenten hinweg ist deshalb keine Kür, sondern Voraussetzung – wie im Ratgeber zu Monitoring und Observability beschrieben.

Ein realistischer Einstieg

Für den Mittelstand empfiehlt sich ein nüchterner Weg: Fast jede Aufgabe sollte zuerst mit einem einzelnen Agenten versucht werden. Erst wenn dieser nachweislich an einer klar benennbaren Stelle scheitert, teilt man gezielt genau dort auf – meist beginnend mit dem Prüfer-Prinzip, weil es den größten Qualitätsgewinn bei geringstem Zusatzaufwand bringt. Der Ausbau zu einem echten Orchestrator-Modell ist dann ein späterer, bewusster Schritt und keine Grundsatzentscheidung am Anfang. So bleibt das System wartbar und die Kosten kontrollierbar. Wie eine solche schrittweise Einführung insgesamt abläuft, zeigt der Beitrag KI-Agent einführen.

Häufige Fragen

Was ist ein Multi-Agenten-System einfach erklärt?

Es ist eine Anordnung mehrerer KI-Agenten, die jeweils eine eigene Teilaufgabe übernehmen und zusammen an einem Ziel arbeiten – ähnlich einem kleinen Team mit klarer Arbeitsteilung. Statt einen Alleskönner mit allem zu beauftragen, bekommt jeder Agent einen abgegrenzten Zuständigkeitsbereich, passende Werkzeuge und nur die Daten, die er wirklich braucht. Sie tauschen Zwischenergebnisse aus und ein koordinierender Teil führt sie am Ende zusammen.

Wann ist ein einzelner Agent besser als mehrere?

Immer dann, wenn sich die Aufgabe zuverlässig mit einem einzelnen, gut angeleiteten Agenten lösen lässt. Jeder zusätzliche Agent schafft neue Übergabepunkte, an denen Informationen verloren gehen können, und erhöht Kosten und Bearbeitungsdauer. Mehrere Agenten lohnen sich erst, wenn die Aufgabe deutlich verschiedene Fähigkeiten verlangt oder man Ausführung und Kontrolle bewusst trennen will.

Welche Risiken haben Multi-Agenten-Systeme?

Drei Risiken stechen hervor: Fehler eines Agenten können sich fortpflanzen und verstärken, wenn nachfolgende Agenten darauf aufbauen. Kosten und Dauer steigen, weil jeder Agent eigene Rechenzeit verursacht. Und die Nachvollziehbarkeit wird schwerer, weil man bei einem Fehler erst herausfinden muss, welcher Agent ihn verursacht hat. Prüfschritte und ein durchgängiges Protokoll über alle Agenten hinweg sind deshalb notwendig.

Wie steigt man am besten in Multi-Agenten-Systeme ein?

Zuerst jede Aufgabe mit einem einzelnen Agenten versuchen. Scheitert er nachweislich an einer klar benennbaren Stelle, teilt man gezielt dort auf – oft beginnend mit dem Prüfer-Prinzip, bei dem ein zweiter Agent die Arbeit des ersten kontrolliert. Das bringt den größten Qualitätsgewinn bei geringem Zusatzaufwand. Ein voll ausgebautes Orchestrator-Modell ist ein späterer, bewusster Schritt und keine Grundsatzentscheidung zu Beginn.

KI-Agenten überwachen: Monitoring und Observability

Ein KI-Agent, der im Testlauf überzeugt, kann im Alltag trotzdem stillschweigend schlechter werden: Eingangsdaten ändern sich, eine angebundene Schnittstelle antwortet langsamer, ein Textbaustein wird veraltet. Wer einen Agenten produktiv einsetzt, braucht deshalb dieselbe Selbstverständlichkeit wie bei jeder anderen betrieblichen Software – nämlich zu wissen, was er gerade tut, wie gut er es tut und wann jemand eingreifen muss. Genau das leistet Monitoring, und die etwas tiefere Variante davon nennt man Observability. Dieser Ratgeber erklärt, worauf es dabei im Mittelstand praktisch ankommt.

Monitoring und Observability – wo liegt der Unterschied?

Die beiden Begriffe werden oft synonym verwendet, meinen aber unterschiedliche Tiefen. Monitoring beantwortet die Frage: Läuft der Agent, und stimmen die Kennzahlen? Es beobachtet vorab definierte Messwerte und schlägt Alarm, wenn ein Schwellenwert überschritten wird – etwa wenn die Fehlerquote steigt oder eine Antwortzeit ausreißt.

Observability geht weiter. Sie beantwortet die Frage: Warum hat sich der Agent so verhalten? Dafür genügt es nicht, nur Zahlen zu zählen. Man muss den einzelnen Vorgang nachvollziehen können: Welche Eingabe kam herein, welche Werkzeuge hat der Agent aufgerufen, welche Zwischenergebnisse entstanden, welche Entscheidung wurde am Ende getroffen. Ein Agent trifft Entscheidungen auf Basis von Wahrscheinlichkeiten – deshalb reicht es nicht, nur das Ergebnis zu sehen. Man muss den Weg dorthin rekonstruieren können. Wie ein Agent intern arbeitet und Werkzeuge nutzt, ist im Beitrag Function Calling ausführlich beschrieben.

Diese vier Signalarten sollten Sie erfassen

Ein belastbares Monitoring stützt sich nicht auf ein Bauchgefühl, sondern auf konkrete Signale. In der Praxis haben sich vier Gruppen bewährt:

• Betriebssignale: Läuft der Agent überhaupt? Wie viele Vorgänge bearbeitet er pro Stunde, wie lange dauert ein Durchlauf, wie oft brechen Aufrufe ab? Das ist die klassische Technik-Ebene und deckt Ausfälle schnell auf.
• Qualitätssignale: Wie gut sind die Ergebnisse? Dazu zählen die Quote der Fälle, die ohne menschliche Korrektur durchlaufen, die Häufigkeit von Rückfragen und die Fehler, die in der Freigabe auffallen.
• Kostensignale: Jeder Vorgang verursacht Rechenkosten, meist abgerechnet nach verarbeiteten Texteinheiten (Token). Ein Agent, der plötzlich das Dreifache verbraucht, ist ein Warnzeichen – technisch wie finanziell.
• Sicherheits- und Compliance-Signale: Wurde eine Aktion ohne die vorgesehene Freigabe ausgeführt? Hat der Agent auf Daten zugegriffen, die außerhalb seines Auftrags liegen? Solche Ereignisse gehören lückenlos protokolliert.

Das Protokoll ist das Herzstück

Ohne ein nachvollziehbares Protokoll bleibt jede Auswertung Stückwerk. Für jeden Vorgang sollte festgehalten werden: der Auslöser, die relevanten Eingabedaten, jeder Werkzeug-Aufruf mit Ergebnis, die getroffene Entscheidung und – falls vorhanden – wer sie freigegeben hat. Dieses Protokoll erfüllt gleich drei Zwecke: Es macht Fehler analysierbar, es liefert im Zweifel den Nachweis gegenüber Kunden oder Prüfern, und es ist die Grundlage, um den Agenten überhaupt verbessern zu können.

Wichtig ist der datenschutzkonforme Umgang damit. Protokolle enthalten häufig personenbezogene Daten, für die Löschfristen, Zugriffsbeschränkungen und ein Verarbeitungszweck gelten. Wie das sauber gelingt, behandelt der Beitrag Datensicherheit bei KI-Agenten.

Von der Beobachtung zum Eingriff: Schwellen und Alarme

Daten zu sammeln nützt nur, wenn daraus rechtzeitig eine Handlung folgt. Legen Sie deshalb vorab fest, welche Werte normal sind und ab wann jemand informiert wird. Beispiele: Fällt die Quote der automatisch abgeschlossenen Vorgänge unter eine definierte Grenze, geht eine Meldung an die verantwortliche Person. Steigt die Token-Menge je Vorgang deutlich, wird eine Prüfung ausgelöst. Häuft sich ein bestimmter Fehlertyp, pausiert der Agent für diesen Fall automatisch und legt ihn dem Menschen vor.

Dieses Sicherheitsnetz greift ineinander mit dem Prinzip, kritische Entscheidungen ohnehin durch einen Menschen freigeben zu lassen. Die Grundlagen dazu erklärt Mensch-in-the-Loop. Monitoring und Freigabeschleifen sind keine Konkurrenz, sondern zwei Schichten desselben Sicherheitsgedankens.

Warum Agenten „driften“ – und wie Sie es bemerken

Ein häufig unterschätztes Phänomen ist die schleichende Verschlechterung, oft „Drift“ genannt. Der Agent selbst ändert sich nicht, aber seine Umwelt schon: Kunden formulieren Anliegen anders, neue Produktnamen tauchen auf, eine Datenquelle liefert plötzlich ein verändertes Format. Ohne Monitoring bemerkt man das erst, wenn sich Beschwerden häufen. Mit einem festen Satz wiederkehrender Testfälle – die man regelmäßig gegen den laufenden Agenten prüft – fällt eine Verschlechterung dagegen früh auf. Dieser Ansatz überschneidet sich mit der Qualitätssicherung vor dem Start, die der Beitrag zum Umgang mit Halluzinationen und Guardrails vertieft.

Realistischer Aufwand für den Mittelstand

Man braucht für den Anfang kein teures Spezialwerkzeug. Für einen einzelnen Agenten mit überschaubarem Volumen genügt oft ein strukturiertes Protokoll in einer Datenbank plus eine wöchentliche Auswertung der vier Signalgruppen und wenige automatische Alarme bei klaren Grenzwerten. Der Aufwand liegt dann eher im Einrichten der Kennzahlen als in der Technik. Erst wenn mehrere Agenten mit hohem Volumen laufen, lohnt sich eine spezialisierte Observability-Plattform. Die Faustregel: Der Überwachungsaufwand sollte im Verhältnis zum Schaden stehen, den ein unbemerkter Fehler anrichten würde – bei einer Rechnungsfreigabe ist er höher als bei einer internen Textzusammenfassung.

Häufige Fragen

Was ist der Unterschied zwischen Monitoring und Observability?

Monitoring beobachtet vorab festgelegte Kennzahlen und schlägt Alarm, wenn ein Schwellenwert überschritten wird – es beantwortet die Frage, ob alles läuft. Observability geht tiefer und macht den einzelnen Vorgang nachvollziehbar, sodass man rekonstruieren kann, warum sich der Agent so verhalten hat. In der Praxis braucht man beides: Kennzahlen für den schnellen Überblick und detaillierte Protokolle für die Ursachenanalyse.

Welche Kennzahlen sollte ich bei einem KI-Agenten überwachen?

Bewährt haben sich vier Gruppen: Betriebssignale wie Durchsatz und Antwortzeit, Qualitätssignale wie die Quote der ohne Korrektur durchlaufenden Fälle, Kostensignale wie der Verbrauch je Vorgang und Sicherheitssignale wie Aktionen ohne die vorgesehene Freigabe. Wichtig ist nicht die Menge der Kennzahlen, sondern dass zu jeder ein normaler Bereich und eine klare Grenze definiert sind, ab der jemand informiert wird.

Was bedeutet „Drift“ bei einem KI-Agenten?

Drift beschreibt eine schleichende Verschlechterung der Ergebnisse, ohne dass sich der Agent selbst geändert hätte. Ursache ist meist eine veränderte Umwelt: andere Formulierungen der Nutzer, neue Begriffe oder ein geändertes Datenformat einer Quelle. Erkennen lässt sich Drift am zuverlässigsten mit einem festen Satz wiederkehrender Testfälle, die man regelmäßig gegen den laufenden Agenten prüft.

Braucht ein kleines Unternehmen dafür teure Spezialsoftware?

Für den Einstieg meist nicht. Ein sauber strukturiertes Protokoll, eine regelmäßige Auswertung der wichtigsten Signale und wenige automatische Alarme bei klaren Grenzwerten reichen bei einem einzelnen Agenten aus. Eine spezialisierte Observability-Plattform lohnt sich erst, wenn mehrere Agenten mit hohem Volumen laufen. Als Maßstab gilt: Der Überwachungsaufwand sollte zum möglichen Schaden eines unbemerkten Fehlers passen.