Ressourcen

Der Entwicklungslebenszyklus von KI-Agenten: Phasen, Evals und Guardrails

Einen KI-Agenten zu bauen ist etwas anderes, als ein gewöhnliches Feature auszuliefern. Der Output ist probabilistisch, die Tools haben echte Nebenwirkungen, und Qualität misst man mit Evals, nicht nur mit Tests. Hier ist der Lebenszyklus, der in Produktion hält.

Der Entwicklungslebenszyklus von KI-Agenten ist der Prozess, mit dem man Agenten baut, ausliefert und betreibt: Aufgabe und Erfolgskriterien definieren, Modell und Tools wählen, Prompts, Tools und Gedächtnis bauen, mit Offline-Evals und Red-Teaming evaluieren, mit Guardrails und menschlicher Freigabe ausrollen, dann überwachen und iterieren. Er unterscheidet sich vom klassischen SDLC, weil Agentenverhalten probabilistisch ist: Evals und Laufzeit-Guardrails übernehmen vieles, was früher feste Tests garantierten.

Ideal fürTeams, die KI-Agenten und Copilots bauenProdukt- und Engineering-Leads mit LLM-FeaturesAlle, die einen Release-Prozess für Agenten definieren

Veröffentlicht 2026-11-11 · Zuletzt aktualisiert 2026-11-11 · Automo-Redaktionsteam

Was den Agenten-Lebenszyklus anders macht

Diese Seite handelt vom Bau der Agenten selbst: Support-Agenten, interne Copilots, Recherche- oder Operations-Agenten, die im Auftrag von jemandem Tools aufrufen. Wenn ihr wissen wollt, wie KI den Lebenszyklus gewöhnlicher Software verändert, lest KI im SDLC. Die Definition eines von Agenten getragenen Lebenszyklus findet ihr unter Was ist ein KI-SDLC.

Drei Fakten unterscheiden Agentenarbeit. Derselbe Input kann unterschiedliche Outputs erzeugen, ein einzelner grüner Durchlauf beweist also wenig. Agenten handeln über Tools, eine falsche Antwort kann also zu einer falschen Aktion werden: eine ausgelöste Erstattung, ein gelöschter Datensatz, eine verschickte E-Mail. Und die Qualität driftet nach dem Launch, weil sich Modelle, Prompts, Daten und Nutzerverhalten ändern. Der folgende Lebenszyklus ist um diese drei Fakten gebaut.

Sechs Phasen des Agenten-Lebenszyklus

Beim ersten Mal laufen die Phasen der Reihe nach, danach als Schleife. Jeder Fehler in Produktion wird zu einem neuen Eval-Fall, und jede Änderung am Eval-Set schickt den Agenten zurück durch die Phasen vier bis sechs.

  1. 1. Aufgabe und Erfolgskriterien definieren

    Schreibt die Aufgabe auf, die Nutzer, was der Agent darf und was nicht, und woran ihr erkennt, dass er funktioniert: Ziel-Erfolgsquote, akzeptable Fehlerarten, Latenz und Kosten pro Aufgabe. Sammelt jetzt 30 bis 100 echte Beispiele. Sie werden euer erstes Eval-Set.

  2. 2. Modell und Tools wählen

    Nehmt das kleinste Modell, das die Latte bei euren Beispielen schafft, und die minimale Menge an Tools, die die Aufgabe braucht. Jedes Tool ist eine Berechtigung. Startet nur lesend; alles, was schreibt, zahlt oder verschickt, bekommt einen engen Scope.

  3. 3. Prompts, Tools und Gedächtnis bauen

    Schreibt System-Prompt und Tool-Beschreibungen, ergänzt Retrieval oder Gedächtnis nur dort, wo die Aufgabe Kontext braucht, und versioniert alles wie Code. Eine Prompt-Änderung ist eine Code-Änderung und verdient Review und Historie.

  4. 4. Mit Offline-Evals und Red-Teaming evaluieren

    Lasst den Agenten bei jeder Änderung gegen das Eval-Set laufen und bewertet Aufgabenerfolg, korrekte Tool-Aufrufe, Sicherheit und Kosten. Ergänzt Angriffsfälle wie Prompt Injection, Anfragen außerhalb des Auftrags und Versuche, Daten abzuziehen. Eine Änderung, die den Score senkt, wird nicht ausgeliefert.

  5. 5. Mit Guardrails und menschlicher Freigabe ausrollen

    Veröffentlicht hinter Input- und Output-Filtern, Rate- und Ausgabelimits und eng gefassten Zugangsdaten. Verlangt menschliche Freigabe für unumkehrbare oder teure Aktionen, bis Evals und Produktionsdaten mehr Autonomie rechtfertigen. Startet mit einem kleinen Teil des Traffics.

  6. 6. Überwachen und iterieren

    Loggt jeden Lauf mit seinen Tool-Aufrufen, prüft Stichproben von Gesprächen, verfolgt Kosten, Latenz und Eskalationsquoten und macht aus echten Fehlern neue Eval-Fälle. Das Eval-Set sollte jede Woche wachsen, in der der Agent live ist.

Der Agenten-Lebenszyklus auf einen Blick

PhaseWichtigstes ErgebnisMenschlicher CheckpointHauptrisiko
DefinierenAufgabenbeschreibung, Erfolgsmetriken, erste BeispieleFreigabe von Umfang und GrenzenVage Ziele, die niemand testen kann
Modell und ToolsModellwahl, Tool-Liste mit ScopesFreigabe jeder SchreibberechtigungÜbermächtige Tools
BauenVersionierte Prompts, Tools und GedächtnisReview von Prompt- und Tool-ÄnderungenUngetrackte Prompt-Änderungen
EvaluierenEval-Scores und Red-Team-BefundeEntscheidung über die Release-LatteAusliefern nach ein paar guten Demos
AusrollenGuardrails, Limits und Freigabe-GatesFreigabe riskanter AktionenUnumkehrbare Aktionen ohne Prüfung
ÜberwachenTraces, Kostendaten, neue Eval-FälleWöchentliche FehlerdurchsichtStille Qualitätsdrift

Evals und Guardrails sind das Rückgrat

Im klassischen SDLC sagen Tests, ob Code tut, was er soll. Bei Agenten übernehmen Evals diese Rolle, aber sie bewerten Verteilungen statt einzelner Antworten. Pflegt drei Arten: ein Regressions-Set mit echten Aufgaben, ein Angriffs-Set für Red-Teaming und ein kleines Golden Set, das eine Fachexpertin prüft. Lasst sie bei jeder Änderung an Prompt, Modell oder Tool laufen, so wie CI bei jedem Commit die Tests fährt.

Guardrails decken ab, was Evals nicht vorhersehen. Sie wirken zur Laufzeit: was der Agent aufrufen darf, wie viel er ausgeben kann, welche Aktionen auf einen Menschen warten. Der Agent, der eine Erstattung vorbereitet, sollte nicht derjenige sein, der sie freigibt. Diese Funktionstrennung ist dasselbe Prinzip, das in einem kontrollierten KI-SDLC menschliches Review vor den Merge stellt.

Wo Automo Build ins Spiel kommt

Die meisten Agenten werden als Feature in einer App ausgeliefert: ein Support-Assistent im Kundenportal, ein Freigabe-Agent in einem internen Tool. Mit Automo Build baut ihr diese App samt KI-Features aus einem Prompt, während die Plattform-Agenten den Code schreiben und testen und Reviewer-Agenten und Guardrails jede Änderung vor dem Merge prüfen. Der Agent, den ihr ausliefert, nimmt denselben geprüften Weg in Produktion wie der Rest der App.

Häufig gestellte Fragen

Was ist der Entwicklungslebenszyklus von KI-Agenten?

Der Prozess, mit dem man KI-Agenten baut und betreibt: Aufgabe und Erfolgskriterien definieren, Modell und Tools wählen, Prompts, Tools und Gedächtnis bauen, evaluieren, mit Guardrails und menschlicher Freigabe ausrollen, dann überwachen und iterieren.

Wie unterscheidet er sich vom SDLC?

Die Phasen ähneln sich, aber Agentenverhalten ist probabilistisch und Agenten handeln über Tools. Deshalb stehen Evals, Red-Teaming, Laufzeit-Guardrails und Monitoring im Zentrum, während sich ein klassischer SDLC vor allem auf deterministische Tests stützt.

Was sind Agent-Evals?

Wiederholbare Testsets, die Outputs und Tool-Aufrufe eines Agenten bei echten und feindlichen Aufgaben bewerten. Sie sichern Releases ab wie Unit-Tests Code-Änderungen und wachsen mit jedem Fehler, den die Produktion zeigt.

Wann braucht ein KI-Agent menschliche Freigabe?

Bei Aktionen, die unumkehrbar, teuer oder kundenwirksam sind: Zahlungen, Löschungen, ausgehende Nachrichten, Rechteänderungen. Behaltet die Freigabe dort, bis Eval-Ergebnisse und Produktionsdaten zeigen, dass der Agent sie zuverlässig beherrscht, und lockert sie dann Aktionstyp für Aktionstyp.

Verwandte Seiten

Bau die Software, auf die du früher warten musstest.

KI-Agenten-Lebenszyklus: Phasen, Evals, Guardrails | Automo