Ressourcen
Der Entwicklungslebenszyklus von KI-Agenten: Phasen, Evals und Guardrails
Einen KI-Agenten zu bauen ist etwas anderes, als ein gewöhnliches Feature auszuliefern. Der Output ist probabilistisch, die Tools haben echte Nebenwirkungen, und Qualität misst man mit Evals, nicht nur mit Tests. Hier ist der Lebenszyklus, der in Produktion hält.
Der Entwicklungslebenszyklus von KI-Agenten ist der Prozess, mit dem man Agenten baut, ausliefert und betreibt: Aufgabe und Erfolgskriterien definieren, Modell und Tools wählen, Prompts, Tools und Gedächtnis bauen, mit Offline-Evals und Red-Teaming evaluieren, mit Guardrails und menschlicher Freigabe ausrollen, dann überwachen und iterieren. Er unterscheidet sich vom klassischen SDLC, weil Agentenverhalten probabilistisch ist: Evals und Laufzeit-Guardrails übernehmen vieles, was früher feste Tests garantierten.
Veröffentlicht 2026-11-11 · Zuletzt aktualisiert 2026-11-11 · Automo-Redaktionsteam
Was den Agenten-Lebenszyklus anders macht
Diese Seite handelt vom Bau der Agenten selbst: Support-Agenten, interne Copilots, Recherche- oder Operations-Agenten, die im Auftrag von jemandem Tools aufrufen. Wenn ihr wissen wollt, wie KI den Lebenszyklus gewöhnlicher Software verändert, lest KI im SDLC. Die Definition eines von Agenten getragenen Lebenszyklus findet ihr unter Was ist ein KI-SDLC.
Drei Fakten unterscheiden Agentenarbeit. Derselbe Input kann unterschiedliche Outputs erzeugen, ein einzelner grüner Durchlauf beweist also wenig. Agenten handeln über Tools, eine falsche Antwort kann also zu einer falschen Aktion werden: eine ausgelöste Erstattung, ein gelöschter Datensatz, eine verschickte E-Mail. Und die Qualität driftet nach dem Launch, weil sich Modelle, Prompts, Daten und Nutzerverhalten ändern. Der folgende Lebenszyklus ist um diese drei Fakten gebaut.
Sechs Phasen des Agenten-Lebenszyklus
Beim ersten Mal laufen die Phasen der Reihe nach, danach als Schleife. Jeder Fehler in Produktion wird zu einem neuen Eval-Fall, und jede Änderung am Eval-Set schickt den Agenten zurück durch die Phasen vier bis sechs.
1. Aufgabe und Erfolgskriterien definieren
Schreibt die Aufgabe auf, die Nutzer, was der Agent darf und was nicht, und woran ihr erkennt, dass er funktioniert: Ziel-Erfolgsquote, akzeptable Fehlerarten, Latenz und Kosten pro Aufgabe. Sammelt jetzt 30 bis 100 echte Beispiele. Sie werden euer erstes Eval-Set.
2. Modell und Tools wählen
Nehmt das kleinste Modell, das die Latte bei euren Beispielen schafft, und die minimale Menge an Tools, die die Aufgabe braucht. Jedes Tool ist eine Berechtigung. Startet nur lesend; alles, was schreibt, zahlt oder verschickt, bekommt einen engen Scope.
3. Prompts, Tools und Gedächtnis bauen
Schreibt System-Prompt und Tool-Beschreibungen, ergänzt Retrieval oder Gedächtnis nur dort, wo die Aufgabe Kontext braucht, und versioniert alles wie Code. Eine Prompt-Änderung ist eine Code-Änderung und verdient Review und Historie.
4. Mit Offline-Evals und Red-Teaming evaluieren
Lasst den Agenten bei jeder Änderung gegen das Eval-Set laufen und bewertet Aufgabenerfolg, korrekte Tool-Aufrufe, Sicherheit und Kosten. Ergänzt Angriffsfälle wie Prompt Injection, Anfragen außerhalb des Auftrags und Versuche, Daten abzuziehen. Eine Änderung, die den Score senkt, wird nicht ausgeliefert.
5. Mit Guardrails und menschlicher Freigabe ausrollen
Veröffentlicht hinter Input- und Output-Filtern, Rate- und Ausgabelimits und eng gefassten Zugangsdaten. Verlangt menschliche Freigabe für unumkehrbare oder teure Aktionen, bis Evals und Produktionsdaten mehr Autonomie rechtfertigen. Startet mit einem kleinen Teil des Traffics.
6. Überwachen und iterieren
Loggt jeden Lauf mit seinen Tool-Aufrufen, prüft Stichproben von Gesprächen, verfolgt Kosten, Latenz und Eskalationsquoten und macht aus echten Fehlern neue Eval-Fälle. Das Eval-Set sollte jede Woche wachsen, in der der Agent live ist.
Der Agenten-Lebenszyklus auf einen Blick
| Phase | Wichtigstes Ergebnis | Menschlicher Checkpoint | Hauptrisiko |
|---|---|---|---|
| Definieren | Aufgabenbeschreibung, Erfolgsmetriken, erste Beispiele | Freigabe von Umfang und Grenzen | Vage Ziele, die niemand testen kann |
| Modell und Tools | Modellwahl, Tool-Liste mit Scopes | Freigabe jeder Schreibberechtigung | Übermächtige Tools |
| Bauen | Versionierte Prompts, Tools und Gedächtnis | Review von Prompt- und Tool-Änderungen | Ungetrackte Prompt-Änderungen |
| Evaluieren | Eval-Scores und Red-Team-Befunde | Entscheidung über die Release-Latte | Ausliefern nach ein paar guten Demos |
| Ausrollen | Guardrails, Limits und Freigabe-Gates | Freigabe riskanter Aktionen | Unumkehrbare Aktionen ohne Prüfung |
| Überwachen | Traces, Kostendaten, neue Eval-Fälle | Wöchentliche Fehlerdurchsicht | Stille Qualitätsdrift |
Evals und Guardrails sind das Rückgrat
Im klassischen SDLC sagen Tests, ob Code tut, was er soll. Bei Agenten übernehmen Evals diese Rolle, aber sie bewerten Verteilungen statt einzelner Antworten. Pflegt drei Arten: ein Regressions-Set mit echten Aufgaben, ein Angriffs-Set für Red-Teaming und ein kleines Golden Set, das eine Fachexpertin prüft. Lasst sie bei jeder Änderung an Prompt, Modell oder Tool laufen, so wie CI bei jedem Commit die Tests fährt.
Guardrails decken ab, was Evals nicht vorhersehen. Sie wirken zur Laufzeit: was der Agent aufrufen darf, wie viel er ausgeben kann, welche Aktionen auf einen Menschen warten. Der Agent, der eine Erstattung vorbereitet, sollte nicht derjenige sein, der sie freigibt. Diese Funktionstrennung ist dasselbe Prinzip, das in einem kontrollierten KI-SDLC menschliches Review vor den Merge stellt.
Wo Automo Build ins Spiel kommt
Die meisten Agenten werden als Feature in einer App ausgeliefert: ein Support-Assistent im Kundenportal, ein Freigabe-Agent in einem internen Tool. Mit Automo Build baut ihr diese App samt KI-Features aus einem Prompt, während die Plattform-Agenten den Code schreiben und testen und Reviewer-Agenten und Guardrails jede Änderung vor dem Merge prüfen. Der Agent, den ihr ausliefert, nimmt denselben geprüften Weg in Produktion wie der Rest der App.
Häufig gestellte Fragen
Was ist der Entwicklungslebenszyklus von KI-Agenten?
Der Prozess, mit dem man KI-Agenten baut und betreibt: Aufgabe und Erfolgskriterien definieren, Modell und Tools wählen, Prompts, Tools und Gedächtnis bauen, evaluieren, mit Guardrails und menschlicher Freigabe ausrollen, dann überwachen und iterieren.
Wie unterscheidet er sich vom SDLC?
Die Phasen ähneln sich, aber Agentenverhalten ist probabilistisch und Agenten handeln über Tools. Deshalb stehen Evals, Red-Teaming, Laufzeit-Guardrails und Monitoring im Zentrum, während sich ein klassischer SDLC vor allem auf deterministische Tests stützt.
Was sind Agent-Evals?
Wiederholbare Testsets, die Outputs und Tool-Aufrufe eines Agenten bei echten und feindlichen Aufgaben bewerten. Sie sichern Releases ab wie Unit-Tests Code-Änderungen und wachsen mit jedem Fehler, den die Produktion zeigt.
Wann braucht ein KI-Agent menschliche Freigabe?
Bei Aktionen, die unumkehrbar, teuer oder kundenwirksam sind: Zahlungen, Löschungen, ausgehende Nachrichten, Rechteänderungen. Behaltet die Freigabe dort, bis Eval-Ergebnisse und Produktionsdaten zeigen, dass der Agent sie zuverlässig beherrscht, und lockert sie dann Aktionstyp für Aktionstyp.