Learn

De levenscyclus van AI-agentontwikkeling: fasen, evals en guardrails

Een AI-agent bouwen is iets anders dan een gewone feature uitrollen. De output is probabilistisch, de tools hebben echte gevolgen en kwaliteit meet je met evals, niet alleen met tests. Dit is de levenscyclus die standhoudt in productie.

De levenscyclus van AI-agentontwikkeling is het proces om AI-agents te bouwen, uit te rollen en te beheren: de taak en succescriteria definiëren, model en tools kiezen, prompts, tools en geheugen bouwen, evalueren met offline evals en red teaming, uitrollen met guardrails en menselijke goedkeuring, en daarna monitoren en itereren. Hij verschilt van een klassieke SDLC omdat agentgedrag probabilistisch is, dus evals en runtime-guardrails nemen veel over van wat vaste tests vroeger garandeerden.

Ideaal voorTeams die AI-agents en copilots bouwenProduct- en engineeringleads met LLM-featuresIedereen die een releaseproces voor agents opzet

Gepubliceerd 2026-11-11 · Laatst bijgewerkt 2026-11-11 · Automo-redactieteam

Wat de levenscyclus van een agent anders maakt

Deze pagina gaat over het bouwen van agents zelf: supportagents, interne copilots, onderzoeks- of operations-agents die namens iemand tools aanroepen. Wil je weten hoe AI de lifecycle van gewone software verandert, lees dan AI in de SDLC. Voor de definitie van een lifecycle die door agents wordt gedragen, zie Wat is een AI-SDLC.

Drie feiten maken agentwerk anders. Dezelfde input kan verschillende output geven, dus één geslaagde run bewijst weinig. Agents handelen via tools, dus een fout antwoord kan een foute actie worden: een terugbetaling uitgevoerd, een record verwijderd, een e-mail verstuurd. En de kwaliteit verschuift na de lancering, omdat modellen, prompts, data en gebruikersgedrag veranderen. De levenscyclus hieronder is rond die drie feiten gebouwd.

Zes fasen van de agent-levenscyclus

De eerste keer volgen de fasen elkaar op, daarna worden ze een lus. Elke fout in productie wordt een nieuw eval-geval, en elke wijziging in de evals stuurt de agent terug door fase vier tot en met zes.

  1. 1. Taak en succescriteria definiëren

    Schrijf de taak op, de gebruikers, wat de agent wel en niet mag, en hoe je weet dat hij werkt: beoogd slagingspercentage, acceptabele fouttypes, latency en kosten per taak. Verzamel nu 30 tot 100 echte voorbeelden. Die worden je eerste eval-set.

  2. 2. Model en tools kiezen

    Kies het kleinste model dat de lat haalt op je voorbeelden, en de minimale set tools die de taak nodig heeft. Elke tool is een bevoegdheid. Begin met alleen-lezen; alles wat schrijft, betaalt of verstuurt krijgt een smalle scope.

  3. 3. Prompts, tools en geheugen bouwen

    Schrijf de systeemprompt en toolbeschrijvingen, voeg retrieval of geheugen alleen toe waar de taak context nodig heeft, en versioneer alles zoals code. Een promptwijziging is een codewijziging en verdient review en historie.

  4. 4. Evalueren met offline evals en red teaming

    Draai de agent bij elke wijziging tegen de eval-set en scoor taaksucces, correcte toolaanroepen, veiligheid en kosten. Voeg aanvalsgevallen toe zoals prompt injection, verzoeken buiten scope en pogingen om data weg te sluizen. Een wijziging die de score verlaagt, gaat niet live.

  5. 5. Uitrollen met guardrails en menselijke goedkeuring

    Publiceer achter input- en outputfilters, rate- en uitgavelimieten en credentials met een smalle scope. Vraag menselijke goedkeuring voor onomkeerbare of waardevolle acties tot evals en productiedata meer autonomie rechtvaardigen. Begin met een klein deel van het verkeer.

  6. 6. Monitoren en itereren

    Log elke run met zijn toolaanroepen, bekijk een steekproef van gesprekken, volg kosten, latency en escalatiepercentages, en maak van echte fouten nieuwe eval-gevallen. De eval-set hoort elke week te groeien dat de agent live is.

De agent-levenscyclus in één oogopslag

FaseBelangrijkste outputMenselijk controlepuntGrootste risico
DefiniërenTaakspecificatie, succesmetrics, eerste voorbeeldenAkkoord op scope en grenzenVage doelen die niemand kan testen
Model en toolsModelkeuze, toollijst met scopesGoedkeuring van elke schrijfbevoegdheidTe machtige tools
BouwenGeversioneerde prompts, tools en geheugenReview van prompt- en toolwijzigingenOngeregistreerde promptwijzigingen
EvaluerenEval-scores en red-teamingbevindingenBesluit over de releaselatLive gaan na een paar mooie demo's
UitrollenGuardrails, limieten en goedkeuringspuntenGoedkeuring van risicovolle actiesOnomkeerbare acties zonder controle
MonitorenTraces, kostendata, nieuwe eval-gevallenWekelijkse foutenreviewStille kwaliteitsdrift

Evals en guardrails vormen de ruggengraat

In een klassieke SDLC vertellen tests of code doet wat hij moet doen. Bij agents nemen evals die rol over, maar ze scoren verdelingen in plaats van losse antwoorden. Houd drie soorten bij: een regressieset met echte taken, een aanvalsset voor red teaming en een kleine gouden set die een domeinexpert beoordeelt. Draai ze bij elke wijziging van prompt, model of tool, zoals CI bij elke commit de tests draait.

Guardrails dekken af wat evals niet kunnen voorspellen. Ze werken tijdens runtime: wat de agent mag aanroepen, hoeveel hij mag uitgeven, welke acties op een mens wachten. De agent die een terugbetaling voorbereidt, hoort niet dezelfde te zijn die hem goedkeurt. Die functiescheiding is hetzelfde principe dat in een beheerde AI-SDLC menselijke review vóór de merge zet.

Waar Automo Build past

De meeste agents worden uitgerold als feature binnen een app: een supportassistent in een klantportaal, een goedkeuringsagent in een interne tool. Met Automo Build bouw je die app, AI-features inbegrepen, vanuit een prompt, terwijl de agents van het platform de code schrijven en testen en reviewer-agents en Guardrails elke wijziging vóór de merge controleren. De agent die je uitrolt volgt hetzelfde gereviewde pad naar productie als de rest van de app.

Veelgestelde vragen

Wat is de levenscyclus van AI-agentontwikkeling?

Het proces om AI-agents te bouwen en te beheren: taak en succescriteria definiëren, model en tools kiezen, prompts, tools en geheugen bouwen, evalueren, uitrollen met guardrails en menselijke goedkeuring, en daarna monitoren en itereren.

Hoe verschilt die van de SDLC?

De fasen lijken op elkaar, maar agentgedrag is probabilistisch en agents handelen via tools. Daardoor staan evals, red teaming, runtime-guardrails en productiemonitoring centraal, terwijl een klassieke SDLC vooral op deterministische tests leunt.

Wat zijn agent-evals?

Herhaalbare testsets die de output en toolaanroepen van een agent scoren op echte en vijandige taken. Ze houden releases tegen zoals unittests codewijzigingen tegenhouden, en ze groeien mee met elke fout die productie blootlegt.

Wanneer heeft een AI-agent menselijke goedkeuring nodig?

Bij acties die onomkeerbaar, duur of klantgericht zijn: betalingen, verwijderingen, uitgaande berichten, rechtenwijzigingen. Houd goedkeuring op die acties tot eval-resultaten en productiedata laten zien dat de agent ze betrouwbaar afhandelt, en versoepel daarna per actietype.

Gerelateerde pagina's

Bouw de software waar je vroeger op moest wachten.

Levenscyclus van AI-agentontwikkeling | Automo