---
title: "AI एजेंट डेवलपमेंट लाइफ़साइकिल: चरण, eval और गार्डरेल"
description: "AI एजेंट डेवलपमेंट लाइफ़साइकिल के छह चरण: काम तय करना, मॉडल और टूल चुनना, बनाना, eval करना, गार्डरेल के साथ डिप्लॉय करना और मॉनिटर करना।"
canonical: https://automo.build/hi/learn/agent-development-lifecycle
last-updated: 2026-11-19
---
# AI एजेंट डेवलपमेंट लाइफ़साइकिल: चरण, eval और गार्डरेल

AI एजेंट बनाना किसी आम फ़ीचर को शिप करने जैसा नहीं है। आउटपुट संभावना पर आधारित होता है, टूल का असर असली दुनिया पर पड़ता है, और गुणवत्ता सिर्फ़ टेस्ट से नहीं, eval से मापी जाती है। यह है वह लाइफ़साइकिल जो प्रोडक्शन में टिकती है।

AI एजेंट डेवलपमेंट लाइफ़साइकिल AI एजेंट बनाने, शिप करने और चलाने की प्रक्रिया है: काम और सफलता के मानदंड तय करना, मॉडल और टूल चुनना, प्रॉम्प्ट, टूल और मेमोरी बनाना, ऑफ़लाइन eval और रेड-टीमिंग से परखना, गार्डरेल और मानवीय मंज़ूरी के साथ डिप्लॉय करना, फिर मॉनिटर और सुधार करते रहना। यह पारंपरिक SDLC से इसलिए अलग है क्योंकि एजेंट का व्यवहार संभावना पर आधारित होता है, इसलिए पहले जो गारंटी तय टेस्ट देते थे, उसका बड़ा हिस्सा अब eval और रनटाइम गार्डरेल देते हैं।

## एजेंट की लाइफ़साइकिल अलग क्यों है

यह पेज ख़ुद एजेंट बनाने के बारे में है: सपोर्ट एजेंट, आंतरिक कोपायलट, और रिसर्च या ऑपरेशंस एजेंट जो किसी की ओर से टूल चलाते हैं। अगर आप जानना चाहते हैं कि AI आम सॉफ़्टवेयर की लाइफ़साइकिल को कैसे बदलता है, तो [SDLC में AI](/learn/ai-in-the-sdlc) पढ़ें। एजेंटों से चलने वाली लाइफ़साइकिल की परिभाषा के लिए [AI SDLC क्या है](/learn/what-is-an-ai-sdlc) देखें।

तीन तथ्य एजेंट के काम को अलग बनाते हैं। एक ही इनपुट से अलग-अलग आउटपुट आ सकते हैं, इसलिए एक बार सफल चलना बहुत कम साबित करता है। एजेंट टूल के ज़रिए काम करते हैं, इसलिए ग़लत जवाब ग़लत कार्रवाई बन सकता है: रिफ़ंड जारी हो जाना, रिकॉर्ड डिलीट हो जाना, ईमेल चला जाना। और लॉन्च के बाद गुणवत्ता खिसकती है, क्योंकि मॉडल, प्रॉम्प्ट, डेटा और उपयोगकर्ताओं का व्यवहार बदलता रहता है। नीचे की लाइफ़साइकिल इन्हीं तीन तथ्यों के इर्द-गिर्द बनी है।

## एजेंट डेवलपमेंट लाइफ़साइकिल के छह चरण

पहली बार चरण क्रम से चलते हैं, फिर एक लूप बन जाते हैं। प्रोडक्शन की हर विफलता नया eval केस बनती है, और eval में हर बदलाव एजेंट को चौथे से छठे चरण तक दोबारा भेजता है।

1. **काम और सफलता के मानदंड तय करें** काम, उपयोगकर्ता, एजेंट क्या कर सकता है और क्या नहीं, और आप कैसे जानेंगे कि वह काम कर रहा है, यह सब लिखें: लक्षित सफलता दर, स्वीकार्य ग़लतियों के प्रकार, हर काम की लेटेंसी और लागत। अभी 30 से 100 असली उदाहरण जुटाएं। यही आपका पहला eval सेट बनेगा।
2. **मॉडल और टूल चुनें** वह सबसे छोटा मॉडल चुनें जो आपके उदाहरणों पर मानक पूरा करे, और उतने ही टूल जितने काम के लिए ज़रूरी हों। हर टूल एक अनुमति है। शुरुआत सिर्फ़ पढ़ने की अनुमति से करें; जो भी लिखता, भुगतान करता या भेजता है, उसे सबसे सीमित दायरा दें।
3. **प्रॉम्प्ट, टूल और मेमोरी बनाएं** सिस्टम प्रॉम्प्ट और टूल के विवरण लिखें, रिट्रीवल या मेमोरी सिर्फ़ वहीं जोड़ें जहां काम को संदर्भ चाहिए, और सब कुछ कोड की तरह वर्ज़न करें। प्रॉम्प्ट में बदलाव कोड में बदलाव है, और उसे समीक्षा और इतिहास चाहिए।
4. **ऑफ़लाइन eval और रेड-टीमिंग से परखें** हर बदलाव पर एजेंट को eval सेट पर चलाएं और काम की सफलता, टूल कॉल की शुद्धता, सुरक्षा और लागत के अंक दें। प्रॉम्प्ट इंजेक्शन, दायरे से बाहर के अनुरोध और डेटा निकालने की कोशिश जैसे विरोधी केस जोड़ें। जो बदलाव स्कोर गिराए, वह शिप नहीं होता।
5. **गार्डरेल और मानवीय मंज़ूरी के साथ डिप्लॉय करें** इनपुट और आउटपुट फ़िल्टर, दर और ख़र्च की सीमाएं, और सीमित दायरे वाले क्रेडेंशियल के पीछे रिलीज़ करें। अपरिवर्तनीय या बड़े मूल्य वाली कार्रवाइयों के लिए मानवीय मंज़ूरी रखें, जब तक eval और प्रोडक्शन डेटा ज़्यादा स्वायत्तता को सही न ठहराएं। शुरुआत ट्रैफ़िक के छोटे हिस्से से करें।
6. **मॉनिटर करें और सुधारें** हर रन को उसके टूल कॉल के साथ लॉग करें, बातचीत के नमूनों की समीक्षा करें, लागत, लेटेंसी और एस्केलेशन दर पर नज़र रखें, और असली विफलताओं को नए eval केस में बदलें। जब तक एजेंट लाइव है, eval सेट हर हफ़्ते बढ़ना चाहिए।

## एजेंट लाइफ़साइकिल एक नज़र में

| चरण | मुख्य आउटपुट | मानवीय चेकपॉइंट | मुख्य जोखिम |
| --- | --- | --- | --- |
| तय करना | काम का विवरण, सफलता मेट्रिक्स, पहले उदाहरण | दायरे और सीमाओं पर सहमति | धुंधले लक्ष्य जिन्हें कोई परख न सके |
| मॉडल और टूल | मॉडल का चुनाव, दायरे सहित टूल सूची | हर लिखने की अनुमति की मंज़ूरी | ज़रूरत से ज़्यादा ताक़तवर टूल |
| बनाना | वर्ज़न किए गए प्रॉम्प्ट, टूल और मेमोरी | प्रॉम्प्ट और टूल बदलावों की समीक्षा | बिना रिकॉर्ड के प्रॉम्प्ट बदलाव |
| eval | eval स्कोर और रेड-टीमिंग के निष्कर्ष | रिलीज़ के मानक का फ़ैसला | कुछ अच्छे डेमो देखकर शिप कर देना |
| डिप्लॉय | गार्डरेल, सीमाएं और मंज़ूरी गेट | जोखिम भरी कार्रवाइयों की मंज़ूरी | बिना समीक्षा की अपरिवर्तनीय कार्रवाइयां |
| मॉनिटर | ट्रेस, लागत डेटा, नए eval केस | हफ़्तेवार विफलता समीक्षा | चुपचाप गिरती गुणवत्ता |

## eval और गार्डरेल ही रीढ़ हैं

पारंपरिक SDLC में टेस्ट बताते हैं कि कोड वह करता है या नहीं जो उसे करना चाहिए। एजेंट के लिए यह भूमिका eval निभाते हैं, पर वे अकेले जवाब नहीं, वितरण को अंक देते हैं। तीन तरह के सेट रखें: असली कामों का रिग्रेशन सेट, रेड-टीमिंग के लिए विरोधी सेट, और किसी डोमेन विशेषज्ञ द्वारा जांचा गया छोटा गोल्डन सेट। प्रॉम्प्ट, मॉडल या टूल के हर बदलाव पर इन्हें चलाएं, ठीक वैसे जैसे CI हर कमिट पर टेस्ट चलाता है।

गार्डरेल वह संभालते हैं जिसका अनुमान eval नहीं लगा सकते। वे रनटाइम पर काम करते हैं: एजेंट क्या कॉल कर सकता है, कितना ख़र्च कर सकता है, कौन सी कार्रवाई इंसान का इंतज़ार करेगी। जो एजेंट रिफ़ंड तैयार करे, वही उसे मंज़ूर न करे। ज़िम्मेदारियों का यही बंटवारा वह सिद्धांत है जो गवर्न्ड AI SDLC में मर्ज से पहले मानवीय समीक्षा रखता है।

## Automo Build कहां फ़िट होता है

ज़्यादातर एजेंट किसी ऐप के भीतर एक फ़ीचर के रूप में शिप होते हैं: ग्राहक पोर्टल में सपोर्ट असिस्टेंट, आंतरिक टूल में मंज़ूरी देने वाला एजेंट। Automo Build से आप वह ऐप, AI फ़ीचर समेत, एक प्रॉम्प्ट से बनाते हैं, जबकि प्लेटफ़ॉर्म के एजेंट कोड लिखते और टेस्ट करते हैं, और रिव्यूअर एजेंट व [Guardrails](/platform/guardrails) मर्ज से पहले हर बदलाव जांचते हैं। आपका शिप किया एजेंट भी प्रोडक्शन तक उसी समीक्षा वाले रास्ते से जाता है जिससे ऐप का बाक़ी हिस्सा।

## FAQ

**AI एजेंट डेवलपमेंट लाइफ़साइकिल क्या है?**

यह AI एजेंट बनाने और चलाने की प्रक्रिया है: काम और सफलता के मानदंड तय करना, मॉडल और टूल चुनना, प्रॉम्प्ट, टूल और मेमोरी बनाना, eval करना, गार्डरेल और मानवीय मंज़ूरी के साथ डिप्लॉय करना, फिर मॉनिटर और सुधार करना।

**यह SDLC से कैसे अलग है?**

चरण मिलते-जुलते हैं, पर एजेंट का व्यवहार संभावना पर आधारित होता है और एजेंट टूल के ज़रिए कार्रवाई करते हैं। इसलिए eval, रेड-टीमिंग, रनटाइम गार्डरेल और प्रोडक्शन मॉनिटरिंग केंद्र में आ जाते हैं, जबकि पारंपरिक SDLC मुख्य रूप से निश्चित नतीजे वाले टेस्ट पर टिकी होती है।

**एजेंट eval क्या होते हैं?**

दोहराए जा सकने वाले टेस्ट सेट जो असली और विरोधी कामों पर एजेंट के आउटपुट और टूल कॉल को अंक देते हैं। ये रिलीज़ को वैसे ही रोकते हैं जैसे यूनिट टेस्ट कोड बदलावों को, और प्रोडक्शन में नई विफलताएं दिखने के साथ बढ़ते जाते हैं।

**AI एजेंट को मानवीय मंज़ूरी कब चाहिए?**

उन कार्रवाइयों के लिए जो अपरिवर्तनीय, महंगी या ग्राहकों को दिखने वाली हों: भुगतान, डिलीट, बाहर भेजे जाने वाले संदेश, अनुमतियों में बदलाव। इन पर मंज़ूरी तब तक रखें जब तक eval नतीजे और प्रोडक्शन डेटा यह न दिखा दें कि एजेंट इन्हें भरोसे से संभालता है, फिर एक-एक कार्रवाई के प्रकार पर ढील दें।

## Related

- [SDLC में AI](https://automo.build/learn/ai-in-the-sdlc)
- [AI SDLC क्या है?](https://automo.build/learn/what-is-an-ai-sdlc)
- [AI फ़ीचर](https://automo.build/platform/ai-features)
- [Guardrails](https://automo.build/platform/guardrails)
- [AI असिस्टेंट](https://automo.build/use-cases/ai-assistants)
- [Automo बनाम Claude Code](https://automo.build/compare/claude-code)
- [कीमतें](https://automo.build/pricing)

Canonical page: https://automo.build/hi/learn/agent-development-lifecycle
Site overview for agents: https://automo.build/llms.txt
