सीखें

AI एजेंट डेवलपमेंट लाइफ़साइकिल: चरण, eval और गार्डरेल

AI एजेंट बनाना किसी आम फ़ीचर को शिप करने जैसा नहीं है। आउटपुट संभावना पर आधारित होता है, टूल का असर असली दुनिया पर पड़ता है, और गुणवत्ता सिर्फ़ टेस्ट से नहीं, eval से मापी जाती है। यह है वह लाइफ़साइकिल जो प्रोडक्शन में टिकती है।

AI एजेंट डेवलपमेंट लाइफ़साइकिल AI एजेंट बनाने, शिप करने और चलाने की प्रक्रिया है: काम और सफलता के मानदंड तय करना, मॉडल और टूल चुनना, प्रॉम्प्ट, टूल और मेमोरी बनाना, ऑफ़लाइन eval और रेड-टीमिंग से परखना, गार्डरेल और मानवीय मंज़ूरी के साथ डिप्लॉय करना, फिर मॉनिटर और सुधार करते रहना। यह पारंपरिक SDLC से इसलिए अलग है क्योंकि एजेंट का व्यवहार संभावना पर आधारित होता है, इसलिए पहले जो गारंटी तय टेस्ट देते थे, उसका बड़ा हिस्सा अब eval और रनटाइम गार्डरेल देते हैं।

किसके लिए सबसे अच्छाAI एजेंट और कोपायलट बनाती टीमेंLLM फ़ीचर शिप करते प्रोडक्ट और इंजीनियरिंग लीडएजेंट के लिए रिलीज़ प्रक्रिया तय करने वाले

प्रकाशित 2026-11-11 · आख़िरी बार अपडेट किया गया 2026-11-11 · Automo संपादकीय टीम

एजेंट की लाइफ़साइकिल अलग क्यों है

यह पेज ख़ुद एजेंट बनाने के बारे में है: सपोर्ट एजेंट, आंतरिक कोपायलट, और रिसर्च या ऑपरेशंस एजेंट जो किसी की ओर से टूल चलाते हैं। अगर आप जानना चाहते हैं कि AI आम सॉफ़्टवेयर की लाइफ़साइकिल को कैसे बदलता है, तो SDLC में AI पढ़ें। एजेंटों से चलने वाली लाइफ़साइकिल की परिभाषा के लिए AI SDLC क्या है देखें।

तीन तथ्य एजेंट के काम को अलग बनाते हैं। एक ही इनपुट से अलग-अलग आउटपुट आ सकते हैं, इसलिए एक बार सफल चलना बहुत कम साबित करता है। एजेंट टूल के ज़रिए काम करते हैं, इसलिए ग़लत जवाब ग़लत कार्रवाई बन सकता है: रिफ़ंड जारी हो जाना, रिकॉर्ड डिलीट हो जाना, ईमेल चला जाना। और लॉन्च के बाद गुणवत्ता खिसकती है, क्योंकि मॉडल, प्रॉम्प्ट, डेटा और उपयोगकर्ताओं का व्यवहार बदलता रहता है। नीचे की लाइफ़साइकिल इन्हीं तीन तथ्यों के इर्द-गिर्द बनी है।

एजेंट डेवलपमेंट लाइफ़साइकिल के छह चरण

पहली बार चरण क्रम से चलते हैं, फिर एक लूप बन जाते हैं। प्रोडक्शन की हर विफलता नया eval केस बनती है, और eval में हर बदलाव एजेंट को चौथे से छठे चरण तक दोबारा भेजता है।

  1. 1. काम और सफलता के मानदंड तय करें

    काम, उपयोगकर्ता, एजेंट क्या कर सकता है और क्या नहीं, और आप कैसे जानेंगे कि वह काम कर रहा है, यह सब लिखें: लक्षित सफलता दर, स्वीकार्य ग़लतियों के प्रकार, हर काम की लेटेंसी और लागत। अभी 30 से 100 असली उदाहरण जुटाएं। यही आपका पहला eval सेट बनेगा।

  2. 2. मॉडल और टूल चुनें

    वह सबसे छोटा मॉडल चुनें जो आपके उदाहरणों पर मानक पूरा करे, और उतने ही टूल जितने काम के लिए ज़रूरी हों। हर टूल एक अनुमति है। शुरुआत सिर्फ़ पढ़ने की अनुमति से करें; जो भी लिखता, भुगतान करता या भेजता है, उसे सबसे सीमित दायरा दें।

  3. 3. प्रॉम्प्ट, टूल और मेमोरी बनाएं

    सिस्टम प्रॉम्प्ट और टूल के विवरण लिखें, रिट्रीवल या मेमोरी सिर्फ़ वहीं जोड़ें जहां काम को संदर्भ चाहिए, और सब कुछ कोड की तरह वर्ज़न करें। प्रॉम्प्ट में बदलाव कोड में बदलाव है, और उसे समीक्षा और इतिहास चाहिए।

  4. 4. ऑफ़लाइन eval और रेड-टीमिंग से परखें

    हर बदलाव पर एजेंट को eval सेट पर चलाएं और काम की सफलता, टूल कॉल की शुद्धता, सुरक्षा और लागत के अंक दें। प्रॉम्प्ट इंजेक्शन, दायरे से बाहर के अनुरोध और डेटा निकालने की कोशिश जैसे विरोधी केस जोड़ें। जो बदलाव स्कोर गिराए, वह शिप नहीं होता।

  5. 5. गार्डरेल और मानवीय मंज़ूरी के साथ डिप्लॉय करें

    इनपुट और आउटपुट फ़िल्टर, दर और ख़र्च की सीमाएं, और सीमित दायरे वाले क्रेडेंशियल के पीछे रिलीज़ करें। अपरिवर्तनीय या बड़े मूल्य वाली कार्रवाइयों के लिए मानवीय मंज़ूरी रखें, जब तक eval और प्रोडक्शन डेटा ज़्यादा स्वायत्तता को सही न ठहराएं। शुरुआत ट्रैफ़िक के छोटे हिस्से से करें।

  6. 6. मॉनिटर करें और सुधारें

    हर रन को उसके टूल कॉल के साथ लॉग करें, बातचीत के नमूनों की समीक्षा करें, लागत, लेटेंसी और एस्केलेशन दर पर नज़र रखें, और असली विफलताओं को नए eval केस में बदलें। जब तक एजेंट लाइव है, eval सेट हर हफ़्ते बढ़ना चाहिए।

एजेंट लाइफ़साइकिल एक नज़र में

चरणमुख्य आउटपुटमानवीय चेकपॉइंटमुख्य जोखिम
तय करनाकाम का विवरण, सफलता मेट्रिक्स, पहले उदाहरणदायरे और सीमाओं पर सहमतिधुंधले लक्ष्य जिन्हें कोई परख न सके
मॉडल और टूलमॉडल का चुनाव, दायरे सहित टूल सूचीहर लिखने की अनुमति की मंज़ूरीज़रूरत से ज़्यादा ताक़तवर टूल
बनानावर्ज़न किए गए प्रॉम्प्ट, टूल और मेमोरीप्रॉम्प्ट और टूल बदलावों की समीक्षाबिना रिकॉर्ड के प्रॉम्प्ट बदलाव
evaleval स्कोर और रेड-टीमिंग के निष्कर्षरिलीज़ के मानक का फ़ैसलाकुछ अच्छे डेमो देखकर शिप कर देना
डिप्लॉयगार्डरेल, सीमाएं और मंज़ूरी गेटजोखिम भरी कार्रवाइयों की मंज़ूरीबिना समीक्षा की अपरिवर्तनीय कार्रवाइयां
मॉनिटरट्रेस, लागत डेटा, नए eval केसहफ़्तेवार विफलता समीक्षाचुपचाप गिरती गुणवत्ता

eval और गार्डरेल ही रीढ़ हैं

पारंपरिक SDLC में टेस्ट बताते हैं कि कोड वह करता है या नहीं जो उसे करना चाहिए। एजेंट के लिए यह भूमिका eval निभाते हैं, पर वे अकेले जवाब नहीं, वितरण को अंक देते हैं। तीन तरह के सेट रखें: असली कामों का रिग्रेशन सेट, रेड-टीमिंग के लिए विरोधी सेट, और किसी डोमेन विशेषज्ञ द्वारा जांचा गया छोटा गोल्डन सेट। प्रॉम्प्ट, मॉडल या टूल के हर बदलाव पर इन्हें चलाएं, ठीक वैसे जैसे CI हर कमिट पर टेस्ट चलाता है।

गार्डरेल वह संभालते हैं जिसका अनुमान eval नहीं लगा सकते। वे रनटाइम पर काम करते हैं: एजेंट क्या कॉल कर सकता है, कितना ख़र्च कर सकता है, कौन सी कार्रवाई इंसान का इंतज़ार करेगी। जो एजेंट रिफ़ंड तैयार करे, वही उसे मंज़ूर न करे। ज़िम्मेदारियों का यही बंटवारा वह सिद्धांत है जो गवर्न्ड AI SDLC में मर्ज से पहले मानवीय समीक्षा रखता है।

Automo Build कहां फ़िट होता है

ज़्यादातर एजेंट किसी ऐप के भीतर एक फ़ीचर के रूप में शिप होते हैं: ग्राहक पोर्टल में सपोर्ट असिस्टेंट, आंतरिक टूल में मंज़ूरी देने वाला एजेंट। Automo Build से आप वह ऐप, AI फ़ीचर समेत, एक प्रॉम्प्ट से बनाते हैं, जबकि प्लेटफ़ॉर्म के एजेंट कोड लिखते और टेस्ट करते हैं, और रिव्यूअर एजेंट व Guardrails मर्ज से पहले हर बदलाव जांचते हैं। आपका शिप किया एजेंट भी प्रोडक्शन तक उसी समीक्षा वाले रास्ते से जाता है जिससे ऐप का बाक़ी हिस्सा।

अक्सर पूछे जाने वाले सवाल

AI एजेंट डेवलपमेंट लाइफ़साइकिल क्या है?

यह AI एजेंट बनाने और चलाने की प्रक्रिया है: काम और सफलता के मानदंड तय करना, मॉडल और टूल चुनना, प्रॉम्प्ट, टूल और मेमोरी बनाना, eval करना, गार्डरेल और मानवीय मंज़ूरी के साथ डिप्लॉय करना, फिर मॉनिटर और सुधार करना।

यह SDLC से कैसे अलग है?

चरण मिलते-जुलते हैं, पर एजेंट का व्यवहार संभावना पर आधारित होता है और एजेंट टूल के ज़रिए कार्रवाई करते हैं। इसलिए eval, रेड-टीमिंग, रनटाइम गार्डरेल और प्रोडक्शन मॉनिटरिंग केंद्र में आ जाते हैं, जबकि पारंपरिक SDLC मुख्य रूप से निश्चित नतीजे वाले टेस्ट पर टिकी होती है।

एजेंट eval क्या होते हैं?

दोहराए जा सकने वाले टेस्ट सेट जो असली और विरोधी कामों पर एजेंट के आउटपुट और टूल कॉल को अंक देते हैं। ये रिलीज़ को वैसे ही रोकते हैं जैसे यूनिट टेस्ट कोड बदलावों को, और प्रोडक्शन में नई विफलताएं दिखने के साथ बढ़ते जाते हैं।

AI एजेंट को मानवीय मंज़ूरी कब चाहिए?

उन कार्रवाइयों के लिए जो अपरिवर्तनीय, महंगी या ग्राहकों को दिखने वाली हों: भुगतान, डिलीट, बाहर भेजे जाने वाले संदेश, अनुमतियों में बदलाव। इन पर मंज़ूरी तब तक रखें जब तक eval नतीजे और प्रोडक्शन डेटा यह न दिखा दें कि एजेंट इन्हें भरोसे से संभालता है, फिर एक-एक कार्रवाई के प्रकार पर ढील दें।

संबंधित पेज

वह सॉफ़्टवेयर बनाएं जिसका आप पहले इंतज़ार करते थे।

AI एजेंट डेवलपमेंट लाइफ़साइकिल: चरण और eval | Automo