学ぶ

AIエージェント開発ライフサイクル:段階、評価(Evals)、ガードレール

AIエージェントを作ることは、普通の機能を出荷することとは違います。出力は確率的で、ツールは現実に作用し、品質はテストだけでなく評価(Evals)で測ります。本番で通用するライフサイクルを紹介します。

AIエージェント開発ライフサイクルとは、AIエージェントを構築、出荷、運用するためのプロセスです。タスクと成功基準を定義し、モデルとツールを選び、プロンプト、ツール、メモリを構築し、オフライン評価とレッドチーミングで評価し、ガードレールと人の承認付きでデプロイし、監視と改善を続けます。エージェントの振る舞いは確率的なため、従来のSDLCでは固定テストが担っていた保証の多くを、評価と実行時のガードレールが担います。

適した用途AIエージェントやコパイロットを作るチームLLM機能を出荷するプロダクト・エンジニアリングリードエージェントのリリース手順を定める方

公開日 2026-11-11 · 最終更新 2026-11-11 · Automo編集チーム

エージェントのライフサイクルは何が違うのか

このページは、エージェントそのものを作ることを扱います。サポートエージェント、社内コパイロット、誰かの代わりにツールを呼び出す調査や運用のエージェントなどです。一般的なソフトウェアのライフサイクルをAIがどう変えるかを知りたい場合は、「SDLCにおけるAI」を読んでください。エージェントが担うライフサイクルの定義は、「AI SDLCとは」にあります。

エージェント開発を特別にしている事実は3つあります。同じ入力でも出力が変わるため、1回うまくいっただけではほとんど何も証明できません。エージェントはツールを通じて行動するため、誤った回答が誤った行動になりえます。返金の実行、レコードの削除、メールの送信などです。そしてモデル、プロンプト、データ、ユーザーの行動が変わるため、品質はリリース後に少しずつずれていきます。以下のライフサイクルは、この3つの事実を前提に組み立てています。

エージェント開発ライフサイクルの6段階

最初は順番に進み、その後はループになります。本番での失敗はすべて新しい評価ケースになり、評価が変わるたびにエージェントは第4段階から第6段階をもう一度通ります。

  1. 1. タスクと成功基準を定義する

    タスク、利用者、エージェントがしてよいこととしてはいけないこと、そして機能していると判断する基準を書き出します。目標とするタスク成功率、許容できるエラーの種類、1タスクあたりのレイテンシとコストです。この段階で実例を30から100件集めてください。それが最初の評価セットになります。

  2. 2. モデルとツールを選ぶ

    集めた実例で基準を満たす最小のモデルと、タスクに必要な最小限のツールを選びます。ツールは一つひとつが権限です。まずは読み取り専用から始め、書き込み、支払い、送信を伴うものには狭いスコープを与えます。

  3. 3. プロンプト、ツール、メモリを構築する

    システムプロンプトとツールの説明を書き、文脈が必要な箇所にだけ検索やメモリを加え、すべてをコードと同じようにバージョン管理します。プロンプトの変更はコードの変更であり、レビューと履歴が必要です。

  4. 4. オフライン評価とレッドチーミングで評価する

    変更のたびに評価セットでエージェントを実行し、タスク成功率、ツール呼び出しの正確さ、安全性、コストを採点します。プロンプトインジェクション、対象外の依頼、データ持ち出しの試みといった攻撃的なケースも加えます。スコアを下げる変更は出荷しません。

  5. 5. ガードレールと人の承認付きでデプロイする

    入出力フィルター、レート制限と支出上限、スコープを絞った認証情報の背後で公開します。取り消せない操作や高額な操作には、評価結果と本番データがより大きな自律を正当化するまで人の承認を求めます。最初はトラフィックの一部から始めます。

  6. 6. 監視して改善する

    すべての実行をツール呼び出しとともに記録し、会話を抜き取りでレビューし、コスト、レイテンシ、エスカレーション率を追い、実際の失敗を新しい評価ケースにします。評価セットは、エージェントが稼働している限り毎週増えていくべきです。

エージェント開発ライフサイクル 早見表

段階主な成果物人のチェックポイント主なリスク
定義タスク仕様、成功指標、最初の実例範囲と制限の承認誰も検証できない曖昧な目標
モデルとツールモデルの選定、スコープ付きツール一覧書き込み権限ごとの承認強すぎるツール権限
構築バージョン管理されたプロンプト、ツール、メモリプロンプトとツール変更のレビュー追跡されないプロンプト変更
評価評価スコアとレッドチームの指摘リリース基準の判断数回のデモだけでの出荷
デプロイガードレール、上限、承認ゲート高リスク操作の承認レビューなしの取り消せない操作
監視トレース、コストデータ、新しい評価ケース毎週の失敗レビュー気づかれない品質の劣化

評価とガードレールが土台になる

従来のSDLCでは、テストがコードが期待どおりに動くかを教えてくれます。エージェントではその役割を評価が担いますが、評価が測るのは個々の回答ではなく分布です。3種類を用意してください。実際のタスクから作る回帰セット、レッドチーミング用の攻撃セット、そしてドメインの専門家が確認する小さなゴールデンセットです。CIがコミットのたびにテストを走らせるのと同じように、プロンプト、モデル、ツールを変えるたびに評価を走らせます。

ガードレールは、評価では予測できないものを補います。働くのは実行時です。エージェントが何を呼び出せるか、いくら使えるか、どの操作が人を待つか、を決めます。返金を準備するエージェントと、それを承認するエージェントは別であるべきです。この職務分離は、統治されたAI SDLCでマージの前に人のレビューを置くのと同じ原則です。

Automo Buildの位置づけ

多くのエージェントは、アプリの中の機能として出荷されます。顧客ポータルのサポートアシスタントや、社内ツールの承認エージェントなどです。Automo Buildでは、AI機能を含むそのアプリをプロンプトから構築でき、その間プラットフォームのエージェントがコードを書いてテストし、レビュアーエージェントとGuardrailsがマージ前にすべての変更を確認します。出荷するエージェントも、アプリのほかの部分と同じレビュー済みの経路で本番に届きます。

よくある質問

AIエージェント開発ライフサイクルとは何ですか?

AIエージェントを構築し運用するためのプロセスです。タスクと成功基準の定義、モデルとツールの選定、プロンプト、ツール、メモリの構築、評価、ガードレールと人の承認付きのデプロイ、そして監視と改善から成ります。

SDLCとはどう違いますか?

段階は似ていますが、エージェントの振る舞いは確率的で、ツールを通じて行動します。そのため、主に決定的なテストに頼る従来のSDLCと違い、評価、レッドチーミング、実行時のガードレール、本番監視が中心になります。

エージェントの評価(Evals)とは何ですか?

実際のタスクと攻撃的なタスクに対して、エージェントの出力とツール呼び出しを採点する、繰り返し実行できるテストセットです。ユニットテストがコード変更を止めるように評価はリリースを止め、本番で新しい失敗が見つかるたびに増えていきます。

AIエージェントに人の承認が必要なのはどんなときですか?

取り消せない、費用がかかる、または顧客に影響する操作です。支払い、削除、外部へのメッセージ送信、権限の変更などが当たります。評価結果と本番データでエージェントが確実に扱えると示されるまで承認を残し、その後は操作の種類ごとに一つずつ緩めます。

関連ページ

かつては待つしかなかったソフトウェアを構築しましょう。

AIエージェント開発ライフサイクル:段階と評価 | Automo