Aprende

Ciclo de vida del desarrollo de agentes de IA: etapas, evals y guardrails

Construir un agente de IA no es como publicar una funcionalidad cualquiera. La salida es probabilística, las herramientas tienen efectos reales y la calidad se mide con evals, no solo con pruebas. Este es el ciclo de vida que aguanta en producción.

El ciclo de vida del desarrollo de agentes de IA es el proceso para construir, publicar y operar agentes de IA: definir la tarea y los criterios de éxito, elegir modelo y herramientas, construir prompts, herramientas y memoria, evaluar con evals offline y red teaming, desplegar con guardrails y aprobación humana, y después monitorizar e iterar. Se diferencia del SDLC clásico porque el comportamiento de un agente es probabilístico, así que las evals y los guardrails en ejecución cubren mucho de lo que antes garantizaban las pruebas fijas.

Ideal paraEquipos que construyen agentes y copilotos de IALíderes de producto e ingeniería con funcionalidades LLMQuien deba definir un proceso de publicación para agentes

Publicado 2026-11-11 · Última actualización 2026-11-11 · Equipo editorial de Automo

Qué hace distinto el ciclo de vida de un agente

Esta página trata de cómo se construyen los propios agentes: agentes de soporte, copilotos internos, agentes de investigación u operaciones que llaman a herramientas en nombre de alguien. Si quieres saber cómo cambia la IA el ciclo de vida del software tradicional, lee IA en el SDLC. Para la definición de un ciclo de vida operado por agentes, consulta Qué es un SDLC de IA.

Tres hechos hacen distinto el trabajo con agentes. La misma entrada puede dar salidas distintas, así que una sola ejecución correcta demuestra poco. Los agentes actúan mediante herramientas, así que una respuesta equivocada puede convertirse en una acción equivocada: un reembolso emitido, un registro borrado, un correo enviado. Y la calidad deriva tras el lanzamiento, porque cambian los modelos, los prompts, los datos y el comportamiento de los usuarios. El ciclo de vida que sigue está construido en torno a esos tres hechos.

Las seis etapas del ciclo de vida de un agente

La primera vez, las etapas van en orden; después se convierten en un bucle. Cada fallo en producción se convierte en un caso de eval nuevo, y cada cambio en las evals devuelve al agente a las etapas cuatro a seis.

  1. 1. Definir la tarea y los criterios de éxito

    Escribe la tarea, los usuarios, lo que el agente puede y no puede hacer, y cómo sabrás que funciona: tasa de éxito objetivo, tipos de error aceptables, latencia y coste por tarea. Reúne ahora entre 30 y 100 ejemplos reales. Serán tu primer conjunto de evals.

  2. 2. Elegir el modelo y las herramientas

    Elige el modelo más pequeño que supere el listón con tus ejemplos, y el mínimo de herramientas que necesita la tarea. Cada herramienta es un permiso. Empieza en solo lectura; todo lo que escribe, paga o envía recibe un alcance estrecho.

  3. 3. Construir prompts, herramientas y memoria

    Escribe el prompt de sistema y las descripciones de las herramientas, añade recuperación o memoria solo donde la tarea necesite contexto, y versiona todo como código. Un cambio de prompt es un cambio de código y merece revisión e historial.

  4. 4. Evaluar con evals offline y red teaming

    Ejecuta el agente contra el conjunto de evals en cada cambio y puntúa el éxito de la tarea, la corrección de las llamadas a herramientas, la seguridad y el coste. Añade casos adversarios como inyección de prompts, peticiones fuera de alcance e intentos de extraer datos. Un cambio que baja la puntuación no se publica.

  5. 5. Desplegar con guardrails y aprobación humana

    Publica detrás de filtros de entrada y salida, límites de frecuencia y de gasto, y credenciales con alcance reducido. Exige aprobación humana para acciones irreversibles o de alto valor hasta que las evals y los datos de producción justifiquen más autonomía. Empieza con una pequeña parte del tráfico.

  6. 6. Monitorizar e iterar

    Registra cada ejecución con sus llamadas a herramientas, revisa una muestra de conversaciones, sigue el coste, la latencia y la tasa de escalado, y convierte los fallos reales en casos de eval nuevos. El conjunto de evals debería crecer cada semana que el agente esté en producción.

El ciclo de vida de un agente de un vistazo

EtapaResultado claveControl humanoRiesgo principal
DefinirEspecificación de la tarea, métricas, primeros ejemplosVisto bueno al alcance y los límitesObjetivos vagos que nadie puede probar
Modelo y herramientasElección de modelo, lista de herramientas con alcanceAprobación de cada permiso de escrituraHerramientas con demasiado poder
ConstruirPrompts, herramientas y memoria versionadosRevisión de cambios en prompts y herramientasCambios de prompt sin rastrear
EvaluarPuntuaciones de evals y hallazgos de red teamingDecisión sobre el listón de publicaciónPublicar tras un par de buenas demos
DesplegarGuardrails, límites y puntos de aprobaciónAprobación de acciones de riesgoAcciones irreversibles sin revisión
MonitorizarTrazas, datos de coste, casos de eval nuevosRevisión semanal de fallosDeriva silenciosa de la calidad

Las evals y los guardrails son la columna vertebral

En un SDLC clásico, las pruebas te dicen si el código hace lo que debe. En los agentes ese papel pasa a las evals, que puntúan distribuciones y no respuestas sueltas. Mantén tres tipos: un conjunto de regresión con tareas reales, un conjunto adversario para red teaming y un pequeño conjunto de referencia revisado por un experto del dominio. Ejecútalos en cada cambio de prompt, modelo o herramienta, igual que la CI ejecuta pruebas en cada commit.

Los guardrails cubren lo que las evals no pueden prever. Actúan en ejecución: qué puede llamar el agente, cuánto puede gastar, qué acciones esperan a una persona. El agente que prepara un reembolso no debería ser el que lo aprueba. Esa separación de funciones es el mismo principio que, en un SDLC de IA gobernado, pone la revisión humana delante del merge.

Dónde encaja Automo Build

La mayoría de los agentes se publican como una funcionalidad dentro de una app: un asistente de soporte en un portal de clientes, un agente de aprobaciones en una herramienta interna. Con Automo Build construyes esa app, funcionalidades de IA incluidas, desde un prompt, mientras los agentes de la plataforma escriben y prueban el código y los agentes revisores y Guardrails comprueban cada cambio antes del merge. El agente que publicas recorre el mismo camino revisado hacia producción que el resto de la app.

Preguntas frecuentes

¿Qué es el ciclo de vida del desarrollo de agentes?

Es el proceso para construir y operar agentes de IA: definir la tarea y los criterios de éxito, elegir modelo y herramientas, construir prompts, herramientas y memoria, evaluar, desplegar con guardrails y aprobación humana, y después monitorizar e iterar.

¿En qué se diferencia del SDLC?

Las fases se parecen, pero el comportamiento de un agente es probabilístico y el agente actúa mediante herramientas. Por eso las evals, el red teaming, los guardrails en ejecución y la monitorización en producción son centrales, mientras que un SDLC clásico se apoya sobre todo en pruebas deterministas.

¿Qué son las evals de un agente?

Conjuntos de pruebas repetibles que puntúan las salidas y las llamadas a herramientas de un agente en tareas reales y adversarias. Frenan las publicaciones igual que las pruebas unitarias frenan los cambios de código, y crecen a medida que producción revela fallos nuevos.

¿Cuándo necesita aprobación humana un agente de IA?

En acciones irreversibles, costosas o visibles para clientes: pagos, borrados, mensajes salientes, cambios de permisos. Mantén la aprobación en esas acciones hasta que los resultados de las evals y los datos de producción demuestren que el agente las maneja con fiabilidad, y después relájala tipo de acción a tipo de acción.

Páginas relacionadas

Construye el software que antes tenías que esperar.

Ciclo de vida del desarrollo de agentes de IA | Automo