DEV Community

Silviu Technology
Silviu Technology

Posted on

Agentes LLM: un presupuesto de latencia para email

Los agentes LLM pueden llamar APIs, crear datos de prueba y decidir el siguiente paso de un flujo. Pero cuando el flujo incluye un email, aparece un problema menos vistoso: el agente puede quedarse esperando una bandeja que nunca confirma nada.

La solución no es subir todos los timeouts. Es tratar el email de prueba como un recurso con un presupuesto de latencia. Así el agente sabe cuanto tiempo tiene, qué estados son válidos y cuándo debe entregar el control a un worker o a una persona.

El problema: un agente que espera demasiado

Imaginemos un agente que valida un onboarding. Crea un usuario, solicita una verificación y espera un enlace. Si usa un bucle de “consultar hasta que aparezca”, tenemos tres riesgos:

  • consume tokens y conexiones mientras no ocurre nada;
  • confunde una bandeja vacía con un fallo de la aplicación;
  • reintenta una operación que ya fue aceptada por el proveedor de correo.

En un flujo pequeño, esto solo hace la prueba más lenta. En una cola de automatización, puede ocupar workers, multiplicar el trafico y ocultar el error real. Por eso conviene separar la decisión del agente de la espera del sistema.

Dibujar el presupuesto como un contrato

Un diseño sencillo tiene tres piezas:

  1. Agente LLM: solicita un fixture de correo, inicia la acción y decide qué hacer con el resultado.
  2. Worker de email: consulta la bandeja, normaliza eventos y aplica el timeout.
  3. Ledger de ejecución: guarda run_id, estado, último intento y causa de salida.

En palabras, el recorrido es: agente → comando idempotente → worker → evento terminal → agente. El agente no debería consultar directamente cada pocos segundos. Su contrato puede ser algo así:

deadline = ahora + 45 s
estado inicial = waiting_for_email
resultado terminal = received | expired | rejected
reintento máximo = 2
Enter fullscreen mode Exit fullscreen mode

Los 45 segundos no son una verdad universal. Son una decisión operativa que se puede medir. Para una prueba local quizá basten 15; para un proveedor externo, 60 puede ser más realista. Lo importante es que el límite exista y que esté visible en los logs.

Estados y reintentos que no se pisan

El worker debe distinguir entre “todavía no llegó”, “llegó un evento inválido” y “la fuente no responde”. Un modelo mínimo:

from enum import StrEnum

class EmailState(StrEnum):
    WAITING = "waiting_for_email"
    RECEIVED = "received"
    EXPIRED = "expired"
    REJECTED = "rejected"
Enter fullscreen mode Exit fullscreen mode

Cada consulta debe llevar una clave de idempotencia, por ejemplo run_id:message_type. Si el agente reenvía el mismo comando, el worker recupera el resultado existente en vez de crear otra dirección. Esto es especialmente útil al usar un correo temporal gratis para aislar datos de una ejecución.

También conviene aplicar backoff con un máximo estricto. Una secuencia de 2, 5 y 10 segundos es fácil de razonar. Si el tercer intento termina el presupuesto, el estado es expired; no se debe reiniciar el reloj solo porque el modelo decidió preguntar de nuevo.

Una implementación pequeña

La interfaz del worker puede ser deliberadamente aburrida:

def wait_for_email(run_id: str, deadline: float) -> dict:
    while time.monotonic() < deadline:
        event = inbox.next_event(run_id=run_id, timeout=2)
        if event is None:
            continue
        if event.kind == "verification_link":
            return {"state": "received", "url": event.url}
        if event.kind == "provider_error":
            return {"state": "rejected", "reason": event.reason}

    return {"state": "expired", "reason": "deadline_exceeded"}
Enter fullscreen mode Exit fullscreen mode

El agente recibe un resultado estructurado, no una explicación ambigua. Puede entonces corregir el selector, repetir la acción original o marcar la prueba como no concluyente. En la practica, esta frontera reduce bastante los prompts que intentan “adivinar” si la bandeja ya se actualizó.

Para pruebas manuales, una fuente de correo desechable gratis puede ser suficiente si la política del proyecto permite datos efímeros. No la usaría para cuentas reales, secretos ni recuperación de acceso. El fixture debe tener una duración y un responsable claros.

Señales y límites operativos

El ledger debe registrar al menos:

  • run_id y nombre del flujo;
  • edad del mensaje y tiempo restante;
  • número de consultas y reintentos;
  • estado terminal y razón;
  • hash o identificador del fixture, nunca su contenido sensible.

Una métrica útil es email_wait_budget_exhausted_total. Otra es el p95 del tiempo entre la solicitud y el evento recibido. Si sube el p95 pero no aumenta el número de errores del proveedor, el problema puede ser la frecuencia de polling. Si aumentan ambos, hay que revisar la dependencia externa.

En una interfaz humana, estos estados también deben ser comprensibles. El artículo sobre estados de correo en React muestra por qué una UI no debería quedarse congelada durante una espera. Para operaciones, las alertas que guían el diagnóstico siguen la misma idea: indicar acción y contexto, no solo color rojo.

A veces el dato no llegan antes del deadline y eso no significa que el producto esté roto. Significa que el contrato produjo una señal útil. Un circuit breaker puede abrirse después de varios provider_error, mientras que los expired deberían alimentar un análisis distinto. Mezclar ambos estados hace que el equipo persiga por que una prueba aislada falló.

Checklist de implementación

Antes de poner este patrón en una automatización con LLM, revisaría:

  • ¿El agente emite una orden idempotente?
  • ¿Existe un deadline absoluto, independiente del modelo?
  • ¿El worker devuelve estados terminales y una causa?
  • ¿Los reintentos conservan el mismo run_id?
  • ¿Se puede distinguir timeout, rechazo y bandeja vacía?
  • ¿Las métricas muestran p95 y presupuesto agotado?
  • ¿Se eliminan los fixtures al terminar su ciclo?

Las búsquedas humanas pueden escribir “tamp mail com” o “tem email”, pero la arquitectura no debe depender de esas variantes. Debe depender de contratos pequeños y observables. Un agente LLM es más confiable cuando sabe cuándo esperar, cuándo parar y qué evidencia entregar al siguiente componente.

Top comments (0)