contagion-networks: medir la propagación de sesgos de evaluador en sistemas multi-agente
Framework formal para cuantificar cómo los sesgos de un evaluador LLM se propagan entre agentes que se evalúan entre sí. Basado en el paper Contagion Networks: Evaluator Bias Propagation in Multi-Agent LLM Systems (2026).
El problema
En sistemas multi-agente, los agentes evalúan las salidas de otros agentes para guiar la colaboración. Cuando el evaluador es un LLM, sus sesgos sistemáticos se propagan por la red como una infección. Consecuencias observadas:
- Convergencia de estrategia: todos los agentes adoptan la misma estrategia y se pierde diversidad cognitiva.
- Colapso de preferencias: la red converge a un único criterio de evaluación.
- Fallos en cascada: el sesgo se amplifica salto a salto (A → B → C → ...).
La solución
El framework aporta cuatro piezas:
- Matriz de contagio cruzado (Γ): cuantifica la propagación entre N agentes. γ ∈ [0, 1]; 0 = sin propagación, 1 = propagación total.
- Teorema de regímenes de propagación: tres regímenes (supresión/persistencia/cascada) gobernados por el radio espectral ρ(Γ).
- Condición de cascada: ρ(Γ) > 1 es el umbral de cascada a nivel de sistema.
- Estrategias de mitigación: evaluación por comité, umbrales de diversidad.
Datos medidos
| Régimen | Radio espectral | Comportamiento |
|---|---|---|
| Supresión | ρ(Γ) < 1 | El sesgo se atenúa entre saltos |
| Persistencia | ρ(Γ) = 1 | El sesgo se mantiene constante |
| Cascada | ρ(Γ) > 1 | El sesgo se amplifica en toda la red |
Valores típicos: modelos homogéneos γ ≈ 0.15-0.35 (régimen de supresión); modelos cruzados γ ≈ 0.85-1.3 (régimen de cascada).
Pruébalo
git clone https://github.com/amurlaniakea/contagion-networks.git
cd contagion-networks
python3 -m venv venv && source venv/bin/activate && pip install -e .
python3 -m contagion_networks.cli simulate --agents 8 --topology ring
Stack
- Python 3.11+, AGPL-3.0-or-later
- CLI: simulate, analyze, mitigate
Links
¿Has medido el radio espectral de tu red de agentes antes de que el sesgo de un evaluador la domine?
Top comments (0)