Qué problema resuelve
Cuando tienes modelos locales, APIs frontier, tareas largas, contenido privado y presupuestos limitados, llamar siempre al mismo modelo es mala arquitectura. Un router decide qué camino usar antes de gastar tokens o exponer datos.
Capas mínimas
- Clasificador de tarea: código, resumen, traducción, RAG, razonamiento, extracción o generación creativa.
- Política de privacidad: qué datos pueden salir y cuáles deben quedarse local.
- Presupuesto: coste máximo por usuario, tarea, curso o pipeline.
- Fallbacks: qué hacer cuando falla un modelo, sube la latencia o baja la calidad.
- Observabilidad: trazas, scores, modelo elegido, coste, latencia y motivo de decisión.
request -> classify -> policy -> route -> model -> score -> log -> improve
Regla Aulafy
El router debe explicar por qué eligió una ruta. Si no puedes auditar la decisión, no sabes si estás ahorrando dinero, protegiendo privacidad o empeorando silenciosamente el contenido.
Siguiente misión recomendada
Si has guardado la evidencia de esta lección, continúa con «LiteLLM como gateway». Si no, repite la comprobación antes de avanzar.