当企业开始同时使用通用模型、小模型和专用模型,路由器就变成了关键组件。它负责把请求分给最合适的能力层,而不是把所有任务都交给最贵的模型。

这样的架构既能保留高价值场景的效果,也能把普通请求压到更低成本。模型路由做得好,混合推理就会变成常态。