Reddit · r/LocalLLaMA· /u/pmttyji·· 2 小时前AI 评分22
Stepped MoE：通过段级路由实现可配置推理复杂度的弹性稀疏大模型
[Paper] Stepped MoE: Segment-Level Routing with Configurable Inference Complexity
AI 导读
该论文提出 Stepped MoE 框架，将弹性结构与稀疏门控架构统一在同一模型中，使单个模型可同时根据部署约束和任务需求自适应调整。模型骨干以上下文和目标效率规格为条件，在推理时实现对精度—效率权衡的细粒度控制，并在弹性嵌套子网络中激活任务相关参数。
来源：Reddit · r/LocalLLaMA · reddit.com