合并与分支:面向推荐的高效树结构 LLM 监督微调
Merge and Branch: Efficient Tree-Structured Supervised Fine-Tuning of LLMs for Recommendation
Yunqin Zhu · Yao Xie
基于 LLM 的生成式推荐需要读取长且文本丰富的交互历史,却只生成很短的语义标识符(SID)。这种不对称使监督微调效率低下:编码历史代价高昂,而每条历史通常只提供一个目标的监督信号。Merge and Branch(M&B)通过降低输入成本并让每条已编码历史提供更多学习信号来解决该问题。Merge 将每个历史条目的 SID 与文本压缩为少量可学习 token;Branch 则利用压缩后的历史预测多个目标 SID。为在共享历史计算的同时保持各目标独立,M&B 将每个样本组织为浅而宽的树结构,并开发 tree FlashAttention 高效执行该布局:共享历史只处理一次,所有分支的梯度均可回传以进行端到端训练。树结构 key/value 缓存进一步将历史共享扩展到受限解码。公开基准实验表明,M&B 在显著提升训练与解码效率的同时优于强推荐基线。