Reddit · r/LocalLLaMA· /u/jjusko20·· 8 天前AI 评分57
SFTMill：轻松用 OpenAI 兼容端点对任意 LLM 进行离策蒸馏
SFTMill: Easily [off-policy] distill any existing LLM with an OpenAI Compatible Endpoint. Turn any behavioral goal into a comprehensive dataset.
AI 导读
作者发布了自研工具 SFTMill，可将任意行为目标转化为综合微调数据集。用户只需在 yaml 文件中定义课程目标，选择要蒸馏的 LLM，后者即可自动生成任务并解决任务，形成完整的问答训练集。作者使用 qwen 3.8 27b 生成任务，建议使用不低于该能力的模型。
来源：Reddit · r/LocalLLaMA · reddit.com