Reddit · r/LocalLLaMA· /u/jjusko20·· 7 天前AI 评分43
Yandex AliceAI-80B-A3B 指令微调版本训练进展更新 #2
Update #2: Post training yandex/AliceAI-80B-A3B [instruct!] from scratch
AI 导读
作者对 Yandex AliceAI-80B-A3B 基础模型进行指令微调,使用合成蒸馏数据集训练约 48 小时,平均损失稳步下降。计划发布 gguf quants 版本和 llama.cpp 本地运行补丁,并将开源蒸馏引擎 SFTMill,后续继续用强化学习扩展训练。
来源:Reddit · r/LocalLLaMA · reddit.com