Reddit · r/LocalLLaMA· /u/foldl-li·· 9 小时前AI 评分20
chatllm.cpp 新增对 Intern-Decision 模型的支持
chatllm.cpp supports Intern-Decision models
AI 导读
chatllm.cpp 增加了对 Intern-Decision 模型的支持,目前仅支持文本。该模型采用扩散方式生成决策,每个决策位置以空格标记填充,并在单次运行中一次性产出全部答案,相较 H2O-Lightning 等逐答案生成的方案通常更快。
来源:Reddit · r/LocalLLaMA · reddit.com