跳到正文
原文
Reddit · r/LocalLLaMA· /u/foldl-li·· 9 小时前AI 评分20

chatllm.cpp 新增对 Intern-Decision 模型的支持

chatllm.cpp supports Intern-Decision models

AI 导读

chatllm.cpp 增加了对 Intern-Decision 模型的支持,目前仅支持文本。该模型采用扩散方式生成决策,每个决策位置以空格标记填充,并在单次运行中一次性产出全部答案,相较 H2O-Lightning 等逐答案生成的方案通常更快。

来源:Reddit · r/LocalLLaMA · reddit.com