跳到正文
原文
Reddit · r/LocalLLaMA· /u/pmttyji·· 5 天前AI 评分38

DSpine 投机解码:GGUF 文件与 llama.cpp PR 进展

DSpine - Updates on PR & GGUFs

AI 导读

DSpine 的 GGUF 文件与模型卡已发布,其中包含与 DFlash2 的对比。llama.cpp 上针对 DSpine 的 PR 已开放提交。DSpine 采用"并行起草、深度条件化"的相邻因果注入方法用于投机解码。

来源:Reddit · r/LocalLLaMA · reddit.com