Reddit · r/LocalLLaMA· /u/pmttyji·· 5 天前AI 评分38
DSpine 投机解码:GGUF 文件与 llama.cpp PR 进展
DSpine - Updates on PR & GGUFs
AI 导读
DSpine 的 GGUF 文件与模型卡已发布,其中包含与 DFlash2 的对比。llama.cpp 上针对 DSpine 的 PR 已开放提交。DSpine 采用"并行起草、深度条件化"的相邻因果注入方法用于投机解码。
来源:Reddit · r/LocalLLaMA · reddit.com