跳到正文
原文
Reddit · r/LocalLLaMA· /u/dahara111·· 9 小时前AI 评分46

用 llama.cpp control vectors 复现 Qwen3.5-4B 神经元级引导

Reproducing neuron-level steering of Qwen3.5-4B in llama.cpp with control vectors

AI 导读

开发者将 Qwen3.5-4B 的两个 MLP 神经元引导导出为 llama.cpp control vectors,并在 GGUF 量化模型上测试。实验显示该引导可经受量化,部分神经元影响多个语言,另附 Alien Qwen、Golden Gate Qwen 等 control vectors。

来源:Reddit · r/LocalLLaMA · reddit.com