Reddit · r/LocalLLaMA· /u/dahara111·· 9 小时前AI 评分46
用 llama.cpp control vectors 复现 Qwen3.5-4B 神经元级引导
Reproducing neuron-level steering of Qwen3.5-4B in llama.cpp with control vectors
AI 导读
开发者将 Qwen3.5-4B 的两个 MLP 神经元引导导出为 llama.cpp control vectors,并在 GGUF 量化模型上测试。实验显示该引导可经受量化,部分神经元影响多个语言,另附 Alien Qwen、Golden Gate Qwen 等 control vectors。
来源:Reddit · r/LocalLLaMA · reddit.com