Reddit · r/LocalLLaMA· /u/Egor4more·· 3 天前AI 评分19
UCVG.cpp:面向任意大语言模型的 C++ 控制向量生成工具,仅需一对提示词即可生成
Control vector generation tool in C++ for any LLM in a single prompt pair (UCVG.cpp)
AI 导读
开发者 Egor4more 发布 UCVG.cpp,一款仿照 llama.cpp 安装流程的控制向量生成工具,用户只需输入一对对比提示词即可为任意大语言模型生成控制向量,从而绕过系统提示词被忽略或被用户输入覆盖的局限。作者以 Qwen3.6-35B-A3B 给出生成示例,指出高强度引导可能使输出质量下降,简化现有工具的部署复杂度是该项目的主要目标。
来源:Reddit · r/LocalLLaMA · reddit.com