Reddit · r/LocalLLaMA· /u/Full-Travel857·· 1 小时前AI 评分34
提示词开头加一个 BOS token，改变了 15 个 LLM 回答中的 6 个，这重要吗？
# One token at the beginning of a prompt changed 6 out of 15 LLM responses. Does it matter?
AI 导读
在 Ollama 0.40.14 上测试 Bielik-Minitron 7B v3.0 Instruct（Q4_K_M），提示词开头加入 BOS token 后，15 个任务中有 6 个回答发生变化，但仅 1 个质量判定改变，通过率从 33/45 升至 36/45。
来源：Reddit · r/LocalLLaMA · reddit.com