跳到正文
原文
Reddit · r/LocalLLaMA· /u/Studio271·· 3 天前AI 评分34

strata-swift-iq3_xxs 在推理过程中随机插入完全不相关信息的问题

strata-swift-iq3_xxs randomly interjecting completely unrelated information in thoughts

AI 导读

用户在使用 Qwen3.8-27b-iq4xs 变体时发现,更小的 strata-swift-iq3_xxs 模型反而实现了 2~3 倍性能提升。然而,该模型在执行代码去冗余任务时,其推理过程中突然插入了 Lee Kuan Yew(李光耀)的生平简介,与原任务完全无关。模型出现此类"病理"行为的原因尚不明确。

来源:Reddit · r/LocalLLaMA · reddit.com