跳到正文
原文
Reddit · r/LocalLLaMA· /u/ParvusNumero·· 1 天前AI 评分36

单神经元改动即可让 Qwen3-8B/14B 自称其他身份的实验

Single-Neuron Identity Shifts

AI 导读

有人在推理阶段逐个微调单个神经元,在 Qwen3-8B 和 14B 上约 4% 的改动会让模型在被问"你是谁"时声称完全不同的身份,甚至自称水族箱用的 150 瓦紧凑型荧光灯。作者据此质疑"新模型 XYZ 自称旧模型 ABC 就说明其经过蒸馏"这类推断,因为一次极小的改动就能触发身份漂移;文末的图谱显示部分层对该效应远比其它层敏感。

来源:Reddit · r/LocalLLaMA · reddit.com