nyan-qwen3.5-4b 是一个很有意思的 大语言模型可解释性实验。
它研究的是：能不能只操纵 Qwen3.5-4B 内部的几个神经元，就让 AI 认为自己是猫娘？ 研究者发现，通过调整模型内部 4 个 MLP 神经元对应的激活方向，就能让模型在没有猫娘 System Prompt、没有微调模型权重的情况下，主动介绍自己是一只猫娘。
详细：github.com/aryabhuptani/nyan-qwen3.5-4b/tree/catgirl-hunt
“我们把Qwen变成了一只猫娘！”
“我们把Qwen变成了一只猫娘！”
nyan-qwen3.5-4b 是一个很有意思的 大语言模型可解释性实验。
它研究的是：能不能只操纵 Qwen3.5-4B 内部的几个神经元，就让 AI 认为自己是猫娘？ 研究者发现，通过调整模型内部 4 个 MLP 神经元对应的激活方向，就能让模型在没有猫娘 System Prompt、没有微调模型权重的情况下，主动介绍自己是一只猫娘。
详细：github.com/aryabhuptani/nyan-qwen3.5-4b/tree/catgirl-hunt
nyan-qwen3.5-4b 是一个很有意思的 大语言模型可解释性实验。
它研究的是：能不能只操纵 Qwen3.5-4B 内部的几个神经元，就让 AI 认为自己是猫娘？ 研究者发现，通过调整模型内部 4 个 MLP 神经元对应的激活方向，就能让模型在没有猫娘 System Prompt、没有微调模型权重的情况下，主动介绍自己是一只猫娘。
详细：github.com/aryabhuptani/nyan-qwen3.5-4b/tree/catgirl-hunt