Google DeepMind 发布 Gemma Scope 2,为 Gemma 3 全尺寸模型提供开源可解释性工具
Google DeepMind 发布 Gemma Scope 2,一套覆盖 Gemma 3 全部模型尺寸(270M 至 27B 参数)的开源可解释性工具套件。该套件结合稀疏自编码器(SAE)与 transcoder,并新增 skip-transcoder、Cross-layer transcoder 和面向聊天版本的分析工具,可研究越狱、拒绝机制和链式推理忠实度等行为。
推荐理由:Gemma Scope 2 覆盖 Gemma 3 全尺寸并升级稀疏自编码器工具,可了解开源可解释性工具的规模与方法变化。