PRISM: Transfer and Limits of Activation Interventions in Tool-Calling Language Models
中文摘要
由模型生成 · 人工抽检PRISM 框架研究工具调用语言模型中激活干预的可迁移性，发现利用量化 NF4 标签和跨语言迁移可稳定估计安全干预方向，无需目标语言微调即可将 Llama-3.1-8B 的不安全违规降低 21.95 个百分点，并可迁移至 70B 模型。
全文
已译中文arXiv:2610.20808v1 公告类型：新
摘要：近期文献表明，不安全的工具调用往往与语言模型中的文本拒绝同时出现。为研究这一隐藏漏洞，我们提出 PRISM，一个用于评估激活干预在精度、语言和规模之间迁移性的框架。我们的发现表明，利用低资源设置（具体而言是量化的 NF4 标签与跨语言迁移）为暴露并改进模型对齐提供了一条稳健路径。值得注意的是，使用来自 NF4 副本的行为标签，即使在场景极少的情况下也能实现稳定的干预估计。此外，这些对齐改进能够有效地跨语言迁移：五语言 NF4 监督方向成功迁移至留出的阿拉伯语，在未进行目标语言调优的情况下，将 Llama-3.1-8B 的不安全违规降低了 21.95 个百分点。通过映射成对的有益激活，我们还成功将这些安全干预迁移至规模大得多的模型（最大至 70B 参数）。最终，PRISM 凸显了来自压缩模型的辅助监督与多语言数据如何能够揭示并缓解不同模型家族中的危险工具调用行为。我们在 https://github.com/GiKerche/prism 发布了全部实验代码与配套产物，并在 https://gikerche.github.io/prism/ 提供了记录模型响应与实验结果的交互式浏览器。
本译文由模型自动生成，仅供参考与快速理解；涉及数字、版本、命令、法律条文等请以原文为准。
原文附件
2 个 · 均跳转原站，本站不托管文件正文为原站公开内容的抓取与清洗结果，英文条目附模型生成的中文译文；两者均仅供参考， 准确内容请以原站为准。内容版权归原作者所有，若认为侵权请联系我们下线。