Counterfactual Neighborhood Risk Fields: Evidence-Grounded Selective Safety for Vision-Language Models
中文摘要
由模型生成 · 人工抽检提出 CNRF 框架，通过构建上下文匹配的良性-有害反事实对，将表征差异作为风险方向，并独立估计邻域支持度，从而区分'不熟悉'与'有害'，实现选择性干预而非一刀切拒绝。在三个 VLM 和五类多模态越狱攻击上达到 86.06-89.30% 宏观防御成功率，同时保留良性任务效用。
全文
已译中文arXiv:2610.20679v1 公告类型：新
摘要：面向视觉语言模型（VLM）的基于表示的安全防御通常学习将有害输入与良性输入区分开，但仅靠区分并不能确立风险分数的含义，也不能确立何时应当信任该分数。我们提出反事实邻域风险场（Counterfactual Neighborhood Risk Fields, CNRF），这是一个有证据支撑的选择性 VLM 安全框架。CNRF 构建上下文匹配的良性—有害反事实对，将其表示差异用作与能力相关的风险方向，并将邻域支持度与风险分开估计。这种分离防止将不熟悉与有害性混为一谈，并支持选择性干预而非一概拒绝。一个受害者自适应接口可容纳不同 VLM 架构下不同的安全观测结果，并将被选中的请求路由至同一受害者的响应审查，该审查要么放行可接受的候选，要么生成有害能力降低的受限替代方案。在三个 VLM 和五个多模态越狱家族上，CNRF 取得 86.06–89.30% 的宏平均防御成功率，同时保留可观的良性任务效用。受控实验进一步表明，查询匹配的参考以及保留的上下文—方向对应关系，在低假阳性区间内实质性提升了风险排序。因此，CNRF 将基于表示的 VLM 安全从学习有害性边界重构为为选择性风险决策构建可适用的证据。
本译文由模型自动生成，仅供参考与快速理解；涉及数字、版本、命令、法律条文等请以原文为准。
原文附件
2 个 · 均跳转原站，本站不托管文件正文为原站公开内容的抓取与清洗结果，英文条目附模型生成的中文译文；两者均仅供参考， 准确内容请以原站为准。内容版权归原作者所有，若认为侵权请联系我们下线。