AI 搜索

带引用 · 可溯源

先用站内已采集内容作答；站内不足时联网检索，每条结论都给出来源链接

大家都在搜：vLLM12 AbridgeKV 在 vLLM 中的实现改动涉及哪些模块？10 agent10 alignment10 fine-tuning10 multi-agent10 post-training10 pretraining10

AI 答案

部分可确认基于 3 条来源 · 引用可点击溯源

结论：在资料中，只有 [2] 的 PRISM（PRIvileged Sibling-guided Multi-Agent Topology Design）明确提到零初始化低秩分支；它的作用是在后训练阶段承载教师模型的逐决策监督信号，而零初始化是为了让学生模型从原始行为出发、不破坏初始策略，从而平滑地引入教师偏好。需要先澄清：资料里出现了两个不同的「PRISM」——1 是工具调用语言模型的激活干预迁移研究，2 是多智能体拓扑设计的后训练方法，3 实际是 ReviewPilot（PRISMA 流程）。零初始化低秩分支只出现在 2 中，1 的摘要未涉及该结构。 1. 低秩分支的作用：承载教师模型的逐决策监督 2 描述 PRISM 利用同一查询下另一个已验证可行图作为「特权兄弟」信息，通过零初始化低秩分支让教师模型提供逐决策监督，使学生模型学到查询级偏好2。也就是说，该分支是教师信号注入学生模型的通道，监督粒度是「逐决策」而非仅最终结果2。 2. 为什么需要零初始化 2 给出的动机是避免 SFT 偏向语料高频拓扑2。结合零初始化分支的常见设计逻辑（资料未展开其数学推导，此处仅基于 2 的表述）：分支初始输出为零，意味着训练起点等价于未注入教师信号的原模型，教师偏好是作为增量被逐步学到的，而不是在初始化时就扰动学生策略。资料中可确认的因果链是：零初始化低秩分支 + 特权兄弟监督 → 学到查询级偏好、避免高频拓扑偏置2。 3. 效果 在六个基准上优于现有拓扑设计基线2。 资料不足的部分：现有资料未给出零初始化低秩分支的具体结构（秩大小、注入层位置）、零初始化的理论证明，以及去掉零初始化后的消融数据，这些无法从资料确认。

继续追问

PRISM 的「特权兄弟」信息具体如何构造，与零初始化低秩分支如何配合？零初始化低秩分支与 LoRA 的初始化策略有何异同？PRISM 在六个基准上的具体提升幅度是多少？

参考来源

3 条

1站内PRISM: Transfer and Limits of Activation Interventions in Tool-Calling Language ModelsPRISM 框架研究工具调用语言模型中激活干预的可迁移性，发现利用量化 NF4 标签和跨语言迁移可稳定估计安全干预方向，无需目标语言微调即可将 Llama-3.1-8B 的不安全违规降低 21.95 个百分点，并可迁移至 70B 模型。arXiv cs.CLhttps://arxiv.org/abs/2610.20808 2站内PRISM: PRIvileged Sibling-guided Multi-Agent Topology DesignPRISM 提出一种面向 LLM 多智能体系统的拓扑生成后训练方法：利用同一查询下另一个已验证可行图作为"特权兄弟"信息，通过零初始化低秩分支让教师模型提供逐决策监督，使学生模型学到查询级偏好，避免 SFT 偏向语料高频拓扑。在六个基准上优于现有拓扑设计基线。arXiv cs.CLhttps://arxiv.org/abs/2610.20628 3站内ReviewPilot: A Multi-Agent System for Screening and Data Extraction in Systematic ReviewsReviewPilot 是一个面向系统综述 PRISMA 流程的多智能体系统，通过对话定制筛选标准与抽取模式，并保留项目记忆，实现论文筛选与证据抽取的自动化。每条筛选决策附理由、每个抽取值附来源，在流行病学专家评审中优于单提示 LLM 与 AgentSLR，筛选宏 F1 达 0.776、抽取 F1 达 0.788，值得关注其可追溯性与跨领域迁移潜力。arXiv cs.CLhttps://arxiv.org/abs/2610.21042

AI 答案正在检索与综合…

站内相关条目

3 条 · 点击可看原文全文与中文译文

返回信息流

大模

PRISM: Transfer and Limits of Activation Interventions in Tool-Calling Language Models

PRISM 框架研究工具调用语言模型中激活干预的可迁移性，发现利用量化 NF4 标签和跨语言迁移可稳定估计安全干预方向，无需目标语言微调即可将 Llama-3.1-8B 的不安全违规降低 21.95 个百分点，并可迁移至 70B 模型。

大模型·arXiv cs.CL·5 天前

#llm

PRISM: PRIvileged Sibling-guided Multi-Agent Topology Design

PRISM 提出一种面向 LLM 多智能体系统的拓扑生成后训练方法：利用同一查询下另一个已验证可行图作为"特权兄弟"信息，通过零初始化低秩分支让教师模型提供逐决策监督，使学生模型学到查询级偏好，避免 SFT 偏向语料高频拓扑。在六个基准上优于现有拓扑设计基线。

Agent·arXiv cs.CL·5 天前

#multi-agent

ReviewPilot: A Multi-Agent System for Screening and Data Extraction in Systematic Reviews

ReviewPilot 是一个面向系统综述 PRISMA 流程的多智能体系统，通过对话定制筛选标准与抽取模式，并保留项目记忆，实现论文筛选与证据抽取的自动化。每条筛选决策附理由、每个抽取值附来源，在流行病学专家评审中优于单提示 LLM 与 AgentSLR，筛选宏 F1 达 0.776、抽取 F1 达 0.788，值得关注其可追溯性与跨领域迁移潜力。

Agent·arXiv cs.CL·5 天前

#multi-agent