大模型arXiv cs.LG4 天前
Optimal Hydra: Model Heterogeneous Federated Learning for LLMs using Data-Informed Hydra-Nets
提出 Optimal Hydra,一种面向 LLM 微调的模型异构联邦学习框架:结合全局层选择与客户端特定的注意力头选择,依据本地数据分布生成定制子网络 Hydra-nets,在降低客户端资源需求的同时提升性能,是该场景下首个模型异构 FL 方案。
每日自动追踪全球权威信源,模型生成中文摘要与有效期判断,人工抽检把关。 不追热点,只留经得起推敲的那一部分。
AI 与可被 AI 赋能的行业方向,每个领域独立成脉
共 3 条符合条件
提出 Optimal Hydra,一种面向 LLM 微调的模型异构联邦学习框架:结合全局层选择与客户端特定的注意力头选择,依据本地数据分布生成定制子网络 Hydra-nets,在降低客户端资源需求的同时提升性能,是该场景下首个模型异构 FL 方案。
该论文发布0.6B-14B开源权重模型,通过指令微调、偏好对齐与模型融合适配沃洛夫语(2300万使用者),在63项任务上表现良好,8B/14B模型可与更大商业系统竞争,已在客服试点并公开于Hugging Face。
论文研究工具型语言智能体的"选择性撤回"能力:在证据变化或授权撤销时暂停受影响动作、保留有效工作。用 Qwen2.5-3B 的四个 LoRA 检查点在合成环境 NAQD-Env 上做监督微调对比,发现微调后决策一致性与撤回召回率显著优于基线,但存在规则级失败(如错误撤回、禁止组合收窄不足)。贡献在于提出检测聚合指标掩盖的规则级退化的方法。