大模型arXiv cs.LG4 天前
Optimal Hydra: Model Heterogeneous Federated Learning for LLMs using Data-Informed Hydra-Nets
提出 Optimal Hydra，一种面向 LLM 微调的模型异构联邦学习框架：结合全局层选择与客户端特定的注意力头选择，依据本地数据分布生成定制子网络 Hydra-nets，在降低客户端资源需求的同时提升性能，是该场景下首个模型异构 FL 方案。
每日自动追踪全球权威信源，模型生成中文摘要与有效期判断，人工抽检把关。 不追热点，只留经得起推敲的那一部分。
AI 与可被 AI 赋能的行业方向，每个领域独立成脉
共 1 条符合条件
提出 Optimal Hydra，一种面向 LLM 微调的模型异构联邦学习框架：结合全局层选择与客户端特定的注意力头选择，依据本地数据分布生成定制子网络 Hydra-nets，在降低客户端资源需求的同时提升性能，是该场景下首个模型异构 FL 方案。