部署与算力Google AI Blog4 天前
Advances in private training for production on-device language models
Google 分享 Gboard 端侧语言模型私有训练的进展:所有下一词预测模型均采用联邦学习并具备形式化差分隐私保证,覆盖 7+ 语言、15+ 国家,ε 低至 0.994,是已知最大规模用户级 DP 生产部署,对端侧 AI 隐私落地有标杆意义。
每日自动追踪全球权威信源,模型生成中文摘要与有效期判断,人工抽检把关。 不追热点,只留经得起推敲的那一部分。
AI 与可被 AI 赋能的行业方向,每个领域独立成脉
共 2 条符合条件
Google 分享 Gboard 端侧语言模型私有训练的进展:所有下一词预测模型均采用联邦学习并具备形式化差分隐私保证,覆盖 7+ 语言、15+ 国家,ε 低至 0.994,是已知最大规模用户级 DP 生产部署,对端侧 AI 隐私落地有标杆意义。
研究发现,设备端少样本LoRA个性化虽能学会新指令,却会削弱助手对范围外输入的拒识能力(AUROC平均下降0.055–0.258),部分源于置信度打分器失准,也与嵌入边界收缩相关。改用马氏距离打分无需重训即可在5个数据集中的3个恢复大部分性能且不损精度,对端侧助手可靠性有直接价值。