Advances in private training for production on-device language models

语言模型（LM）经过训练，可根据输入文本预测下一个词，是许多应用的关键技术 [1, 2]。在 Gboard 中，LM 被用于改善用户的输入体验，支持诸如下一词预测（NWP）、智能撰写、智能补全与建议、滑动输入以及校对等功能。将模型部署在用户设备上而非企业服务器上，具有更低的延迟和更好的模型使用隐私等优势。虽然直接利用用户数据在设备上训练模型能有效提升 NWP 和智能文本选择等应用的实用性能，但保护用于模型训练的用户数据的隐私仍然十分重要。

在本文中，我们讨论多年研究进展如何为 Gboard 语言模型的隐私训练提供支持，从 2017 年联邦学习（FL）的概念验证开发，到 2022 年正式的差分隐私（DP）保证。FL使手机能够在将所有训练数据保留在设备上的同时协作学习模型，而DP提供了一种可量化的数据匿名化度量。形式上，DP 通常由（ε，δ）来表征，较小的值表示更强的保证。当 δ 较小时，机器学习（ML）模型被认为具有ε=10 时的合理 DP 保证和 ε=1 时的强 DP 保证。

截至目前，Gboard 中所有 NWP 神经网络语言模型均通过带有正式 DP 保证的 FL 训练，未来所有基于用户数据训练的 Gboard 语言模型发布都要求具备 DP。这 30+ 个 Gboard 端侧语言模型已在 7+ 种语言和 15+ 个国家/地区上线，并满足 (ɛ, δ)-DP 保证，其中 δ 小至 10-10，ɛ 介于 0.994 与 13.69 之间。据我们所知，这是 Google 乃至任何地方已知最大的生产环境中用户级 DP 部署，也是首次针对直接基于用户数据训练的模型宣布 ɛ < 1 的强 DP 保证。

Gboard 中的隐私原则与实践

在“Gboard 中的私有联邦学习”一文中，我们讨论了不同的隐私原则目前如何体现在生产模型中，包括：

- 透明度与用户控制 ：我们披露所使用的数据、数据用途、数据在各渠道中的处理方式，以及 Gboard 用户如何轻松 配置 学习模型中的数据使用。 - 数据最小化 ：FL 会立即仅聚合能够改进特定模型的重点更新。 安全聚合 （SecAgg）是一种加密方法，进一步保证只能访问临时更新的聚合结果。 - 数据匿名化 ：服务器应用 DP，以防止模型记住单个用户训练数据中的独特信息。 - 可审计性与可验证性 ：我们已在开源代码中公开关键算法方法和隐私核算（ TFF aggregator 、 TFP DPQuery 、 DP accounting 以及 FL system ）。

简要历史

…