Google перенесла федеративное обучение в TEE: Gboard теперь тренируется с доказуемой приватностью

Google Research представила следующее поколение федеративного обучения (FL), построенное на доверенных средах исполнения (TEE). Главное новшество — впервые в индустрии обеспечена внешне верифицируемая центральная дифференциальная приватность (DP). Раньше в FL существовал «пробел доверия»: устройства отправляли данные для агрегации, но никто не мог проверить, что данные не логируются и не просматриваются. Secure Aggregation добавляла криптозащиту, но не сочеталась с современными DP-алгоритмами вроде matrix factorization DP-FTRL, и Google приходилось доверять в корректности добавления шума.

Новая архитектура переносит вычисление градиентов клиентов на сервер и делает серверную логику аттестационной — оператору больше не нужно доверять. Система координирует четыре компонента: шифрованная загрузка данных с публичной политикой доступа, Key Management System на базе TEE с консенсусом RAFT, выполнение workload в корневом TEE с делегированием worker TEE, и отказоустойчивое восстановление через зашифрованные снапшоты. Политики доступа публикуются в Rekor — прозрачный лог Sigstore, так что внешние аудиторы могут отследить каждый workload, которому устройство могло передать данные.

Gboard уже использует систему для запуска моделей предсказания следующего слова на английском и японском с усиленными гарантиями приватности и улучшенной точностью. Два ключевых изменения: во-первых, все загрузки собираются до запуска серверного обучения — дневные колебания доступности устройств больше не замедляют тренировку, программа может вычислить оптимальное расписание и настроить DP-параметры. Во-вторых, узкое место переместилось на сервер: предыдущие FL-модели обучались 1–2 месяца каждая, теперь обучение параллелится между машинами, ограничено только ресурсами TEE. Google сообщает о существенном ускорении, но точную цифру не называет.