谷歌今天宣布了TensorFlow Privacy，一個用于其TensorFlow機器學習框架的庫，旨在讓開發(fā)人員更容易地訓練具有強大隱私保障的AI模型。谷歌說，它是開源的，不需要“隱私方面的專業(yè)知識”或基礎(chǔ)的數(shù)學知識。此外，使用標準TensorFlow機制的開發(fā)人員不應(yīng)該改變他們的模型架構(gòu)、培訓過程或過程。

它緊跟著今天發(fā)布的TensorFlow 2.0 alpha。

谷歌在一篇媒體文章中寫道:“現(xiàn)代機器學習正越來越多地應(yīng)用于創(chuàng)造令人驚嘆的新技術(shù)和用戶體驗，其中許多涉及訓練機器負責任地從個人照片或電子郵件等敏感數(shù)據(jù)中學習。”“我們打算將TensorFlow Privacy發(fā)展成為一個擁有強大隱私保障的訓練機器學習模型的最佳技術(shù)中心。”

根據(jù)谷歌，TensorFlow Privacy是一種統(tǒng)計技術(shù)，其目的是在平衡用戶信息的同時，將準確性最大化。為了確保這一點，它使用一種改進的隨機梯度下降法(AI系統(tǒng)中優(yōu)化目標函數(shù)的迭代方法)來優(yōu)化模型，這種方法對訓練數(shù)據(jù)示例引起的多個更新進行平均，剪輯每個更新，并在最終平均值上添加噪聲。

谷歌說，TensorFlow的隱私保護可以防止對罕見細節(jié)的記憶，并保證無論用戶的數(shù)據(jù)是否用于訓練，兩種機器學習模型都是不可分辨的。

谷歌寫道:“理想情況下，經(jīng)過訓練的機器學習模型的參數(shù)應(yīng)該編碼一般模式，而不是具體訓練實例的事實。”“特別是對于深度學習，額外的保證可以有效地加強其他隱私技術(shù)提供的保護。”

TensorFlow Privacy是在英特爾(Intel)的HE-Transformer公開源代碼亮相之后推出的。HE-Transformer是一種“保護隱私”的工具，允許人工智能系統(tǒng)對敏感數(shù)據(jù)進行操作。它是nGraph的后端，Intel的神經(jīng)網(wǎng)絡(luò)編譯器，基于Microsoft Research的簡單加密算術(shù)庫(SEAL)。