我們生活在大數(shù)據(jù)時代，數(shù)據(jù)隱私問題更加受到關(guān)注。人類每秒產(chǎn)生數(shù)量驚人的數(shù)據(jù)，公司將這些數(shù)據(jù)用于廣泛的應(yīng)用。隨著數(shù)據(jù)以前所未有的速度存儲和共享，必須有更多的隱私保護技術(shù)。

差分隱私就是這樣一種保護個人數(shù)據(jù)的方法，事實證明它比我們的許多傳統(tǒng)方法更有效。它可以定義為一種系統(tǒng)，通過描述數(shù)據(jù)集中的組模式來公開共享有關(guān)數(shù)據(jù)集的信息，同時保留有關(guān)數(shù)據(jù)集中個人的信息。

差異隱私使研究人員和數(shù)據(jù)庫分析師能夠從數(shù)據(jù)庫中獲取有價值的信息，而不會泄露有關(guān)個人的個人身份信息。這一點很重要，因為許多數(shù)據(jù)庫都包含各種個人信息。

另一種看待差異隱私的方式是，它通過向數(shù)據(jù)集中注入噪聲來創(chuàng)建匿名數(shù)據(jù)。引入的噪音有助于保護隱私，同時仍然受到足夠的限制，因此分析師可以可靠地使用數(shù)據(jù)。

您可以擁有兩個幾乎相同的數(shù)據(jù)集。一個有您的個人信息，一個沒有。使用差分隱私，您可以確保統(tǒng)計查詢產(chǎn)生給定結(jié)果的概率是相同的，無論它在哪個數(shù)據(jù)庫上執(zhí)行。

差分隱私如何運作？

差異隱私的工作方式是通過向數(shù)據(jù)集引入隱私損失或隱私預(yù)算參數(shù)，通常表示為epsilon(ε)。這些參數(shù)控制向原始數(shù)據(jù)集添加多少噪聲或隨機性。

例如，假設(shè)您在數(shù)據(jù)集中有一列包含個人的“是”/“否”答案。

現(xiàn)在，假設(shè)您為每個人擲硬幣：

• 負責(zé)人：答案保持原樣。
• 反面：你第二次翻轉(zhuǎn)，如果是正面，則記錄答案為“是”，如果是反面，則記錄為“否”，而不管真正的答案是什么。

通過使用此過程，您可以為數(shù)據(jù)添加隨機性。使用大量數(shù)據(jù)和來自噪聲添加機制的信息，數(shù)據(jù)集將在聚合測量方面保持準確。由于隨機化過程，隱私通過允許每個人合理地否認他們的真實答案來實現(xiàn)。

雖然這是差分隱私的一個簡單示例，但它提供了基本的理解。在實際應(yīng)用中，算法更為復(fù)雜。

同樣重要的是要注意，差分隱私可以在本地實施，即在個人數(shù)據(jù)集中在數(shù)據(jù)庫中之前將噪聲添加到個人數(shù)據(jù)中，或者在全球范圍內(nèi)實施，即在從個人收集原始數(shù)據(jù)后將噪聲添加到原始數(shù)據(jù)中。

差分隱私的例子

差分隱私廣泛應(yīng)用于推薦系統(tǒng)、社交網(wǎng)絡(luò)和基于位置的服務(wù)等應(yīng)用程序。

以下是大公司如何依賴差異隱私的一些示例：

• Apple使用該方法從iPhone和Mac等設(shè)備收集匿名使用情況的見解。
• Facebook使用差分隱私來收集可用于有針對性的廣告活動的行為數(shù)據(jù)。
• 亞馬遜依靠這項技術(shù)來深入了解個性化購物偏好，同時隱藏敏感信息。

Apple在使用差異隱私來深入了解用戶的同時保護他們的隱私方面一直特別透明。

“Apple已經(jīng)采用并進一步開發(fā)了一種在學(xué)術(shù)界被稱為本地差異隱私的技術(shù)來做一些真正令人興奮的事情：深入了解許多Apple用戶正在做什么，同時幫助保護個人用戶的隱私。這是一種使Apple無需了解社區(qū)中的個人即可了解用戶社區(qū)的技術(shù)。差分隱私會在信息離開用戶設(shè)備之前轉(zhuǎn)換與Apple共享的信息，這樣Apple就永遠無法復(fù)制真實數(shù)據(jù)。”

–Apple的差分隱私概述

差分隱私的應(yīng)用

由于我們生活在這個大數(shù)據(jù)時代，因此存在許多威脅政府、組織和公司的數(shù)據(jù)泄露事件。與此同時，當(dāng)今的機器學(xué)習(xí)應(yīng)用依賴于需要大量訓(xùn)練數(shù)據(jù)的學(xué)習(xí)技術(shù)，這些數(shù)據(jù)通常來自個人。研究機構(gòu)還使用和共享具有機密信息的數(shù)據(jù)。以任何方式不當(dāng)披露這些數(shù)據(jù)都會給個人和組織帶來很多問題，嚴重時甚至?xí)?dǎo)致民事責(zé)任。

像差分隱私這樣的正式隱私模型解決了所有這些問題。它們用于保護個人信息、實時位置等。

通過使用差分隱私，公司可以在不泄露數(shù)據(jù)的情況下訪問大量敏感數(shù)據(jù)用于研究或業(yè)務(wù)。研究機構(gòu)還可以開發(fā)特定的差分隱私技術(shù)，以在越來越受歡迎的云共享社區(qū)中實現(xiàn)隱私過程的自動化。

為什么使用差分隱私？

差異隱私提供了一些主要屬性，使其成為在確保隱私的同時分析私人數(shù)據(jù)的優(yōu)秀框架：

• 隱私損失的量化：差分隱私機制和算法可以衡量隱私損失，這使得它能夠與其他技術(shù)進行比較。
• Composition：由于可以量化隱私損失，因此還可以通過多次計算對其進行分析和控制，從而實現(xiàn)不同算法的開發(fā)。
• 群體隱私：除了個人層面，差異化隱私使您能夠分析和控制較大群體之間的隱私損失。
• 后處理安全：后處理不會損害差分隱私。例如，數(shù)據(jù)分析師無法計算差分隱私算法輸出的函數(shù)并將其降低差分隱私。

差分隱私的好處

正如我們前面提到的，差分隱私優(yōu)于許多傳統(tǒng)的隱私技術(shù)。例如，如果所有可用信息都是可識別信息，則差分隱私可以更輕松地識別數(shù)據(jù)的所有元素。它還可以抵抗基于輔助信息的隱私攻擊，防止可以對去標識化數(shù)據(jù)進行的攻擊。

差異隱私的最大好處之一是它是組合的，這意味著您可以計算對同一數(shù)據(jù)進行兩次差異隱私分析的隱私損失。這是通過對兩項分析的個人隱私損失求和來完成的。

雖然差分隱私是一種新工具并且很難在研究團體之外實現(xiàn)，但易于實施的數(shù)據(jù)隱私解決方案正變得越來越容易獲得。在不久的將來，我們應(yīng)該會看到越來越多的此類解決方案可供更廣泛的公眾使用。