作者：John Kahan - Chief Data Analytics Officer 翻譯：吳金笛 來源：數(shù)據(jù)派THU

本文介紹了一個基于差異隱私技術(shù)的數(shù)據(jù)分享平臺。

我們生活在一個充斥著數(shù)據(jù)的世界，我們每天都在創(chuàng)造越來越多的數(shù)據(jù)。然而，數(shù)據(jù)通常包含敏感的個人信息，這些信息可以通過允許重新標(biāo)識數(shù)據(jù)所有者的方式對其進行操作。因此，我們需要找到一種方法來分析數(shù)據(jù)，以釋放其全部潛力，同時又不為數(shù)據(jù)所有者的隱私帶來風(fēng)險。最近人工智能和數(shù)據(jù)科學(xué)的進步使這成為可能，這就是為什么我很高興宣布，微軟與哈佛大學(xué)的Gary King，Weatherhead大學(xué)的教授、哈佛大學(xué)定量社會科學(xué)研究所的創(chuàng)始人兼領(lǐng)導(dǎo)者，合作構(gòu)建一個平臺來使用差異隱私以保證數(shù)據(jù)的私密性,同時使跨部門的研究人員包括學(xué)術(shù)界、政府和私營部門獲得新的可以迅速提高人類知識的見解。

“我們很高興能與微軟合作這個重要的項目。我們的目標(biāo)不是平衡個人隱私和公眾利益，而是消除沖突，實現(xiàn)兩者。” Gary King說。

差異隱私，是一項對大型數(shù)據(jù)集的隱私保護分析而量身定制的技術(shù)，于2006年發(fā)明，由微軟研究員杰出的科學(xué)家 Cynthia Dwork和哈佛大學(xué)計算機科學(xué)教授Gordon McKay帶頭的，與Kobbi Nissim、Frank McSherry和Adam Smith合作，進行了為期四年的研究。差異隱私使研究人員和分析人員能夠從包含個人信息的數(shù)據(jù)集中提取對公共利益有用的見解，同時提供當(dāng)今最強大的隱私保護。

這種看似矛盾的結(jié)果是通過在計算中引入相對較小的誤差或統(tǒng)計噪聲來實現(xiàn)的。這些誤差大到足以保護隱私，但又小到提供給分析師和研究人員的答案仍然有用。我們的目標(biāo)是建立一個差異化的隱私平臺以提供一個更通用的解決方案，最終可能會有廣泛的研究人員和公司對此做出貢獻。

“差異隱私體現(xiàn)了對基礎(chǔ)研究進行投資的回報，也展示了理論計算機科學(xué)作為社會變革工具的巨大潛力。創(chuàng)建一個具有工業(yè)實力、公眾可用的平臺將促進實踐和藝術(shù)發(fā)展” 。Cynthia Dwork說。

以前，研究人員依靠去識別等技術(shù)，這是一種在更大的數(shù)據(jù)集中剝離敏感數(shù)據(jù)的過程。不幸的是，這種方法不安全，并且很容易被通過重復(fù)和復(fù)雜的查詢以及將其與其他數(shù)據(jù)結(jié)合使用的方法而破壞。

差異隱私背后的數(shù)學(xué)是復(fù)雜的,但如果你想了解更多信息,我建議閱讀Cynthia Dwork一篇簡短的論文，即隱私數(shù)據(jù)分析的一個堅實的基礎(chǔ)(https://www.microsoft.com/en-us/research/publication/a-firm-foundation-for-private-data-analysis/)，它專為廣泛的技術(shù)受眾編寫,和另一篇論文，即差異隱私:非技術(shù)受眾入門(https://dash.harvard.edu/handle/1/38323292)，由哈佛大學(xué)計算機科學(xué)和應(yīng)用數(shù)學(xué)教授Salil Vadhan和Vicky Joseph共同編寫，他們也將與我們在這個項目上合作。

這些論文很好地總結(jié)了差異隱私給那些想要分析敏感數(shù)據(jù)的人帶來的好處:

♦  差異隱私本質(zhì)上是保護個人信息，就像在分析中沒有用到她的信息一樣。

♦  差異隱私本質(zhì)上保證了使用個人數(shù)據(jù)不會泄露任何特定于她的個人身份信息。在此，特定指的是除非在分析中使用的信息，否則無法被推斷出的信息。

♦  差異隱私本質(zhì)上掩蓋了任何個人的貢獻，使得無法推斷任何特定于個人的信息，包括個人的信息是否被使用。

在微軟方面,我們的平臺的開發(fā)是由Azure AI團隊領(lǐng)導(dǎo), 由微軟 AI平臺的副總裁Eric Boyd帶領(lǐng), 他說:“這種合作匯集了微軟巨大的工程資源和Azure AI以及一些最有才華的數(shù)據(jù)科學(xué)家,工程師和科學(xué)家來開發(fā)一種數(shù)據(jù)共享工具,這將從根本上改變我們做研究的方式。我們正在研究來自政府、醫(yī)療保健、學(xué)術(shù)和商業(yè)部門的實際情況，這些情況將展示差異隱私如何提供最強大的可能的隱私保護，我們很高興看到更深層次的見解和新的解決方案。”

一但構(gòu)建了基本架構(gòu)并實施治理，我們將向全世界的開發(fā)人員、研究人員和公司開放平臺和算法，讓他們在未來參與構(gòu)建和支持該平臺。我們認為，這種開放的方法對成功至關(guān)重要，因為它保證了透明性，使所有人都能信任產(chǎn)出。

我們的項目還建立在微軟的同態(tài)加密和機密計算的工作之上，這些工作旨在提高云計算的安全性。當(dāng)將同態(tài)加密與差異隱私相結(jié)合以確保數(shù)據(jù)安全時，用戶將能夠釋放其數(shù)據(jù)的全部潛力，并確信其數(shù)據(jù)將保持安全和在他們的控制之下。

一旦該平臺可用，研究人員將能夠使用它使他們自己的數(shù)據(jù)集可供世界各地的其他研究人員使用。因此，我們可以將各種各樣的、以前沒有聯(lián)系的甚至不相關(guān)的數(shù)據(jù)集組合成可以被人工智能分析的海量數(shù)據(jù)集，這將進一步釋放數(shù)據(jù)的力量。也許更重要的是，由此產(chǎn)生的見解將開辟新的研究途徑，使我們能夠為人類面臨的一些最緊迫的問題開發(fā)新的解決方案。

目標(biāo)是使用我們的集體創(chuàng)新和取得的突破為每一個人服務(wù):對抗癌癥和其他疾病，設(shè)計工具來幫助有學(xué)習(xí)障礙者，幫助難民找到生活的地方，以及保護我們的地球不受氣候變化的危害，同時保護為我們提供數(shù)據(jù)的數(shù)據(jù)所有者的隱私。

該項目也將是Cascadia數(shù)據(jù)發(fā)現(xiàn)計劃的一個關(guān)鍵組成部分，該計劃旨在建立一個強大的健康數(shù)據(jù)生態(tài)系統(tǒng)，重點是在西北地區(qū)開展協(xié)作、數(shù)據(jù)共享和數(shù)據(jù)驅(qū)動的癌癥研究。下周我將參加Cascadia創(chuàng)新會議，屆時我們將討論我們在差異隱私方面的工作，以及它如何推進我們的合作伙伴Fred Hutchinson癌癥研究中心和其他CDDI合作伙伴正在開展的工作。

我們將在今年秋天宣布如何讓更多開發(fā)人員和研究人員參與我們的細節(jié)。

原文標(biāo)題：

Microsoft and Harvard’s Institute for Quantitative Social Science Collaboration Develops Open Data Differential Privacy Platform, Opens New Research

原文鏈接：

https://www.linkedin.com/pulse/microsoft-harvards-institute-quantitative-social-science-john-kahan/?trackingId=f0rsxujTTHapEOmCYHSdfw%3D%3D

標(biāo)簽： 數(shù)據(jù)分享平臺 數(shù)據(jù)集

版權(quán)申明：本站文章部分自網(wǎng)絡(luò)，如有侵權(quán)，請聯(lián)系：west999com@outlook.com
特別注意：本站所有轉(zhuǎn)載文章言論不代表本站觀點！
本站所提供的圖片等素材，版權(quán)歸原作者所有，如需使用，請與原作者聯(lián)系。