作者 | 王融 騰訊研究院資深專家

讓客戶滿意是我們工作的目標(biāo)，不斷超越客戶的期望值來自于我們對(duì)這個(gè)行業(yè)的熱愛。我們立志把好的技術(shù)通過有效、簡單的方式提供給客戶，將通過不懈努力成為客戶在信息化領(lǐng)域值得信任、有價(jià)值的長期合作伙伴，公司提供的服務(wù)項(xiàng)目有：空間域名、虛擬主機(jī)、營銷軟件、網(wǎng)站建設(shè)、尚義網(wǎng)站維護(hù)、網(wǎng)站推廣。

前 言

信任在社會(huì)財(cái)富創(chuàng)造和經(jīng)濟(jì)增長中扮演重要角色，在網(wǎng)絡(luò)連接的數(shù)字社會(huì)中更是如此。騰訊研究院文章《經(jīng)濟(jì)增長的信任基捶結(jié)合區(qū)塊鏈技術(shù)的應(yīng)用與發(fā)展，探討了塑造社會(huì)信任的正式制度（法律、監(jiān)管、司法），以及非正式機(jī)制（社會(huì)風(fēng)俗，倫理、技術(shù)）之間的相互關(guān)系。文章提出：科技應(yīng)當(dāng)與其他信任機(jī)制相互結(jié)合，用科技增強(qiáng)傳統(tǒng)信任，才能走向更廣闊天地。

本文將在此基礎(chǔ)上繼續(xù)討論數(shù)字社會(huì)最重要的信任話題之一隱私保護(hù)，該領(lǐng)域不僅再次驗(yàn)證了上述觀點(diǎn)，還呈現(xiàn)了更為緊密的互動(dòng)關(guān)系：隱私權(quán)邁向個(gè)人信息保護(hù)，是制度在回應(yīng)信息技術(shù)帶來的信任新風(fēng)險(xiǎn)，但制度不可避免具有滯后性。為減少規(guī)制慣性帶來的負(fù)面效用，制度應(yīng)保持適度彈性，以使制度與技術(shù)進(jìn)行更包容的雙向互動(dòng)，彼此調(diào)整完善。在下一代人工智能新興技術(shù)領(lǐng)域中，我們也欣喜地看到這種良性互動(dòng)，以聯(lián)邦學(xué)習(xí)（Federated Learning）為代表的AI技術(shù)方向，在保障隱私和數(shù)據(jù)安全的前提下，為進(jìn)一步挖掘數(shù)據(jù)價(jià)值、創(chuàng)造社會(huì)福祉帶來新的解決方案。

一、 制度對(duì)技術(shù)的回應(yīng)：隱私權(quán)向個(gè)人信息保護(hù)擴(kuò)展

回顧過去一百多年，在面對(duì)科技對(duì)個(gè)人安寧、自主性可能造成威脅時(shí)，制度均作出了積極的回應(yīng)，并據(jù)此搭建監(jiān)管框架，試圖重建信任基石。

1890年，快速發(fā)展的八卦新聞業(yè)以及攝影技術(shù)應(yīng)用對(duì)個(gè)人生活帶來侵?jǐn)_，美國學(xué)者由此提出了現(xiàn)代隱私權(quán)利理論[]，“個(gè)人獨(dú)處的安寧”逐步被司法實(shí)踐認(rèn)可并成為法律原則。

到19世紀(jì)六七十年代，計(jì)算機(jī)大規(guī)模應(yīng)用普及，防御性的、事后救濟(jì)性的“隱私權(quán)”難以解決個(gè)人信息非法收集和利用問題，私法領(lǐng)域的“隱私權(quán)”逐步發(fā)展為公法領(lǐng)域的個(gè)人信息保護(hù)制度。即在未發(fā)生隱私侵害后果之前，就明確個(gè)人信息處理的方式，包括知情同意，最小化，目的特定、保障安全與可問責(zé)等。歐美發(fā)達(dá)國家率先完成個(gè)人信息保護(hù)立法。

進(jìn)入21世紀(jì)，在應(yīng)對(duì)云計(jì)算、大數(shù)據(jù)、物聯(lián)網(wǎng)等帶來的個(gè)人信息保護(hù)挑戰(zhàn)中，歐盟扮演了領(lǐng)導(dǎo)者角色?！稓W盟通用數(shù)據(jù)保護(hù)條例》（GDPR）細(xì)致規(guī)定了數(shù)據(jù)處理的合法性基礎(chǔ)，并通過高額的違規(guī)處罰，促進(jìn)了各行各業(yè)在數(shù)據(jù)保護(hù)方面的關(guān)注與投入，其在全球范圍內(nèi)形成立法示范效應(yīng)，更是將數(shù)據(jù)保護(hù)推向了前所未有的重要性。

二、 制度的天然缺陷：滯后與規(guī)制慣性

如同其他領(lǐng)域的法律制度一樣，隱私與個(gè)人信息保護(hù)立法過程，就是回應(yīng)滯后再回應(yīng)再滯后的循環(huán)遞進(jìn)過程。

首先，個(gè)人信息保護(hù)制度的基石“個(gè)人信息”定義一直處于被挑戰(zhàn)狀態(tài)。大數(shù)據(jù)的出現(xiàn)模糊了個(gè)人信息與非個(gè)人信息的邊界。大量數(shù)據(jù)更易被關(guān)聯(lián)和聚合，大大增強(qiáng)了將非個(gè)人信息轉(zhuǎn)化為個(gè)人信息的能力。如果法律固守傳統(tǒng)，適用于嚴(yán)格界定的“直接可識(shí)別身份的信息”，那么在大數(shù)據(jù)環(huán)境下，數(shù)據(jù)利用的安全風(fēng)險(xiǎn)又如何被規(guī)制？如果擴(kuò)張個(gè)人信息的邊界，那么又將擴(kuò)張到何種程度，而不至于超出法律體系運(yùn)行本身可負(fù)擔(dān)的合理邊界？這是實(shí)務(wù)中不斷圍繞cookie記錄、搜索記錄、動(dòng)靜態(tài)IP地址、設(shè)備編碼是否屬于個(gè)人信息爭議的根源。隨著物聯(lián)網(wǎng)、智慧城市，甚至產(chǎn)業(yè)互聯(lián)網(wǎng)的加速部署，將帶來更多類似爭議。網(wǎng)絡(luò)上的信息日夜不分地緊密結(jié)合在一起，匯合成支撐社會(huì)運(yùn)轉(zhuǎn)的巨大信息流。在此情形下，將某一主體所提出的原信息從信息束的整體中獨(dú)立拆分、收回（撤回）、取消或刪除的難度日益加大，甚至在某種程度上，在原信息主體完全未知的情況下，它會(huì)自動(dòng)在網(wǎng)絡(luò)世界中互相進(jìn)行聯(lián)系、融合和更新[]。

其次，個(gè)人信息保護(hù)基本原則難以應(yīng)對(duì)新型的信息實(shí)踐。各國現(xiàn)行的個(gè)人數(shù)據(jù)保護(hù)原則主要基于1980年《OECD個(gè)人數(shù)據(jù)保護(hù)指南》，而該指南形成的背景主要是針對(duì)六七十年代政府和大公司使用計(jì)算機(jī)收集和處理個(gè)人數(shù)據(jù)，因此確立了目的特定，知情同意，最小化等原則。但在當(dāng)前以數(shù)據(jù)驅(qū)動(dòng)的經(jīng)濟(jì)發(fā)展中，以上原則的適用已顯得力不從心。過去：數(shù)據(jù)的收集往往在事前即可明確目的，當(dāng)前：數(shù)據(jù)價(jià)值和創(chuàng)新依賴于后續(xù)的挖掘利用；過去：數(shù)據(jù)收集通過單個(gè)采集，知情同意機(jī)制尚可運(yùn)轉(zhuǎn)；當(dāng)前：數(shù)據(jù)收集大多通過機(jī)器被動(dòng)同步完成，圍繞知情同意有效性的質(zhì)疑不斷增多；過去：政策監(jiān)管框架聚焦于如何減少用戶所面臨的風(fēng)險(xiǎn)；當(dāng)前：政策更多聚焦于如何在保護(hù)與促進(jìn)創(chuàng)新、經(jīng)濟(jì)增長之間保持平衡。個(gè)人信息的使用與否不再取決于個(gè)人與與社會(huì)整體的交往、融入意愿，而是一種在多數(shù)情況下無須進(jìn)行選擇的生活方式、交往方式，這體現(xiàn)了社會(huì)運(yùn)轉(zhuǎn)方式的全局性、整體化變革[]。

再次，區(qū)塊鏈技術(shù)對(duì)現(xiàn)有個(gè)人信息保護(hù)實(shí)踐帶來了根本性的挑戰(zhàn)。如果說移動(dòng)互聯(lián)網(wǎng)、云計(jì)算、大數(shù)據(jù)是對(duì)個(gè)人信息保護(hù)機(jī)制如何落地執(zhí)行的挑戰(zhàn)，GDPR尚可在體系內(nèi)部進(jìn)行修補(bǔ)，然而區(qū)塊鏈的橫空出世，則對(duì)個(gè)人信息保護(hù)規(guī)制范式帶來根本性沖擊。區(qū)塊鏈創(chuàng)建了一種全新的信任機(jī)制，通過共識(shí)算法，去中心化分布式存儲(chǔ)使參與者達(dá)成共識(shí)。這與個(gè)人信息保護(hù)機(jī)制建構(gòu)的中心化規(guī)范范式不相適應(yīng)[]。傳統(tǒng)個(gè)人信息保護(hù)制度體系重點(diǎn)指向的是現(xiàn)實(shí)世界里，中心化的數(shù)據(jù)控制者，例如：政府機(jī)構(gòu)、銀行、醫(yī)院，以及各類互聯(lián)網(wǎng)中心化平臺(tái)。而在去中心化的區(qū)塊鏈邏輯中，讓分散在全球各節(jié)點(diǎn)（背后是個(gè)人或者機(jī)構(gòu)）的參與者遵循統(tǒng)一的數(shù)據(jù)保護(hù)框架，對(duì)任何一家監(jiān)管機(jī)構(gòu)都充滿挑戰(zhàn)。更進(jìn)一步，在區(qū)塊鏈防止篡改的信任邏輯中，也很難支持?jǐn)?shù)據(jù)保護(hù)制度中的更正權(quán)、刪除權(quán)甚至是被遺忘權(quán)等權(quán)利訴求；單點(diǎn)記入、全網(wǎng)同步功能也與GDPR中的數(shù)據(jù)最小化原則格格不入。

盡管區(qū)塊鏈與數(shù)據(jù)保護(hù)法律原則在底層邏輯上存在沖突，但不可否認(rèn)，區(qū)塊鏈的功能目標(biāo)卻與制度目標(biāo)是兼容的。區(qū)塊鏈有利于提升人們對(duì)個(gè)人數(shù)據(jù)的控制權(quán)，用戶掌握著唯一的公鑰和私鑰，可以更為自由地選擇將個(gè)人數(shù)據(jù)在何時(shí)披露給何人，相比之下，目前中心化的數(shù)據(jù)管理范式，如身份證號(hào)，醫(yī)療記錄則有更多的被非授權(quán)披露的風(fēng)險(xiǎn)。

總之，當(dāng)現(xiàn)有制度在嘗試解決技術(shù)帶來的問題時(shí)，往往會(huì)陷入規(guī)制的路徑依賴，如在個(gè)人信息保護(hù)機(jī)制中，繼續(xù)加強(qiáng)知情同意，繼續(xù)加強(qiáng)個(gè)體權(quán)利，然而這些應(yīng)對(duì)對(duì)于實(shí)際問題的解決似乎效果有限。正如歐盟GDPR在2016年甫一問世，制度規(guī)范就已走向固化。相比之下，技術(shù)發(fā)展卻仍在以驚人的速度高歌猛進(jìn)。在區(qū)塊鏈之外，無人駕駛、面部識(shí)別、可穿戴設(shè)備、智能家居、醫(yī)療監(jiān)測(cè)器械、行為生物數(shù)據(jù)、無人機(jī)等一個(gè)又一個(gè)技術(shù)應(yīng)用，不斷點(diǎn)燃數(shù)據(jù)驅(qū)動(dòng)的新領(lǐng)域。對(duì)于這些新技術(shù)，是嚴(yán)格套用GDPR予以規(guī)范，還是適度平衡隱私保護(hù)與創(chuàng)新發(fā)展，是政策制定者無法回避的現(xiàn)實(shí)問題。

綜上所述，現(xiàn)有的個(gè)人信息保護(hù)制度帶有一定的缺陷。如果從區(qū)塊鏈技術(shù)等新興技術(shù)的發(fā)端開始，就將其完全套用在規(guī)制范圍內(nèi)，甚至視之為違法技術(shù)，那么無疑會(huì)扼殺實(shí)現(xiàn)數(shù)據(jù)保護(hù)目標(biāo)和技術(shù)發(fā)展的一種可能。反之，更多采取寬容態(tài)度，將制度與技術(shù)進(jìn)行更雙向的包容互動(dòng)，彼此調(diào)整和完善，將會(huì)是一個(gè)多贏的結(jié)果。正如歐盟理事會(huì)在GDPR實(shí)施一周年的評(píng)估報(bào)告中寫道：“我們也應(yīng)該看到技術(shù)在某些領(lǐng)域的應(yīng)用也可能擁有巨大的優(yōu)勢(shì)，并有可能加強(qiáng)歐洲公民的隱私保護(hù)。”例如：基于區(qū)塊鏈的“零知識(shí)證明技術(shù)”能夠?qū)崿F(xiàn)使用盡可能少的個(gè)人信息，同時(shí)驗(yàn)證某一特定主體的身份；[]差異隱私技術(shù)能夠?qū)崿F(xiàn)數(shù)據(jù)集中而帶來的價(jià)值，但同時(shí)保持特定自然人身份不被識(shí)別。[]法律的適用應(yīng)當(dāng)為技術(shù)發(fā)展留有“一定空間”，而不是對(duì)技術(shù)的完全規(guī)訓(xùn)。這也許是歐盟數(shù)據(jù)保護(hù)委員會(huì)EDPB遲遲未就區(qū)塊鏈出臺(tái)合規(guī)指南的重要原因之一。

三、 制度也塑造和促進(jìn)了隱私安全技術(shù)的發(fā)展

以歐盟GDPR為代表的個(gè)人數(shù)據(jù)保護(hù)制度促進(jìn)了合規(guī)與隱私文化的發(fā)展，并推動(dòng)業(yè)界用技術(shù)來解決隱私、安全問題。近年來，這個(gè)話題在學(xué)術(shù)界和和行業(yè)實(shí)踐中都經(jīng)歷了爆炸性增長，包括：多方安全計(jì)算(Secure multi-Party Computation, MPC)，同態(tài)加密（Homomorphic Encryption），差分隱私（Differential Privacy）等安全技術(shù)加速從理論走向?qū)嵺`，相關(guān)應(yīng)用實(shí)踐在金融、醫(yī)療、政務(wù)等領(lǐng)域漸次展開[]。

基于大數(shù)據(jù)的機(jī)器學(xué)習(xí)既推動(dòng)了AI蓬勃發(fā)展，也讓AI在隱私安全這個(gè)方向上形成了新的分支面向隱私保護(hù)的機(jī)器學(xué)習(xí)（Privacy-Preserving Machine Learning），其中又以聯(lián)邦學(xué)習(xí)為代表。聯(lián)邦學(xué)習(xí)正在廣泛的跨學(xué)科領(lǐng)域獲得吸引力:從機(jī)器學(xué)習(xí)到優(yōu)化、信息理論和統(tǒng)計(jì)，再到密碼學(xué)、公平性和隱私[]。

(一) 隱私安全計(jì)算的新興領(lǐng)域聯(lián)邦學(xué)習(xí)

盡管“數(shù)據(jù)是人工智能時(shí)代的石油”已經(jīng)被作為廣泛共識(shí)，然而現(xiàn)實(shí)中出于數(shù)據(jù)安全的擔(dān)憂和隱私合規(guī)要求，各個(gè)機(jī)構(gòu)主體掌握的數(shù)據(jù)是分散而碎片化的，數(shù)據(jù)往往難以在規(guī)?；A(chǔ)上實(shí)現(xiàn)價(jià)值利用。在這種背景下，聯(lián)邦學(xué)習(xí)作為一種行之有效的解決方案越來越引起更多關(guān)注。聯(lián)邦學(xué)習(xí)可以使得各方在不披露原始數(shù)據(jù)的情況下達(dá)到共建模型的目的。即在不違反數(shù)據(jù)隱私保護(hù)法規(guī)的前提下，連接數(shù)據(jù)孤島，通過算法實(shí)現(xiàn)數(shù)據(jù)價(jià)值利用。聯(lián)邦的含義，是指各個(gè)數(shù)據(jù)的擁有體，大家之間是平等的，因此，聯(lián)邦學(xué)習(xí)不僅著眼隱私保護(hù)，同時(shí)還致力于解決數(shù)據(jù)權(quán)屬帶來的數(shù)據(jù)利用激勵(lì)問題。

“聯(lián)邦學(xué)習(xí)”核心包括兩個(gè)過程，分別是模型訓(xùn)練和模型推理[]。在模型訓(xùn)練階段，模型信息可以在各方交換，但數(shù)據(jù)不能交換。因此各方的數(shù)據(jù)安全以及基于權(quán)屬的數(shù)據(jù)權(quán)益都可以得到保障；而在模型推理階段，訓(xùn)練好的聯(lián)邦學(xué)習(xí)模型可以放置于系統(tǒng)的各參與方，供多方共享。

用聯(lián)邦學(xué)習(xí)的布道者楊強(qiáng)教授提出的“羊吃草”例子來解釋：在機(jī)器學(xué)習(xí)領(lǐng)域，模型效果的提升依賴于數(shù)據(jù)訓(xùn)練，所以機(jī)器學(xué)習(xí)模型就像一只小羊，而數(shù)據(jù)是草。在傳統(tǒng)方法中，要建立機(jī)器學(xué)習(xí)模型，需要到各個(gè)草場(chǎng)（數(shù)據(jù)供應(yīng)商）收購數(shù)據(jù)。但現(xiàn)實(shí)是：隱私和數(shù)據(jù)安全保護(hù)的要求使得獲取數(shù)據(jù)成為障礙，草不能直接運(yùn)出本地，這也就是我們常見的“數(shù)據(jù)孤島”困境。

在此情況下，聯(lián)邦學(xué)習(xí)提供了新的思路：讓羊群在各地移動(dòng)，而草不出本地。也就是機(jī)器學(xué)習(xí)模型以分布式的方式構(gòu)建，而不需要數(shù)據(jù)在本地區(qū)域之外移動(dòng)。這種“數(shù)據(jù)不動(dòng)，模型動(dòng)”的優(yōu)勢(shì)在于：對(duì)于每只羊的所有者而言，并不知道羊吃到肚子里的草到底是什么樣，實(shí)現(xiàn)了在隱私保護(hù)和數(shù)據(jù)安全的前提下，機(jī)器學(xué)習(xí)模型不斷完善。除了隱私保護(hù)和數(shù)據(jù)安全這一動(dòng)機(jī)外，聯(lián)邦學(xué)習(xí)的另一發(fā)展動(dòng)力來自于化利用云系統(tǒng)下的終端設(shè)備的計(jì)算能力。

(二) 聯(lián)邦學(xué)習(xí)在保護(hù)用戶隱私的前提下，讓數(shù)據(jù)價(jià)值惠及個(gè)人

圖片來源：https://zhuanlan.zhihu.com/p/141118286

2019年，谷歌在GoogleI/O 大會(huì)上展示G-Board應(yīng)用，在TO C(消費(fèi)者場(chǎng)景)中應(yīng)用聯(lián)邦學(xué)習(xí)技術(shù)，實(shí)現(xiàn)在隱私保護(hù)的前提下，更新迭代手機(jī)輸入法預(yù)測(cè)模型[]。在以往，由于手機(jī)本地輸入會(huì)包含大量的用戶隱私信息，因此無法將這些信息上傳用于預(yù)測(cè)用戶輸入的智能輸入法的模型訓(xùn)練。而通過聯(lián)邦學(xué)習(xí)，每部安卓手機(jī)可以在本地訓(xùn)練模型，隨后將模型參數(shù)上傳匯總，從而幫助更快提升輸入法的準(zhǔn)確性。自2017年以來，蘋果也一直利用差分隱私技術(shù)來發(fā)現(xiàn)最受歡迎的emoji表情，以及Safari 中的媒體播放項(xiàng)，并將其與聯(lián)邦學(xué)習(xí)相結(jié)合，這兩種技術(shù)都有助于改進(jìn)蘋果 Siri智能助理響應(yīng)的準(zhǔn)確性。

在TO C場(chǎng)景之外，聯(lián)邦學(xué)習(xí)在B2B(企業(yè)到企業(yè)場(chǎng)景)中也大有可為。越是受到數(shù)據(jù)隱私和孤島效應(yīng)困擾的領(lǐng)域，越是聯(lián)邦學(xué)習(xí)落地的場(chǎng)景。典型包括：醫(yī)療、金融、教育、智慧城市等領(lǐng)域，在這些領(lǐng)域，聯(lián)邦學(xué)習(xí)可以讓數(shù)據(jù)價(jià)值真正惠及個(gè)人。例如[]：

在醫(yī)療領(lǐng)域，英國國王學(xué)院組建“人工智能中心”，在英國國民醫(yī)療系統(tǒng)NHS的四家信托機(jī)構(gòu)之間進(jìn)行聯(lián)合學(xué)習(xí)部署，使用這些超大型學(xué)習(xí)模型訓(xùn)練得以應(yīng)用；英偉達(dá)醫(yī)療和MELLODDY合作，實(shí)現(xiàn)了在歐洲10家不同制藥公司之間提供聯(lián)合學(xué)習(xí)系統(tǒng)；騰訊天衍實(shí)驗(yàn)室聯(lián)合微眾銀行研發(fā)的醫(yī)療聯(lián)邦學(xué)習(xí)，在腦卒中預(yù)測(cè)的應(yīng)用上，準(zhǔn)確率在相關(guān)數(shù)據(jù)集中高達(dá)80%。通過應(yīng)用聯(lián)邦學(xué)習(xí)技術(shù)，醫(yī)療領(lǐng)域的數(shù)據(jù)福祉正在被探索開發(fā)。借助人工智能的數(shù)據(jù)分析，可以用來挽救生命，而且不必以犧牲個(gè)體隱私為代價(jià)。

在金融領(lǐng)域，平安科技公司正在研發(fā)建立全球首個(gè)面向金融行業(yè)的聯(lián)邦學(xué)習(xí)平臺(tái)“蜂巢”。“蜂巢”能夠應(yīng)用于多方信息的安全協(xié)作計(jì)算，滿足銀行和金融機(jī)構(gòu)的風(fēng)險(xiǎn)評(píng)估、反洗錢、監(jiān)管等多場(chǎng)景應(yīng)用需求；微眾銀行通過多維度聯(lián)邦數(shù)據(jù)建模，風(fēng)控模型效果約可提升12%，相關(guān)企業(yè)機(jī)構(gòu)有效節(jié)約了信貸審核成本，整體成本預(yù)計(jì)下降5%-10%，并因數(shù)據(jù)樣本量的提升和豐富，風(fēng)控能力進(jìn)一步增強(qiáng)。

四、 技術(shù)與制度，如何形成互動(dòng)式進(jìn)步？

如何形成技術(shù)與制度之間的互動(dòng)增強(qiáng)? 隱私與個(gè)人信息保護(hù)領(lǐng)域似乎正在形成一種參考：制度對(duì)待技術(shù)發(fā)展需要具有包容性，同時(shí)，技術(shù)本身在價(jià)值目標(biāo)上也應(yīng)與制度保持一致。

制度的包容性被證明很重要。人工智能、區(qū)塊鏈等新技術(shù)都受到了GDPR的影響，但這并不意味著與制度互不兼容。在2018年5月GDPR生效之際，《終極算法》作者華盛頓大學(xué)教授 Pedro Domingos曾稱：歐盟將會(huì)要求所有算法解釋其輸出原理，這意味著深度學(xué)習(xí)即將非法。對(duì)此，我們認(rèn)為：GDPR確實(shí)對(duì)技術(shù)發(fā)展帶來重大影響，但我們也無須將這種影響過分夸大，實(shí)際上歐盟29條工作組在2017年10月專門就此問題發(fā)布了指南明確澄清，關(guān)于自動(dòng)決策，數(shù)據(jù)控制者并不必然要解釋復(fù)雜的算法，對(duì)于用戶來說，只需要用盡可能簡單的方法告知其背后的基本邏輯或者標(biāo)準(zhǔn)即可。即使在最嚴(yán)格的歐盟，對(duì)包括區(qū)塊鏈、人臉識(shí)別等人工智能應(yīng)用，也并沒有予以否定性評(píng)價(jià)。

而在另一面，技術(shù)也需與制度堅(jiān)守同樣的價(jià)值目標(biāo)。正如聯(lián)邦學(xué)習(xí)技術(shù)所展現(xiàn)的那樣：在保障數(shù)據(jù)安全與隱私的前提下，實(shí)現(xiàn)數(shù)據(jù)共享，促進(jìn)多源（元）數(shù)據(jù)的碰撞、融合，限度地釋放數(shù)據(jù)價(jià)值[]。

以聯(lián)邦學(xué)習(xí)為代表的隱私安全技術(shù)與GDPR等數(shù)據(jù)保護(hù)制度所堅(jiān)守的價(jià)值目標(biāo)是一致的，甚至是后者推動(dòng)了前者的發(fā)展。聯(lián)邦學(xué)習(xí)需要滿足數(shù)據(jù)保護(hù)制度要求，其完整的合規(guī)性框架至少應(yīng)包括兩個(gè)方面：

1）數(shù)據(jù)處理目的合法性。正如即使是合法的手段也不應(yīng)當(dāng)應(yīng)用于非法目的一樣，聯(lián)邦學(xué)習(xí)的應(yīng)用場(chǎng)景本身應(yīng)是正當(dāng)性的，例如在醫(yī)療領(lǐng)域的疾病分析與診斷，金融領(lǐng)域的信貸風(fēng)險(xiǎn)評(píng)估等。特別在醫(yī)療領(lǐng)域，數(shù)據(jù)匯聚分析對(duì)于人類福祉更有著極大價(jià)值。在TO C的其他應(yīng)用場(chǎng)景中，如聯(lián)邦學(xué)習(xí)方案最終應(yīng)用于面向用戶提供的個(gè)性化服務(wù)，也應(yīng)向用戶呈現(xiàn)相關(guān)邏輯，以保障用戶知情權(quán)。

2）處理過程的合法性。其中包括模型（算法）隱私，以確保惡意行為者無法對(duì)訓(xùn)練數(shù)據(jù)進(jìn)行反向工程；輸入隱私，確保參與各方輸入的算法參數(shù)不會(huì)被其他方觀測(cè)到；輸出隱私，保證除了應(yīng)用最終結(jié)果的用戶外，其他各方都看不到算法的最終輸出。正如在TO C場(chǎng)景中，蘋果應(yīng)用差分隱私和聯(lián)邦學(xué)習(xí)技術(shù)來對(duì)眾多用戶的個(gè)人數(shù)據(jù)進(jìn)行了優(yōu)化分析，并最終應(yīng)用與用戶有關(guān)個(gè)性化服務(wù)，整個(gè)過程中個(gè)體用戶的數(shù)據(jù)不會(huì)被其他方觀察到，但最終每位用戶都享受到了數(shù)據(jù)匯聚分析后的便利和效率提升。在通過數(shù)據(jù)實(shí)現(xiàn)“我為人人，人人為我”的價(jià)值創(chuàng)造過程中，不以犧牲個(gè)人隱私為代價(jià)。

當(dāng)然，沒有任何技術(shù)是沒有缺陷的，聯(lián)邦學(xué)習(xí)同樣需要在實(shí)踐中不斷完善，并推進(jìn)隱私保護(hù)各技術(shù)領(lǐng)域的進(jìn)步，只要其始終與制度價(jià)值目標(biāo)保持一致。

結(jié) 語

在邁向數(shù)字社會(huì)的轉(zhuǎn)型過程中，我們比任何時(shí)刻都更加渴望信任。過去一百年的信息技術(shù)進(jìn)步與制度回應(yīng)的實(shí)踐，讓我們更加清晰地看到：構(gòu)建數(shù)字社會(huì)的信任基石，需要在正式與非正式的信任機(jī)制之間形成凝聚互動(dòng)，而不是僅僅依靠其中一種。單一強(qiáng)調(diào)倫理，則無法避免殺熟現(xiàn)象；完全依賴法規(guī)監(jiān)管，便要承受抑制創(chuàng)新發(fā)展結(jié)果；技術(shù)萬能論更是早已破滅的神話。數(shù)字社會(huì)的信任構(gòu)建，需要學(xué)術(shù)（理論和工程）、商業(yè)實(shí)踐、社會(huì)治理擰麻花般的協(xié)作共建。

正如美國政府2014年關(guān)于大數(shù)據(jù)的第一份白皮書《抓住機(jī)遇、堅(jiān)守價(jià)值》中指出：大數(shù)據(jù)分析所擁有的潛力，將逐步侵蝕長久以來在公民權(quán)利保護(hù)方面的形成的價(jià)值基石，但大數(shù)據(jù)本身也蘊(yùn)藏著解決信任、隱私、公民權(quán)利保護(hù)等方面的潛力。如果運(yùn)用得當(dāng)，大數(shù)據(jù)將成為推動(dòng)社會(huì)進(jìn)步歷史性的助推器。因此，公民與數(shù)據(jù)的關(guān)系應(yīng)當(dāng)擴(kuò)展，而不是壓縮，以抓住這一歷史性機(jī)遇和潛能。擁抱大數(shù)據(jù)，同時(shí)程度地保護(hù)人們?cè)陔[私、公平、自覺方面的價(jià)值基矗

參考文獻(xiàn)：

[] Samuel D. Warren & Louis D. Brandeis, The Right to Privacy, 4 HARV. L. REV.193 (1890). It defines the right to privacy as the “right to be let alone,” in areaction to the development of journalism and gossip columns.

[]民法典工作項(xiàng)目組 與民法典同行，《大數(shù)據(jù)時(shí)代下個(gè)人信息保護(hù)的立法模式變革》，2018年2018-03-07

[]引用同上。

[] Michèle Finck，Blockchains and Data Protection in the European Union，Max Planck Institute for Innovation and Competition Research Paper No. 18-01

[]零知識(shí)證明技術(shù)指的是證明者能夠在盡可能少向驗(yàn)證者提供甚至不提供任何有用的信息的情況下，使驗(yàn)證者相信某個(gè)論斷是正確的。AHN Gail-Joon, “Zero-knowledge proofs of retrievability”, Science China (Information Sciences), Vol.10(8), 2011, pp.1608-1617.

[]差異隱私技術(shù)指的是從統(tǒng)計(jì)數(shù)據(jù)庫查詢時(shí)，化數(shù)據(jù)查詢的準(zhǔn)確性，同時(shí)限度減少識(shí)別其記錄的機(jī)會(huì)，這種機(jī)制的核心是給查詢的結(jié)果增加一定的噪點(diǎn)。Mannhardt, Felix, “Privacy-Preserving Process Mining”, Business & information systems engineering, Vol.61(5), 2019, pp.595-614.

[]中國信息通信研究院云計(jì)算與大數(shù)據(jù)研究所，《多方安全計(jì)算技術(shù)與應(yīng)用研究報(bào)告》，2019年12月

[] Peter Kairouz and H. Brendan McMahan conceived, coordinated, and edited this work. Correspondence to kairouz@

google.com and mcmahan@google.com.，Advances and Open Problems in Federated Learning,

[]楊強(qiáng)，劉洋等著，《聯(lián)邦學(xué)習(xí)》，中國工信出版社，2020年4月出版，第4頁。

[] https://www.businessinsider.com/google-io-live-blog-all-announcements-coverage-updates-2019-5

[]王健宗：數(shù)據(jù)隱私保護(hù)新曙光聯(lián)邦學(xué)習(xí)的機(jī)遇，挑戰(zhàn)與未來，《聯(lián)數(shù)》，第1卷，第8期，2019年7月22日。

[]梅宏，在《聯(lián)邦學(xué)習(xí)》一書中的推薦語，中國工信出版社，2020年4月出版。

--END--

在看一下

分享標(biāo)題：再談數(shù)字社會(huì)的信任基石
標(biāo)題來源：http://m.rwnh.cn/article12/cgejdc.html

成都網(wǎng)站建設(shè)公司_創(chuàng)新互聯(lián)，為您提供網(wǎng)站制作、微信小程序、網(wǎng)站設(shè)計(jì)、小程序開發(fā)、微信公眾號(hào)、軟件開發(fā)

廣告

聲明：本網(wǎng)站發(fā)布的內(nèi)容（圖片、視頻和文字）以用戶投稿、用戶轉(zhuǎn)載內(nèi)容為主，如果涉及侵權(quán)請(qǐng)盡快告知，我們將會(huì)在第一時(shí)間刪除。文章觀點(diǎn)不代表本網(wǎng)站立場(chǎng)，如需處理請(qǐng)聯(lián)系客服。電話：028-86922220；郵箱：631063699@qq.com。內(nèi)容未經(jīng)允許不得轉(zhuǎn)載，或轉(zhuǎn)載時(shí)需注明來源： 創(chuàng)新互聯(lián)