首頁(yè) > 關(guān)于我們 > 安恒動(dòng)態(tài) > 2023 > 正文

浙江大學(xué)-安恒信息聯(lián)合發(fā)布AI數(shù)據(jù)隱私保護(hù)論文，入選世界頂尖計(jì)算機(jī)安全學(xué)術(shù)會(huì)議

閱讀量：次 文章來源：安恒信息

近日，由“浙江大學(xué)-安恒信息前沿技術(shù)聯(lián)合研究中心”完成的題為“DPMLBench: Holistic Evaluation of Differentially Private Machine Learning”的論文被國(guó)際頂級(jí)學(xué)術(shù)會(huì)議ACM CCS’23（ACM Conference on Computer and Communications Security）錄用。該論文系統(tǒng)性地評(píng)價(jià)了差分隱私在機(jī)器學(xué)習(xí)中應(yīng)用的能力。

ACM Conference on Computer and Communications Security(ACM CCS)在計(jì)算機(jī)安全領(lǐng)域有著廣泛的影響力，與IEEE S&P、Usenix Security和NDSS并稱安全領(lǐng)域國(guó)際四大頂級(jí)會(huì)議，同時(shí)也是CCF推薦A類會(huì)議，論文錄取率常年在20%以下。CCS也是業(yè)界頂尖公司與技術(shù)專家展示技術(shù)成果和交流的重要平臺(tái)。2023年CCS將于11月26-30日期間在丹麥的哥本哈根舉辦。

隨著數(shù)字經(jīng)濟(jì)的發(fā)展，數(shù)據(jù)流通使用過程中數(shù)據(jù)的安全保障變得及其重要。差分隱私（DP）是一種通過在計(jì)算之前向數(shù)據(jù)添加經(jīng)過精確校準(zhǔn)的噪聲，實(shí)現(xiàn)保護(hù)數(shù)據(jù)集中個(gè)體數(shù)據(jù)的隱私保護(hù)技術(shù)。

“

“DPMLBench: Holistic Evaluation of Differentially Private Machine Learning”（?https://arxiv.org/pdf/2305.05900.pdf）

本論文由杭州安恒信息、浙江大學(xué)、斯坦福大學(xué)和亥姆霍茲信息安全中心聯(lián)合完成。將差分隱私技術(shù)應(yīng)用于機(jī)器學(xué)習(xí)場(chǎng)景中后，可以通過降低機(jī)器學(xué)習(xí)訓(xùn)練與推理過程中隱私信息的泄露，達(dá)到保護(hù)模型訓(xùn)練數(shù)據(jù)的安全與隱私保護(hù)的目的。

將差分隱私技術(shù)與機(jī)器學(xué)習(xí)技術(shù)融合的過程中，其中一個(gè)重要的考慮因素是隱私和模型可用性之間的平衡。添加過多的噪聲可能會(huì)導(dǎo)致模型準(zhǔn)確性顯著降低，而添加過少的噪聲可能無法提供足夠的隱私保證。為了在保護(hù)隱私的前提下盡可能少的損失性能，許多研究人員積極探索新技術(shù)和算法，以平衡隱私和模型性能。但是，這些研究是孤立的，不能準(zhǔn)確的衡量算法改進(jìn)在不同條件下的性能。更重要的是，缺乏全面的研究來比較這些差分隱私機(jī)器學(xué)習(xí)（Differential Privacy Machine Learning, DPML）算法的改進(jìn)在可用性、防御能力和通用性方面的表現(xiàn)。

差分隱私機(jī)器學(xué)習(xí)算法的系統(tǒng)性測(cè)試評(píng)估

本論文首先依據(jù)機(jī)器學(xué)習(xí)訓(xùn)練流程針對(duì)DPML算法提出了一種分類方法，從而為細(xì)致分析不同類別的算法提供了便利。其次對(duì)先進(jìn)的DPML算法的模型性能和對(duì)成員推理攻擊的防御能力進(jìn)行了大量的實(shí)驗(yàn)測(cè)量，得出了眾多有利于業(yè)界后續(xù)研究的結(jié)論。同時(shí)本論文還提出并實(shí)現(xiàn)了一個(gè)模塊化可重復(fù)使用的測(cè)試平臺(tái)，DPMLBench，能夠方便地使用和擴(kuò)展差分隱私算法，方便隱私數(shù)據(jù)所有者可以輕松部署差分隱私算法，也可以作為相關(guān)領(lǐng)域用戶的評(píng)估工具。

安恒信息致力于研究前沿技術(shù)，并將其無縫融入產(chǎn)品，推動(dòng)創(chuàng)新與實(shí)用的完美結(jié)合。安恒信息擁有業(yè)內(nèi)少有的完備的數(shù)據(jù)安全產(chǎn)品體系，涵蓋咨詢規(guī)劃服務(wù)、數(shù)據(jù)中心的數(shù)據(jù)安全管控、辦公網(wǎng)數(shù)據(jù)安全、隱私計(jì)算、零信任等。安恒信息將由差分隱私技術(shù)保護(hù)的機(jī)器學(xué)習(xí)能力應(yīng)用于數(shù)據(jù)安全產(chǎn)品中取得多項(xiàng)突破性進(jìn)展，在保證數(shù)據(jù)安全的前提下，提升了產(chǎn)品效率、準(zhǔn)確度、自動(dòng)化程度等指標(biāo)，得到多家國(guó)內(nèi)外咨詢機(jī)構(gòu)的認(rèn)可。

例如，在隱私計(jì)算領(lǐng)域，安恒隱私計(jì)算平臺(tái)為多方聯(lián)合建模的應(yīng)用場(chǎng)景提供了由差分隱私技術(shù)保護(hù)的機(jī)器學(xué)習(xí)能力，為用戶提供了兼顧安全和效率的聯(lián)合建模平臺(tái)。安恒隱私計(jì)算平臺(tái)在政務(wù)公共數(shù)據(jù)授權(quán)運(yùn)營(yíng)領(lǐng)域，在深圳、浙江溫州等地取得國(guó)內(nèi)領(lǐng)先的落地進(jìn)展，幫助客戶實(shí)現(xiàn)可用不可見，解決業(yè)務(wù)難題。在數(shù)據(jù)安全領(lǐng)域，用戶數(shù)據(jù)常在云上完成機(jī)器學(xué)習(xí)訓(xùn)練，云上系統(tǒng)的數(shù)據(jù)安全至關(guān)重要，結(jié)合差分隱私技術(shù)可以保護(hù)云上訓(xùn)練數(shù)據(jù)的安全性。同時(shí)，安恒信息是國(guó)內(nèi)獨(dú)家做到了云上環(huán)境的無代理審計(jì)的廠商，標(biāo)志著安恒數(shù)據(jù)庫(kù)審計(jì)產(chǎn)品對(duì)于云環(huán)境的適應(yīng)能力和兼容能力實(shí)現(xiàn)了質(zhì)的提升。

憑借全生命周期、全鏈路數(shù)據(jù)安全的覆蓋能力，公司形成了較強(qiáng)的核心競(jìng)爭(zhēng)力，打造了“安恒數(shù)盾”品牌。安恒數(shù)盾數(shù)據(jù)安全解決方案以CAPE能力模型為核心思想，圍繞讓數(shù)據(jù)自由、安全流通為目標(biāo)，整體協(xié)同各項(xiàng)數(shù)據(jù)安全能力，對(duì)數(shù)據(jù)資源合理使用提供全場(chǎng)景、全鏈路、全生命周期的感知保護(hù)，最終建立“數(shù)據(jù)安全運(yùn)營(yíng)”的全過程自適應(yīng)安全支撐能力，直至達(dá)到整體智治的安全目標(biāo)。激活數(shù)據(jù)潛能，釋放數(shù)據(jù)價(jià)值！

2021年8月，浙江大學(xué)-安恒信息前言技術(shù)聯(lián)合研究中心在浙江大學(xué)正式成立。中心依托浙江大學(xué)雄厚的科研實(shí)力和安恒信息豐富的行業(yè)實(shí)踐，聚焦于大數(shù)據(jù)安全、云安全、物聯(lián)網(wǎng)安全、AI安全等前沿技術(shù)，在機(jī)器學(xué)習(xí)與差分隱私、安全多方隱私計(jì)算、可信執(zhí)行環(huán)境等多個(gè)方向?qū)崿F(xiàn)技術(shù)突破，多篇隱私計(jì)算相關(guān)論文被安全四大頂級(jí)會(huì)議CCS、NDSS等接收，形成對(duì)學(xué)術(shù)界與產(chǎn)業(yè)界的引領(lǐng)性影響力，并將科研成果轉(zhuǎn)化為國(guó)家安全力量，共筑網(wǎng)絡(luò)安全防線，助力安全中國(guó)。

更多資訊

隨著互聯(lián)網(wǎng)技術(shù)的快速發(fā)展，數(shù)據(jù)在我們?nèi)粘Ｉ钪邪缪葜絹碓街匾慕巧?。與數(shù)據(jù)相關(guān)的數(shù)據(jù)安全、數(shù)據(jù)資產(chǎn)化、數(shù)據(jù)交易等問題也愈發(fā)受到國(guó)家和社會(huì)的關(guān)注。3月7日，國(guó)務(wù)院提出組建國(guó)家數(shù)據(jù)局，進(jìn)一步推動(dòng)數(shù)字中國(guó)、數(shù)字經(jīng)濟(jì)建設(shè)。

在此背景下，由安恒信息董事長(zhǎng)范淵和安恒信息CTO劉博主編，多位領(lǐng)域權(quán)威專家合作編寫的《數(shù)據(jù)安全與隱私計(jì)算》應(yīng)運(yùn)而生。書中，作者們結(jié)合多年在數(shù)據(jù)安全領(lǐng)域?qū)嵺`積累的經(jīng)驗(yàn)，對(duì)數(shù)據(jù)安全和隱私計(jì)算進(jìn)行了深入探討，并介紹了數(shù)據(jù)安全和隱私保護(hù)的最新動(dòng)態(tài)和實(shí)用技巧。

點(diǎn)擊“閱讀原文”可獲購(gòu)買鏈接

《數(shù)據(jù)安全與隱私計(jì)算》的出版，為人們的數(shù)字生活構(gòu)筑堅(jiān)實(shí)的安全屏障。無論您是從事企業(yè)數(shù)據(jù)安全管理還是研究數(shù)據(jù)隱私保護(hù)，該書都將為您提供有價(jià)值的參考和指導(dǎo)。

往期精彩回顧