近日，我校人工智能學(xué)部王亮亮副教授及其碩士研究生王康在聯(lián)邦學(xué)習(xí)安全方向取得新進(jìn)展，相關(guān)論文《SHIFT: Enhancing federated learning robustness through client-side backdoor detection》以上海電力大學(xué)第一單位及研究生第一作者身份被計(jì)算機(jī)科學(xué)與人工智能?chē)?guó)際頂級(jí)期刊《Information Fusion》（中科院一區(qū)TOP期刊）錄用，其最新影響因子高達(dá)15.5。

聯(lián)邦學(xué)習(xí)的分布式架構(gòu)容易遭受隱蔽的后門(mén)攻擊：攻擊者可在本地訓(xùn)練中植入觸發(fā)器，使全局模型在特定輸入下產(chǎn)生惡意行為，從而威脅系統(tǒng)的可靠性?，F(xiàn)有不少防御方法需要在服務(wù)器端對(duì)加密上傳的梯度先進(jìn)行解密然后再進(jìn)行檢測(cè)，往往帶來(lái)顯著計(jì)算開(kāi)銷(xiāo)與部署負(fù)擔(dān)。

針對(duì)上述痛點(diǎn)，論文提出了SHIFT框架，核心思路是將后門(mén)檢測(cè)任務(wù)從服務(wù)器側(cè)“轉(zhuǎn)移”到客戶(hù)端側(cè)完成：一方面，客戶(hù)端可直接對(duì)未加密的數(shù)據(jù)進(jìn)行檢測(cè)，從而顯著降低服務(wù)器端的計(jì)算壓力；另一方面，引入客戶(hù)端代碼混淆（code obfuscation）以提升檢測(cè)邏輯的隱蔽性，降低惡意客戶(hù)端逆向分析與繞過(guò)的風(fēng)險(xiǎn)；同時(shí)設(shè)計(jì)了動(dòng)態(tài)風(fēng)險(xiǎn)等級(jí)映射機(jī)制，對(duì)檢測(cè)輸出的結(jié)果進(jìn)行自適應(yīng)擾動(dòng)與映射，以抑制攻擊者基于反饋進(jìn)行反復(fù)試探或迭代規(guī)避的可能性。

該項(xiàng)成果為聯(lián)邦學(xué)習(xí)在隱私保護(hù)前提下實(shí)現(xiàn)更高魯棒性的安全機(jī)制設(shè)計(jì)提供了新思路，也為后續(xù)聯(lián)邦學(xué)習(xí)攻防對(duì)抗研究與應(yīng)用推廣提供了重要參考；研究團(tuán)隊(duì)表示，SHIFT在后門(mén)檢測(cè)效率方面較現(xiàn)有方案提升了數(shù)倍，適用于計(jì)算資源受限及大規(guī)模分布式聯(lián)邦學(xué)習(xí)應(yīng)用。

人工智能學(xué)部 供稿