? 聯(lián)邦學習的特點

作為一類融合加密方案的特殊的分布式機器學習技術，聯(lián)邦學習有以下優(yōu)勢：首先是原始數(shù)據(jù)不出域，從源頭防止數(shù)據(jù)泄露；其次是去中心或弱中心化，在聯(lián)邦學習的體系下，各個參與者的身份和地位相同，而可選的中心節(jié)點的功能被限制在協(xié)調(diào)上；最后，從理論上看，聯(lián)邦學習的建模效果和將整個數(shù)據(jù)集放在一起建模的效果相同，或相差不大。

跟多方安全計算和可信執(zhí)行環(huán)境一樣，雖然聯(lián)邦學習在理論上能解決數(shù)據(jù)孤島和數(shù)據(jù)安全的問題，但是在實際應用中也面臨著一些問題需要不斷攻破：一是在部分算法需要協(xié)調(diào)方參與調(diào)度的場景中，如何信任協(xié)調(diào)方是難點，因此在實踐中開始有方案結(jié)合多方安全計算；二是迭代訓練過程中復雜的通信和計算消耗帶來的性能損失如何降低；三是即使融合了多方數(shù)據(jù)，但如果在聯(lián)合建模和預測過程中發(fā)生數(shù)據(jù)、模型安全攻擊和隱私泄露，或是參與方樣本非獨立同分布、數(shù)據(jù)本身的質(zhì)量過低，也難以獲得良好的建模結(jié)果；四是仍然需要研究聯(lián)邦學習的安全性，比如已經(jīng)有論文研究表明梯度可能造成原始數(shù)據(jù)的泄露。這些都是當前聯(lián)邦學習的研究熱點。

此外，聯(lián)邦學習在傳統(tǒng)機器學習的基礎上額外提出了一個關于激勵機制和利益分配的子話題，成了技術本身之外，大家關注的重點。

討論激勵機制的初衷是因為除了數(shù)據(jù)隱私保護，一個典型的聯(lián)邦學習過程包含很多訓練輪次，都不可避免地要消耗參與方的計算資源、通信資源、設備資源等，且聯(lián)合建模獲得的結(jié)果并不一定對己方業(yè)務有利。因此在沒有足夠回報或收益的情況下，參與方企業(yè)可能不愿意加入聯(lián)邦學習。所以聯(lián)邦學習的研究者們開始討論設計一種吸引參與方參與的激勵機制。希望通過評估計算任務中每個參與方對于最終模型結(jié)果的貢獻程度，來進行適當?shù)睦麧櫡峙?。這也引發(fā)了聯(lián)合建模場景中對于數(shù)據(jù)交易定價的思考。很多技術提供方和數(shù)據(jù)交易平臺開始加入相關的研究和討論中，出現(xiàn)了兩類視角，一種是基于數(shù)據(jù)質(zhì)量的貢獻評估，另一種是基于數(shù)據(jù)數(shù)量的貢獻評估，經(jīng)濟學領域中經(jīng)典的沙普利值法（Shapley Value）、博弈論、契約理論經(jīng)常在這些相關研究中得到應用。但是真正將基于激勵機制實現(xiàn)的利益分配落地還面臨著很多實際問題，比如參與方對模型產(chǎn)生負貢獻的可能、獨立的技術平臺在分潤中的角色等，因此，在目前的技術產(chǎn)品案例中，我們還沒有看到關于激勵機制的真正落地。