隱私與AI兼得,螞蟻金服是如何做到的?

螞蟻金服在過去十五年重塑支付改變生活,爲全球超過十二億人提供服務,這些背後離不開技術的支撐。在 2019 杭州雲棲大會上,螞蟻金服將十五年來的技術沉澱,以及面向未來的金融技術創新和參會者分享。我們將其中的優秀演講整理成文並將陸續發佈在“螞蟻金服科技”公衆號上,本文爲其中一篇。

image.png

在人工智能時代,數據是AI領域的石油,如果沒有數據很難將AI更好的落地。但是數據孤島阻礙了數據的獲取和利用,螞蟻金服在三年前開始佈局隱私保護機器學習,致力於在保護數據安全和隱私保護的前提下進行機器學習,我們稱之爲共享智能。我們之前分享了共享智能的理念和原理,今天,我們想聊聊共享智能的發展與應用趨勢。

人工智能目前存在的難題是魚與熊掌不可兼得,也就是隱私性跟可用性難以兼顧。如果你想要你的AI系統能發揮作用,就可能需要犧牲隱私。但是,在大量真實場景中,如果做不到同時兼顧隱私和可用性,會導致很多AI落地的困境。

舉幾個例子。

首先是貸款風控,用戶想要買房去銀行貸款,在銀行A可能被判定爲“壞人”,沒有辦法給他進行貸款,因爲這個機構持有這個人部分數據,同樣的用戶到了機構B,這個機構B基於它擁有的部分數據,有可能會給予他貸款,這樣矛盾的情況比比皆是,皆是因數據不通導致。

在智慧醫療領域,有些罕見病在每個醫院的案例都不多,如果我們能把各個醫院的案例共享起來,就能獲得更多的樣本數據,從而可以利用AI進行更準確的診斷,但是這個案例裏面技術不是最優先的,對醫院來說,它有責任保護患者的隱私,如何確保在共享案例的同時,不泄漏用戶的隱私纔是首先要解決的。

數據孤島的問題會給AI落地和應用帶來很多類似的難題。

22.jpg

現實環境中,數據在這個圖中是不通的,有的地方可能有一些短暫的鏈接,絕大部分數據在這個圖中處於斷開狀態。我們的目標是想打通數據孤島,用技術的方法解決技術的問題。通過技術保護數據安全的情況下,實現數據的共享和價值的傳遞。

共享智能:可用不可見

對於共享智能,我們希望達到的目標是數據可用不可見,在多方參與且各數據提供方與平臺方互不信任的場景下,能夠聚合多方信息進行機器學習,並確保各參與方的隱私不被泄漏,數據不被濫用。

爲了達到這一目標,我們使用了很多業界已有的技術,比如學術圈一直在研究的差分隱私、很多大數據廠商在探索的可信執行環境、隨着計算力和硬件技術的提升+密碼學突破而廣受重視的多方安全計算等。還有一些情況,目標數據比較少,但源領域數據較多,我們採用遷移學習的方法去做數據共享,這個也屬於我們大的技術範疇。

33.jpg

具體來看的話,第一種方案是可信執行環境的方案,主要依賴中間的硬件級的保險箱Enclave,雙方通過一些密碼學的機制,把數據進行加密,加密之後只有在密碼箱裏面才能解密,解密以後做各式各樣的計算,因爲密碼箱是第三方可信的密碼箱,大家不信任彼此的情況下,信任密碼箱即可,這樣在數據隱私不會泄露的情況下,去做各式各樣AI的算法。

這種方案依賴可信硬件,通過數據加密的方式,集中傳送到可信的平臺。對於一些機構,本身就已經上雲,把所有的東西都存放在雲上面,所有的技術在雲上面部署,那麼採用這種方式非常快速便捷,同時又能達到很好的隱私保護的效果。

44.jpg

第二種方案是偏軟件級別的方案,我們在中間把數據做相應的處理後再進行計算。比如說像祕密分享的技術,通過把數據拆分完以後,幾方通過發送隨機數來完成運算,然後可以完成各式各樣AI的計算和模型;還有像同態加密這樣的方法,在加密後的空間裏面做相應的運算來完成AI的計算,中間有一個控制模塊來共同完成學習的目標。這個方式本身不涉及到硬件,是偏軟件+密碼學的方案,中間出去的是隨機數/加密中間結果,目前業界隱私+AI結合的方向上,用這個方案相對來說比較多。

星雲 Nebula:共享智能網絡

55.jpg

共享智能需要多方參與,我們設計了星雲Nebula共享智能網絡架構,對於螞蟻金服而言,希望跟合作方共同打造這樣的共享智能網絡。

網絡中存在各式各樣的計算節點,能夠在某個管理平臺中進行觸發實現AI計算。這個共享智能網絡,可以用不同的技術完成共享智能的目標,比如,構建聯合營銷網絡,節點之間可任意組網,採用多方安全計算技術來實現聯合營銷,同時管理節點可以部署在任何的地方;對於某些機構而言,可能沒有很強的AI能力和多方計算能力,那他們可以依賴於雲這樣的技術,將數據放在可信執行環境中,去參與建設這樣的網絡,通過這樣的共享智能技術來解決AI落地最後一公里的難題。

66.jpg

我們整個計算節點的架構如上圖,最底層跟正常環境比較相似,左邊是各式各樣的可信執行環境,右邊是正常的CPU、GPU環境。上面會有統一的API層來屏蔽這些不同的細節。

再往上面,會有本地的計算,這個計算本身會跟通用的開源框架稍有差異,我們會把現在流行的版本改成安全的版本,比如安全的XGBoost。中間做MPC的時候,我們會提供各式各樣的技術,混淆電路、OT等等這樣的技術,最頂層提供一些可視化跟交互式的接口,普通的用戶通過這樣的調用就可以完成複雜的多方計算的操作。同時支持各種保護隱私的安全模型推斷。

我們希望通過這樣的架構完成共享智能技術,並且打造了可視化的界面,採用拖拽式的方式就可以快速高效完成整個AI計算的構建。

上述共享智能架構現在已經達到了較好的完備性、易用性和穩定性的目標,在很多的地方已經進行了落地。在完備性方面,我們實現了功能完備和場景完備,目前主要是支持風控和其它AI典型場景,裏面的算法比較全面,涵蓋了線性模型、樹模型、深度學習、圖神經網絡等各個方向;在易用性方面,我們希望能夠更好的推廣這種建模技術,同時又能“屏蔽”一些底層技術(可信執行環境、多方安全計算等),降低大家學習使用的成本;在穩定性方面,我們實現了共享智能計算的集羣化,並且支持遠程運維。

我們已經將共享智能上線到大數據智能平臺上,下面這個demo,是一個多方安全計算的AI建模展示。

前面預處理部分跟正常的AI建模看起來一樣,通過拖拽式操作,把數據進行了預處理以後,送到共享智能建模中,會產生AI運算的結果。通過這種方式能夠大幅度降低新技術的使用門檻,方便業務方使用。

螞蟻金服在共享智能領域裏建設了三年多,發佈論文超過10篇,獲得專利超過80餘項,在標準立項上我們在IEEE共享智能和ITU-T MPC國際標準、CCSA共享智能行業標準以及AIOSS / AIIA共享智能聯盟標準方面都在同步推進,也獲得了一些創新獎項。

共享智能落地案例

接下來分享三個典型落地案例。

77.jpg

一個是在安全風控領域,聯合生態夥伴來建立安全風控網絡。生態夥伴使用前面介紹的可信執行環境技術,把數據加密傳輸到網絡中共建這個模型,打擊虛假交易、團伙作案等,大幅度提升風控準確率,實現風控網絡的淨化。通過這樣的風控網絡平臺,使得商家每天新增很多的交易,同時降低資損。

第二個是中和農信,我們通過數據融合大幅度提高風控性能,把原來傳統的線下模式,變成線上自動過審模式,完成授信只需5分鐘,8個月累計放款31.9億,授信成功人數44萬人,業務覆蓋20+省區,300+縣城,10000+個鄉村,助力實現農村普惠金融。

第三個是與江蘇銀行進行的信貸聯合風控,還記得我們前面的例子嗎?因爲數據不完整,導致風控決策錯誤,現在通過共享智能技術,雙方可以完成共同的模型構建,通過這樣的機制實現聯合風控,使得效果有大幅度提升。同時在這個過程中,用戶的數據和隱私得到了有效保護。

總的來說,我們想構建開放的共享智能網絡,希望有更多的夥伴、機構參與進來,一起完成建設,打破數據孤島,助力AI技術更好的落地和應用。


OceanBase 登頂TPC-C測試榜,實現中國數據庫零的突破,想要了解背後的技術細節?歡迎下載電子書《OceanBase TPC-C測試技術解析》,長按識別以下二維碼,關注“螞蟻金服科技”官方公衆號,並在對話框內回覆“TPCC”,即可免費下載。
784397ebly1g4x77tyt3sg20hs0jgjvq.gif

發表評論
所有評論
還沒有人評論,想成為第一個評論的人麼? 請在上方評論欄輸入並且點擊發布.
相關文章