網(wǎng)絡(luò)安全的博弈從來都是場持久戰(zhàn),攻防之間的技術(shù)維度也在日益升級。而面對已然到來的AI時代,潛在的網(wǎng)絡(luò)安全風(fēng)險已不僅出現(xiàn)在數(shù)據(jù)層面,更凸顯在其背后底層的技術(shù)邏輯。

　　由此,百度安全與英特爾聯(lián)手打造的全球首個內(nèi)存安全的可信計算架構(gòu)MesaTEE應(yīng)運(yùn)而生。其將百度安全首創(chuàng)的高級內(nèi)存安全技術(shù)模型Hybrid Memory Safety(HMS)和英特爾軟件防護(hù)擴(kuò)展Software Guard Extensions(Intel SGX)相結(jié)合,使內(nèi)存安全可信的安全人工智能計算框架成為可能。

　　美國當(dāng)?shù)貢r間3月4日,在國際網(wǎng)絡(luò)安全領(lǐng)域已有24年歷史的RSA大會在舊金山開幕。作為重要的技術(shù)創(chuàng)新,百度安全與英特爾一起展示了MesaTEE在包括公有云、區(qū)塊鏈在內(nèi)的各類復(fù)雜場景中對隱私數(shù)據(jù)和AI模型的強(qiáng)大保護(hù)能力。

　　在大會現(xiàn)場,百度安全還首次透露了即將發(fā)布的MesaTEE全新版本的相關(guān)信息——對云和邊緣計算設(shè)備全面升級的AI算法保護(hù)支持,這也將是自2018年9月,百度首席安全科學(xué)家韋韜博士與英特爾副總裁Lorie Wigle共同宣布推出MesaTEE之后的一次重大技術(shù)升級。

　　韋韜博士與英特爾副總裁Lorie Wigle共同宣布推出MesaTEE

　　眾所周知,AI系統(tǒng)中的機(jī)器學(xué)習(xí)容易受到對抗樣本的攻擊,對圖像數(shù)據(jù)疊加部分人類難以通過感官辨識到的細(xì)微擾動,就可以“欺騙”機(jī)器學(xué)習(xí)模型做出錯誤的判斷,未雨綢繆至關(guān)重要。

　　上圖展示了在RSA大會上由百度安全展示的實驗案例,通過一個普通的識別設(shè)備,AI系統(tǒng)正確的識別了一只貓的圖像。但是,在其數(shù)據(jù)及AI模型被攻擊者破解并生成一系列對抗性輸入后,識別設(shè)備被“欺騙”,這只貓被AI系統(tǒng)錯誤地識別為一只狗。

　　這樣的情況還出現(xiàn)在自動駕駛領(lǐng)域,如下圖所示,一方面,通過類似的數(shù)據(jù)篡改或在現(xiàn)實世界中實際的物理干擾,攻擊者可讓AI系統(tǒng)喪失對于道路標(biāo)識和其他車輛正確的識別能力,造成嚴(yán)重的安全隱患;另一方面,一旦攻擊者破譯了其背后的AI模型,便可以繞過人臉識別系統(tǒng)解鎖車輛或直接進(jìn)行遠(yuǎn)程控制,實現(xiàn)對車輛的非法接管和對相關(guān)隱私信息的竊取。

　　要知道,當(dāng)前很多AI系統(tǒng)在圖像識別層面都存在著或多或少的技術(shù)漏洞,而目前這類方案已開始被應(yīng)用于自動駕駛、醫(yī)療保健、金融認(rèn)證、工業(yè)控制、大數(shù)據(jù)計算等場景之中,數(shù)據(jù)安全和隱私保護(hù)能力的缺位,將直接威脅你我的生命財產(chǎn)安全和社會的正常運(yùn)轉(zhuǎn)。提升AI識別系統(tǒng)的反欺騙能力,也是其在各類公共場景中大范圍應(yīng)用的安全前提之一。

　　事實上,MesaTEE所試圖解決的正是這一在AI時代愈發(fā)迫切的問題�；�于Intel SGX提供的硬件可信執(zhí)行環(huán)境,MesaTEE實現(xiàn)了云上數(shù)據(jù)的完整性和保密性的芯片級安全保障,且不會導(dǎo)致性能和功能的顯著降級。同時,通過允許用戶對執(zhí)行環(huán)境進(jìn)行遠(yuǎn)程驗證,確保遠(yuǎn)程執(zhí)行環(huán)境符合預(yù)期,有效降低隱私數(shù)據(jù)的暴露風(fēng)險。而借助HMS技術(shù),MesaTEE還兼具了內(nèi)存安全所帶來的不可繞過性,使其能夠抵御絕大多數(shù)的攻擊——在上文所提及的“貓狗實驗”中,在MesaTEE的環(huán)境下操作時,攻擊者便未能獲取相關(guān)信息并進(jìn)行破解。

　　換句話說,MesaTEE為企業(yè)上云提供了更安全的端到端通道,并支持包括卷積神經(jīng)網(wǎng)絡(luò)在內(nèi)的通用人工智能計算的理解和訓(xùn)練,性能與安全實現(xiàn)了統(tǒng)一。

　　盡管有著類似歐盟GDPR通用數(shù)據(jù)保護(hù)條例這樣嚴(yán)格的法律規(guī)制,但在過去的一年中,全球范圍內(nèi)仍然發(fā)生了至少6500起、涉及超過50億條含有隱私信息的數(shù)據(jù)泄露事件。保證底層技術(shù)方案的安全,是保證整個AI生態(tài)安全的重要基礎(chǔ)之一�？梢灶A(yù)見,以MesaTEE為代表的內(nèi)存安全的可信計算架構(gòu)將大大延展互聯(lián)網(wǎng)信任的技術(shù)邊界,基于此孵化出的下一代區(qū)塊鏈基礎(chǔ)設(shè)施、高速多方的安全計算,將廣泛應(yīng)用于大數(shù)據(jù)分析和機(jī)器學(xué)習(xí)中。

　　未來,百度和英特爾將進(jìn)一步加強(qiáng)合作,推動可信安全計算應(yīng)用落地。同時,也呼吁更廣泛的社區(qū)生態(tài)合作,用技術(shù)助力AI時代發(fā)展,守護(hù)AI生態(tài)安全。(一鳴)