以“萬物智能”為主題，一年一度的百度世界2020大會(huì)于9月15日正式揭幕。在百度大腦分論壇上，百度副總裁馬杰發(fā)表了題為“智能為腦，安全為本”的主題演講，系統(tǒng)闡述了百度大腦在AI安全領(lǐng)域一系列能力布局和最新進(jìn)展。

　　眾所周知，隨著萬物互聯(lián)和大規(guī)模智能協(xié)作的逐漸深入，人類正在進(jìn)入一個(gè)經(jīng)濟(jì)深度智能化的發(fā)展階段。作為其中的核心議題，AI在安全方面的諸多挑戰(zhàn)不僅關(guān)系到整個(gè)AI體系的穩(wěn)定可靠，直接影響到AI算力、算法和數(shù)據(jù)的落地應(yīng)用，也為相應(yīng)的安全能力建設(shè)提出了新的要求與新的思維方式。

(百度副總裁馬杰)

　　面對一系列全新的安全挑戰(zhàn)，馬杰在演講中將AI安全問題劃分為Security、Safety和Privacy三個(gè)維度進(jìn)行考量，并由此探尋更具針對性的解決方案。

　　在Security，即在強(qiáng)對抗環(huán)境下的安全威脅層面，來自物理世界和數(shù)字世界的攻擊可能導(dǎo)致探測裝置和深度學(xué)習(xí)模型做出誤判，造成AI系統(tǒng)在工作過程中的“指鹿為馬”、“無中生有”和“有中生無”。

　　而來自非對抗條件下自然環(huán)境所產(chǎn)生的真實(shí)威脅、即Safety層面真實(shí)世界中環(huán)境因素對輸入數(shù)據(jù)的正常擾動(dòng)，也有可能對深度學(xué)習(xí)模型的分類和預(yù)測造成影響。

　　為此，百度推出了模型魯棒性體系化評估框架。從光照、空間變換、模糊、噪聲和天氣變化等多項(xiàng)安全屬性著手，根據(jù)不同模型任務(wù)場景制定評估標(biāo)準(zhǔn)，幫助行業(yè)更好地量化評估潛在的安全威脅與模型魯棒性。同時(shí)，百度還首創(chuàng)了AdvBox對抗樣本工具箱。從安全驗(yàn)證、模型加固、對抗樣本檢測、模型魯棒性形式化驗(yàn)證等多個(gè)方面，助力飛槳、TensorFlow等主流機(jī)器學(xué)習(xí)平臺快速提升模型的健壯性。

　　而在Privacy、即數(shù)據(jù)安全與隱私保護(hù)層面，貫穿于采集、處理、流通、計(jì)算整個(gè)數(shù)據(jù)生命周期，隱私合規(guī)檢測、差分隱私、AI自動(dòng)脫敏、聯(lián)邦計(jì)算、可信計(jì)算等安全技術(shù)的應(yīng)用將為百億級大規(guī)模數(shù)據(jù)的安全聯(lián)合計(jì)算創(chuàng)造可能，也將為金融、醫(yī)療、政務(wù)等領(lǐng)域的聯(lián)合分析、聯(lián)合風(fēng)控、聯(lián)合營銷提供數(shù)據(jù)安全保障，進(jìn)一步釋放數(shù)據(jù)價(jià)值，擴(kuò)大AI時(shí)代大規(guī)模數(shù)據(jù)協(xié)作的信任邊界。

　　目前，依托PaddleFL聯(lián)邦學(xué)習(xí)開源框架，百度領(lǐng)先的聯(lián)邦學(xué)習(xí)和有隱私保護(hù)的機(jī)器學(xué)習(xí)能力已與百度大腦深度融合，為飛槳在產(chǎn)業(yè)應(yīng)用中的跨組織數(shù)據(jù)合作提供重要的輔助工具支撐。

　　“我們希望通過長期的研究與實(shí)踐，能夠跑到這些威脅造成重大危害之前。”對于百度在AI安全領(lǐng)域的持續(xù)發(fā)力，馬杰重申了加大這一投入的必要性。事實(shí)上，其已不止關(guān)乎于AI時(shí)代眾多安全攸關(guān)的關(guān)鍵場景，也已成為當(dāng)前世界亟需應(yīng)對的現(xiàn)時(shí)挑戰(zhàn)——例如，在備受爭議的AI換臉問題上，百度研發(fā)并開源的業(yè)內(nèi)首款A(yù)I換臉檢測工具，便可實(shí)現(xiàn)對深度偽造、合成技術(shù)的高效“打假”，為監(jiān)管部門阻斷電信網(wǎng)絡(luò)詐騙等違法行為提供助力。

　　當(dāng)然，圍繞算力、算法、數(shù)據(jù)的安全研究與解決方案，只是在百度大腦AI安全體系框架下的其中一環(huán)。面向更為廣泛的AI安全生態(tài)挑戰(zhàn)，基于全面開源的“七種武器”BASS下一代人工智能安全技術(shù)棧等AI安全核心技術(shù)，百度正為解決AI生態(tài)中云、管、端及大數(shù)據(jù)和算法層面的一系列安全風(fēng)險(xiǎn)問題提供支持。

　　正如本次百度世界大會(huì)“萬物智能”的主題，作為百度大腦核心架構(gòu)之一，百度的AI安全能力將持續(xù)致力于為AI大生產(chǎn)平臺的升級和產(chǎn)業(yè)智能化變革保駕護(hù)航。并從Security、Safety及Privacy多個(gè)維度，打造更安全的AI，打造更安全的AI時(shí)代。

特別提醒：本網(wǎng)內(nèi)容轉(zhuǎn)載自其他媒體，目的在于傳遞更多信息，并不代表本網(wǎng)贊同其觀點(diǎn)。其原創(chuàng)性以及文中陳述文字和內(nèi)容未經(jīng)本站證實(shí)，對本文以及其中全部或者部分內(nèi)容、文字的真實(shí)性、完整性、及時(shí)性本站不作任何保證或承諾，并請自行核實(shí)相關(guān)內(nèi)容。本站不承擔(dān)此類作品侵權(quán)行為的直接責(zé)任及連帶責(zé)任。如若本網(wǎng)有任何內(nèi)容侵犯您的權(quán)益，請及時(shí)聯(lián)系我們，本站將會(huì)在24小時(shí)內(nèi)處理完畢。