近日，據(jù)美國(guó)科技媒體報(bào)道，蘋果已將旗下的機(jī)器學(xué)習(xí)部門“Core ML”及智能語(yǔ)音助手Siri團(tuán)隊(duì)進(jìn)行合并，組建成全新的人工智能和機(jī)器學(xué)習(xí)部門。無獨(dú)有偶，富士康也宣布在硅谷成立人工智能公司。隨著巨頭們的加力布局，AI再次成為輿論焦點(diǎn)。百度無人巴士的量產(chǎn)也隨之推波助瀾。然而，不得不思考的是，當(dāng)智能化不斷給我們帶來便利的同時(shí)，AI的安全性又將如何保障?
最近，京東安全披露了三項(xiàng)AI安全領(lǐng)域的最新研究成果，或許能給我們帶來一些新的啟示。
黑盒解釋技術(shù)，讓AI安全有據(jù)可循
事實(shí)上，在AI應(yīng)用于安全領(lǐng)域后，業(yè)內(nèi)始終無法回避一個(gè)難題：AI究竟是科學(xué)決策還是一場(chǎng)豪賭?一方面，憑借深度學(xué)習(xí)能力，AI似乎可以無限趨近真相;另一方面，它的決策是封閉的，人們無法斷定其是否有理有據(jù)。不同于其他領(lǐng)域，安全的不可逆性讓人們對(duì)于AI的應(yīng)用更為謹(jǐn)慎。
以電商領(lǐng)域?yàn)槔?ldquo;我們不能因?yàn)橐粋€(gè)簡(jiǎn)單的機(jī)器決策就將某賬號(hào)凍結(jié)，也不能因?yàn)槟硞€(gè)機(jī)器的決策就判定某軟件含有惡意代碼。”京東安全技術(shù)專家表示。有鑒于此，京東安全實(shí)驗(yàn)室與賓州州立大學(xué)邢新宇教授團(tuán)隊(duì)共同推出了一套以高斯混合模型為基礎(chǔ)的黑盒解釋技術(shù)。憑借高斯模型的近似和解釋能力，不論AI系統(tǒng)使用何種深度學(xué)習(xí)模型，它都能提供準(zhǔn)確的解釋。保證了AI系統(tǒng)打擊黑產(chǎn)時(shí)的“有理有據(jù)”，最大程度降低了了對(duì)用戶正常行為的“誤傷”。除此之外，該解決方案還可以幫助AI驅(qū)動(dòng)的安全系統(tǒng)自動(dòng)打補(bǔ)丁，并做到AI安全系統(tǒng)的自我修復(fù)，用AI強(qiáng)化了AI。
深度學(xué)習(xí)技術(shù)處理程序崩潰，將AI引入傳統(tǒng)安全領(lǐng)域
每天，大大小小的服務(wù)器都可能產(chǎn)生數(shù)以百計(jì)的程序崩潰，這在很大程度上影響了一個(gè)企業(yè)的正常業(yè)務(wù)。如果處理不當(dāng)，這些崩潰的程序甚至?xí)：蛻舻捏w驗(yàn)。在全球范圍內(nèi)，調(diào)試軟件成本已經(jīng)上升到每年3120億美元，開發(fā)人員需要花50%的編程時(shí)間來查找和修復(fù)bug，找出導(dǎo)致軟件崩潰的根本原因，分析崩潰轉(zhuǎn)儲(chǔ)并確定導(dǎo)致崩潰的執(zhí)行路徑。
對(duì)此，京東安全提出了以深度學(xué)習(xí)技術(shù)來妥善處理程序崩潰。據(jù)京東安全技術(shù)專家介紹，在程序崩潰時(shí)，計(jì)算機(jī)系統(tǒng)會(huì)自動(dòng)生成一份崩潰報(bào)告(core dump)。該報(bào)告涵蓋了程序崩潰時(shí)的內(nèi)存狀態(tài)以及曾經(jīng)執(zhí)行的計(jì)算機(jī)指令。京東安全使用深度學(xué)習(xí)技術(shù)來分析報(bào)告中的內(nèi)存狀態(tài)以及每一條指令，并迫使程序逆向執(zhí)行，從而用AI的技術(shù)刻畫程序在崩潰前的每一個(gè)狀態(tài)。通過這樣的操作， AI系統(tǒng)會(huì)自動(dòng)找到程序崩潰的根本原因，并執(zhí)導(dǎo)安全研究人員迅速反應(yīng)并完成對(duì)軟件系統(tǒng)的快速修復(fù)。
在此項(xiàng)技術(shù)的幫助下，京東安全將響應(yīng)程序崩潰所需的人力成本和時(shí)間成本降到最低，同時(shí)也將攻擊所導(dǎo)致的用戶體驗(yàn)下降減少到最低。
AI對(duì)抗AI，電商攻防之戰(zhàn)持續(xù)升級(jí)
據(jù)不完全統(tǒng)計(jì)，目前我國(guó)直接或間接參與網(wǎng)絡(luò)黑產(chǎn)的不法分子已經(jīng)有數(shù)百萬之巨，在AI技術(shù)的“賦能”下，黑產(chǎn)組織的犯罪行為呈現(xiàn)出高度組織化、規(guī)?；约爸悄芑奶卣鳌Ｔ谝淮伟踩鍟?huì)上，京東安全詳細(xì)介紹了與黑產(chǎn)開展AI攻防對(duì)抗和程序故障行為分析的方法，為安全行業(yè)提供了寶貴經(jīng)驗(yàn)。
據(jù)京東安全技術(shù)專家介紹，在對(duì)抗黃牛上，京東安全采取了“步步緊逼”的方式，例如用反爬蟲技術(shù)攔截黑產(chǎn)爬蟲，監(jiān)控黑產(chǎn)的活動(dòng)，獲得諸如黑產(chǎn)工具、平臺(tái)等相關(guān)信息，進(jìn)行提前攔截，并通過對(duì)黑產(chǎn)工具的研究對(duì)關(guān)鍵節(jié)點(diǎn)進(jìn)行加固。
在打擊機(jī)器注冊(cè)的過程中，京東安全采用了黑產(chǎn)情報(bào)、無監(jiān)督學(xué)習(xí)+有監(jiān)督學(xué)習(xí)、人機(jī)識(shí)別三管齊下的方式，通過黑產(chǎn)情報(bào)了解實(shí)際攻擊的工具、技術(shù)跟場(chǎng)景;利用無監(jiān)督及有監(jiān)督學(xué)習(xí)相結(jié)合降低誤判率，保障真實(shí)用戶的體驗(yàn);基于京東多場(chǎng)景的人機(jī)識(shí)別，識(shí)別出機(jī)器注冊(cè)的行為特征，并對(duì)其加以標(biāo)注。
在圖片驗(yàn)證碼的對(duì)抗上，京東安全主動(dòng)利用AI進(jìn)行反攻。反攻的第一步是做模型的提取，因?yàn)楹诋a(chǎn)平臺(tái)會(huì)使用AI模型做圖片驗(yàn)證?；谶@個(gè)洞察，京東安全用盡可能少的查詢，給黑產(chǎn)的系統(tǒng)提供一些圖片驗(yàn)證碼進(jìn)行識(shí)別。通過這些打標(biāo)去自動(dòng)找出黑產(chǎn)模型的弱點(diǎn)，獲取近似模型，然后產(chǎn)出對(duì)抗性樣本。使得新產(chǎn)生的圖片驗(yàn)證碼在真人識(shí)別時(shí)不會(huì)產(chǎn)生混淆，但是AI平臺(tái)強(qiáng)行打碼時(shí)會(huì)出現(xiàn)誤判，從而擊垮黑產(chǎn)AI的機(jī)器學(xué)習(xí)。
AI開源共享，共建安全圈的無國(guó)界醫(yī)生組織
隨著網(wǎng)絡(luò)黑產(chǎn)的日益猖獗，越來越多的人意識(shí)到：在全球網(wǎng)絡(luò)安全威脅下，沒有人可以獨(dú)善其身。在AI技術(shù)加持的大安全時(shí)代，安全技術(shù)的開源共享，共建網(wǎng)絡(luò)安全新生態(tài)，或許才是應(yīng)對(duì)黑產(chǎn)的不二法門。
事實(shí)上，并非所有企業(yè)都能像京東一樣擁有海量的用戶數(shù)據(jù)和豐富的應(yīng)用場(chǎng)景，很多中小企業(yè)因無力承擔(dān)安全研究經(jīng)費(fèi)，長(zhǎng)期處于“安全貧困線”之下，由此可見開源共享的重要性和緊迫性。當(dāng)前雖然有一些AI安全工具被開源出來，但總體上數(shù)量仍然比較少。在記者的采訪中，京東安全首席安全科學(xué)家Tony Lee表示：“越來越多的白帽子推動(dòng)自由分享的黑客精神強(qiáng)勢(shì)回歸，非常希望這股精神就像奧運(yùn)火種的生生不息一樣，動(dòng)員整個(gè)安全社區(qū)接力傳遞共享精神，不斷開放出更多的安全思路、方法、工具等，建立起安全圈的無國(guó)界醫(yī)生組織，從而才能徹底打贏安全脫貧攻堅(jiān)戰(zhàn)。”
