您現在的位置:?臺海網 >> 生活頻道 >> 科技  >> 正文

京東安全發布三大最新研究成果 讓AI真正For Security

www.yocmur.live 來源: 北國網 用手持設備訪問
二維碼

  近日,據美國科技媒體報道,蘋果已將旗下的機器學習部門“Core ML”及智能語音助手Siri團隊進行合并,組建成全新的人工智能和機器學習部門。無獨有偶,富士康也宣布在硅谷成立人工智能公司。隨著巨頭們的加力布局,AI再次成為輿論焦點。百度無人巴士的量產也隨之推波助瀾。然而,不得不思考的是,當智能化不斷給我們帶來便利的同時,AI的安全性又將如何保障?

  最近,京東安全披露了三項AI安全領域的最新研究成果,或許能給我們帶來一些新的啟示。

  黑盒解釋技術,讓AI安全有據可循

  事實上,在AI應用于安全領域后,業內始終無法回避一個難題:AI究竟是科學決策還是一場豪賭?一方面,憑借深度學習能力,AI似乎可以無限趨近真相;另一方面,它的決策是封閉的,人們無法斷定其是否有理有據。不同于其他領域,安全的不可逆性讓人們對于AI的應用更為謹慎。

  以電商領域為例,“我們不能因為一個簡單的機器決策就將某賬號凍結,也不能因為某個機器的決策就判定某軟件含有惡意代碼。”京東安全技術專家表示。有鑒于此,京東安全實驗室與賓州州立大學邢新宇教授團隊共同推出了一套以高斯混合模型為基礎的黑盒解釋技術。憑借高斯模型的近似和解釋能力,不論AI系統使用何種深度學習模型,它都能提供準確的解釋。保證了AI系統打擊黑產時的“有理有據”,最大程度降低了了對用戶正常行為的“誤傷”。除此之外,該解決方案還可以幫助AI驅動的安全系統自動打補丁,并做到AI安全系統的自我修復,用AI強化了AI。

  深度學習技術處理程序崩潰,將AI引入傳統安全領域

  每天,大大小小的服務器都可能產生數以百計的程序崩潰,這在很大程度上影響了一個企業的正常業務。如果處理不當,這些崩潰的程序甚至會危害客戶的體驗。在全球范圍內,調試軟件成本已經上升到每年3120億美元,開發人員需要花50%的編程時間來查找和修復bug,找出導致軟件崩潰的根本原因,分析崩潰轉儲并確定導致崩潰的執行路徑。

  對此,京東安全提出了以深度學習技術來妥善處理程序崩潰。據京東安全技術專家介紹,在程序崩潰時,計算機系統會自動生成一份崩潰報告(core dump)。該報告涵蓋了程序崩潰時的內存狀態以及曾經執行的計算機指令。京東安全使用深度學習技術來分析報告中的內存狀態以及每一條指令,并迫使程序逆向執行,從而用AI的技術刻畫程序在崩潰前的每一個狀態。通過這樣的操作, AI系統會自動找到程序崩潰的根本原因,并執導安全研究人員迅速反應并完成對軟件系統的快速修復。

  在此項技術的幫助下,京東安全將響應程序崩潰所需的人力成本和時間成本降到最低,同時也將攻擊所導致的用戶體驗下降減少到最低。

  AI對抗AI,電商攻防之戰持續升級

  據不完全統計,目前我國直接或間接參與網絡黑產的不法分子已經有數百萬之巨,在AI技術的“賦能”下,黑產組織的犯罪行為呈現出高度組織化、規模化以及智能化的特征。在一次安全峰會上,京東安全詳細介紹了與黑產開展AI攻防對抗和程序故障行為分析的方法,為安全行業提供了寶貴經驗。

  據京東安全技術專家介紹,在對抗黃牛上,京東安全采取了“步步緊逼”的方式,例如用反爬蟲技術攔截黑產爬蟲,監控黑產的活動,獲得諸如黑產工具、平臺等相關信息,進行提前攔截,并通過對黑產工具的研究對關鍵節點進行加固。

  在打擊機器注冊的過程中,京東安全采用了黑產情報、無監督學習+有監督學習、人機識別三管齊下的方式,通過黑產情報了解實際攻擊的工具、技術跟場景;利用無監督及有監督學習相結合降低誤判率,保障真實用戶的體驗;基于京東多場景的人機識別,識別出機器注冊的行為特征,并對其加以標注。

  在圖片驗證碼的對抗上,京東安全主動利用AI進行反攻。反攻的第一步是做模型的提取,因為黑產平臺會使用AI模型做圖片驗證。基于這個洞察,京東安全用盡可能少的查詢,給黑產的系統提供一些圖片驗證碼進行識別。通過這些打標去自動找出黑產模型的弱點,獲取近似模型,然后產出對抗性樣本。使得新產生的圖片驗證碼在真人識別時不會產生混淆,但是AI平臺強行打碼時會出現誤判,從而擊垮黑產AI的機器學習。

  AI開源共享,共建安全圈的無國界醫生組織

  隨著網絡黑產的日益猖獗,越來越多的人意識到:在全球網絡安全威脅下,沒有人可以獨善其身。在AI技術加持的大安全時代,安全技術的開源共享,共建網絡安全新生態,或許才是應對黑產的不二法門。

  事實上,并非所有企業都能像京東一樣擁有海量的用戶數據和豐富的應用場景,很多中小企業因無力承擔安全研究經費,長期處于“安全貧困線”之下,由此可見開源共享的重要性和緊迫性。當前雖然有一些AI安全工具被開源出來,但總體上數量仍然比較少。在記者的采訪中,京東安全首席安全科學家Tony Lee表示:“越來越多的白帽子推動自由分享的黑客精神強勢回歸,非常希望這股精神就像奧運火種的生生不息一樣,動員整個安全社區接力傳遞共享精神,不斷開放出更多的安全思路、方法、工具等,建立起安全圈的無國界醫生組織,從而才能徹底打贏安全脫貧攻堅戰。”

相關新聞
集美東安東山里:人行道上拴了一條狗

臺海網11月6日訊(海峽導報記者 李立宇/文 陳巧思/圖)本報熱線968801接一讀者反映:有人竟把狗拴在人行道上,路人經過時都提心吊膽!  昨天下午3點多,集美東安東山里63號對面,人行道上拴著一條狗。  狗鏈子拴在人行道的綠化樹上,樹下放著狗食盆子,似乎狗已經在這里安家了...

澳洲幸运5看号技巧