科技云報(bào)道原創(chuàng)。
當(dāng)我們?cè)谙硎蹵I技術(shù)帶來的便捷與高效的同時(shí)，是否考慮過技術(shù)漏洞帶來的嚴(yán)重后果？試想如果有人惡意利用AI技術(shù)去干擾IT系統(tǒng)的正常工作，結(jié)果會(huì)有多可怕呢？
AI技術(shù)正在被積極應(yīng)用到各行各業(yè)中，然而有研究報(bào)告警告，這種新興技術(shù)很容易被網(wǎng)絡(luò)犯罪分子、不法黑客所利用。
一份由學(xué)術(shù)界、社會(huì)團(tuán)體以及行業(yè)人士所撰寫的報(bào)告《人工智能的惡意使用（Malicious Use of Artificial Intelligence）》指出，任何科技都有其雙面性，在大力發(fā)展AI技術(shù)的時(shí)候，有必要注意防止該技術(shù)被濫用的可能性。
例如，一些黑客會(huì)以領(lǐng)袖人物為目標(biāo)，使用AI進(jìn)行語音合成模擬；無人機(jī)能夠被操縱使用面部識(shí)別軟件，對(duì)人類目標(biāo)進(jìn)行識(shí)別并攻擊；AI被黑客用來搜索系統(tǒng)漏洞、實(shí)施網(wǎng)絡(luò)釣魚，展開網(wǎng)絡(luò)攻擊等等。
隨著AI技術(shù)的發(fā)展，未來攻擊者會(huì)不斷將AI技術(shù)融入到攻擊活動(dòng)中，AI驅(qū)動(dòng)的攻擊行為將越來越趨向正?；＝裉煳覀兙蛠砹牧模磥頃?huì)出現(xiàn)哪些使用AI技術(shù)的攻擊方式？
對(duì)抗樣本攻擊
在機(jī)器學(xué)習(xí)領(lǐng)域，有一個(gè)非常經(jīng)典的“對(duì)抗樣本”案例：
一張熊貓的圖片，累加了一個(gè)看起來是隨機(jī)噪聲的圖片，生成了一張新的圖片。我們?nèi)庋劭雌饋硎且荒Ｒ粯?，但是?duì)于AI模型來說，圖片就變得不一樣了，本來是熊貓，加了噪聲就被識(shí)別為“長臂猿”了。
所謂“對(duì)抗樣本”（adversarial examples），就是指攻擊者對(duì)輸入樣本故意添加一些細(xì)微干擾，導(dǎo)致模型以高置信度給出一個(gè)錯(cuò)誤的結(jié)果。在這種干擾下，原本精確的人工智能，瞬間就淪為“人工智障”。
試想如果有人惡意制造這樣的對(duì)抗樣本去挑戰(zhàn)我們身邊的AI系統(tǒng)，結(jié)果會(huì)有多可怕呢？
萬一犯罪分子掌握了一個(gè)漏洞，在臉上點(diǎn)幾個(gè)點(diǎn)，就可以把犯罪分子的臉偽裝成某個(gè)人的臉，那我們的身份豈不是可以隨時(shí)被冒用？犯罪分子也能夠隨時(shí)從面部識(shí)別模型中逃脫？
如果存在別有用心的人，將馬路上的交通指示牌替換，明明是右轉(zhuǎn)的標(biāo)志，自動(dòng)駕駛系統(tǒng)缺識(shí)別為直行，極其容易釀成交通事故。
除了圖像領(lǐng)域，在語音系統(tǒng)上，黑客也能夠通過特定的方式欺騙語音轉(zhuǎn)文本系統(tǒng)，比如在你最喜愛的歌曲中偷偷加入一些語音指令，讓智能語音助手轉(zhuǎn)移你的賬戶余額。
此外，對(duì)抗攻擊還可以欺騙GPS誤導(dǎo)船只、誤導(dǎo)自動(dòng)駕駛車輛、修改AI驅(qū)動(dòng)的導(dǎo)彈目標(biāo)等等，對(duì)抗攻擊對(duì)AI系統(tǒng)在關(guān)鍵領(lǐng)域的應(yīng)用已經(jīng)構(gòu)成了真正的威脅。
更加令人擔(dān)憂的是，想要防御對(duì)抗樣本攻擊非常困難，現(xiàn)階段還沒有好的策略和工具能夠解決這一問題。
然而，對(duì)于攻擊者來說，只需要很小的樣本量就能干擾AI模型的結(jié)果。有研究表明，僅僅在二進(jìn)制文件的末尾增加10kb字節(jié)，就降低了神經(jīng)網(wǎng)絡(luò)模型MalConv的精度超過50%。
因此，設(shè)計(jì)防范對(duì)抗樣本的方法，以縮小設(shè)計(jì)師意圖和算法行為之間的差距，成為AI防御的一個(gè)重要研究領(lǐng)域。
自動(dòng)化決策攻擊
目前，AI技術(shù)已經(jīng)被用于大規(guī)模的自動(dòng)化攻擊。未來，AI技術(shù)或?qū)膼阂廛浖淖詣?dòng)化攻擊，進(jìn)化為自動(dòng)化決策，即能夠根據(jù)被感染系統(tǒng)的參數(shù)進(jìn)行智能調(diào)整、自我繁殖，攻擊會(huì)變得更加靜默和危險(xiǎn)。
舉個(gè)例子，假設(shè)一個(gè)蠕蟲版的攻擊可以理解目標(biāo)的環(huán)境并選擇對(duì)應(yīng)的攻擊技術(shù)，一旦它利用的某個(gè)漏洞被修復(fù)了，它可以轉(zhuǎn)向暴力破解SMB憑證，加載Mimikatz或安裝鍵盤記錄器來獲取憑證。
智能繞過
除了對(duì)環(huán)境進(jìn)行適應(yīng)并進(jìn)行決策之外，武器化的AI還要能夠發(fā)現(xiàn)目標(biāo)的弱點(diǎn)，這樣AI網(wǎng)絡(luò)攻擊就可以繞過檢測(cè)并最大化造成的傷害。
未來，惡意軟件在初始感染成功后會(huì)學(xué)習(xí)構(gòu)建正常行為，它不會(huì)去猜測(cè)環(huán)境中主要使用的是Windows系統(tǒng)還是Linux系統(tǒng)，也不會(huì)去猜測(cè)使用Twitter或Instagram作為C2通信信道，而是會(huì)直接學(xué)習(xí)和理解目標(biāo)網(wǎng)絡(luò)中的通信，并融入到攻擊活動(dòng)或攻擊模型中。
一旦進(jìn)入到受感染的系統(tǒng)中，惡意軟件還能夠安全地學(xué)習(xí)系統(tǒng)的環(huán)境知識(shí)，比如受感染設(shè)備通信的內(nèi)部設(shè)備，使用的端口和協(xié)議，以及賬戶信息等。因此，由智能化帶來的威脅程度也將成倍增加。
low and slow 攻擊
一般來說，惡意軟件發(fā)展的速度要比人類響應(yīng)的速度更快。因此，low and slow攻擊是一種非常特殊的攻擊方式，也很容易就可以繞過檢測(cè)。
因?yàn)槊恳粋€(gè)動(dòng)作對(duì)人類和傳統(tǒng)安全工具來說都太小了，研究人員總結(jié)發(fā)現(xiàn)這類攻擊場(chǎng)景主要出現(xiàn)在數(shù)據(jù)竊取中。
傳統(tǒng)安全工具的工作方式是，判斷數(shù)據(jù)包是否大于500MB，如果大于500M，標(biāo)記為“可疑的”用于之后的調(diào)查。
這對(duì)攻擊者來說是已知的，因此攻擊者會(huì)適當(dāng)?shù)倪M(jìn)行調(diào)整，將數(shù)據(jù)竊取的單位塊變得更小，并且慢慢去竊取。數(shù)據(jù)可以通過網(wǎng)絡(luò)發(fā)送給一個(gè)單獨(dú)的C2服務(wù)器也可以發(fā)送給不同的服務(wù)器。
雖然該例子已經(jīng)足夠去繞過現(xiàn)有的安全工具，但是更加靜默的數(shù)據(jù)竊取場(chǎng)景也是可行的。攻擊者可以選擇數(shù)據(jù)竊取的時(shí)間，比如在24天內(nèi)一點(diǎn)點(diǎn)的竊取想要的數(shù)據(jù)。
雖然傳統(tǒng)工具很難檢測(cè)這樣的low and slow數(shù)據(jù)竊取，但是攻擊者使用AI技術(shù)來理解了目標(biāo)環(huán)境后這種檢測(cè)會(huì)變得更難。
惡意軟件不會(huì)再使用硬編碼的數(shù)據(jù)量閥值，而可以基于使用的網(wǎng)絡(luò)帶寬進(jìn)行動(dòng)態(tài)的調(diào)整。比如之前是每2小時(shí)發(fā)送20KB數(shù)據(jù)，現(xiàn)在就可以在用戶看視頻等使用帶寬較大的時(shí)候選擇進(jìn)行視頻發(fā)送大量數(shù)據(jù)。
如果視頻會(huì)議是目標(biāo)企業(yè)常用的外部通信方法，那么惡意軟件就可以使用視頻會(huì)議系統(tǒng)進(jìn)行數(shù)據(jù)竊取，這樣就將攻擊融入到正常的企業(yè)活動(dòng)中了。
從以上攻擊趨勢(shì)可以看到，隨著未來AI攻擊技術(shù)的不斷進(jìn)化，如何讓IT系統(tǒng)具備高效防御AI攻擊能力，成了迫在眉睫的難題。
道高一尺，魔高一丈，其實(shí)從來就沒有100%的安全，攻擊有時(shí)候只是成本問題?；诂F(xiàn)狀，企業(yè)能做的有兩點(diǎn)：
一是密切關(guān)注該領(lǐng)域的發(fā)展動(dòng)向，加大AI網(wǎng)絡(luò)安全的投入力度；二是做好針對(duì)此類攻擊的風(fēng)險(xiǎn)控制，采用業(yè)界推薦的安全最佳實(shí)踐。
【科技云報(bào)道原創(chuàng)】
微信公眾賬號(hào)：科技云報(bào)道
