人工智能正在改變許多行業(yè)，但沒有哪個行業(yè)像網(wǎng)絡(luò)安全那樣引人注目。隨著網(wǎng)絡(luò)犯罪的激增和技能差距的擴(kuò)大，越來越明顯的是，人工智能是安全的未來，但仍然存在一些挑戰(zhàn)。最近人們越來越關(guān)注的一個問題是對人工智能可解釋性的需求。

隨著人工智能工具的出現(xiàn)，人們對人工智能可解釋性的擔(dān)憂日益增加，在網(wǎng)絡(luò)安全領(lǐng)域，它和其他應(yīng)用一樣重要嗎?讓我們來仔細(xì)看看。

什么是人工智能的可解釋性?

要了解可解釋性如何影響網(wǎng)絡(luò)安全，我們必須首先了解為什么它在任何情況下都很重要。可解釋性是許多行業(yè)采用人工智能的最大障礙，原因主要有一個，就是信任。

如今，許多人工智能模型都是黑匣子，這意味著我們將無法看到它們?nèi)绾巫龀鰶Q策。相比之下，可解釋的人工智能(XAI)為模型如何處理和解釋數(shù)據(jù)提供了完全的透明度。當(dāng)使用XAI模型時，可以看到它的輸出以及導(dǎo)致其得出這些結(jié)論的一系列推理，從而建立對此決策的更多信任。

從網(wǎng)絡(luò)安全的角度來看，可以考慮一個自動網(wǎng)絡(luò)監(jiān)控系統(tǒng)。想象一下，這個模型將登錄嘗試標(biāo)記為潛在的泄露。一個傳統(tǒng)的黑匣子模型會聲明它認(rèn)為該活動是可疑的，但可能不會說明原因。XAI允許進(jìn)一步調(diào)查，以查看哪些具體操作使人工智能將事件歸類為違規(guī)，從而加快響應(yīng)時間并潛在地降低成本。

為什么可解釋性對于網(wǎng)絡(luò)安全很重要?

在某些用例中，XAI的吸引力是顯而易見的。例如，人力資源部門必須能夠解釋人工智能決策，以確保它們不存在偏見。然而，有些人可能會認(rèn)為，只要模型準(zhǔn)確，模型如何得出安全決策并不重要。以下是為什么情況不一定如此的幾個原因。

1、提高AI準(zhǔn)確率

網(wǎng)絡(luò)安全人工智能可解釋性的最重要原因是它提高了模型的準(zhǔn)確性。人工智能提供了對潛在威脅的快速響應(yīng)，但安全專業(yè)人員必須能夠相信這些響應(yīng)是有用的。不明白為什么模型會以某種方式對事件進(jìn)行分類會阻礙這種信任。

通過降低誤報的風(fēng)險，XAI提高了安全AI的準(zhǔn)確性。安全團(tuán)隊可以準(zhǔn)確地看到為什么一個模型將某些東西標(biāo)記為威脅。如果是錯誤的，他們可以看到原因，并根據(jù)需要進(jìn)行調(diào)整，以防止類似的錯誤。

研究表明，安全XAI可以實(shí)現(xiàn)95%以上的準(zhǔn)確率，同時使錯誤分類背后的原因更加明顯。這使我們可以創(chuàng)建更可靠的分類系統(tǒng)，確保安全警報盡可能準(zhǔn)確。

2、更明智的決策

可解釋性提供了更多洞察力，這對于確定網(wǎng)絡(luò)安全的后續(xù)步驟至關(guān)重要。解決威脅的最佳方法因多種具體情況因素而異。我們可以了解更多關(guān)于人工智能模型，為何以某種方式對威脅進(jìn)行分類的信息，獲取關(guān)鍵的背景信息。

黑盒人工智能除了分類之外可能無法提供更多功能。相比之下，XAI可以讓我們了解其決策過程，揭示威脅的來龍去脈及其表現(xiàn)方式，從而實(shí)現(xiàn)根本原因分析。然后可以更有效地解決它。

3、持續(xù)改進(jìn)

可解釋的人工智能在網(wǎng)絡(luò)安全中也很重要，因?yàn)樗梢詫?shí)現(xiàn)持續(xù)改進(jìn)，網(wǎng)絡(luò)安全是動態(tài)的。犯罪分子總是在尋找繞過防御的新方法，因此安全趨勢必須做出相應(yīng)的調(diào)整。如果不確定安全人工智能如何檢測威脅，這可能會很困難。

僅僅適應(yīng)已知的威脅也是不夠的。在過去十年中，大約40%的零日漏洞攻擊發(fā)生在2021年。針對未知漏洞的攻擊變得越來越普遍，因此必須要能夠在黑客之前找到并解決系統(tǒng)中的弱點(diǎn)。

可解釋性可以讓我們準(zhǔn)確地做到這一點(diǎn)。因?yàn)榭梢钥吹絏AI如何做出決策，所以可以找到可能導(dǎo)致錯誤的差距或問題，并解決它們以增強(qiáng)安全性。同樣，可以查看導(dǎo)致各種操作的趨勢，以確定應(yīng)該考慮的新威脅。

4、監(jiān)管合規(guī)性

隨著網(wǎng)絡(luò)安全法規(guī)的不斷完善，安全人工智能中可解釋性的重要性也將隨之增長。像GDPR或HIPAA這樣的隱私法都有廣泛的透明度要求。如果企業(yè)屬于這個管轄范圍，黑盒人工智能很快就會成為法律責(zé)任。

安全人工智能可能可以訪問用戶數(shù)據(jù)來識別可疑活動。這意味著我們必須能夠證明模型，如何使用該信息來遵守隱私法規(guī)。XAI提供了這種透明度，但黑盒AI卻沒有。目前，此類法規(guī)僅適用于某些行業(yè)和地區(qū)，但這種情況可能很快就會改變。

5、建立信任

如果不出意外的話，網(wǎng)絡(luò)安全人工智能應(yīng)該可以用來建立信任。許多企業(yè)難以獲得消費(fèi)者的信任，許多人懷疑人工智能的可信度。XAI有助于向客戶保證，安全AI是安全和合乎道德的，因?yàn)榭梢詼?zhǔn)確地確定它是如何做出決策的。

對信任的需求超出了消費(fèi)者的范圍。安全團(tuán)隊必須獲得管理層和企業(yè)利益相關(guān)者的支持，才能部署人工智能?？山忉屝宰屗麄兡軌蛘故舅麄兊娜斯ぶ悄芙鉀Q方案，如何以及為何有效、道德和安全，從而提高獲得批準(zhǔn)的機(jī)會。

獲得批準(zhǔn)有助于更快地部署人工智能項目并增加預(yù)算。因此，與沒有可解釋性的情況相比，安全專業(yè)人員可以更大程度地利用這項技術(shù)。

XAI在網(wǎng)絡(luò)安全方面面臨的挑戰(zhàn)

可解釋性對于網(wǎng)絡(luò)安全人工智能至關(guān)重要，隨著時間的推移，它只會變得更加重要。然而，構(gòu)建和部署XAI帶來了一些獨(dú)特的挑戰(zhàn)。組織必須認(rèn)識到這些，以實(shí)現(xiàn)有效的XAI部署。

成本是可解釋的人工智能最重要的障礙之一。由于其標(biāo)記數(shù)據(jù)的要求，監(jiān)督學(xué)習(xí)在某些情況下可能會很昂貴。這些費(fèi)用可能會限制，一些企業(yè)證明安全人工智能項目合理性的能力。

同樣，一些機(jī)器學(xué)習(xí)(ML)方法根本無法很好地轉(zhuǎn)化為對人類有意義的解釋。強(qiáng)化學(xué)習(xí)是一種新興的機(jī)器學(xué)習(xí)方法，超過22%的采用人工智能的企業(yè)開始使用它。由于強(qiáng)化學(xué)習(xí)通常會持續(xù)很長一段時間，模型可以自由地做出許多相互關(guān)聯(lián)的決策，因此很難收集模型所做的每個決策，并將其轉(zhuǎn)化為人類可以理解的輸出。

最后，XAI模型的計算強(qiáng)度很大。并不是每個企業(yè)都有必要的硬件來支持這些更復(fù)雜的解決方案，并且擴(kuò)展可能會帶來額外的成本問題。這種復(fù)雜性也使得構(gòu)建和訓(xùn)練這些模型變得更加困難。

在安全領(lǐng)域有效使用XAI的步驟

安全團(tuán)隊?wèi)?yīng)謹(jǐn)慎對待XAI，考慮這些挑戰(zhàn)以及網(wǎng)絡(luò)安全AI可解釋性的重要性。一種解決方案是使用第二個人工智能模型來解釋第一個模型。ChatGPT等工具可以用人類語言解釋代碼，提供一種方法來告訴用戶模型為何做出某些選擇。

如果安全團(tuán)隊從一開始就使用比透明模型慢的人工智能工具，那么這種方法會很有幫助。這些替代方案需要更多的資源和開發(fā)時間，但會產(chǎn)生更好的結(jié)果。許多企業(yè)現(xiàn)在提供現(xiàn)成的XAI工具來簡化開發(fā)。使用對抗網(wǎng)絡(luò)來理解人工智能的訓(xùn)練過程也有幫助。

無論哪種情況，安全團(tuán)隊都必須與人工智能專家密切合作，以確保他們了解自己的模型。開發(fā)應(yīng)該是一個跨部門、更具協(xié)作性的過程，以確保每個需要的人都能理解人工智能決策。企業(yè)必須將人工智能素養(yǎng)培訓(xùn)作為實(shí)現(xiàn)這一轉(zhuǎn)變的優(yōu)先事項。

網(wǎng)絡(luò)安全人工智能必須是可解釋的

可解釋的人工智能提供透明度、更高的準(zhǔn)確性以及持續(xù)改進(jìn)的潛力，所有這些對于網(wǎng)絡(luò)安全都至關(guān)重要。隨著監(jiān)管壓力和對人工智能的信任變得更加重要，可解釋性將變得更加重要。

XAI可能會增加開發(fā)挑戰(zhàn)，但其好處是值得的。安全團(tuán)隊開始與人工智能專家合作，從頭開始構(gòu)建可解釋的模型，可以釋放人工智能的全部潛力。