了解攻擊者和防御者之間不斷變化的動態(tài)的方法之一是通過外部因素的視角。在進(jìn)行此類分析時，我們通常將主要因素縮寫為“PESTLE”，這是政治、經(jīng)濟(jì)、社會、技術(shù)、法律和環(huán)境力量的首字母縮寫詞。毫無疑問，我們看到在網(wǎng)絡(luò)威脅領(lǐng)域引起最大波瀾的技術(shù)因素是人工智能的快速發(fā)展。

網(wǎng)絡(luò)犯罪分子越來越多地使用人工智能來提高攻擊的有效性和效率。同時，對于防御者來說，人工智能被證明是安全團(tuán)隊的強(qiáng)大盟友，可以改善威脅檢測和補(bǔ)救。人工智能自動化安全任務(wù)的需求來得正是時候。

預(yù)計今年人工智能在網(wǎng)絡(luò)安全領(lǐng)域的影響將顯著增長。它將推動網(wǎng)絡(luò)釣魚技術(shù)的發(fā)展，加速系統(tǒng)中漏洞的發(fā)現(xiàn)。人工智能還將加速網(wǎng)絡(luò)入侵的發(fā)展和應(yīng)對。為了領(lǐng)先于已經(jīng)開始采用人工智能的對手，安全團(tuán)隊必須了解人工智能帶來的威脅，以及它有望改善網(wǎng)絡(luò)防御的機(jī)會。

2024年，各組織應(yīng)重點關(guān)注人工智能有望改變網(wǎng)絡(luò)安全的三個領(lǐng)域：

1.人工智能增強(qiáng)的社會工程攻擊

2024年，人工智能將進(jìn)一步擴(kuò)大社交工程攻擊的規(guī)模和有效性，在短短幾分鐘內(nèi)就能創(chuàng)建極具說服力的網(wǎng)絡(luò)釣魚誘餌。網(wǎng)絡(luò)犯罪分子將利用人工智能，利用社交媒體和被入侵的電子郵件賬戶中的數(shù)據(jù)，制作個性化的網(wǎng)絡(luò)釣魚信息。這些復(fù)雜的誘餌將很難被發(fā)現(xiàn)，即使是訓(xùn)練有素的員工也難以發(fā)現(xiàn)。

此外，生成式人工智能將使網(wǎng)絡(luò)犯罪分子成為更厲害的騙子。人工智能將幫助攻擊者用不同的語言編寫出文筆流暢、令人信服的網(wǎng)絡(luò)釣魚電子郵件和網(wǎng)站，使他們能夠?qū)⒐舴秶鷶U(kuò)大到各個地區(qū)。我們期望看到社會工程攻擊的質(zhì)量得到提高，使目標(biāo)和安全團(tuán)隊更難發(fā)現(xiàn)誘餌。因此，我們可能會看到與社會工程相關(guān)的風(fēng)險和危害有所增加——從欺詐到網(wǎng)絡(luò)入侵。

隨著人工智能生成的電子郵件與合法電子郵件幾乎難以區(qū)分，僅依靠員工培訓(xùn)來保護(hù)用戶是不夠的。相反，安全團(tuán)隊?wèi)?yīng)該考慮隔離技術(shù)，如微虛擬化，它不依賴檢測來保護(hù)員工。這項技術(shù)在隔離的虛擬環(huán)境中打開危險文件和鏈接，防止惡意軟件和軟件漏洞(甚至零日威脅)感染設(shè)備。

2.本地大型語言模型(LLM)

隨著計算能力的提升，新一代計算機(jī)將能夠運(yùn)行本地LLM，而無需依賴強(qiáng)大的外部服務(wù)器。這將使計算機(jī)和用戶能夠充分受益于AI，重新定義人們與設(shè)備的交互方式。

這些本地LLM承諾提高效率和生產(chǎn)力，同時通過獨(dú)立于互聯(lián)網(wǎng)工作提供安全和隱私優(yōu)勢。然而，如果沒有得到妥善保護(hù)，本地模型及其處理的敏感數(shù)據(jù)可能會使端點成為攻擊者更大的目標(biāo)。

此外，許多企業(yè)正在部署基于LLM的聊天機(jī)器人，以提升和擴(kuò)展其客戶服務(wù)。但底層的人工智能技術(shù)可能會帶來新的信息安全和隱私風(fēng)險，例如可能泄露敏感數(shù)據(jù)。今年，我們可能會看到網(wǎng)絡(luò)犯罪分子試圖操縱聊天機(jī)器人繞過安全措施來獲取機(jī)密信息。

3.高級固件和硬件攻擊

人工智能正在推動技術(shù)民主化，幫助技能水平較低的用戶更高效地執(zhí)行更復(fù)雜的任務(wù)。然而，盡管人工智能提高了組織的防御能力，但它也有可能幫助惡意行為者對較低系統(tǒng)層(即固件和硬件)進(jìn)行攻擊，而近年來，對固件和硬件的攻擊力度一直在增加。

從歷史上看，此類攻擊需要大量的技術(shù)專長，但人工智能開始有望降低這些障礙。這可能會導(dǎo)致更多人努力利用較低級別的系統(tǒng)，讓攻擊者在操作系統(tǒng)和業(yè)界最好的軟件安全防御之下立足。

隨著時間的推移，我們預(yù)計針對系統(tǒng)固件的惡意軟件的頻率會增加。這些攻擊依賴于利用操作系統(tǒng)下的弱點。專注于關(guān)閉硬件和固件攻擊面對于應(yīng)對這些威脅至關(guān)重要。

網(wǎng)絡(luò)安全的新前沿

人工智能將改變網(wǎng)絡(luò)安全，為安全團(tuán)隊提供大量機(jī)會來改善其威脅檢測和響應(yīng)。例如，人工智能將通過自動檢測有針對性的網(wǎng)絡(luò)釣魚嘗試來幫助保護(hù)用戶。

2024年推出的計算機(jī)也將帶來安全優(yōu)勢，讓用戶可以在設(shè)備上安全地使用AI，而無需承擔(dān)將數(shù)據(jù)存儲在云端的風(fēng)險。這些設(shè)備還將通過自動鎖定和隱私屏幕等功能增強(qiáng)數(shù)據(jù)隱私。

然而，要有效使用人工智能，企業(yè)應(yīng)該首先考慮安全性。這意味著了解數(shù)據(jù)和環(huán)境，建立威脅模型以了解風(fēng)險，選擇預(yù)防和檢測技術(shù)的平衡，并實施零信任原則以確保數(shù)據(jù)安全。最后，組織應(yīng)考慮與值得信賴的人工智能安全提供商合作，以充分利用人工智能，同時最大限度地降低其安全和隱私風(fēng)險。