當(dāng)人工智能領(lǐng)導(dǎo)者們爭論什么是安全的人工智能以及這是否意味著我們正走上毀滅之路時(shí)，網(wǎng)絡(luò)安全社區(qū)仍在努力思考如何才能最好地保護(hù)我們的企業(yè)和客戶。人工智能帶來了巨大的挑戰(zhàn)和機(jī)遇、大量新應(yīng)用和快速發(fā)展的威脅。這使得網(wǎng)絡(luò)安全社區(qū)合作領(lǐng)先于不良行為者比以往任何時(shí)候都更加重要。

人工智能如何為黑客和惡意攻擊者提供力量

2022年，物理安全事件給企業(yè)造成了1萬億美元的損失，而人工智能驅(qū)動(dòng)的網(wǎng)絡(luò)攻擊繼續(xù)表現(xiàn)出更高的復(fù)雜性、速度和適應(yīng)性。雖然這使得它們更難檢測和緩解，但DarkGPT和FraudGPT等產(chǎn)品讓惡意行為者更容易造成傷害，而無需任何編碼技能。

人工智能算法可以將來自社交媒體和其他來源的大量數(shù)據(jù)轉(zhuǎn)化為高度針對性和令人信服的網(wǎng)絡(luò)釣魚攻擊或其他形式的社交工程。例如，在利用生成式人工智能的競爭中，黑客已經(jīng)利用假的ChatGPT網(wǎng)站和模仿真實(shí)網(wǎng)站的網(wǎng)絡(luò)釣魚詐騙來利用普通用戶。當(dāng)這些攻擊針對毫無戒心的員工時(shí)，它們可以提供對關(guān)鍵系統(tǒng)的未經(jīng)授權(quán)的訪問。

與此同時(shí)，為了快速進(jìn)入市場，合法的GenAI客戶在開發(fā)應(yīng)用時(shí)往往沒有將安全性作為優(yōu)先事項(xiàng)。由于Google的Gemini等產(chǎn)品容易受到攻擊，早期采用者正在使用第三方應(yīng)用程序擴(kuò)充員工隊(duì)伍，而這讓他們處于危險(xiǎn)之中，這意味著員工可能會(huì)在不知情的情況下故意泄露企業(yè)的敏感信息。

隨著網(wǎng)絡(luò)安全社區(qū)學(xué)會(huì)防御一系列人工智能攻擊，該技術(shù)只會(huì)助長不法分子的氣焰。我們的團(tuán)隊(duì)將面臨越來越高級(jí)的高級(jí)持續(xù)性威脅(APT)以及更復(fù)雜、更具有規(guī)避性的惡意軟件，這些惡意軟件能夠以更高的精度和速度滲透和操縱工業(yè)控制系統(tǒng)。

人工智能如何賦能網(wǎng)絡(luò)安全防御者

在人工智能加速發(fā)展的世界中，安全領(lǐng)導(dǎo)者面臨的挑戰(zhàn)比以往任何時(shí)候都要快。值得慶幸的是，我們擁有同樣的技術(shù)，我們可以利用人工智能解決方案來加強(qiáng)防御，并針對不良行為者發(fā)起主動(dòng)行動(dòng)。

通過將AI/ML類型的模型納入安全程序，我們的網(wǎng)絡(luò)安全團(tuán)隊(duì)可以更深入地了解我們的數(shù)據(jù)，并發(fā)現(xiàn)我們原本會(huì)忽略的風(fēng)險(xiǎn)。與自動(dòng)化相結(jié)合后，AI工具可以篩選海量數(shù)據(jù)集、比較數(shù)據(jù)集群行為，并在人類同行之前對潛在危險(xiǎn)做出反應(yīng)，從而快速將暴露的系統(tǒng)與公司的基礎(chǔ)設(shè)施隔離開來。

此外，正如惡意攻擊者使用GenAI制造更強(qiáng)大、更具欺騙性的威脅一樣，企業(yè)也可以使用該技術(shù)構(gòu)建主動(dòng)訓(xùn)練場景。在這種受控環(huán)境中，團(tuán)隊(duì)可以練習(xí)、測試和改進(jìn)防御能力，從而為應(yīng)對各種真實(shí)攻擊做好準(zhǔn)備。在日常工作中，可以實(shí)施GenAI，使CISO能夠使用自然語言詢問有關(guān)其計(jì)劃的問題，并獲得具有預(yù)測性見解的準(zhǔn)確答案。

雖然員工培訓(xùn)和教育仍然至關(guān)重要，但擊敗當(dāng)今的網(wǎng)絡(luò)犯罪分子需要強(qiáng)大且不斷發(fā)展的技術(shù)防御。

網(wǎng)絡(luò)安全高管的新角色

AI可以幫助提供早期檢測警告和更快的響應(yīng)時(shí)間，以便在該時(shí)間段內(nèi)識(shí)別違規(guī)行為。隨著職責(zé)的增加，如今的CISO不再像以前那樣身處戰(zhàn)壕。他們更有可能從更高的角度觀察他們的計(jì)劃，使他們能夠采取更全面的方法制定網(wǎng)絡(luò)防御策略，并用可操作的數(shù)據(jù)情報(bào)指導(dǎo)他們的團(tuán)隊(duì)。

對于CISO來說，擁抱AI/ML對于實(shí)現(xiàn)這種整體視角并幫助分析他們需要篩選的大量數(shù)據(jù)至關(guān)重要。

總結(jié)

隨著人工智能的能力似乎以驚人的速度增長，它不斷為雙方帶來新的可能性。為了領(lǐng)先于被賦予權(quán)力的壞人并塑造一個(gè)有彈性和適應(yīng)性的生態(tài)系統(tǒng)，網(wǎng)絡(luò)安全社區(qū)必須共同努力，發(fā)掘和擁抱風(fēng)險(xiǎn)管理和威脅防御中的可能性。