今年ChatGPT火爆全網(wǎng)，近年來AI人工智能取得了長(zhǎng)足的進(jìn)步，給各行各業(yè)帶來了革命性的變化。然而，與任何技術(shù)一樣，總是有人試圖利用它來達(dá)到惡意目的。如今，黑客正在使用一種名為WormGPT的人工智能工具進(jìn)行釣魚和BEC郵件攻擊。該工具基于OpenAI的ChatGPT,專為惡意網(wǎng)絡(luò)攻擊而設(shè)計(jì)，對(duì)企業(yè)的郵件安全構(gòu)成重大威脅。

WormGPT簡(jiǎn)介

近年來，AI人工智能取得了長(zhǎng)足的進(jìn)步，給各行各業(yè)帶來了革命性的變化。然而，與任何技術(shù)一樣，總是有人試圖利用它來達(dá)到惡意目的。如今，黑客正在使用一種名為WormGPT的人工智能工具進(jìn)行釣魚和BEC郵件攻擊。該工具基于OpenAI的ChatGPT,專為惡意網(wǎng)絡(luò)攻擊而設(shè)計(jì)，對(duì)企業(yè)的郵件安全構(gòu)成重大威脅。

WormGPT基于復(fù)雜的生成式人工智能大模型，可以生成類似于人類創(chuàng)作的文本。與此同時(shí)，它學(xué)習(xí)了郵件安全檢測(cè)的相關(guān)數(shù)據(jù)。這使得WormGPT創(chuàng)建的電子郵件不僅非常具有說服力，而且在躲避郵件安全檢測(cè)上也很狡猾，顯示出它在釣魚和BEC郵件攻擊方面的黑色潛力。

嘗試WormGPT

研究團(tuán)隊(duì)最近通過一個(gè)與網(wǎng)絡(luò)犯罪經(jīng)常相關(guān)的知名在線論壇獲得了WormGPT。在論壇上，這個(gè)工具宣稱自己是GPT模型的黑客版本，專門用于惡意活動(dòng)。

圖1.黑客論壇里提供的WormGPT工具

網(wǎng)頁(yè)介紹宣稱WormGPT的開發(fā)始于2021年，是基于GPTJ語(yǔ)言模型開發(fā)的人工智能模塊。它擁有多種功能，包括創(chuàng)建惡意代碼、無(wú)限字符支持、聊天記憶保留以及代碼格式化能力等。根據(jù)介紹，WormGPT基于各種數(shù)據(jù)源進(jìn)行訓(xùn)練，特別是側(cè)重于學(xué)習(xí)與惡意軟件相關(guān)的數(shù)據(jù)。然而，訓(xùn)練過程中使用的具體數(shù)據(jù)集并沒有公開，而是被作者保密。

圖2.WormGPT工具的介紹

研究團(tuán)隊(duì)利用WormGPT進(jìn)行了BEC攻擊的測(cè)試，以全面評(píng)估與WormGPT相關(guān)的潛在危險(xiǎn)。在其中一個(gè)實(shí)驗(yàn)中，團(tuán)隊(duì)指示W(wǎng)ormGPT生成一封旨在迫使一個(gè)毫不知情的客戶經(jīng)理支付一份欺詐性發(fā)票的電子郵件。結(jié)果令人不安。WormGPT生成的電子郵件不僅極具說服力，而且使用了非常狡猾的語(yǔ)言，展示了其在釣魚和BEC郵件攻擊方面的潛力。

圖3.WormGPT創(chuàng)建BEC郵件

WormGPT的危害

整體來看，WormGPT和大多數(shù)AI大模型一樣，沒有倫理邊界或限制。這個(gè)實(shí)驗(yàn)展示了像WormGPT這樣的生成式人工智能技術(shù)對(duì)釣魚和BEC郵件攻擊行為有很大幫助，即使一個(gè)從未接觸郵件攻擊，并且不懂任何外語(yǔ)的人，也能隨時(shí)構(gòu)造針對(duì)世界上任何一個(gè)企業(yè)或個(gè)人的郵件攻擊。使用生成式人工智能為郵件攻擊帶來了以下一些優(yōu)勢(shì)：

構(gòu)造極具欺騙性的郵件內(nèi)容：生成式人工智能可以創(chuàng)建內(nèi)容和語(yǔ)法無(wú)可挑剔的電子郵件，使其看起來合法，降低了被標(biāo)記為可疑的可能性。

降低攻擊的門檻：使用生成式人工智能降低了執(zhí)行復(fù)雜BEC攻擊的門檻。即使是技能有限的攻擊者也可以使用這項(xiàng)技術(shù)，使其成為可廣泛使用的黑客工具。

如何防范生成式AI的郵件攻擊

人工智能的發(fā)展雖然推動(dòng)了各個(gè)行業(yè)的進(jìn)步，但同時(shí)也帶來了新的問題。企業(yè)可以通過如下一些預(yù)防措施來防范生成式AI的郵件安全攻擊：

企業(yè)員工培訓(xùn)：企業(yè)應(yīng)該制定、開發(fā)、并定期更新相關(guān)的培訓(xùn)計(jì)劃，定期組織釣魚郵件演練，應(yīng)對(duì)BEC攻擊，尤其是那些由人工智能增強(qiáng)的攻擊。通過培訓(xùn)課程來教育員工有關(guān)釣魚和BEC郵件威脅的知識(shí)，AI如何被用于增強(qiáng)這些威脅，以及攻擊者經(jīng)常采用的策略。與此同時(shí)，應(yīng)定期進(jìn)行釣魚郵件演練，測(cè)試員工的安全意識(shí)；

定期檢查安全防護(hù)設(shè)備：確保郵件安全網(wǎng)關(guān)、郵件安全沙箱等郵件安全防護(hù)設(shè)備的策略配置正確且生效，并確保郵件安全網(wǎng)關(guān)、郵件安全沙箱等設(shè)備的防護(hù)庫(kù)已升級(jí)到最新版本；

驗(yàn)證發(fā)件人身份：在回復(fù)或提供任何敏感信息之前，細(xì)心驗(yàn)證發(fā)件人的身份。確保郵件地址和發(fā)件人姓名與正式機(jī)構(gòu)或公司的信息相符；

鼓勵(lì)員工報(bào)告可疑郵件：如果員收到可疑的釣魚郵件，應(yīng)及時(shí)將其報(bào)告給您的組織或相關(guān)機(jī)構(gòu)，以幫助企業(yè)采取適當(dāng)?shù)男袆?dòng)保護(hù)其他員工；

警惕緊急情況：釣魚郵件常常試圖制造緊急情況，以迫使受害者匆忙采取行動(dòng)。要保持冷靜，不要受到威脅或誘惑；

防止個(gè)人和郵件信息泄露：盡量不要在公開的論壇、社交媒體或不受信任的網(wǎng)站上泄露個(gè)人和郵件信息。攻擊者可能會(huì)利用這些信息來制作更具針對(duì)性的釣魚郵件；

定期備份數(shù)據(jù)：通過郵件歸檔產(chǎn)品定期備份您的重要數(shù)據(jù)，并將備份存儲(chǔ)在安全的地方。這樣，即使您受到釣魚郵件攻擊，并造成了數(shù)據(jù)損壞的情況下，您仍然可以恢復(fù)您的數(shù)據(jù)

驗(yàn)證財(cái)務(wù)交易：如果收到涉及財(cái)務(wù)交易的電子郵件，避免通過郵件直接響應(yīng)。相反，通過銀行官方網(wǎng)站、銀行柜臺(tái)、財(cái)務(wù)部同事等安全渠道來驗(yàn)證交易