自然語言處理和高級翻譯功能使生成式AI成為黑客的寶貴工具。不過,人工智能生成的網(wǎng)絡(luò)釣魚電子郵件可能并不比人類生成的詐騙內(nèi)容更危險。用戶和安全專家應(yīng)該如何了解人工智能在網(wǎng)絡(luò)釣魚和網(wǎng)絡(luò)攻擊中的作用?
AI是如何寫釣魚郵件的
從2021年到2022年,報告的網(wǎng)絡(luò)釣魚內(nèi)容增加了61%。從惡意URL到電子郵件詐騙,網(wǎng)絡(luò)釣魚每年都變得越來越普遍。人工智能是黑客用來推進網(wǎng)絡(luò)釣魚活動的最新工具。雖然AI的自然語言處理是有益的,但黑客可以利用它來創(chuàng)建更有效的網(wǎng)絡(luò)釣魚內(nèi)容。
ChatGPT等人工智能即服務(wù)平臺的可用性使任何人都可以比以往更輕松地生成內(nèi)容。黑客可以向大型語言模型AI展示數(shù)千個合法電子郵件示例,然后要求它根據(jù)這些創(chuàng)建原始電子郵件。自然語言處理(NLP)允許AI理解和重建逼真的書面內(nèi)容——這是網(wǎng)絡(luò)釣魚攻擊的完美工具。
理想情況下,AI會生成模仿人類編寫的電子郵件的原始電子郵件。黑客可以要求它自定義消息以包含有關(guān)特定公司、個人或地點的詳細信息。人工智能甚至可以將信息翻譯成另一種語言。黑客可以在短時間內(nèi)有效地創(chuàng)建完全原創(chuàng)的、個性化的網(wǎng)絡(luò)釣魚電子郵件,從而使他們能夠避免在多個目標(biāo)中重復(fù)使用一封惡意電子郵件。
人工智能生成的釣魚郵件有效嗎?
AI支持的網(wǎng)絡(luò)釣魚的可能性聽起來令人生畏,但它們是否比人工創(chuàng)建的網(wǎng)絡(luò)釣魚內(nèi)容更危險?人工智能生成的網(wǎng)絡(luò)釣魚電子郵件的優(yōu)勢主要歸結(jié)為黑客更高效的工作流程。
早期研究表明,人工智能生成的網(wǎng)絡(luò)釣魚電子郵件與人工生成的網(wǎng)絡(luò)釣魚電子郵件同樣具有說服力。黑客對AI即服務(wù)平臺的訪問也受到限制。大多數(shù)大型開發(fā)商——包括OpenAI——都有防止非法人工智能模型應(yīng)用的保障措施。
人工智能對網(wǎng)絡(luò)釣魚黑客的主要優(yōu)勢是效率和語言。使用AI生成詐騙郵件比手動寫出來的速度更快,允許黑客創(chuàng)建更多種類的釣魚郵件。此外,由于具有NLP功能的易于訪問的AI翻譯工具,他們可以將目標(biāo)對準(zhǔn)世界任何地方的受害者。
因此,人工智能生成的網(wǎng)絡(luò)釣魚電子郵件增加了網(wǎng)絡(luò)釣魚攻擊的風(fēng)險,但不一定比人工生成的內(nèi)容更有說服力。
如何抵御AI生成的網(wǎng)絡(luò)釣魚
人工智能是黑客的有用工具,但并非萬無一失。隨著網(wǎng)絡(luò)釣魚攻擊變得越來越聰明,安全技術(shù)和用戶也可以改進他們的防御策略。用戶應(yīng)該首先及時了解網(wǎng)絡(luò)釣魚內(nèi)容的危險信號,因為即使是AI生成的電子郵件,這些危險信號也將保持相關(guān)性。
雖然一目了然地檢測網(wǎng)絡(luò)釣魚電子郵件可能會變得更加困難,但某些安全措施可以最大限度地減少或消除網(wǎng)絡(luò)釣魚造成損害的可能性。此外,新的檢測技術(shù)可以捕獲人工智能和人工編寫的惡意電子郵件。
切換到云存儲
更改為云存儲是將網(wǎng)絡(luò)釣魚電子郵件和網(wǎng)絡(luò)攻擊的威脅降到最低的好方法。傳統(tǒng)數(shù)據(jù)存儲的孤立性使其極易受到黑客的利用。黑客需要做的就是控制一個硬盤驅(qū)動器或服務(wù)器,他們可以劫持某人的所有數(shù)據(jù)。
云存儲避開了這種威脅。由于數(shù)據(jù)與任何特定設(shè)備無關(guān),因此黑客刪??除或損壞任何信息的難度要大得多?;谠频木W(wǎng)絡(luò)安全還可以提高抵御黑客攻擊的能力。
例如,用戶可以實施自動漏洞掃描以發(fā)現(xiàn)其云安全中的弱點。這對于防止黑客使用后門或竊取的憑據(jù)訪問云中的數(shù)據(jù)非常有用。即使他們這樣做了,他們也很難完全控制任何數(shù)據(jù),因為云存儲非常分散。
創(chuàng)建一個DIY驗證系統(tǒng)
一種有助于阻止任何類型的網(wǎng)絡(luò)釣魚消息的DIY解決方案是在受信任的通信者之間建立代碼系統(tǒng)。這可能包括家人、朋友和同事等人。每當(dāng)群組中的人互相發(fā)送電子郵件時,他們都可以編寫一個特定的代碼短語來驗證消息是否確實來自他們。
這個代碼系統(tǒng)不需要太復(fù)雜。這個想法只是在電子郵件中添加一個黑客或AI事先無法可靠知道的因素。讓代碼短語變得不尋常,這樣它就不太可能在AI的培訓(xùn)電子郵件中常見。
例如,該代碼可以是幻影定居點的名稱,例如“紐約安格洛”。幽靈定居點不太可能經(jīng)常出現(xiàn)在電子郵件中,因為它們是虛構(gòu)的地方,只是出于版權(quán)目的添加到地圖上。
使用AI網(wǎng)絡(luò)釣魚檢測
黑客并不是唯一使用AI來創(chuàng)新其方法的人。用戶和安全專家可以利用人工智能模型來檢測網(wǎng)絡(luò)釣魚內(nèi)容,無論是人類還是人工智能編寫的。
例如,開發(fā)人員可以使用機器學(xué)習(xí)來監(jiān)控和跟蹤合法電子郵件通訊員的自然通信模式。如果人工智能能夠快速學(xué)習(xí)個人獨特的溝通方式,它就能識別出不匹配的假電子郵件。無論電子郵件是人類還是AI撰寫的,這都適用。
人工智能驅(qū)動的網(wǎng)絡(luò)釣魚的最大優(yōu)勢之一也是一個主要缺陷。黑客可以使用AI高效地創(chuàng)建可信的虛假電子郵件,但這些電子郵件的通信方式無法有效地個性化。黑客通常沒有技術(shù)專長或資源來訓(xùn)練AI準(zhǔn)確復(fù)制特定人的寫作風(fēng)格。網(wǎng)絡(luò)釣魚檢測AI模型可以利用這一弱點來保護用戶。
了解人工智能網(wǎng)絡(luò)釣魚的風(fēng)險
在創(chuàng)建網(wǎng)絡(luò)釣魚電子郵件時,人工智能可以成為黑客的寶貴工具。然而,人工智能生成的電子郵件并不一定比人類生成的網(wǎng)絡(luò)釣魚內(nèi)容更有說服力。網(wǎng)絡(luò)釣魚的主要危險信號——例如緊急行動呼吁——無論是誰或什么創(chuàng)建了網(wǎng)絡(luò)釣魚電子郵件,都仍然具有相關(guān)性。用戶和安全專家可以采用創(chuàng)新的技術(shù)和技術(shù)來保護他們的數(shù)據(jù)免受AI支持的網(wǎng)絡(luò)釣魚活動的侵害。