這項(xiàng)研究圍繞著一個(gè)核心實(shí)驗(yàn)展開(kāi)，讓人工智能與經(jīng)驗(yàn)豐富的人類工程師比拼制作網(wǎng)絡(luò)釣魚(yú)電子郵件。研究人員給OpenAI LP的ChatGPT提供了五個(gè)量身定制的問(wèn)題，引導(dǎo)人工智能開(kāi)發(fā)針對(duì)特定行業(yè)的網(wǎng)絡(luò)釣魚(yú)電子郵件。

結(jié)果引入矚目，生成式人工智能模型只需要五分鐘就能夠制作出令人信服的欺騙性網(wǎng)絡(luò)釣魚(yú)電子郵件。相比之下，作為人類社會(huì)專家的工程師們完成同樣的任務(wù)則需要花費(fèi)大概16個(gè)小時(shí)。

研究發(fā)現(xiàn)，人工智能生成的網(wǎng)絡(luò)釣魚(yú)電子郵件與人類對(duì)手生成的電子郵件幾乎同樣有效。人類工程師利用開(kāi)源智能收集信息，然后利用這些信息制作出具有個(gè)人風(fēng)格、情感智慧和真實(shí)感的電子郵件。人類創(chuàng)建的電子郵件還在郵件中加入了緊迫感，盡管具有這些優(yōu)勢(shì)，但是人工智能在測(cè)試中的表現(xiàn)仍然接近人類，這顯示出人工智能在這一領(lǐng)域的潛力。

IBM X-Force全球創(chuàng)新與交付主管Stephanie Carruthers在研究報(bào)告中寫(xiě)道，研究結(jié)果非常顯著，以至于參與者都退出了。

Carruthers解釋說(shuō)：“我有近十年的社會(huì)工程學(xué)經(jīng)驗(yàn)，制作過(guò)數(shù)百封釣魚(yú)郵件，我甚至發(fā)現(xiàn)人工智能生成的釣魚(yú)郵件相當(dāng)具有說(shuō)服力。”“事實(shí)上，最初有三家組織同意參與這個(gè)研究項(xiàng)目，有兩個(gè)組織在查看了兩種網(wǎng)絡(luò)釣魚(yú)電子郵件之后就完全退出了，因?yàn)樗麄冾A(yù)計(jì)成功率會(huì)很高。”

雖然人類在實(shí)驗(yàn)中險(xiǎn)勝，但研究指出，人工智能在網(wǎng)絡(luò)釣魚(yú)中出現(xiàn)不容小覷。具有網(wǎng)絡(luò)釣魚(yú)功能的人工智能工具出現(xiàn)在各種論壇上，這一事實(shí)充分說(shuō)明了未來(lái)的格局。

該研究提出了幾項(xiàng)建議，企業(yè)應(yīng)考慮改進(jìn)其數(shù)字防御系統(tǒng)，以應(yīng)對(duì)人工智能生成網(wǎng)絡(luò)釣魚(yú)的興起。首先是需要驗(yàn)證，尤其是當(dāng)員工遇到可疑或意外的電子郵件時(shí)。員工不應(yīng)只依賴數(shù)字證據(jù)，而應(yīng)直接致電發(fā)件人，以澄清疑慮，防止?jié)撛诘膯?wèn)題。

建議企業(yè)修改培訓(xùn)模塊。過(guò)去那種認(rèn)為主要通過(guò)語(yǔ)法錯(cuò)誤和拼寫(xiě)錯(cuò)誤就能識(shí)別網(wǎng)絡(luò)釣魚(yú)郵件的觀念，應(yīng)被更細(xì)致入微的培訓(xùn)所取代。在員工培訓(xùn)中加入 vishing（基于語(yǔ)音的網(wǎng)絡(luò)釣魚(yú)）等先進(jìn)技術(shù)，也能提供更全面的防御策略。

該研究還建議，企業(yè)應(yīng)加強(qiáng)身份和訪問(wèn)管理系統(tǒng)，包括采用防御網(wǎng)絡(luò)釣魚(yú)的多因素身份驗(yàn)證機(jī)制，增加一層安全性。

Carruthers補(bǔ)充表示：“人工智能在網(wǎng)絡(luò)釣魚(yú)攻擊中的出現(xiàn)要求我們重新評(píng)估網(wǎng)絡(luò)安全的方法。”“采納這些建議并在面對(duì)不斷變化的威脅時(shí)保持警惕，讓我們可以在當(dāng)今動(dòng)態(tài)的數(shù)字時(shí)代加強(qiáng)防御，保護(hù)我們的企業(yè)，并確保我們的數(shù)據(jù)和人員的安全。”