8月10日消息，網(wǎng)絡(luò)安全公司SlashNext發(fā)現(xiàn)的一系列證據(jù)顯示，網(wǎng)絡(luò)上出現(xiàn)不少出于非法目的開發(fā)的人工智能聊天機(jī)器人。它們正在讓網(wǎng)絡(luò)犯罪變得更容易、更頻繁。

人工智能聊天機(jī)器人ChatGPT帶來的負(fù)面影響或許就是文章抄襲，但一些非法聊天機(jī)器人的做法要壞得多。

網(wǎng)絡(luò)上開始出現(xiàn)不少出于不法目的開發(fā)的聊天機(jī)器人。就像ChatGPT一樣，人們只需支付少量的月費(fèi)或一次性費(fèi)用就可以獲得訪問權(quán)限。

從技術(shù)層面講，這些語言學(xué)習(xí)模型實(shí)際上是為網(wǎng)絡(luò)騙子提供的工具箱。

網(wǎng)絡(luò)安全公司SlashNext表示，一些聊天機(jī)器人都有可能通過非常有可信度的圖像制造網(wǎng)絡(luò)釣魚騙局和虛假短消息。

SlashNext發(fā)現(xiàn)的一系列證據(jù)表明，有聊天機(jī)器人以每個(gè)3美元的價(jià)格向冒充學(xué)術(shù)機(jī)構(gòu)的騙子非法出售“.edu”后綴的電子郵件地址。網(wǎng)絡(luò)騙子常常用這些電子郵件地址非法獲取亞馬遜等電商平臺上的學(xué)生交易和折扣服務(wù)。

另一種通過非法聊天機(jī)器人實(shí)施的詐騙方式是，騙子通過偽裝成銀行等受信任實(shí)體來索取用戶的銀行信息。

市場咨詢公司AI Leaders人工智能策略師麗莎·帕爾默（Lisa Palmer）警告稱，這類騙局并不是什么新鮮事。但因?yàn)槿斯ぶ悄艿拇嬖?，讓騙子搞詐騙比以往任何時(shí)候都更方便了。

帕爾默，“這成了可以大規(guī)模個(gè)性化的犯罪活動(dòng)。騙子可以為成千上萬的目標(biāo)受害者創(chuàng)建高度個(gè)性化的活動(dòng)，而不再是一次創(chuàng)建一個(gè)。”她補(bǔ)充說，現(xiàn)在很容易制作深度偽造的欺詐性音視頻內(nèi)容。

此外，這些攻擊不只是給老年人和不太懂技術(shù)的人構(gòu)成威脅。

帕爾默說：“由于這類模型都是通過大量公開數(shù)據(jù)進(jìn)行訓(xùn)練的，它們可以用來尋找有關(guān)特定組織的模式和信息。”“它可能會(huì)收集有關(guān)特定企業(yè)的信息，后續(xù)要求贖金或攻擊企業(yè)名聲。”

帕爾默還表示：“想想身份盜用之類的事情。這些人工智能還能夠出于身份盜用的目的發(fā)動(dòng)網(wǎng)絡(luò)攻擊。”“它們在很大程度上是高度個(gè)性化的，可能會(huì)讓犯罪手段更專業(yè)。”

對那些非法使用人工智能的不法分子伸張正義也并非易事。

帕爾默說：“對于那些復(fù)雜的組織來說，要抓住他們是非常困難的。”“另一方面，也有一些新的不法分子會(huì)因?yàn)檎Z言模型的出現(xiàn)從事犯罪活動(dòng)，因?yàn)檫@種技術(shù)使沒有高科技技能的人更容易進(jìn)入非法行業(yè)。”