人工智能技術(shù)還是以美國為第一梯隊(duì)，美國越是防備什么，我們可以理解美國就在做什么，所以美國在防備人工智能虛假信息和錯(cuò)誤信息過程中，大張旗鼓不遺余力里的樣子，我們不難想象美國在這塊已經(jīng)制造了大量的虛假信息。那么，我們看看美國有關(guān)媒體對(duì)這塊的探討。

隨著最近的美國總統(tǒng)行政命令以及在英國布萊奇利公園舉行的人工智能安全峰會(huì)，人工智能的發(fā)展繼續(xù)成為世界各地的頭條新聞。

人工智能最近的快速崛起在許多積極方面繼續(xù)改變游戲規(guī)則，盡管我們?nèi)蕴幱谄錆摿Φ倪吘墶Ｒ郧半y以想象的新型醫(yī)療、更安全、更清潔和更一體化的公共交通、更快速和準(zhǔn)確的診斷以及環(huán)境突破都在當(dāng)今人工智能的可信承諾之內(nèi)。然而，在這場革命中，陰影籠罩著。

頭部國家都毫不掩飾他們“贏得人工智能競賽”的愿望，目前和承諾的人工智能研發(fā)投資從數(shù)億到數(shù)十億美元不等。當(dāng)被問及人工智能領(lǐng)域的主要參與者時(shí)，OpenAI、IBM 和蘋果等公司可能是最受關(guān)注的公司，但我們不應(yīng)該忘記，每個(gè)亞馬遜都有一個(gè)阿里巴巴，每個(gè)微軟都有一個(gè)百度，每個(gè)谷歌都有一個(gè) Yandex。國家、活動(dòng)人士和高級(jí)威脅行為者不可避免地會(huì)利用人工智能的力量來加強(qiáng)虛假信息活動(dòng)。

人工智能的發(fā)展為在線傳播錯(cuò)誤和虛假信息的創(chuàng)新方法鋪平了道路。從制造虛假網(wǎng)絡(luò)攻擊和破壞事件響應(yīng)計(jì)劃，到操縱用于自動(dòng)化的數(shù)據(jù)湖，人工智能驅(qū)動(dòng)的虛假信息活動(dòng)可能會(huì)暴露或?qū)σ呀⒌陌踩到y(tǒng)和流程造成嚴(yán)重破壞。想象一下，虛假內(nèi)容的數(shù)量和質(zhì)量呈指數(shù)級(jí)增長，人工智能驅(qū)動(dòng)的數(shù)字角色大軍的創(chuàng)建和自動(dòng)化，充滿了豐富而無辜的背景故事來傳播和放大它，以及預(yù)測分析來識(shí)別最有效的情感杠桿點(diǎn)利用來制造混亂和恐慌。

這一趨勢(shì)對(duì)網(wǎng)絡(luò)安全從業(yè)者構(gòu)成了重大威脅，要求安全團(tuán)隊(duì)?wèi)?yīng)對(duì)利用人工智能欺騙、操縱和制造混亂的新興技術(shù)。后真相社會(huì)需要一種后信任的方式來對(duì)待真相。

人工智能驅(qū)動(dòng)的虛假信息技術(shù)的影響是多方面的，包括：

破壞事件響應(yīng)計(jì)劃：通過制造虛假的外部事件或模擬網(wǎng)絡(luò)攻擊，使用人工智能的威脅行為者可能會(huì)誤導(dǎo)安全團(tuán)隊(duì)，導(dǎo)致資源分配不當(dāng)、響應(yīng)程序混亂，并暴露或損害事件緩解策略的有效性。

操縱數(shù)據(jù)以獲取錯(cuò)誤信息：可以利用人工智能來篡改用于自動(dòng)化的數(shù)據(jù)湖。通過注入虛假數(shù)據(jù)、生成大量有毒數(shù)據(jù)或操縱現(xiàn)有信息，威脅行為者可能會(huì)損害數(shù)據(jù)驅(qū)動(dòng)決策過程的完整性和可靠性，從而導(dǎo)致錯(cuò)誤的結(jié)論或錯(cuò)誤的自動(dòng)化。如果偽造的數(shù)據(jù)滲透到這些系統(tǒng)中，可能會(huì)破壞自動(dòng)化流程的可靠性和完整性，從而導(dǎo)致災(zāi)難性的結(jié)果。

信任和信心的侵蝕：人工智能驅(qū)動(dòng)的虛假信息的傳播侵蝕了對(duì)信息系統(tǒng)的信任，并削弱了對(duì)數(shù)據(jù)和安全措施準(zhǔn)確性的信心。這可能會(huì)產(chǎn)生深遠(yuǎn)的后果，不僅影響技術(shù)系統(tǒng)，還會(huì)破壞公眾對(duì)機(jī)構(gòu)、公司和整體網(wǎng)絡(luò)安全基礎(chǔ)設(shè)施的信任。

安全團(tuán)隊(duì)在打擊這些人工智能驅(qū)動(dòng)的虛假信息活動(dòng)時(shí)面臨著巨大的挑戰(zhàn)，而人工智能工具的復(fù)雜性也構(gòu)成了重大障礙。人工智能技術(shù)的進(jìn)步使威脅行為者能夠創(chuàng)建高度復(fù)雜且真實(shí)的虛假信息活動(dòng)，這使得安全系統(tǒng)難以區(qū)分真實(shí)信息和捏造信息。這就像大海撈針一樣，人工智能技術(shù)發(fā)展的速度加劇了這種情況。隨著人工智能技術(shù)的快速發(fā)展，安全團(tuán)隊(duì)需要迅速適應(yīng)不斷變化的環(huán)境，需要不斷學(xué)習(xí)、開發(fā)新的防御機(jī)制，并及時(shí)了解最新的人工智能驅(qū)動(dòng)的威脅。

目前，人工智能缺乏全面的監(jiān)管框架和標(biāo)準(zhǔn)化實(shí)踐，特別是在網(wǎng)絡(luò)安全方面，這留下了空白，使得很難減少人工智能在虛假信息活動(dòng)中的濫用。

為了應(yīng)對(duì)這些威脅，安全團(tuán)隊(duì)必須采取日益創(chuàng)新的策略。人工智能驅(qū)動(dòng)的防御機(jī)制，例如采用能夠識(shí)別和消除人工智能生成的惡意內(nèi)容的機(jī)器學(xué)習(xí)算法，是至關(guān)重要的。人工智能工具可以攝取并理解表征整個(gè)組織的大量不同數(shù)據(jù)，建立合理的基線并對(duì)潛在的操縱發(fā)出警報(bào)。人工智能或許為構(gòu)建能夠在如此規(guī)模下運(yùn)行的有效數(shù)據(jù)完整性模型提供了最佳機(jī)會(huì)。同樣，人工智能可以充當(dāng)外部哨兵，監(jiān)控新生內(nèi)容、活動(dòng)或情緒，并推斷出對(duì)您的業(yè)務(wù)可能或潛在的威脅。

考慮防御如何從人工智能驅(qū)動(dòng)的數(shù)據(jù)收集、聚合和挖掘功能中受益。正如潛在的攻擊者從偵察開始一樣，防御者也可以這樣做。對(duì)組織和行業(yè)周圍信息空間的持續(xù)監(jiān)控可以作為高效的預(yù)警系統(tǒng)。

教育和意識(shí)也發(fā)揮著關(guān)鍵作用。通過不斷對(duì)安全專業(yè)人員進(jìn)行有關(guān)最新人工智能驅(qū)動(dòng)威脅的培訓(xùn)和更新，他們可以更好地適應(yīng)不斷變化的挑戰(zhàn)。網(wǎng)絡(luò)安全社區(qū)內(nèi)部的協(xié)作在這里至關(guān)重要——分享見解和威脅情報(bào)可以建立統(tǒng)一戰(zhàn)線來對(duì)抗這些不斷適應(yīng)的對(duì)手，而培養(yǎng)批判性思維技能使安全團(tuán)隊(duì)能夠更有效地識(shí)別和阻止虛假信息活動(dòng)。

保持持續(xù)的警惕和適應(yīng)能力是應(yīng)對(duì)這些威脅的另一個(gè)關(guān)鍵。從過去的事件（例如通過社交媒體錯(cuò)誤信息活動(dòng)操縱公眾輿論）中汲取教訓(xùn)，強(qiáng)調(diào)需要采取靈活的方法，不斷更新協(xié)議以有效應(yīng)對(duì)新出現(xiàn)的威脅。虛假信息的有效性部分來自于其“震撼因素”。假新聞可能如此嚴(yán)重，而且危險(xiǎn)似乎如此迫在眉睫，以至于人們可能會(huì)以不太協(xié)調(diào)的方式做出反應(yīng)，除非他們提前做好準(zhǔn)備。在這種情況下，對(duì)您的企業(yè)最有可能受到打擊的虛假信息類型進(jìn)行一些“預(yù)先掩飾”會(huì)非常有幫助。這將幫助您的員工為某些異常情況做好心理準(zhǔn)備，并更好地準(zhǔn)備采取適當(dāng)?shù)暮罄m(xù)措施。

安全領(lǐng)導(dǎo)者應(yīng)在 IT、OT、PR、營銷和其他內(nèi)部團(tuán)隊(duì)之間發(fā)起對(duì)話，以確保他們知道在發(fā)現(xiàn)虛假信息時(shí)如何有效協(xié)作。一個(gè)簡單的例子就是將虛假信息練習(xí)納入桌面討論或定期團(tuán)隊(duì)培訓(xùn)中。

人工智能在提供看似無限的可能性的同時(shí)，也讓我們面臨新的漏洞。人工智能驅(qū)動(dòng)的虛假信息的興起對(duì)社會(huì)辨別事實(shí)與虛構(gòu)的能力提出了巨大的挑戰(zhàn)。反擊需要采取全面的方法。通過采用將技術(shù)進(jìn)步與批判性思維技能、協(xié)作和持續(xù)學(xué)習(xí)文化相結(jié)合的戰(zhàn)略，組織可以更有效地防范其破壞性影響。