雖然俄羅斯的虛假信息似乎影響有限，但這個令人震驚的例子說明了深度造假的潛在后果。

然而，深度偽造已成功用于輔助技術。例如，患有帕金森病的人可以使用語音克隆進行交流。

深度偽造用于教育：總部位于愛爾蘭的語音合成公司CereProc為約翰·F·肯尼迪創(chuàng)造了一種合成語音，讓他起死回生，發(fā)表他的歷史演講。

然而，每一枚硬幣都有兩個面。深度偽造可以是超逼真的，并且基本上無法被人眼察覺。

因此，相同的語音克隆技術可用于網絡釣魚、誹謗和勒索。當故意使用深度偽造來重塑輿論、煽動社會沖突和操縱選舉時，它們有可能破壞民主。

華盛頓大學的研究人員制作了一個深度偽造的奧巴馬。

造成混亂

深度偽造基于一種稱為生成對抗網絡的技術，其中兩種算法相互訓練以生成圖像。

雖然深度造假背后的技術聽起來很復雜，但制作一個卻是一件簡單的事情。有許多在線應用程序，例如Faceswap和ZAO Deepswap，可以在幾分鐘內產生深度偽造。

Google Colaboratory:一個以多種編程語言提供代碼的在線存儲庫-包括可用于生成假圖像和視頻的代碼示例。使用這種易于訪問的軟件，很容易看出普通用戶如何在沒有意識到潛在安全風險的情況下對深度偽造深度偽造造成嚴重破壞。

換臉應用程序和Deep Nostalgia等在線服務的流行表明，普通大眾可以迅速廣泛地采用深度偽造深度偽造。2019年，檢測到大約15000個使用深度偽造的視頻。而且這個數字預計還會增加。

深度偽造是虛假宣傳活動的完美工具，因為它們會產生可信的假新聞，需要時間來揭穿。與此同時，深度造假所造成的損害——尤其是那些影響人們聲譽的——往往是持久且不可逆轉的。

對于想要以最少的努力創(chuàng)建令人信服的深度偽造的人來說，DeepSwap深度偽造是一個不錯的選擇。—科技雜志深度偽造(@TechMGZN)深度偽造2022年5月4日

眼見為實?

深度造假最危險的后果可能是它們如何讓自己在政治運動中傳播虛假信息。

當唐納德特朗普將任何令人不快的媒體報道稱為“假新聞”時，我們就看到了這一點。通過指責他的批評者傳播假新聞，特朗普能夠利用錯誤信息來捍衛(wèi)他的不法行為并作為宣傳工具。

特朗普的策略使他能夠在充滿不信任和虛假信息的環(huán)境中保持支持，聲稱“真實事件和故事是假新聞或深度偽造”。

當局和媒體的公信力正在被削弱，造成不信任的氣氛。隨著深度偽造的不斷增加，政客們可以輕松地否認任何新出現的丑聞的罪責。如果有人否認，如何確認視頻中某人的身份?

然而，打擊虛假信息一直是民主國家面臨的挑戰(zhàn)，因為它們試圖維護言論自由。通過讓人們驗證信息，人與人工智能的伙伴關系可以幫助應對日益上升的深度偽造風險。還可以考慮引入新的立法或適用現有法律，以懲罰偽造信息和冒充他人的深度造假者。

國際和國家政府、私營公司和其他組織的多學科方法對于保護民主社會免受虛假信息的侵害都至關重要。

文章由麥吉爾大學信息研究系研究助理Sze-Fung Lee和麥吉爾大學網絡安全數據挖掘教授兼加拿大研究主席Benjamin CM Fung撰寫