2023年人工智能安全峰會(huì)（AI Safety Summit）將于11月1日和2日在英國(guó)標(biāo)志性的布萊切利公園舉行。一些世界領(lǐng)先的科技公司、人工智能專家、政府官員和民間社會(huì)團(tuán)體將參加此次峰會(huì)。峰會(huì)的主要議程是強(qiáng)調(diào)人工智能的風(fēng)險(xiǎn)，重點(diǎn)關(guān)注人工智能前沿，并討論如何通過國(guó)際協(xié)調(diào)行動(dòng)減輕這些風(fēng)險(xiǎn)。

前沿模型是高度先進(jìn)的人工智能基礎(chǔ)模型，在推動(dòng)創(chuàng)新、經(jīng)濟(jì)增長(zhǎng)和科學(xué)進(jìn)步方面具有巨大潛力。不幸的是，前沿模型也具有高度危險(xiǎn)的能力。濫用或事故，基礎(chǔ)模型可能在全球范圍內(nèi)造成重大傷害和破壞。

了解前沿人工智能帶來的風(fēng)險(xiǎn)是2023年人工智能安全峰會(huì)的一個(gè)關(guān)鍵目標(biāo)。目標(biāo)是讓世界領(lǐng)先的人工智能技術(shù)專家召開會(huì)議，討論人工智能安全國(guó)際合作的方法和戰(zhàn)略。峰會(huì)的另一個(gè)關(guān)鍵目標(biāo)是展示人工智能的安全發(fā)展將如何幫助人工智能在全球范圍內(nèi)得到良好利用。這將有助于促進(jìn)人工智能技術(shù)的創(chuàng)新和發(fā)展。

里希·蘇納克警告人工智能危險(xiǎn)

英國(guó)首相里希·蘇納克（Rishi Sunak）在2023年人工智能安全峰會(huì)前表示，各國(guó)政府必須意識(shí)到，他們有能力應(yīng)對(duì)人工智能帶來的風(fēng)險(xiǎn)。蘇納克強(qiáng)調(diào)，人工智能造成的風(fēng)險(xiǎn)包括制造大規(guī)模殺傷性武器、傳播錯(cuò)誤信息和宣傳，甚至逃離人類控制的能力。他還宣布，英國(guó)將成立一個(gè)人工智能安全研究所，以更好地了解不同的人工智能模型，以及如何減輕人工智能帶來的風(fēng)險(xiǎn)。

蘇納克將人工智能技術(shù)的快速進(jìn)步比作工業(yè)革命（事實(shí)上第四次工業(yè)革命的核心基礎(chǔ)就是人工智能），并警告稱，如果不采取政府層面的行動(dòng)，人工智能技術(shù)可能會(huì)使網(wǎng)絡(luò)攻擊“更快、更有效、更大規(guī)模”。他還強(qiáng)調(diào)，濫用人工智能可能會(huì)導(dǎo)致“信任信息的侵蝕”。

根據(jù)蘇納克的說法，deepfakes（深度偽裝）和超現(xiàn)實(shí)機(jī)器人可以被用來操縱金融市場(chǎng)，傳播假新聞，甚至破壞刑事司法系統(tǒng)。蘇納克認(rèn)為，人工智能可能會(huì)取代人類工人，從而擾亂勞動(dòng)力市場(chǎng)，并建議對(duì)從人工智能取代工人中獲利的企業(yè)征收“機(jī)器人稅”。

此次峰會(huì)將接待來自全球各地的關(guān)鍵人物，包括谷歌DeepMind首席執(zhí)行官德米斯·哈薩比斯（Demis Hassabis）、美國(guó)副總統(tǒng)卡瑪拉·哈里斯（Kamala Harris）和七國(guó)集團(tuán)其他經(jīng)濟(jì)體領(lǐng)導(dǎo)人，我國(guó)也已被邀請(qǐng)參加峰會(huì)。

牛津人工智能專家有異議

牛津大學(xué)牛津互聯(lián)網(wǎng)研究所副教授兼研究主任Brent Mittelstadt不同意蘇納克的某些觀點(diǎn)——英國(guó)不應(yīng)該因?yàn)閷?duì)人工智能缺乏適當(dāng)?shù)牧私舛庇诒O(jiān)管人工智能。Mittelstadt認(rèn)為，人工智能技術(shù)已經(jīng)完成了一系列令人難以置信的研究，足以開始監(jiān)管該行業(yè)。

Mittelstadt表示，不采取積極主動(dòng)的監(jiān)管方式將是一個(gè)錯(cuò)誤，這將使私營(yíng)部門和技術(shù)發(fā)展決定監(jiān)管何時(shí)開始以及未來如何監(jiān)管。政府應(yīng)該負(fù)責(zé)決定何時(shí)以及如何監(jiān)管該行業(yè)。

牛津大學(xué)哲學(xué)學(xué)院和人工智能倫理研究所副教授Carissa Veliz也對(duì)蘇納克關(guān)于人工智能技術(shù)的言論感到擔(dān)憂。Veliz表示，科技高管不是就如何監(jiān)管人工智能向政府提供建議的合適人選，蘇納克的觀點(diǎn)聽起來與大型科技公司的觀點(diǎn)相似。牛津大學(xué)的其他幾位人工智能專家也有類似的擔(dān)憂，并敦促英國(guó)政府不要推遲對(duì)人工智能行業(yè)的監(jiān)管。