谷歌、微軟、OpenAI和Anthropic發(fā)布聯(lián)合聲明，任命美國智庫學(xué)會(huì)高管Chris Meserole為前沿模型論壇(Frontier Model Forum)首任執(zhí)行董事。并宣布設(shè)立1000萬美元的AI安全基金，“以推動(dòng)正在進(jìn)行的工具開發(fā)研究，幫助社會(huì)能夠有效地測(cè)試和評(píng)估最有能力的AI模型。”

前沿模型論壇由微軟、OpenAI、谷歌和Anthropic在今年7月聯(lián)合創(chuàng)立而成，是一個(gè)專注于確保安全和負(fù)責(zé)任地開發(fā)前沿人工智能模型的行業(yè)機(jī)構(gòu)。該論壇旨在幫助：

推動(dòng)人工智能安全研究，促進(jìn)負(fù)責(zé)任地開發(fā)前沿模型并最大限度地降低潛在風(fēng)險(xiǎn)；

確定前沿模型的安全最佳實(shí)踐；

與政策制定者、學(xué)術(shù)界、民間社會(huì)和其他方面分享知識(shí)，推動(dòng)負(fù)責(zé)任的人工智能發(fā)展；

以及大力支持開發(fā)有助于應(yīng)對(duì)社會(huì)挑戰(zhàn)的AI應(yīng)用程序。

公告指出，AI安全基金將支持來自世界各地附屬于學(xué)術(shù)機(jī)構(gòu)、研究機(jī)構(gòu)和初創(chuàng)公司的獨(dú)立研究人員。初始資金來自Anthropic、谷歌、微軟和OpenAI，以及其他慈善合作伙伴。

基金的主要重點(diǎn)將在于，支持開發(fā)新的模型評(píng)估技術(shù)，以幫助開發(fā)和測(cè)試前沿系統(tǒng)潛在危險(xiǎn)能力的評(píng)估技術(shù)。“我們相信，增加該領(lǐng)域的資金將有助于提高安全標(biāo)準(zhǔn)，并為行業(yè)、政府和民間社會(huì)應(yīng)對(duì)AI系統(tǒng)帶來的挑戰(zhàn)所需的緩解和控制提供見解。”

該基金將在未來幾個(gè)月內(nèi)征集提案。前沿模型論壇還計(jì)劃成立一個(gè)顧問委員會(huì)，以幫助指導(dǎo)其戰(zhàn)略和優(yōu)先事項(xiàng)。

1000萬美元不算小數(shù)目，但在AI安全研究的背景下以及與前沿模式論壇成員在商業(yè)活動(dòng)上的花費(fèi)相比，這一數(shù)目就“顯得相當(dāng)保守了”?？萍济襟wTechCrunch指出，僅今年一年，Anthropic就從亞馬遜籌集了數(shù)十億美元，用于開發(fā)下一代AI助手，此前谷歌也向其投資了300美元。

且與其他AI安全基金相比，該基金的規(guī)模也很小。根據(jù)博客Less Wrong的分析，由Facebook創(chuàng)始人(Dustin Moskovitz聯(lián)合創(chuàng)辦的資助和研究基金會(huì)Open Philanthropy已為AI安全捐贈(zèng)了約3.07億美元。

公益公司“The Survival and Flourishing Fund”也已向AI安全項(xiàng)目捐贈(zèng)了約3000萬美元。美國國家科學(xué)基金會(huì)表示，未來兩年將斥資2000萬美元用于AI安全研究，部分資金由Open Philanthropy資助。

“前沿模型論壇暗示下一步將成立一個(gè)規(guī)模更大的基金。如果這一目標(biāo)實(shí)現(xiàn)，它可能有機(jī)會(huì)推動(dòng)AI安全研究——前提是我們相信該基金的明確營利性支持者不會(huì)對(duì)研究施加不當(dāng)影響。但無論你如何劃分，首批資金似乎都過于有限，無法取得多大成就。”