你聽說過ENIAC計(jì)算機(jī)嗎?作為一臺(tái)重達(dá)27噸、占地1800平方英尺的龐大硬件，ENIAC在1946年開啟了計(jì)算機(jī)時(shí)代。這臺(tái)設(shè)備在規(guī)模上真正令人震驚——擁有6000個(gè)手動(dòng)開關(guān)和17468個(gè)真空管，使用200千瓦的電力——作為世界上第一臺(tái)可編程的通用電子數(shù)字計(jì)算機(jī)，它改變了游戲規(guī)則。

當(dāng)時(shí)ENIAC制造的轟動(dòng)性新聞?lì)^條，對于任何關(guān)注當(dāng)前AI領(lǐng)域發(fā)展的人來說，都會(huì)感到詭異地熟悉。

1946年4月，《流行科學(xué)月刊》大聲疾呼：“借助閃電般快速的計(jì)算機(jī)處理多年來困擾人類的難題，今天的方程式可能成為明天的火箭。”

費(fèi)城晚報(bào)報(bào)道稱：“賓夕法尼亞大學(xué)30噸重的電子大腦思考速度比愛因斯坦還快。”

快進(jìn)到75年后的今天，控制你智能冰箱的Cortex-M4芯片的速度比ENIAC快了10000倍——僅使用90微安每兆赫茲的電流和幾英寸的空間。這是因?yàn)殡S著計(jì)算技術(shù)的成熟，設(shè)備經(jīng)過專門優(yōu)化，變得在特定的、有限的、經(jīng)濟(jì)高效的應(yīng)用中更為有效和高效。

這也是AI發(fā)展的方向。

技術(shù)的專業(yè)化

就像ENIAC一樣，AI目前正在引發(fā)巨大的興奮和樂觀情緒(以及一點(diǎn)點(diǎn)焦慮)——特別是隨著GenAI在過去一年中的飛速發(fā)展。然而，如果我們想了解其長期軌跡，我們可以從計(jì)算硬件的歷史中學(xué)到很多。事實(shí)上，這是大多數(shù)技術(shù)遵循的相同路徑。事物從大、強(qiáng)大和集中開始，一旦發(fā)揮了作用，就開始專業(yè)化、本地化并變得更適用于高效的邊緣案例。

從大型電話交換板到智能手機(jī)，從大型發(fā)電廠到家用太陽能電池板，從廣播電視到流媒體服務(wù)，我們引入大型和昂貴的東西，然后開始一個(gè)漫長的精煉過程。AI也不例外。事實(shí)上，使AI成為可能的大型語言模型(LLM)已經(jīng)如此龐大，以至于它們有變得難以管理的危險(xiǎn)。解決方案將是AI技術(shù)的專業(yè)化、去中心化和民主化到特定的用例中——這就是我們所說的“邊緣AI”。

LLM：巨大的承諾(和迫在眉睫的挑戰(zhàn))

像GPT(生成式預(yù)訓(xùn)練轉(zhuǎn)換器)這樣的LLM使AI時(shí)代成為可能。這些巨型模型接受大量數(shù)據(jù)的訓(xùn)練，具有前所未有的理解、生成和與人類語言互動(dòng)的能力，這些模型模糊了機(jī)器與人類思維之間的界限。

LLM模型仍在不斷進(jìn)化，推動(dòng)著可能性的極限——這是令人難以置信的。但這并不是一張空白支票。所需的大量數(shù)據(jù)量和處理這些數(shù)據(jù)所需的計(jì)算能力使得這些系統(tǒng)的運(yùn)行成本極高，并將難以無限擴(kuò)展。LLM對數(shù)據(jù)和計(jì)算能力的需求已經(jīng)變得極其強(qiáng)烈——它們所需的成本和能源消耗很高，很快就會(huì)超過我們維持它們的資源。

按照我們當(dāng)前的速度，LLM很快就會(huì)遇到一系列內(nèi)在的限制：

可用于訓(xùn)練的高質(zhì)量數(shù)據(jù)的可用性。

為如此龐大的模型供電的環(huán)境影響。

不斷擴(kuò)展的財(cái)務(wù)可行性。

維護(hù)如此大的實(shí)體的安全性。

鑒于AI采納和擴(kuò)展的驚人速度，這一轉(zhuǎn)折點(diǎn)并不遙遠(yuǎn)。主機(jī)用了75年時(shí)間可能成為AI幾個(gè)月的事情，因?yàn)榫窒扌杂|發(fā)了向更高效、去中心化、易于獲取的AI子集轉(zhuǎn)變的需求：小眾邊緣AI模型。

邊緣AI的興起

邊緣AI的興起已經(jīng)在進(jìn)行中，我們看到AI在更小、更專業(yè)的模型中部署，特別是在物聯(lián)網(wǎng)中，這種AI方法將處理任務(wù)從集中式數(shù)據(jù)中心轉(zhuǎn)移到網(wǎng)絡(luò)的“邊緣”，更接近于數(shù)據(jù)實(shí)際生成和使用的地方。它包括一些你可能聽說過的術(shù)語：

小型語言模型：這些是理解和生成類似人類文本的AI版本，但大小較小。可以將它們視為“迷你大腦”。它們較小使得使用起來更快且成本更低，特別是在不是很強(qiáng)大的設(shè)備上，如你的智能手機(jī)或田間設(shè)備的芯片。它們對自己的責(zé)任領(lǐng)域非常了解，但可能不像它們更大的LLM兄弟姐妹那樣知識(shí)淵博或有創(chuàng)造力。這些模型得益于高度并行GPU的最新進(jìn)展——支持具有通用機(jī)器學(xué)習(xí)(ML)的更成熟的神經(jīng)網(wǎng)絡(luò)。

邊緣AI：這是一種說法，意思是AI在行動(dòng)發(fā)生的地方運(yùn)行，如你的手機(jī)、街上的攝像頭或車內(nèi)，而不是遠(yuǎn)在數(shù)據(jù)中心的大型計(jì)算機(jī)上。 “邊緣”指的是網(wǎng)絡(luò)的外邊緣，靠近數(shù)據(jù)創(chuàng)建和使用的地方。這使得處理速度更快，因?yàn)閿?shù)據(jù)不必走遠(yuǎn)路，同時(shí)也可以保護(hù)你的數(shù)據(jù)更加私密，因?yàn)椴豢偸切枰ㄟ^互聯(lián)網(wǎng)發(fā)送。

專家混合：在人工智能中，“專家混合”就像一個(gè)專家團(tuán)隊(duì)，每個(gè)成員都擅長特定的任務(wù)。這是一個(gè)由許多較小的AI單元(專家)組成的系統(tǒng)，每個(gè)單元都專注于不同類型的工作或知識(shí)領(lǐng)域。面對一個(gè)任務(wù)時(shí)，系統(tǒng)會(huì)決定哪一個(gè)專家或哪些專家的組合最適合處理這個(gè)任務(wù)。通過這種方式，AI可以非常高效地處理各種任務(wù)，因?yàn)樗偸鞘褂米钸m合該任務(wù)的工具。

這些技術(shù)共同使得AI更加多才多藝和高效，易于訓(xùn)練、運(yùn)行和部署——能夠在許多不同的地方和方式中工作，從我們家中和口袋里的微型計(jì)算機(jī)到需要專家知識(shí)的專業(yè)任務(wù)。我們之前提到的智能冰箱就是一個(gè)例子，交通燈陣列是另一個(gè)例子——自動(dòng)駕駛汽車、糖尿病管理、智能電網(wǎng)、面部識(shí)別，這個(gè)列表和人類的創(chuàng)造力一樣無窮無盡。

邊緣AI的風(fēng)險(xiǎn)和回報(bào)

與任何技術(shù)一樣，邊緣AI帶來了固有的風(fēng)險(xiǎn)和回報(bào)。讓我們快速瀏覽一下這個(gè)列表。

邊緣AI的好處

增加創(chuàng)新：通過消除開發(fā)瓶頸，邊緣AI為創(chuàng)造性的、利基的應(yīng)用和微應(yīng)用的激增打開了大門——任何有意愿和能力創(chuàng)建應(yīng)用的人都可以利用這一點(diǎn)。

減少資源和增加容量：邊緣AI減少了延遲并且具有較低的處理需求，這大大降低了成本和消耗。

增強(qiáng)的隱私和安全性：本地?cái)?shù)據(jù)處理意味著敏感信息不需要通過互聯(lián)網(wǎng)傳送，從而減少了數(shù)據(jù)泄露的風(fēng)險(xiǎn)。

可定制和獨(dú)立：邊緣AI允許使用本地、特定數(shù)據(jù)訓(xùn)練的模型，提供更準(zhǔn)確、更相關(guān)的解決方案，這些模型可以獨(dú)立且可靠地運(yùn)行。

邊緣AI的挑戰(zhàn)

質(zhì)量控制：模型的增多增加了對嚴(yán)格的質(zhì)量和驗(yàn)證過程的需求，并可能在質(zhì)量控制環(huán)節(jié)產(chǎn)生新的瓶頸。

安全與治理：更多運(yùn)行AI應(yīng)用的設(shè)備確實(shí)擴(kuò)大了安全漏洞的可能性，更多的創(chuàng)造者也可能使這些過程過載，并開啟一個(gè)“狂野西部”環(huán)境。

范圍有限和可擴(kuò)展性：邊緣AI模型設(shè)計(jì)用于特定任務(wù)，這可能限制了它們在不同場景中的擴(kuò)展或泛化能力。

需要監(jiān)督：需要領(lǐng)導(dǎo)者對所有開發(fā)活動(dòng)進(jìn)行監(jiān)督，幫助創(chuàng)造者保持在創(chuàng)意的安全范圍內(nèi)。這包括控制冗余的潛力，因?yàn)榻鉀Q方案可能會(huì)在真空中增殖和復(fù)制。這里的解決方案將是可以幫助跟蹤、開發(fā)并從概念到開發(fā)階段指導(dǎo)創(chuàng)意的軟件。

從這份列表中可以看出，我們有一個(gè)重新設(shè)想AI應(yīng)用開發(fā)和管理方式的絕佳機(jī)會(huì)。然而，盡管節(jié)省了成本并帶來了創(chuàng)新紅利，許多首席信息官和合規(guī)負(fù)責(zé)人可能還是會(huì)急于確保新的邊緣AI技術(shù)是兼容的、受控的和經(jīng)過驗(yàn)證的。將邊緣AI作為一個(gè)強(qiáng)大的工具交到普通人手中，可訪問性可能是一把雙刃劍。

展望未來

我們正處在AI發(fā)展的新時(shí)代邊緣，向邊緣AI的轉(zhuǎn)移可能會(huì)是一次范式變革，這種變革與從那些笨重的舊式主機(jī)到今天的個(gè)人計(jì)算機(jī)的巨大飛躍相呼應(yīng)。這種轉(zhuǎn)變承諾使AI更加可訪問、高效并針對特定需求量身定制，從而以我們還未完全想象到的方式推動(dòng)創(chuàng)新。

在這個(gè)未來，AI的潛力是無限的，僅受我們的想象力和我們對負(fù)責(zé)任地指導(dǎo)其發(fā)展的承諾的限制。