邊緣計(jì)算已成為最受關(guān)注的技術(shù)趨勢(shì)之一,伴伴隨所有這些話題,也許你會(huì)認(rèn)為是時(shí)候?yàn)槟愕奈锫?lián)網(wǎng)網(wǎng)絡(luò)投資智能邊緣技術(shù)了。然則,在開(kāi)始購(gòu)買新的邊緣設(shè)備之前,讓我們探討一下邊緣計(jì)算到底是什么,它的作用是什么,以及應(yīng)用是否能從邊緣技術(shù)中受益。
邊緣計(jì)算可以為物聯(lián)網(wǎng)網(wǎng)絡(luò)增加大量的靈活性、速度和智能,但重要的是要認(rèn)識(shí)邊緣人工智能(Edge AI)設(shè)備并不能解決智能網(wǎng)絡(luò)應(yīng)用面臨的所有挑戰(zhàn)。在本文的最后,在確定邊緣技術(shù)是否適合應(yīng)用之后,我們將探討買家在評(píng)估邊緣AI設(shè)備時(shí)應(yīng)該考慮的主要特性和考慮因素。
何為邊緣計(jì)算
邊緣計(jì)算在云的邊緣將物聯(lián)網(wǎng)提升到一個(gè)更高的層次,原始數(shù)據(jù)可以實(shí)時(shí)轉(zhuǎn)化為價(jià)值。通過(guò)在整個(gè)網(wǎng)絡(luò)中重新分配數(shù)據(jù)處理工作,提升了連接節(jié)點(diǎn)、端點(diǎn)和其他智能設(shè)備的重要性和治理。
邊緣計(jì)算近乎與云計(jì)算完全相反,在云計(jì)算中,數(shù)據(jù)從分布式網(wǎng)絡(luò)流入,在集中的數(shù)據(jù)中心進(jìn)行處理,結(jié)果通常被傳輸回原始的分布式網(wǎng)絡(luò),以觸發(fā)動(dòng)作或產(chǎn)生變化。然則,長(zhǎng)距離傳輸大量數(shù)據(jù)會(huì)產(chǎn)生成本的。這些成本可以用金錢(qián)來(lái)衡量,但也可以用其他關(guān)鍵的方式來(lái)衡量,例如用權(quán)力或時(shí)間。
這就是邊緣計(jì)算的切入點(diǎn)。當(dāng)功率、帶寬和延遲真的很重要時(shí),邊緣計(jì)算可能是答案。與集中式云計(jì)算不同的是,在中心化云計(jì)算中,數(shù)據(jù)可能要穿越數(shù)百英里才能被處理,邊緣計(jì)算使數(shù)據(jù)能夠在數(shù)據(jù)被感知、建立或駐留的同一網(wǎng)絡(luò)邊緣位置處理。這意味著處理延遲近乎可以忽略不計(jì),對(duì)功率和帶寬的要求通常也大大降低。
當(dāng)今邊緣計(jì)算的主要推動(dòng)者之一是半導(dǎo)體制造商在不大幅增加功耗的情況下提高處理能力的方式。這意味著位于邊緣的處理器可以在不消耗更多功率的情況下運(yùn)用它們獲取的數(shù)據(jù)做更多事情。這允許更多的數(shù)據(jù)停留在邊緣,而不是被傳輸?shù)胶诵摹3私档拖到y(tǒng)總功率外,這還增加了響應(yīng)時(shí)間并改善了數(shù)據(jù)隱私。
受益于這一發(fā)展的一些技術(shù)包含AI和機(jī)器學(xué)習(xí),但這些也依賴于降低數(shù)據(jù)獲取成本,同時(shí)提高數(shù)據(jù)隱私級(jí)別。通過(guò)邊緣處理可以同時(shí)解決成本和隱私問(wèn)題。就AI和ML等新興趨勢(shì)而言,這兩種技術(shù)傳統(tǒng)上都需要大量資源,遠(yuǎn)遠(yuǎn)超過(guò)端點(diǎn)或智能設(shè)備中通??捎玫馁Y源?,F(xiàn)在,考慮到硬件和軟件水平的進(jìn)步,還可以將這些支持技術(shù)嵌入到位于網(wǎng)絡(luò)邊緣的更小、資源更有限的設(shè)備中。
評(píng)估邊緣AI
選擇能夠執(zhí)行邊緣處理的平臺(tái),可能包含運(yùn)行AI算法或ML推理引擎,這需要仔細(xì)評(píng)估。簡(jiǎn)單的傳感器和執(zhí)行器,即使是屬于物聯(lián)網(wǎng)的一部分,也可以通過(guò)相對(duì)較小的集成設(shè)備實(shí)現(xiàn)。增加邊緣處理的數(shù)量將需要一個(gè)更強(qiáng)大的平臺(tái),可能使用高度并行的架構(gòu)。通常情況下,這意味著GPU,但假如平臺(tái)太強(qiáng)大,它將成為網(wǎng)絡(luò)邊緣有限資源的負(fù)擔(dān)。
同樣重要的是要記住,邊緣設(shè)備基本上是現(xiàn)實(shí)世界的接口,故此它可能需要支持一些常見(jiàn)的接口技術(shù),如以太網(wǎng),GPIO,CAN、串行和/或USB)。它也可能需要支持外圍設(shè)備,如攝像頭、鍵盤(pán)和顯示器。
邊緣也可以是與舒適的氣候控制數(shù)據(jù)中心截然不同的環(huán)境。邊緣設(shè)備可能暴露在極端的溫度,濕度,振動(dòng)甚至高度。這將對(duì)設(shè)備的選擇產(chǎn)生影響,以及怎樣包裝或封裝。
另一個(gè)需要考慮的重要方面是監(jiān)管要求。任何使用射頻進(jìn)行通信的設(shè)備都將受到法規(guī)的約束,并可能需要許可證才能運(yùn)行。一些平臺(tái)將“開(kāi)箱即用”遵守規(guī)定,但其他平臺(tái)可能需要付出更多努力。一旦投入使用,它們就不太可能得到硬件升級(jí),故此必須在設(shè)計(jì)周期內(nèi)仔細(xì)確定處理能力、內(nèi)存和存儲(chǔ),以便為未來(lái)的性能提升提供空間。
這包含軟件升級(jí)。與硬件不同的是,可以在設(shè)備在現(xiàn)場(chǎng)時(shí)部署軟件更新。這些無(wú)線更新現(xiàn)在非常常見(jiàn),很可能任何邊緣設(shè)備都需要設(shè)計(jì)為支持OTA更新。
選擇正確的解決方案將觸及對(duì)所有這些一般點(diǎn)的仔細(xì)評(píng)估,以及仔細(xì)研究應(yīng)用程序的特定需求。例如設(shè)備是否需要處理視頻數(shù)據(jù),亦或音頻數(shù)據(jù),亦亦或只處理溫度,還是也監(jiān)測(cè)其他環(huán)境方面。這些問(wèn)題中的很多適用于部署在前沿的所有技術(shù),但伴隨加工水平的提高和對(duì)產(chǎn)出的期望的提高,將有必要擴(kuò)大要求列表。
邊緣計(jì)算的好處
現(xiàn)在,將AI和ML放入邊緣設(shè)備和智能節(jié)點(diǎn)中在技術(shù)上是可能的,這將帶來(lái)重大的機(jī)遇。這意味著處理引擎不僅更接近數(shù)據(jù)源,而且該引擎可以對(duì)它收集的數(shù)據(jù)做更多的事情。
這樣做確實(shí)有好處。首先,它可以提高生產(chǎn)力,或數(shù)據(jù)使用的效率。其次,它簡(jiǎn)化了網(wǎng)絡(luò)架構(gòu),因?yàn)橐苿?dòng)的數(shù)據(jù)更少。第三,它使接近數(shù)據(jù)中心變得不那么重要。假如數(shù)據(jù)中心在城市中,那么最后一點(diǎn)可能看起來(lái)不太重要,不過(guò)假如網(wǎng)絡(luò)的邊緣是一個(gè)偏遠(yuǎn)的位置,例如農(nóng)場(chǎng)或水處理廠,那么這一點(diǎn)就會(huì)有很大的不同。
不可否認(rèn)的是,數(shù)據(jù)在互聯(lián)網(wǎng)上快速移動(dòng)。很多人可能會(huì)驚訝地發(fā)現(xiàn),搜索查詢可能會(huì)在結(jié)果出現(xiàn)在屏幕上之前在全世界范圍內(nèi)傳播兩次??偨?jīng)過(guò)的時(shí)間可能只有幾分之一秒,而對(duì)我們來(lái)說(shuō),這近乎是瞬間的。但對(duì)于組成互聯(lián)、智能且通常是自主的傳感器和執(zhí)行器的互聯(lián)網(wǎng)的機(jī)器和其他智能設(shè)備來(lái)說(shuō),每一秒都感覺(jué)像是一個(gè)小時(shí)。
這種往返延遲是實(shí)時(shí)系統(tǒng)的制造商和開(kāi)發(fā)人員真正關(guān)心的問(wèn)題。數(shù)據(jù)往返于數(shù)據(jù)中心所花費(fèi)的時(shí)間并非無(wú)關(guān)緊要,當(dāng)然也不是瞬間的。減少這種延遲是邊緣計(jì)算的一個(gè)關(guān)鍵目標(biāo)。它與更快的網(wǎng)絡(luò)協(xié)同工作,這是5G發(fā)揮作用的地方。不過(guò),伴隨更多的設(shè)備上線,推出更快的網(wǎng)絡(luò)將無(wú)法彌補(bǔ)我們預(yù)期的累積網(wǎng)絡(luò)延遲。
分析人士預(yù)測(cè),到2030年,聯(lián)網(wǎng)設(shè)備的數(shù)量可能會(huì)達(dá)到500億臺(tái)。假如這些設(shè)備中的每一個(gè)都需要一個(gè)數(shù)據(jù)中心的寬頻帶,那么網(wǎng)絡(luò)將永遠(yuǎn)擁塞。假如它們中的很多在管道中運(yùn)行,等待上一階段的數(shù)據(jù)到達(dá),那么總延遲很快就會(huì)變得非常明顯。邊緣計(jì)算是緩解擁塞網(wǎng)絡(luò)的唯一可行的解決方案。
然則,雖說(shuō)總體上對(duì)邊緣計(jì)算有一定的需求,但邊緣計(jì)算的具體好處依舊在很大程度上取決于應(yīng)用,這就是邊緣計(jì)算法則的應(yīng)用。這些定律將幫助工程團(tuán)隊(duì)決定邊緣計(jì)算是否適合特定應(yīng)用。
邊緣計(jì)算的4大定律
物理定律
第一定律是物理定律,這個(gè)是不可變的。射頻能量以光速傳播,就像光纖網(wǎng)絡(luò)中的光子一樣。這是好消息。壞消息是它們不能再快了。故此,假如往返時(shí)間依舊不夠快,那么邊緣計(jì)算可能是正確的選擇。
Ping測(cè)試提供了一種簡(jiǎn)單的方法,可以測(cè)量數(shù)據(jù)包在網(wǎng)絡(luò)連接的兩個(gè)端點(diǎn)之間傳輸所需的時(shí)間。在線游戲通常托管在多個(gè)服務(wù)器上,玩家將ping服務(wù)器,直到他們找到延遲最低的服務(wù)器,這意味著數(shù)據(jù)可以以最快的速度傳播。這就是時(shí)間敏感數(shù)據(jù)的關(guān)鍵,即使是幾分之一秒。
延遲也不完全依賴于傳輸機(jī)制。每一端都有編碼器和解碼器,這些物理層需要將電子轉(zhuǎn)換成所使用的任何能量形式,然后再將它們轉(zhuǎn)換回來(lái)。所有這些都需要時(shí)間,即使處理器以千兆赫的速度運(yùn)行,時(shí)間也是有限的,而且取決于所移動(dòng)的數(shù)據(jù)量。
經(jīng)濟(jì)學(xué)定律
這種方法可能更靈活一些,但伴隨處理和存儲(chǔ)資源需求的飆升,它也更難以預(yù)測(cè)。利潤(rùn)總是微薄的,但假如在云計(jì)算中處理數(shù)據(jù)的成本突然上升,它可能證明盈利或虧損之間的差別。
云服務(wù)的成本開(kāi)始于購(gòu)買或租用服務(wù)器、機(jī)架或刀片的成本。這取決于CPU內(nèi)核的數(shù)量、所需的RAM或永久存儲(chǔ)的數(shù)量以及服務(wù)級(jí)別。有保證的正常運(yùn)行時(shí)間比沒(méi)有保證的服務(wù)水平花費(fèi)更多。網(wǎng)絡(luò)帶寬基本上是免費(fèi)的,不過(guò)假如需要最低水平的帶寬,那么應(yīng)該為此付出代價(jià),在評(píng)估成本時(shí)需要考慮到這一點(diǎn)。
也就是說(shuō),在邊緣處理數(shù)據(jù)不受這種可變成本的影響。一旦設(shè)備的初始成本已經(jīng)產(chǎn)生,在邊緣處理任何數(shù)量的數(shù)據(jù)的額外成本近乎為零。
數(shù)據(jù)保護(hù)法
數(shù)據(jù)之所以有價(jià)值,是因?yàn)樗馕吨虼碇承〇|西。現(xiàn)在,捕獲信息的任何人現(xiàn)在都可能受制于捕獲該數(shù)據(jù)所在地區(qū)的數(shù)據(jù)隱私法。這意味著,即使是捕獲數(shù)據(jù)的設(shè)備的合法所有者,也可能不允許跨越地理邊界移動(dòng)數(shù)據(jù)。
比如,這將包含《歐盟數(shù)據(jù)保護(hù)指令》、《通用數(shù)據(jù)保護(hù)條例》和《亞太經(jīng)濟(jì)合作隱私框架》。加拿大的《個(gè)人信息保護(hù)與電子文檔法》與歐盟的數(shù)據(jù)保護(hù)法相符合,而美國(guó)的《安全港安排》也與歐盟的數(shù)據(jù)保護(hù)法相符合。
邊緣處理可以克服這一點(diǎn)。通過(guò)在邊緣處理數(shù)據(jù),它不需要離開(kāi)設(shè)備。在便攜式消費(fèi)設(shè)備中,數(shù)據(jù)隱私愈來(lái)愈重要,手機(jī)上的面部識(shí)別使用本地AI來(lái)處理攝像頭圖像,所以數(shù)據(jù)永遠(yuǎn)不會(huì)離開(kāi)設(shè)備。閉路電視和其他安全監(jiān)控系統(tǒng)也是如此。使用攝像頭監(jiān)控公共空間通常意味著圖像由基于云的數(shù)據(jù)服務(wù)器傳輸和處理,這會(huì)帶來(lái)數(shù)據(jù)隱私問(wèn)題。在相機(jī)中處理數(shù)據(jù)既快又安全,可能消除或簡(jiǎn)化數(shù)據(jù)隱私措施的需要。
墨菲定律
最后,我們需要考慮墨菲定律,該定律指出,假如某件事可能出錯(cuò),它就會(huì)出錯(cuò)。當(dāng)然,即使在世界上最精心設(shè)計(jì)的系統(tǒng)中,也總會(huì)出現(xiàn)問(wèn)題。邊緣處理可以消除與通過(guò)網(wǎng)絡(luò)移動(dòng)數(shù)據(jù)相關(guān)的很多可能的故障點(diǎn),將其存儲(chǔ)在云中并依靠數(shù)據(jù)中心提供處理能力。
假如一個(gè)應(yīng)用程序在技術(shù)上可以從邊緣處理中受益,那么還有一些問(wèn)題要問(wèn)。以下是一些最相關(guān)的建議:
(1)應(yīng)用運(yùn)行在什么處理器架構(gòu)上
將軟件移植到不同的指令集可能代價(jià)高昂,并會(huì)帶來(lái)延遲,故此升級(jí)不應(yīng)該意味著移出。
(2)需要什么樣的I/O
這可以是任意數(shù)量的有線和/或無(wú)線接口。假如考慮不周會(huì)招致效率低下,故此需要盡早解決故此需要盡早解決這個(gè)問(wèn)題。
(3)運(yùn)行環(huán)境是什么
運(yùn)行環(huán)境是冷是熱,例如火星任務(wù)是邊緣處理的一個(gè)很好的例子,假如是極端的,運(yùn)行環(huán)境是巨大的變化。
(4)硬件是否需要符合規(guī)定或需要認(rèn)證
答案近乎是肯定的,所以選擇一個(gè)預(yù)認(rèn)證平臺(tái)可以節(jié)省時(shí)間和金錢(qián)。
(5)需要多少功率
就單位成本和安裝而言,系統(tǒng)電源很昂貴,所以認(rèn)識(shí)功率是非常有益的。
(6)邊緣設(shè)備是否受限于形狀尺寸
這在邊緣處理中比很多其他部署更重要,故此需要在設(shè)計(jì)周期的早期考慮。
(7)工作時(shí)間是多少
這是進(jìn)入可能需要運(yùn)行多年的工業(yè)應(yīng)用,還是以月為單位測(cè)量生命周期,這些都是需要我們考慮清楚的。
(8)系統(tǒng)的性能要求是什么
就處理能力而言,例如每秒幀數(shù)、內(nèi)存要求、應(yīng)用語(yǔ)言等等。
(9)是否有成本考慮
這是一個(gè)棘手的問(wèn)題,因?yàn)榇鸢缚偸?ldquo;是”,但知道成本限制是什么將有益于選擇過(guò)程。
結(jié)論
邊緣處理是通過(guò)物聯(lián)網(wǎng)實(shí)現(xiàn)的,但它的意義遠(yuǎn)不止于此。它是由比早期連接設(shè)備示例更高的期望驅(qū)動(dòng)的。低層次,有共性;該設(shè)備可能需要低功耗,可能需要低成本,但現(xiàn)在它可能還需要在不與功耗和成本沖突的情況下提供更高水平的智能操作。
通過(guò)選擇合適的技術(shù)合作伙伴,可以更容易地選擇合適的平臺(tái)。進(jìn)入一個(gè)圍繞邊緣計(jì)算開(kāi)發(fā)的生態(tài)系統(tǒng),為AI應(yīng)用選擇正確的邊緣計(jì)算平臺(tái)。?