人工智能(AI)已經(jīng)大規(guī)模地出現(xiàn)在人們的視野中,這項技術(shù)正在從數(shù)據(jù)中心擴(kuò)散到廣泛的分布式位置,這是由更強(qiáng)大的處理器和更創(chuàng)新的算法實現(xiàn)的。但其他技術(shù)也需要跟上步伐,否則就有可能成為瓶頸。
美光科技公司工業(yè)部門主管David Henderson在接受行業(yè)媒體采訪時表示,人工智能應(yīng)用的快速發(fā)展需求,特別是在網(wǎng)絡(luò)邊緣和板載連接設(shè)備方面,將對支持這些應(yīng)用的內(nèi)存提出更高的要求。
你能告訴我一些你在美光的角色,以及你在人工智能領(lǐng)域看到的趨勢嗎?
David Henderson:我領(lǐng)導(dǎo)美光的工業(yè)和多市場部門,專注于使用我們廣泛的內(nèi)存和存儲解決方案組合的各種工業(yè)應(yīng)用。這是一個極其分散的領(lǐng)域,包括視頻安全、工廠自動化、醫(yī)療設(shè)備、零售應(yīng)用、運輸、航空航天和國防應(yīng)用等應(yīng)用。
在我的角色中,我看到人工智能在工業(yè)領(lǐng)域獲得了強(qiáng)大的吸引力,包括在邊緣和車載設(shè)備上。很明顯,人工智能最終將出現(xiàn)在幾乎所有工業(yè)設(shè)備上?,F(xiàn)在,我們?nèi)匀惶幱谶@個充分市場潛力的山腳下,但即使是現(xiàn)在,人工智能也正在迅速被應(yīng)用于核心工業(yè)和制造設(shè)備。
美光的使命是緊跟市場上最新的處理器和專用集成電路,確保美光內(nèi)存產(chǎn)品組合的發(fā)展符合下一代處理器和人工智能加速器的需求,以及它們將在新環(huán)境中支持的更復(fù)雜的人工智能系統(tǒng)。
所以人工智能處理器和內(nèi)存必須攜手并進(jìn),才能最有效地釋放新的創(chuàng)新人工智能算法的潛力?
David Henderson:內(nèi)存是任何AI解決方案的關(guān)鍵部分。從歷史上看,大多數(shù)人工智能處理都發(fā)生在云數(shù)據(jù)中心的背景下,但它越來越多地擴(kuò)散到邊緣和車載物聯(lián)網(wǎng)(IoT)以及其他連接設(shè)備。隨著人工智能遷移到邊緣,這些位置對高性能內(nèi)存的需求也在增加?,F(xiàn)在,我們看到一系列的人工智能解決方案已經(jīng)延伸到網(wǎng)絡(luò)的邊緣,從推理開始,到邊緣的訓(xùn)練。
這些應(yīng)用程序可以釋放的好處可能是深遠(yuǎn)的。邊緣人工智能可以顯著降低支持人工智能設(shè)備所需的通信帶寬,同時實現(xiàn)對這些設(shè)備的任何連接系統(tǒng)的實時反饋。在許多情況下,這些類型的更改既可以降低成本,也可以增加人工智能支持的任何用例的收入。
未來還會有更多。生成型人工智能還沒有在邊緣廣泛部署,當(dāng)然在工業(yè)設(shè)備的背景下,但它的時代將會到來。當(dāng)這種情況發(fā)生時,就存儲參考數(shù)據(jù)的內(nèi)存密度和必須與處理器交換數(shù)據(jù)的帶寬而言,對內(nèi)存的需求將顯著增加。
除非我們提前計劃,否則我們可能會發(fā)現(xiàn)自己處于分布式物聯(lián)網(wǎng)和其他連接設(shè)備的內(nèi)存成為限制的情況。因此,關(guān)鍵是要關(guān)注這一細(xì)分市場的新興需求,并應(yīng)對與不斷增長的模型尺寸、不斷增加的帶寬需求、更低的功耗以及向前沿技術(shù)節(jié)點發(fā)展相關(guān)的特定限制。
這些發(fā)展對美光有什么影響?
David Henderson:人工智能是美光持續(xù)轉(zhuǎn)型的主要驅(qū)動力之一。從根本上說,我們迫切需要匹配我們?yōu)楦鞣N潛在用例提供的各種內(nèi)存解決方案。
以監(jiān)控攝像頭的視頻分析為例。低級解決方案可能包含基本的檢測和分類。與此同時,更復(fù)雜的解決方案可能包括面部識別和行為分析,而最復(fù)雜的解決方案(截至目前)可能會擴(kuò)展到包括上下文分析。這些都是人工智能解決方案,但支持這些解決方案所需的計算能力差異很大,以每秒幾次操作(TOPS)為標(biāo)準(zhǔn)。為了跟上更快的處理器,對內(nèi)存數(shù)據(jù)處理的需求也相應(yīng)發(fā)生了變化,低端標(biāo)準(zhǔn)攝像機(jī)的內(nèi)存數(shù)據(jù)處理速度為4倍,而當(dāng)今更復(fù)雜的安全視頻分析解決方案的內(nèi)存數(shù)據(jù)處理速度可達(dá)16倍。
這種視頻分析應(yīng)用程序只是一個例子。還有其他人工智能應(yīng)用本質(zhì)上不那么復(fù)雜,可能比視頻安全應(yīng)用更復(fù)雜。例如,當(dāng)機(jī)器視覺分析被部署到制造生產(chǎn)線的環(huán)境中以支持質(zhì)量保證時,它突出了對本地監(jiān)督學(xué)習(xí)的潛在需求。這是一個全新的復(fù)雜程度,有相關(guān)的處理和內(nèi)存帶寬要求。美光優(yōu)先與客戶合作,了解他們的計算需求,并引導(dǎo)他們了解內(nèi)存技術(shù)的細(xì)微差別,以優(yōu)化他們的解決方案。內(nèi)存密度、功耗和內(nèi)存帶寬吞吐量的規(guī)格對于單個用例至關(guān)重要,美光投資于研究和開發(fā)以交叉優(yōu)化這些參數(shù)。
展望未來,你認(rèn)為這個領(lǐng)域會如何發(fā)展?
David Henderson:我們肯定會看到人工智能部署的顯著和持續(xù)的增長,無論是在傳統(tǒng)工業(yè)系統(tǒng)的擴(kuò)展方面,還是在我們過去從未見過的新用例中的創(chuàng)新采用方面。在邊緣利用生成式人工智能和大型語言模型(LLM)作為行業(yè)數(shù)字化轉(zhuǎn)型的一部分,只會繼續(xù)凸顯對更多數(shù)據(jù)的需求,其中內(nèi)存和存儲是關(guān)鍵組件。
在許多情況下,人工智能可以實現(xiàn)更高的產(chǎn)量、更長的正常運行時間、更高的效率和更高的質(zhì)量。它確實可以在零售、運輸和遠(yuǎn)程保健等不同部門發(fā)揮作用,以更少的成本和資源實現(xiàn)更好的結(jié)果。
人工智能的潛力是巨大的。即使是今天所做的事情也產(chǎn)生了深遠(yuǎn)的影響,但這只是冰山一角??吹接洃浽诮怄i與人工智能相關(guān)的這些未來好處方面發(fā)揮的作用,真是令人興奮。