生成式人工智能提高了人工智能變革力量的賭注,對(duì)我們?nèi)粘I畹姆椒矫婷娈a(chǎn)生了深遠(yuǎn)的影響。在過去的一年里,我們看到人工智能的能力牢牢掌握在消費(fèi)者手中。MWC 2024最近發(fā)布的新聞和產(chǎn)品公告強(qiáng)調(diào)了我們可以從下一波生成式人工智能應(yīng)用中看到的東西。人工智能將無處不在,直接集成到邊緣和端點(diǎn)設(shè)備中,使創(chuàng)造力和溝通達(dá)到新的水平。
“邊緣人工智能”是指將人工智能算法部署到網(wǎng)絡(luò)邊緣基礎(chǔ)設(shè)施中,以及直接部署到終端上,如智能手機(jī)、攝像頭、傳感器和物聯(lián)網(wǎng)設(shè)備,從而在不依賴云服務(wù)器的情況下實(shí)現(xiàn)實(shí)時(shí)處理和決策。AI處理的這種分散化提供了幾個(gè)優(yōu)勢,包括減少延遲、增強(qiáng)隱私以及在互聯(lián)網(wǎng)連接有限的情況下提高可靠性。
讓我們舉一個(gè)智能手機(jī)的例子,它配備了人工智能邊緣功能。智能手機(jī)可以利用設(shè)備上的人工智能模型在本地執(zhí)行這些任務(wù),而不是僅僅依賴基于云的服務(wù)來執(zhí)行語音識(shí)別、翻譯和圖像處理等任務(wù),從而為用戶提供更快的響應(yīng)時(shí)間,并通過最大限度地減少向外部服務(wù)器傳輸數(shù)據(jù)來保護(hù)隱私。
邊緣人工智能的核心是高效推理,即采用經(jīng)過訓(xùn)練的人工智能模型進(jìn)行預(yù)測或決策的過程,它需要專門的內(nèi)存技術(shù)來提高性能,同時(shí)根據(jù)終端設(shè)備的獨(dú)特需求進(jìn)行定制。由于更大的模型提供更高的準(zhǔn)確性和結(jié)果保真度,因此在不超出設(shè)備功率和空間限制的情況下,將會(huì)出現(xiàn)對(duì)更大內(nèi)存容量和帶寬的持續(xù)需求循環(huán)。
設(shè)計(jì)人員對(duì)于 AI/ML 推理有多種內(nèi)存選擇,但在帶寬這一關(guān)鍵參數(shù)上,GDDR 內(nèi)存表現(xiàn)出色。 如果功耗和空間限制至關(guān)重要(對(duì)于手機(jī)和許多物聯(lián)網(wǎng)設(shè)備來說尤其如此),那么 LPDDR 就是首選內(nèi)存。 用于邊緣 AI 推理的內(nèi)存需要在帶寬、容量、功耗和外形緊湊性之間取得適當(dāng)?shù)钠胶狻?/p>
確保邊緣和端點(diǎn)設(shè)備的安全也至關(guān)重要。 這些設(shè)備收集和處理敏感數(shù)據(jù),從個(gè)人信息到專有業(yè)務(wù)洞察,使它們成為網(wǎng)絡(luò)攻擊的潛在利潤豐厚的目標(biāo)。 實(shí)施強(qiáng)大的安全措施對(duì)于保護(hù)人工智能設(shè)備免受一系列潛在威脅(包括惡意軟件、數(shù)據(jù)泄露和未經(jīng)授權(quán)的訪問)至關(guān)重要。 這涉及采用加密協(xié)議、安全啟動(dòng)機(jī)制和基于硬件的安全功能來保護(hù)傳輸中和靜態(tài)的數(shù)據(jù)。
邊緣人工智能的崛起將為各種應(yīng)用的創(chuàng)造力、創(chuàng)新和個(gè)性化體驗(yàn)帶來新的機(jī)遇。 然而,要在任何地方充分發(fā)揮人工智能的潛力,就需要用于推理以及邊緣和端點(diǎn)設(shè)備安全的內(nèi)存技術(shù)不斷發(fā)展。
適用于 GDDR 和 LPDDR 的 Rambus 內(nèi)存接口控制器可提供現(xiàn)在和未來 AI 推理所需的高帶寬、低延遲內(nèi)存性能。 憑借廣泛的安全 IP 產(chǎn)品組合,Rambus 還支持基于硬件的尖端安全性,以保護(hù)支持 AI 的邊緣和端點(diǎn)設(shè)備。