“Edge（邊緣）”和“Fog（霧）”是我們不斷聽(tīng)到的新流行詞匯。什么是邊緣計(jì)算，又有哪些應(yīng)用場(chǎng)景？要談?wù)撨@些，我們需要了解邊緣計(jì)算的產(chǎn)生過(guò)程。讓我們從一節(jié)簡(jiǎn)短的歷史課開(kāi)始。

一、邊緣計(jì)算的歷史

在過(guò)去的幾十年中，計(jì)算基礎(chǔ)設(shè)施在集中式和分散式體系結(jié)構(gòu)之間經(jīng)歷了多次變遷。簡(jiǎn)單講，顧名思義，集中式計(jì)算體系中，會(huì)有一臺(tái)中央計(jì)算機(jī)，其他多臺(tái)計(jì)算機(jī)可以通過(guò)終端訪(fǎng)問(wèn)這臺(tái)計(jì)算機(jī)。而在分散式計(jì)算體系中，會(huì)有多臺(tái)獨(dú)立的計(jì)算機(jī)或機(jī)器，通過(guò)各種協(xié)議相互通信。

20世紀(jì)50年代，在商業(yè)計(jì)算開(kāi)始時(shí)，集中式計(jì)算在大型、昂貴的主機(jī)系統(tǒng)中大行其道。自主機(jī)時(shí)代以來(lái)一直到1997年，計(jì)算體系架構(gòu)就經(jīng)歷了集中和分散的兩個(gè)周期。這時(shí)，家用臺(tái)式電腦已經(jīng)隨著硬件的降價(jià)而廣泛普及。這是最后一次分散化的進(jìn)程，此后便是著名的集中式云體系結(jié)構(gòu)，巨型的數(shù)據(jù)中心基本上承攬了所有的重要任務(wù)�，F(xiàn)在，邊緣計(jì)算正在敲門(mén)，為下一次換班做準(zhǔn)備。

云服務(wù)是當(dāng)前的集中式體系范例。幾乎所有的網(wǎng)絡(luò)內(nèi)容都是通過(guò)一個(gè)主要的數(shù)據(jù)中心提供的。研究人員從云端租借他們的私有服務(wù)器來(lái)測(cè)試他們的模型并進(jìn)行實(shí)驗(yàn)，企業(yè)在遠(yuǎn)程服務(wù)器中執(zhí)行業(yè)務(wù)邏輯。云服務(wù)為企業(yè)提供了一種便捷的資源獲取方式，無(wú)論是小企業(yè)還是大企業(yè)，都可以通過(guò)服務(wù)提供商獲得計(jì)算資源，而不是構(gòu)建自己的數(shù)據(jù)中心供使用。云服務(wù)的應(yīng)用隨處可見(jiàn)，AWS、DigitalSea、Azure、GoogleCloud、VMWare在開(kāi)發(fā)人員中耳熟能詳。但是，情況在發(fā)生變化。是什么導(dǎo)致了對(duì)邊緣設(shè)備和邊緣計(jì)算更受重視的新趨勢(shì)？邊緣到底是什么？

二、定義邊緣計(jì)算

云服務(wù)與邊緣計(jì)算－圖表

在A(yíng)ran Khanna的“邊緣深度學(xué)習(xí)”一文中，給邊緣設(shè)備下了一個(gè)非常簡(jiǎn)潔的定義�！�邊緣設(shè)備本質(zhì)上是位于數(shù)據(jù)中心之外的任何設(shè)備。”因此，“邊緣計(jì)算”是一種新的模式，將大量的計(jì)算和存儲(chǔ)資源放置在互聯(lián)網(wǎng)的邊緣，靠近移動(dòng)設(shè)備或傳感器

邊緣設(shè)備可能是你現(xiàn)在使用的手機(jī)�？梢允墙值篮豌y行周?chē)�的監(jiān)控?cái)z像頭。他們也不一定是體積很小的的東西，自動(dòng)駕駛汽車(chē)也被認(rèn)為是邊緣設(shè)備。就像Peter Levine所講的 ，使用這些設(shè)備，實(shí)時(shí)和現(xiàn)實(shí)世界的信息收集變得更加容易，并且隨著物聯(lián)網(wǎng)設(shè)備的普及，信息收集也越來(lái)越廣泛。此外，這些設(shè)備會(huì)生成許多真實(shí)世界的數(shù)據(jù)，如圖像和視頻。

邊緣設(shè)備不斷豐富的最大問(wèn)題之一是產(chǎn)生的數(shù)據(jù)量越來(lái)越龐大。一個(gè)幀速率為10赫茲的監(jiān)視攝像機(jī)可以產(chǎn)生超過(guò)每秒250 MB數(shù)據(jù)。將飛行數(shù)據(jù)連網(wǎng)的飛機(jī)每天生成5TB的數(shù)據(jù)。自動(dòng)駕駛汽車(chē)每天4TB數(shù)據(jù)。這些還僅是針對(duì)個(gè)人設(shè)備的統(tǒng)計(jì)。想象一下，如果這些設(shè)備中一部分將原始數(shù)據(jù)發(fā)送到集中式服務(wù)器，那通信量將有多大。在需要進(jìn)行準(zhǔn)實(shí)時(shí)處理的場(chǎng)景下，設(shè)備的帶寬和延遲問(wèn)題是云計(jì)算結(jié)構(gòu)不再適用的原因之一。

另一個(gè)問(wèn)題是能源消耗。Harvard SEAS的一位計(jì)算機(jī)架構(gòu)師David Brooks指出，在互聯(lián)網(wǎng)上傳輸一個(gè)比特位的能源消耗是500微焦耳。根據(jù)他的計(jì)算，2015年，每個(gè)月的手機(jī)數(shù)據(jù)使用量為3．7EB，從而達(dá)到500太瓦時(shí)的能源消耗，世界上2％的能源消耗用于移動(dòng)電話(huà)的數(shù)據(jù)傳輸。而邊緣計(jì)算可以大大降低這種能源消耗。

白小白：

此處原文的數(shù)據(jù)是有問(wèn)題的，或者說(shuō)原文所引用的Brooks的原話(huà)是有問(wèn)題的。這段數(shù)據(jù)來(lái)自視頻中3分50秒處開(kāi)始， 5分鐘左右有個(gè)小笑點(diǎn)，也是關(guān)于500太瓦時(shí)這個(gè)數(shù)據(jù)的引用處。3．7EB是3．41＊10＾19Bit，從而是1．7＊10＾22Microjoule，即4．73＊10＾9KWh，即4．73Terawatt，而原文是500Terawatt。按2015年全球耗電21153TW（數(shù)據(jù)來(lái)源statista．com）來(lái)說(shuō)，手機(jī)數(shù)據(jù)的耗電占0．27％，按照500TW計(jì)算則為2．36％。Anyway，文章主要想強(qiáng)調(diào)的是邊緣計(jì)算可以帶來(lái)的能源節(jié)約。

在使用云服務(wù)時(shí)，一個(gè)重要的考慮因素是隱私和安全性。數(shù)據(jù)泄露越來(lái)越普遍。以及必須確保用戶(hù)隱私的組織（如醫(yī)院）不能直接向其云服務(wù)發(fā)送原始數(shù)據(jù)。這就必須在邊緣層面進(jìn)行預(yù)處理。

邊緣計(jì)算金字塔

由于上述的場(chǎng)景和問(wèn)題，邊緣計(jì)算應(yīng)運(yùn)而生。在這種體系結(jié)構(gòu)中，無(wú)論是以設(shè)備本地執(zhí)行計(jì)算的形式，還是通過(guò)在設(shè)備附近部署一個(gè)微型云的方式，或者兩種形態(tài)的組合方式，計(jì)算行為都在物理上更接近設(shè)備。由微型云組成的中間層有時(shí)也被稱(chēng)為“霧”，而這些云有時(shí)被稱(chēng)為“霧節(jié)點(diǎn)”。這種“云－霧－邊緣”架構(gòu)帶來(lái)了許多好處。其中四個(gè)主要優(yōu)點(diǎn)是延遲時(shí)間短、邊緣分析成本低、隱私策略的加強(qiáng)以及可靠性的提高。

與云相比，邊緣設(shè)備和霧節(jié)點(diǎn)在物理上更接近，通常只有一步之遙，而邊緣設(shè)備到中心云節(jié)點(diǎn)通常路途遙遠(yuǎn)。霧節(jié)點(diǎn)甚至可以通過(guò)有線(xiàn)連接到邊緣設(shè)備。這提供了更低的延遲和更高的帶寬，因?yàn)榕c中心云相比，霧節(jié)點(diǎn)連接到的設(shè)備數(shù)量要少得多。在霧節(jié)點(diǎn)中管理數(shù)據(jù)可以帶來(lái)更低的響應(yīng)時(shí)間消耗。

邊緣設(shè)備收集的數(shù)據(jù)是巨大的，特別是由高速率數(shù)據(jù)設(shè)備收集的數(shù)據(jù)．將所有這些數(shù)據(jù)發(fā)送到云端進(jìn)行分析和推斷會(huì)占用寶貴的帶寬，而且在許多情況下是不可能實(shí)現(xiàn)的。在邊緣設(shè)備或霧節(jié)點(diǎn)執(zhí)行諸如采樣和消隱之類(lèi)的預(yù)處理可以大大減少正在傳輸?shù)臄?shù)據(jù)量，并允許將結(jié)構(gòu)化數(shù)據(jù)直接發(fā)送到中心云端存儲(chǔ)或進(jìn)一步處理。因此，以較低的成本，消耗較少的帶寬和能源是可以實(shí)現(xiàn)的。在本地節(jié)點(diǎn)上進(jìn)行的這種預(yù)處理還可以確保執(zhí)行必要的隱私策略，例如從醫(yī)院報(bào)告中編輯敏感和可識(shí)別的信息，以及模糊來(lái)自攝像機(jī)的面部信息。

哪里有海量數(shù)據(jù)，哪里就有機(jī)器學(xué)習(xí)。因此，邊緣設(shè)備和邊緣計(jì)算與機(jī)器學(xué)習(xí)有著密切的關(guān)系。例如，一個(gè)監(jiān)視攝像頭不斷地生成它所覆蓋的區(qū)域的圖像。這種相機(jī)可能會(huì)利用深度學(xué)習(xí)來(lái)識(shí)別人類(lèi)或汽車(chē)等特定的物體，并且可以移動(dòng)視角以保持監(jiān)視信息的完整。自動(dòng)駕駛汽車(chē)需要根據(jù)從傳感器和攝像機(jī)接收到的數(shù)據(jù)來(lái)計(jì)算其下一個(gè)動(dòng)作，所有這些因素都必須通過(guò)機(jī)器學(xué)習(xí)模型進(jìn)行適當(dāng)?shù)耐评怼Ｒ粋�(gè)有趣的用例是Chang等人關(guān)于使用機(jī)器學(xué)習(xí)進(jìn)行網(wǎng)絡(luò)邊緣緩存的工作。他們聲稱(chēng)，通過(guò)準(zhǔn)確分析用戶(hù)在某一區(qū)域的行為，從移動(dòng)電話(huà)和個(gè)人電腦等邊緣設(shè)備獲取數(shù)據(jù)，并在數(shù)據(jù)上構(gòu)建無(wú)監(jiān)督學(xué)習(xí)的集群，可以主動(dòng)地將適當(dāng)?shù)膬?nèi)容緩存在用戶(hù)的邊緣設(shè)備中或在鄰近區(qū)域的云端，以獲得較低的延遲并節(jié)約能源。隨著物聯(lián)網(wǎng)應(yīng)用越來(lái)越富有創(chuàng)造力，并滲透到我們的日常生活中，機(jī)器學(xué)習(xí)在邊緣的應(yīng)用可能是無(wú)限的。

三、邊緣計(jì)算與機(jī)器學(xué)習(xí)的復(fù)雜性

一種用于在邊緣計(jì)算環(huán)境中進(jìn)行機(jī)器學(xué)習(xí)的示例模型

與中心云服務(wù)器或霧節(jié)點(diǎn)相比，邊緣設(shè)備的內(nèi)存要小得多，計(jì)算能力也要小得多。然而，大多數(shù)這些設(shè)備必須根據(jù)它們收集到的輸入信息做出近乎實(shí)時(shí)的決定。這些設(shè)備中的大多數(shù)不可能保存它們生成的數(shù)據(jù)，并使用這些數(shù)據(jù)來(lái)構(gòu)建機(jī)器學(xué)習(xí)模型。過(guò)去幾年，大多數(shù)應(yīng)用程序是處理推斷（注）的方式，是將數(shù)據(jù)上傳到云中，并通過(guò)云中的模型運(yùn)行輸入數(shù)據(jù) ，并將響應(yīng)結(jié)果返回到邊緣設(shè)備。然而，對(duì)于需要近乎實(shí)時(shí)響應(yīng)的應(yīng)用程序來(lái)說(shuō)，這不是一個(gè)理想的解決方案。

白小白：

所謂推斷。舉例來(lái)說(shuō)，就是給神經(jīng)網(wǎng)絡(luò)一堆貓的圖片進(jìn)行訓(xùn)練學(xué)習(xí)，當(dāng)給定一堆新的圖片時(shí)，模型從中找出貓的過(guò)程。當(dāng)然這只是人工智能的應(yīng)用場(chǎng)景之一，即圖像識(shí)別。關(guān)于人工智能和機(jī)器學(xué)習(xí)，更多的內(nèi)容，可以參考宋瀟男的文章《AI雜談：從洗衣機(jī)到老鼠屁股》和《一起來(lái)DIY一個(gè)人工智能實(shí)驗(yàn)室吧》 以及李廣珍博士的《擁抱人工智能，從機(jī)器學(xué)習(xí)開(kāi)始》 。

在這種情況下，有幾種邊緣計(jì)算的方案可供選擇：

方案一：將訓(xùn)練好的模型放在邊緣設(shè)備

模型在遠(yuǎn)程機(jī)器中訓(xùn)練并部署到邊緣設(shè)備上，這樣，智能手機(jī)等移動(dòng)設(shè)備具有足夠的計(jì)算能力和內(nèi)存來(lái)執(zhí)行模型和推理。在這種情況下，邊緣設(shè)備所收集的數(shù)據(jù)可以通過(guò)部署的模型運(yùn)行，并且可以實(shí)現(xiàn)近乎實(shí)時(shí)的推斷。然后，這些數(shù)據(jù)可以發(fā)送到云，并通過(guò)遷移學(xué)習(xí)，集成到現(xiàn)有的模型中，以提高其準(zhǔn)確性。聽(tīng)起來(lái)不錯(cuò)吧？不完全是。

白小白：

遷移學(xué)習(xí)，是將學(xué)習(xí)到的知識(shí)進(jìn)行存儲(chǔ)和轉(zhuǎn)移以解決新問(wèn)題的方法。簡(jiǎn)單講，學(xué)會(huì)了識(shí)別小汽車(chē)，就可以將相關(guān)知識(shí)轉(zhuǎn)移到識(shí)別卡車(chē)的模型中，至少關(guān)于輪子、后視鏡等存在一定的共通性。

亞馬遜的人工智能和該公司如何使用邊緣

方案二：對(duì)模型本身進(jìn)行瘦身（壓縮）

這些模型本身可能相當(dāng)大，特別是典型的具有無(wú)數(shù)參數(shù)和權(quán)重值過(guò)濾器的深度學(xué)習(xí)模型。這種大小可能使邊緣設(shè)備無(wú)力運(yùn)行經(jīng)過(guò)訓(xùn)練的模型，也可能阻礙設(shè)備生成和保存生成的數(shù)據(jù)的能力。然而，有一些技巧可以執(zhí)行。在云上訓(xùn)練的占用更多空間的模型可以采用“量化”的方式來(lái)進(jìn)行瘦身從而部署在邊緣設(shè)備上。量化過(guò)程基本上是將機(jī)器學(xué)習(xí)模型中權(quán)值的大小從32位浮點(diǎn)權(quán)值減少到16位或8位的精度。這不僅有助于簡(jiǎn)化模型，而且還允許更快的執(zhí)行推斷，而不需要為邊緣設(shè)備創(chuàng)建不同的流水線(xiàn)和單獨(dú)建立不同的模型。這種方法的一個(gè)小缺點(diǎn)是精度略有降低，但在需要更快推理而非追求完美精確的應(yīng)用中，這可能是非常有益的。

白小白：

所謂流水線(xiàn)。是指機(jī)器學(xué)習(xí)的模型通常需要整合多個(gè)組成部分和環(huán)節(jié)在一起來(lái)輸出最終的結(jié)果，這個(gè)整合的過(guò)程即“流水線(xiàn)”，有點(diǎn)類(lèi)似于軟件開(kāi)發(fā)過(guò)程中，開(kāi)發(fā)－＞編譯－＞部署－＞預(yù)生產(chǎn)－＞生產(chǎn)，數(shù)據(jù)科學(xué)也有源數(shù)據(jù)的提取轉(zhuǎn)換－＞預(yù)處理－＞特征選取－＞模型訓(xùn)練等一系列的過(guò)程。段尾作者給出的Tensorflow的“量化”的介紹地址已經(jīng)404了，在這個(gè)地址可以看到關(guān)于浮點(diǎn)精確性下降的量化解釋。

方法三：將模型能力限定在特定子域

在邊緣設(shè)備中進(jìn)行更快推斷的另一種方法是將模型的能力限制在特定的子域之上，這些子域僅服務(wù)于邊緣設(shè)備所應(yīng)執(zhí)行的任務(wù)。這方面的一個(gè)完美例子是Nikouei等人提出的輕量級(jí)CNN，該項(xiàng)目的目的是讓更多運(yùn)行在邊緣設(shè)備的人工智能作出更快和更好的推斷。文中所舉的示例中，邊緣設(shè)備是一個(gè)監(jiān)視攝像頭，用以檢測(cè)到人類(lèi)。細(xì)節(jié)不作過(guò)多解釋?zhuān)��?jiǎn)單講，L－CNN在不犧牲太多精確性的前提下保持了高性能，方法就是專(zhuān)門(mén)為人類(lèi)檢測(cè)建立檢測(cè)方法，以減少不必要的過(guò)濾器。L－CNN能更有效地利用設(shè)備的資源。因此，建立一定的約束條件，機(jī)器學(xué)習(xí)可以很好的集成到邊緣計(jì)算中，以獲得更快、更低成本的推理能力。

方案四：Bonsai模型

L－CNN是為諸如Raspberry PI（基于Linux的單片機(jī)）一樣的內(nèi)存接近1GB的更智能的邊緣設(shè)備開(kāi)發(fā)的。這個(gè)假設(shè)是可以接受的，畢竟處理圖像數(shù)據(jù)需要大量的資源。然而，我們可以為資源更稀缺的邊緣設(shè)備開(kāi)發(fā)算法，這一點(diǎn)體現(xiàn)在Kumar等人開(kāi)發(fā)的Bonsai樹(shù)算法中（。Bonsai是一種致力于解決資源高效型設(shè)備機(jī)器學(xué)習(xí)的算法，Bonsai（適用于通常在醫(yī)療、工業(yè)或農(nóng)業(yè)應(yīng)用中充當(dāng)傳感器的小得多的設(shè)備，模型大小小于2kb，可以匹配不同的應(yīng)用程序和數(shù)據(jù)集，由“基于在低維空間中學(xué)習(xí)到的單一、淺層、稀疏樹(shù)的新模型”實(shí)現(xiàn)。在邊緣設(shè)備上部署模型，而不是從云獲得推論，還具有離線(xiàn)功能的額外優(yōu)勢(shì)。

白小白：

Bonsai，盆景（盆栽）是在中國(guó)發(fā)明，之后傳到日本、越南和朝鮮特有的一種傳統(tǒng)藝術(shù)，約有一千二百多年歷史。按中文維基百科的解釋?zhuān)�是寓意于景，以觀(guān)四季。按Bonsai英文維基百科的解釋?zhuān)�是“在容器中制造一棵與完整的樹(shù)相同形態(tài)的小樹(shù)”。

四、邊緣計(jì)算的未來(lái)挑戰(zhàn)

邊緣計(jì)算的優(yōu)點(diǎn)和優(yōu)點(diǎn)

云時(shí)代的一個(gè)典型好處是集中化及其帶來(lái)的管理的便利性。隨著計(jì)算分布在許多節(jié)點(diǎn)和設(shè)備上，管理問(wèn)題也隨之出現(xiàn)。此外，集中式系統(tǒng)更容易提供安全性。隨著網(wǎng)絡(luò)中設(shè)備數(shù)量的增加，網(wǎng)絡(luò)的安全性越來(lái)越難保證。對(duì)設(shè)備的物理篡改成為可能。在邊緣設(shè)備與霧節(jié)點(diǎn)之間或霧節(jié)點(diǎn)與中央云之間的數(shù)據(jù)傳輸中實(shí)施插入惡意代碼成為可能。當(dāng)然，隨著大家的努力，這些挑戰(zhàn)已經(jīng)得到解決，因此，在邊緣計(jì)算面前的道路似乎越來(lái)越清晰。

最后，云中心模式當(dāng)然不會(huì)消失。對(duì)于需要大量計(jì)算和存儲(chǔ)的許多其他用例，我們?nèi)匀恍枰獢?shù)據(jù)中心。然而，除非出現(xiàn)另一次重大的變革，邊緣計(jì)算仍舊是未來(lái)的方向。

邊緣計(jì)算云計(jì)算

標(biāo)簽： Google isp linux 安全 代碼 服務(wù)器 互聯(lián)網(wǎng) 通信 網(wǎng)絡(luò) 云服務(wù) 云服務(wù)器 云計(jì)算

版權(quán)申明：本站文章部分自網(wǎng)絡(luò)，如有侵權(quán)，請(qǐng)聯(lián)系：west999com@outlook.com
特別注意：本站所有轉(zhuǎn)載文章言論不代表本站觀(guān)點(diǎn)！
本站所提供的圖片等素材，版權(quán)歸原作者所有，如需使用，請(qǐng)與原作者聯(lián)系。