“Edge（邊緣）”和“Fog（霧）”是我們不斷聽到的新流行詞匯。什么是邊緣計算，又有哪些應用場景？要談論這些，我們需要了解邊緣計算的產(chǎn)生過程。讓我們從一節(jié)簡短的歷史課開始。

一、邊緣計算的歷史

在過去的幾十年中，計算基礎設施在集中式和分散式體系結構之間經(jīng)歷了多次變遷。簡單講，顧名思義，集中式計算體系中，會有一臺中央計算機，其他多臺計算機可以通過終端訪問這臺計算機。而在分散式計算體系中，會有多臺獨立的計算機或機器，通過各種協(xié)議相互通信。

20世紀50年代，在商業(yè)計算開始時，集中式計算在大型、昂貴的主機系統(tǒng)中大行其道。自主機時代以來一直到1997年，計算體系架構就經(jīng)歷了集中和分散的兩個周期。這時，家用臺式電腦已經(jīng)隨著硬件的降價而廣泛普及。這是最后一次分散化的進程，此后便是著名的集中式云體系結構，巨型的數(shù)據(jù)中心基本上承攬了所有的重要任務�，F(xiàn)在，邊緣計算正在敲門，為下一次換班做準備。

云服務是當前的集中式體系范例。幾乎所有的網(wǎng)絡內(nèi)容都是通過一個主要的數(shù)據(jù)中心提供的。研究人員從云端租借他們的私有服務器來測試他們的模型并進行實驗，企業(yè)在遠程服務器中執(zhí)行業(yè)務邏輯。云服務為企業(yè)提供了一種便捷的資源獲取方式，無論是小企業(yè)還是大企業(yè)，都可以通過服務提供商獲得計算資源，而不是構建自己的數(shù)據(jù)中心供使用。云服務的應用隨處可見，AWS、DigitalSea、Azure、GoogleCloud、VMWare在開發(fā)人員中耳熟能詳。但是，情況在發(fā)生變化。是什么導致了對邊緣設備和邊緣計算更受重視的新趨勢？邊緣到底是什么？

二、定義邊緣計算

云服務與邊緣計算－圖表

在Aran Khanna的“邊緣深度學習”一文中，給邊緣設備下了一個非常簡潔的定義。“邊緣設備本質(zhì)上是位于數(shù)據(jù)中心之外的任何設備。”因此，“邊緣計算”是一種新的模式，將大量的計算和存儲資源放置在互聯(lián)網(wǎng)的邊緣，靠近移動設備或傳感器

邊緣設備可能是你現(xiàn)在使用的手機�？梢允墙值篮豌y行周圍的監(jiān)控攝像頭。他們也不一定是體積很小的的東西，自動駕駛汽車也被認為是邊緣設備。就像Peter Levine所講的 ，使用這些設備，實時和現(xiàn)實世界的信息收集變得更加容易，并且隨著物聯(lián)網(wǎng)設備的普及，信息收集也越來越廣泛。此外，這些設備會生成許多真實世界的數(shù)據(jù)，如圖像和視頻。

邊緣設備不斷豐富的最大問題之一是產(chǎn)生的數(shù)據(jù)量越來越龐大。一個幀速率為10赫茲的監(jiān)視攝像機可以產(chǎn)生超過每秒250 MB數(shù)據(jù)。將飛行數(shù)據(jù)連網(wǎng)的飛機每天生成5TB的數(shù)據(jù)。自動駕駛汽車每天4TB數(shù)據(jù)。這些還僅是針對個人設備的統(tǒng)計。想象一下，如果這些設備中一部分將原始數(shù)據(jù)發(fā)送到集中式服務器，那通信量將有多大。在需要進行準實時處理的場景下，設備的帶寬和延遲問題是云計算結構不再適用的原因之一。

另一個問題是能源消耗。Harvard SEAS的一位計算機架構師David Brooks指出，在互聯(lián)網(wǎng)上傳輸一個比特位的能源消耗是500微焦耳。根據(jù)他的計算，2015年，每個月的手機數(shù)據(jù)使用量為3．7EB，從而達到500太瓦時的能源消耗，世界上2％的能源消耗用于移動電話的數(shù)據(jù)傳輸。而邊緣計算可以大大降低這種能源消耗。

白小白：

此處原文的數(shù)據(jù)是有問題的，或者說原文所引用的Brooks的原話是有問題的。這段數(shù)據(jù)來自視頻中3分50秒處開始， 5分鐘左右有個小笑點，也是關于500太瓦時這個數(shù)據(jù)的引用處。3．7EB是3．41＊10＾19Bit，從而是1．7＊10＾22Microjoule，即4．73＊10＾9KWh，即4．73Terawatt，而原文是500Terawatt。按2015年全球耗電21153TW（數(shù)據(jù)來源statista．com）來說，手機數(shù)據(jù)的耗電占0．27％，按照500TW計算則為2．36％。Anyway，文章主要想強調(diào)的是邊緣計算可以帶來的能源節(jié)約。

在使用云服務時，一個重要的考慮因素是隱私和安全性。數(shù)據(jù)泄露越來越普遍。以及必須確保用戶隱私的組織（如醫(yī)院）不能直接向其云服務發(fā)送原始數(shù)據(jù)。這就必須在邊緣層面進行預處理。

邊緣計算金字塔

由于上述的場景和問題，邊緣計算應運而生。在這種體系結構中，無論是以設備本地執(zhí)行計算的形式，還是通過在設備附近部署一個微型云的方式，或者兩種形態(tài)的組合方式，計算行為都在物理上更接近設備。由微型云組成的中間層有時也被稱為“霧”，而這些云有時被稱為“霧節(jié)點”。這種“云－霧－邊緣”架構帶來了許多好處。其中四個主要優(yōu)點是延遲時間短、邊緣分析成本低、隱私策略的加強以及可靠性的提高。

與云相比，邊緣設備和霧節(jié)點在物理上更接近，通常只有一步之遙，而邊緣設備到中心云節(jié)點通常路途遙遠。霧節(jié)點甚至可以通過有線連接到邊緣設備。這提供了更低的延遲和更高的帶寬，因為與中心云相比，霧節(jié)點連接到的設備數(shù)量要少得多。在霧節(jié)點中管理數(shù)據(jù)可以帶來更低的響應時間消耗。

邊緣設備收集的數(shù)據(jù)是巨大的，特別是由高速率數(shù)據(jù)設備收集的數(shù)據(jù)．將所有這些數(shù)據(jù)發(fā)送到云端進行分析和推斷會占用寶貴的帶寬，而且在許多情況下是不可能實現(xiàn)的。在邊緣設備或霧節(jié)點執(zhí)行諸如采樣和消隱之類的預處理可以大大減少正在傳輸?shù)臄?shù)據(jù)量，并允許將結構化數(shù)據(jù)直接發(fā)送到中心云端存儲或進一步處理。因此，以較低的成本，消耗較少的帶寬和能源是可以實現(xiàn)的。在本地節(jié)點上進行的這種預處理還可以確保執(zhí)行必要的隱私策略，例如從醫(yī)院報告中編輯敏感和可識別的信息，以及模糊來自攝像機的面部信息。

哪里有海量數(shù)據(jù)，哪里就有機器學習。因此，邊緣設備和邊緣計算與機器學習有著密切的關系。例如，一個監(jiān)視攝像頭不斷地生成它所覆蓋的區(qū)域的圖像。這種相機可能會利用深度學習來識別人類或汽車等特定的物體，并且可以移動視角以保持監(jiān)視信息的完整。自動駕駛汽車需要根據(jù)從傳感器和攝像機接收到的數(shù)據(jù)來計算其下一個動作，所有這些因素都必須通過機器學習模型進行適當?shù)耐评�。一個有趣的用例是Chang等人關于使用機器學習進行網(wǎng)絡邊緣緩存的工作。他們聲稱，通過準確分析用戶在某一區(qū)域的行為，從移動電話和個人電腦等邊緣設備獲取數(shù)據(jù)，并在數(shù)據(jù)上構建無監(jiān)督學習的集群，可以主動地將適當?shù)膬?nèi)容緩存在用戶的邊緣設備中或在鄰近區(qū)域的云端，以獲得較低的延遲并節(jié)約能源。隨著物聯(lián)網(wǎng)應用越來越富有創(chuàng)造力，并滲透到我們的日常生活中，機器學習在邊緣的應用可能是無限的。

三、邊緣計算與機器學習的復雜性

一種用于在邊緣計算環(huán)境中進行機器學習的示例模型

與中心云服務器或霧節(jié)點相比，邊緣設備的內(nèi)存要小得多，計算能力也要小得多。然而，大多數(shù)這些設備必須根據(jù)它們收集到的輸入信息做出近乎實時的決定。這些設備中的大多數(shù)不可能保存它們生成的數(shù)據(jù)，并使用這些數(shù)據(jù)來構建機器學習模型。過去幾年，大多數(shù)應用程序是處理推斷（注）的方式，是將數(shù)據(jù)上傳到云中，并通過云中的模型運行輸入數(shù)據(jù) ，并將響應結果返回到邊緣設備。然而，對于需要近乎實時響應的應用程序來說，這不是一個理想的解決方案。

白小白：

所謂推斷。舉例來說，就是給神經(jīng)網(wǎng)絡一堆貓的圖片進行訓練學習，當給定一堆新的圖片時，模型從中找出貓的過程。當然這只是人工智能的應用場景之一，即圖像識別。關于人工智能和機器學習，更多的內(nèi)容，可以參考宋瀟男的文章《AI雜談：從洗衣機到老鼠屁股》和《一起來DIY一個人工智能實驗室吧》 以及李廣珍博士的《擁抱人工智能，從機器學習開始》 。

在這種情況下，有幾種邊緣計算的方案可供選擇：

方案一：將訓練好的模型放在邊緣設備

模型在遠程機器中訓練并部署到邊緣設備上，這樣，智能手機等移動設備具有足夠的計算能力和內(nèi)存來執(zhí)行模型和推理。在這種情況下，邊緣設備所收集的數(shù)據(jù)可以通過部署的模型運行，并且可以實現(xiàn)近乎實時的推斷。然后，這些數(shù)據(jù)可以發(fā)送到云，并通過遷移學習，集成到現(xiàn)有的模型中，以提高其準確性。聽起來不錯吧？不完全是。

白小白：

遷移學習，是將學習到的知識進行存儲和轉移以解決新問題的方法。簡單講，學會了識別小汽車，就可以將相關知識轉移到識別卡車的模型中，至少關于輪子、后視鏡等存在一定的共通性。

亞馬遜的人工智能和該公司如何使用邊緣

方案二：對模型本身進行瘦身（壓縮）

這些模型本身可能相當大，特別是典型的具有無數(shù)參數(shù)和權重值過濾器的深度學習模型。這種大小可能使邊緣設備無力運行經(jīng)過訓練的模型，也可能阻礙設備生成和保存生成的數(shù)據(jù)的能力。然而，有一些技巧可以執(zhí)行。在云上訓練的占用更多空間的模型可以采用“量化”的方式來進行瘦身從而部署在邊緣設備上。量化過程基本上是將機器學習模型中權值的大小從32位浮點權值減少到16位或8位的精度。這不僅有助于簡化模型，而且還允許更快的執(zhí)行推斷，而不需要為邊緣設備創(chuàng)建不同的流水線和單獨建立不同的模型。這種方法的一個小缺點是精度略有降低，但在需要更快推理而非追求完美精確的應用中，這可能是非常有益的。

白小白：

所謂流水線。是指機器學習的模型通常需要整合多個組成部分和環(huán)節(jié)在一起來輸出最終的結果，這個整合的過程即“流水線”，有點類似于軟件開發(fā)過程中，開發(fā)－＞編譯－＞部署－＞預生產(chǎn)－＞生產(chǎn)，數(shù)據(jù)科學也有源數(shù)據(jù)的提取轉換－＞預處理－＞特征選�。�＞模型訓練等一系列的過程。段尾作者給出的Tensorflow的“量化”的介紹地址已經(jīng)404了，在這個地址可以看到關于浮點精確性下降的量化解釋。

方法三：將模型能力限定在特定子域

在邊緣設備中進行更快推斷的另一種方法是將模型的能力限制在特定的子域之上，這些子域僅服務于邊緣設備所應執(zhí)行的任務。這方面的一個完美例子是Nikouei等人提出的輕量級CNN，該項目的目的是讓更多運行在邊緣設備的人工智能作出更快和更好的推斷。文中所舉的示例中，邊緣設備是一個監(jiān)視攝像頭，用以檢測到人類。細節(jié)不作過多解釋，簡單講，L－CNN在不犧牲太多精確性的前提下保持了高性能，方法就是專門為人類檢測建立檢測方法，以減少不必要的過濾器。L－CNN能更有效地利用設備的資源。因此，建立一定的約束條件，機器學習可以很好的集成到邊緣計算中，以獲得更快、更低成本的推理能力。

方案四：Bonsai模型

L－CNN是為諸如Raspberry PI（基于Linux的單片機）一樣的內(nèi)存接近1GB的更智能的邊緣設備開發(fā)的。這個假設是可以接受的，畢竟處理圖像數(shù)據(jù)需要大量的資源。然而，我們可以為資源更稀缺的邊緣設備開發(fā)算法，這一點體現(xiàn)在Kumar等人開發(fā)的Bonsai樹算法中（。Bonsai是一種致力于解決資源高效型設備機器學習的算法，Bonsai（適用于通常在醫(yī)療、工業(yè)或農(nóng)業(yè)應用中充當傳感器的小得多的設備，模型大小小于2kb，可以匹配不同的應用程序和數(shù)據(jù)集，由“基于在低維空間中學習到的單一、淺層、稀疏樹的新模型”實現(xiàn)。在邊緣設備上部署模型，而不是從云獲得推論，還具有離線功能的額外優(yōu)勢。

白小白：

Bonsai，盆景（盆栽）是在中國發(fā)明，之后傳到日本、越南和朝鮮特有的一種傳統(tǒng)藝術，約有一千二百多年歷史。按中文維基百科的解釋，是寓意于景，以觀四季。按Bonsai英文維基百科的解釋，是“在容器中制造一棵與完整的樹相同形態(tài)的小樹”。

四、邊緣計算的未來挑戰(zhàn)

邊緣計算的優(yōu)點和優(yōu)點

云時代的一個典型好處是集中化及其帶來的管理的便利性。隨著計算分布在許多節(jié)點和設備上，管理問題也隨之出現(xiàn)。此外，集中式系統(tǒng)更容易提供安全性。隨著網(wǎng)絡中設備數(shù)量的增加，網(wǎng)絡的安全性越來越難保證。對設備的物理篡改成為可能。在邊緣設備與霧節(jié)點之間或霧節(jié)點與中央云之間的數(shù)據(jù)傳輸中實施插入惡意代碼成為可能。當然，隨著大家的努力，這些挑戰(zhàn)已經(jīng)得到解決，因此，在邊緣計算面前的道路似乎越來越清晰。

最后，云中心模式當然不會消失。對于需要大量計算和存儲的許多其他用例，我們?nèi)匀恍枰獢?shù)據(jù)中心。然而，除非出現(xiàn)另一次重大的變革，邊緣計算仍舊是未來的方向。

邊緣計算云計算

標簽： Google isp linux 安全 代碼 服務器 互聯(lián)網(wǎng) 通信 網(wǎng)絡 云服務 云服務器 云計算

版權申明：本站文章部分自網(wǎng)絡，如有侵權，請聯(lián)系：west999com@outlook.com
特別注意：本站所有轉載文章言論不代表本站觀點！
本站所提供的圖片等素材，版權歸原作者所有，如需使用，請與原作者聯(lián)系。