近日，ISCA 2018，同時也是第 45 屆 ISCA，于當地時間 6 月 2 日至 6 日在美國加州洛杉磯市召開。

ISCA(International Symposium on Computer Architecture)是計算機體系結構領域的頂級學術會議，由 ACM SIGARCH(計算機系統(tǒng)結構特殊興趣組) 和 IEEE TCCA(計算機架構技術委員會)聯(lián)合舉辦。在計算機領域的各種應用和人才遍地開花、大數據與深度學習引發(fā)新的發(fā)展浪潮的當代，ISCA 的會議規(guī)模也有所擴大 —— 接近歷史紀錄的超過 785 名參會者，以及比去年增加了 17%、達到了共 378 篇的論文投稿;最終接收論文數目為 64 篇，接收率為 17%。據了解，從 1973 年創(chuàng)辦到 2008 年在北京召開的這 35 屆 ISCA 大會中，中國大陸科研機構一共只發(fā)表過 5 篇文章。這些數字都體現了計算機架構領域的深度、ISCA 會議的難度與聲譽。(相比之下機器學習領域相關會議近年來出現的海量投稿數可以看做體現了大家都認為「這有什么難，我也可以發(fā)論文」)

除了例行的大會報告、圓桌討論、論文 session、workshop、tutorial、洛杉磯市內觀光大巴游覽之外，會議還有一大亮點是邀請了今年 3 月剛剛頒布的圖靈獎獲得者 John L. Hennessy 和 David A. Patterson 到場演講。實際上，二人獲得有「計算機領域的諾貝爾獎」之稱的圖靈獎，正是因為二人「開創(chuàng)了一種系統(tǒng)的、定量的方法來設計和評價計算機體系結構，并對 RISC 微處理器行業(yè)產生了持久的影響」(ACM 頒獎詞)，這正是 ISCA 會議關注的核心課題之一。獲獎后在 ISCA 進行主題演講，二人想必也收到了最熱烈的掌聲和最高的敬意。

 

 

ISCA 2018 現場，John L. Hennessy(左) 和 David A. Patterson(右)與 Alan Turing 的半身像合影會議概況

 

 

第一天早上的開幕演講中組委會首先介紹了會議概況。如前文所說，今年 ISCA 共有超過 785 名參會者，大約 710 名參與了會議正會。這一數字有可能會創(chuàng)下 ISCA 這 45 年來的新的歷史紀錄。會議設置了 18 個論文報告 session，主題包括云和數據中心、新興 app 的加速、預讀取(prefetching)、語言和模型、虛擬內存、相關性與存儲排序、新興范式、持續(xù)性(persistence)、新興內存、存儲器、控制器和控制系統(tǒng)、移動平臺、安全、互聯(lián)網絡、GPU，以及近年來火熱的機器學習系統(tǒng)。

除了 John Hennessy 與 David Patterson 的圖靈獎獲獎演講外，還有三位特邀嘉賓 Kim Hazelwood、Kunle Olukotun、Doug Burger 的主題演講以及 ACM - IEEE CS Eckert-Mauchly 獎獲得者 Susan Eggers 的演講。

 

 

ISCA 2018 的論文投稿為 378 篇，比去年增加了 17%;接收論文數目為 64 篇，接收率為 17%。接收結果出自程序委員會對論文進行的兩個階段的詳細評審。投稿論文中數量最多的研究課題為加速及領域專用架構，前十熱門的課題還有內存系統(tǒng)、多核和并行架構、微架構、低功耗架構與技術、新興內存技術、層級化緩存、新興計算架構、云與數據中心規(guī)模的計算、計算機系統(tǒng)的評價。

 

 

組委會也設法統(tǒng)計了會議中的性別平衡情況：在提交論文時作者們可以自愿提供性別信息，參與了信息提交的論文約占 37%;這部分論文的統(tǒng)計結果是，約 15% 的論文投稿中至少有 1 位女性作者，同時 15% 的接收論文的第一作者為女性!組委會也期待這個領域的性別比例未來可以繼續(xù)改善。

特邀嘉賓演講

首位演講的特邀嘉賓是來自 Facebook 的 Kim Hazelwood。Kim 是 Facebook 人工智能基礎設施團隊(Facebook AI Infrastructure Foundation)的負責人，這個團隊的職責是為 Facebook 的的生產化和移動化機器學習應用設計高效的、可拓展的軟硬件平臺，而她自己的研究興趣包括負載描述、性能分析、計算機系統(tǒng)架構以及可拓展的數據中心系統(tǒng)。

Kim Hazelwood 的演講主題為「Applied Machine Learning at Facebook Scale: Separating Opportunity from Hype」(Facebook 規(guī)模的機器學習應用：從熱潮中看到機會)，介紹了在熱炒的機器學習概念背后，Facebook 為了真正地應用機器學習技術做出的努力和相關的發(fā)現;這里也是機器學習和計算機架構設計的交叉點。演講中有一些對機器學習領域的研究人員以及應用開發(fā)人員很有啟發(fā)的信息：

 

 

用一定的數據訓練一個模型需要多少計算量、多少時間大家基本都心里有數，那么推理階段的計算量需求如何呢?實際上 Facebook 的機器學習模型每天要做超過兩千億次推理，其中包括五十億次語言翻譯，以及數百萬次的由自動檢測系統(tǒng)主動地刪除假冒賬戶。

 

 

在研究機器學習理論本身的人看來，工作流程分為「數據-特征-訓練-評價-推理」五部分是自然而然的事情。而根據機器學習算法應用時的系統(tǒng)需求來看，計算機架構研究人員眼中的機器學習對數據的存儲、網絡連接、計算能力都提出了新的挑戰(zhàn)。

 

 

大規(guī)模應用機器學習系統(tǒng)時的系統(tǒng)瓶頸在哪里?我們現在對計算和存儲都有許多的并行化手段，所以根據阿姆達爾定律，最大的瓶頸已經變成了(難以并行化的)網絡連接。

 

 

從工程角度看，什么樣的研究投入方式是有效的?不是什么熱就投入什么，投入程度應當和機會(也就是系統(tǒng)瓶頸)相對應。假如網絡因素對系統(tǒng)瓶頸的貢獻為 75%，那么就不應當在已經熱門的計算領域投入 75%，而就應該在網絡因素方面投入 75%。

 

 

所以 Kim 也提出了自己的「機會方程」：正確的投入方式需要有一些不平衡;要小心別人一窩蜂擠進去的領域。已經擁入很多研究者的領域包括量化、做硬件的推理加速器初創(chuàng)公司、不必要的深度學習方法。而計算、網絡與存儲之間的平衡，工具、編譯器、軟件，端到端解決方案等課題就是不那么火熱的、更適合的投入方向。

 

 

 

 

目前全世界已經有超過 10 億部手機上運行著神經網絡應用。在移動設備上本地運行的機器學習算法在隱私性、本地響應性和用戶體驗上都有更好的表現，但移動設備的一大挑戰(zhàn)就是計算能力非常有限，使用 ARM 處理器的設備中 60% 還是基于老舊的 32 位 arm-v7 指令集，同時超過半數的設備只有不多于 4 個核心。這樣的結果就是，峰值計算性能高于 200 GFlops 的設備只有不到 20%，高于 600 GFlops 的簡直鳳毛麟角。

 

 

網絡連接狀況也不容樂觀，4G 網絡的覆蓋區(qū)域非常有限，更別提還有很多連 2G 都沒有的區(qū)域了。(雷鋒網 AI 科技評論注：中國區(qū)域是黑色應該只是因為 Facebook 沒有詳細的數據。實際上根據中國信息通信研究院發(fā)布的數據，截至 2017 年 6 月，我國 4G 基站已累計建成約 300 萬個，而全世界的 4G 基站總數也就只有約 500 萬個)

 

 

而如果想要開發(fā)在移動設備上運行的機器學習模型，嚴重的生態(tài)碎片化也帶來了許多麻煩：超過 20 家芯片制造商、超過 25 種處理器微架構、超過 15 種 GPU 架構、兩種主流操作系統(tǒng)、三種主流圖形 API、兩種主流計算 API。

除了移動計算的挑戰(zhàn)之外，大規(guī)�？赏卣箼C器學習應用也需要面對晝夜負載不平衡、硬件設施采購慣性、容災與恢復、軟件平臺設計等挑戰(zhàn)。在演講最后，Kim 希望大家不要忘記了各項技術發(fā)展的基本規(guī)律，并以此著眼解決那些真正重大的問題。

圖靈獎演講

 

 

Alphabet 公司董事長、斯坦福大學前校長 John Hennessy 與谷歌 TPU 團隊、UC 伯克利大學退休教授David Patterson 的圖靈獎獲獎演講自然也是會議的重頭戲之一。他們的演講題目是「A New Golden Age for Computer Architecture: Domain-Specific Hardware/Software Co-Design, Enhanced Security, Open Instruction Sets, and Agile Chip Development」(計算機架構的新的黃金時代：領域專用的軟硬件協(xié)同設計，增強的安全性，開放指令集，以及敏捷芯片開發(fā))。

 

 

演講內容要點如下：

自 1980 年代 Carver Mead 和 Lynn Conway 讓芯片設計變得平民化，以及高級編程語言取代了機器語言之后，RISC、超標量、多級緩存、預測與編譯等方面的計算機架構創(chuàng)新開啟了電子計算機發(fā)展的一個黃金時代，計算機的性能幾乎每年都可以增長 60%。稍后到了 1990 和 2000 年代，計算架構方面的創(chuàng)新雖然開始放緩，但不斷增加的處理器頻率和不斷增大的處理器緩存依然引領了計算性能的持續(xù)提高。直到近年來 Dennard 縮放定律和摩爾定律也開始失效，2017 年時單核心處理的性能僅僅比上一年提升了 3%。除了處理器性能提升遇到困難之外，Spectre 之類的漏洞也展示出了基于運行時間的攻擊導致信息泄露的風險。

上一個黃金時代已經結束，但 John Hennessy 與 David Patterson 認為一個新的黃金時代即將開始。這個黃金時代的主題是大幅改善的成本、性能、能源消耗以及安全性。面對著已經失效的 Dennard 縮放定律和摩爾定律無法繼續(xù)提供指數增加的資源，這些計算架構方面的挑戰(zhàn)要比以前的挑戰(zhàn)更難解決。二人認為，以下的幾個領域對這個新的時代至關重要：

 

 

John Hennessy 與 David Patterson 兩人相信，標準的微處理越來越難以提升的性能、高級別領域專用的語言與安全性方面的機會、專有 ISA 鏈上的架構設計師的解放、以及 Dennard 縮放定律和摩爾定律的失效將共同帶來一個計算架構的新的黃金時代。開源生態(tài)系統(tǒng)、芯片原型的敏捷開發(fā)都會帶來實實在在的進步，從而加速商業(yè)應用。兩人期待新的黃金時代的技術進步會像上一個時代一樣地快，只不過如今的關注點是在于成本、能耗、安全，同時兼顧性能。

ACM - IEEE CS Eckert-Mauchly 頒獎

在 ISCA 2018 的頒獎環(huán)節(jié)，除了多位新入選 IEEE Fellow、ACM Fellow 的頒獎，以及多個 ACM SIGARCH、IEEE TCCA 獎項外，還有一個重頭戲，那就是 Eckert-Mauchly 獎的頒獎。

ACM - IEEE CS Eckert-Mauchly 獎是計算機體系結構領域最負盛名的獎項，獲獎者由 ACM 和 IEEE 共同評選，獎項命名來源于 1947 年誕生的首臺電子計算機 ENIAC 的設計者和制造者 John Presper Eckert 與 John William Mauchly(可見獎項的重大意義)，旨在獎勵在計算機及數字化系統(tǒng)架構方面做出杰出貢獻的研究者。

 

 

2018 年 ACM - IEEE CS Eckert-Mauchly 獎的獲得者是華盛頓大學計算機科學與工程學院教授 Susan Eggers，以表彰她在同步多線程處理器架構和多處理器緩存共享與一致性方面的杰出貢獻。Susan Eggers 是領域內頂尖的計算機架構設計師，是 Eckert-Mauchly 獎設立 39 年來的第一位女性獲得者，還是一位經歷非常獨特的工程師。Susan Eggers 于 1965 年獲得了經濟學碩士學位，在相關領域工作了 18 年后，決定改變職業(yè)，轉向了計算機工程方面的研究。1983 年，Susan Eggers 進入 UC 伯克利大學電子工程和計算機科學系讀研究生，于 1989 年獲得博士學位，然后來到華盛頓大學以助理教授的身份開始她的學術生涯;此時的她已經 47 歲。

從 1980 年代末起，Susan Eggers 在共享緩存的一致性(coherency)協(xié)議以及其他內存相關的多處理器問題中做出了重大成果;她展開了最早的數據驅動方法的關于共享內存的多處理器計算機的實驗，這極大地提升了整個領域對于軟件和硬件一致性技術的理解。她也因此在 2002 年當選 ACM Fellow。

Susan Eggers 最著名的成果是在同步多線程(simultaneous multithreaded，SMT)處理器的開發(fā)以及商業(yè)化方面的開創(chuàng)性工作;這是過去三十年的計算機架構發(fā)展歷程中最重要的進步之一。面對簡單增加邏輯和存儲單元無法繼續(xù)顯著提升處理器性能的狀況，Susan Eggers 等研究者提出，讓計算機有能力同時計算多項操作、執(zhí)行多個進程，也就是提升計算機的并行計算能力，是最好的提升性能方式。在 1995 到 2003 年間，Susan Eggers 和她的同事們開發(fā)并驗證了同步多線程技術，作為提升 CPU 性能的新方式。同步多線程技術允許多個獨立的程序指令序列(也就是線程)把它們的線程并行方式轉化為更簡單的指令級別的并行方式，從而更好地利用了計算機中的資源，達到了性能提升。Susan Eggers 和她的同事們在 ISCA 發(fā)表了多篇標志性的論文并介紹了許多領先發(fā)現，展現了同步多線程技術背后的思想、顯著的性能提升以及實現這項技術的簡易性。

 

 

ISCA 2018 現場，Susan Eggers 上臺領獎

對 ISCA 2018 的介紹就到這里。

ISCA 2018 官網：iscaconf.org

圖靈獎演講視頻回放：https://www.acm.org/hennessy-patterson-turing-lecture

現場照片來源 IEEE Soft-magazine 及 清華大學博士生涂鋒斌，特此感謝。

標簽： https 安全 大數據 谷歌 互聯(lián)網 互聯(lián)網絡 漏洞 通信 網絡 移動平臺

版權申明：本站文章部分自網絡，如有侵權，請聯(lián)系：west999com@outlook.com
特別注意：本站所有轉載文章言論不代表本站觀點！
本站所提供的圖片等素材，版權歸原作者所有，如需使用，請與原作者聯(lián)系。