在 2012 年的 ImageNet 挑戰賽（ILSVRC）上，深度卷積神經網絡 AlexNet 橫空出世，在圖像分類識別領域實現了質的飛躍，被認為是 AI 時代的標志性事件，代表著深度學習時代的正式開端。
在此之前，深度學習“如何出圈”的一大挑戰，就是深度神經網絡訓練面臨算力不足的難題。而讓 AlexNet 實現算力突破的關鍵，就在于當時研究者使用了英偉達的 GPU。
GPU 一戰成名，成為伴隨 AI 技術一同進化的基礎設施。英偉達也同時抓住了 AI 計算的新增長機遇。隨著 AI 算力要求的爆炸式增長，英偉達 GPU 產品系列也經歷了多輪的升級。
現在，英偉達的 GPU 家族又迎來一次 “史上最大”的性能升級。而此次升級距離上一次發布“地表最強 AI 芯片”Tesla V100 已經過去三年。
三年蟄伏，一鳴驚人。
?。∟VIDIA A100 GPU）
英偉達首次推出第 8 代安培 GPU 架構，以及首款基于安培架構的 NVIDIA A100 GPU，采用 7nm 工藝，在和上一代 Volta 架構 V100 GPU 幾乎相同面積的晶圓上放置了超過 540 億個晶體管，晶體管數量增長了 2.5 倍，但尺寸卻僅大了 1.3%，而在 AI 訓練和推理算力上，均較上一代 Volta 架構提升 20 倍，HPC 性能提升到上一代的 2.5 倍。
A100 GPU 的獨特之處在于，作為一個端到端機器學習加速器，第一次在一個平臺上面統一了 AI 訓練和推理，同時也將作為數據分析、科學計算和云圖形設計等通用工作負載的加速器。簡單來說 A100 GPU 就是為數據中心而生的。
在 A100 GPU 的基礎上，英偉達同時發布了全球最強 AI 和 HPC 服務器平臺——HGX A100，全球最先進的 AI 系統——DGX A100 系統，以及由 140 個 DGX A100 系統組成的 DGX SuperPOD 集群。此外，還有涉及智能網卡、邊緣 AI 服務器、自動駕駛平臺合作以及一系列軟件層面的平臺型產品的發布。
可以說，英偉達這次不是放出一顆“核彈”，而是一個“核彈集群”，還是飽和攻擊的那種。英偉達從云端到邊緣再到端側，從硬件到軟件再到開源生態，幾乎建立起一個堅不可摧的 AI 計算的壁壘，同時也將 AI 芯片的競爭帶上了一個小玩家難以企及的高度。
英偉達的 AI 服務器芯片業務正在發生哪些新變化？A100 GPU 的發布，對于 AI 服務器芯片市場有哪些影響，以及對于云計算市場帶來哪些變化？這成為我們在“看熱鬧”之余，要重點探討的幾個問題。
AI 服務器芯片：英偉達 AI 計算增長新極點
眾所周知，游戲、數據中心、專業視覺化以及自動駕駛等新興業務是英偉達的四大核心業務板塊。其中，游戲業務雖仍然是營收的支柱板塊，但是受到 PC 游戲市場趨于飽和并向移動端轉移的影響，獨顯業務的比重正在逐步縮小；專業視覺化業務一直為英偉達貢獻著穩定營收，但受其他業務增長的影響，業務占比也在持續下滑；自動駕駛等新興業務板塊，目前只占整體應收的很小部分，且增速有限，但可以看作是英偉達未來的長線市場。
?。∟vidia: Sequential Revenue Change）
最明顯的則是英特爾在數據中心業務板塊的增長。近幾年中其營收大部分時間處于高速增長狀態，且營收占比逐步靠近游戲業務。
根據英偉達最新的 2020 財年 Q4 財報數據顯示，”游戲“收入高達 14.9 億美元，約占總營收的 47%；而增長強勁的數據中心板塊，AI 服務器芯片的營收達到 9.68 億美元，同比增長了 42.6%，，逼近 10 億美元大關，遠遠超出市場預期的 8.29 億美元。
整體上，隨著全球數據中心，特別是超大型數據中心，對 AI 芯片需求的加速擴張，英偉達的 AI 服務器芯片也迎來了高速增長，正在躍升為英偉達最具有市場拓展潛力的業務分支。
從業務增長的前景上看，英偉達推出 A100 GPU 服務器芯片以及 AI 系統集群，所要把守住的正是在當前數據中心中 AI 服務器市場的霸主地位。
那么，英偉達正在如何構建這一 AI 服務器芯片的產品體系呢？
一般來說，對于深度神經網絡算法模型，其模型框架的訓練需要涉及非常龐大的數據計算，但運算方法要求又相對簡單，所以需要在云端進行大量高并行、高效率和高數據傳輸的運算。因此相較于擅長復雜邏輯運算、但核心數較少的 CPU，擁有多個計算單元的 GPU 更適合于進行深度神經網絡的訓練任務。
這是英偉達的 GPU 在全球云端 AI 服務器芯片市場，尤其是訓練端，贏得市場先機的根本原因。與此同時，英偉達針對一系列 AI 服務開發的完備的 TESLA GPU 產品線以及成功布局針對 GPU 的“CUDA”開發平臺，才是英偉達在 AI 服務器芯片市場一家獨大的主要原因。
從 2016 年推出第一個專為深度學習優化的 Pascal GPU，到 2017 年又推出性能相比 Pascal 提升 5 倍的新 GPU 架構 Volta，再到現在推出比 Volta 性能高 20 倍的 Ampere（安培）架構，英偉達在數據中心的 GPU 產品一直成功實現高速且穩定的性能提升。
此外，英偉達推出了神經網絡推理加速器 TensorRT，可以為深度學習應用提供低延遲、高吞吐率的部署推理加速，兼容目前幾乎所有主流的深度學習框架，使其能夠滿足超大數據中心從 AI 訓練到部署推理的完整的 AI 構建。
而在去年 3 月，英偉達宣布以 68 億美金收購了以色列網絡通信芯片公司 Mellanox。通過對 Mellanox 的加速網絡平臺的整合，英偉達可以解決通過智能網絡結構連接大量快速計算節點，以形成巨大的數據中心規模計算引擎的整體架構。
就在發布 A100 GPU 的同時，英偉達也基于 Mellanox 技術，推出全球第一款高度安全、高效的 25G/50G 以太智能網卡 SmartNIC，將廣泛應用于大型云計算數據中心，大幅優化網絡及存儲的工作負載，實現 AI 計算的更高安全性和網絡連接效能。
當然，收購 Mellanox 的意義不止于此，除了解決高性能的網絡連接和算力輸出問題，英偉達還將也擁有 GPU、SoC、NPU 面向不同細分領域的三大處理器，這意味著英偉達已基本具備了獨立打造 AI 數據中心的能力。
整體上，隨著云端數據中心正在從傳統的數據存儲向著進行深度學習、高性能計算（HPC）和大數據分析的方向演變，英偉達也將在其中扮演著更加重要的 AI 計算服務商的角色。
跨越英偉達的堅壁高墻，AI 計算競賽加劇
當然，云端 AI 服務器芯片市場還遠未到格局已定的地步，反而在 2019 年迎來最激烈的競爭態勢。
英偉達的 GPU 產品，因其高耗能和高價格一直制約著云計算數據中心的 AI 算力的成本。從服務器芯片市場的另一位大佬英特爾，到 AMD、高通，云計算服務商亞馬遜、谷歌、阿里、華為以及眾多新興的 AI 芯片創業公司，都在積極投入云端 AI 服務器芯片的研發，尋求替代 GPU 的解決方案。可見天下苦“GPU”久矣。
在 2019 年，相比英偉達的略顯沉寂，其他各家則紛紛推出了自己的 AI 服務器芯片產品。比如去年上半年，英特爾、亞馬遜、Facebook 以及高通都陸續推出或宣布推出自己的專用 AI 服務器芯片，試圖在 AI 推理運算上實現對 GPU 和 FPGA 的替代。年中，我國的主要云端 AI 廠商也集體發力，寒武紀在 6 月宣布推出第二代云端 AI 芯片思云 270；8 月，華為正式發布算力最強的 AI 處理器 Ascend910 及全場景 AI 計算框架 MindSpore；9 月，阿里推出當時號稱全球最強的 AI 推理芯片含光 800，基本都在對標英偉達的 T4 系列產品。
在所有 AI 芯片的競爭者中，作為第二名的英特爾顯然是最想挑戰英偉達的霸主位置，也是最有可能挑戰英偉達的代表。
作為通用服務器芯片的傳統巨頭，英特爾最有可能的策略就是把 GPU 和 AI 都融入到自己的 CISC 指令集和 CPU 生態中，也就是把 CPU 和 GPU 部署在一起，云服務商們只需購買一家的產品，就能更好地發揮 AI 計算的效能。
在 All IN AI 的英特爾那里，他們是如何來構建這一 AI 計算策略的？
英特爾最先補足的就是 AI 硬件平臺版圖，而收購則是最快的方案。2015 年，英特爾先是天價收購了 FPGA 的制造商 Altera，一年后又收購了 Nervana，為全新一代 AI 加速器芯片組奠定了基礎。
去年 12 月，英特爾再次花掉 20 億美元高價收購了成立僅 3 年的以色列數據中心 AI 芯片制造商 Habana Labs。與英偉達收購 Mellanox 一樣異曲同工，通過收購 Habana，英特爾也將補足數據中心場景下的通信和 AI 兩種能力。
受到這一收購的激勵，英特爾宣布停止去年 8 月才發布的用于 AI 訓練的 Nervana NNP-T，轉而專注于推進 Habana Labs 的 Gaudi 和 Goya 處理器產品，以對標英偉達的 tesla V100 和推理芯片 T4。此外，一款基于 Xe 架構的 GPU 也將在今年中旬面世。
在軟件層面，為應對異構計算帶來的挑戰，英偉達在去年 11 月發布了 OneAPI 公開發行版。不管是 CPU、GPU、FPGA 還是加速器，OneAPI 都嘗試最大程度來簡化和統一這些跨 SVMS 架構的創新，以釋放硬件性能。
盡管英特爾以“全力以赴”的姿態投入到 AI 計算當中，通過四處出手收編了涵蓋 GPU、FPGA 到 ASIC 的 AI 芯片產品陣列，并建立了廣泛適用的軟硬件生態。但是在挑戰英偉達的通用 GPU 產品上面，仍然還有一定距離。
首先，英特爾通過 CPU 適用于 AI 計算的策略一直未能得到主要云計算廠商的青睞，大多數廠商仍然樂于選擇 CPU+GPU 或 FPGA 的方案來部署其 AI 訓練的硬件方案。而 GPU 仍然是英偉達的主場，V100 和 T4 仍然是當下數據中心主流的通用 GPU 和推理加速器。
其次，英特爾在 AI 芯片的布局才剛剛發力，受到 Nervana AI 芯片一再延遲的影響，Habana 產品才剛剛開始進行整合，這將使得英特爾短期內難以挑戰英偉達的 AI 服務器芯片的市場份額。
而現在英偉達最新的安培架構的 A100 GPU 以及 AI 系統集群的發布，更是給英特爾以及市場其他競爭對手一場飽和攻擊。盡管說，長期來看云計算廠商和 AI 服務器芯片廠商開發的定制芯片會侵蝕一部分 GPU 的份額，而如今都要先跨越英偉達 A100 所搭起的 AI 計算的堅壁與高墻。
AI 計算升級，帶來數據中心全新布局方案
我們先看數據中心本身的變化。受到 AI 相關應用需求和場景的爆發式增長，中小型數據中心無法承受如此巨量的“AI 計算之痛”，市場對超大型數據中心的需求越發強烈。
第一，以亞馬遜 AWS、微軟 Azure、阿里、谷歌為代表的公有云巨頭，正在占據超大型數據中心的主要市場份額。一方面，超大型數據中心將帶來更多的服務器及配套硬件的增長；另一方面，AI 算法的復雜度增加和 AI 處理任務的持續增長，又需要服務器的配置以及結構得到持續升級。
在一些視覺識別為主的 AI 企業，建立一個超算中心就需要部署上萬塊 GPU，對于那些 TOP 級云服務商的云計算數據中心，為支持深度學習訓練任務，所需要的 GPU 量級也將是海量級別。
第二，云服務廠商都在推出自研的芯片，來緩解因為價格昂貴和數據量巨大而帶來的 GPU 計算成本飆升的問題。這些廠商推出的大多是推理芯片，以節省 GPU 的通用算力。但這些推理芯片只在通用性上面的不足，造成其很難突破自研自用的局面。
那么,英偉達的 A100 GPU 芯片的發布，對云計算數據中心帶來哪些新的變化呢？或者說為 AI 服務器芯片的對手們設立了怎樣的門檻呢？
首先，作為采用全新的安培架構的 A100 GPU，支持每秒 1.5TB 的緩沖帶寬處理，支持 TF32 運算和 FP64 雙精度運算，分別帶來高達 20 倍 FP32 的 AI 計算性能和 HPC 應用 2.5 倍的性能提升。此外還包括 MIG 新架構、NVLink 3.0 以及 AI 運算結構的稀疏性等特性，這些使得 A100 加速卡不僅可用于 AI 訓練和 AI 推理，還可以用于科學仿真、AI 對話、基因組與高性能數據分析、地震建模及財務計算等多種通用計算能力。而這一解決方案有可能緩解很多云服務廠商在推理上面的計算壓力，也對其他廠商的推理芯片帶來一定的競爭壓力。
其次，英偉達發布的第三代的 DGX A100 的 AI 系統在提高吞吐量同時，大幅降低數據中心的成本。由于 A100 內置了新的彈性計算技術，可以分布式的方式進行靈活拆分，多實例 GPU 能力允許每個 A100 GPU 被分割成多達七個獨立的實例來推斷任務，同時也可以將多個 A100 作為一個巨型 GPU 運行，以完成更大的訓練任務。
?。ā癟he more you buy，the more money you save！”）
用黃仁勛舉的例子來說，一個典型的 AI 數據中心有 50 個 DGX-1 系統用于 AI 訓練，600 個 CPU 系統用于 AI 推理，需用 25 個機架，消耗 630kW 功率，成本逾 1100 萬美元；而完成同樣的工作，一個由 5 個 DGX A100 系統組成的機架，達到相同的性能要求，只用 1 個機架，消耗 28kW 功率，花費約 100 萬美元。
也就是說，DGX A100 系統用一個機架，就能以 1/10 的成本、1/20 的功率、1/25 的空間取代一整個 AI 數據中心。
總體而言，英偉達用一套性能驚人又極具創新性的 AI 計算架構與 AI 服務器芯片硬件，帶來了 AI 數據中心計算平臺的全新升級。英偉達的野心將不再只是提供性能升級的 GPU 硬件產品，而是要重新定義數據中心的 AI 計算的規則，將數據中心視作基本的計算單元。
實際來講，一個 DGX A100 GPU 系統的單價就要 20 萬美元，對于要為了 AI 訓練而采購成千上萬塊企業級 GPU 的云計算廠商來說，可想而知成本將有多高?，F在，也只有全球主要的云計算廠商、IT 巨頭以及政府、實驗室為 DGX A100 下了初始訂單。
對于其他競爭對手而言，英偉達這次在 AI 服務器芯片及 AI 數據中心計算平臺鑄就的堅壁高墻，似乎在短期內難以逾越。同時，也會成為未來幾年，AI 服務器芯片廠商努力去對標的性能標準。當然，對英偉達 A100 的挑戰，也自然就此開始。至于是英特爾、AMD 還是 AWS、谷歌，我們拭目以待。