商業技術洞察公司Gartner預測，到2030年，中國企業私有化部署的AI基礎設施所用AI加速卡，超50%將由中國廠商提供。

Gartner研究總監張吟鈴表示：“中國半導體行業發展迅速，目前市場上已有數十家AI加速卡廠商，其中至少10家已實現AI加速卡的量產。然而，由于制造能力限制和美國出口管制，中國的AI加速卡在技術上仍落后于全球領先企業。在采用中國AI加速卡時，企業不僅要考慮硬件兼容性，還要考慮模型適配以及管理異構系統的復雜性?！?/p>

中國半導體行業的快速發展使其與國外的技術差距縮小

過去十年來，在降低對外國技術依賴的政府戰略支持下，中國半導體行業取得了顯著進步。近年來，美國對AI加速卡的出口限制，進一步加速了中國AI加速卡解決方案的發展。根據最近的在線排名，中國目前已有超過30家AI加速卡公司。在Gartner追蹤的公司中，有近10家公司已實現AI服務器的量產，并占據了可觀的市場份額。

盡管發展步伐不斷加快，但中國的AI加速卡制程工藝在縮小與全球市場高端加速卡的性能差距方面，仍面臨重大挑戰，原因包括：半導體制造能力有限、缺乏本土先進芯片制程能力，以及美國政府對中國AI發展的持續限制——例如對高帶寬內存（HBM）的出口管制。因此，使用中國加速卡構建AI基礎設施的成本仍然較高。

為了提升計算性能，一些中國AI加速卡制造商已開始推出AI超級節點。這些解決方案使用專用的光網絡模塊和配備AI優化存儲的定制機柜，集成了幾十、幾百甚至幾千臺AI服務器，將所有硬件作為一個統一的系統交付。這種方法為AI模型訓練和推理提供了超低延遲和高帶寬。然而，對于企業客戶而言，AI超級節點對數據中心資源（包括供電、承重能力、冷卻和維護）提出了很高的要求。巨額的前期投資也是大多數公司面臨的主要障礙。

AI加速卡選型取決于生態系統兼容性

中國企業在評估AI加速卡時，生態系統兼容性已成為一項至關重要的考慮因素。與相對標準化的NVIDIA CUDA環境不同，中國AI加速卡的生態系統仍處于發展的早期階段。因此，要在不同供應商之間實現無縫集成仍然具有挑戰性。對于希望采用多家廠商加速卡的企業，必須注意以下問題：

硬件適配：盡管許多平臺聲稱與PyTorch和TensorFlow等開源框架兼容，或支持類似于CUDA生態系統的開發架構，但開發人員仍需要投入精力進行代碼轉換和校準，以確保最佳的硬件適配。

模型適配：當企業使用不同模型或更新到新版本時，不僅軟件開發工具需要升級——例如更新庫或連接到新的算子或API，AI加速卡層也需要進行適配。

異構管理：許多企業I&O團隊的運維能力有限，通常直接向AI開發團隊提供裸機硬件，然后由開發團隊部署Kubernetes等容器管理解決方案來分配計算資源。然而，管理多種類型的加速卡服務器會增加開發團隊的工作負載。為了解決這個問題，目前多家廠商可提供AI算力管理平臺或捆綁的AI開發套件。然而，由于每家廠商的資源有限，無法支持市面上的所有AI加速卡，因此，企業在做出選擇之前，應對各管理平臺進行仔細評估。