除了大量預定臺積電產能外，英偉達還斥巨資拿下了HBM3內存的供應合同。消息人士稱，該公司從美光和 SK海力士那里預購了700億至1萬億韓元的HBM3內存。雖然沒有關于這些款項具體用途的信息，但業界普遍認為其目的在于確保2024年HBM供應穩定。
此外，還有業內人士透露，三星電子、SK海力士、美光三大存儲公司明年的HBM產能已完全售罄。業界認為，由于AI行業半導體公司之間的激烈競爭，HBM市場預計將在未來兩年內實現快速增長。
根據現有爆料信息，英偉達正準備推出兩款配備HBM3E內存的產品：配備141GB HBM3E 的H200 GPU以及GH200超級芯片，因此英偉達需要大量HBM內存。
H200是目前世界上最強的AI芯片，也是世界上首款采用HBM3e的GPU，基于NVIDIAHopper架構打造，與H100相互兼容，可提供4.8 TB/s速度。
在人工智能方面，英偉達表示，HGX H200在Llama 2（700 億參數 LLM）上的推理速度比H100快了一倍。HGX H200將以4路和8路的配置提供，與H100系統中的軟件和硬件兼容。它將適用于每一種類型的數據中心（本地、云、混合云和邊緣），并由 Amazon Web Services、Google Cloud、Microsoft Azure 和 Oracle Cloud Infrastructure 等部署，將于 2024 年第二季度推出。
本站內容除特別聲明的原創文章之外，轉載內容只為傳遞更多信息，并不代表本網站贊同其觀點。轉載的所有的文章、圖片、音/視頻文件等資料的版權歸版權所有權人所有。本站采用的非本站原創文章及圖片等內容無法一一聯系確認版權者。如涉及作品內容、版權和其它問題，請及時通過電子郵件或電話通知我們，以便迅速采取適當措施，避免給雙方造成不必要的經濟損失。聯系電話：010-82306118；郵箱：aet@chinaaet.com。