12 月 12 日消息，谷歌今天（12 月 12 日）發(fā)布博文，宣布正式向 Google Cloud 客戶開放第六代 TPU Trillium，希望憑借大的計算能力、高效的性能和可持續(xù)特性，更好推動 AI 模型發(fā)展。
Trillium TPU 是 Google Cloud AI 超級計算機（AI Hypercomputer）的關(guān)鍵組件，是一種突破性的超級計算機架構(gòu)，采用了一個由性能優(yōu)化的硬件、開放軟件、領(lǐng)先的機器學習框架和靈活的消費模型組成的集成系統(tǒng)。
曾于今年 5 月報道，在 I/O 開發(fā)者大會上，谷歌正式宣布 Trillium TPU。官方稱相比上一代，Trillium TPU 在訓練性能上提升 4 倍以上，推理吞吐量提升高達 3 倍，峰值計算性能提升 4.7 倍。
在效率方面，Trillium TPU 能源效率提高 67%，每美元訓練性能提升高達 2.5 倍，推理性能提升高達 1.4 倍。
在規(guī)模擴展方面，單個 Jupiter 網(wǎng)絡(luò)結(jié)構(gòu)可容納 10 萬個 Trillium 芯片，雙倍的 HBM 容量和 ICI 帶寬，支持大規(guī)模 AI 訓練。
官方稱 Trillium 近乎線性的擴展能力，配合高速芯片互連和 Jupiter 數(shù)據(jù)中心網(wǎng)絡(luò)，顯著加快大型模型訓練速度，在訓練 gpt3-175b 模型時，即使跨數(shù)據(jù)中心網(wǎng)絡(luò)運行，24 個 Pod（6144 個芯片）也能達到 94% 的擴展效率。
本站內(nèi)容除特別聲明的原創(chuàng)文章之外，轉(zhuǎn)載內(nèi)容只為傳遞更多信息，并不代表本網(wǎng)站贊同其觀點。轉(zhuǎn)載的所有的文章、圖片、音/視頻文件等資料的版權(quán)歸版權(quán)所有權(quán)人所有。本站采用的非本站原創(chuàng)文章及圖片等內(nèi)容無法一一聯(lián)系確認版權(quán)者。如涉及作品內(nèi)容、版權(quán)和其它問題，請及時通過電子郵件或電話通知我們，以便迅速采取適當措施，避免給雙方造成不必要的經(jīng)濟損失。聯(lián)系電話：010-82306118；郵箱：aet@chinaaet.com。