效能大幅提升!谷歌發布第六代AI芯片Trillium,性能飛躍4.7倍!

互聯網小事哥 2024-05-15 20:21:32

在I/O 2024開發者大會上,谷歌以一款名爲Trillium的第六代數據中心AI芯片的發布震動了科技界。據谷歌首席執行官Sundar Pichai透露,新型Trillium Tensor處理器單元(TPU)預計將在年內交付,屆時其計算性能將有巨大提升。

Trillium芯片在計算性能上實現了相較前一代TPU的巨大跨越,高達4.7倍的提升。這一進步的實現歸功于谷歌對芯片設計的優化,主要包括擴大矩陣乘法單元(MXU)的規模和增加整體時鍾速度。這一重大突破將會加速AI應用的處理速度,進而可能進一步穩固谷歌在雲計算和人工智能領域的領先地位。

除去性能的大幅提升,谷歌還宣布Trillium芯片的內存帶寬將翻倍。這一改進將大大提升數據處理的效率和速度,爲谷歌的數據中心和AI應用注入新的活力。期待這款高性能的AI芯片能在更多領域展現其強大潛力。

谷歌在Trillium芯片中引入了自家研發的最新技術——第三代SparseCore。這項技術作爲專門的計算加速器,能有效處理在複雜的排序和推薦任務中常見的超大規模嵌入問題,從而大大提升模型訓練的速度,同時降低服務延遲。這一技術創新不僅提升了Trillium的性能,也進一步增強了其在人工智能領域的應用潛力。

Pichai還特別提到了Trillium芯片在能效方面的表現。隨著人工智能芯片需求的急速增長,提升能效已經成爲行業發展的關鍵。Trillium在這方面有出色的表現,其能效比上一代産品提高了67%,據此成爲了谷歌至今最節能的TPU。

谷歌尚未公布Trillium芯片的更多細節,例如在谷歌雲服務中的使用成本等。但Pichai承諾,谷歌將繼續大舉投資于基礎設施,以支持公司的人工智能發展,並開拓新的技術前沿。

Trillium芯片是谷歌母公司Alphabet爲人工智能數據中心開發的定制芯片。這款芯片是市場上能夠替代英偉達産品的少數可行方案之一。借助與谷歌TPU緊密相連的軟件,這些芯片爲谷歌占據了相當大的市場份額。目前的情況是,英偉達控制了大約80%的人工智能數據中心芯片市場,剩余的20%的大部分由多種版本的谷歌TPU所掌控。谷歌並未直接出售芯片,而是通過雲計算平台出租訪問權限。

谷歌表示,新的第六代Trillium芯片的計算性能比前一代(TPU v5e)提高4.7倍,能效則提高了67%。這款芯片的主要用途是爲從大規模模型中生成文本和其他內容的技術提供動力。據谷歌表示,新的第六代TPU Trillium將在今年年底可以向其雲客戶提供。

0 阅读:13

互聯網小事哥

簡介:新鮮有料的互聯網科技資訊