調查:大量用戶正計劃由英偉達平台轉向AMDMI300X!

芯智訊 2024-03-11 12:04:08

3月10日消息,根據TensorWave最近公布的一項調查數據顯示,大量人工智能專業人士正計劃從英偉達的AI GPU平台轉向采用AMD最新的Instinct MI300X GPU。

TensorWave 聯合創始人 Jeff Tatarchuk 近日通過X平台透露,他們進行了一項獨立調查,涵蓋 82 名工程師和人工智能專業人士,其中約有 50% 的受訪者表示他們對 AMD Instinct MI300X GPU 充滿信心,因爲相比于英偉達的 H100 系列産品,MI300X 不僅擁有更出色的性價比,而且供應充足,避免了遇到貨源緊張的問題。Jeff 還提到,TensorWave 公司也將采用 MI300X 人工智能加速器。

顯然,這對于 AMD 來說無疑是個好消息。因爲以往其 Instinct 系列産品相比英偉達的競品,不僅性能要低一些,市場認可度也相對較低,這也導致其在AI芯片市場的份額遠低于英偉達。但是,AMD去年推出的最新的Instinct MI300X GPU在性能上成功超越了英偉達明星産品H100。

根據資料顯示,AMD Instinct MI300X 內部集成了12個5/6nm工藝的小芯片(HMB和I/O爲6nm),擁有1530億個晶體管。在內核設計上,采用了相比MI250X更簡單的設計,放棄了 APU 的 24 個Zen4內核和 I/O 芯片,取而代之的是CDNA 3 GPU內核架構,擁有304個計算單元(每個GPU小芯片擁有38個CU),19456個流處理器。在內存帶寬方面,MI300X也配備了更大的 192GB HBM3內存(8個HBM3封裝,每個堆棧爲12 Hi)相比MI250X提高了50%,帶來高達5.3TB/s的帶寬和896GB/s的Infinity Fabric帶寬。相比之下,英偉達即將推出的H200 AI加速器也只有141 GB的容量。

具體來說,與英偉達 H100 相比,MI300X 擁有以下優勢:

內存容量高出 2.4 倍

內存帶寬高出 1.6 倍

FP8 性能 (TFLOPS) 高出 1.3 倍

FP16 性能 (TFLOPS) 高出 1.3 倍

在 1v1 對比測試中,性能方面可領先 H100 (Llama 2 70B) 最多 20%

在 1v1 對比測試中,性能方面可領先 H100 (FlashAttention 2) 最多 20%

在 8v8 服務器對比測試中,性能方面可領先 H100 (Llama 2 70B) 最多 40%

在 8v8 服務器對比測試中,性能方面可領先 H100 (Bloom 176B) 最多 60%

從參數上來看,AMD Instinct MI300X 在性能上取得了巨大飛躍,相比英偉達目前的主力産品H100擁有一定的優勢,再加上英偉達目前仍然存在供應不足以及價格高昂等方面的問題,這也使得AMD有了更多的機會。

AMD CEO蘇姿豐在1月30日的電話會議上預測稱,2024年AMD的AI芯片營收將達35億美元,高于先前預測的20億美元。另外,去年四季度的AI芯片營收也超越此前預測的4億美元,但她並未披露確切的數字。

不過,需要指出的是,目前英偉達在AI芯片市場占據了超過了90%的市場份額,居于壟斷地位,這也使得AMD在與其競爭過程中可能會受到其市場地位的壓制。

上個月推出的面向雲端大模型的全新推理芯片與英偉達(NVIDIA)競爭的美國人工智能初創公司——Groq的CEO Jonathan Ross近日在接受《華爾街日報》采訪時就控訴英偉達阻礙公平競爭。Jonathan Ross表示,曾有其他芯片供應商客戶對其透露,如果英偉達問起這件事,他們會否認與Groq談過話,因爲怕遭到報複。

“我們見過的很多人都說,倘若雙方見面的消息傳到英偉達耳裏,他們會打死不認。”“問題在于,你必須提前一年付款給英偉達,但産品交期或許是一年、或許要更久。他們會說,‘哎呀,你跟別人買了,那我猜交貨時間可能要晚點了。’” Jonathan Ross說道。

雖然英偉達否認此事,隨後AMD前資深副總裁兼圖形業務部總經理Scott Herkleman也指控英偉達的商業行爲和壟斷集團卡特爾(Cartel)行爲相似,並稱其爲“GPU卡特爾”,暗示英偉達在AI芯片市場上的霸主地位或許不是偶然。Herkleman認爲,英偉達限制GPU供應,通過讓客戶害怕使用競爭對手GPU,以維持産業主導地位。

編輯:芯智訊-浪客劍

5 阅读:1608

芯智訊

簡介:專注于手機、芯片、智能硬件等相關領域的行業資訊報道。