連珠炮,聯發科發布天玑9300+、AI開發套件、生成式AI手機白皮書

愛搞機 2024-05-07 15:48:27

聯發科在2024年5月7日舉辦了首屆天玑開發者大會(MDDC 2024),其在大會上發布了天玑9300+、“天玑AI開發套件”,啓動“天玑AI先鋒計劃”並發布了《生成式AI手機産業白皮書》。

天玑9300+對比天玑9300,主要是超大核從3.25GHz提頻到3.4GHz,提升了AI性能。

天玑9300+是台積電第三代4nm工藝,CPU部分是1顆3.4GHz的X4+ 3x2.85GHz的X4 + 4顆2.0GHz的A720。而Immortalis-G720 MC12 GPU的頻率還沒公布。

90幀HDR吃雞中,宣稱滿載功耗比骁龍(8 Gen 3)低20%,宣稱星速引擎在《逆水寒》中可以降低10%的功耗。

AI部分,天玑9300+有AI推測解碼加速,是首款能在端側運行Liama 7B模型(22tokens/秒)、首款支持端側雙LoRA融合(宣稱生成效率提升100%。)的移動SoC。

將會在5月13日發布的vivo X100s、X100s Pro已經官宣會首發天玑9300+,而iQOO Pad2 Pro、iQOO  Neo9S Pro會是首批。

另外,活動上也官宣OPPO Reno12系列會首發天玑8250(圖1右下角那個)。

根據爆料,天玑8250的CPU部分和天玑8200接近,台積電4nm工藝,1顆3.1GHz的A78+3顆3.0GHz的A78+4顆2.0GHz的A55,Mali-G610 MC6 GPU。

聯發科啓動的“天玑AI先鋒計劃”包括vivo、OPPO、小米、榮耀、傳音等手機廠商,也包括阿裏雲、百川、零一萬物等服務商。

而聯發科和Counterpoint一起發布的《生成式AI手機産業白皮書》,則是聯合了阿裏雲通義千問、百川大模型、虎牙、酷狗、零一萬物、OPPO、Soul、騰訊AI Lab、騰訊混元、vivo(排名按字母排序)等一批廠商。

合作夥伴除了上面提到的企業,還包括Cocos、Honor of Kings、虎牙直播、酷狗音樂、美圖、全民K歌、RWKV、小紅書等數十家廠商。

《生成式AI手機産業白皮書》提出“生成式AI手機”的概念:生成式AI手機是利用大規模、預訓練的生成式AI模型,實現多模態內容生成、情境感知,並具備不斷增強的類人能力。

其定義的“生成式AI手機”要有如下特征:

支持大模型的本地部署,或是通過雲端協同的方式執行複雜的生成式AI任務。生成式AI手機本身具備強大的AI算力,無須完全依賴雲端服務器。

具備多模態能力,即可以處理文本、圖像、語音等多種形式的內容輸入,以生成各種形式的輸出,典型用例如翻譯、圖像生成和視頻生成等。

確保流暢、無縫的用戶體驗,設備能夠以自然而直觀的交互方式,快速響應用戶的請求。

擁有實現上述特征的硬件規格,包括但不限于基于領先工藝和先進架構設計的移動計算平台,擁有集成或者獨立的神經網絡運算單元(如APU/NPU/TPU),大容量和高帶寬的內存,以及穩定和高速的連接,硬件級和系統級的安全防禦。

我們二階省流提取一下機友們關心的部分:

生成式AI的硬件要求:70億參數模型(本身要吃4GB內存)建議8GB LPDDR5x內存(60GB/s帶寬)以上,現在主要是天玑9300和骁龍8 Gen 3。

預測2027年會有超過12億台生成式AI手機,2025年旗艦手機AI算力將達到60TOPS(其實骁龍8G3是73TOPS,蘋果A17 Pro是35TOPS)。

 

而開發者關心的“天玑AI開發套件”,包括四大模塊:

GenAI最佳實踐 (模型量化、模型編譯、模型推理加速,宣稱終端部署可從數周加速到一天)

覆蓋全球主流大模型的GenAI Model Hub

性能更強的GenAI優化(推測解碼加速、LoRA Fusion等)

Neuron Studio 視覺化開發環境

0 阅读:84

愛搞機

簡介:據說99%搞機發燒友都關注的頭條號