聯發科在2024年5月7日舉辦了首屆天玑開發者大會(MDDC 2024),其在大會上發布了天玑9300+、“天玑AI開發套件”,啓動“天玑AI先鋒計劃”並發布了《生成式AI手機産業白皮書》。
天玑9300+對比天玑9300,主要是超大核從3.25GHz提頻到3.4GHz,提升了AI性能。
天玑9300+是台積電第三代4nm工藝,CPU部分是1顆3.4GHz的X4+ 3x2.85GHz的X4 + 4顆2.0GHz的A720。而Immortalis-G720 MC12 GPU的頻率還沒公布。
90幀HDR吃雞中,宣稱滿載功耗比骁龍(8 Gen 3)低20%,宣稱星速引擎在《逆水寒》中可以降低10%的功耗。
AI部分,天玑9300+有AI推測解碼加速,是首款能在端側運行Liama 7B模型(22tokens/秒)、首款支持端側雙LoRA融合(宣稱生成效率提升100%。)的移動SoC。
將會在5月13日發布的vivo X100s、X100s Pro已經官宣會首發天玑9300+,而iQOO Pad2 Pro、iQOO Neo9S Pro會是首批。另外,活動上也官宣OPPO Reno12系列會首發天玑8250(圖1右下角那個)。
根據爆料,天玑8250的CPU部分和天玑8200接近,台積電4nm工藝,1顆3.1GHz的A78+3顆3.0GHz的A78+4顆2.0GHz的A55,Mali-G610 MC6 GPU。
聯發科啓動的“天玑AI先鋒計劃”包括vivo、OPPO、小米、榮耀、傳音等手機廠商,也包括阿裏雲、百川、零一萬物等服務商。
而聯發科和Counterpoint一起發布的《生成式AI手機産業白皮書》,則是聯合了阿裏雲通義千問、百川大模型、虎牙、酷狗、零一萬物、OPPO、Soul、騰訊AI Lab、騰訊混元、vivo(排名按字母排序)等一批廠商。
合作夥伴除了上面提到的企業,還包括Cocos、Honor of Kings、虎牙直播、酷狗音樂、美圖、全民K歌、RWKV、小紅書等數十家廠商。
《生成式AI手機産業白皮書》提出“生成式AI手機”的概念:生成式AI手機是利用大規模、預訓練的生成式AI模型,實現多模態內容生成、情境感知,並具備不斷增強的類人能力。
其定義的“生成式AI手機”要有如下特征:
支持大模型的本地部署,或是通過雲端協同的方式執行複雜的生成式AI任務。生成式AI手機本身具備強大的AI算力,無須完全依賴雲端服務器。
具備多模態能力,即可以處理文本、圖像、語音等多種形式的內容輸入,以生成各種形式的輸出,典型用例如翻譯、圖像生成和視頻生成等。
確保流暢、無縫的用戶體驗,設備能夠以自然而直觀的交互方式,快速響應用戶的請求。
擁有實現上述特征的硬件規格,包括但不限于基于領先工藝和先進架構設計的移動計算平台,擁有集成或者獨立的神經網絡運算單元(如APU/NPU/TPU),大容量和高帶寬的內存,以及穩定和高速的連接,硬件級和系統級的安全防禦。
我們二階省流提取一下機友們關心的部分:
生成式AI的硬件要求:70億參數模型(本身要吃4GB內存)建議8GB LPDDR5x內存(60GB/s帶寬)以上,現在主要是天玑9300和骁龍8 Gen 3。
預測2027年會有超過12億台生成式AI手機,2025年旗艦手機AI算力將達到60TOPS(其實骁龍8G3是73TOPS,蘋果A17 Pro是35TOPS)。
而開發者關心的“天玑AI開發套件”,包括四大模塊:
GenAI最佳實踐 (模型量化、模型編譯、模型推理加速,宣稱終端部署可從數周加速到一天)
覆蓋全球主流大模型的GenAI Model Hub
性能更強的GenAI優化(推測解碼加速、LoRA Fusion等)
Neuron Studio 視覺化開發環境