終于來了,天玑9300正式支持通義千問AI大模型,NPU不再是雞肋

黑貓 Tech 2024-04-01 09:31:04
AI不能取代人類,但是……

作爲一個AI工具的重度使用者,說幾句心裏話。目前AI取代人類的時代,還尚未到來。但AI大模型確實可以提高工作的效率,除了創造性的工作,其它都可以讓AI工具來完成。

大家應該都知道"木桶效應”,能裝多少水,取決于木桶的最短板。

比如視頻創作,有的人擅長創作文案,有的人擅長找題材,有的人擅長攝影。人精力有限,不可能方方面面都做到完美。

而生成式AI模型,讓我同時在文案、配音、視頻、寫代碼方面,都能達到及格的水平。開始運用AI之後,我的工作效率相當于一個3人的小工作室。

有時候,AI還是我的“虛擬老師”。前段時間我在寫代碼遇到問題,搜索了很多遍都沒找到答案,但是問了一下GPT-4,瞬間就定位到了問題所在。

互聯網是個寶藏,它幾乎儲存了人類已知的所有知識,而AI大模型則是找到寶藏的“快捷指令”,讓每個人都能變成“無所不知”的超級個體,其重要性不亞于馬斯克的“腦機”。

通義千問模型的現狀

自ChatGPT引發全球關注以來,國內大模型迅速崛起,華爲盤古、百度文心一言、訊飛星火、抖音雲雀及阿裏通義千問各領風騷。

當前,達到10億參數規模的大模型,已經接近300家。而在國內的大模型中,阿裏的通義千問算是比較領先的一個。

在2月份的 SuperCLUE 大模型榜單中,阿裏的通義千問2.1在國內大模型中,處于領先地位。其開發的開源模型Qwen1.5,也領先于一衆開源模型。

從排行榜可以看出,通義千問2.1模型已經非常接近于GPT-4,考慮到其是基于中文語境下開發的AI模型,更符合我們的體質。

現在的問題,不是有沒有優秀的國産AI大模型,而是硬件端上的適配和落地。只有在手機終端、電腦終端上普及了,AI才能真正的改變世界——這一天終于來了。

天玑9300確定部署通義千問模型

前段時間,聯發科宣布了一個重磅消息:天玑9300平台已經成功完成通義千問小尺寸版本的部署,並且可以兼容天玑8300平台(不愧是中端神U)。

具體來講,它是通過專門爲AI任務設計的NPU,來高效執行深度學習模型,從而讓小尺寸版的通義千問模型,可以進行實時推理。

手機廠商炒作了這麽久的“AI性能”,除了拍照以外終于有點用了。從此之後,AI性能是判斷手機芯片強弱的核心標准之一,再也不是雞肋了。

小尺寸模型的性能會有一定的折損,畢竟參數精度、計算複雜度都精簡了不少。不過可以保證關鍵任務性能,比如手機上最重要的問答准確率,語言理解能力。

但這種迷你模型的好處是:離線即可使用,進而保護用戶隱私,不要擔心數據被上傳到雲端;參數更精簡,因此占用的空間小,可以快速加載並安裝。

相信從春季開始,國産安卓機的端側AI應用生態,會迎來一波大爆發,這是要把蘋果幹廢的節奏啊。

雖然國産AI大模型和GPT-4還有一點差距,但是在龐大的數據量下,相信很快就能彎道超車,小小的期待一下。

0 阅读:30

黑貓 Tech

簡介:科技百科全書