向用不起的AI宣戰!宇視掀起“裝備大模型化”變革

智東西 2024-04-16 16:04:07

作者 | 三北

編輯 | 漠影

“大模型只是技術升級不是革命……大模型技術商業化落地的路線一定是:裝備大模型化。”宇視科技CEO張鵬國說。

智東西4月16日報道,今日,在2024宇視合作夥伴大會上,宇視科技宣布推出AIoT行業大模型“梧桐2.0”,並發布“獵光 2.0” AI-ISP圖像引擎感知終端等一系列大模型産品,打響AIoT行業“裝備大模型化”的第一槍。

▲宇視科技CEO張鵬國發表題爲《AIGC:千裏之行,始于足下》的演講

從爆火的ChatGPT到Sora,大模型正沖向邊緣側、端側設備,從而重構千行百業。小到一個攝像頭,大到一個個物聯網場景,大模型如何在其中真正跑起來?備受産業關注。

裝備大模型化,是宇視科技與萬家渠道夥伴一起給出的答案。

▲2024宇視合作夥伴大會現場

去年5月,宇視科技領先AIoT行業率先推出大模型“梧桐”,並與多家行業龍頭聯合啓動“梧桐大模型種子合作夥伴計劃”,探索大模型在交通、教育、零售、體育公共服務等領域的端邊雲側的深入落地。

一年後的今天,宇視與合作夥伴不僅帶來了AI體育、AI文旅等各個行業的大模型新落地成果,還通過軟件硬件化、硬件裝備化、裝備序列化的新經驗,爲全行業帶來“裝備大模型化”産品底座開放能力的質變。

▲AIoT新生態産品底座2.0

從實驗室到産品化、從軟件到硬件工程化、從價格昂貴到低門檻化,大模型有望通過守護城市和田間地頭的“機器之眼”,完成從技術到行業價值的新飛躍。

一、所有裝備,都值得用大模型重做一遍

大模型是技術升級還是革命?

不同的人觀點不同:閉源派、技術信仰者更傾向于這是一次技術革命,而開源派、市場信仰者更傾向于這是一次技術升級。

站在AIoT行業的角度去看,張鵬國認爲,大模型是AIoT行業當下最大的技術變量,但大模型是技術升級,而不是革命。這很好理解,就像我們說蒸汽機出現不算是工業革命,但是把蒸汽機裝到了火車、輪船和各種生産工具上提高效率,才是工業革命。

如何讓大模型發揮出“革命”力量?還要靠裝備大模型化。

“大模型技術是AIoT行業當下最大的技術變量,必定會給我們帶來新的市場機會點。一個大的機會點就是大量在網産品的更新叠代。”張鵬國說,“借助于行業大模型技術,邊、端産品有望用更低的成本,在某些細分場景下實現更好的應用效果。”

這意味著最直觀的需求:所有裝備,都值得用大模型重做一遍。

大模型技術升級對産品和解決方案架構提出新的要求,比如要求雲邊端的芯片都支持Transfomer架構,大規模參數對設備的顯存和算力提出新的要求,進而産品的形態和功能也將被改變,比如支持更強大語音對話的攝像機已經出現。

裝備大模型化時代,“視頻+大模型”首先會成爲一大金礦。

正如宇視科技首席産品官朱兵所說,大模型的出現,讓我們可以一起用更低的投入去挖掘海量視頻的價值,解決傳統AI技術解決不了的問題。在他看來,視頻的價值如何挖掘落地則可以用一個公式來表達,那就是:“視頻”價值=(邊端裝備+大模型)x 生態業務

基于這樣的理念,宇視今年推出了一大批“裝備大模型化”産品,實現了業界最寬業務場景的覆蓋:

1、AI端側裝備:基于“獵光2.0 -AI-ISP”圖像引擎的AI全彩感知終端産品。它基于“梧桐”大模型,使得極暗環境下全彩畫面畫質得到極大改善,30米外仍可智能識別和分析目標。

2、AI邊緣端裝備:AI NVR、AI BOX、AI控制器和AI互動發布屏等。這些裝備基于“梧桐”大模型生成的長尾算法,可用于衆多行業場景,如用于校園AI體育的室外AI體測一體機、室內AI體鍛屏等。

3、AI邊緣域裝備:基于梧桐大模型的視頻智能推訓一體機、視頻數據服務一體機等。這些産品一般部署在中心機房,可以脫離平台單獨使用,處理能力和路數相對邊緣端裝備有數倍的增加。

用大模型重做AIoT裝備,首先要注意規避小模型時代踩過的“坑”。

在上一波小模型AI浪潮中,宇視科技被認爲是國內AI工程化最成功的AIoT企業之一,與海康、大華等一起把智能攝像機、邊緣盒子落到了全國各地,同時也踩過AI落地幾乎所有會遇到的坑。

正是基于先前的經驗,在張鵬國看來,在涉及“AI+還是+AI?”這一重要路線問題時,在這場變革中最容易成功的,還是後者,也就是裝備大模型化路線。

這背後是深刻的産業邏輯:隨著大模型推動的技術平權加速,大模型落地AIoT行業更離不開的是,緊密合作的客戶群和渠道、公司營銷的基本盤以及強大工程化落地能力叠代。

二、參天生長的梧桐2.0,行業商業化落地新破局

爲了推動裝備大模型化,宇視今日正式發布梧桐2.0大模型。

梧桐2.0從訓練、推理、測試、數據等AI開發過程進行全面升級。圖像方面,梧桐2.0新增了大模型AI-ISP、超分及圖像質量評價等多個模塊;CV方面,由視頻結構化全面升級爲視頻內容理解;NLP方面,更好地支持業軟代碼生成;多模態方面,文生圖、文生視頻在智慧景區、智慧體育等領域應用,極大地提升用戶體驗。

宇視AI首席科學家李聰廷說,裝備+梧桐大模型,將重新定義圖像質量、視頻解析、模型的推理和訓練,也將重新定義裝備本身。新一代的AI裝備,在圖像質量、算法精度、算法生産率、用戶體驗等方面有質的飛躍,同時服務效率也大幅提升。

作爲一個行業大模型,梧桐2.0的一大顯著特征是“邊用邊升級”。

以宇視在AI體育領域的落地方案爲例,基于梧桐大模型的AI體育鍛煉屏可以讓很多孩子站在同一個屏幕前一塊做運動,記錄每個孩子的動作細節和成績,爲其自動打分並提供鍛煉建議,讓孩子能更快樂且更科學地鍛煉身體。

▲宇視AI體育鍛煉屏展示

隨著體育在素質教育中越來越重要,體育教育缺乏科學的評判工具和較完備的方法論,成爲當下國內教育的一大痛點。基于梧桐大模型的AI體育方案以極低成本,使系統實現了遠超小模型方案的效果,助力學生體育教學的質量大大提高。

▲宇視AI跑步屏展示

大模型首先進入的行業有一些顯著特征。以文教體行業爲例,這一市場用戶基數和市場空間龐大,並符合社會進步的方向,且在技術上沒有過于苛刻的精度要求,給大模型固有的幻覺留出了空間,因此成爲大模型的一大絕佳“著陸點”。

可以看到,經過大模型化的邊緣、端側裝備融入到具體場景,將爲行業商業化落地帶來全新的突破口。

然而,要實現裝備大模型化,也不是一蹴而就的。

正如朱兵所說,其能力隨著時間在算法的大模型能力和裝備部署大模型的能力兩個維度上發展,算法前期會發展更快些,而裝備部署大模型的能力未來有望迎來“井噴式”發展。

以下這張圖展示了宇視邊端裝備大模型化的演進路徑:

1、算法+大模型的能力:從CV到多模態充分融合

•對于安防CV算法,大模型的貢獻是從自動生成樣本數據,幫助小模型算法提高效率開始的。

•2023年下半年已經可以基于更少的數據樣本+自學習實現長尾算法開發效率的指數級提升。

•接下來今年上半年大模型CV算法和NLP語義理解能夠充分結合,能夠在客戶現場基于語義化描述快速調用多種算法按語義理解的邏輯組成新的算法。

•未來的算法則會多模態化,基于視圖理解和交互會充分融合,就像不久前谷歌發布Gemini所演示的一樣,會成熟落地。

2、裝備部署大模型能力:從公有雲到邊端側使用門檻降低

•去年首先實現的是公共雲部署大模型的能力,從去年下半年開始逐步在邊緣裝備上部署基于大模型生成的長尾算法,對算力的要求相對較高。

•然後是大模型本身可以私有化部署在邊緣域一體機中,隨著算力成本的降低,今年年底開始會逐步有感知終端部署大模型生成的算法。

可以預測,隨著AI PC、具身機器人等成爲具有前景的大模型落地方向,作爲“機器之眼”的視覺傳感設備,有望率先成爲大模型落地的載體,發揮出巨大的行業價值。

三、裝備大模型化,宇視與渠道夥伴的雙向奔赴

實際上,裝備大模型化賦能行業的故事已經越來越多。

基于梧桐大模型和邊端裝備,過去一年宇視和渠道一起還做了很多有價值的行業案例:

在國家東北虎野生動物園,10天快速輸出了老虎識別算法,夜間效果准確率達到90%,發現老虎能實時聯動報警,有效防止人虎沖突。

在湖南某地,一周生成不牽狗繩算法,准確率達到96%以上,從識別到最後狗主人將狗繩系好,整個過程不到3分鍾,獲得當地電台的報道點贊。

在海南環島公路,集雷視融合檢測、LED屏顯、數據深度處理、無線通信爲一體的道路安全預警裝備,實現彎道雙向預警,有效降低交通事故發生。

在濮院時尚古鎮,宇視與頂度集團一起,基于VR和VLOG AI短視頻融合體驗,讓每一位遊客融入“濮院T台”,記錄自己的“時裝周”精彩瞬間。

……

碎片化是AIoT行業多年以來面臨的頑疾,但大模型的泛化能力讓這些問題有了一致解法,裝備的大模型化也將帶來AIoT産品底座開放能力的質變。

和去年相比,宇視將提供更徹底的開源能力,新增宇視公共雲服務提供的開源組件;提供了覆蓋更全面的OPEN API南北向接口,新增全配置式接口創建以及適配,業務整合效率整體提升70%。

同時,基于梧桐CV大模型能力,1周發布1個新分類檢測模型,合作夥伴可以方便訓練自己的AI長尾算法;其還提供更豐富的輕代碼/零代碼工具,通過拖拽式點位標記,1人天即可實現3D地圖應用發布。

此外,梧桐還提供更智能的軟件開發方式,借助AIGC輔助生成代碼工具,幫助開發人員通過文本交互或原型快速自動創建代碼,同時及時糾錯,提高開發效率。

李聰廷告訴智東西,過去,很多人可能覺得大模型高不可攀,用起來一定很貴。但在大模型落地AIoT邊緣和端側的過程中,宇視已經能實現比傳統方案成本降低的情況下,效果明顯的提升。大模型方案越來越成爲更超值的選擇。

結語:裝備大模型化,助力解放新質生産力

隨著「百模大戰」展開一年多,我們看到很多軟件App已經接入大模型,進而尋求打造爆款超級應用;而今年,以宇視科技爲首的AIoT企業率先打響“裝備大模型化”的變革,展現了大模型跨越軟硬件的鴻溝,落地千行百業的潛力。

“人工智能+(AI+)”在2024年兩會中首次被寫進政府工作報告,國家正加強頂層設計,加快形成以AI爲引擎的新質生産力。“AI+”的落地需要結實的憑借和抓手。裝備大模型化有望聚AIoT生態之力,提供有力的抓手,助我國加速解放新質生産力。

0 阅读:30

智東西

簡介:智能産業第一媒體!聚焦智能變革,服務産業升級。