神州問學AI原生賦能平台、多雲異構綠色算力平台、聯合打造DC·AI生態創新中心!一文看盡數雲原力大會2024幹貨

智東西 2024-05-10 18:49:15

作者 | 程茜

編輯 | 心緣

智東西5月10日報道,昨日下午,在神州控股、神州信息、神州數碼集團聯合打造的數雲原力大會2024上,神州數碼、神州信息、神州控股發布了神州問學AI原生賦能平台、HISO異構智算調度運營平台和全新異構智算加速平台HICA等多項技術成果。同時,這些技術成果已經在金融、政務、供應鏈、汽車等領域實現應用。

神州數碼首次宣布了AGI時代的新價值主張,未來將以客戶爲中心,圍繞AI原生場景賦能、多雲異構綠色智算、國際化AI生態創新三個錨點,加速AI原生應用落地千行百業。

針對于神州問學AI原生賦能平台與市面上其他平台的差異化,神州數碼副總裁、CTO李剛告訴智東西,他認爲神州問學面對的客戶時企業而非開發者,這也意味需要配合企業的每一個業務場景、現有流程管控方式、業務部門關系,非簡單的開發者平台可以滿足。

在保護企業的數據安全方面,李剛提到,神州問學主要通過三個方面保障,首先其部署在用戶可控的私有化場景裏;第二爲其采用的模型都是私有化部署;第三是按照專業領域、知識領域、業務領域打造不同的模型,他們會在每個模型外面打造安全圍欄,將專業知識固化到不同的模型中。

當下,生成式AI領域出現了已經進入拼落地、拼應用的“下半場”的觀點。但李剛認爲現在稱“下半場”還爲時過早,此前技術的變革特點大多爲技術基本成熟再進入企業裏實現應用,也就是說應用去適應技術;但AI時代不同,目前技術沒有完全成熟,並處于應用場景和技術同步發展的過程,長窗口、多模態、MoE等技術的不斷演進正推動AI向更多場景滲透,因此其殺手級應用會出現在什麽場景並不明確,現在應該是百花齊放的階段。

一、神州數碼提出AGI時代三大主張,爲銷售經理打造數個智能體

神州數碼在AGI時代的差異化定位就是提供以客戶爲中心的AI著陸的加速引擎,其核心有三件事,分別爲AI原生場景賦能、多雲異構綠色計算、國際化AI生態創新。以客戶爲中心的AI就是基于企業的特定場景,以企業知識去賦能的AI技術來重新編排業務實現的創新過程,從而獲得更大的價值創造。

李剛舉了營銷場景的例子,大部分企業的營銷支出都占了很大一部分,且營銷經理的工作效率和質量會直接影響到企業的效益。銷售工作的核心爲高度專業化的知識型工作,包括知識的收集處理和雙向傳達。

針對銷售場景,神州數碼開發了銷售工作室應用,打開該界面,銷售助理Agent就會在後台系統中收集銷售所關注公司的待辦任務和消息,並第一時間反饋給銷售。此外,銷售助理Agent還會調用企業的項目、周報系統、日曆系統等,並爲其整合工作的分配重點。

同時對于銷售經理而言,他需要在工作中處理十余個企業IT系統,基于此,Agent就會通過語義交互與實時業務場景,將龐雜的信息化系統虛擬化,主動整合個性化信息。未來,銷售Agent可能會整合後台所有的企業、IT系統形成針對某個個體的超級APP。在銷售工作室應用中,銷售人員還可以召喚各種輔助工作的智能體,如拜訪智能體、投標智能體、差旅智能體等。

在完成拜訪准備工作時,首先拜訪智能體會根據拜訪目的、公司標准,結合拜訪企業的背景、合作曆史等給出材料;其次,智能體會根據具體客戶人名收集信息,找到項目的背景信息;第三部智能體會查詢公司系統、項目管理系統、合同管理系統、公司解決方案庫等,找到用戶的興趣點。最後,智能體就會彙總以上信息,總結歸納成PDF文件供用戶下載。

李剛總結說,類似于這樣的智能體構建背後,包括任務規劃、執行、反思幾個重要環節,每個環節需要加載經過治理的企業私域知識模型支持。還需要神州數碼開發出企業現有系統與外部數據源的接口集成工具,基于這些工具讓其規劃的任務得以執行。這會涉及到多個企業的IT信息系統、多個外部的信息源對接、多個子任務規劃、多個知識源治理對接、多次模型的微調。

企業需要AI賦能的場景實際上有N個,因此需要遵循已經被實踐證明過的高效完備的AI應用開發框架和規範、工具持續積澱、知識治理持續深化、若幹個企業模型訓練優化等,這些必須在企業的私域裏完成,才能有系統、有節奏的加速AI原生場景創新速度。

二、神州問學AI原生賦能平台,內嵌Agent打造、知識治理、模型訓練管理三大模塊

在神州數碼看來,企業的AI原生創新需要一個平台來支持,其答案就是神州問學AI原生賦能平台。

該平台包括三個功能模塊,分別是Agent工程、企業知識治理、模型訓練與管理。李剛談道,這三個模型既能獨立工作,又可以相互協同。

Agent工程模塊中,可以爲企業開發內部工具、調用外部插件的能力實現智能體的任務執行,配置好工具後,Agent就會使用後台大模型的推理能力識別用戶意圖、制定行動計劃、選擇調用計劃等。整個會話過程可支持多輪對話。

在企業應用場景還有一項基礎性工作,將企業私域知識加載給大模型,私域知識加載前的治理工作會對大模型生成內容的精度産生很大影響。

企業內部知識格式多樣化,需要以恰當的顆粒度來切分這些文檔。因此,神州數碼打造了一個知識治理平台,由專業人員使用文檔布局拆解工具訓練出專屬的知識自動化標准模型。李剛稱,其一個醫藥行業客戶,通過神州問學工具鏈,專家僅需標注1000條數據,即可支持自動化標注模型的推理,讓46萬份資料梳理成爲可執行的知識生成,並支持持續自動化。

未來,一個企業除了使用一兩款商用模型外,可能會大量部署基于開源模型進行微調構建的企業專用模型。問學大模型管理平台,內置了數十個基礎開源模型,用戶可以通過全面測試來評估、對比具體業務場景下不同模型的性能表現,同時,模型審計功能可以使用戶追蹤審計模型具體交互過程中是否有敏感或違規信息。

此外問學大模型訓練平台內嵌了最佳實踐,通過控制面板可以實時展示訓練進度日志,企業可以靈活配置訓練選項等,算法團隊可以多次叠代實驗取得最佳訓練效果。

平台的測試框架還支持模型性能自動評估、統計報告生成等。

李剛談道,對于大多數通用領域的企業場景而言,AI賦能背後的技術難點、解決方案的架構、工程師方法與企業內部系統對接的解決方案,這些基礎性工作是相通的。所以企業可以從平台層面起步規範各種技術框架和實施方法論,再去不斷叠代私有模型集群,系統化構建企業的私域知識庫。

未來企業的數字化轉型建設會表現爲Agent體系、私域知識體系、私有模型體系三個體系建設與業務不斷結合,神州問學平台就是支持其持續性創新加速著陸的平台。他補充說。

三、落地金融、政務、汽車、供應鏈行業,金融軟件端到端效率提升超30%。

除了以銷售工作室爲代表的企業通用場景應用外,企業還有金融、汽車、政務等專注于某一專業領域的業務,AI技術、雲原生數據等也會與相關的業務場景進行融合,從而構建創新的業務模式。

對于金融軟件,其從業務規劃、需求分析、設計開發測試、部署和運維都有相對標准的流程。得益于AI技術的發展,以神州問學爲支撐,神州信息發布AI賦能的軟件研發全流程生産線九天攬月“AI+”,並推出了建模、開發、測試、運維4個相關Agent。

建模包括産品模型、流程模型、實體模型,可以完整呈現一個金融機構能提供哪些産品。建模Agent可以用NLP技術加速産品文檔理解、知識圖譜實現産品目錄生成、通過AIGC識別産品屬性等,能夠將企業的建模時間從數年縮短到數月。

開發過程中,代碼Agent可以通過低代碼和無代碼技術生成頁面及相關服務,或者用AIGC解析建模過程的産物,最終形成代碼。在測試階段,Agent可以實現自動測試用例生成、機器人生成等。

分布式技術在銀行全面落地,部署節點可能達到成百上千個,使得運維複雜度大幅提升。運維Agent可以幫助人員快速定位、解決問題,預測潛在的風險和問題引導運維人員解決。

于宏志透露,四個智能體的協作運營效率實現了金融領域企業的業務建模效率提升15%、代碼開發效率提升30%、單元測試效率提升40%、問題定位效率提升30%。金融軟件的整個生命周期端到端效率可能提升超過30%。

公共數據運營領域聚焦于爲AI提供高質量數據。神州控股政企産品技術總監張偉提到,婚戀市場的交友平台都面臨著信息真實性不足、匹配精准度欠缺、存在欺詐行爲等問題。

神州控股自研了公共數據運營平台,以場景化授權方式爲客戶堆積了民政、教育、司法等部門的相關數據,通過數據整合及特征工程,形成用戶多維特征向量,構建聚類分析及深度學習模型,識別不同用戶群體的特征和偏好。同時這一平台還會結合用戶的行爲互動反饋、心理測驗以及生物特征等數據,構建智能匹配、情感分析、異常檢測等多類模型,提供用戶精准匹配、欺詐識別的智能預警以及個性化建議推薦等服務。

基于此,神州控股的産品幫助企業提升了匹配精准度,使得用平均在線時長提升30%,平均每位匹配用戶的互動信息數量提升40%。

神州控股供應鏈解決方案總監田聯平稱,汽車行業中,車企的一級供應商可能會達到1000家以上,二級供應商會達到6000家以上,隨著供應鏈層級增加,供應鏈網絡複雜程度也會大幅增加。

神州控股的解決方案爲電子行業的企業搭建了供應鏈數字孿生環境, 將項目、物料、庫存、産品等數據要素集成到其中,並結合企業的規則和策略搭建了物料齊套檢查業務模型、數據模型、本體模型。生成物料計劃後,企業就能得到自動生成的采購需求計劃、生産計劃等。

AI技術會不斷驅動供應鏈效率提升,如通過大模型提升需求預測准確率、算法實現最優排産、生成式AI應用可降低成本。田聯平提到,AI+技術在供應鏈決策三個階段的作用表現會呈現爲,第一階段的可視化及預警管理,第二階段的預測、輔助決策,第三階段的認知自主優化決策。

高科數聚創始人、董事長、神州數碼首席數據科學家程傑提到,在汽車行業,營和銷層面充滿了人、機器、門店、車輛的交互。企業的數智化轉型分爲業務數據化和數據業務化兩個部分。業務數據化的起點是制定數據收集的目標和範圍,通過數據采集、治理、入湖等最終實現數據可視化;數據業務化指從描述現實、預測到整體決策優化。

目前,神州數碼已經在汽車行業實現了AI+大數據的有效應用。針對市場部,神州數碼通過大模型和行業數據支撐企業作出科學決策。

還有一大應用是智能工牌,銷售人員在電話溝通、展廳、試乘試駕場景、售後等環節和用戶的交流會有大量多模態數據,需要對這些數據進行采集及有效處理,實現角色聲紋分離、關鍵詞提取,然後自動産生客戶標簽,包括客戶的需求、意願、情感等。

四、多雲綠色異構智算中心,打造硅光+液冷整機櫃解決方案

神州數碼副總裁、神州數碼信創控股董事長韓智敏稱,當下企業面對大算力需求,其挑戰有三點,需要構建複雜的異構算力底座、智算資源利用率低、能耗高。

基于這三大痛點,神州數碼推出了異構智算調度運營平台HISO, 基于百分百雲原生技術,實現了GPU資源的池化和跨集群之間的調度能力,根據用戶需求在整個異構算力資源池中能夠自動地匹配最優算力組合。

HISO平台支持國內外GPU混合資源部署,能夠混合組網、混搭調度,同時實現精細隔離算力。

神州數碼還推出了全新異構智算的加速平台HICA,可提高算力利用率。

HICA通過數據並行、模型並行等方式,可有效分解任務,檢測到GPU的資源變化時合理調整,充分聚合各種算力資源使用。

該平台支持一雲多芯,它既能支持華爲昇騰、英偉達、英特爾等國內外主流的芯片,可以實現訓練、推理任務在不同品牌、不同型號、不同組層之間的智算集成的混合訓練和推理。根據其測試結果,HICA加速可以降低20%的訓練集群的閑置算力。HICA能自適應選擇合適的通訊參數,使得MFU提升10-20%。

在能耗方面,神州數碼提出了硅光+液冷的整機櫃解決方案,該方案有四大特性,一體化交付,現場無需安裝調試,效率提高10倍;實現了100%的全液冷,數據中心PUE小于1.15;全新水電分離;最大單櫃功率達到66kW。

工業領域,神州控股以仿真模型+知識圖譜+人工智能爲核心,構建的“算力、算據、算法”一體化算力中心架構,讓智算中心的算力獲得進一步增值。以中藥材産業爲例,神州控股在智算中心平台中應用中藥材大模型的中藥循證證據生成,爲企業提供了新適應症、新療法挖掘以及質量評價體系構建等能力。

五、聯合德勤中國打造DC·AI生態創新中心,劍指企業、市場、人才痛點

神州數碼聯席董事長、首席執行官王冰峰談道,生成式AI領域,企業擁抱AI需要找到超級應用和最佳實踐,並投入大量時間金錢進行部署;市場層面,大部分收入和利潤來自基礎架構層,真正做大模型、AI應用和工具公司的銷售收入和利潤無法覆蓋成本;以及AI人才短缺等,這些都是目前這一行業的現實問題。

因此,神州數碼將從解決方案和技術生態、人才生態、市場生態入手,打造新型生態夥伴關系。

解決方案生態方面,該公司要推動合作開發、共創模式建設AI領域裏的解決方案,預計今年6月,其深圳搭載神州問學平台的智算中心會向市場提供算力、模型、應用、解決方案等相關服務。

人才生態上,神州數碼要打造人才學院,聯合生態夥伴建立培訓認證體系;市場牽引生態方面,該公司依托AI研究院,將強化和高校、院所、機構、協會的合作。

在此基礎上,該公司與德勤中國聯合打造了DC·AI生態創新中心,在這一創新中心中彙聚協同辦公、生産、供應鏈、營銷等領域的最佳時間和場景。

結語:新AI原生賦能平台、生態體系,爲技術、應用、場景架橋

AI深入千行百業,與企業內部的不同業務相結合已成爲業界共識,但與此同時AI與企業內部真是痛點相匹配、有效理解用戶意圖等難題逐漸顯現。在企業AI原生場景的打造過程中,神州數碼基于神州問學平台爲企業提供了能夠自動調用、檢索、分析與執行的“專業助手”,從全流程加速企業應用AI工具的進程。

此外,企業AI變革在價值、技術、路徑層面都有諸多難點亟待解決,衆多AI産品、技術廠商推動AI落地的過程中會面臨客戶需求不明、交付能力不足等多重挑戰,而AI人才存在巨大缺口已成爲業界共識。神州數碼與德勤中國聯手打造的DC·AI生態創新中心或許能爲這些難題提供有效的解決方案。

0 阅读:3

智東西

簡介:智能産業第一媒體!聚焦智能變革,服務産業升級。