字節大模型發布!“比行業價格低99%”,對話火山引擎總裁譚待

智東西 2024-05-15 20:50:07

作者 | 三北

編輯 | 雲鵬

智東西5月15日報道,今日,在火山引擎原動力大會上,字節跳動豆包大模型正式開啓對外服務。

豆包大模型家族在會上首次亮相,目前包括通用模型Pro、通用模型Lite、角色扮演模型、語音識別模型、語音合成模型、聲音複刻模型、文生圖模型、Function Call模型、向量化模型九款模型。

在定價方面,火山引擎正推動大模型從“以分計價”進入“以厘計價”階段。豆包通用模型Pro 128k版模型推理輸入價格爲0.005元/千Tokens,據稱比行業價格低95.8%。

豆包通用模型Pro 32k版模型推理輸入價格爲0.0008元/千Tokens,比行業價格低99.3%。換句話說,一元錢就能買到豆包主力模型的125萬Tokens,相當于三本《三國演義》。

▲火山引擎總裁譚待在解讀豆包主力大模型的定價

同時,火山引擎宣布推出火山方舟2.0平台,發布聯網插件、內容插件、知識庫插件三個重要插件。火山方舟2.0平台可提供萬卡GPU資源池支撐訓練,支持3分鍾內完成千卡擴容,在系統承載力、安全與服務能力上實現提升。

此外,火山引擎還宣布推出扣子專業版,提供企業級AI應用開發平台;發布了數據洞察AI助手ChatBI、智能創作雲2.0、AI 助手 Sales Copilot;聯合多家行業夥伴成立智能終端大模型聯盟、汽車大模型生態聯盟。

在會後,智東西等少數媒體與火山引擎總裁譚待進行了面對面對話。

團隊在豆包大模型的定價方面有什麽樣的想法和思考?

譚待說,不同尺寸、性能的模型價格不一樣,字節這次是能力最強的主力模型的定價都比行業價格低99%,這是非常驚人的。

背後的原因有兩點:一是團隊能做到,團隊在技術上有非常多優化手段,包括通過模型結構的優化調整,把成本做低、效果做好,通過分布式推理、混合調度大幅度降低部署成本等;二是團隊需要怎麽做,今年大模型的應用變得更加重要,同時大模型創新的風險依然很高,因此大家需要把試錯成本降得非常低,才能夠讓大模型廣泛地應用起來。

豆包大模型在價格降低的同時性能怎麽樣?

根據譚待在現場的解答,豆包主力模型是要跟市面上所有的主力模型去對比,雖然模型參數、基准測試表現在會上沒有特別披露,但在它開放後大家馬上就會看到很多第三方測試結果出來,團隊自信接受用戶使用之後的測評。第二是普通用戶去用豆包App後會有自己的感受,它的巨大的使用量也是模型能力很好的證明。

▲火山引擎大模型服務全矩陣圖(智東西現場拍攝)

譚待透露,豆包大模型目前日均處理1200億Tokens文本,生成3000萬張圖片。而豆包App下載總量截至目前已達1億,雙端月活躍用戶達2600萬。

一、推出全棧AI服務,豆包大模型開啓對外服務

譚待說,大模型的發展與每個人、每家企業都息息相關,而當下企業落地大模型面臨著模型效果、推理成本和落地難度等關鍵挑戰。

爲此,火山引擎宣布推出全棧AI服務,提供更低成本、更易落地的更好模型,助力企業AI轉型。

同時,豆包大模型正式開啓對外服務。譚待透露,經過一年時間的叠代和市場驗證,豆包大模型目前日均處理1200億Tokens文本,生成3000萬張圖片。

豆包通用模型Pro具備理解、生成、邏輯、記憶等強綜合能力, 支持128k長文本精調,且支持問答、總結、分類、創作等豐富的場景。

豆包通用模型Lite是更具性價比的通用模型,千Tokens成本降低84%,延遲降低50%,它支持閑聊、天氣及實時信息查詢、音樂視頻播放、導航等場景,效果領先傳統語音處理50%以上。

豆包角色扮演模型支持角色高度定制,能夠基于上下文感知自適應用戶扮演或陪伴需求,且具有強劇情推動能力,能夠持續引導聊天。

在豆包語音系列模型,豆包語音識別模型具有高准確率和個性化特征,支持多語種識別;豆包合成模型具有自然、多情緒和多演繹特征;豆包聲音複刻模型支持5秒複刻,跨語種遷移,與原聲具有高相似度。

此外,豆包大模型還包括文生圖模型、Function Call模型、向量化模型等其他細分領域模型。

會上,字節跳動産品和戰略副總裁朱駿結合豆包的案例解讀字節在大模型産品設計上的思考。

朱駿談道,豆包的設計有幾條基本原則,第一是足夠擬人化,比如“豆包”這一名字就體現了擬人化特征。

第二是離用戶近。豆包的功能定位包括隨身攜帶的“語音百事通”、桌面端文案創作小助手等,主要嵌入用戶現有的使用環境,以拉進與用戶的距離。

第三是遵循個性化。在智能體的世界,每個人都有個性化的需求和情感,因此在豆包上每個普通用戶都可以“捏”一個專屬自己的智能體。豆包還支持打造更高階的智能體定義能力,比如打造個性化的輔導老師等。

截至目前,豆包App下載總量已達1億,雙端月活躍用戶達2600萬,智能體總創建數達800萬。

二、火山方舟2.0平台發布,萬卡GPU資源池支撐,三大插件升級

今日,火山引擎還宣布推出火山方舟2.0平台,發布聯網插件、內容插件、知識庫插件三個重要插件。

其中,聯網插件支持實時聯網信源,提供抖音、今日頭條同款搜索能力,並支持多模態交互及意圖識別檢索。

內容插件支持海量內容調取,獨家上架抖音內容插件,提供抖音豐富視頻和圖文內容,豐富大模型和用戶的交互過程,並支持內容策略定制。

平台知識庫插件支持企業調用內部知識庫,內置了字節自主研發的搜索引擎,支持毫秒級、百億規模檢索,且搜索更新快、搜索相關性高。

除了插件升級,火山方舟2.0平台在系統承載力、安全與服務能力上實現提升。

譚待稱,平台可提供萬卡GPU資源池支撐訓練,3分鍾內完成千卡擴容,運維體驗和安全合規增強,助力AI場景落地的最後一公裏。

三、扣子專業版發布,推出AI助手ChatBI,智能創作雲2.0升級

今日,火山引擎推出扣子專業版,提供企業級AI應用開發平台。

據悉,扣子是字節推出的新一代AI應用開發平台,具有低門檻、個性化、實時性和多模態等特征,具備海量的AI資源、豐富的發布渠道,並支持一鍵自定義API服務。

目前,扣子專業版已集成在火山引擎的大模型服務平台“火山方舟”上。招商銀行、海底撈火鍋、超級猩猩、獵聘等企業,已在扣子上搭建了智能體。複旦大學、浙江大學等名校也爲課程和實驗搭建AI“助教”。

今日,火山引擎智能數據洞察DataWind正式發布AI助手ChatBI,用戶可通過自然語言交互生成指標,用于圖表制作、數據查詢,還可進行深度數據分析,且ChatBI支持IM交互,可多端應用,隨時隨地自助分析,有望大幅降低數據消費門檻。

面向營銷場景,火山引擎進行了智能創作雲2.0的升級,成爲從內容創作、矩陣分發、廣告投放到數據洞察一站式的企業內容營銷增長方案;不僅提供多模態的理解與生成能力,助力視頻創作效率提升25倍,更上線抖音話題、POI、小程序等營銷工具,使門店頁面曝光提升600%。

面向銷售場景,火山引擎發布了銷售AI 助手 Sales Copilot,能夠高效跟進客戶需求,隨時輔助銷售解答複雜的産品問題。此外,它還能通過角色扮演的方式模擬不同風格的對客演練,並提供優秀話術學習,提升銷售溝通質量。

此外,火山引擎今日與OPPO、vivo、榮耀、小米、三星、華碩宣布成立智能終端大模型聯盟;與吉利汽車、長城汽車、捷途汽車、賽力斯、智己汽車等20余家廠商,宣布成立汽車大模型生態聯盟。

結語:大模型産業新的價格戰打響

當下,全球大模型産的的價格戰已經打響。那廂,國外OpenAI最新推出的旗艦模型GPT-4o剛剛宣布API定價降低一半;這廂,國內的字節跳動豆包大模型將價格打爆,主力模型相比行業價格降低99%。

隨著豆包大模型家族首亮相,我們看到字節做大模型具有強應用導向的特征。在應用需求的導向下,字節跳動及火山引擎關注模型效果、成本和易用等多個維度的平衡。本次豆包大模型的一大特征是遠低于行業市場的定價,模型的實際使用性能和體驗如何,我們持續關注用戶和開發者體驗後的進一步反饋。

0 阅读:20

智東西

簡介:智能産業第一媒體!聚焦智能變革,服務産業升級。